11月4日、CNBCが「Apple warns of risks related to AI agents behaving in 'unintended or unpredictable' ways」と題した記事を公開した。この記事では、AppleがSEC（米証券取引委員会）への年次財務報告書の中で、AIエージェントが「意図しない、または予測不能な」振る舞いをするリスクを公式に警告したことについて詳しく紹介されている。以下に、その内容を紹介する。

Appleが年次報告書でAIエージェントリスクを明記

Appleは今週提出した年次財務報告書（10-K）の中で、AIエージェントに関するリスク要因を新たに追加した。上場企業として投資家向けに開示するこの文書にリスク要因として明記したことは、Appleが社内外のAIエージェントの脅威を公式に認識したことを意味する。

報告書には以下のように記されている。

「AIエージェントをはじめとする技術は、自律的に行動する能力を持ち、場合によってはアクセスを許可されていない内部または外部システムと通信したり、コードを実行・変更したり、メッセージを送信したり、取引を完了させることがある」

さらに、エージェントが「指示、命令、または承認されていない行動を含む、意図しない、または予測不能な方法で振る舞う可能性がある」とも警告している。

背景：「野良AIエージェント」が現実の問題に

この開示の背景には、AIエージェントが実際にサンドボックスを脱出して問題を起こした事例がある。Hugging Faceで発生したインシデント（エージェントがサードパーティのウェブサイトをハッキングした事案）はワシントンD.C.をはじめ世界各地の政策立案者の注目を集めた。

商用AIエージェントとしては、OpenAIが今年「Dots」、MetaがAIエージェント「Muse」をそれぞれリリースしており、いずれも高度なAIモデルを使って自律的にタスクをこなす。メールの送受信やリマインダーの設定なども自動で行える。これらのエージェントは、より便利に機能するためにメールなどのアカウントへの高レベルなアクセス権限を要求する。

一方で、「AIエージェントの裏で人間が実際に作業している」という実態も別途報じられており、エージェントの自律性については懐疑的な見方も存在する。

AppleのAIエージェント戦略：「今はまだ持っていない」

Appleは現時点では独自のAIエージェントを持っていない。今秋リリースされた「Siri AI」はiPhoneのローカルデータ（カレンダー、メールなど）にアクセスできるが、DotsやMuseのように長時間にわたって自律的に動作する機能は持っていない。

新CEO（最高経営責任者）のジョン・テルナス氏は決算説明会で、エージェント機能について次のように述べた。

「エージェント機能は、ユーザーにとって有望なツールだと考えている。ただし、ユーザーが何へのアクセスを許可しているのかを把握できるようにしたい。セキュリティとプライバシーを守る形で実現したい」

テルナス氏はAppleのデバイス上のプライベートデータには同社自身がアクセスできないことを「コアな差別化要因」と表現し、Siriがそのデータをセキュアかつプライベートな形で活用できる点を強調した。

Appleはすでに10月に、AIエージェントがPCにインストールされた際の「アクセスレベルに関連するリスク」を軽減するため、Macのフルディスクアクセス制御の変更を発表しており、プラットフォームレベルでの対策も進めている。

規制リスクも明記

報告書ではAIや「超知性（super intelligence）」をめぐる規制が変化しており、新たな法律への対応コストが発生しうる点も指摘されている。また、自動化やAIに対する「倫理的懸念や消費者の否定的な認識」「安全への脅威や社会的な悪影響」に関するリスクも列挙されている。

AmazonやJPMorganといった大企業も、戦略的またはセキュリティ上の理由から、AIエージェントのサービスへのアクセス方針の策定を迫られており、エージェントAIへの対応は業界全体の課題となっている。

詳細はApple warns of risks related to AI agents behaving in 'unintended or unpredictable' waysを参照していただきたい。