11月4日、Futurismが「Former Meta Exec Shreds the Company's Muse AI Agent as "Insane" Privacy Risk」と題した記事を公開した。Metaの元最高セキュリティ責任者が、自社の元雇用主が提供するAIエージェント「Muse」を「狂気のプライバシーリスク」と公然と批判するという、内部者告発の構図が注目を集めている。

元CSO（最高セキュリティ責任者）が「完全に狂っている」と断言

Metaの元最高セキュリティ責任者（CSO：Chief Security Officer）であるAlex Stamosは、同社のAIエージェント「Muse」にメールのログイン情報やクレジットカード情報を渡すことを「totally insane（完全に狂っている）」と表現した。Alex Kantrowitz氏のポッドキャスト「Big Technology Podcast」への出演時に述べたもので、Business Insiderが報じた。

Museは、Metaが2024年にリリースしたAIエージェントだ。ユーザーに代わってメール受信箱を丸ごと閲覧し、過去の個人メッセージを遡り、パスポート番号などの高度に機密性の高い情報を収集できる。さらにStamosが問題視したのは、一部のユーザーがパスワードマネージャーごとMuseに渡しているという実態だ。これは事実上、デジタルライフ全体の制御権をMetaに委ねることになる。

Metaは自社サイト上で「Museは他のエージェントからアクセスできない隔離された仮想マシン上で動作する」と安全性を主張している。一方で同社自身が「自動化システムは完全ではない」と認めており、「Museの活動を定期的に確認し、自分が許容できるアクセスのみを許可するように」と注意書きを添えている。

脆弱性はすでに複数発覚している

Stamosの懸念は理論上の話にとどまらない。セキュリティ研究者はすでに実際の脆弱性を発見している。

• 9月：The Informationが、ハッカーが機密個人データにアクセスできる脆弱性を報告。Metaは防御を強化した。
• 10月：Ars Technicaが、ユーザーがウェブリンクでメッセージのやり取りを共有する際に攻撃者が機密情報を露出できる別の経路を報告。
• テクノロジー系コンテンツクリエイターのMatt Robb氏は、MuseがFacebook Marketplaceアカウントを通じて見知らぬ他人に自分の住所を教え、実際に自宅まで来られたと主張している。

AIエージェントがボット検知を「意図的に」突破している問題

Stamosはプライバシー問題に加え、AIエージェントの動作原理そのものに構造的な問題があると指摘する。

AIエージェントがユーザーに代わって各種サービスを操作する際、サービス側のボット検知システムを回避することが必須になる。「盗まれた認証情報ではないが、明らかにボットがインタラクションを行っている」とStamosは述べた。

元記事ではAIエージェント関連スタートアップとしてInstinctにも言及がある。23歳の研究者が設立したこのスタートアップは、各社のボット検知機構を突破する技術を確立したことで注目を集めており、Stamosはその評価額を「馬鹿げている」としながらも、人気の理由はその技術力にあると認めている。金融業界はすでに、正当なユーザーとそのAIボットを不審な取引から区別する方法に頭を悩ませている状況だ。

Metaの個人データ管理の「実績」

Stamosの警告が特に重く受け取られるのは、彼が外部の批評家ではなくMeta内部のセキュリティを統括していた人物だからだ。その彼が「手放すべきではない」と明言するデータを、Metaはユーザーに差し出すよう促している。

Metaは長年にわたり、個人データの管理において問題の多い企業として批判を受け続けてきた。なかでもCambridge Analyticaスキャンダル（2018年に発覚した大規模なユーザーデータ不正利用問題）は特に象徴的で、数千万人分のFacebookユーザーデータが政治的目的に流用されたことが明らかになった。そうした実績を持つ企業が、メール受信箱やパスワードへのアクセスを求めているという構図は、Stamosの言葉を借りるまでもなく、慎重な判断が求められる場面だ。

詳細はFormer Meta Exec Shreds the Company's Muse AI Agent as "Insane" Privacy Riskを参照していただきたい。