10月2日、GBHackersが「FTC Investigates OpenAI and Anthropic Over Consumer Risks From Advanced AI Models」と題した記事を公開した。米連邦取引委員会（FTC）がOpenAIおよびAnthropicを対象に、先進AIモデルによる消費者被害の可能性を検証する大規模な調査を開始したことを詳しく伝えている。
FTCがOpenAI・AnthropicにAI消費者リスク調査を開始
米連邦取引委員会（FTC）は、OpenAI、Anthropicをはじめとする主要なAI開発企業に対し、先進AIシステムがもたらす潜在的な消費者被害を検証する広範な調査を開始した。
調査の対象は、各社のAI開発・展開プロセス、安全性に関する主張、そしてエージェント型AI（agentic AI：自律的に行動し、外部システムへのアクセスや複雑なタスク実行が可能なAIシステム）に関わるリスク管理の実態だ。これらがFTC法の定める「不公正または欺瞞的な商慣行」の禁止規定に違反しないかが問われる。
「召喚状に相当する」情報提供要求へ
GBHackersの記事によれば、FTCは近く民事調査要求（Civil Investigative Demand）を各社に発行する準備を進めているという。なお、同記事はこの情報をNYPostの報道を参照する形で伝えている。民事調査要求はサブポエナ（subpoena：法的強制力を持つ文書・証言提出命令）に相当する正式な情報収集手続きであり、関連文書の提出や幹部への証言要求も視野に入っている。
FTCが収集を求める証拠には以下が含まれる：
- 製品のセーフガード（安全対策機能）の詳細
- 既知のリスクに関する社内情報
- 消費者への開示内容
- 内部テストの結果
- インシデント対応手順
- モデルの能力・安全制御に関する公表内容の正確性
「AIに意思はない。責任は設計者にある」——FTC委員長の立場
FTC委員長Andrew Fergusonは、ロイターのAIイベント「Reuters Momentum AI」でこの問題を「説明責任の問題」と位置づけた。
Ferguson委員長はAIエージェントを「意思や欲求を持つ独立した行為者」とみなす考え方を明確に否定し、AIが指示に従って被害を引き起こした場合、責任は設計・指示・展開を行った個人や組織にあると主張した。また、AIシステムが機密情報を漏洩・悪用した場合、FTCが既存のデータ侵害開示規則の適用権限を持つ可能性にも言及した。
サイバーセキュリティ上のリスクが焦点
今回の調査の背景にあるのは、エージェント型AIモデルの急速な普及だ。インターネットの閲覧、ツールの利用、クラウドサービスとの連携、複雑なタスクの自律実行——これらの能力を持つAIは、セキュリティ上の新たな攻撃面を生み出す。
記事が指摘するリスクは具体的だ：
- プロンプトインジェクション（悪意ある入力でAIの動作を乗っ取る攻撃）
- 認証情報の窃取
- 不正なデータアクセス
- エクスプロイト（脆弱性悪用）の自動生成
- フィッシングの自動化
- 企業内サービスを横断するラテラルムーブメント（侵害の水平展開）
広範な権限を付与されたAIモデルに、適切なアイソレーション・ログ記録・承認ゲート・最小権限制御が欠如していれば、欠陥のある指示や悪意あるプロンプト一つが重大なセキュリティインシデントに発展しかねない。
マーケティングの「過大表示」も対象に
FTCはAIの「予測不能な動作（rogue behavior）」と、企業がユーザーに対して予見可能なリスクを十分に警告していたかどうかに特に注目しているとされる。
重要なのは、大規模なインシデントが発生した後だけでなく、マーケティングが安全性を過大に喧伝しており、内部テストが重大な失敗パターンを把握していた場合にも、企業は審査対象となり得るという点だ。
なお、FTCは今回の調査に先立ち、チャットボット製品が子どもや若年ユーザーに与える影響（メンタルヘルスへの影響を含む）に関する記録提出も求めており、規制当局のAIリスク評価がサイバーセキュリティ・プライバシー・消費者保護・脆弱なユーザー保護・データガバナンスと多岐にわたることが明確になっている。
AI規制の先例となるか
FTCはいまのところ違法行為の認定には至っておらず、調査は情報収集段階にある。しかし今回の調査の帰趨は、AI固有の立法を待たずに既存の消費者保護法をAIエージェントの障害事例に適用できるか否かという重要な執行先例を生む可能性がある。
その結果次第では、検証可能な安全性テスト、インシデント報告、独立監査、透明なリスク開示、そして単純なチャットを超えて機能するモデルへの強固な制御が、業界標準として求められるようになるかもしれない。
詳細はFTC Investigates OpenAI and Anthropic Over Consumer Risks From Advanced AI Modelsを参照していただきたい。
