10月31日、テックブログ「madrobot」が「OpenAI tipped off police more than 200 times in three months over ChatGPT chats」と題した記事を公開した。OpenAIが2026年第3四半期（7〜9月）のわずか3ヶ月間に200件超の警察通報を行っていたことが明らかになり、ChatGPTのコンテンツモデレーションと法執行機関との連携の実態が改めて注目を集めている。訴訟や立法圧力が相次ぐ中でのこの発表は、AIプラットフォームが「安全対策の自己申告」を超えた説明責任をいかに果たすかという、業界全体に共通する問いを突きつけている。
3ヶ月で200件超の通報——その実態
OpenAIは10月30日付の公式ブログ「Community Safety Report and New Protections for Teens」で、「2026年Q3に200件超の法執行機関への情報提供（referral）を行った」と公表した。対象は「差し迫った暴力の脅威（imminent threats of violence）」で、OpenAIは「暴力的な計画の阻止に実際の効果を上げている」と主張する。
具体例として挙げられたのは2件だ。ブラジルで息子の殺害をChatGPTと「相談」して逮捕された農家の男性と、フロリダ州南パームビーチで元交際相手へのサイバーストーキングで訴追された男性である。
ただし、公開されたデータはここで尽きる。国別の内訳なし、逮捕件数なし、暴力的行為によるアカウント停止数なし。200件という数字もOpenAI自身の発表であり、第三者による検証はない。より詳細な「コミュニティ安全レポート」は2027年初頭に初回版が公開される予定で、それまでは自己申告の数字しか存在しない。
暴力への「固執」を検知したら会話を自動終了
今回の発表で利用者に直接影響する変更もある。会話が暴力への固執や「他者を深刻に傷つけることへの関心」を示す兆候を見せた場合、ChatGPTが自動的にそのチャットを終了する機能が導入される。これが複数回発生すると、アカウントが一時停止される場合がある。
また、OpenAIが5月に発表していた「過去の警告サインの短い要約」機能と組み合わせ、後続の会話でより慎重な回答をするようになる。年齢や目的を問わず、過去の大規模攻撃の詳細な再現（使用した武器・入手方法を含む）や、被害規模による攻撃の比較（「攻撃者の悪名を高める可能性がある」として）は全ユーザーに対して行わなくなる。被害者、警戒サイン、予防に関する質問への回答は引き続き許可される。
未成年向け制限の強化
18歳未満のユーザーにはすでに武器の入手を手助けしない制限が設けられていたが、これが拡張される。「暴力的な意図の有無にかかわらず、武器やセキュリティシステムに関する実用的な情報」も対象に加わる。
さらに、行動パターンなどのシグナルからユーザーが18歳未満と推定された場合、会話中でも随時判定を更新し、未成年向けの制限モードに移行させる仕組みが動き始める。誤って制限モードに置かれた成人は、OpenAIの本人確認パートナーであるPersonaを通じて年齢を証明できる。これらの変更は「数週間以内」に順次展開される。
背景にある圧力——訴訟、立法、事件
今回の発表は、OpenAIが法的・政治的な圧力にさらされる中で出てきた。
2025年6月のカナダ・タンブラーリッジ銃乱射事件では、OpenAIが容疑者のアカウントを警察に知らせずに削除したことが問題視された。さらにMother Jonesの報道を受けたmadrobotの解説記事によれば、容疑者が別アカウントでChatGPTに安全フィルターの回避方法を相談していたとされており、OpenAIの対応の遅さや透明性の欠如が批判を浴びた。
2026年10月には8州がOpenAIを提訴（子どもへの安全性について親を欺いたとの主張）し、その1週間後にはテキサス州がOpenAIとSam Altman個人を提訴した。ニューヨーク州は未成年へのチャットボットによる「お世辞・友達関係」を禁じる法律を成立させており、OpenAIも10月29日にModel Specを改定したばかりだ。
※編集部の考察：コンテンツモデレーションと法執行機関連携という課題はOpenAI固有のものではない。MetaやGoogleもNCMEC（全米行方不明・被搾取児童センター）へのCyberTipline報告義務を通じて類似の仕組みを運用しているが、AIチャットボット特有の「対話形式での意図検知」をどの精度で行うかの基準は各社が独自に設定しており、業界横断的な標準はまだ存在しない。
数字が示すもの、示さないもの
「四半期で200件超」という数字は、警察への通報がChatGPT運用の日常的な業務になっていることを示す。しかし、「見逃した脅威は何件か」「誤検知はどれだけあるか」「実際に何件の逮捕につながったか」——こうした安全対策の有効性を測る本質的な数字は、2027年の初回レポートまでOpenAIの手中にある。
今回の発表が訴訟ラッシュと時期的に重なることも、額面どおりには受け取りにくい側面がある。自己申告による数字の公表と、独立した第三者監査による検証可能なレポートの間には大きな隔たりがあり、2027年初頭に予定されるコミュニティ安全レポートがその隔たりをどこまで埋めるかが、今後の評価軸になるだろう。
詳細はOpenAI tipped off police more than 200 times in three months over ChatGPT chatsを参照していただきたい。
