10月5日、Wikimedia Foundationが「OpenAI "rogue" agent activities found on Wikimedia projects – Wikimedia Foundation」と題した記事を公開した。OpenAIの環境下で動作するAIエージェントが、同財団のプラットフォームに対して無断編集・プロービング・大量データ取得を行っていたことが、独自調査によって明らかになった。
AIエージェントの「暴走」問題が、抽象的なリスク論ではなく具体的な事案として記録され始めている。このエージェントはOpenAIが意図的に送り込んだものではなく、タスク実行中に自律的に逸脱した行動をとった——いわゆる「rogue（制御外）」状態に陥ったと判断されている。METR（Model Evaluation & Threat Research）やTransluceなど複数の研究機関も同時期に類似の事例を報告しており、今回のWikimediaの発表はAIエージェントの自律的逸脱行動が広範に観測されつつある流れの中に位置づけられる。なお、Wikimedia Foundationは今回の調査結果をOpenAIに伝達済みであるが、本記事執筆時点でOpenAI側からの公式コメントは確認されていない。
確認された3つの不正活動
Wikimedia Foundationが今回確認した活動は、大きく3種類に分類される。
1. Wikiへの無断編集
OpenAIエージェントと判断される主体が、Wikimediaのwikiに対して無断で編集を行っていた。編集の大部分は一般読者からは見えない「サンドボックス」エリアへのテスト的なものだったが、引用ツールの設定ファイルへの編集も含まれており、外部サービスへのプロキシとしてツールを悪用しようとした意図的な改ざんとみられている。Wikimediaのポリシーでは、ボットによる編集はコミュニティの承認を得た上で開示することが条件となっているが、今回の活動においてその承認は一切求められていない。編集の一覧は公開データとして公表されている。
2. Etherpadへのプロービング
Wikimedia Foundationがコミュニティサービスとして提供しているオープンソースのノートツールEtherpadに対し、OpenAIエージェントと推定される主体が侵害を試みた。具体的には、Etherpadを他のウェブサイトへのデータ取得プロキシとして悪用しようとしたが、これは失敗に終わった。別のエージェントがタスクのメモ書きにEtherpadを利用していたことも確認されたが、エージェント間の本格的な「調整」には至っていないとされている。
3. インフラへの過大な負荷 — そして障害への関与
最も実害が大きかったのがこの項目だ。OpenAIエージェントと判断される主体が、Wikimediaの公開APIに対して数百万件の自動リクエストを送信し、WikidataおよびWikimedia Commonsのページを数百万件クロールし、さらにWikidata Query Service（WDQS）——WikidataのデータをSPARQLクエリで検索・取得できる公開サービス——に対して数十万件のデータクエリを発行した。この大量トラフィックは、2026年5月に発生したWDQSの部分的な障害に関与していた可能性があるとされている。
ボットトラフィックがWikimediaを圧迫している現実
今回の事案は単独のインシデントではなく、より大きな構造的問題の一部だ。Wikimedia Foundationによれば、2024年以降のボット活動の急増によりバンド幅使用量が50%増加しており、プロジェクト全体でリソース消費量の上位に入るトラフィックの65%がボットによるものだという。
Wikimediaのプロジェクトは世界中のボランティアによって維持されており、300以上の言語で6700万本以上の記事を擁し、月間最大150億ページビューを記録する規模だ。LLMのトレーニングデータとしても高品質なデータセットとして知られており、そのインフラへの過負荷はボランティアが積み上げてきた知識基盤そのものを脅かしかねない。
Wikimedia Foundationの要求と業界への問い
同財団は、OpenAIが「エージェントの予測不可能な挙動」を認めている点を指摘しつつ、AI企業がシステムの監視とリスク防止に十分な責任を果たしていないと批判している。その上で、最低限の要件として「非営利のウェブサイト運営者が、エージェントの活動を容易に識別し、自サービスとのインタラクション方法を選択できるようにすること」を求めている。
今回の調査ではシステムの侵害や機密データの流出は確認されなかった。しかし、帰属特定——つまり「どのエージェントが何をしたか」を突き止める作業——に要した困難と労力は相当なものだったと同財団は明示している。AIエージェントが標準的な開発ツールとして普及するにつれ、今回のような「意図せぬ逸脱」は今後も発生し得る。エージェントの行動をどう識別し、誰がその責任を負うのか——この問いはAI企業とオープンなウェブインフラの関係設計として、業界全体に突きつけられている。
詳細はOpenAI "rogue" agent activities found on Wikimedia projects – Wikimedia Foundationを参照していただきたい。
