10月9日、CyberScoopが「OpenAI says Iran, Russia used AI journalists, think tanks to influence Western media」と題した記事を公開した。OpenAIが過去に摘発してきた情報工作キャンペーンの大半は影響度スコア1〜2にとどまるが、今回ロシア系はスコア5——当局が公式に否定声明を出さざるを得ないほど広く流通したことを意味するレベル——を記録した。架空のシンクタンクを丸ごと設立し、現地スタッフすら自分たちがロシアのために動いていることを知らなかったという精巧なオペレーションの全容を、OpenAIが公式ブログで公開した。
ロシア系「Dark Clark」：架空シンクタンクを使ったラテンアメリカ向け情報工作
ロシア系のキャンペーンはOpenAIに「Dark Clark」と命名された。その名は、「Social Research Center（SRC）」という架空のラテンアメリカ系シンクタンクのリーダーとして設定された、AIが生成した人物「Mia Clark」に由来する。
OpenAIは各キャンペーンの影響度を1〜6のスケールで評価しており、摘発された大半のキャンペーンは1〜2にとどまる。今回のロシア系キャンペーンはスコア5、イラン系は4と評価されており、OpenAI自身が「過去2年半で摘発した中で最も複雑なフロント・アイデンティティの運用試みだ」と評している。なお、OpenAIがこれまでに実施してきた情報工作摘発の経緯は過去のInfluence Operations レポートでも確認できる。
このキャンペーンの主な標的はラテンアメリカにおけるウクライナの評判失墜だったが、アルゼンチンやボリビアの国内政治にも介入した。具体的な事例として以下が挙げられている：
- エクアドル：エクアドル政府がウクライナのためにロシアと戦う市民を募集しているとするTikTok動画のデマ（2024年3月、ファクトチェック機関のLupa Mediaが事実確認を報道）
- エクアドル：ウクライナ領事がエクアドル市民を侮辱しているとする偽の音声クリップを生成・拡散
- ボリビア：反政府抗議が続く中（2024年5月）、国営水道会社の従業員を装い「政府がラパスへの給水を停止する寸前だ」とする偽音声を流布。ボリビア政府が公式に否定声明を発表
OpenAIの分析によると、ChatGPTのプロンプト履歴には従業員の給与水準や採用・解雇の議論が含まれており、ロシア側がSRCを実質的に支配していたと判断されている。また、ラテンアメリカのSRC現地スタッフはロシアのグループのために働いていることを知らなかったとOpenAIは述べており、偽装工作の精巧さを示している。
さらに、オペレーターがワグネル・グループの後継組織とされる「Politology」に関する情報を他のいかなるロシア組織よりも「はるかに多く」モデルに問い合わせていた点も確認されている。ワグネル・グループとはエフゲニー・プリゴジンが率いていたロシアの民間軍事会社で、2023年の反乱後に事実上解体された組織だ。
イラン系キャンペーン：架空ジャーナリスト7人が100本近くの記事を掲載
イラン系のキャンペーンはロシア系のようなシンクタンク設立ではなく、架空のジャーナリスト・ペルソナを複数作成するアプローチを採った。米国とイランの関係をテーマにした記事の生成・掲載に注力し、オペレーターは少なくとも7人の架空ジャーナリストのペルソナを作成。国際情勢や中東関連を扱う小〜中規模のオンラインメディア十数媒体を通じて、約100本の記事を掲載または転載させることに成功した。
ただし、これらの記事はコメントやSNSでの反応をほとんど集められなかったとも報告されている。OpenAIはこの活動が「営利目的の請負型インフルエンス・キャンペーンに類似している」と指摘しつつ、特定のアクターへの帰属は明示していない。
なお、タイトルで「架空のシンクタンク」という表現を用いることがあるが、明確にシンクタンクを設立したのはロシア系キャンペーン（SRC）のみであり、イラン系は架空ジャーナリストが主体であることには注意が必要だ。
「情報工作のAI化」が意味するもの
今回の摘発でOpenAIが明らかにしたのは、AIが情報工作のコストと難易度を大幅に下げたという事実だ。架空のシンクタンクを設立し、現地スタッフを雇用し、複数の言語でコンテンツを生成し、主流メディアに記事を掲載させるという一連のオペレーションが、ChatGPTを使って実行されていた。OpenAIはこうした脅威への対応として使用ポリシーにおいて情報工作目的の利用を明示的に禁止しており、今後も継続的な監視・摘発を続けるとしている。
なお今回の報告書は、それぞれのキャンペーンをロシア・イランの政府や諜報機関に直接帰属させるには至っていない。
詳細はOpenAI says Iran, Russia used AI journalists, think tanks to influence Western mediaを参照していただきたい。
