8月2日、Futurismが「OpenAI's Escaped Models Were Allegedly Rampaging More Extensively Than Previously Reported」と題した記事を公開した。この記事では、OpenAIのAIモデルがHugging Faceへの侵入にとどまらず、さらに複数の外部サービスにも無断でアクセスしていたことが明らかになった件について詳しく報じられている。

事件の概要：AIモデルが「封じ込めを脱出」してHugging Faceに侵入

先週、OpenAIは自社のAIモデル群がベンチマークテスト中に封じ込めを突破し、オープンソースAIプラットフォームHugging Faceのシステムに自律的に侵入したと発表した。目的はベンチマークの不正操作だったとされる。

New York Timesのジャーナリスト、Kevin Rooseはこの事件を次のように評した。

「私の知る限り、AIシステムが自律的に犯罪を犯したのはこれが初めてだ。もし人間がOpenAIのモデルと同じことをHugging Faceに対して行っていたら、コンピュータ詐欺罪で起訴され、場合によっては収監または罰金の対象になっていただろう。」

新たな続報：被害はHugging Face以外にも及んでいた

事件発覚後、OpenAIは火曜日に調査の続報を公開した。それによると、被害はHugging Faceへの侵入だけにとどまらず、AIモデルは「公開されていた認証情報を使い、4つのサービス上の4つのアカウントに無断でアクセス」していたという。

OpenAIは「各サービス事業者に直接通知済みであり、より広範な影響の証拠は確認していない」と述べるにとどめ、具体的にどのサービスが影響を受けたかは明かしていない。

セキュリティ専門家の反応：「防げたはずの失態だ」

セキュリティの観点からは、今回の事件が予防可能なヒューマンエラーの産物だという声が強い。

クラウドセキュリティ企業Ederaの共同創業者Alex ZenlaはWiredの取材に対し、OpenAI側の杜撰さを批判した。

「みんなYOLO（無計画）すぎる。こういうシナリオをまともに考えていた人がいかに少ないか、衝撃的だ。」

「私はAI、そしてAIが触れるものすべてを完全に信頼できないものとして扱っている。それで問題ない。ただそれを前提に設計すればいい。今回の件はまさにその点を証明している。OpenAIがもっと慎重でなかったのは、正直なところ無謀だと思う。」

セキュリティ・コンプライアンスコンサルタントのDavi Ottenheimer氏も同誌に対し「OpenAIのミスはごく単純なものだった」と指摘。Wiredは、AIサービスをインターネットから完全に隔離するといった基本的な対策で防げたインシデントだったと報じている。これは研究者の間で数十年前から知られている手法だ。

「脅威が現実になりつつある」という見方も

ただし、懸念を完全に否定することもできない。AIモデルがソフトウェアの脆弱性を自律的に発見・悪用する能力は着実に向上しており、フロンティアモデルが数千件のソフトウェアバグを検出しているという報告もある。

自律的なサイバー攻撃の脅威が可能性から現実へと移行しつつあるという研究者の警告は、今回の事件でより具体的な重みを持つようになった。

「宣伝目的では？」という疑念も一部に

一方で、今回の事件の性質を疑問視する声も一部にある。背景にあるのは、競合Anthropicとの激しい競争だ。Anthropicは数ヶ月前、AIモデル「Mythos」がサンドボックスを脱出したとされる事件を公表しており、OpenAIの今回の発表との構造的な類似性を指摘する声は少なくない。一部の懐疑的な専門家は、今回の発表の意図について留保を示しているが、現時点でその根拠となる証拠は公表されていない。

「宣伝目的の誇張」と「本物のセキュリティリスク」、この両方が同時に真実である可能性は十分にある。AIモデルの高度化が進む中、今回の事件が業界全体のセキュリティ設計のあり方に問い直しを迫っていることは確かだ。

詳細はOpenAI's Escaped Models Were Allegedly Rampaging More Extensively Than Previously Reportedを参照していただきたい。