2月1日、OpenAIは、 AIが 生物学的脅威 の開発を支援しうるかどうかに関する研究成果を発表した。このシステムは Preparedness Framework の一環として、AIによる安全リスクの向上した評価方法の開発に焦点を当てている。

※生物学的脅威とは、ウイルスや微生物など、生物学的な要素を利用して生物に危害を及ぼす可能性がある脅威を指す。生物学的脅威は、バイオテロ攻撃や事故、疫病の拡大など、さまざまな状況で発生する可能性がある。

※Preparedness Framework: OpenAIが開発したAIの安全性に関するフレームワーク。リスクの評価や最小化、そしてコミュニティとの共有を行う枠組みを提案している。

背景

AIの有益な利用、そして有害な利用の可能性が拡大している。今注目を集めているのは、AIが悪意ある行為者を支援し、生物学的脅威を作成する能力だ。しかし、これらの例の評価は不足しており、OpenAIはPreparedness Frameworkを通じてこれらのリスクを評価し、今後の状況を理解するための方法を開発している。

研究内容と結果

この研究では、生物学の専門家や学生100人の参加者を対象に、インターネットのみにアクセスできるコントロールグループか、インターネットに加えてGPT-4にアクセスできる処置グループのいずれかにランダムに割り当てられ、生物学的脅威を生み出すことにつながる、一連のタスクを完成するように求められた。これは、AIのバイオリスク情報への影響に関する、 これまでで最も大規模な人間評価の一つ であると考えられている。

研究では、GPT-4へのアクセスが参加者のパフォーマンス向上にどれだけ寄与するかを、生物脅威の作成プロセスの5つの段階（概念、取得、拡大、構築、解放）および5つの評価尺度（正確性、完全性、イノベーション、所要時間、自己評価の難易度）にわたって評価した。

結果として、 GPT-4にアクセスできる参加者において、正確性と完全性でわずかな向上が見られた 。具体的には、正確性の応答を測定する10ポイントスケールで、専門家は0.88、学生は0.25の平均スコアの向上があり、完全性でも専門家は0.82、学生は0.41の向上があった。

ただし、 得られた効果の大きさは統計的に有意ではない 。「情報アクセスだけでは生物学的脅威を作成するのには不十分である」という可能性を示唆しつつも、さらなる研究の必要性が浮き彫りとなった。

詳細はOpenAI、バイオテロ創造の早期警戒システムを研究を参照していただきたい。