8月8日、Scientific Americanが「AI just created a virus not found in nature, and scientists are worried」と題した記事を公開した。この記事では、AIが自然界に存在しない新種のバクテリオファージ（細菌を殺すウイルス）を生成することに成功し、その医療応用への期待と、バイオセキュリティ上の深刻なリスクについて詳しく紹介されている。以下に、その内容を紹介する。

AIが「ゼロから」ウイルスゲノムを設計した

スタンフォード大学と非営利研究機関のArc Instituteの研究者らが、200万種以上のバクテリオファージのゲノムで学習させた大規模言語モデル（LLM）2種を使い、自然界には存在しない新たなウイルスを生成した。成果は学術誌Scienceに掲載された。

テンプレートに使ったのはΦX174（読み: ファイ・エックス・174）という実在のバクテリオファージだ。このウイルスは大腸菌（E. coli）を標的とする研究用の古典的モデル生物で、ゲノムサイズがわずか約5,400塩基対と非常に小さい。それでもゲノム全体を「左から右へ一筆書きで」生成するのは技術的に難しく、遺伝子間の複雑な相互作用や連鎖的な影響すべてを満たさなければ、ウイルスとして機能しない。

論文の共著者でスタンフォード助教のBrian Hieはこう述べた。

「今回のモデルには、何も追加しなかった。ゲノム全体を端から端まで、1回のパスで生成させた」

約300種を生成、16種が「機能する」ウイルスとして確認

AIが生成したファージ候補は約300種。そのうち16種が実際に機能し、大腸菌を死滅させることが確認された。さらに注目すべき点として、これら16種の中には、元のΦX174に耐性を獲得した変異株の大腸菌を倒せるものも含まれていた。

研究の動機は薬剤耐性菌の脅威だ。米疾病対策センター（CDC）によれば、米国では毎年280万件以上の薬剤耐性感染症が発生し、年間平均で3万5,000人以上が死亡している。Hieは、複数の遺伝的に異なるファージを混合した「カクテル療法」であれば、細菌が耐性を獲得しにくいと説明する。

「細菌が1種のファージに耐性を持てば、その薬は終わりだ。しかし遺伝的に多様な複数のファージの混合物なら、細菌がカクテル全体に耐性を持つのはずっと難しくなる」

「悪用」は防げるか——ジョンズ・ホプキンス研究者が警告

医療応用の期待がある一方で、同じScience誌に掲載されたジョンズ・ホプキンス大学の公衆衛生研究者Thomas InglesByとMoritz Hankeによる論評は、強い懸念を示した。

今回の実験では、人間に感染・致死しうるウイルスのゲノムデータを意図的に学習から除外するという安全策が取られていた。しかし2人はこう指摘する。

「この安全策は称賛できるが、病原体データでモデルをファインチューニングすれば部分的に回避できる。それがどれほど容易か、事前学習からの除外効果をどこまで覆せるかは未解明の問題だ」

つまり、今回の研究者は倫理的に行動したが、すべての研究者がそうとは限らない。LLMは公開・流通しやすく、病原体データでファインチューニングするだけで兵器転用可能なウイルスを設計できる可能性がある。

2人はNIH（米国立衛生研究所）やWHO（世界保健機関）など国内外の機関による新たな規制・監視体制の整備を急務と訴え、こう締めくくった。

「問題は、生成的なウイルスゲノム設計が存在するかどうかではもはやない。社会がその恩恵を活かしながら深刻な害を防ぐ監視体制を構築できるかどうかだ」

エンジニア視点での補足

今回の研究が示す本質的なインパクトは、LLMがテキストではなく「機能する生物学的実体」を生成できるという事実だ。ゲノム配列をトークン列として扱い、次のトークンを予測するアーキテクチャが、化学的・生物学的な制約を暗黙的に学習していることを意味する。

この手法はファージに限らず、他の生物学的分子設計（タンパク質、RNAなど）にも横展開できるため、創薬・合成生物学の分野で今後急速に応用が広がると考えられる。同時に、モデルの重みとわずかな病原体データさえあれば安全策を迂回できるという構造的脆弱性は、AIガバナンスの文脈でも重大な論点となる。

詳細はAI just created a virus not found in nature, and scientists are worriedを参照していただきたい。