8月8日、Matthias Bastianが「Anthropic loosens Fable 5's biology restrictions but keeps the guardrails on for virology and toxicology」と題した記事を公開した。AnthropicがAIモデル「Fable 5」の生物学系安全フィルターを見直し、一般的な生物学クエリへの制限を大幅に緩和した一方で、悪用リスクの高い専門領域については引き続き厳格な制限を維持したことを詳しく報じている。
なぜ生物学フィルターはこれほど厳しかったのか
AIの安全フィルター設計において、生物学領域は長らく「過剰規制」の象徴的な問題領域だった。バイオウェポンへの転用リスクを警戒するあまり、フィルターは生物学に関するほぼあらゆるクエリを危険と判定してブロックする方向に傾いており、医療情報の確認や基礎的な生物学的知識の取得といった正当な用途まで弾いてしまっていた。
この問題はFable 5でも顕在化していた。生物学系のクエリが送信されると、ユーザーには知らされないまま性能が劣る別モデル「Opus 5」へ自動的にリルーティングされる仕組みになっており、研究者や医療従事者から強い批判を受けていた。過剰なブロックは実害のない正規ユーザーを排除し、モデルの実用性を根本から損なうという、安全フィルター設計の本質的なジレンマがここに表れていた。
誤検知を85%削減——科学者からの批判を受けて
こうした背景のもと、Anthropicは今回、Fable 5の生物学系安全フィルターにおいて誤検知（false positive）を約85%削減したと発表した。
今回の改善により、以下のような日常的な生物学タスクがFable 5で扱えるようになった：
- 検査結果の解釈
- 症状の理解
- 医療関連の質問への回答
これまでこれらのクエリが軒並みブロック対象となっていたことを踏まえると、85%という削減率は分類器（classifier）の精度改善として具体的かつ大きな前進である。
ウイルス学・毒性学など「デュアルユース」領域の制限は継続
一方、ウイルス学（virology）、毒性学（toxicology）、分子設計（molecular design）といった「デュアルユース」——正当な研究目的にも悪用にも転用できる——トピックについては、引き続き厳格な制限が維持される。
Anthropicの説明によれば、これらの領域ではFable 5が悪意ある行為者に対して「他では入手不可能な能力」を与えてしまうリスクがあるという。なお同社は将来的に、研究者向けの限定的なアクセスプログラムを構築し、条件付きで機能を解放する方向も検討している。
誤解を避けるために補足しておくと、ここでの「制限の維持」とは、これらの専門領域においてFable 5が悪用目的のクエリに応答しないよう安全フィルターを存続させるという意味であり、これらの用途にモデルが使われていたことを意味しない。
なぜバイオリスクだけ別格なのか
Anthropicがサイバー攻撃などの他リスクと比べてバイオリスクを特別視する理由として、同社は次の論理を提示している。一度放出されたウイルスはシャットダウンできない、そして対抗措置には時間がかかる——これがサイバー攻撃との本質的な違いだ。
この懸念は根拠のない臆測ではなく、複数の外部データに裏付けられている：
- 米国情報機関による脅威評価レポート
- ChatGPTに毒物・バイオウェポンの製造方法を尋ねたユーザーが一部で高校レベルの手順書を入手していたという調査
- AIのバイオウェポン転用に関する研究者の共同警告
- スタンフォード大学がAIを使って細菌を死滅させる完全合成ウイルスを設計したプロジェクト
安全性とユーザビリティのトレードオフという本質的な課題
今回の修正が示すのは、AIの安全フィルター設計における根本的な難しさだ。過剰なブロックは正規ユーザー（研究者、医療従事者）を実害なく排除し、モデルの実用性を損なう。かといって制限を緩めすぎれば悪用リスクが高まる。
85%という誤検知削減率は具体的な成果であるが、残り15%の誤検知と、真に危険なクエリの見落としリスクとのバランスをどう取るかは、引き続きAnthropicが向き合い続ける課題である。
詳細はAnthropic loosens Fable 5's biology restrictions but keeps the guardrails on for virology and toxicologyを参照していただきたい。
