9月15日、Voxが「What an AI "slowdown" could look like」と題した記事を公開した。この記事では、AIの急速な発展に対し、連邦政府が取り得る規制の3つのアプローチについて詳しく紹介されている。

「AIドゥーマー」がメインストリームに躍り出た1週間

発端は、AI企業Anthropicに関係する人物が、AIの危険性を訴える内容を公開したことだった。その内容は、AIを開発している人々が「今の10年が終わるまでにAIが人類を滅ぼしうると本気で信じている」と警告するものだ。なお、元記事ではAnthropicのCEOであるダリオ・アモデイへの言及が中心となっており、紹介記事における記述との関係については元記事を直接確認されたい。

これを機に、AIの急速な発展を危険視する声は一気に広まった。週末には主要なAI研究者や経営幹部たちも「AIは危険なほど速く進化しており、抑制措置が必要だ」と訴えた。

政治的には奇妙な連立が生まれている。右派の論客スティーブ・バノンと左派の重鎮バーニー・サンダースが共同で懸念を表明し、共和党上院議員マーシャ・ブラックバーン、進歩主義コーカス議長グレッグ・カサール、サンフランシスコ大司教、俳優ジョゼフ・ゴードン＝レヴィットらと合流して、ワシントンで「プロ・ヒューマン・アセンブリー」と銘打ったイベントを開催する予定だ。

一方、トランプ大統領はこの流れに真っ向から反発している。元記事が引用するTruth Socialへの投稿でこう書いた。

「AIとデータセンターに対して、病的な陰謀が進行している。これを喜んでいるのは中国だけだ。」

連邦政府が取り得る3つのアプローチ

Voxの記者アンドリュー・プロコップが複数のAI安全性の提唱者と法律専門家に取材した結果、実現可能性のある規制手段として以下の3つが浮かび上がった。3つの中で元記事が最も実現への道筋が近いと位置づけるのが「責任の明確化」であり、既存の法体系との親和性が高い点が理由として挙げられている。

1. 開発の一時停止・速度制限

最もドラスティックな選択肢。特定の能力閾値を超えたモデルの開発・公開を一時的に禁止する、あるいは開発速度に上限を設けるというアプローチだ。核やバイオ兵器の開発規制に類似した枠組みをAIに適用するイメージに近い。政治的なコンセンサスを形成する難易度は3つの中で最も高いとされる。

2. 安全性評価の義務化

大規模モデルのリリース前に、政府または独立機関による安全性審査の通過を義務付ける。医薬品の承認プロセス（FDA方式）に相当する。現状では、AIモデルの安全性評価はAnthropicやOpenAIなどの企業が自主的に行っているにすぎない。義務化によって評価の独立性と透明性を担保しようという発想だ。

3. 責任の明確化（ライアビリティ）

AIによる損害が生じた際の法的責任を開発企業に負わせる。訴訟リスクを高めることで、企業側が自発的に安全投資を強化するよう促す間接的な規制手法だ。製造物責任法の考え方に近く、既存の民事法体系を活用できるため、新たな立法コストが比較的小さい点が注目される。

3つとも「前例なし」ではない

Voxの記事が強調するのは、これら3つのアプローチはいずれも連邦規制として既存の枠組みに前例があるという点だ。つまり立法上の難易度は、ゼロベースで制度設計するよりはるかに低い。

現実の障壁は法技術的なものではなく、政治的なものだ。あるAI研究者はVoxの取材に対し、「議員たちが足並みをそろえるのを待っている間に、規制のタイミングを逃してしまうことを懸念している」と語った。

AIの進化速度とワシントンの意思決定速度の非対称性——これが問題の本質だ。シリコンバレーの開発サイクルと議会の動きは、そもそも時間のスケールが違う。

背景：なぜ今この議論が急浮上したのか

AIの能力向上に伴い、モデルが開発者の意図しない振る舞いをするケースが増加している。AIが「チートやハッキングを学習している」という専門家の警告も取り上げられており、こうした具体的な事例の蓄積が、抽象的だったリスク論を現実の政策議題へと押し上げている。

Anthropicといえば、元OpenAIの研究者ダリオ・アモデイらが設立した企業で、AI安全性を最重要視する姿勢で知られる。その企業のトップが名指しで議論の焦点となったことは、今回の論争のトーンを大きく変えた要因のひとつだ。

詳細はWhat an AI "slowdown" could look likeを参照していただきたい。