11月10日、Reasonが「Bloomington, Indiana, bans superintelligent AI, hoping 350 other cities will follow」と題した記事を公開した。この記事では、米インディアナ州ブルーミントン市が「人工超知性（ASI）」を禁止する条例を全会一致で可決し、同様の条例を350都市に波及させることで事実上の全国規制を狙う運動について詳しく紹介されている。
地方都市がASIを全会一致で禁止
インディアナ州ブルーミントン市議会は、人工超知性（Artificial Superintelligence: ASI）の「配布および展開を禁止する」条例を全会一致（7対0）で可決した。条例はSafe AI Forever Instituteが主導したもので、ASIを「継続的な人間の監視なしに、実質的すべての認知タスクで人間を大幅に上回る能力を持つシステムまたは存在」と定義している。
禁止の対象は、開発者の所在地を問わず、ブルーミントン市内のいかなるユーザーインターフェースからも「超知性」と指定されたモデルを起動することだ。ただし現時点では、市がいずれのモデルも「超知性」と指定していないため、近隣のインディアナ大学の学生がChatGPTを即座に使えなくなるわけではない。なお、条例が規制するのはあくまでASIに限定されており、現行の一般的なAIツールやサービスは直接の禁止対象には含まれない。
条例を提案した市議のDave Rolloは、AI専門家や開発者が指摘する「壊滅的な結果」——人類の絶滅を含む——への懸念を根拠に挙げた。「多くのAI専門家が絶滅確率を50%から99%超と見積もっている」として、「リスクの水準は単純に受け入れられない」と議会への覚書に記している。
禁止解除の条件が「事実上の永続」を意味する
条例の問題点として、R Street InstituteのシニアフェローであるAdam Thiererが指摘するのは、禁止解除のハードルの高さだ。
条例が解除されるには、インディアナ州が「証明可能な安全な超知性のための包括的フレームワーク」を制定するか、市議会が「広範な科学的コンセンサス」を認定する必要がある。その基準は99.9999%の安全性——原子力発電所に用いられる確率的リスク評価の水準——を達成した確率論的評価だ。
「これは達成不可能な基準だ。科学的に測定する方法がない。そもそも、この世界に99.9999%安全なものは何もない。何一つ」
— Adam Thierer（R Street Institute）、Reasonへのコメント
Thiererはさらに「一度法律として成立すれば、事実上永遠に残り続けるだろう」と述べる。当初の条例案には市民の95%が賛成すれば解除できるという条項があったが、議会の採決前にこの条件は削除された。
本当の狙いは「350都市への波及」
この条例の真の目的は、ブルーミントン単体での規制ではない。Rolloの覚書には明確に記されている。
「この条例は他の都市が追随するための前例とテンプレートになりうる。ブルーミントンと同規模以上の米国都市には1億人以上が居住している。それら約350都市が今後数週間から数ヶ月以内に同様の条例を通過させれば、ASIを開発する企業に対して巨大な規制上の負担を生み出すことになる」
Safe AI Forever Instituteは他の自治体でもロビー活動を続けるとしており、この戦略はカリフォルニア州やニューヨーク州がAI規制で採ってきた「州法を積み重ねる」手法の市町村版と言える。
Thiererはこの手法を「コンプライアンス地獄（compliance hell）」と呼び、「推進者たちはそれを理解した上で、それが目的だと気づいている」と指摘する。
法的リスクと地元大学への影響
条例は法的な挑戦に直面する可能性がある。州間通商を不当に妨げる州法を制限する休眠通商条項（Dormant Commerce Clause）の観点から、州ですら州際通商を規制できないのに、郡や市がそれをできるはずがないという議論だ。また、AIの学習や利用を制限することで修正第1条（表現の自由）訴訟を招くリスクもあるとThiererは警告する。現時点で訴訟は提起されていない。
地元への打撃として特に懸念されるのが、ブルーミントンに拠点を置く**インディアナ大学のLuddy人工知能センター**だ。数百人の研究者と学生がAIの研究に従事しており、条例の行方がその活動に直接影響しうる。
「ベトクラシー」としてのAI規制運動
Thiererはこの動きを「ベトクラシー（vetocracy）——拒否権の積み重ねによる統治——を市町村レベルで拡大しようとする、AIセーフティ運動内の新派閥の台頭」と位置づける。データセンター反対派が町内会や区画整理の審議会に押しかけるのと同様に、AIモデルを標的にした同様の動きが広がる可能性があると見ている。
今回のブルーミントンの条例は、連邦・州レベルの立法が進まない中で、地方自治体を起点にフロンティアAIを実質的に規制しようとする試みの先駆けとなるかもしれない。
詳細はBloomington, Indiana, bans superintelligent AI, hoping 350 other cities will followを参照していただきたい。
