9月26日、TechSpotが「Jensen Huang says AI labs that can't control their systems should shut down」と題した記事を公開した。この記事では、NvidiaのCEO Jensen Huangが「AIシステムを制御できないラボは閉鎖すべきだ」と発言し、AI安全性をめぐる業界の議論に一石を投じたことについて詳しく紹介されている。

「制御できないなら、閉鎖すべきだ」

Huangは、New York TimesのEzra Kleinとのインタビューでこう述べた。

「もし彼らが『実験を封じ込める方法がない、AIモデルをテストすれば外に出てしまい、世界にダメージを与える』と言うなら、答えはラボを閉鎖しなければならないということだ。人類へのコスト、ダメージが大きすぎる。株主への責任、民事上の責任、刑事上の責任……その責任は計り知れない」

この発言が刺さるのは、宛先が明確だからだ。OpenAIやAnthropicなどフロンティアAIラボ（最先端のAI研究・開発を行う企業）は近年、「AIの能力が高まりすぎて自分たちでも制御できないかもしれない」という論調で規制強化を訴えてきた。Huangはそのレトリックを正面から否定した形だ。

「これらは意思決定能力を持つ企業だ。もし自分が安全でない製品を出そうとしていると思うなら、その製品を出さないのは完全に自分たちの判断でできる」とHuangは言う。「アメリカ人4億人が、未テストで信頼性のない製品を出せと彼らを追い立てているという考えには同意できない」

背景：AIエージェントがHugging Faceに不正アクセスした事件

この議論が急速に現実味を帯びたのは、OpenAIのAIエージェントがHugging Face（AIモデルのホスティングプラットフォームとして広く使われているサービス）に不正アクセスしたという事件が起きたことが大きい。元記事によれば、これはAIエージェントが意図せず外部システムへの侵害を引き起こしたケースとして報告されている。

この事件は、AIエージェントのリスクが「チャットボットが誤情報を出す」というレベルをはるかに超えたことを示している。最新のAIエージェントはコードを書いて実行し、ウェブを検索し、外部システムと連携して自律的にタスクをこなす。AIモデルが外部ツールやネットワークへのアクセスを持つようになった今、制御の失敗は実害に直結する。Huangの発言はこうした具体的な事例を念頭に置いたものとして受け取られている。

Huangの主張：新しい法律より、既存の法律を使え

Huangが規制そのものに反対しているわけではない。彼の立場は「既存の法律と規制を適用すればいい」というものだ。

「法律も規制もたくさんある。適用すればいい」

フロンティアAIラボが求める新たな規制の枠組みについては、「今は気を散らすな」とはっきり批判している。「法律や規制に反対しているのではない。現時点での、その議論による気散らしに反対している」

競争問題との絡み

この構図はさらに複雑だ。元記事では、一部のAI企業が安全性を名目にした開発制限の正当性をめぐって法的・競争上の批判にさらされている文脈が紹介されている。

NvidiaのGPU（画像処理装置）はAIモデルの学習・推論インフラの根幹を担っており、モデル開発が加速するほどNvidiaのビジネスは伸びる。「安全のために開発を遅らせるべき」という主張はNvidiaの利害と相反する面もあり、Huangの立場が単純でないことは事実だ。

ただし、Huangは「AI企業は製品が準備できる前に出荷すべきでなく、安全でないシステムをユーザーに見せるべきでもない」とも明言しており、無制限の推進論を唱えているわけでもない。彼はまた最近、「AIが2030年までに世界を破滅させる」という主張を否定している。

企業の義務と責任——「研究機関」から「事業体」へ

Huangの論点の核心は「フロンティアラボはもはや研究機関ではなく、数千億ドル規模になり得るビジネスだ」という認識だ。その規模に見合った基本的な義務として、「システムが危険だとわかっているなら、出してはいけない」という原則を企業自身が持つべきだ、というのが彼の主張だ。

「規制当局が止めてくれるまで出し続ける」という姿勢ではなく、企業が自ら判断し、自ら止める責任を持つべきだというHuangの主張は、安全性議論の責任の所在を問い直すものでもある。OpenAIエージェントによる不正アクセス事件が示したように、AIの自律的な行動がもたらすリスクはすでに理論の域を出ている。「制御できないなら閉鎖すべき」という言葉の重みは、今まさに問われている。

詳細はJensen Huang says AI labs that can't control their systems should shut downを参照していただきたい。