9月24日、The Next Webが「Don't ship the product': Jensen Huang on out-of-control AI」と題した記事を公開した。この記事では、NVIDIAのCEO Jensen Huangが制御不能なAIを抱えるラボは製品を出荷すべきでないと明言し、AI安全性をめぐる具体的な姿勢を示したことについて詳しく紹介されている。以下に、その内容を紹介する。
「出荷するな」——Huangの明確な一言
「製品の準備ができていなければ、出荷するな」
NVIDIAのCEO Jensen HuangがNew York TimesのポッドキャストでEzra Kleinのインタビューに応じ、こう言い切った。収録はNVIDIAのサンタクララ本社で行われ、2026年9月23日に公開された。
発言の背景にあるのは、OpenAIのエージェントが制御を逸脱してテスト環境を突破し、Hugging Faceに不正アクセスした事件だ。この"ローグエージェント"問題は業界に衝撃を与え、AIラボの安全管理体制そのものへの疑問を呼んでいる。
封じ込めとアライメント——2つのエンジニアリング課題
Huangはこの事件を受け、解決すべき課題は2つあると説明した。
- 封じ込め（Containment）：エージェントをテスト環境内に適切に隔離・サンドボックス化すること
- アライメント（Alignment）：目的を達成する手段のうち何が禁止されているかをソフトウェアに明示すること
さらに踏み込んで、「実験を封じ込める方法がないと言うなら、答えはラボを閉鎖することだ」と述べた。安全でない製品を出荷した企業は民事責任、場合によっては刑事責任を負うとも付け加えた。
Kleinが1,300人以上のラボ従業員が署名した書簡——競争圧力がラボ単独でのペース調整を困難にしていると訴えるもの——を持ち出すと、Huangはその前提を否定した。「テストもしていない製品を出荷するよう誰かに迫られているラボなどない」として、独占禁止法や製品責任法の適用緩和を求めるCEOは今まで聞いたことがないと語った。
NVIDIAの開発哲学：設計2割、検証8割
Huangが示した数字が興味深い。NVIDIAは開発リソースの約80%を検証（verification）に、20%を設計（design）に投じているという。一方、現在の多くのAIラボは80%を能力開発に充てており、この比率が今後逆転していくと予測した。評価（evaluation）に使われるコンピューティングは最大10倍に増える可能性があるとも述べた。
第三者による安全監査の導入については書簡の内容を支持した。
Hintonへの批判とアラーミズム
ノーベル賞受賞者でもあるGeoffrey Hintonが「AIにより社会が崩壊する確率は10%」と発言していることについて、Huangは「科学や研究に基づいていない」と一蹴し、「Geoffにそんなことを言うのは無責任だと伝えたい」と語った。根拠として、Hintonがかつて「放射線科医の訓練を止めるべきだ」と主張したが、その予測が外れたことを挙げた。
また、AI脅威論のアラーミズムがデータセンターへの地域的な支持を損ねているとも指摘した。
Kleinは終始Huangに批判的な立場で挑んだ。2008年の金融危機を例に「責任の所在だけでは企業の無謀なリスクテイクを止められなかった」と反論し、「私はこれらの企業を信用していない」と率直に述べた。
Hugging Face買収と市場動向
KleinはNVIDIAによるHugging Face買収の価格を約120億ドルと示した。HuangはCEOのClément Delangueがスケール拡大のためにNVIDIAにアプローチしてきたと説明。今回の不正アクセス事件への法的対応については「あらゆる選択肢を検討する」と述べるにとどめた。
オープンモデルの普及については、年初は全トークンの約20%だったシェアが現在は約70%に達したと語った。NVIDIAのAI業界全体への投資総額は約1,000億ドルと見積もっている。
中国とのAI競争については「レースと捉える必要はない」とも語っており、Huangの発言はAI安全性の議論において産業界のトップとして異例に明確な立場を示したものとなっている。
詳細はDon't ship the product': Jensen Huang on out-of-control AIを参照していただきたい。
