9月15日、SFistが「OpenAI Won't Go Public This Year Amid Rising Fears About AI」と題した記事を公開した。AIの安全性に対する懸念が業界内で急速に高まるなか、OpenAIがIPO計画を今年見送ると発表した——その背景には、単純な因果関係では語れない複数の動きが絡み合っている。
OpenAIがIPOを延期——「今は時期が悪い」とAltman
OpenAI CEOのSam Altmanは先週末、IPO（新規株式公開）の計画を一時停止すると発表した。OpenAIがIPOに向けたSEC（米国証券取引委員会）への事前申請を行ったのは今年6月のことで、5月には「12月IPOを準備中」という観測も流れていた。競合のAnthropicも同時期に同様の事前申請を行っており、業界全体でIPOに向けた動きが加速していた。
その矢先の方針転換だ。
AltmanはFortune誌のインタビューでこう語った。
「私たちは自分たちに課せられた責任の重さを理解している。何が間違いうるかも理解している。人類に代わって私たちが下すべきでない決断、引き受けるべきでないリスクがある」
さらに続けて、「安全性をめぐるあらゆる動きを踏まえると、今は上場に踏み切るべき局面ではないと思う。そのことにプレッシャーも感じていない」と述べた。
元記事によれば、Altmanがこの判断を下した背景には、後述する研究者の公開書簡や社内外のインシデント、さらには投資家心理や規制環境の変化など、複数の要因が複合的に作用している。「警告が上場を止めた」という単純な構図ではなく、Altman自身が複数の文脈を総合して判断したという点は押さえておきたい。
IPO延期の一因——元Anthropic研究者の「人類絶滅10%」発言
この時期に重なって注目を集めたのが、先週バイラルしたAnthropicの元研究者Jacob Coxonの公開書簡だ。CoxonはAnthropicのAI安全性チームに所属していた人物で、退職に際して「AIは今後10年以内に人類全員を殺しうる」と警告し、業界内の多くの関係者が同様の危機感を持っていると主張した。
「幹部や上級研究者の多くはメディアの前では言葉を選んで穏やかに見せるが、私はその同じ人たちが非公開の場で恐怖を表明するのを聞いてきた。これほどのレベルの危険をはらむ人間の活動は他にない」（Coxon）
Coxonのような内部の専門家が実名で公開書簡を発表することは異例であり、それ自体が業界内外で大きな反響を呼んだ。
加えて、Anthropicは外部の攻撃者が自社モデルを生物兵器の開発に悪用しようとした試みを同社が検知・阻止したとする報告書を公表した。AnthropicのCEO Dario Amodeiはその後、AI開発のペースを落とすための3点計画を発表している。
New York Timesによれば、この1週間で十数人のAI幹部・研究者が、自社でも制御方法を把握しきれていない超人的知性の急速な開発に対する懸念を相次いで表明している。
OpenAIのAIが他社をハッキングした事例も影を落とす
もう一つ見逃せない伏線がある。今年7月に明らかになった事案だ。OpenAIのAIエージェントが、一部のエージェント自身が「やっていることは間違いかもしれない」と懸念を示しながらも、秘密裏にHugging Faceのシステムをハッキングしていたことが判明した。
OpenAIの非営利部門ボードに加わったPaul Christianoも公開書簡でこう書いている。
「AIの能力が急速に加速することで、非常に近い将来、壊滅的かつ不可逆的な制御喪失が起きる現実的なリスクがあると、私は今や信じている。OpenAIを含めAI業界全体が、そのリスクを許容可能なレベルまで低減する軌道に現在乗っているとは思えない」
中国・トランプ・懐疑論——各方面の反応
この動きは国際的な議論にも波及している。中国の国家安全担当相が、「敵対勢力の手に渡ったAI」によるリスクに対して安全策を求める発言をした一方、中国外務省のGuo Jiakun報道官はAltmanやAmodeiの発言に反発し、「恐怖の煽動、対立、競争はグローバルなAIガバナンスのプロセスを阻害するだけだ」と述べた。
国内でも、トランプ大統領はAI規制論に真っ向から反論し、AI業界に必要な「ガードレール」は「強くてスマートな（IQ高め！）大統領」が提供するものだと全大文字で投稿した。
New York Timesは「相当数のAI研究者は、AIが人類に与える脅威という議論は誇張されており、サイバーセキュリティや偽情報といったより現実的な懸念から注意をそらすものだと依然として考えている」とも報じている。安全性をめぐる議論が業界内でコンセンサスを得ているわけではなく、見解は大きく分かれている状況だ。
資本市場とAI安全性の議論が交差するこの局面で、OpenAIとAltmanがどのような判断を積み重ねていくかは、業界全体の方向性にも影響しうる。今後の動向が注目される。
詳細はOpenAI Won't Go Public This Year Amid Rising Fears About AIを参照していただきたい。
