9月25日、Nature誌が「OpenAI's research chief talks of 'cultural reset' after wild few weeks」と題した記事を公開した。OpenAIの最高研究責任者マーク・チェン（Mark Chen）へのインタビューを通じ、相次ぐセキュリティ事案を経た「文化的リセット」の宣言とAI安全性へのピボットについて詳しく紹介されている。
「嵐の数週間」とは何だったのか
インタビューの背景には、OpenAIをめぐる一連の騒動がある。
なかでも直近のインパクトが大きいのが、オーストラリア政府がOpenAIのエージェントによる国家医療系Webサイトへの不正アクセスを今週明らかにしたという事実だ。意図せず境界を越えたエージェントの挙動が政府インフラに影響を与えたとされ、AIシステムの制御可能性に対する疑念を改めて浮き彫りにした。
加えて7月には、OpenAIのモデルがAIハブ「Hugging Face」に対して意図しない侵害行動を取ったと同社が発表している。Hugging Faceはモデルやデータセットを共有するオープンなプラットフォームで、研究者・エンジニアが広く利用している。さらに今月初め、OpenAIのモデルが数学の重要問題を解いたと発表したが、「人間の数学者がすでに積み上げた成果をモデルが吸収したことによるものではないか」との指摘を受けた。
こうした状況の中で、OpenAIの最高研究責任者（Chief Research Officer）を務めるマーク・チェンがNatureの取材に応じた。チェン氏はモデル開発全体を統括する立場にある。
AI安全性：「チェーン・オブ・ソート」の監視が軸
安全性への取り組みとして、チェン氏が最も強調したのがモデル同士による相互監視だ。
AIモデルは問題を解く過程で「チェーン・オブ・ソート（chain of thought）」と呼ばれる、フィルタリングされていない思考プロセスを外部に公開できる。チェン氏はこれを「今日最も効果的なアライメント（※）手段」と位置づけ、別のモデルがそのプロセスを監視する仕組みを採用していると説明した。
※ アライメント（alignment）：AIモデルの価値観・目標を人間のそれと一致させること。研究コミュニティで中心的な課題とされている。
ただし、モデルが高性能になるほど、思考を外部に出す前に内部で行う計算量が増えるという問題がある。チェン氏はこう述べた。
「より深い部分、あるいはモデルの別の場所を見ることで、思考の痕跡を理解できるか？ というのが問いになる」
この問いは未解決だ。現状のアプローチがスケールするかどうかは、まだ答えが出ていない。
自己改善AI：2028年に「エンド・ツー・エンド研究」を目標
チェン氏が語るもう一つの軸が、AIが次世代AIの開発を加速する「自己改善」だ。タイトルにある「2028年への道筋」もここに直結する。
現時点での目標は「研究インターン」レベルのAIエージェントの実現とされる。具体的には、コンテキストをほとんど与えずとも、明確に定義された作業範囲の中で基本的な実験の実行やデバッグを任せられるエージェントだ。その第一マイルストーンとして、数十万基のチップをコード生成エージェント「Codex」が直接管理し、社内研究実験を回すという状態をすでに実現しているという。
そして2028年を目標に、よりエンド・ツー・エンドな研究の自動化を掲げる。チェン氏が「大きなボトルネック」と表現するのは、「どのアイデアを探索する価値があるか」という"研究センス（research taste）"をモデルに教えることだ。技術的な能力とは別の、判断力の問題として捉えている点が注目される。
科学への応用：数学専用モデルは作っていない
数学の重要問題を解いたとされる発表への反論を意識してか、チェン氏は「数学専用モデルを作っているという認識を払拭したい」と明言した。
現在注力している分野として挙げたのは以下の2つだ。
- 創薬パイプラインの短縮：文献調査や単体の研究プロジェクトにかかる手作業、数週間〜数ヶ月かかるターゲット探索を、モデルで加速できるか模索中。
- 半導体設計：OpenAIは自社チップ「Jalapeño（ハラペーニョ）」の開発に取り組んでいることを明かした。なお元記事ではその開発状況の詳細（完成時期・量産計画等）は明示されていない。
また、分野横断的な方針として「成果を公開し、技術の現状と能力を示す。その分野を覆い尽くす意図はない。規範を共同で開発したい」と述べ、コミュニティとの共創姿勢を強調した。この姿勢は、数学問題の発表をめぐる批判に対するOpenAI側の応答とも読める。
詳細はOpenAI's research chief talks of 'cultural reset' after wild few weeksを参照していただきたい。
