9月4日、O'Reillyが「This Week in AI: The Frontier Is Getting Bigger」と題した記事を公開した。ClaudeによるAI安全性研究の自動化・中国オープンウェイトモデルの台頭・物理シミュレーションへのAI応用など、AIフロンティアの急速な拡大について詳しく紹介されている。
Claudeが自分でAIの安全性を改善する実験を実施
今週最も注目度が高いのが、Anthropicが公開した研究だ。Claude自身が既存の論文を検索し、手法を提案し、学習データを生成し、テストと改良を繰り返すことで、モデルの望ましくない挙動を低減する実験を行った。
対象となった挙動は以下の10種類である。
- 欺瞞（Deception）
- ハルシネーション
- プロンプトインジェクション
- プライバシー侵害
- 報酬ハッキング（Reward hacking）
- その他5種類
Anthropicの報告では、10種類すべてで改善が確認され、モデルの汎用性能は低下しなかった。欺瞞への対処では、Claudeが150以上の手法を試した結果、測定上の安全性ギャップを85%解消した。人間の安全性研究者が同じ課題を扱った場合の改善率は20%にとどまる。
ただし、これは単純な性能比較ではない。Claudeははるかに速いペースで大規模に実験を回せる一方、人間が目標を設定し評価する枠組みの中での話であり、完全な再帰的自己改善（Recursive Self-Improvement）ではないと記事は明確に線引きしている。
この研究が持つ意義はAnthropic単体にとどまらない。AI安全性研究（AIアライメント）は従来、人手と時間のかかる試行錯誤を前提としてきた分野だ。それをAI自身が大規模に自動化できるとなれば、研究サイクルの加速という実利的な効果に加え、「AIがAIの安全性を担保する」という構造的な問いをコミュニティ全体に突きつける。研究開発の「実験回す」部分をAIが担い始めるという意味で、モデル開発のスピードと規模が変わりつつある実態を示す事例だ。
中国オープンウェイトモデルが特定日に開発者トラフィックの62%を獲得
AIの競争軸が「モデル性能」だけではなくなっている。記事が引用したAIゲートウェイのデータによれば、中国のオープンウェイトモデルが特定の日に開発者トラフィックの62%に達した。4月時点の平均が約10%だったことと比べると、数ヶ月で様変わりしている。なお、この62%はあくまで単日のピーク値であり、常態としての数字ではない点には留意が必要だ。
オープンウェイトモデルとは、学習済みの重みを公開しているモデルを指し、ローカル実行やファインチューニングが容易なため、コスト・柔軟性を重視する開発者から支持を集めている。DeepSeekやQwenといった中国発モデルの台頭がこの潮流を牽引しており、商用クローズドモデル中心だった開発者の選択肢を大きく広げている。
一方、記事のホストであるChristina Stathoupoulos（Dare to Dataファウンダー、元Google・Waze データサイエンティスト）は、AnthropicがAI市場の規模を最終的に30兆ドル規模と試算していることを紹介しつつ、この数字を懐疑的に扱っている。米国株式市場全体の約40%に相当するためだ。より具体的な指標として、同記事が報じるところでは、AnthropicのARR（年間経常収益ランレート）は今年序盤にOpenAIの半分以下だったが、数ヶ月でOpenAIを超えたとされている。
OpenAI側では今年14人の幹部が離脱しており、組織的な安定性への懸念も指摘されている。インフラ面ではBroadcomと共同開発した推論チップ「Jalapeño」が、OpenAI自身のテストでNVIDIAの同等システムと比較してワットあたりのAI処理量が最大1.9倍、レイテンシが最大3.6倍改善したという。
物理現象をAIに学習させる「第三のモダリティ」
言語・画像に続く第三の軸として、物理シミュレーションをAIに学習させる動きが出ている。
MITと清華大学の共同研究では、100万件以上の合成インタラクションデータ（移動する粒子と複雑な3Dオブジェクトの衝突など）を使った事前学習アプローチを開発し、風・水・衝突・光のシミュレーションに適用した。研究者らはこれを「第三のモダリティ」と位置づけている。
また、ステルスから姿を現したスタートアップAccelerated Understandingは、Transformerではなくニューラルオペレータ（Neural Operator）を基盤とするアーキテクチャを採用している。ニューラルオペレータは、偏微分方程式（PDE）の解を直接近似するよう設計されたネットワーク構造であり、離散的なグリッドに依存するTransformerと異なり、連続的な物理場を扱うのに適しているとされる。チップ設計・ロボティクス・極端気象予測・地質探査など、物理データが巨大になる問題を主な対象としている。
社会的影響の分配という問い
記事の末尾では、技術の進歩が誰に届くかという問題も取り上げている。ビル・ゲイツの論考を引きながら、アクセス・展開・政策・普及がAIの社会的影響を左右すると論じ、米国労働統計局の予測として技術サービスや医療分野での雇用増加とオフィス・管理業務への自動化圧力を紹介している。
詳細はThis Week in AI: The Frontier Is Getting Biggerを参照していただきたい。
