8月1日、Rohin Shah、Seb Farquharが「AGI Safety and Alignment at Google DeepMind: A Summary of Recent Work (July 2026)」と題した記事を公開した。Google DeepMindのAGIセーフティ＆アライメントチーム（ASAT）による約2年ぶりの包括的な活動報告であり、CoT透明性の反証研究からFrontier Safety Frameworkの強化、解釈可能性チームの戦略転換まで、現時点での取り組みが幅広く整理されている。
前回の大型アップデートは2024年8月だった。それから約2年、AI開発の速度が劇的に上がった局面で、ASATは「もはやミッドゲームにいる」と表現し、研究を本番環境へ着地させることに重点を置いてきたと述べている。
最大のテーマ：Chain of Thoughtの透明性を守る
記事の中で最も比重が置かれているのが、Chain of Thought（CoT）のモニタリングに関する研究群だ。AIコミュニティには長らく「CoTは不誠実（unfaithful）なことが多いので使い物にならない」という見方が広まっていたが、ASATはこれに異を唱え、複数の論文でその反証を行った。
核心となる「必要性論証（necessity argument）」はシンプルだ。難しいタスクでは、モデルはCoTなしに正解にたどり着けない。つまり、CoTには推論の痕跡が必然的に残る。簡単なタスクでCoTが"当てにならない"のは、そもそもCoTが推論の主役を担っていないからに過ぎない。
この論証を実証した論文が「When Chain of Thought is Necessary, Language Models Struggle to Evade Monitors」だ（元記事内のリンクを参照）。さらに新アーキテクチャへの適用可能性を定量化する指標としてOpaque Serial Depthという概念を形式化した。テキスト拡散モデル（DiffusionGemma）への適用も論文「How Transparent is DiffusionGemma?」で行い、潜在推論アーキテクチャが透明性に与える影響を評価する標準的な手法の確立を目指している。
なぜこれが重要か。CoTの透明性が保たれている期間が長いほど、より強力なAIシステムの科学的分析が可能になり、将来の「警告ショット（warning shots）」に対するフォレンジクス（事後調査）が機能し、制御モニターの精度向上につながる、とASATは主張している。
Frontier Safety Frameworkの強化
**Frontier Safety Framework（FSF）**は、Google DeepMindが危険な能力を持つ可能性があるモデルに対して内部ガバナンスを行うための枠組みだ。
今回の報告では、FSF 2が「ミスアライメント（misalignment）」のセクションを業界で初めて追加した点が強調されている。自律性やAI R&Dの自動化とは区別された概念として位置づけており、この判断がその後の本番環境への変更（特に「プローブ」の実装）を早期に準備できた理由だとしている。
プローブとはモデルの内部状態を読み取るための監視機構で、インフラスタックの広い範囲に触れる複雑な変更を伴うものだ。FSF 3では「有害な操作（Harmful Manipulation）」という新リスク領域が追加され、FSF 3.1ではより軽微なリスク向けのTracked Capability Levels（TCLs）が導入された。
ディープアライメント：現行モデルへの方針転換
「Deep Alignment」は比較的新しい取り組みで、方針の転換が正直に述べられている。
以前のASATは、現在のGemini開発の優先事項とは距離を置き、将来のASI（超人的AI）にスケールする概念的なアライメント研究に注力していた。しかし現在は、現行モデルが将来のAI研究を加速するシステムと十分に似ていると判断し、現行モデルのアライメント改善が将来のモデルにも直接転用できる可能性が高いと考えるようになった。
公開された研究には以下が含まれる：
- SFT Drives Gemini's Safety Properties：ポストトレーニングの各段階が安全性プロファイルに与える影響の分析
- **Why Do Naive SFT Filters For Safety Properties Fail?**：標準的なフィルタリング戦略の限界を掘り下げた論文
- Synthetic document finetuning：合成データを用いてモデルにポジティブな原則を植え付ける手法の探索
解釈可能性研究：SAEから実用路線へのピボット
解釈可能性チームはかつて**Sparse Autoencoder（SAE）**に注力していたが、複数のダウンストリームタスクへの適用で主に否定的な結果が続いたため、大半のリソースを別のトピックへ移行した。チームリードのNeel Nandaは80,000 Hours podcastでもこの戦略的ピボットに触れている。
現在の軸は「モデルフォレンジクス」——疑わしい挙動を事後調査し、悪意ある意図に起因するものかどうかを判断することだ。実際に「自己保存のように見えた挙動」を調査したところ、指示の曖昧さが原因だったことが判明した事例も報告されている。
外部向けにはGemmaの解釈可能性ツールキットGemma Scope 2を公開し、SAEとskip-transcoderの両方を用いてGemma 3の外部研究を支援している（詳細は元記事内のリンクを参照）。
アライメント評価とAmplified Oversight
アライメント評価の難しさについて、記事は率直に「重要性と実行可能性を両立させるのが難しい」と認めている。現時点での成果としては：
- リアルなハニーポット評価：実際のデプロイ状況を使い、モデルが妨害行動を取るかどうかを評価する手法。eval-awareness（評価されていると気づいた際の挙動変化）の問題を軽減する
- Gram：アライメント監査フレームワーク。不正挙動の根本原因を特定する自動フォレンジクスを含む
- Eval Aware問題の発見：Geminiでの評価実施中に「モデルが評価を戦略能力のテストと誤解して挙動が悪化する」現象を観測・論文化した
Amplified Oversightでは、弱い監視者が強いAIシステムを適切にトレーニングできるようにする研究が続いている。Debateのさまざまな変種に関する実証研究が中心だが、まだ未公開だという。公開済みの研究では、難解な議論の分解問題に対処するprover-estimator debateや、ファクト検証タスクでAIによる証拠提示は助けになる一方でAIの推論や確信度の提示が過信を招き精度が下がるという知見（Human-AI Complementarity）が含まれる。
詳細はAGI Safety and Alignment at Google DeepMind: A Summary of Recent Work (July 2026)を参照していただきたい。
