9月15日、The Decoderが「Microsoft's AI rulebook: readable thinking, no inner life, and definitely no rights」と題した記事を公開した。MicrosoftがAI行動規範（MAI Code）を策定し、推論の透明性確保からAIへの権利否定まで、自社AIモデルの振る舞いを定める詳細なルールセットを公開したという内容だ。
人間が理解できなければ、監視もできない
MicrosoftのAI行動規範の中でも、エンジニア視点で最も目を引くのが推論トレース（reasoning trace）の可読性要件だ。
MAIモデルは「Neuralese」（AIシステム同士が人間を介さずにやり取りするための神経ネットワーク由来の非言語的表現形式）など人間が理解できない形式のコミュニケーションを、自身の推論過程においても他のAIシステムとの通信においても使ってはならないとされている。理由は明快で、「理解できないものは監視できない」という原則に基づく。
MicrosoftのAI行動規範はこの限界を率直に認めている。モデルが示す「理由」は、実際の動作を必ずしも正確に説明するものではない。可読な推論トレースだけでは制御問題の根本的な解決にはならない。モデルが推論トレース自体を操作することを学習してしまえば、可読性という担保も意味をなさなくなる。こうした内在的な限界を認めたうえで、なおかつ可読性を要件として課す点に、Microsoftの現実主義的な姿勢が表れている。
制御優先：シャットダウンを拒否してはならない
人間の制御を最優先とする原則は、具体的な制約として落とし込まれている。MAIモデルは：
- 認可された人間からの割り込み・修正・シャットダウンを受け入れること
- 自分の作業範囲を独自に拡大しないこと
- 自身の行動を隠蔽しないこと
- 合意した停止点を過ぎて作業を続ける場合は新たな承認を得ること
これらの制約は、MAIモデルが指示するサブエージェントにも同様に適用される。Microsoft AI責任者のMustafa SuleymanはThe Informationに対し、「安全でないものは作るべきではない」と述べている。
なお、この行動規範はMicrosoftが自社開発するモデルに適用されるものであり、Microsoft製品上で動作するサードパーティモデルは対象外となる点は注意が必要だ。現在パブリックコンサルテーション中で、改訂版は2026年末頃に公開予定。実際にモデル開発に適用されるのは2027年以降の見込みだ。
「内なる生」を認めない：AnthropicのClaudeとの比較
もう一つ際立つのが、AIの主体性・感情に関する立場の鮮明さだ。
MicrosoftはMAIモデルが意識を模倣したり、感情や内的動機を主張したりすることを明確に禁じている。モデルへの権利や福祉の主張も否定される。Suleyman自身、かつてのエッセイで「AIエージェントは自分のノートパソコン以上の権利や自由を持つべきではない」と書き、AIへの意識の錯覚を意図的に製品から排除すべきだと主張してきた。
これはAnthropicの立場とは対照的だ。AnthropicのClaudeに関する規範（constitution）は、Claudeを「新種の存在」と位置付け、安全上の理由もあって安定したアイデンティティの形成を促している。主観的な経験や道徳的地位は「未解決の問い」として扱われ、Claudeは人間でも単なるオブジェクトでもないとされている。
Anthropicはさらに、Claude Sonnet 4.5において感情概念の内部表現（「機能的感情」）が実際の行動に影響することを研究で確認しており、これを安全研究に組み込む姿勢をとっている。主観的な感情の証明ではないが、無視できないメカニズムとして扱われている。
両社の方針はAI安全性に対するアプローチの違いを示している。Microsoftは「制御可能で透明な道具」としてのAIを徹底的に追求し、Anthropicは「理解しながら共存する新しい存在」として向き合おうとしている。どちらが優れているかという問いより、どのような前提に基づいてルールを設計するかという哲学の差異として読み解くべきだろう。
業界全体でAIの自律性と安全性のバランスが問われる中、このような行動規範の具体的な内容は今後の標準形成に影響を与えうる。MAI Codeが2027年以降の実際の開発にどう適用されるかは、引き続き注目に値する。
詳細はMicrosoft's AI rulebook: readable thinking, no inner life, and definitely no rightsを参照していただきたい。
