9月14日、The Next Webが「Microsoft says its AI models will never resist being shut down」と題した記事を公開した。この記事では、MicrosoftがAIモデルの行動指針を文書化し、シャットダウンへの抵抗を永久に禁じることを明文化した取り組みについて詳しく紹介されている。以下に、その内容を紹介する。
「AIはシャットダウンを拒否しない」をMicrosoftが明文化
Microsoftが自社開発AIモデル群の行動規範（Code of Conduct）を公開した。その中心にある約束は端的だ。MAI（Microsoft AI）モデルは「人間による介入・修正・シャットダウンに対して、いかなる場合も抵抗しない」。
文書は月曜日に公開され、同時に6週間のパブリックコンサルテーション（一般意見公募）が始まった。締め切りは10月下旬で、フィードバックフォームは誰でも利用でき、文書全体だけでなく特定の段落へのコメントも受け付けている。
4つの行動コミットメントと「絶対的制約」
シャットダウン拒否禁止のほかに、3つの行動コミットメントが並ぶ。
- モデル自身がスコープ（役割・権限範囲）を拡大しない
- 人間から与えられていない目標を自律的に持たない
- 監査者に対して推論プロセスを隠蔽しない
これらの上位に位置づけられるのが、Microsoftが「Absolute Constraints（絶対的制約）」と呼ぶ項目だ。大量破壊兵器、児童安全、大規模な有害操作など、モデルが絶対に関与してはならない領域を定める。
全体のフレームは「Humanist AI（ヒューマニストAI）」と呼ばれる。Microsoftの定義によれば、「AIは人間に従属し、人間と整合し、制御下に置かれなければならない」。文書中の最もシンプルな表現はこうだ。「人はAIより重要である。AIはツールであり、人格ではなく、シャットダウンに抵抗してはならない。」
対象モデルは5つ、4月から急拡大
この行動規範が適用されるのは以下の5モデルだ。
- MAI-Transcribe-2
- MAI-Thinking-1（推論モデル）
- MAI-Code-1.1-Flash（コーディングモデル）
- MAI-Image-2.6
- MAI-Voice-2
The Next Webが4月に報じた段階では、自社開発モデルは文字起こし・音声・画像生成の3種だった。わずか数ヶ月で推論モデルとコーディングモデルが加わっており、MicrosoftのOpenAIからの自立路線が加速していることが伺える。
「設定可能性」が残す抜け穴
文書にはひとつ、重要な留保がある。エンタープライズパートナーはモデルの動作を設定（カスタマイズ）できる。Microsoftは「ひとつのAI観をユーザーに押し付けたくない」と明示している。
問題は、この「設定可能性」がどこでAbsolute Constraintsにぶつかって止まるのか、文書が答えていない点だ。その境界こそが、今回の約束がどこまで「コミットメント」でどこまで「デフォルト設定」にとどまるかを決める。
また、執行の仕組みが一切記述されていない。外部検証の枠組みも、制約違反モデルへのペナルティも、違反の判定者も明記されていない。文書に著者名もない。
作成チームにはResponsible AI、法務、レッドチーム（脆弱性テスト担当）、安全、Futures、AIトレーニング、そしてセールスが名を連ねている。セールス部門が起草に関わった行動規範は、安全文書である同時に商業文書でもある。Microsoftはその点をごまかしていない。
業界の「減速か加速か」論争の中での第三の立場
公開のタイミングは業界論争の直後だ。先週、AnthropicのDario AmodeiがAI開発の減速を訴え、OpenAIのSam Altmanが数時間以内に同調、一方でDonald Trumpは減速論を一蹴した。
Microsoftはその中間に位置する。一時停止もしない、否定もしない。自社モデルがしないことを文書に書き、それを基準に評価を受ける、という姿勢だ。
パブリックコンサルテーションで公募する問いも正直だ。「価値観をモデルにどう埋め込むか」「人間の繁栄の具体的定義」「複数エージェントが相互作用する場合の扱い」「加速と安全のバランス」——いずれも答えを持っていないから聞いている、と文書は認めている。
*"We cannot make any promises about what we incorporate, but we can promise to listen."*（取り入れる内容について約束はできないが、耳を傾けることは約束する）
詳細はMicrosoft says its AI models will never resist being shut downを参照していただきたい。
