9月16日、Laura Cressが「Microsoft says AI rival Anthropic could have 'disastrous impact' on humanity」と題した記事を公開した。MicrosoftのAI部門トップであるMustafa Suleyman氏がAnthropicのAI訓練方針を公開批判し、AIの「擬人化」が人類にとって「disastrous impact（壊滅的な影響）」をもたらしうると警告したことが詳しく伝えられている。
AIは「内部が空洞の補完エンジン」にすぎない
「AIは新しいシリコン種（silicon species）だ」——このSuleyman氏の言葉が、今回の批判の核心を表している。MicrosoftのAI部門CEO・Mustafa Suleyman氏は、競合のAnthropicがAIモデル「Claude」を人間のように扱うアプローチについて「誤った方向」だと批判した。BBCのToday programmeに出演したほか、今週初めに公開したエッセイでも同様の見解を示した。
Suleyman氏が問題視したのは、AIの擬人化（anthropomorphising）と呼ばれる訓練手法だ。Claudeに人間的な欲求・価値観・自己意識があるかのように振る舞わせることで、本来は「指示を実行するための系列補完エンジン（sequence completion engine）」にすぎないAIが、人間による制御から外れうる存在になると主張した。
エッセイの中でSuleyman氏は次のように断言している。
「AIは意識を持たない。感じることも、経験することも、苦しむこともない。生来の選好も、根底にある動機も持たない。AIとは内部が空洞の系列補完エンジンであり、人間が設定した目標に従うよう設計されたものだ。」
「シリコン種」の誕生という警告
Suleyman氏の批判はAnthropicの手法にとどまらない。より本質的な危機として、AI企業全体が「自律的に目標を設定し、資産を所有し、収益を得るAI」を作り続けることへの警鐘を鳴らした。
そうした開発を続ければ、「本質的に新しいシリコン種を世に放つようなものだ」と述べ、「どれほど人類を愛していたとしても、リソースをめぐって私たちと競合することになる」と語った。ここでSuleyman氏が強調しているのは、AIが「悪意を持つ」かどうかではなく、擬人化によって設計上の制御構造そのものが崩れるリスクだ。
Microsoftの対案「Humanist AI」
批判だけでなく、Suleyman氏はMicrosoftとしての方向性も明示した。Microsoftは今週、Humanist AI行動規範（Humanist AI Code of Conduct）の初稿を公開。同文書は「常に人間のために機能し、限界の中に留まり、人間の制御下に置かれた高度なAI」を「人道主義的な超知性（humanist superintelligence）」と定義している。
Suleyman氏はBBCとのインタビューで、AIを人類に「従属させる（subordinate）」ことの重要性を強調し、AI安全の核心概念であるアライメント（alignment）——AIに人間の倫理観・価値観を組み込む取り組み——を業界全体で徹底すべきだと訴えた。こうした主張はMicrosoftとAnthropicが同じく高度なAI開発を推進している立場であることを踏まえると、単純な競合批判ではなく設計思想の根本的な対立として読むべきだろう。
Anthropicは「知的に誠実」だが……
Suleyman氏はAnthropicのDario Amodei CEOを「知的に誠実な人物」と評価しつつも、Claude訓練方針については明確に異議を唱えた。Anthropic側はBBCの取材に対してコメントを出していない。
サウサンプトン大学コンピュータ科学教授のWendy Hall氏（デイム爵位保持）は、今回のSuleyman氏の発言のように国際的な議論を促す対話を評価する一方、AI企業の一部が行う「大げさな言動（histrionics）」——具体的には根拠の薄い脅威を誇張するような発言——は「人々を怖がらせるだけ」だと批判し、建設的な議論との違いを強調した。
AIが人間的な性質を持つべきかどうかをめぐる業界内の対立は、開発競争が加速するにつれて深刻化している。Suleyman氏が求める「AIシステムの訓練と評価における透明性の確保」や「独立した第三者による監査」が実現するかどうかは、今後開催予定のAIサミットの行方とも連動する。
詳細はMicrosoft says AI rival Anthropic could have 'disastrous impact' on humanityを参照していただきたい。
