10月26日、The Cooldownが「Google DeepMind staff quit over military AI work: 'Ashamed to work at Google'」と題した記事を公開した。GoogleのAI部門DeepMindが米国防総省との軍事AI協定を締結して以降、倫理的懸念を理由に退職する研究者が相次いでいる。AIが標的選定を支援する軍事システムへの組み込みが進む中、「速度優先」を掲げる国防総省と、安全策の実効性を問うエンジニアたちの価値観の衝突が表面化している。

「Googleで働くのが恥ずかしい」

2025年、Googleは米国防総省（Pentagon）との協定を締結し、自社のAIモデルが機密軍事環境――一般に非公開の政府・軍事ネットワーク上での運用を指す――での使用を許可された。この協定がきっかけとなり、社内で反発が広がっている。

ロンドン在住のリサーチエンジニア、Sofia LiguoriはGoogle DeepMindに3年間勤務した後に退職した。彼女はBBCの取材に対し、米軍・イスラエル軍との連携が拡大していることを退職理由として挙げた。

「私の会社がAIシステムを軍事作戦へ積極的に活用しようとしていると気づき、Googleで働いていることが恥ずかしくなった」

同じくDeepMindを退職したAIリサーチャーのAndreas Kirschも、「軍事・機密設定においてAIを安全かつ責任ある形でデプロイするには、Googleのガバナンスと監視体制では不十分だ」と述べている。

なお、2025年に同様の軍事AI協定を締結した企業にはNvidia、Oracle、SpaceX、Microsoft、Amazon、OpenAIも名を連ねる。DeepMindからの退職はこうした業界全体の動きの中で生じており、特定の個人の問題ではなく、テック産業における構造的な倫理的緊張として捉える必要がある。

問題の核心：AIが戦争の意思決定を圧縮する

今回の退職者たちの懸念の背景には、AIが軍事システムに急速に組み込まれていることへの不安がある。AIが人間の判断を「支援」する役割にとどまらず、意思決定そのものを圧縮・加速させるシステムとして実戦配備されつつあるという点が問題の核心だ。

具体例として挙げられているのがMaven Smart Systemだ。Palantirが開発したこの国防総省向けプラットフォームは、戦場から収集された情報・データを統合・整理し、AIを用いて攻撃目標の選定を支援する。「人間が最終決定する」という建前は維持しつつも、AIが候補を絞り込む構造は、人間の判断余地を実質的に狭める。同プロジェクトの元責任者であるジャック・シャナハン退役中将は、その運用思想をこう説明している。

「テストや評価の厳密さを犠牲にしてでも、できるだけ速く、できるだけ広くAI技術を展開する」

OpenAIの地政学チームを以前率いていたSarah Shokerも、AIが戦時の意思決定を圧縮するリスクを指摘する。

「AIが数百の標的を選定し、人間のオペレーターが短時間でその出力のエラーを意味ある形でレビューすることは、ほぼ不可能だ」

元記事はこうした懸念の実例として、AIへの過度な依存と人間のチェック不足が重大な被害につながったケースを報じている。使用されたデータベースが2017年時点のもので現状と乖離していたという指摘も含まれており、AIシステムの精度と更新頻度が実戦環境でいかに重要かを示す事例として紹介されている。

Googleの言い分と批判の構図

Googleは「公共部門の契約には一貫したレビュープロセスを適用しており、利用規約とAI原則のもとで評価している」と説明する。Pentagonとの契約においても、「国内の大規模監視や、適切な人間の監視・制御なしに自律兵器（ここでは人間の介在なしに標的選定・攻撃判断を行うシステムを指す）への使用は禁じる」との条項が明記されているとしている。

しかし批判の核心は、AIツールが機密軍事システムに組み込まれた後もその安全策が実効性を保てるのかという点にある。Andreasは「現在のAIモデルはそこまで堅牢ではないし、そのような任務向けにトレーニングされてもいない」と警告する。契約文書上の禁止条項と、実運用上の制御可能性は別問題だという指摘だ。

なお、Googleをめぐる従業員の反発はこれが初めてではない。2024年にはProject Nimbus（AmazonとGoogleによるイスラエル政府・軍向けの約12億ドル規模のクラウド・AI共同契約）をめぐっても社内から批判の声が上がり、抗議行動に参加した従業員が解雇される事態にまで発展している。

「速度が勝利を決める」という論理との衝突

国防総省側は姿勢を崩さない。国防次官のEmil Michaelは「AI時代において、速度が勝利を定義する」とBBCに語っている。

この「速度優先」の論理と、倫理的な安全策・検証プロセスを重視するエンジニアたちの価値観の衝突が、人材流出の根本にある構図だ。双方の主張はどちらも一定の合理性を持ちながら、根本的な前提――AIシステムをどの程度信頼できるか、人間の監視はどこまで意味を持つか――において折り合えていない。

Googleだけでなく、Amazonでも1,000人以上の従業員がAIが監視国家化を加速させると警告する書簡を提出している。テック大手と防衛産業の結びつきが強まる中、内部からの異議申し立てという形での抵抗が、業界横断的な現象として広がっていることがわかる。

詳細はGoogle DeepMind staff quit over military AI work: 'Ashamed to work at Google'を参照していただきたい。