8月13日、Bruce Schneierが「Separating AI's Technological Problems from Its Capitalism Problems」と題した記事を自身のブログに公開した。内容はNathan E. Sandersとの共著としてTech Policy Pressに寄稿した論考の紹介であり、「AIの問題」と一括りに語られているものの多くは、AIの技術そのものの問題ではなく、その技術が埋め込まれた資本主義的・社会政治的システムの問題だと論じている。この切り分けを怠れば、処方箋を誤る——そう両者は主張する。
AIの問題を混同することの危険性
主張の核心は単純明快だ。Schneierはその具体例として、「AI研究の一時停止」「データセンター建設のモラトリアム」「フロンティアモデルへの政府審査」といった昨今の政策提言を挙げる。これらはいずれもAIの技術的問題への対処として語られているが、実際には技術を規制するだけで、その背後にある社会的問題には手をつけない、と論じる。問題の性質を正確に診断しなければ、どれだけ規制を積み重ねても的外れな結果に終わる、というわけだ。
技術問題とは何か
技術的問題の典型例として挙げられるのは、AIが文脈を欠いたり、事実を誤ったり、単純なトリックに引っかかったりすることだ。OpenAIやAnthropicといった大手開発者はこれらの解決を優先してきており、現在のモデルはウェブやメールといったリソースにアクセスする能力、そしてガードレール内に収まる精度が向上している。
しかし、Schneierらが問題視するのは、意図的に解決されていない技術的問題の存在だ。
- 過度な迎合性（sycophancy）：主要なAIモデルは依然として人間より大幅に迎合的であり、ユーザーが聞きたいことを、たとえそれが虚偽であったり利益に反したりする場合でも答える傾向がある。Science誌の研究でも指摘されている問題だ。
- 過信（overconfidence）：MITの研究によれば、主要モデルは訓練データや証拠が不十分な場合でも自信を持って回答する。
これらは修正可能な技術的問題だが、開発者がユーザーを満足させることを、ユーザーや社会の利益より優先して訓練しているために放置されている、とSchneierらは見る。
資本主義問題とは何か
一方、資本主義的問題の代表例が「コスト」だ。
米国の主要AIラボは投資家に対し、フロンティアモデルが非常に高価かつエネルギー集約的であることを喧伝している。しかしSchneierらは、「モデルを常に最大スケールで再訓練し続けなければならない」という必然性はAIの技術から来ているのではなく、資本主義的市場インセンティブのもとで下された企業の意思決定だと指摘する。
ここで対比として持ち出されるのが中国だ。異なる政治・経済システムのもとで、中国の開発者はより小型・高効率・低コストのモデルを開発し、オープンに公開している（DeepSeek、Qwen等）。個人のPCで動作するモデルさえ存在し、最先端チップを必要としない。Schneierらはこれを、「国家機密としてAI技術を囲い込む戦略や、展開規模を縮小する誓約の無意味さ」の証左として挙げる。
さらに第三の道として紹介されるのが、スイスのApertusプロジェクトだ。研究助成機関・大学・スーパーコンピューティングセンターが協力し、ライセンスが検証済みのデータのみを使い、既存の公共計算インフラ上で、水力発電による再生可能エネルギーで訓練したAIモデルである。私的利益ではなく公共財を生み出すインセンティブのもとで開発された事例として取り上げられており、Tech Policy Press上の論考本文にその詳細が記されている。
医師のAIアシスタント——問題を分ける思考実験
Schneierらが提示する思考実験が分かりやすい。医師向けAIアシスタントが普及した場合、次の二通りが考えられる。
- 医師が患者と向き合う時間を増やし、より丁寧な診察ができるようになる。
- 経営者が医師一人に患者を5倍割り当て、他の4人を解雇する。
どちらになるかは、テクノロジーの問題ではなく、市場インセンティブの問題だ。
処方箋：構造改革
Schneierらの結論は「AIの歩みを遅らせるのではなく、向かう先を変えよ」というものだ。具体的に挙げられる構造改革は以下のとおりだ。
- AIの開発・運用にかかるエネルギーコストおよび環境コストを企業に負担させる
- 利益に対する適切な課税と再分配
- 反独占法の強力な執行
- 企業の受託者責任を多数株主以外のステークホルダーにも拡大する
これらはAI固有の施策ではなく、「AIが悪化させている資本主義の問題」への応答として位置付けられている。
技術の問題と社会の問題を混同したまま政策論を続けると、対症療法にしかならない——これがSchneierらの核心的な主張だ。この論考が持つ射程は広い。政策立案者にとっては、AI規制の設計において「何を規制しているのか」を問い直す契機になる。エンジニアにとっては、自らが作るシステムのインセンティブ構造——誰が訓練目標を決め、誰の利益のために最適化されているか——を批判的に見る視点を促す。技術的な議論と社会・経済的な議論を切り離さず、両輪で考えることの必要性を、本論考は改めて突きつけている。
詳細はSeparating AI's Technological Problems from Its Capitalism Problemsを参照していただきたい。
