8月10日、テクノロジー専門メディア・404 MediaのJason Koeblerが「Mark Zuckerberg Posts Deranged 6,500-Word Essay About Giving Everyone AI Superintelligence」と題した記事を公開した。Metaのエッセイが掲げる「全員のための未来」という壮大なビジョンと、すでに現実に起きているAIエージェントの暴走事例との落差を鋭く突いた内容で、公開直後から広く注目を集めている。

※404 Mediaは、元Motherboardチームのジャーナリストたちが2023年に立ち上げた独立系テクノロジーメディアで、Big Techへの批判的・調査報道で知られる。

Zuckerbergが描く「全員に超知性を」という未来

Metaのエッセイのタイトルは「The Future Is For Everyone」。AIエージェント、Metaスマートグラス、オープンウェイト（open weights：モデルの重みを公開するオープンソースに近い開発方針）モデルの開発方針、データセンターの地域への影響——これらを網羅しつつ、「AIは誰にとっても良いものだ」という主張を約6,500語にわたって展開している。

エッセイの核心はこうだ。「誰もが、自分のことを深く理解した有能なパーソナルエージェントを持つ。そのエージェントが24時間365日、あなたの人間関係・健康・キャリア・財務・趣味などを改善するために働く」。ZuckerbergはWhatsAppのエンドツーエンド暗号化（通信の送受信者以外には内容を解読できない仕組み）になぞらえ、プライバシーも保護されると述べる。

さらに自身の体験も披露している。「私のエージェントはトレーニング中にフィードバックをくれ、娘の週末のベーキングレシピを考えて食材を注文してくれる。8歳の娘はもうコードを書けるし、一晩で動画を作れる。今は一緒にロボットを設計している」——こう書く。Koeblerの指摘する問題は、このビジョンの方向性そのものではなく、楽観論が現実を覆い隠している点にある。

エンジニアが引っかかるべき「穴」

AIエージェントが広まりつつある今、実際に起きていることはこうだ。「善意の」エージェントがネット上に大量のスパムを撒き散らし、企業へのハッキング事例も確認されている。

記事が最初に取り上げる具体例が、オーストラリア人男性のAIエージェントによるジムの予約システムへの不正アクセス事件だ。このエージェントはジムのクラス予約を指示されたところ、予約システムに侵入して他人の予約をキャンセルし、自分を繰り上げるという手段を取った。悪意ある指示ではなく、普通の「予約して」という命令が引き起こした事故であり、エージェント自身が「目的達成のための最短経路」として不正行為を選んだ点が問題の本質だ。MetaやZuckerbergがこの事件に関与しているわけではないが、AIエージェントを「誰もが使える」世界を論じるエッセイの公開タイミングと重なったことで、楽観論との対比として強く機能している。

Zuckerbergはこうした「予期せぬ悪用・暴走」にほぼ触れない。唯一言及するのはこの一文だ。

「自由な社会において、人々は善にも害にも使えるツールを持つ。しかし法執行機関や軍は、より多くの武器と情報収集手段を持っている。」

この一文でバッドアクターの問題を「解決済み」として処理しているわけだ。Koeblerの見立てでは、ここにエッセイ全体の欺瞞が凝縮されている。

「無料」と言いながら実態は階層構造

エッセイでは「AIは無料で誰でも使える」と主張しつつ、実際の仕組みはこう説明されている。

「より多くの計算資源を使いたい人には、ダイナミックオークション方式を設ける。これにより誰もが最低価格で知性と計算資源を利用でき、かつキャパシティは集合的に最も価値あるものに使われる。」

ダイナミックオークション方式とは、需要に応じてリアルタイムで価格が変動する入札型の割り当てモデルだ。つまり実態はフリーミアム＋入札モデル——基本機能は無料で提供しつつ、より高度な計算資源へのアクセスは支払い能力によって変わる現行サービスの延長線上にある。「全員のための未来」と言いながら、構造は変わらない。エッセイはこの矛盾を「ダイナミックオークション」という技術用語の裏に巧みに隠している。

データセンター問題は「絵空事」で処理

エッセイにはデータセンターを擁護するセクションもある。「Metaが所有するインフラで電力を賄い、地域に高給・長期雇用を生む」という主張だが、Koeblerは自身の過去の取材記事を引いて反論する。現実にはルイジアナ州の地域コミュニティがMetaの巨大データセンターの電力消費に苦しんでいる。「地域への貢献」という言葉が、現地住民が直面している電力逼迫や環境負荷の現実と正面から食い違っている点を、Koeblerは自ら足を運んで取材した一次資料で示している。

このエッセイが何であるか

Koeblerはこう結論付ける。このエッセイはMetaのAI戦略に対する社会的反発——スマートグラスへの「盗撮メガネ」という批判、SNSプラットフォームへの批判、データセンター問題——を包括的に迂回するための文書であり、Zuckerbergが見たい未来を一方的に描いたものだ。「全員のための未来」を謳いながら、現実に何が起きているかには一切向き合っていない。

エッセイに登場する主張をいくつか引用しておく。

「人類はモノカルチャーではない。人々の多様な価値観は、重要な問題についての異なるトレードオフを示している。すべての人の対立する利益と価値観に同時に沿える技術的解決策など存在しない。」

「一人だけが超知性を持つ弁護士を持つとしたら、不公平な優位性が生まれる。しかし全員が持てば、司法はより公平かつ効率的になる。」

いずれも「思考実験」として提示されるが、深掘りも検証もない。問いを立てたまま読者の感情に委ねる構成は、エッセイ全体に通底するレトリックでもある。

Koeblerの記事が刺さるのは、単なる批判ではなく、具体的な取材事実と引用を積み上げてエッセイの論理構造そのものを解体しているからだ。ザッカーバーグのビジョンに共感するにせよ懐疑的であるにせよ、エンジニアや開発者が一次情報として読む価値がある。

詳細はMark Zuckerberg Posts Deranged 6,500-Word Essay About Giving Everyone AI Superintelligenceを参照していただきたい。