7月10日、Bruce Schneierが「AI Surveillance and Social Progress」と題した記事を公開した。この記事では、AI監視システムが社会進歩そのものを抑圧する「萎縮効果（chilling effects）」をいかにもたらすか、そしてそれに対してどのような政策的選択肢があるかが論じられている。論旨は技術批判にとどまらず、「監視の常態化が社会規範の更新を構造的に不可能にする」という歴史的・政治哲学的な問いにまで踏み込んでおり、AIと民主主義の関係を考えるうえで見逃せない内容だ。
「自動速度カメラをステロイド漬けにしたもの」
Schneierは、近い将来に実現しうるAI監視システムをこう表現する。速度超過だけでなく、万引き・ポイ捨て・信号無視など、あらゆる違反をリアルタイムで検知し、顔認識で身元を特定し、政府の公式記録と紐付け、当局への即時通報と本人への通知を同時に行うシステムだ。
中国ではすでに6億台超の監視カメラが稼働し、AIと顔認識によって法的・社会的ルールの執行が行われている。記事が挙げる具体例が生々しい。ローン返済不能で「ブラックリスト入り」した市民・Lao Duanが北京の交差点に現れた際、AIシステムは彼の顔を認識し、近くの大型電光掲示板に顔・氏名・市民ID番号と「信用不良者」の表示を出した。この仕組みは、国家が市民の行動を点数化・格付けする社会信用システムとも統合されつつある。
「最も緊急な問題」は技術バイアスではない
AI監視が提起する問題は技術的バイアスや透明性の欠如など多岐にわたる。しかしSchneierとJon Penneyが「最も緊急かつ長期的な問題」と位置づけるのは、社会全体への萎縮効果だ。
Penneyは新著『Chilling Effects: Repression, Conformity, and Power in the Digital Age』で、萎縮効果を加速させる四つのメカニズムを論じている。
- 監視（Surveillance）：見られているという意識が、行動を自己規制させる
- パーソナライゼーション（Personalization）：個人に最適化された情報環境が、逸脱への心理的コストを高める
- 不確実性（Uncertainty）：何が記録・処罰の対象になるかわからない状況が、過剰な萎縮を生む
- 権威（Authority）：強力な執行主体の存在が、同調圧力を制度的に強化する
これら四つが組み合わさることで、萎縮効果は加速度的に拡大する。人々は自己検閲し、同調的になり、管理しやすくなる。各メカニズムが強力なほど、組み合わせが多いほど、萎縮はより深く広がるというのがPenneyの主張だ。
コンピュータ化によって位置情報・通信相手・購買履歴の追跡はすでに可能だった。AIが新たに加えるのは、コミュニケーションの内容を分析し、「あの人物は今どこにいて何をしているか」という高度な問いに自動で答える能力だ。かつて人間のアナリストが必要だった作業が自動化される。
社会進歩が「実験」を必要とする理由
記事の核心にある論点は、社会規範の変化には「カウンターカルチャーによる実験」が不可欠だという指摘だ。
かつて「不道徳かつ違法」とされていた行為・思想が、「道徳的だが違法」を経て「道徳的かつ合法」へと移行するには、公的にも私的にも逸脱を試みる人々の存在が必要だった。AI監視がこうした「実験」を萎縮させるなら、社会進歩は構造的に不可能になるとSchneierらは主張する。
歴史的な比較として、冷戦期の東ドイツの監視網や、1950〜60年代にFBIが盗聴・郵便開封・密告者・紙のインデックスカードを駆使して展開した共産主義者追跡が挙げられている。それらですら、現代のAI強化型監視と比べると「明らかに時代遅れ」に見えると記事は言う。George OrwellやAldous Huxleyのディストピア小説すら、「ビッグ・ブラザーのテレスクリーン」は20世紀中盤の産物に過ぎないと。
「何もしなくてよい理由はない」
記事はこの脅威を不可避と描くのではなく、政策的選択の余地があると強調して締めくくる。具体的に挙げられる手段は以下の四つだ。
- 顔認識その他の身元識別技術への禁止措置
- データの追跡・保持を制限する強力なプライバシー保護
- 最も侵襲的な用途を制約するAI規制
- 国家とテック企業の癒着構造を解体する構造改革
米国では、国土安全保障省（DHS）がAI監視の利用を急速に拡大しており、移民・反体制的言論を持つ人物・ジャーナリスト・法的オブザーバー・抗議参加者のSNSアカウント監視も含まれると報告されている。OracleのCEO・Larry Ellisonの発言—「市民は常に記録・報告されているため、最善の行動をとるようになる」—は、萎縮効果そのものを目的として語っていると記事は指摘する。DHS報告とEllisonの発言を並べることで、Schneierが描く「監視の制度化」が理念的な警告にとどまらず、すでに進行中の現実であることが浮き彫りになる。
なお、本稿はJon Penneyとの共著としてThe Guardianにも掲載されている。
詳細はAI Surveillance and Social Progressを参照していただきたい。
