9月2日、thecooldown.comのVivian Tranが「California bill banning workplace AI emotion surveillance heads to Newsom, would bar 'neural data'」と題した記事を公開した。カリフォルニア州議会が職場でのAI感情監視と神経データ収集を禁じる法案を可決し、知事の署名待ちとなっている状況を詳しく報じている。
職場AIが「感情」を読もうとしている
AIが従業員の感情状態をリアルタイムでモニタリングし、神経系から発せられる信号データを収集する——そうした技術がすでに実用段階にある。バーガーキングが導入した「Patty」AIアシスタントは、従業員のヘッドセットに組み込まれており、「友好的な言葉遣い」に関連するフレーズを検出する機能を持つ。同社は「コーチング目的」と説明しているが、こうした技術の存在自体が議論を呼んでいる。
感情AIの市場規模は、人材・組織コンサルティング専門会社Korn Ferryの試算によれば2030年までに90億ドルに達する可能性があるとされており、採用・研修・コールセンターや事務所でのモニタリングなどへの活用が推進されてきた。
AB 1883の中身
カリフォルニア州議会を通過したアセンブリー法案1883（AB 1883）は、現在ギャビン・ニューサム知事の署名を待っている段階だ。
法案の主な内容は以下のとおりだ：
- 禁止事項：雇用者がAIシステムを使って従業員の感情状態を監視することを禁止
- 神経データの収集禁止：「中枢・末梢神経系からの信号を計測して得られる情報」と定義される神経データ（ニューラルデータ）の収集を禁止
- 罰則：違反1件につき500ドルのペナルティ
- 適用除外：航空機関連業務、国家安全保障・軍事・宇宙・防衛に関わる製品は対象外
一方、監視ツール自体をすべて排除するわけではない。安全管理などの目的での職場モニタリングは引き続き認められる。
「感情AIの精度」には科学的な疑問が残る
ミシガン大学情報学部のDr. Elissa Redmiles准教授が2025年3月に行った分析によれば、感情AIが感情を計測する能力は「いまだ議論の余地があり、確立されていない」とされている。精度への疑問が拭えない状態でこうしたツールが職場に普及すれば、誤判定が従業員の評価や労働環境に悪影響を及ぼすリスクもある。
EUはすでに**2024年8月に施行されたAI法（EU AI Act）**で職場での感情監視を禁じており、カリフォルニア州の動きはその流れに沿うものだ。
関連する規制の動き
AB 1883は単独の動きではない。カリフォルニア州では職場AIへの規制整備が並行して進んでいる：
- SB 951：AIを主因とした大規模解雇や事業移転の際、従業員への事前通知を義務付ける法案
- SB 947：自動化された意思決定システム単独による懲戒処分や解雇の判断を禁じる法案
さらに州規制当局は、一部の雇用主に対してすでにAI活用に関するルールを設けている。
なぜ今これが重要か
感情AIや神経データの収集は、従来の「監視カメラ」や「行動ログ」とは一線を画す。人間の内面状態や生理信号まで読み取ろうとする点で、プライバシー侵害の性質が根本的に異なる。AB 1883が成立すれば、こうした技術に対して法的な歯止めをかける先行事例となる。
一方で、罰則が違反1件あたり500ドルにとどまる点については、実効性に対する懸念も根強い。大企業にとって500ドルは抑止力として機能しにくく、法律の存在が形骸化するリスクがある。EUのAI法が違反に対して数千万ユーロ規模の制裁を設けているのとは対照的であり、今後の改正論議や罰則強化の動きが生じる可能性は十分にある。※編集部の考察
ニューサム知事が署名するかどうかが当面の焦点だ。知事はこれまでも複数のAI規制法案への対応で注目を集めており、本法案への判断も業界・労働者双方から注視されている。
詳細はCalifornia bill banning workplace AI emotion surveillance heads to Newsom, would bar 'neural data'を参照していただきたい。
