8月24日、TechSpotが「Uber hit with nearly $1 billion fine after algorithms suspended drivers without human review」と題した記事を公開した。Uberがアルゴリズムによる自動的なドライバー停職処分をめぐり、GDPR史上2番目となる約8億2500万ユーロ（約9億6600万ドル、日本円換算で約1,400億円）の制裁金を科されたことを報じている。
アルゴリズムが「解雇」を下す——その何が問題だったか
Uberは、欧州のドライバーを人間のレビューなしにアルゴリズムだけで停職・アカウント停止していたとして、オランダのデータ保護機関（Dutch Data Protection Authority、以下DPA）から約8億2500万ユーロ（約9億6600万ドル、日本円換算で約1,400億円）の制裁金を科された。
問題となったのは2018年〜2022年の運用だ。Uberのシステムは、以下のような行為を「不正」と判定したドライバーを自動的にブロックしていた。
- 運賃を増やすための不必要な迂回と疑われるケース
- 受けた配車をキャンセルする意図があると判定されたケース
- 顧客評価が低いことによる一時的または恒久的なアカウント停止
フランスのデータ保護機関CNIL（Commission nationale de l'informatique et des libertés）と共同で進められた調査の公式見解によれば、これらの判断プロセスに「人間は一切関与していなかった」とされる。
GDPR第22条——自動意思決定を縛る条項
今回の根拠となったのは**GDPRの第22条**だ。この条項は、「本人に重大な法的効果または同様の重大な影響をもたらす決定」を、完全に自動化された処理だけで行うことを原則として禁じている。2018年のGDPR施行当初から、プロファイリングや自動意思決定を事業の根幹に置くプラットフォーム企業への適用が議論されてきたが、今回の裁定はその具体的な線引きを明示した点で業界への影響が大きい。
規制当局の論理はシンプルだ。「停職されたドライバーはプラットフォーム上で仕事ができず、収入を失う。これは重大な個人的影響に該当する」——よって、アルゴリズム単独での判断はGDPR違反となる。さらにUberは、自動処理の仕組みを影響を受けたドライバーに十分に説明していなかったとも指摘されている。
発端は170人以上のドライバーによる集団申告
この調査の発端は、フランスの人権団体「La Ligue des droits de l'Homme（人権同盟）」が170人以上のドライバーを代表して、2020年にCNILへ集団申告を行ったことだ。Uberの欧州拠点がアムステルダムにあるため、オランダのDPAが主管となり、GDPRの越境協力制度のもとCNILが協力する形で調査が進められた。
GDPR罰則ランキングで歴代2位に——累計1,600億円超の一連制裁
今回の制裁金は、2023年にMetaが科された約12億ユーロのGDPR罰則に次ぐ史上2番目の規模だ。さらに今回の件は、同じ集団申告に端を発する3度目の制裁でもある。
- 2023年: €1,000万（ドライバーへの情報提供不足）
- 2024年: €2億9,000万（欧州ドライバーデータの米国移転）
- 今回: 約€8億2,500万（自動意思決定による停職）
一連の調査だけで累計約1,600億円超の制裁金が積み上がっている計算だ。
Uber側の反論
Uberは裁定への不服申し立てを表明し、以下の点を主張している。
- 不正関連の停職は一般的に短期間のものだった
- 恒久的なアカウント停止は常に人間のレビューを経ていた
- 影響を受けたドライバーには異議申し立ての手段があった
- 低評価によりアクセスを失ったのは2021年の1年間で欧州のドライバー126人のみ
また「問題とされた運用は過去のものであり、現行プロセスでは人間によるレビューとより強固な保護措置が組み込まれている」とも述べている。ただし、その「強固な保護措置」の具体的な内容はまだ開示されておらず、規制当局が今後どう評価するかは不透明だ。
エンジニアが考えるべき「自動意思決定」のリスク
今回の件がエンジニアにとって他人事でない理由は明確だ。「人間のレビューなしにアルゴリズムが判断を下す」設計は、パフォーマンスや効率の面で魅力的に映る。しかし欧州規制では、その判断が「誰かの収入や雇用に関わる」ものである限り、自動化だけで完結させることは許容されない。
設計段階で「この判定結果は誰かに重大な影響を与えるか？」という問いを立て、人間が介在できるポイント（Human-in-the-loop）を組み込むことが、今や法的要件として求められている。Uberのケースはその欠如に約1,400億円のコストが伴うことを示した実例となった。
詳細はUber hit with nearly $1 billion fine after algorithms suspended drivers without human reviewを参照していただきたい。
