グーグルの親会社アルファベットの決算が発表された。昨年第4四半期（10〜12月）の売上高は393億ドル（約4兆3,500億円）と、前年同期比22パーセント増えている。グーグル最高経営責任者（CEO）のスンダー・ピチャイは決算発表の席上、投資家たちに向かって、自社の機械学習テクノロジーの進化について誇らしげに語った。最近では、広告の最適化のための新しい方法を編み出したという。
ただ、ピチャイがあえて触れなかったこともある。決算報告書の「リスク要素」の項目には、人工知能（AI）関連のテクノロジーによって倫理的もしくは法的な問題が生じるかもしれないと書かれているのだ。アルファベットが決算にこの種の警告を盛り込むのは初めてとなる。
証券取引委員会（SEC）への提出と開示が義務付けられている「Form 10-K」と呼ばれる年次報告書には、以下のように記されている。
「人工知能や機械学習技術を応用した新しい製品やサーヴィスによって、新たな問題が提起される可能性がある。また、既存の倫理的、技術的、法的、その他の課題がさらに複雑化するかもしれない。こうした問題のために、当社のブランドや製品およびサーヴィスへの需要に悪影響が出る場合もあり、そうしたことが実際に起きれば、収益の悪化につながる」
SECの規定によると、Form 10-Kのリスク情報の項目では、投資家に対して将来的に起こり得るトラブルを開示することになっている。リスク開示は自由市場の維持において重要な意味をもつほか、経営陣による潜在的な問題の隠蔽を巡る投資家からの訴訟を回避する狙いもある。
アルファベットの法務担当チームが、なぜいまという時期を選んで、Form 10-KにAI関連のリスクを盛り込む決断をしたのかは不明だ。グーグルは決算の詳細についてコメントを控えている。なお、グーグルが自律走行車の公道実験を始めたのは2009年だが、それ以来、自動運転技術周りの倫理的問題を扱ったリポートなどは定期的に発表されている。
リスク開示で先行するマイクロソフト
アルファベットはAI研究で業界を主導する立場にあると自認しているようだが、リスク開示においては競合のマイクロソフトに後れをとった。マイクロソフトは昨年8月に公表した通期（2017年7月〜2018年6月）決算で、AIのリスクについてより直接的な表現を用いて述べている。
「データセットが不十分であったり、バイアスがかかったりしいると、AIのアルゴリズムに欠陥が生じる場合がある。マイクロソフトや他社が不適切もしくは議論の余地のある方法でデータを取り扱えば、社会はAIを利用したソリューションを拒否するかもしれない。アルゴリズムに欠陥があれば、AIアプリケーションによる決定、予測、分析は正確性を欠き、結果としてマイクロソフトが競争上の不利益や法的責任を被ったり、ブランド価値や企業評価が下がったりするような事態も起こり得る」
これに比べると、グーグルは少なくとも年次報告書ではAIを巡るリスクをかなり過小評価しているように見える。マイクロソフトもグーグルと同じように何年も前からこの分野に投資しており、2016年には社内にAI倫理委員会を設置した。「AETHER（（AI and Ethics in Engineering and Research）」の名で知られるこの委員会は独立して運営されており、過去には、AIテクノロジーの不適切な利用につながる可能性があると判断した契約にストップをかけたこともある。
なお、自社のAIに問題が生じたことが明らかになった場合、どの時点でそれを開示するのかマイクロソフトに質問したが、回答は得られなかった。
まだ克服できない人種バイアス
AIを巡っては倫理性に関する研究が進み、これまでにさまざまな懸念が提示された。マイクロソフトとアルファベットは、こうした状況において重要な役割を果たしている。
昨年は、マイクロソフトのクラウドサーヴィスで使われているAIに人種や性別のバイアスがかかっていることが明らかになった。このAIは白人男性の顔をほぼ完璧に認識したのに対し、黒人女性では精度が著しく低下したのだ。マイクロソフトはこの事実を認めて謝罪し、問題解決に努めると約束した。
一方のグーグルは、国防総省からのプロジェクト受注を巡ってトラブルに巻き込まれた。ドローンが撮影した画像を解析するアルゴリズムを提供する内容の契約だったが、従業員が軍事プロジェクトからの撤退を求めて抗議活動を始めたのだ。
また、AIが黒人ユーザーの写真を間違って「ゴリラ」とタグ付けしていた問題では、いまだに「Googleフォト」の検索単語から一部の霊長類が除外されていることがわかっている。
関連記事 ：グーグルの画像認識システムは、まだ「ゴリラ問題」を解決できていない
先行指標としてのリスク開示の意味
年次報告書におけるリスク開示など、どうでもいいではないかと思われるかもしれない。Form 10-Kは結局のところ、当局や投資家、市場関係者など一部の人のために用意された専門用語の寄せ集めにすぎないからだ。
しかしそれでも、こうした動きは世間の注目を集めるはずだ──。こう指摘するのは、スタンフォード大学ロースクール教授でコーポレートガヴァナンスなどを研究するデヴィッド・ラーカーだ。「こうしたものに目を通す人はいるのです」
グーグルなりマイクロソフトなりの経営陣が何を考えているかを知るために、投資家や競合他社はリスク分析には特に注視している。Form 10-Kで触れられるリスクの大半は景気減速の可能性といったごく一般的なことだが、同じ業種でも企業によって違いがあったり、たまには通常とは違うことが盛り込まれることもある。AIの倫理課題はまさにこれに相当し、重要な意味をもつかもしれないのだ。
AIや機械学習に自らの未来を託す企業のすべてが、その予期せぬ影響をリスクだと考えているわけではない。
例えば、IBMは2017年の通期決算報告書で、自分たちは「急拡大するAIソフトウェア市場で先頭を走って」おり、同時に「データの取り扱いを巡る責任、倫理、透明性」といったことでも業界を主導する立場にあると主張する。一方で、ここにはAIや機械学習の危険性については何も書かれていない。IBMにコメントを求めたが、回答はなかった。
「政府の規制」をリスク要因に挙げるアマゾン
アマゾンはどうだろう。アマゾンでAIと言えば音声アシスタント「Alexa」や配送センターのロボットなどが思い浮かぶが、1月末に公表された昨年の通期決算には、リスク要因の項目にAIへの言及があった。ただ、アマゾンがリスクとして挙げたのはAIの偏向の危険性や倫理面での課題ではなく、政府による規制強化だ。
問題の箇所には「政府の規制強化がビジネスに悪影響を及ぼす可能性」という見出しが付けられている。アマゾンはここで、「インターネット、電子商取引、デジタルコンテンツ、ウェブサーヴィス、AI技術といった分野で、資産の所有権、名誉毀損、データ保護、プライヴァシーなどを巡る既存の規制がどのように適用されていくかは不透明だ」と述べている。
ところが、アマゾンは政府に対して顔認識への規制を求める姿勢も打ち出している。同社は警察当局などに顔認識技術を提供しており、社会的にはこのテクノロジーの危険性を訴えながら、投資家に対しては「規制強化が行われればビジネスに影響が及ぶ」と警告しているわけだ。アマゾンにこの点についてコメントを求めたが、回答は得られていない。
関連記事 ：アマゾンが「顔認識技術の規制」に前向きな姿勢を示すも、どこまで本気なのか？
スタンフォード大学のラーカーは、新しいテクノロジーやビジネス慣行は、その重要度が増せばリスク要因として認識されるようになると指摘する。かつてはForm 10-Kでサイバーセキュリティが問題になることはほとんどなかったが、いまでは決まり文句のように、リスク要因には必ず含まれるようになっている。
次はAIかもしれない。ラーカーは「物事の自然の成り行きのようなものなのかもしれません」と言う。
[ 人工知能／AIに関する記事一覧 ]
TEXT BY TOM SIMONITE
TRANSLATION BY CHIHIRO OKA