1975年2月、遺伝学者のグループが、自分たちの研究が世界に終わりをもたらすのかどうかを議論するため、カリフォルニア州セントラルコーストの小さな街に集まった。自然界に存在しない生物を遺伝子操作によってつくろうとしはじめたばかりだった彼らは、こうした技術が地球と人類にどんな影響を及ぼすのか確信がなかった。そこで研究者たちは、海岸近くの避寒地アシロマに集まって会議を行ったのだ。
このアシロマ会議で定められた厳格な倫理的枠組みたるガイドラインは、バイオテクノロジーによるアポカリプスを防ぐためにつくられた。
2017年、アシロマにて再び
42年後、また違う科学者のグループがアシロマに集まり、似たような問題について検討した。だが今回の議論されたのは、生物学的脅威ではなく、デジタルの脅威だった。2017年1月、人工知能（AI）分野における世界有数の研究者たちが、42年前と同じ浜辺の小道を歩きながら、加速度的に研究が進むAI分野が人類の運命に与える影響について話し合ったのだ。
社会的影響力が大きく、またプライヴァシーを要するテーマであるため、会議は内々に行われた。だが、会議の主催者側が最近、会議中のやりとりを撮影した複数の動画を公開した。また、一部の参加者も自らの体験について進んで説明し、AI分野の脅威に対する研究者の見方を明らかにした。
研究者たちは、何らかの理由で人が「超知能」（superintelligence）を制御できなくなる可能性について話し合った。そして会議の最後には、想定されうるこうした暗黒世界を防ぐ目的で、参加者やほかのAI界の名士らが署名したガイドラインが発表された。だが、アシロマに集まった研究者たちは、経済に与えるAIの影響という、もっと差し迫った問題についても懸念を抱いていた。
昔ながらの雇用は「復活しない」
会議に参加したアレン人工知能研究所のオレン・エツィオーニ所長は、次のように語る。「『超知能への懸念』について議論するのが好きではない理由のひとつは、それが実際に社会で進行している問題から注意をそらせるからです。詩人のホルヘ・ルイス・ボルヘスが述べたように、架空の問題は少なく、現実の問題は多く扱ってほしいのです」
トランプ政権が、昔ながらの製造業の雇用者数を回復させて、「米国を再び偉大な国にする」と約束していても、AIの研究者たちはその言葉をあまり真剣に受け止めていない。昔ながらの製造業の雇用者数は、けっして回復しないとわかっているからだ。これは、少なからずAI研究のせいであり、今後数年以内にほかの多くの職種も消えていくだろう。
研究者たちはアシロマで、米国経済のリアルな現状、そして中産階級が「空洞化」している真の理由に注目した。問題は移民などではない。問題は、国外への生産発注や税金、規制でもない。問題はテクノロジーにあるのだ。
マシンに対する反乱
米国における製造業の雇用者数は、1979年をピークにじりじりと減少してきた。それと同時に、製造業自体は着実に拡大している。米国は、中国を除くほかのどの国よりも多くの商品を製造している。機械は、ただ組立ラインで人の代わりに仕事をしているわけではない。人よりも良い仕事をしているのだ。来たるべきAIの波が、経済のほかの多くの分野に強い影響を与える前でも、この状態だ。
マサチューセッツ工科大学（MIT）の経済学者アンドリュー・マカフィーは、アシロマでの初日に次のように語った。
「『ターミネーター』のようなシナリオについては、それほど心配していません。現在の傾向が続けば、マシンよりかなり先に人が反乱に立ち上がることでしょう」
マカフィーは、最近収集されたデータ［PDF］に言及した。そのデータによると、1980年代以降、中産階級における雇用創出は急減しているという。大半の新規雇用の給料は、賃金水準の最低ラインか最高ラインかのどちらかだ。
ただし、こうした傾向は逆転可能である。よりよい教育がなされ、起業家精神と研究がもっと重視されるようになれば、新たな成長エンジンが生まれる可能性がある。過去にも経済は、新技術の台頭を乗り越えてきた、とマカフィーは主張した。だが彼は講演後、会場で多くの研究者に警告された。来たるべきAI革命によって、彼の予想よりもかなり速いペースでもっと多くの雇用が失われる、というのだ。
実際、運転手のいない自律走行の乗用車やトラックの出現は始まりにすぎない。新しいAI技術は、製造、医療、ウォール街など、あらゆる分野を改革しようとしている。つまり、AIによって危険にさらされるのは、ブルーカラーの仕事だけではない。マカフィーは次のように語る。「この分野の権威である研究者数人に、『あなたは事を過小評価している。変化のペースを低く見積もりすぎているんだ』と言われました」
そういった脅威を根拠に、多くの思想家は、ユニバーサル・ベーシック・インカム（UBI）や、失業者に政府が支払う生活賃金の保障、といった案を検討している。だがマカフィーは、それでは問題を悪化させるだけだと確信している。起業家精神への誘因や、昔ながらの仕事が消えるなかで新しい仕事を創出できるほかの活動への誘因がなくなってしまうからだ。「UBIは、人々に尊厳を与えたり、退屈や不道徳から守ったりしてくれません」とエツィオーニ所長も指摘する。
誰もわからない
研究者たちは、AIそのものに対する規制についても懸念していた。移民の受入制限は、マカフィーが求めるような起業家精神にブレーキをかけようとするものだが、ホワイトハウスは今後、「自動化とAIの封じ込め」に動くかもしれない、と懸念されているのだ。そうなれば、AI研究者にとってだけでなく、経済にとっても悪いニュースになる。AIによる社会革命が米国で鈍化しても、ほかの国で加速するだけで、国際競争によって米国人の雇用がもっと大きな危険にさらされるかもしれない。
結局、アシロマを去るときに、経済の激変を防ぐ確かな方法を知っていた者はひとりもいなかった。「自信をもってAIの未来を予測する者がいたら、それは冗談を言っているか、甘い考えを抱いているかのどちらかです」とマカフィーは言う。
とはいえ、アシロマに集まった研究者は、答え探しに専心していると述べている。「人々は、さまざまな方法で懸念に対処しています。この問題について関心のないAI研究者には出会ったことがありません」とエツィオーニ所長は語る。だが研究者たちは、AIの台頭を防ぐのが答えではないとも確信している。それに、そんなことは実際には不可能だ。その点では、昔ながらの製造業の雇用を取り戻そうとするのと少し似ている。
※ 本会議は、ボランティアで運営される研究支援団体Future of Life Institute（FLI）によって開催された。FLIは「Asilomar AI Principles」を発表しているが、その内容は邦訳され、ネット上にもアップされている。
TEXT BY CADE METZ
TRANSLATION BY MINORI YAGURA, HIROKO GOHARA/GALILEO