9月17日、Matthias Bastianが「Google Deepmind launches interdisciplinary institute to tackle the big questions around AGI」と題した記事を公開した。Google DeepMindがAGIを巡る安全性・ガバナンス・リスクを横断的に研究する学際的機関「DeepMind Institute（DMI）」を設立したことについて詳しく紹介されている。
AGI研究に特化した新機関「DeepMind Institute」が発足
Google DeepMindは「DeepMind Institute（DMI）」を設立した。 AGI（汎用人工知能）を巡る学際的な研究と議論のプラットフォームとして位置づけられており、共同ディレクターにはShane Legg、James Manyika、Demis Hassabisの3名が就いている。なお、HassabisはGoogle DeepMindのCEOでもあり、2024年にノーベル化学賞を受賞した人物だ。
DMIはGoogle DeepMind・Google・世界各地の科学者コミュニティから研究者を集め、AGIに関する安全性、ガバナンス、サイバー攻撃リスク、制御不能リスクといった問いに取り組む組織として設計されている。ディレクター陣が強調するのは、こうした問いへの答えを技術者だけに委ねるべきではないという考え方だ。人文学・芸術・政策立案の知見も不可欠とされており、組織の「学際的（interdisciplinary）」という性格はここに集約される。学際的とは、複数の学問領域にまたがって問題にアプローチすることを意味し、DMIの場合は情報科学・倫理学・政治学・人文科学などを横断する研究体制を指している。
DMIが具体的に取り組む研究テーマとして、元記事では以下が挙げられている：
- AGIの安全性・制御可能性に関する研究
- サイバー攻撃リスクなどAGI固有のセキュリティ上の脅威
- AGIのガバナンスと政策立案への貢献
- AGIが社会・経済・文化に与える広範な影響の評価
技術的な研究だけでなく、社会科学・人文学の研究者や政策立案者を制度的に巻き込む仕組みを持つ点が、従来のAI研究機関との差別化として強調されている。
AGIの定義自体が未確定という前提
一見地味だが重要な背景として、AGIには現時点で合意された定義が存在しない。
DeepMindは「人間の脳が持つすべての認知能力を備えたシステム」としてAGIを定義しており、AGI実現は近いとの立場をとる。一方で、現在のAIシステムは単純なタスクにおいてすら失敗するケースがあり、創造性も欠如していると同記事は指摘している。
各社・各者でAGIの解釈も大きく異なる：
- Demis Hassabis：AGIは数年以内に到来すると見ている
- Shane Legg：最小限のAGIの前駆体が2028年までに登場する可能性を50%と予測
- OpenAI / Sam Altman：経済的価値を基準にAGIを定義しており、2026年末までにAGIが実現するとの見方を示している
なお、AGIと混同されやすいASI（人工超知能、Artificial Superintelligence）は、あらゆる点で人間を大幅に超える知性を指す概念だ。AGIはASIへの必要なステップとして位置づけられることが多く、DMIの研究対象にはこうしたAGIからASIへの移行リスクも含まれている。
技術コミュニティの外側を制度的に巻き込む設計
DMI設立の最も特徴的な点は、組織設計の思想にある。安全性やガバナンスといったAGI固有のリスクに対して、技術コミュニティの外側にいる人々の声を制度的に取り込む仕組みを作ろうとしている点だ。既存のAI研究機関の多くがエンジニアリングや機械学習の専門家を中心に構成されているのに対し、DMIは人文学者・倫理学者・政策立案者・芸術家といった非技術系の専門家を対等なパートナーとして位置づけている。
この動きは、AI開発における意思決定の構造そのものを問い直すものとして注目に値する。OpenAIでは安全性チームの解散やガバナンス上の混乱が相次いで報じられており、業界全体でAI安全性の担保をどう制度化するかが問われている時期と重なる。DeepMindが「研究機関」という形でこの問いに応答した格好だ。
また、DMIはGoogle DeepMindという営利企業の傘下に置かれた機関でもあるため、独立性や研究の中立性をどう確保するかという問いも今後浮上してくる可能性がある。この点について元記事は明確な言及をしていないが、DMIの活動が進む中で重要な論点となりうるだろう。
※編集部の考察：DMIのような学際的機関が実効性を持つためには、研究成果が実際の政策や製品開発に反映される経路を確立できるかどうかが鍵になる。組織の理念と実際の意思決定プロセスの距離感は、今後継続的に注視すべきポイントだ。
詳細はGoogle Deepmind launches interdisciplinary institute to tackle the big questions around AGIを参照していただきたい。
