8月24日、CNBCが「Goldman Sachs partner warns of 'huge danger' in letting AI replace bankers' reasoning skills」と題した記事を公開した。ゴールドマン・サックスのパートナーがAIへの過度な依存が銀行員の推論能力を蝕む「巨大なリスク」になると警告したものだ。

「推論をAIに外注すれば、思考力は退化する」

ゴールドマン・サックスのパートナーで、同行の機関投資家向けデジタルプラットフォーム「Marquee」を率いるクリス・チャーチマン氏は、同行のポッドキャスト「Exchanges」の最新エピソードでこう述べた。

「AIの時代に推論をモデルに外注してしまえば、認知的退化（cognitive atrophy）が起き、自分でファーストプリンシプル（第一原理）から推論できなくなる大きな危険がある」

「認知的退化」とは、特定の能力を使わなくなることで、その能力が徐々に失われていく現象を指す。ナビゲーションアプリの普及で方向感覚が鈍り、スマートフォンで連絡先を外部記憶させることで電話番号を覚えなくなったのと同様に、アルゴリズムが分析の大部分を担えば、銀行員は分析力そのものを失うリスクがある、と彼は指摘する。

「推論はいまも重要だ。問題を構造化して論拠に落とし込む力が必要なのに、その推論自体を委託しようとしている」

ウォール街の「悪魔の取引」

AIをトレーディングや銀行業務全体に組み込もうとするウォール街の動きは、今日の収益性を高める一方で、明日の人材育成を損なう可能性がある。

問題の核心は、ウォール街が長年維持してきた「徒弟制（apprenticeship culture）」にある。ジュニアバンカーやジュニアトレーダーは、経験豊富な上司の監督下でルーティンワークをこなすことで、意思決定の感覚を身につけてきた。AIがそのルーティンを代替すれば、学習機会そのものが消える。

チャーチマン氏は具体例を挙げる。ジュニアトレーダーはベテランの監視下でクライアントからの価格提示依頼（プライシングリクエスト）を処理しながら成長する。

「それは完全に自動化できる。でも、そうしたときに、物事を深く理解したシニアトレーダーが育つだろうか？」

さらに問題は人材育成だけにとどまらない。CNBCが昨年報じたように、ウォール街各社はAIを活用してシニアに対するジュニアバンカーの比率を下げる方法を検討しており、ジュニアポジション自体が縮小する可能性もある。

「暗黙知」は書き留められていない

チャーチマン氏が特に危惧するのが「暗黙知（tacit knowledge）」の喪失だ。暗黙知とは、文書化されることなく経験を通じて受け継がれてきた知識・判断力のことを指す。マニュアルに落とし込めないがゆえに、実践の場での反復によってしか習得できない類の能力である。

「人は実践で学ぶ。多くの知識は暗黙知であり、書き留められたことがない」

ゴールドマン・サックスは、優秀な人材が持つその暗黙知を失わず、次世代に継承する仕組みを作らなければならない、と彼は言う。そして、AIと人材育成のバランスをどう取るか、自社でもまだ「答えを出せていない」と率直に認めた。チャーチマン氏はUBSで為替トレーディングを統括した後、2021年にゴールドマンに参画した人物でもあり、現在は同行のGlobal Banking and Markets AI working groupの共同議長も務める。

高リスク・高不確実性の意思決定では、従業員が主体的に判断を下せる設計が必要だと彼は強調する。AIに受け身で従うだけの「受動的なオペレーター」を量産してはならない、というわけだ。

AIが自ら認めた限界

ポッドキャストでは、MarqueeへのAI実装で得た技術的な知見も共有された。現時点でMarqueeのAIプラットフォームはゴールドマン社員のみが利用できる状態だ。

最大の技術的課題は、AIの回答が100%事実に基づいており、監査可能であることの保証だという。一般向けのAIチャットボットは「誤りがあるかもしれない」と注意書きをするが、金融の世界でエラーの許容度は極めて低い。

そしてチャーチマン氏が明かした最も印象的なエピソードが、AIが自らの限界を認めた瞬間だ。

「厳しく問い詰めたとき、少なくとも正直だった。AIはこう言ったんだ——『結局のところ、私は徹底的に見えることの方が、実際に徹底することよりも得意なんです』と」

（原文：*'I am much better at appearing thorough than actually being thorough'*）

「徹底しているように聞こえること」と「本当に徹底すること」は別物だ——この自己認識は、AIを高精度が求められる金融業務に組み込む際の本質的な難しさを端的に示している。

詳細はGoldman Sachs partner warns of 'huge danger' in letting AI replace bankers' reasoning skillsを参照していただきたい。