9月10日、Inside AI Newsが「Enterprise AI Agents Fail Without Employee Trust, Wharton Blueprint Finds」と題した記事を公開した。エンタープライズにおけるAIエージェント普及の最大の障壁が技術的な能力ではなく「従業員の信頼」であるという、Whartonらの調査結果を詳しく紹介している。
59%が導入しているのに、自律ワークフローに転換できているのは9%だけ
企業のAIエージェント導入に関する数字は、見た目より深刻だ。エンタープライズ組織の59%がエージェント型AIを活用しているとしている一方、それを実際の自律ワークフローに転換できているのはわずか9%にとどまる。現場のミドルマネージャーが実際にROIを実感しているのは、導入事例の27%に過ぎない。これは、企業が今後12か月で平均2億200万ドルのAI投資を計画しているという状況と、大きな乖離がある。
ここでいう「エージェント型AI」とは、単に質問に答えるだけのチャットボットとは異なり、複数ステップのタスクを自律的に計画・実行し、必要に応じて外部ツールやAPIを呼び出して行動できるAIシステムを指す。RAGやMCPといった技術的基盤の上に構築されることも多く、従来のソフトウェアとは根本的に異なる自律性を持つ点が、信頼問題の本質的な背景にある。
問題の構造は、AIエージェントの「使われなさ」にある。あるマネージャーが新しいAIアシスタントを試みる場面を想像してほしい。全ファイルへのアクセス、メールの読み書き、支払い情報の閲覧――次々と表示される権限リクエストに不快感を覚え、エージェントは停滞し、やがて放棄される。この体験が、組織全体で毎日繰り返されている。
3,000人を対象に実施されたAIファイナンシャルアドバイザーの採用調査（元記事によるとWharton関連研究の一環として引用）でも、信頼への懸念がパフォーマンスへの不満を上回ることが明らかになっている。プライバシーへの懸念が採用判断に影響したケースが**31%、意図しない行動への恐れが23%、理解不足が11%**だった。
Whartonブループリントが示す5つの対策
Whartonの研究者たちがGoogle、ServiceNow、Zapierのビジネスリーダーとともにまとめた「Wharton Blueprint for AI Agent Adoption」は、採用率を改善するための5つの実践的な手法を提示している。このブループリントは、ペンシルベニア大学ウォートン・スクール（The Wharton School, University of Pennsylvania）が主導した調査・提言レポートであり、複数の主要テクノロジー企業との協働によって実務的な裏付けを持つ内容となっている。
1. 限界を事前に開示する
AIが失敗しやすい箇所をユーザーに事前に伝えると、透明性の知覚が最大**14.6%向上し、効果的なコラボレーションが最大7.2%**改善した。ツール自体はまったく同一であっても、だ。多くのツールが抽象的な免責事項を提示するだけにとどまる中、マネージャーが社内で具体的なガイドラインを整備する必要がある。
2. 「友好的」より「有能」に見せる
実験では、温かみがあり同意的なAIより、有能なAIの方がユーザーに受け入れられやすいことが示された。Fortune 500企業ConcentrixのCEO、Chris Caldwellは「顧客は速度を提供できない過度に礼儀正しい技術にフラストレーションを感じる」と指摘している。エージェントは何をなぜ行ったかを説明すべきで、たとえば「このタスクを優先した判断基準」を明示することが有効だ。
3. ユーザーの長期的な目標に接続する
AIが広い文脈目標への理解を示した場合、推奨事項の受け入れ率が54%向上した。個人向け金融アシスタントのCleoは、すべての提案を日次目標と財務ロードマップに紐づけている。「この予算調整はヘッドカウント計画と整合している」のように、行動と目標の関係を明示することが重要だ。
4. 「強力な意思決定者」ではなく「補佐役」として見せる
初期の知覚では、同じタスクを人間が行う場合と比べて、AIエージェントのプライバシーリスクは13.8%低く評価されていた。しかしエージェントが実際の意思決定権を持つと想起させると、この優位性は消えた。Microsoftがアシスタントを「Copilot（副操縦士）」と命名したのは、このインサイトを応用した設計だ。言語の選び方として「判断する」「評価する」ではなく「補佐する」「支援する」を使うべきだと、ブループリントは強調している。
5. 自律度は「最小」でも「完全」でもなく「適度」に
これが最も構造的に重要な知見だ。ServiceNowはワークフロー内に「コントロールタワー」を組み込み、ガードレールの設定・活動監視・決定の上書きを可能にしている。WorkatoのCTO、Adam Seligmanはこう述べている。
「企業は『このメールの下書きはできるが、送信はできない』『在庫移動の推奨はできるが、実行はできない』と言えなければならない。明確なコントロールがなければ、エージェントは些細なタスクにとどまり続ける。誰も重要なことを任せないからだ。」
— Adam Seligman, CTO, Workato
自律性が低すぎれば、エージェントは高機能なチャットボットとして扱われ放置される。高すぎれば、信頼されず忌避される。ブループリントが目指すのは「盲目的な依存」ではなく「較正された信頼（calibrated trust）」だ。
「信頼」は機能として設計するもの
この問題は新しいものではなく、かつてのエンタープライズソフトウェア導入の失敗パターンと重なる。ただし、今回は規模と自律性の水準が違う。従来のソフトウェアと異なり、AIエージェントはアクションを自発的に起こし、機密データにアクセスし、顧客や財務に影響する選択を行う。この点は、AIエージェントのセキュリティリスクに関するOWASPの提言や、NISTのAIリスク管理フレームワークでも繰り返し指摘されている課題と本質的に一致する。
ブループリントは「信頼は後付けではなく、設計上の機能として扱うべき」という哲学を示している。開示・有能さの演出・目標整合・補佐役フレーミング・適度な自律性の5つは、製品設計レベルで組み込まれる必要があり、ユーザートレーニングで補うだけでは不十分だということだ。AIエージェントの普及が加速する中で、技術的な完成度よりも「人間がどう受け取るか」という設計観点の重要性は、今後さらに増していくだろう。
詳細はEnterprise AI Agents Fail Without Employee Trust, Wharton Blueprint Findsを参照していただきたい。
