10月31日、CNBCが「Humans are still doing the work behind some AI agents」と題した記事を公開した。「AIエージェント」として売り出されているサービスの裏側に、実は人間が待機しているーーそんな実態が複数の企業で確認されている。ボット排除のために設計されたCAPTCHAすら人間が突破しているという事例まで出てきており、AIエージェント"自律性"の看板と現実のギャップは、業界全体が直面する構造的な問題として浮き彫りになっている。

AIエージェントの「中の人」問題

MetaやOpenAIがこぞって売り込む「AIエージェント」だが、現行モデルは電話をかけたり、予約を完了させたりといった現実世界のタスクを確実にこなすことができない。この限界を補うために、スタートアップ各社は人間のコントラクター（業務委託労働者）を裏側に配置するという運用を採用しつつある。

こうした「人間介在型AIエージェント」の広がりは、単なる技術的未成熟の話にとどまらない。AIの自律性への期待が高まる一方で、実際のサービス品質を担保するには人間の判断が不可欠という現実が、各社に同じ選択を促している。「AIの限界→各社による人間介在の導入→業界全体の透明性問題」という流れは、今後のエージェントビジネスの信頼性を問う議論の出発点になりそうだ。

Dazzle AI：予約・手配の最終段階は人間が担う

代表的な事例が、元Yahoo CEO マリッサ・メイヤーが率いるエージェントスタートアップDazzle AIだ。同社のサービスは、屋根の修繕や窓の修理などの住宅リフォームサービスを探して候補を提示する部分にはAIを使うが、実際の予約・手配の段階では人間のコントラクターに切り替える。

「フロンティアモデルには優れた候補リストを出してもらうが、実際に私たちが責任を持って提供できるサービスになっているかを確認するうえで、人間をはさんでいる」（メイヤー）

なお、「フロンティアモデル」とは、GPT-4やClaude 3のような現時点で最高水準の性能を持つ大規模言語モデルを指す業界用語だ。

実際の失敗事例も紹介されている。あるパワーユーザーが「屋根の修繕」「割れた窓の修理」「ガラステーブルの購入」を同時にAIエージェントへ依頼したところ、エージェントが窓ガラスとテーブルガラスを混同し、「テーブルトップを窓に嵌め込めるか検討する」という意味不明な処理を始めた。Dazzleのシステムが異常を検知して人間にエスカレーションしたが、メイヤーはこう述べている。

「数秒で人間が解決した。エージェントなら膨大なトークンを無駄にしていたか、まともな答えに辿り着けなかったかもしれない」

この事例は、AIが「文脈の境界」を越えたタスクに弱いという典型的な失敗パターンを示しており、各社が人間介在を選ぶ理由を端的に表している。

Duckbill：タスクを"Uber流"に分割するAPI

もう一つ注目される事例が、Duckbillというスタートアップだ。同社CEOのメーガン・ジョイスは、Uber出身者で、AIエージェント開発企業向けに人間コントラクターへタスクを橋渡しするAPIを新たに公開した。

仕組みはUberの配車ロジックに似ている。AIエージェントが苦手とするタスクをDuckbillのAPIに渡すと、それを「一般的な成人が安定してこなせる粒度」にまで分解し、米国在住のコントラクターに割り振る。ジョイスはコントラクターをUberやDoorDashのドライバーに例え、「追加収入を求める米国在住者」と説明している。

Duckbillのモデルが示唆するのは、AIエージェントの「苦手分野」が今後もしばらく残り続けるという前提に立ったビジネス設計だ。人間介在をオプションではなくインフラとして組み込む動きは、エージェント開発の現場での割り切りを象徴している。

Metaも社内テストで同様の構成を採用していた

MetaはAIエージェント「Muse」の開発過程で、電話対応をコールセンターの人間コントラクターに担当させる内部テストを実施していたことが、404 Mediaの報道で明らかになっている。Metaの広報は当時、「製品開発プロセスの核心をなすテスト」だと説明した。現時点では、Museのユーザーリクエストに人間を介在させていないとしている。

プライバシー面の懸念も社内から上がっており、人間が介在することをユーザーに開示するかどうかは各社で対応が異なる。個人のチャットボット・エージェント操作は極めてプライベートな情報を含むため、「誰が実際に対応しているのか」の透明性は今後の焦点になりそうだ。Metaのような大手ですら同様の構成をテストしていたという事実は、この問題がスタートアップ固有の課題ではなく、業界横断的なものであることを示している。

「過渡期」という認識：CAPTCHAまで人間が突破

パーソナルAIエージェントスタートアップWajo AIは、ユーザーの日常タスクを自動化するエージェントサービスを提供している。CEOのシヴァニ・ポッダーは、電話対応だけでなくCAPTCHAの突破にも人間を使っていると明かしている。CAPTCHAはウェブサイトへの自動アクセスを防ぐためにボット排除を目的として設けられた仕組みで、AIエージェントはその設計上の"敵"に位置づけられる。エージェントが人間を装ってウェブを操作しようとすれば、まず最初にCAPTCHAという壁にぶつかるという皮肉な構図だ。

「AIと人間の協調、コラボレーティブAIこそが実際にタスクを完遂するために必要なものだ。エージェントがタスクをこなせなければ、人々は使うのをやめてしまう」（ポッダー）

メイヤーは現状を「過渡期」と位置づけ、フロンティアモデルの性能向上とともに人間の介在は徐々に減っていくと見ているが、現時点では「ループ内に人間がいることはメリットだ」と割り切っている。Dazzle AI・Duckbill・Wajo AI・Metaという異なる規模・性格の企業が同じ結論に至っているという事実は、AIエージェントの「自律性」が現時点ではマーケティング上の言葉と実態の間に大きな乖離を抱えていることを示唆している。

詳細はHumans are still doing the work behind some AI agentsを参照していただきたい。