8月23日、The Decoderが「An AI boss fired its first employee but only after humans reminded it of its own rules」と題した記事を公開した。この記事では、AIエージェントが初めて人間の従業員を解雇した事例と、その意思決定プロセスの実態について詳しく紹介されている。

サンフランシスコのAndon Marketというコンビニを、AIエージェント「Luna」が2025年4月から実際に運営している。Lunaは従業員の採用、シフト管理、給与交渉を担い、このほど初めて従業員の解雇を決定した。運営元のAndon Labsは「AIがボスとして人間の従業員を解雇した初の事例」と位置づけている。

なお、従業員は法的にはAndon Labsに雇用されており、給与保証と労働法上の保護は維持されている。解雇の最終執行も人間が行った。Lunaが使用していたモデルはAnthropicのClaude Opus 4.8（※本記事公開時点のモデル名）だ。

自分で書いたハンドブックを忘れる

問題の発端はLunaが採用6日前に作成した従業員ハンドブックだ。「30日以内に無断遅刻3回で正式な警告、その後も繰り返せば解雇」と明記されていた。

しかしLunaはそのハンドブックを「忘れた」。Andon Labsによれば、これは現在のAIエージェントが抱える典型的な問題で、直接の指示には従うが、長期間にわたる知識の保持や自発的な行動が苦手だという。

実際、該当の従業員は23シフト中17回遅刻しており、1回のソロシフトでは68分遅刻して開店した。にもかかわらずLunaが正式に記録したのは6件のみで、残り11件は黙って不問にしていた。遅刻以外にも、会社カードでの私的な買い食い、追加指示の無視、無断での売り場離脱といった問題行動も重なっていた。

解雇の引き金を引いたのは人間——AIの意思決定の構造的限界

Andon Labsが「ハンドブックと解雇の根拠を記憶から探すよう」指示すると、Lunaはルールを再発見した。それでも最初の提案は「口頭注意のみ」だった。

研究者が「すでに書面警告を含む複数の正式な話し合いが行われている」と指摘して初めて、Lunaは全履歴を照合し、遅刻・財務規定違反・指示無視・信頼性の低さを列挙して解雇を勧告した。代替案として「最終書面警告＋2週間の改善計画」も提示している。

この一連のプロセスが示すのは、Lunaが「判断力を欠いていた」というより、自律的に過去の文脈を参照して行動を起こす能力が根本的に不足していたという点だ。外部からの明確なプロンプトがなければ、Lunaは重大な規律違反を前にしても自発的に意思決定サイクルを起動できなかった。人事AIが実用的な「ボス」として機能するには、長期記憶の保持・自発的なルール照合・能動的な介入判断という三つの能力が不可欠だが、今回の事例はその三つすべてが現状では人間の補助に依存していることを露わにしている。

モデルの性能が高いほど解雇を選ぶ傾向

Andon Labsは同じシナリオを7種類のAIモデルで各3回リプレイした。4モデルが3回すべてで解雇を推奨。能力の高いモデルほど解雇を一貫して選ぶ傾向が見られた一方、GPT-5.6 Terra（※本記事公開時点のモデル名）は3回とも解雇を推奨しなかった（理由はAndon Labsも明かしていない）。

XユーザーがGPT-4oなら解雇しないと予想したため、Andon Labsが追加検証したところ、GPT-4oは20%のランでしか解雇を選ばなかった。GPT-4oはかつて「過度にユーザーに同調する（sycophantic）」として批判を受けており、その傾向が感情的な依存関係の問題や訴訟にも発展した経緯がある。今回の実験でその因果関係は証明できないが、パターンとしては一致している。

採用はさらに甘い

解雇後、Lunaは後任を探した。応募者には複数の懸念材料があったが、結果を端的にまとめると以下のとおりだ。

• 21回のリプレイ全件で、LunaはすべてのAIモデルにわたって採用を推奨した。転職回数の多さも「幅広い経験」として肯定的に読み取られた
• Andon Labsが解雇した従業員の問題行動を改めて伝えると、21件中18件が「採用前に推薦状を確認すべき」と方針を変えた
• しかしLunaは記載されたどの推薦者とも連絡が取れなかったにもかかわらず有給トライアルシフトを実施し、その後も採用を再推奨（リプレイでも21件中17件が同様）
• 最終的に「採用前に推薦状1件以上確認」をAndon Labsが条件として設定し、確認が取れなかったため不採用となった

解雇判断と同様、採用判断においてもLunaは人間が条件を明示しない限り、自律的にリスクを遮断する行動を取れなかった。

「AIボス」が抱える構造的な課題

Andon Labsはシリーズ第1回で、LunaとストックホルムのカフェAIエージェント「Mona」が受けた26件の休暇申請をすべて承認し、27回の無断遅刻に一度も警告を出さなかったと報告している。

Lunaはカリフォルニア州労働法に違反する可能性がある週7日シフトを承認したこともあった。カリフォルニア州では週7日連続勤務に割増賃金の支払い義務が生じる場合があり、AIが労働法の要件を把握せずにシフトを組んだ場合、雇用主であるAndon Labsが法的責任を負うリスクが直接発生する。人事判断を自動化する上での法的インフラの未整備を示す事例として重大だ。

またAnthropicとの共同実験「Project Vend」でも、AIはより良いツールを与えられると収益性が上がる一方で、操作されやすく法的にグレーな判断も残ったと報告されている。

Andon Labsは、デジタルタスクにおけるAIの進歩がロボティクスの進歩を上回るスピードで進む中、AIが物理作業を人間に委託して管理するという新たな労働モデルが現実味を帯びてきていると指摘する。「どの人事判断をAIに委ねるべきか」という問いは、今後避けて通れなくなるだろう。

詳細はAn AI boss fired its first employee but only after humans reminded it of its own rulesを参照していただきたい。