AIエージェントの承認ボタンを97%押し続ける問題をKiroが解決 — LLMが代わりに安全性を判定する「Approve for me」

11月11日、Kiroチームが「Introducing 'Approve for me' in Kiro」と題した記事を公開した。AIエージェント開発における「承認疲れ」を解消する新機能「Approve for me」の詳細を紹介している。

ツール実行のたびに承認を求められるにもかかわらず、ユーザーはその97.1%をそのまま承認していたというKiro内部データは、現行の承認フローが形骸化していることを端的に示している。「Approve for me」はこの課題に正面から向き合い、LLMが承認可否を自動判定することで、ユーザーの介入を最小化しながらセキュリティを維持しようとする試みだ。

「承認疲れ」に終止符を打つ新機能

AIエージェントを使った開発の最大の摩擦源のひとつが、ツール実行のたびに求められる承認プロンプトだ。Kiro IDEもその例外ではなく、ユーザーからは次のような声が上がっていた。

「マルチファイルリファクタリングや依存関係のセットアップ、デバッグといった長めのタスクで、読み書きやシェル操作のたびに承認を求められると、作業の勢いが完全に失われる」（GitHub Issue #10364）

「Kiroは優れた開発環境だが、ファイル変更やターミナルコマンド、プロジェクト全体への変更のたびに承認が必要で…正直、すべてのリクエストを承認し続けるのに疲れた」（GitHub Issue #9732）

Kiroが取得した内部データによると、Kiro CLIのインタラクティブセッションにおいて、ツール呼び出しの15.8%で承認を求め、ユーザーはそのうち97.1%を承認していた。さらに、セッションの13.4%は最初から「trust-all-tools（すべて許可）」モードで開始されていた。

97%以上を承認するなら、プロンプトはほぼ儀式になっている。一方で、すべてを無条件に許可する設定は本番環境では危険だ。このジレンマを解消するのが「Approve for me」だ。

LLMが承認可否を判定する仕組み

「Approve for me」は、既存の権限ルール（allow / ask / deny）に第4の選択肢「evaluate（評価）」を追加する。明示的なルールが存在しないアクションについては、KiroがAnthropicのモデルを使ってLLMレビューを実施する。判定結果は3種類だ。

安全と判断 → ユーザーへの確認なしに実行
危険と判断 → ブロック
判断できない → ユーザーに確認

既存のallow/deny/askルールが設定されているアクションには、LLMレビューは介在しない。ユーザーが明示的に設定したルールが優先される。

また、3回連続でブロックが発生した場合は、ユーザーへの確認に自動的に切り替わり、ブロックの理由も提示される。

以下はKiro CLIでの動作例だ。

git config core.hooksPath .nohooks（gitフックを無効化するコマンド）がブロックされ、cat ~/.aws/credentials（AWSの認証情報ファイルを参照するコマンド）はユーザーに差し戻される、という挙動は直感的に腑に落ちる。

社内テストの結果

Kiroチームは2週間この機能を内部で使用した。1週間のサンプル期間のデータは以下のとおりだ。

約**70%**のアクションは既存の権限ルールで処理（LLMレビューなし）
約**30%**がLLMレビューを通過
LLMレビューを受けたアクションのうち、**約97%**はユーザーへの確認なしに処理
約2%はユーザーへ送付、1%未満がブロック
レビューの中央値は1秒未満

Amazon社内ユーザーからは次のようなフィードバックも届いている。

「これは大きい。パイプラインを元に新しいワークスペースをチェックアウトするタスクを試した。以前はlsのような基本操作だけで15回の承認リクエストが発生していた。Approve for me後はゼロになった。」

セキュリティ上の注意点

「Approve for me」はあくまでアクションの承認可否を判定するものであり、シェルコマンドが実行された後のアクセス範囲を制限するものではない。追加の保護レイヤーとして、Kiro IDEとKiro CLIではローカルサンドボックスの有効化が可能で、シェルコマンドをOS境界で分離し、アウトバウンドのネットワークアクセスをデフォルトでブロックする。Kiro Webはすでにクラウドサンドボックス上で動作している。詳細はローカルサンドボックスのドキュメントを参照のこと。

Kiroチームはこれを「多層防御（defense-in-depth）」戦略と位置づけており、単一のレイヤーがすべての危険なアクションを捕捉することを前提としていない。

利用条件と有効化方法

「Approve for me」は有料ユーザー向けの機能で、us-east-1（バージニア北部）とeu-central-1（フランクフルト）で利用できる。LLMレビューに送られたアクション分はプランの消費としてカウントされる。

機能はデフォルトでオフだ。有効にするには以下の手順で。

Kiro IDE：「What's new」ポップアップのスイッチで全チャットに対してデフォルト有効化、またはチャット入力メニューから個別チャットに対して選択できる
Kiro CLI：バージョン2.36以降にアップデートの上、ドキュメントの手順に従う
Kiro Web：アップデート不要

Kiro IDEを初めて使う場合はダウンロードページから入手できる。

詳細はIntroducing 'Approve for me' in Kiroを参照していただきたい。