7月14日、International Cyber Digestが「xAI's Grok Build CLI Uploads Entire Git repositories to a Google Cloud Bucket」と題した記事を公開した。この記事では、xAIのAIコーディングツール「Grok Build CLI」がGitリポジトリ全体をGoogle Cloud Storageのバケット（クラウド上のオブジェクトストレージ領域）へ無断でアップロードしていた問題について詳しく紹介されている。
何が起きていたか
セキュリティ研究者・cereblab氏が、Grok Build CLI バージョン0.2.93をmacOS上でmitmproxy（通信内容を傍受・解析できるオープンソースのプロキシツール）を通して動作させ、そのパケットキャプチャを公開した。そこで判明したのは、CLIがコーディングタスクに必要なファイルとは無関係に、Gitの変更履歴ごとリポジトリ全体をgrok-code-session-tracesという名前のGoogle Cloud Storageバケットへアップロードしていたという事実だ。Google Cloud Storageはオブジェクト単位でデータを格納するGoogleのクラウドストレージサービスであり、「バケット」はその中のデータを入れる最上位の容れ物に相当する。
その規模を示す数字が具体的だ。12 GBのテスト用リポジトリに対して実行したところ、AIモデルへのタスク関連の通信量は約192 KBだった一方、ストレージへのアップロードは約5.1 GBに達した。ツールはタスクの回答に必要なものではなく、コードベース丸ごとを送信していた。
さらに研究者が.envファイルに仕込んだカナリア認証情報（意図的に偽の認証情報を埋め込み、外部へ漏洩していないか検知するための囮クレデンシャル）が、キャプチャしたトラフィック内にそのまま、無編集の状態で含まれていたことも確認されている。プライベートリポジトリや社内のコードベースを対象に使用していたチームは、ソースコードの履歴・認証情報・シークレット類をxAI側に渡していた可能性がある。
「モデル改善」のオフが機能していなかった
Grok Buildには「Improve the model（モデルを改善する）」というトグル設定が存在する。多くの開発者はこれをデータ収集全般のコントロールと解釈するだろう。しかしこの設定をオフにしてもアップロードは止まらなかった。サーバーのレスポンスには依然としてtrace_upload_enabled: trueが返り、リポジトリの転送も続行された。この設定が制御するのはトレーニングへの同意であり、コードが手元のマシンから外に出るかどうかではなかったのだ。
公開されているGrok Buildのセットアップドキュメントには、このストレージバケットへのアップロード動作に関する記述はない。また元記事によれば、xAIはこのツールをローカルファーストの設計として位置づけていた。
発覚翌日にサーバー側で修正
報告が公開されてから1日後、研究者が同じ0.2.93クライアントで再テストしたところ、サーバーからのレスポンスが変わっていた。disable_codebase_upload: trueとtrace_upload_enabled: falseが返るようになり、6回の再テストでリポジトリのアップロードは観測されなかった。クライアントを更新することなく、サーバー側のフラグを遠隔で切り替えることで動作を止めたと見られる。
ただし、確認できているのは1台のマシン・1アカウントのみであり、この修正がすべてのユーザーに適用されているか、恒久的なものかは不明だ。
xAIからの説明は一切ない
研究者自身が明示しているとおり、今回の発見は未開示の収集行為に関するものであり、xAIがアップロードされたコードでトレーニングを行っていたこと、または従業員がコードを閲覧していたことを証明するものではない。
問題はxAI側の対応だ。セキュリティアドバイザリはなく、アップロードの目的・範囲・保持期間についての説明もない。すでにgrok-code-session-tracesバケットに蓄積されたリポジトリが削除されるかどうかについても、一切言及がない。2026年7月12日付の公式チェンジログに記載された最新版v0.2.98にも、リポジトリアップロードの挙動に関する記述はなかった。
※編集部の考察：AIコーディングツールへのコードベース丸ごとの入力は、GitHub CopilotやCursorなど他のツールでも議論になってきたテーマだが、今回のケースはオプトアウト設定が実質的に機能していなかった点で一段と問題が大きい。
詳細はxAI's Grok Build CLI Uploads Entire Git repositories to a Google Cloud Bucketを参照していただきたい。
