10月25日、Digital Trendsが「Moonshot tells Kimi AI to code away, but leave the hacking alone」と題した記事を公開した。中国AI企業Moonshot AIが新モデル「Kimi K3.1 Pro」においてハッキング能力を意図的に制限しつつオープンウェイトとして公開する方針を取ったことを伝えており、「コーディングは解放、サイバー攻撃は封印」という異例の線引きが業界に波紋を広げている。
「コーディングはOK、ハッキングはダメ」という線引き
Moonshot AIは10月24日にKimi K3.1 Proを発表した。オープンウェイトモデルとして11月4日にモデルウェイトを公開する予定だ。なお、元記事にはパラメータ数として「約3兆」という数値が記載されているが、これは現時点で公開されている主要モデルの推定値と比較して非常に大きい数字であり、元記事の原文を直接確認することを推奨する。
オープンウェイトモデルとは、モデルファイルそのものをダウンロードして自前のサーバーで動かしたり、挙動を改変したりできる形態のことで、OpenAIのAPIのようにプロバイダーのサーバー経由でしか使えないモデルとは異なる。自由度が高い反面、一度公開されれば元の開発者がその使われ方をコントロールすることは難しくなる。
Moonshot AIが今回行ったのは、サイバー攻撃関連のデータを学習データセットおよび強化学習環境から除外するという措置だ。コーディング能力全般は維持しつつ、攻撃的なサイバー操作に特化した能力を削った。
削った分、数字に出た
社内テストでは、この措置の効果が数値として確認されている。
- Kimi K3.1 Pro（制限あり）: サイバーセキュリティベンチマークで81%
- 制限なし版: 同ベンチマークで90.5%
9.5ポイントの差がある。このベンチマークは制御された環境下でソフトウェアの脆弱性を発見・悪用するタスクを対象としたもので、制限あり版でも前世代モデルを上回る性能を持つとされる。ただし、この数値は独立した第三者による検証は経ていない。
※元記事にはベンチマークの正式名称が明記されておらず、CTFベースのものか否かを含め詳細は不明である。数値の文脈を正確に把握するには元記事を直接参照されたい。
デュアルユース問題の核心
同じAI能力が防御にも攻撃にも使える点が、この問題の難しさだ。セキュリティチームが脆弱性を先に発見するためにAIを活用できる一方、攻撃者もコード生成や複数ステップのタスク自動化にモデルを使える。
Moonshot AIは「オープンウェイトAIは、放置されがちなレガシーソフトウェアの検査やセキュリティ確保に役立つ」と主張している。しかし、モデルファイルが広く配布されると、当初の開発者が誰がどのように使うかを把握・制御することは現実的に難しくなる。
AI安全は政策課題にもなっている
Moonshot AIのこの判断は、各国政府やテクノロジー企業がAIによるサイバー攻撃の自動化・低コスト化を懸念する文脈の中に位置している。中国政府もAI駆動のマルウェア生成技術や特定のAI支援脆弱性発見ツールを対象とした輸出規制を提案しており、元記事公開時点（10月25日）ではパブリックコメントの段階にあったと記述されている。紹介記事公開日（10月27日）との間に数日の差があるため、規制の現状については最新情報を別途確認されたい。
個人情報、金融システム、重要インフラを守る組織にとっては、攻撃の自動化が進むほど防御コストが上がる。一方で、AIセキュリティ研究を過度に制限すれば、脆弱性が発見されないまま残るリスクもある。
モデルのスペック
Kimi K3.1 Proには100万トークンのコンテキストウィンドウが搭載されており、大量の情報を一度に処理できる。また、標準モデルより2〜3倍高速とされる「Highspeed版」も提供される。
11月4日が本当の試練
モデルウェイトが公開される11月4日以降、開発者やセキュリティ研究者が実際にその能力を検証することになる。Moonshot AIが施した制限が、独自に改変可能なオープンウェイトの世界で実効性を持ち続けられるかどうか——それが業界全体に問われる問いだ。
詳細はMoonshot tells Kimi AI to code away, but leave the hacking aloneを参照していただきたい。
