11月10日、Jason Koeblerが「Reverse Engineer Anything': AI Companies Crack Down on the Coolest Thing People Were Doing With AI」と題した記事を公開した。この記事では、AIを使ったリバースエンジニアリングがユーザーの間で広まりつつある中、AnthropicやOpenAIがその利用を規約・ガードレールで制限し始めた経緯について詳しく紹介されている。以下に、その内容を紹介する。

AIでスマートTVを"解放"する——その蜜月が終わった

ここ数週間、「Reverse Engineer Anything（REA）」と呼ばれるムーブメントがAIコミュニティで話題を集めていた。AIツールを使って自分が所有するデバイスのファームウェアを解析し、メーカーのソフトウェアをオープンソースのものに置き換えるという活用法だ。スマートTVへの新OSインストール、ベビーモニターのAIアシスタント化、メーカーがサポートを打ち切ったIoTデバイスの復活——そういった事例が次々と報告されていた。

しかしそのブームは、あっという間に終わりを告げた。

Claudeは「decompileを拒否」、Codexはアカウント凍結

r/ClaudeCodeでは「The Dream is dead. Reverse Engineer Anything (REA) is not likely to work with Claude.」というタイトルの投稿が大量のアップボートを集めた。Reverse Engineer Anything公式Discordでも「Claudeが何もdecompileしてくれない」という報告が相次ぎ、複数のユーザーが同様の壁にぶつかっていることを証言している。

OpenAI側でも事態は深刻だ。SamsungのスマートTVをリバースエンジニアリングするためにOpenAI Codexを使っていたXユーザーのlog4j氏は、「cyber abuse（サイバー濫用）」規約違反としてアカウントをBANされた。自分自身のコードや所有するハードウェアをCodexに解析させようとしたユーザーからも、警告や利用制限の報告が続いている。また、ソフトウェアやゲームのリバースエンジニアリングを簡易化していたプロジェクト「Decomp.wtf」も最近サービスを終了した。

OpenAIのエンジニアであるTarun Gogineni氏はXで「これらのブロックは大半が意図せぬもので、判断の境界線が難しいことに起因している。Codexによるリバースエンジニアリングを禁止するポリシーは存在しない。修正中だ」とフォローしたが、現場のユーザーの信頼はすでに揺らいでいる。

「ラボ側のガードレールは予告なしに変わる」——セキュリティ研究者の本音

Brown Fine SecurityのプリンシパルコンサルタントであるMatt Brown氏は404 Mediaにこう語っている。

「私のリバースエンジニアリングがブロックされた経験は、ほぼ100%の確率で『サイバー』カテゴリのブロックと連動していた。ラボ側はおそらく、モデルが犯罪的なハッキング行為に加担しないよう圧力を受けており、ガードレールが過剰に厳しい方向に振れているのだと思う。フロンティアモデルのガードレールは同じモデルでも予告なしにランダムに変わる。セキュリティリサーチやペンテストのために、いずれ自分を締め出すエコシステムにツールと時間を投資したくない」

Brown氏は先週、プロパンタンクに取り付けたIoTガスモニターから**オープンウェイトモデル「GLM 5.3」を使って隠しBluetoothコマンドを発見した過程をYouTubeで公開**した。同氏は「フロンティア系のガードレールが厳しくなっているからこそ、ローカルAIやオープンウェイトモデルが重要になる」と繰り返し発信している。

「大企業が大企業を守っている」

今回のポリシー変更が示す構造は単純だ。ユーザーがLLMを使ってハードウェアメーカーの人為的な制限を回避する方法を見つけると、大手AI企業がメーカー側を守る形でその行為を制限する。

SF作家のBruce Sterling氏はXでこう皮肉った。

「このバイブコードハッキングが『リバース』と呼ばれるのは、やっているのが1兆ドルを持っていない人間だからだ。インターネット全体のCommon Crawlを『リバースエンジニアリング』すれば、それは立派なAIモデルを作ったことになる」

YouTuberのBreno Loves Cameras氏も古いデジタルカメラへの新OS導入を解説した動画の中で核心をついている。「カメラ会社は新機能を新モデルだけに実装する商慣行で稼いでいる。これはその慣行を壊す。もし大きなムーブメントになれば、彼らは多くの収益を失う」。

コーネル大学、コロンビア大学、ニューヨーク大学の研究者と法学教授らが最近共著した論文もこの変化を指摘している。「AIシステムはハードウェアコンポーネントを識別し、ファームウェアを抽出し、オブジェクトコードをdecompileし、アプリ全体を複製できる。デバイスを開くのに時間・ツール・希少な専門知識が必要だった時代のために作られた法体系に、AIはすでに追いついていない」と記している。

今後の展望：オープンウェイトモデルへの移行

AIを使ったリバースエンジニアリング自体がなくなるわけではない。ただ、OpenAIやAnthropicの主要フロンティアモデルでそれを行うことは今後ますます難しくなる。Matt Brown氏を含む実践者たちはすでに、ガードレールのないオープンウェイト・ローカルモデルへの移行を進めている。

問題はアクセシビリティだ。REAが注目された理由のひとつは、専門知識がなくても誰でもAI経由でデバイスを"解放"できるという手軽さにあった。ローカルモデルへの移行はその敷居を再び上げる。

詳細はReverse Engineer Anything': AI Companies Crack Down on the Coolest Thing People Were Doing With AIを参照していただきたい。