6月30日、Matthias Bastianが「Amazon engineers are reportedly distilling Anthropic models to cut costs before new token-based pricing kicks in」と題した記事を公開した。250億ドルを投じたパートナー企業のモデルを、今度はコスト削減のために「蒸留」して内製化する——Amazonのエンジニアが進めているとされるこの動きは、大規模LLM利用のコスト構造が根本的な転換期を迎えていることを示している。

コスト増への懸念が「内製化」を動機づけた

The Informationの報道によると、Amazonの一部エンジニアはすでにAnthropicのモデルを使ったディスティレーション（知識蒸留）を進めており、社内利用向けの小型・低コストモデルの構築を試みている。

ディスティレーションとは、大規模モデル（教師モデル）の出力を使って小型モデル（生徒モデル）を学習させる技術で、推論コストを大幅に削減できる。AmazonはAnthropicとの契約上、このディスティレーション目的でAnthropicモデルを利用する一定の権利を持っているとされる。この構造はAppleとGoogle Geminiの類似した取り決めに近い。

なお、AmazonはクラウドプラットフォームBedrockでもディスティレーションサービスを提供しているが、そこで対象になっているのはAmazon自身のNovaモデルとMetaのLlamaモデルのみで、AnthropicのClaudeは含まれていない。Bedrockの外側で、エンジニアが独自に蒸留を進めているという点が今回の報道の核心だ。

価格改定が背景にある

この動きの直接的な引き金は、両社のパートナーシップ再交渉だ。現行の契約ではAmazonはAnthropicに対してコンピュート時間ベースで支払いをしているが、来年からトークン処理数ベースへの切り替えが予定されている。この変更によってコストが大幅に上昇する可能性があるとされる。

Amazonの広報担当者はこれに反論し、「パートナーシップの拡張による変更がコスト増につながることはない」と述べた。Anthropic側は、モデルの性能に対して価格は割安だと主張している。

双方が公式にコスト増を否定する一方で、エンジニアレベルでのディスティレーションが進んでいるとすれば、現場の懸念が先行している構図とも読める。

Amazonの「保険」としての分散戦略

Amazonは現在、OpenAIのモデルや自社開発のNovaモデルへの代替も検討していると報じられている。

一方で投資規模は巨大だ。AmazonはAnthropicに最大250億ドルを投じており、パートナーとして最大の出資者のひとつに位置づけられている。それだけの規模の資本関係を持ちながら、同時にディスティレーションで内製化を進めるというのは、特定モデルへの依存リスクを分散する観点から合理的な判断とも読める。

※編集部の考察：AnthropicはAmazonのBedrockを主要な配信インフラとして活用しており、両社の関係は単純な投資家と被投資家にとどまらない。今回の内製化の動きは、Bedrock戦略全体の中でAnthropicモデルをどう位置づけるかという、より大きな問いとも連動している。

エンジニア視点での論点

トークン課金への移行という文脈は、Amazonに限った話ではない。コンピュート時間ベースからトークンベースへの切り替えは、使い方によっては現行より大幅なコスト増となりうる。Anthropicのモデルを大量に社内利用しているような組織にとっては、同様の問題意識が生まれる可能性がある。

Amazonのケースはその先行事例として注目に値するが、ディスティレーションには技術的な限界もある。「教師モデルの出力品質に生徒モデルが引きずられる」という構造上、小型化による性能劣化は避けにくく、どこまでの品質低下を許容できるかは用途次第だ。コスト削減を優先するか、モデル性能を維持するかというトレードオフは、Amazonに限らず多くの企業が今後直面する選択になるだろう。

詳細はAmazon engineers are reportedly distilling Anthropic models to cut costs before new token-based pricing kicks inを参照していただきたい。