9月10日、MarkTechPostが「Cohere Releases North Small Translate: A 218B MoE Translation Model That Scores 83.6 on WMT26 Across 50 Languages」と題した記事を公開した。この記事では、Cohereが50言語対応の機械翻訳専用オープンウェイトモデル「North Small Translate」をリリースし、Cohereが自社計測したWMT26評価で83.6スコアを記録してDeepLやGoogle Translateを上回ると主張していることが紹介されている。
218Bパラメータで翻訳に特化、しかし実際に動かすのは25B分
North Small Translateは、総パラメータ数218B、トークンごとに有効化されるのは25B(全体の約11.5%)というスパースなMoE(Mixture-of-Experts)構造を採用している。MoEとは、多数の「専門家」ネットワーク(エキスパート)を持ち、各トークンの処理に必要なエキスパートだけを選択して使う設計で、全パラメータを常に計算するDenseモデルと比べてトークンあたりの計算量を大幅に削減できる。
アーキテクチャの主な仕様は以下のとおりだ:
- エキスパート数: 128個、1トークンあたり8個が有効化(加えてすべてのトークンに適用される共有エキスパートあり)
- ルーター: エキスパートのlogitにsigmoidを適用し、選択したtop-k上で正規化
- アテンション: スライディングウィンドウ層(ウィンドウサイズ4096、RoPE)とグローバル層(位置埋め込みなし)を3:1の比率でインターリーブ。この設計はCommand Aで先行導入されたもの
- コンテキスト長: 入力・出力ともに最大16Kトークン、テキストのみ対応
メモリには218B全パラメータを保持する必要がある点は注意が必要だ。4ビット量子化版のチェックポイントであれば、1枚のB200または2枚のH100で動作するとされている。
ベンチマーク:DeepL・Google Translateを上回ると主張
Cohereが自社のWMT26評価で報告したスコアは以下のとおりだ。
| モデル | WMT26スコア |
|---|---|
| North Small Translate(Agentic) | 84.36 |
| North Small Translate | 83.60 |
| Qwen 3.5 397B A17B | 81.56 |
| DeepL NextGen | 81.37 |
| Gemma 4 31B (on) | 79.46 |
| GLM 5.2 FP8 | 76.50 |
| Google Translate | 68.20 |
「Agentic」バリアントは、自分の出力のエラーを検出して修正するマルチパスワークフローを実行するものだ。
ただし、重要な留意点がある。これらのスコアはすべてCohereが自社で計測した値であり、評価モデルとしてGPT-5.6-Solを用いている。 WMT(Workshop on Machine Translation)は例年、独立した第三者による評価も実施しており、その結果が出るまでは今回の数値はベンダー報告値として扱うべきだろう。
長文ドキュメントとコストで差が出る
翻訳タスクとして実用的な観点から見ると、長文書の処理精度でも差が現れている。本2章分を1回のAPIコールで翻訳するテストでは、North Small Translateが48.9(xCOMET-XLで段落単位評価)を記録。Google Translateの21.3、Gemma 4 31Bの19.4を大きく引き離している。
コスト面では、North Small Translateは1タスクあたり約0.000676ドル(平均661トークン)。Gemini 3.1 Pro Preview(high)の0.038928ドルと比較すると約58分の1の水準だ。
スループットについても、低並列時に112トークン/秒(Gemma 4 31Bは81)、高並列時に39トークン/秒(同30)と報告されており、最大1.4倍のスループットをうたっている。
翻訳をトランスフォーマーの原点と位置づける
CohereのXへのLaunch postは、翻訳を「主権」の問題として位置づけている。グローバルにコミュニケーションできない組織はその独立性を維持できない、という文脈だ。
モデルの学術的な背景も興味深い。2017年にGoogleが発表した「Attention Is All You Need」でTransformerが登場した際、その主要なベンチマークはWMT 2014の英独・英仏翻訳だった。約9年後、Cohereは翻訳専用モデルという形でその原点に立ち戻っている。モデルの構築にはRWS社との協力があり、Language Weaverのサイエンティストと言語専門家が実用品質の向上に関与したとされる。
使い方
最速の方法はCohereのChat V2 APIを利用することで、レート制限に達するまで無料で使用できる。
from cohere import ClientV2
co = ClientV2(api_key="<YOUR_API_KEY>")
response = co.chat(
model="north-small-translate-1-0",
messages=[{"role": "user",
"content": "Translate everything that follows into French:\n\nEnterprises need accurate translations of business-critical documents."}],
)
print(response.message.content[0].text)
セルフホストの場合、Cohereは本番環境と同じ3種類のチェックポイントをHuggingFace上で公開している。ライセンスは非商用利用は許可されており、商用利用には別途ライセンスの取得が必要だ。利用前にライセンス原文を確認することを推奨する。
詳細はCohere Releases North Small Translate: A 218B MoE Translation Model That Scores 83.6 on WMT26 Across 50 Languagesを参照していただきたい。