リアルタイム翻訳に向くローカルLLMは? ゲームの台詞で6モデルを実測
「ローカルLLM 翻訳 おすすめ」で検索すると、文書向けの比較が並びます。ゲームのリアルタイム翻訳は別の仕事です。モデルに渡されるのは1行ずつ、返事に使えるのは数百ミリ秒、GPUはゲームの描画と共有。きれいな段落を書けても1行に1秒かかるモデルや、たまに訳の代わりに指示文を返すモデルは、ここでは負けます。
この記事はモデルの選び方の実測編です。遅延の予算、モデルを選ぶ4つの軸、同じコーパスと同じハードで測った6モデルの結果を載せます。サンプル数は小さく、数字ごとに明記します。
リアルタイムの予算
画面に行が出てから訳が描かれるまで、約500msを超えるとオーバーレイが遅れて見え始めます。翻訳の前後の段階はほぼ固定です。
| 段階 | 目安 |
|---|---|
| 画面キャプチャ | 約15ms |
| OCR | 約80ms |
| 変化検知 | 約3ms |
| 翻訳 | 残り全部 |
| オーバーレイ描画 | 約70ms |
つまりミドルレンジのハードで、モデルに使えるのは1行あたり200〜300ms。ここから2つのことが言えます。モデルの大きさはベンチマークの順位より効く。そして派手に失敗するモデル(指示文の復唱、別言語での回答、解説の混入)は、少し流暢さで劣るモデルより悪い。ライブのオーバーレイでは壊れた行を引き直せないからです。
リアルタイム用モデルを選ぶ4軸
- 自分のGPUでの1行あたりの遅延。中央値と裾の両方。遅い1行が後ろの行を詰まらせます
- VRAM。ゲームと同じカードなので、紙の上で入ってもゲームに1GB足りなければフレームレートで払います
- 失敗の仕方。必ず目的言語の訳だけを返すか。翻訳特化モデルはそう訓練されています。汎用チャットモデルは解説したり、復唱したり、隣の言語に流れたりします
- 対応言語。主張ではなく検証したもの
翻訳品質はこの4つの後です。最初の3つで落ちるモデルは、ライブのオーバーレイで品質を見せる前に脱落します。
6モデル、同じコーパス、同じGPU
コーパスは英語9行と日本語9行のゲームテキスト(台詞・UIラベル・システムメッセージ)を、それぞれ4言語へ翻訳した72判定。ハードはRTX 4070 Ti、llama.cppサーバー build 8724、全層GPU、量子化は全モデルQ4_K_M。LFM2は英日専用なので、該当する18判定のみです。
| モデル | 重み | 動作中VRAM | 正しい言語 | 復唱 / 原文そのまま | 複数行を保持 (3ブロック) | 短文1行の中央値 | 生成 tok/s |
|---|---|---|---|---|---|---|---|
| Hy-MT2 1.8B | 1.13GB | 1.77GB | 69 / 72 | 0 | 3 / 3 | 85ms | 221 |
| Gemma 4 E2B | 3.46GB | 2.30GB | 69 / 72 | 0 | 3 / 3 | 96ms | 173 |
| Qwen3.5 2B | 1.28GB | 2.03GB | 67 / 72 | 0 | 2 / 3 | 96ms | 217 |
| Qwen3.5 0.8B | 0.53GB | 1.31GB | 67 / 72 | 1 | 2 / 3 | 71ms | 319 |
| TranslateGemma 4B | 2.49GB | 3.64GB | 68 / 72 | 0 | 3 / 3 | 130ms | 131 |
| LFM2 350M 英日 | 0.23GB | 0.60GB | 18 / 18 | 0 | 1 / 3 | 29ms | 756 |
「正しい言語」は自動の言語判定なので、短いUI断片では1〜3点の差はノイズの範囲です。「複数行を保持」は3行のブロックが3行で返ってきたかで、ライブのオーバーレイはこれに依存します。
リアルタイムの観点で表が言っていること:
- デスクトップGPUなら全部予算内。短文1行で29〜130msの幅です。ノートPCや内蔵GPUではこれが数倍になり、順位が意味を持ち始めます
- Hy-MT2 1.8BとGemma 4 E2Bが「きれいな2行」。復唱ゼロ、複数行ブロックも全部無傷。Hy-MT2はそれをファイルサイズ3分の1、VRAM 0.5GB少なくやります
- TranslateGemma 4Bは公開ベンチマークでは最強の翻訳特化モデルで、ここでも挙動は綺麗でしたが、最も遅く、唯一VRAM 3.5GBを超えます。ゲームと共有する6〜8GBのカードではそこが分かれ目です
- Qwen3.5 2Bと0.8Bは速いが、どちらも複数行ブロックを1つ落とし、0.8Bは英→日の1行で中国語に落ちました。汎用の小型モデルは翻訳特化より規律が緩い
- LFM2 350Mは29ms・0.6GBで驚異的で、英日の出力も読めますが、複数行ブロックを潰し、1ペアしかできません
同じ行「The old merchant refuses to sell you the sword.」の日本語訳を並べます。口調は自分で判断してください。
- Hy-MT2 1.8B: 老商人はあなたに剣を売りません。
- Gemma 4 E2B: その老商人はあなたにその剣を売るのを拒否する。
- Qwen3.5 2B: 古い商人は剣を売らない。
- Qwen3.5 0.8B: 老商人拒絶賣出你劍。(日本語でなく中国語)
- TranslateGemma 4B: 古参の商人はお前にお宝の剣を売ることを拒否する。(「お宝の」は原文にない)
- LFM2 350M: その古い商人はあなたにその剣を売らないと申し出ます。(「申し出ます」は誤り)
口調はこれで分かります。意味が残るかは次の節です。
品質: 同じ6モデルを参照訳つき50行で採点
挙動は「ライブのオーバーレイで信用できるか」を教えてくれます。品質は「読みたいか」です。こちらは参照訳つきの英日50行(両方向、短い台詞 / 長い地の文 / スキル説明 / 固有名詞 / 数字混在の5カテゴリ)を、参照訳に対するchrFで採点しました。GPU・サーバー・プロンプトは上と同じ。従来型NMTのOpus-MTは同じコーパスでの過去の基準値です。
| モデル | chrF 全体 | 日→英 | 英→日 | 短い台詞 | 長文 | スキル説明 | 固有名詞 | 数字 | 1行の中央値 |
|---|---|---|---|---|---|---|---|---|---|
| Gemma 4 E2B | 61.6 | 70.8 | 52.4 | 61.1 | 64.3 | 60.9 | 56.1 | 65.6 | 300ms |
| Hy-MT2 1.8B | 54.1 | 62.8 | 45.4 | 54.8 | 61.6 | 53.8 | 51.0 | 49.2 | 234ms |
| LFM2 350M 英日 | 47.3 | 58.3 | 36.4 | 38.9 | 51.2 | 49.2 | 49.7 | 47.6 | 70ms |
| TranslateGemma 4B | 46.8 | 58.8 | 34.9 | 34.5 | 52.3 | 51.8 | 47.9 | 47.6 | 437ms |
| Qwen3.5 2B | 41.5 | 56.1 | 26.8 | 32.5 | 44.3 | 43.4 | 39.2 | 48.0 | 262ms |
| Qwen3.5 0.8B | 33.5 | 47.2 | 19.9 | 25.4 | 36.7 | 32.5 | 32.8 | 40.2 | 188ms |
| Opus-MT (基準) | 35.5 | 46.9 | 24.1 | 40.7 | 41.9 | 32.3 | 36.5 | 26.1 | – |
chrFは参照訳1本との重なりを見る指標なので、うまい意訳は実力より低く出ます。それでも順位はきれいに分かれ、出力を読んだ印象とも一致しました。1行ずつ読んで分かったこと:
- Gemma 4 E2Bは全カテゴリで首位。「パッシブスキル」「耐性」「謁見」のようなゲームの語彙を自然に選び、名前も安定。注意点が1つ: これは1行ずつのプロンプトで、Playtoが製品でGemmaに使うバッチ用プロンプトとは違うので、製品経路の測定ではありません
- Hy-MT2 1.8Bは安定した2位。英語がやや直訳調(「magical damage」、アンデッド軍が「corpse army」)で、用語をカタカナで作ってしまうことがある(コールドダウン)が、行を落とすことは一度もない。Gemmaの3分の1のサイズでこれなら妥当な取引です
- LFM2 350Mはサイズの割によく読め、固有名詞ではHy-MT2と並びました。英語がくだけて小文字(「pull your swords. this is a test.」)で、数字の多い1行で繰り返しループに入ったため数字カテゴリが低い
- TranslateGemma 4Bは長文では丁寧で漏れがないが、1行の台詞では深読みします。「剣を抜け。これは試練だ。」が「Get through this. It’s a test.」に。ゲームが見せるテキストの大半は短い台詞です
- Qwen3.5 2Bは言語は合っているが意味がずれ(「Break the sword」)、日本語の文中に固有名詞をラテン文字のまま残す
- Qwen3.5 0.8Bはこの用途には使えません。2行が中国語、1行がローマ字(「Kaze ni kune. Iu shiten da.」)、1行がカタカナの繰り返しでトークン上限まで
- Opus-MTは参考までに、封印を「アザラシ」と訳しました
つまり品質の順位と挙動の順位は、上位2つが逆順で一致します。Gemma 4 E2BはVRAM 2.3GB・ダウンロード3.5GBで、より良い翻訳者。Hy-MT2 1.8Bは1.8GB・1.1GBでどこにでも収まるほう。Playtoが既定にHy-MT2を入れている(インストーラーに同梱、専用GPUのないPCでも数秒で起動)理由がまさにこれで、Gemma 4 E2BとQwen3-VL 4Bはワンクリックで選べる上位枠として置いています。
どこまで小さくできるか
Hy-MT2のQ4_K_Mは1.1GB。1GBを切るために、同じ72行をCPUで試しました。
| ビルド | サイズ | 正しい言語 | 復唱 | 1行あたり中央値 (CPU) |
|---|---|---|---|---|
| Q4_K_M | 1081MB | 69 / 72 | 0 | 0.93秒 |
| IQ3_M | 約790MB | 61 / 72 | 19 | 0.91秒 |
| IQ3_XXS | 733MB | 67 / 72 | 38 | 1.05秒 |
| Q3_K_M | 約860MB | 53 / 72 | 12 | 0.97秒 |
| IQ2_S | 657MB | 31 / 72 | 35 | 0.90秒 |
4bit未満では翻訳の代わりに依頼文を繰り返し始め、速くもなりません。Q4版を使ってください。Q4はCPUでもGPUと同じ品質で、デスクトップCPUなら1行約1秒。ライブには遅いが、GPUが使えない時の退避先としては成立します。1GB未満が必要なら、上の表が示すとおりこのモデルを絞るのではなく、モデルの種類を変える(Qwen3.5 0.8B、英日ならLFM2)ほうが筋です。
もう1つの予算: 読むとき、遊んでいないとき
リアルタイムでない仕事もあります。単語の意味・文法・例文は1秒待つ価値があり、翻訳特化モデルにはそもそも作れません。Playtoはこれに汎用モデル(CJK原文はQwen3-VL 4B、その他はGemma 4 E2B)を使い、小型モデルでプレイした場合は保存した単語の意味をセッション後、ゲームを閉じてから生成します。
画面まるごとの画像翻訳はその極端な例です。同じGPUで12GBクラスの画像認識モデルを、UI中心の画面6枚と、3タイトルの台詞画面51枚で測りました。8〜9Bでも読み取り精度はクラウド基準と同等で、UIセットでは取りこぼしゼロ。ただし数字の桁がリアルタイムの表と違います。
| モデル (台詞51枚) | 誤訳ブロック | 動作中VRAM | 1画面の中央値 |
|---|---|---|---|
| Qwen3-VL-8B Q4_K_M | 15 | 8.4GB | 1.34秒 |
| Qwen3.5-9B Q4_K_M | 6 | 8.8GB | 1.68秒 |
| Qwen3.5-9B Q6_K_XL | 5 | 11.4GB | 1.60秒 |
1画面に秒単位、動作中8〜11GB。8BのQ4→Q8は何も得られませんでした(単語レベルの誤りは同じ、VRAM 3.2GB増、35%遅い)。12GBカードで動くし、読みはクラウド並み。ただしゲームとカードを分け合えません。PlaytoのImageモードがこのクラスをPlayto Cloudで動かし、リアルタイムのテキスト経路をローカルのままにしているのはこの理由です。
やりたいことで選ぶ
| やりたいこと | 使うもの | 理由 |
|---|---|---|
| 最小の占有でライブ翻訳、対応18言語のどれか | Hy-MT2 1.8B (Q4) | 1行85ms、1.8GB、失敗なし、chrF 54 |
| このセットで最良の品質でライブ翻訳、2.3GBの余裕あり | Gemma 4 E2B (CJK原文はQwen3-VL 4B) | 挙動が綺麗、chrF 62、少し遅い |
| 台詞より長い説明文が主体、VRAMに余裕あり | TranslateGemma 4B | 長文・技術文に強く1行台詞に弱い、3.6GB |
| 最小の占有、英日のみ | LFM2 350M | 29ms、0.6GB、1行ずつ |
| 使えるGPUがない | Hy-MT2 1.8B (CPU) | 品質は同じ、1行約1秒 |
| 意味・文法・例文 | 汎用モデルをセッション後に | 翻訳特化モデルにはできない |
| 画面まるごと翻訳 | クラウド | 1画面に秒単位、8〜11GBでゲームの余地がない |
関連: オフライン対応のゲーム翻訳ツールの選び方は「オフライン」が何を含むかを、AI翻訳の文脈問題は良いモデルでも1行を外す理由を扱っています。