Hy-MT2 1.8Bを実運用して分かったこと — 翻訳特化モデルの得意と限界
Hy-MT2 1.8BはPlaytoが既定でインストールする翻訳モデルです。この記事は実運用のまとめです。何者か、どの設定で動かしているか、ゲームテキストで何を測ったか、どこで動かなくなったか。他のローカルモデル5つとの比較はリアルタイム翻訳に向くローカルLLMは?に、モデル選びの平易な案内はモデルの選び方にあります。
Hy-MT2とは
- Tencentの翻訳専用モデル群。2026年5月21日にApache 2.0で公開
- サイズは1.8B、7B、30BのMoEの3つ。以下はすべて1.8Bの話で、大きい2つは測っていません
- 1つのモデルで33言語。日本語、中国語、韓国語、主要なヨーロッパ言語、ベトナム語、トルコ語、アラビア語、ヒンディー語など
- 翻訳専用。質問に答えず、語義を説明せず、例文も書きません。ライブのオーバーレイには利点(壊れる余地がない)で、学習ツールには限界(意味は汎用モデルが要る)
- TencentがGGUFを公開しており、実験的な2bit・1.25bit版もあります
Playtoでの動かし方
- 量子化はQ4_K_M、ファイル1.13GB。8月のビルドからインストーラーに同梱され、入れた直後からダウンロードなしで翻訳できます
- サンプリングはtemperature 0.7、top-p 0.6、top-k 20、repetition penalty 1.05。model cardの推奨値そのままです
- プロンプトはmodel cardの1行の指示文で、ゲームテキストを1行ずつ。システムプロンプトもJSONもなし
- 新規セットアップでは、言語ペアの両側が検証済みの18言語(ja, en, zh, zh-Hans, zh-Hant, ko, de, fr, es, pt, it, pl, vi, ru, el, tr, cs, nl)に入る時に既定。それ以外のペアは汎用モデルが既定。自分で選んだモデルは常に優先されます
測った数字
挙動、ゲームテキスト72行(英語9行と日本語9行の台詞・UI・システム文をそれぞれ4言語へ)、RTX 4070 Ti、llama.cppサーバー build 8724:
| Hy-MT2 1.8B Q4_K_M | |
|---|---|
| 正しい言語で出た行 | 69 / 72 |
| 指示文の復唱・原文そのまま | 0 |
| 3行ブロックが3行で返る | 3 / 3 |
| 短文1行の中央値 | 85ms |
| 生成速度 | 221 tok/s |
| 動作中VRAM | 1.77GB |
品質、参照訳つきの英日50行、両方向、参照訳に対するchrF:
| Hy-MT2 1.8B | Opus-MT (従来型NMT) | Gemma 4 E2B | |
|---|---|---|---|
| chrF 平均 | 54.1 | 35.5 | 61.6 |
| 日→英 | 62.8 | 46.9 | 70.8 |
| 英→日 | 45.4 | 24.1 | 52.4 |
| 短い台詞 | 54.8 | 40.7 | 61.1 |
| スキル説明 | 53.8 | 32.3 | 60.9 |
| 固有名詞 | 51.0 | 36.5 | 56.1 |
出力を読むと、Hy-MT2は安定していてやや直訳調です。「magic damage」と書くところを「magical damage」にし、アンデッドの軍を「corpse army」にし、用語を一度カタカナで作りました(cooldownをコールドダウン)。一方で行を落とさず、解説を混ぜず、言語を取り違えたことは一度もありません。ゲームが動いている横で85msで答えるモデルには、この信頼性が肝心です。
どこまで小さくできるか
1.1GBのファイルを1GB未満にするため、定番の量子化レシピを同じ72行でCPU測定しました。
| ビルド | サイズ | 正しい言語 | 復唱 | 1行あたり中央値 (CPU) |
|---|---|---|---|---|
| Q4_K_M | 1081MB | 69 / 72 | 0 | 0.93秒 |
| IQ3_M | 約790MB | 61 / 72 | 19 | 0.91秒 |
| IQ3_XXS | 733MB | 67 / 72 | 38 | 1.05秒 |
| Q3_K_M | 約860MB | 53 / 72 | 12 | 0.97秒 |
| IQ2_S | 657MB | 31 / 72 | 35 | 0.90秒 |
4bit未満では、ゲームテキストで作った校正セットを使っても、翻訳の代わりに依頼文を繰り返し始め、速くもなりません。Q4_K_Mを使ってください。Tencent自身の2bit・1.25bit版は新しい量子化方式で、8月に確認した時点ではx86の一般的なビルドにまだ入っていないllama.cppのブランチが必要でした。
うまくいったことが2つ。
- CPUでの退避。GPUに載せないQ4_K_Mは出力が完全に同じで、デスクトップCPUなら1行約1秒。ライブには遅いが、GPUが使えない時には十分。PlaytoはGPUエンジンが起動できない時の退避先にこれを使っています
- 言語ペア。対応は33言語とされていますが、20文ずつのチェックではギリシャ語・トルコ語・チェコ語・オランダ語は問題なし、ルーマニア語・デンマーク語・ノルウェー語・フィンランド語・ハンガリー語・スウェーデン語は崩れる頻度が高く、Playtoはこれらのペアを汎用モデルに振っています。頼る前に自分のペアで確かめてください
翻訳にはHy-MT2とGemma 4のどちらか
理由が違うので、両方持つ価値があります。
| Hy-MT2 1.8B | Gemma 4 E2B | |
|---|---|---|
| 私たちのコーパスでのchrF | 54.1 | 61.6 |
| ダウンロード | 1.1GB (同梱) | 3.5GB |
| 動作中VRAM | 1.8GB | 2.3GB |
| 短文1行の中央値 | 85ms | 96ms |
| 語義・例文 | 不可 | 可 |
| 72行での挙動 | 綺麗 | 綺麗 |
Gemma 4 E2Bのほうが翻訳者として上で、保存した単語の意味を説明できるのもこちらだけです。Hy-MT2はダウンロードが3分の1で、専用GPUのない機体でも数秒で起動し、ゲームに残すメモリが0.5GB多い。PlaytoがHy-MT2を既定にし、Gemma 4 E2BとQwen3-VL 4Bをワンクリックの上位枠にしているのはこの理由です。保存した単語の意味をプレイ中でなくセッション後に生成しているのも同じ理由です。
まとめ
- Hy-MT2 1.8Bは、信頼できて速くて小さい翻訳専用モデル。ゲームテキストでは従来型NMTを大きく引き離し、2Bクラスの汎用モデルには一歩及ばない
- Q4_K_Mをmodel cardの推奨サンプリング値で動かす。4bit未満にしない
- 自分の言語ペアを確かめる。対応とされるペアのうち6つは私たちの手元では成立しなかった
- VRAMに2.3GBの余裕があって語義も欲しいならGemma 4 E2B。どこでも動く最小のものが欲しいなら、これ