PLaMo 2 Translate を動かすPCスペック(必要VRAM・メモリ・速度の目安)
国産の翻訳専用モデル(約10B)。チャットではなく日英・英日の翻訳に使う
編集部の見立て
Preferred Networksが作った翻訳専用のモデルで、会話の相手としては学習されていません。配布元も、チャット向けの指示調整はしていないと明記しています。約9.5Bで、KVを持つ層は32層中16層。1トークンあたり32KBと軽い。GGUFの主力はQ3_K_Mの4.3GBで、8kまで含めて5.2GB。
RTX 2060 6GBで推定51tok/s、Apple M2(8GB)でも推定18.3tok/sで動きます。古いゲーミングPCや8GBのMacで、日英・英日の翻訳を任せたい人向けです。
量子化別の必要メモリ
ファイルサイズは Hugging Face(mmnga/plamo-2-translate-gguf) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(32層・文脈全体を見る層は16層だけ)から計算しています。必要メモリの合計には計算用のバッファも含めています。
| 量子化 | ファイル | KVキャッシュ(8k) | 必要合計 | GPUなら | Macなら |
|---|---|---|---|---|---|
| 3bit(Q3_K_M) メモリ優先 | 4.3GB | 0.3GB | 5.2GB | VRAM 6GB〜 | 8GB〜 |
| 6bit(Q6_K) ほぼ無劣化 | 7.3GB | 0.3GB | 8.3GB | VRAM 10GB〜 | 16GB〜 |
| 8bit(Q8_0) 無劣化に近い | 9.4GB | 0.3GB | 10GB | VRAM 11GB〜 | 16GB〜 |
モデルの構造と、必要メモリの増え方
PLaMo 2 TranslateはPreferred Networksが2025年5月に公開した9.53Bのモデルです。GGUFのヘッダには32層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。
32層のうち注意機構でKVキャッシュを持つのは16層だけで、残り16層は線形注意やSSMなどKVを持たない層です。KVヘッド4・head次元128で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約32KB(fp16)で、コンテキスト長にそのまま比例します。
実際の値は、8,192トークンで0.3GB、128Kトークンまで伸ばすと4.0GBです。
このモデルを実際に使うなら
最初に確かめたいのはライセンスです。PLaMoコミュニティライセンスに同意してから取得する形で、商用で使う場合は配布元のフォームから連絡が要ります。社内業務に組み込むなら、ここを飛ばさないでください。plamo2は独自の構造なので、llama.cppやLM Studioが対応した版でないと読み込めません。
量子化はQ3_K_M・Q6_K(7.3GB)・Q8_0(9.4GB)の3種類で、4bitの選択肢はない。精度を取りたくてQ6_Kに上げるなら、VRAM 8GBでは余白が足りず12GB機が目安です。KVが軽いので、16Kの長文を入れても増えるのは0.5GB。技術文書を章ごとに流し込む使い方と相性のよい作りです。渡す文の書式は、配布元の使い方の例に合わせるのが確実です。
このモデルの系統
GGUFヘッダに書かれたアーキテクチャはplamo2で、当サイト収録の204モデル中1本が同じ系統です。PLaMo 2系。SSM(Mamba)と注意機構を1層ずつ交互に積んだ国産の構造で、KVを持つのは半分の層だけです。
配布元はmmnga/plamo-2-translate-gguf、元になったモデルはpfnet/plamo-2-translateです。
得意分野は日本語の文章です。
コンテキスト長を伸ばすと必要メモリはどう増えるか
長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。3bit(Q3_K_M)(4.3GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が16層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。
| コンテキスト | KVキャッシュ | 必要合計 | 必要なGPU | 必要なMac |
|---|---|---|---|---|
| 4,096 | 0.1GB | 5.1GB | VRAM 6GB〜 | 8GB〜 |
| 8,192既定 | 0.3GB | 5.2GB | VRAM 6GB〜 | 8GB〜 |
| 16,384 | 0.5GB | 5.5GB | VRAM 6GB〜 | 16GB〜 |
| 32,768 | 1.0GB | 6.0GB | VRAM 8GB〜 | 16GB〜 |
| 65,536 | 2.0GB | 7.0GB | VRAM 8GB〜 | 16GB〜 |
| 131,072 | 4.0GB | 9.0GB | VRAM 10GB〜 | 16GB〜 |
KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約1.0GBから約0.5GBに減ります(品質はわずかに落ちます)。
同じサイズ帯の他のモデル
| モデル | 開発元 | 4bitで必要 | 一言 |
|---|---|---|---|
| GLM-4.6V-Flash 9B | Z.ai | 6.7GB | 画像理解の軽量モデル |
| Gemma-2-Llama-Swallow 9B | Swallow(東京科学大学・産総研) | 8.0GB | Gemma 2 9Bの日本語強化版。4bitならVRAM 8GBに収まる |
| Gemma 2 9B | 8.0GB | Gemma 2の9B。Swallow版など派生モデルの元。4bitならVRAM 8GBに収まる | |
| MiMo-V2.6-Distill-Qwen-9B | Xiaomi | 6.4GB | XiaomiがQwen3.5 9Bを自社MiMoの出力で追加学習したエージェント向け9B。MIT。4bitならVRAM 8GB / Mac 16GBから |
| Ornith 1.5 9B | ornith-ai | 6.4GB | Ornith 1.5の9B(dense型)。MIT。4bitならVRAM 8GBに収まり、GPUなしのメモリ16GBでも動く |
| UI-Mate 9B | Tencent | 6.4GB | 画面・UIの理解を名前に掲げた9B。ブラウザ操作エージェント向け。VRAM 8GBで動く |
3bit(Q3_K_M)が動く機種と推定速度
3bit(Q3_K_M)なら118機種で20 tok/s以上、19機種で8〜20 tok/s(テキスト生成の推定・計算方法)。
快適 20 tok/s以上(118機種)
- GeForce RTX 5090 約230 tok/s補正済み
- GeForce RTX 4090 約150 tok/s補正済み
- Apple M5 Ultra(96GB) 約150 tok/s推定
- Apple M5 Ultra(256GB) 約150 tok/s推定
- Apple M5 Ultra(512GB) 約150 tok/s推定
- GeForce RTX 5080 約150 tok/s補正済み
- GeForce RTX 5080 Laptop 約140 tok/s推定
- GeForce RTX 5070 Ti 約140 tok/s補正済み
- RTX 6000 Ada 約140 tok/s補正済み
- GeForce RTX 3080 12GB 約140 tok/s推定
- GeForce RTX 3080 Ti 約140 tok/s推定
- GeForce RTX 3090 Ti 約140 tok/s補正済み
- GeForce RTX 3090 約130 tok/s補正済み
- GeForce RTX 5090 Laptop 約130 tok/s補正済み
- Radeon RX 7900 XTX 約120 tok/s推定
- GeForce RTX 4080 SUPER 約120 tok/s補正済み
- GeForce RTX 4080 約110 tok/s補正済み
- GeForce RTX 3080 10GB 約110 tok/s補正済み
- GeForce RTX 5070 Ti Laptop 約110 tok/s推定
- GeForce RTX 4070 Ti SUPER 約110 tok/s補正済み
- Apple M5 Max(48GB) 約100 tok/s補正済み
- Apple M5 Max(64GB) 約100 tok/s補正済み
- Apple M5 Max(128GB) 約100 tok/s補正済み
- GeForce RTX 5070 約100 tok/s補正済み
- Radeon RX 7900 XT 約100 tok/s推定
- Apple M2 Ultra(64GB) 約100 tok/s補正済み
- Apple M2 Ultra(128GB) 約100 tok/s補正済み
- Apple M2 Ultra(192GB) 約100 tok/s補正済み
- Apple M3 Ultra(96GB) 約96 tok/s補正済み
- Apple M3 Ultra(256GB) 約96 tok/s補正済み
- Apple M3 Ultra(512GB) 約96 tok/s補正済み
- GeForce RTX 4090 Laptop 約93 tok/s推定
- GeForce RTX 3070 Ti 約92 tok/s推定
- Apple M5 Max(36GB) 約92 tok/s補正済み
- Apple M1 Ultra(64GB) 約90 tok/s補正済み
- Apple M1 Ultra(128GB) 約90 tok/s補正済み
- GeForce RTX 2080 Ti 約86 tok/s補正済み
- GeForce RTX 3080 Ti Laptop 約82 tok/s推定
- Radeon RX 9070 XT 約81 tok/s推定
- Apple M4 Max(48GB) 約81 tok/s補正済み
- ほか78機種
実用 8〜20 tok/s(19機種)
- Apple M2(8GB) 約18 tok/s補正済み
- Apple M2(16GB) 約18 tok/s補正済み
- Apple M2(24GB) 約18 tok/s補正済み
- Apple M3(8GB) 約18 tok/s補正済み
- Apple M3(16GB) 約18 tok/s補正済み
- Apple M3(24GB) 約18 tok/s補正済み
- AMD Ryzen AI 300(Strix Point・Copilot+ PC)(メモリ16GB) 約15 tok/s推定
- AMD Ryzen AI 300(Strix Point・Copilot+ PC)(メモリ32GB) 約15 tok/s推定
- AMD Ryzen AI 300(Strix Point・Copilot+ PC)(メモリ64GB) 約15 tok/s推定
- Intel Core Ultra 200V(Lunar Lake・Copilot+ PC)(メモリ16GB) 約13 tok/s推定
- Intel Core Ultra 200V(Lunar Lake・Copilot+ PC)(メモリ32GB) 約13 tok/s推定
- Snapdragon X Elite(Copilot+ PC)(メモリ16GB) 約13 tok/s推定
- Snapdragon X Elite(Copilot+ PC)(メモリ32GB) 約13 tok/s推定
- Apple M1(8GB) 約12 tok/s補正済み
- Apple M1(16GB) 約12 tok/s補正済み
- 一般的なデスクトップ/ノートPC(DDR5-5600・GPUなし)(メモリ16GB) 約8.4 tok/s推定
- 一般的なデスクトップ/ノートPC(DDR5-5600・GPUなし)(メモリ32GB) 約8.4 tok/s推定
- 一般的なデスクトップ/ノートPC(DDR5-5600・GPUなし)(メモリ64GB) 約8.4 tok/s推定
- 一般的なデスクトップ/ノートPC(DDR5-5600・GPUなし)(メモリ128GB) 約8.4 tok/s推定
遅い 動くが遅い(4機種)
- 一般的なデスクトップ/ノートPC(DDR4-3200・GPUなし)(メモリ8GB) 約4.8 tok/s推定
- 一般的なデスクトップ/ノートPC(DDR4-3200・GPUなし)(メモリ16GB) 約4.8 tok/s推定
- 一般的なデスクトップ/ノートPC(DDR4-3200・GPUなし)(メモリ32GB) 約4.8 tok/s推定
- 一般的なデスクトップ/ノートPC(DDR4-3200・GPUなし)(メモリ64GB) 約4.8 tok/s推定
メモリに一部を逃がせば動く(1機種・CPUオフロード、PCのメモリ32GB想定)
- GeForce RTX 3050 Laptop 約17 tok/s推定
動かない機種(0)を見る
今のPCのまま、PLaMo 2 Translateを動かすために足すもの
PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
NVMe SSD / 外付けSSD 2TB
PLaMo 2 Translateは3bit(Q3_K_M)で4.3GB、8bitのQ8_0なら9.4GB。精度違いを3種類そろえるだけで約21GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。
ローカルLLM / AIエージェント入門書
PLaMo 2 TranslateのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。
PLaMo 2 Translateを動かせるPC・Macを今日買うなら
PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
RTX 5060(8GB)デスクトップ・メモリ32GB
画像生成の入門と8BクラスのローカルLLM。最安のGPU機
RTX 5060(VRAM 8GB)・メモリ32GB・NVMe 1TB ・ 目安 15〜21万円
要件を満たす中で最も手頃
RTX 5070(12GB)デスクトップ・メモリ32GB
SDXLの画像生成が快適。14BクラスのローカルLLMがGPUだけで動く
RTX 5070(VRAM 12GB)・メモリ32GB・NVMe 1TB ・ 目安 20〜28万円
将来の用途拡張(大きなモデル・並列エージェント)に余裕
Mac mini M4 Pro(メモリ48GB・SSD 1TB)
30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心
M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円
Macで同じ仕事をするなら
よくある質問
PLaMo 2 Translateを動かすのに必要なVRAMは?
4bit量子化(3bit(Q3_K_M))でファイル4.3GB、8,192トークンのKVキャッシュを含めて約5.2GBが必要です。GPU単体ならGeForce RTX 3060 Laptop(VRAM 6GB)から実用速度で動きます。
PLaMo 2 TranslateはMacで動く?
動きます。ユニファイドメモリ8GB以上のApple Silicon(例: Apple M2(8GB))なら、4bit量子化で実用的な速さが出ます。
このクラスの選び方: ローカルLLM(8Bクラス)に必要なPC / MacかWindowsか