CAT-Translate 7B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

CyberAgent ・公開 2026-02 ・ 7.49Bパラメータ・データ更新 2026-10-02

サイバーエージェントの翻訳専用7B。MIT。VRAM 8GBで手元の翻訳に使える

5.8GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

32,768最大コンテキスト（学習時）

編集部の見立て

話し相手ではなく、日本語と英語を相互に訳すためだけに作られた7Bです。同じCAT-Translateには0.8B・1.4B・3.3Bもあり、7Bはその最上位。配布元は、TranslateGemma-12Bを上回る訳の品質だと説明しています。4bitに8kの文脈を足して5.8GBなので、RTX 3070 Ti（8GB）のVRAMに収まり推定86.9tok/s。

英文の資料やメールを社外のサービスに出したくない人が、VRAM 8GBのPCで使う翻訳専用モデルという位置づけです。MITライセンスで、社内ツールへの組み込みも条件が軽い。

量子化別の必要メモリ

ファイルサイズは Hugging Face（mradermacher/CAT-Translate-7b-i1-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（32層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	2.5GB	1.0GB	4.0GB	VRAM 6GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	2.7GB	1.0GB	4.2GB	VRAM 6GB〜	8GB〜
3bit（IQ3_M）メモリ優先	3.2GB	1.0GB	4.8GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	3.4GB	1.0GB	5.0GB	VRAM 6GB〜	8GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	3.8GB	1.0GB	5.4GB	VRAM 6GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	4.2GB	1.0GB	5.9GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	5.0GB	1.0GB	6.6GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	5.7GB	1.0GB	7.4GB	VRAM 8GB〜	16GB〜

モデルの構造と、必要メモリの増え方

CAT-Translate 7BはCyberAgentが2026年2月に公開した7.49Bのモデルです。GGUFのヘッダには32層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全32層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約128KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.0GB、学習時の上限32,768トークンまで伸ばすと4.0GBです。

ライセンス表記: mit（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

質問や要約を投げても、翻訳以外の働きは期待しないほうが無難です。訳したい文章をそのまま渡す、というのが基本の使い方。配布元の評価の一部も、会話をひとまとまりで訳させる形で取られています。長い契約書を一度に渡すなら、KVが1トークン128KBなので16Kで2.0GB、32Kで4.0GB増えます。

VRAM 8GBならQ4_K_M（4.2GB）で16Kまで。32Kは段落ごとに分けて渡すほうが安全です。6GBのRTX 2060ではQ4_K_Mが溢れ、IQ4_XS（3.8GB）に下げれば入る計算。Macは16GBのM2 Proで推定32.5tok/sです。GPUなしでもRyzen AI 300搭載のCopilot+ PCで推定14.2tok/sが見込め、メール1通なら待てる速さでしょう。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはllamaで、当サイト収録の204モデル中39本が同じ系統です。Llama系。最も広く使われているアーキテクチャで、対応していないツールを探すほうが難しい水準です。

配布元はmradermacher/CAT-Translate-7b-i1-GGUF、元になったモデルはcyberagent/CAT-Translate-7bです。

得意分野は日本語の文章です。

同じCyberAgentのモデルでは、サイズの近いものにMistral Nemo Japanese 12B（12.25B）、DeepSeek-R1 Distill Qwen 14B Japanese（14.77B）、DeepSeek-R1 Distill Qwen 32B Japanese（32.76B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（4.2GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.5GB	5.4GB	VRAM 6GB〜	8GB〜
8,192既定	1.0GB	5.9GB	VRAM 8GB〜	16GB〜
16,384	2.0GB	6.9GB	VRAM 8GB〜	16GB〜
32,768	4.0GB	8.9GB	VRAM 10GB〜	16GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約4.0GBから約2.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Hunyuan 7B	Tencent	5.9GB	Tencentの7B（dense型）。学習時の文脈256K。GPUなしのメモリ16GBのPCでも動く
Tanuki-8B	松尾・岩澤研究室 GENIAC	5.9GB	GENIACで国産フルスクラッチ開発した8B。Apache 2.0。GPUなしのメモリ16GBのPCでも動く
Gemma 4 E4B	Google	5.5GB	ノート・省メモリ向け設計。メモリ8〜16GBで動く
Falcon-H1R 7B	TII	5.3GB	Mamba系を混ぜたハイブリッド構造の推論型7B。GPUなしのメモリ16GBのPCでも動く
ELYZA-Shortcut-1.0 Qwen 7B	ELYZA	5.4GB	推論過程を省いてすぐ答える日本語7B。VRAM 8GB
ABEJA Qwen2.5 7B Japanese	ABEJA	5.4GB	ABEJAの日本語追加学習7B。VRAM 8GB