トップ › モデル別 › DeepSeek-R1 Distill Qwen 14B Japanese

DeepSeek-R1 Distill Qwen 14B Japanese を動かすPCスペック（必要VRAM・メモリ・速度の目安）

CyberAgent ・公開 2025-01 ・ 14.77Bパラメータ・データ更新 2026-10-02

サイバーエージェントの日本語追加学習版

11GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 12GB実用になるいちばん安いGPU: GeForce RTX 3080 12GB

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

131,072最大コンテキスト（学習時）

編集部の見立て

考えてから答える推論型なので、表の推定速度より体感は遅くなります。RTX 3080 12GBの推定67.5tok/sなら2,000トークンの思考も30秒ほど。Apple M2 Pro（16GB）の推定16.8tok/sでは2分かかります。KVは48層ぶんで1トークン192KBと、Qwen3系の14B（160KB）より重い。

32Kまで考えさせるとQ4_K_M（8.4GB）にKV 6.0GBが加わり、12GB機では溢れて16GB機が要ります。量子化用のimatrixは日本語のデータセットで作られています。

量子化別の必要メモリ

ファイルサイズは Hugging Face（mmnga/cyberagent-DeepSeek-R1-Distill-Qwen-14B-Japanese-gguf）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（48層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	5.0GB	1.5GB	7.1GB	VRAM 8GB〜	16GB〜
2bit（Q2_K）品質劣化大。最後の手段	5.4GB	1.5GB	7.5GB	VRAM 10GB〜	16GB〜
3bit（IQ3_M）メモリ優先	6.4GB	1.5GB	8.6GB	VRAM 10GB〜	16GB〜
3bit（Q3_K_M）メモリ優先	6.8GB	1.5GB	9.0GB	VRAM 10GB〜	16GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	7.6GB	1.5GB	9.8GB	VRAM 11GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	8.4GB	1.5GB	11GB	VRAM 12GB〜	16GB〜
5bit（Q5_K_M）品質重視	9.8GB	1.5GB	12GB	VRAM 16GB〜	18GB〜
6bit（Q6_K）ほぼ無劣化	11GB	1.5GB	14GB	VRAM 16GB〜	24GB〜
8bit（Q8_0）無劣化に近い	15GB	1.5GB	17GB	VRAM 20GB〜	32GB〜

モデルの構造と、必要メモリの増え方

DeepSeek-R1 Distill Qwen 14B JapaneseはCyberAgentが2025年1月に公開した14.77Bのモデルです。GGUFのヘッダには48層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。

全48層が全域注意で、KVヘッド8・head次元128。KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約192KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.5GB、学習時の上限131,072トークンまで伸ばすと24GBです。

ライセンス表記: mit（層数と窓の大きさはGGUFヘッダから取得）

同じ数字のモデルと、実際は何が違うか

DeepSeek-R1 Distill Qwen 14Bをもとに、サイバーエージェントが日本語データで追加学習した版です。パラメータ数と層の構成は元の版と同じで、当サイトの判定では必要メモリも推定速度も一致します。配布はmmngaの量子化。元の版とは配布元が違うため、同じ形式でもファイルサイズが数百MBずれることがあります。当サイトはベンチマークを持たないので、日本語の出来の差は判断していません。

このモデルを実際に使うなら

日本語で質問して日本語で読みたいなら、候補に挙がるのはこちらです。同じサイバーエージェントから32Bの日本語版も出ていて、VRAM 24GBの環境に移ったときの乗り換え先になります。機材の目安は元の14B版と共通でVRAM 12GB。まず14Bで速度と待ち時間を確かめ、物足りなければ32Bへ進む順番なら、買い足す容量の判断を一度で済ませられます。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen2で、当サイト収録の204モデル中23本が同じ系統です。Qwen2系。llama.cppの対応が最も早く入る系統のひとつで、量子化の配布も充実しています。

配布元はmmnga/cyberagent-DeepSeek-R1-Distill-Qwen-14B-Japanese-gguf、元になったモデルはcyberagent/cyberagent-DeepSeek-R1-Distill-Qwen-14B-Japaneseです。

得意分野は推論（段階を踏んで考える処理）、日本語の文章です。

同じCyberAgentのモデルでは、サイズの近いものにMistral Nemo Japanese 12B（12.25B）、CAT-Translate 7B（7.49B）、DeepSeek-R1 Distill Qwen 32B Japanese（32.76B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（8.4GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.8GB	9.9GB	VRAM 11GB〜	16GB〜
8,192既定	1.5GB	11GB	VRAM 12GB〜	16GB〜
16,384	3.0GB	12GB	VRAM 16GB〜	24GB〜
32,768	6.0GB	15GB	VRAM 16GB〜	24GB〜
65,536	12GB	21GB	VRAM 24GB〜	32GB〜
131,072	24GB	33GB	VRAM 48GB〜	48GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約6.0GBから約3.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
ABEJA Qwen3 14B Agentic	ABEJA	10GB	エージェント用途と256Kの長文対応を名前に掲げた14B。4bitならVRAM 12GBに収まる
Qwen3 14B	Alibaba	10GB	Q4ならVRAM 12GBに収まる。8Bとの差が体感できる中量級
DeepSeek-R1 Distill Qwen 14B	DeepSeek	11GB	VRAM 12GB向け推論モデル
Qwen2.5-Coder 14B	Alibaba	11GB	VRAM 12GB向けコードモデル
Qwen2.5 14B	Alibaba	11GB	2024年の14B（dense型）。VRAM 11GB / Mac 16GBから
Shisa V2.1 unphi4 14B	Shisa.AI	11GB	Phi-4系を日英バイリンガルに調整した14B。VRAM 12GB