トップ › モデル別 › DeepSeek-R1 Distill Qwen 7B

DeepSeek-R1 Distill Qwen 7B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

DeepSeek ・公開 2025-01 ・ 7.62Bパラメータ・データ更新 2026-10-02

推論（考えてから答える）型の入門

5.4GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 6GB実用になるいちばん安いGPU: GeForce RTX 3060 Laptop

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

131,072最大コンテキスト（学習時）

編集部の見立て

考えてから答える型を、手持ちの古いGPUで試すための7Bです。土台は汎用のQwen2.5ではなく、数学向けのQwen2.5-Math-7B。R1の解答例で追加学習してあるので、計算や論理の問題に寄った性格と見ておくのが無難です。ファイルはQ4_K_Mで4.4GB。

8kの文脈を含めても5.4GBに収まります。6年以上前の世代にあたるRTX 2060 6GBで推定49.5tok/s、16GBのM2 Proは33.5tok/s。Copilot+ PCのRyzen AI 300（16GB）でも14.6tok/sと見積もれるので、ノートでの入門に足ります。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/DeepSeek-R1-Distill-Qwen-7B-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（28層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	2.6GB	0.4GB	3.6GB	VRAM 6GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	2.8GB	0.4GB	3.8GB	VRAM 6GB〜	8GB〜
3bit（IQ3_M）メモリ優先	3.3GB	0.4GB	4.4GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	3.5GB	0.4GB	4.6GB	VRAM 6GB〜	8GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	3.9GB	0.4GB	5.0GB	VRAM 6GB〜	8GB〜
4bit（Q4_K_M）標準。迷ったらこれ	4.4GB	0.4GB	5.4GB	VRAM 6GB〜	16GB〜
5bit（Q5_K_M）品質重視	5.1GB	0.4GB	6.2GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	5.8GB	0.4GB	6.9GB	VRAM 8GB〜	16GB〜
8bit（Q8_0）無劣化に近い	7.5GB	0.4GB	8.7GB	VRAM 10GB〜	16GB〜
16bit（F16）元精度	14GB	0.4GB	16GB	VRAM 20GB〜	24GB〜

モデルの構造と、必要メモリの増え方

DeepSeek-R1 Distill Qwen 7BはDeepSeekが2025年1月に公開した7.62Bのモデルです。GGUFのヘッダには28層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。

全28層が全域注意で、KVヘッド4・head次元128。KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約56KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで0.4GB、学習時の上限131,072トークンまで伸ばすと7.0GBです。

このモデルを実際に使うなら

6GBのGPUで動くのは短い問答までと考えましょう。全域注意の層が28あり、1トークンで56KBのKVを積みます。配布元の評価と同じ32,768トークンまで考えさせるとKVが約1.8GB増え、Q4_K_Mと合わせて6GBを超えます。RTX 2060 6GBの実効5.5GBには入らない。

長く考えさせたいなら8GB以上か、16GBのMacが素直です。配布元は設定ファイルとトークナイザーを少し変えたと書き、自分たちの設定で動かすよう求めています。評価時の設定はTemperature 0.6とtop_p 0.95。4か月後に出たDeepSeek-R1-0528 Qwen3 8B（4bitで6.5GB）は1GB多く要るだけなので、8GBのGPUがあるならそちらと比べて選ぶのが確実です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen2で、当サイト収録の204モデル中23本が同じ系統です。Qwen2系。llama.cppの対応が最も早く入る系統のひとつで、量子化の配布も充実しています。

配布元はbartowski/DeepSeek-R1-Distill-Qwen-7B-GGUF、元になったモデルはdeepseek-ai/DeepSeek-R1-Distill-Qwen-7Bです。

得意分野は推論（段階を踏んで考える処理）です。

同じDeepSeekのモデルでは、サイズの近いものにDeepSeek-R1 Distill Llama 8B（8.03B）、DeepSeek-R1-0528 Qwen3 8B（8.19B）、DeepSeek-R1 Distill Qwen 14B（14.77B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（4.4GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.2GB	5.2GB	VRAM 6GB〜	8GB〜
8,192既定	0.4GB	5.4GB	VRAM 6GB〜	16GB〜
16,384	0.9GB	5.9GB	VRAM 8GB〜	16GB〜
32,768	1.8GB	6.7GB	VRAM 8GB〜	16GB〜
65,536	3.5GB	8.5GB	VRAM 10GB〜	16GB〜
131,072	7.0GB	12GB	VRAM 16GB〜	18GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約1.8GBから約0.9GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
ELYZA-Shortcut-1.0 Qwen 7B	ELYZA	5.4GB	推論過程を省いてすぐ答える日本語7B。VRAM 8GB
ABEJA Qwen2.5 7B Japanese	ABEJA	5.4GB	ABEJAの日本語追加学習7B。VRAM 8GB
Qwen2.5-VL 7B	Alibaba	5.4GB	画像理解の7B。Qwen3-VL以前の定番。4bitならVRAM 8GBに収まる
Qwen2.5 7B	Alibaba	5.4GB	2024年の定番7B。4bitならVRAM 8GBに収まり、GPUなしのメモリ16GBでも動く
Qwen2.5-Coder 7B	Alibaba	5.4GB	軽いコード補助用。VRAM 8GBで実用になる
Falcon-H1R 7B	TII	5.3GB	Mamba系を混ぜたハイブリッド構造の推論型7B。GPUなしのメモリ16GBのPCでも動く