Qwen3 8B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Alibaba ・公開 2025-04 ・ 8.19Bパラメータ・データ更新 2026-10-02

VRAM 8GBクラスの定番。日本語チャットの最初の1本

6.5GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

32,768最大コンテキスト（学習時）

編集部の見立て

Alibabaが2025年4月に公開したQwen3世代の8Bです。配布元の説明の柱は、考えてから答える思考モードと即答モードを1つのモデルで切り替えられること。対応言語は100以上。Q4_K_Mで4.7GB、8kの会話込みで6.5GBなので、VRAM 8GBのGPUや16GBのMacが対象です。

GeForce RTX 3070 Tiで推定78.3tok/s、Apple M2 Pro（16GB）で推定29.3tok/s。GPUなしのRyzen AI 300（16GB）でも推定12.8tok/sで、手持ちのノートでローカルAIを始める人に合う大きさです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/Qwen_Qwen3-8B-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（36層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	2.8GB	1.1GB	4.6GB	VRAM 6GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	3.1GB	1.1GB	4.8GB	VRAM 6GB〜	8GB〜
3bit（IQ3_M）メモリ優先	3.6GB	1.1GB	5.4GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	3.8GB	1.1GB	5.6GB	VRAM 8GB〜	16GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	4.2GB	1.1GB	6.0GB	VRAM 8GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	4.7GB	1.1GB	6.4GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	5.4GB	1.1GB	7.2GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	6.3GB	1.1GB	8.1GB	VRAM 10GB〜	16GB〜
8bit（Q8_0）無劣化に近い	8.1GB	1.1GB	10.0GB	VRAM 11GB〜	16GB〜
16bit（BF16）元精度	15GB	1.1GB	17GB	VRAM 20GB〜	32GB〜

モデルの構造と、必要メモリの増え方

Qwen3 8BはAlibabaが2025年4月に公開した8.19Bのモデルです。GGUFのヘッダには36層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全36層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約144KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.1GB、学習時の上限32,768トークンまで伸ばすと4.5GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

つまずきやすいのは、思考モードが既定でオンになっている点です。何も指定しないと答えの前に考える過程を長く出力し、短い質問でも待たされます。ターンごとに切り替えるなら、プロンプトに/no_thinkや/thinkを添える方法が配布元で案内されています。推奨のTemperatureは思考モードで0.6、即答モードで0.7。

貪欲デコードは繰り返しの原因になるとして避けるよう書かれています。コンテキストは標準で32,768トークン、KVは1トークン144KBなので、満杯まで使うとKVだけで約4.5GB、Q4_K_Mと合わせて9GB台。同じ8.19Bの派生にはQwen3-Swallow 8BやDeepSeek-R1-0528 Qwen3 8Bがあり、2026年3月のQwen3.5 9Bも並べて選べます。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen3で、当サイト収録の204モデル中10本が同じ系統です。Qwen3系。前世代から構造が更新され、対応するツールの版数を選ぶことがあります。

配布元はbartowski/Qwen_Qwen3-8B-GGUF、元になったモデルはQwen/Qwen3-8Bです。

得意分野は推論（段階を踏んで考える処理）、日本語の文章です。

同じAlibabaのモデルでは、サイズの近いものにQwen3-VL 8B（8.19B）、Qwen2.5-VL 7B（7.62B）、Qwen2.5 7B（7.62B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（4.7GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.6GB	5.9GB	VRAM 8GB〜	16GB〜
8,192既定	1.1GB	6.4GB	VRAM 8GB〜	16GB〜
16,384	2.3GB	7.6GB	VRAM 10GB〜	16GB〜
32,768	4.5GB	9.8GB	VRAM 11GB〜	16GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約4.5GBから約2.3GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Qwen3-Swallow 8B	Swallow（東京科学大学・産総研）	6.4GB	Qwen3 8Bの日本語強化版。4bitならVRAM 8GBに収まる
Shisa V2.1 Qwen3 8B	Shisa.AI	6.4GB	Qwen3 8Bを日英バイリンガルに調整。VRAM 8GB
Qwen3-VL 8B	Alibaba	6.4GB	画像・画面・書類を読ませる用途の8B。VRAM 8GB
DeepSeek-R1-0528 Qwen3 8B	DeepSeek	6.4GB	R1蒸留の改良版8B
Apertus 8B	Swiss AI	6.4GB	学習データまで公開したスイスの8B。1000以上の言語に対応。Apache 2.0。GPUなしのメモリ16GBのPCでも動く
Llama 3.1 Swallow 8B	Swallow（東京科学大学・産総研）	6.2GB	Llama 3.1 8Bの日本語強化版（v0.5）。VRAM 8GB