Qwen3 32B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Alibaba ・公開 2025-04 ・ 32.76Bパラメータ・データ更新 2026-10-02

VRAM 24GBで動かせる最大級のdense型モデル

21GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090

36GB実用になるいちばん小さいMac: M5 Max（36GB）

32,768最大コンテキスト（学習時）

編集部の見立て

Qwen3世代のdense型で最大の32.76Bです。配布元の既定では思考モードがオンで、答えの前に考える過程を出力します。4bitに8kの会話を足して21.5GB、RTX 4090で推定34.2tok/s。考える過程が1,000トークンなら、答えが始まるまで30秒ほど待つ計算です。

Macの最小はM5 Max（36GB）で、推定21tok/s。実効21.4GBのM2 Max（32GB）には0.1GB届きません。GPUなしのDDR5機（64GB）は推定1.9tok/sで現実的ではない。待ち時間を受け入れてでもdense型の32Bを使いたい、24GB級GPUの持ち主向けです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/Qwen_Qwen3-32B-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（64層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	11GB	2.0GB	13GB	VRAM 16GB〜	24GB〜
2bit（Q2_K）品質劣化大。最後の手段	11GB	2.0GB	14GB	VRAM 16GB〜	24GB〜
3bit（IQ3_M）メモリ優先	14GB	2.0GB	17GB	VRAM 20GB〜	32GB〜
3bit（Q3_K_M）メモリ優先	15GB	2.0GB	18GB	VRAM 20GB〜	32GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	16GB	2.0GB	19GB	VRAM 20GB〜	32GB〜
4bit（Q4_K_M）標準。迷ったらこれ	18GB	2.0GB	21GB	VRAM 24GB〜	36GB〜
5bit（Q5_K_M）品質重視	22GB	2.0GB	25GB	VRAM 32GB〜	48GB〜
6bit（Q6_K）ほぼ無劣化	25GB	2.0GB	28GB	VRAM 32GB〜	48GB〜
8bit（Q8_0）無劣化に近い	32GB	2.0GB	36GB	VRAM 48GB〜	48GB〜
16bit（BF16）元精度	61GB	2.0GB	65GB	GPU単体では不可	96GB〜

モデルの構造と、必要メモリの増え方

Qwen3 32BはAlibabaが2025年4月に公開した32.76Bのモデルです。GGUFのヘッダには64層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全64層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約256KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで2.0GB、学習時の上限32,768トークンまで伸ばすと8.0GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

同じ数字のモデルと、実際は何が違うか

Qwen2.5-Coder 32Bと総パラメータが同じで、量子化後のサイズも近いため、当サイトの表では必要メモリがほぼ同じ値になります。違いは世代と用途で、こちらは2025年公開の汎用モデル。推論と日本語のタグが付いており、対話や推論（段階を踏んで考える処理）を含めた使い方が想定されています。dense型である点は共通なので、速度の出方も同じ理屈です。どちらを選ぶかは、機材の判断ではなく仕事の内容で決まります。

このモデルを実際に使うなら

VRAM 24GBで動く上限に近いdense型のモデルです。4bitにして、コンテキストを8,192程度に抑えれば24GBに収まります。ここから長い文書を扱いたくなると、KVキャッシュが増えて溢れる場面が出てくるので、KVキャッシュの量子化を有効にするか、Macの大容量構成に移る判断になります。

GPUなしの構成でも動きますが、dense型はアクティブパラメータで節約できないため、速度は数分の一まで落ちます。このクラスを日常的に使うなら、VRAMかユニファイドメモリで容量そのものを確保するほうが現実的です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen3で、当サイト収録の204モデル中10本が同じ系統です。Qwen3系。前世代から構造が更新され、対応するツールの版数を選ぶことがあります。

配布元はbartowski/Qwen_Qwen3-32B-GGUF、元になったモデルはQwen/Qwen3-32Bです。

得意分野は推論（段階を踏んで考える処理）、日本語の文章です。

同じAlibabaのモデルでは、サイズの近いものにQwen3-VL 32B（32.76B）、Qwen2.5-VL 32B（32.76B）、Qwen2.5-Coder 32B（32.76B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（18GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	1.0GB	20GB	VRAM 24GB〜	32GB〜
8,192既定	2.0GB	21GB	VRAM 24GB〜	36GB〜
16,384	4.0GB	23GB	VRAM 24GB〜	36GB〜
32,768	8.0GB	27GB	VRAM 32GB〜	48GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約8.0GBから約4.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Qwen3-VL 32B	Alibaba	21GB	画像理解の上位。VRAM 24GB
ABEJA Qwen2.5 32B Japanese	ABEJA	22GB	日本語追加学習の32B。VRAM 24GB
ELYZA-Shortcut-1.0 Qwen 32B	ELYZA	22GB	推論過程を省いて速く答える日本語32B
ELYZA-Thinking-1.0 Qwen 32B	ELYZA	22GB	考えてから答える日本語の推論型32B。VRAM 24GB
Qwen2.5-VL 32B	Alibaba	22GB	Qwen2.5-VLの上位32B。画像・画面の読み取り。VRAM 20GB / Mac 32GBから
DeepSeek-R1 Distill Qwen 32B	DeepSeek	22GB	VRAM 24GB向け推論モデル