Qwen3-VL 32B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Alibaba ・公開 2025-10 ・ 32.76Bパラメータ・データ更新 2026-10-02

画像理解の上位。VRAM 24GB

21GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090

36GB実用になるいちばん小さいMac: M5 Max（36GB）

262,144最大コンテキスト（学習時）

編集部の見立て

文章用のQwen3 32Bと同じ32.76Bの規模で、画像と動画の理解に振ったQwen3-VLの上位版です。配布元の説明では、PCやスマホの画面を読んで操作するエージェント用途、画像からHTMLやDraw.ioの図を起こす用途、32言語のOCRを挙げています。

必要なメモリは、4bitに8kの文脈を足して21.5GB。36GBのM5 Maxでも推定21tok/sの快適域で、RTX 4090なら推定34.2tok/sです。GPUなしのDDR5機（64GB）は推定1.9tok/sで実用外。24GBのGPUか36GB以上のMacで、スキャン書類や画面の読み取りを外に出したくない人向けです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（unsloth/Qwen3-VL-32B-Instruct-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（64層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	11GB	2.0GB	14GB	VRAM 16GB〜	24GB〜
2bit（Q2_K）品質劣化大。最後の手段	11GB	2.0GB	14GB	VRAM 16GB〜	24GB〜
3bit（Q3_K_M）メモリ優先	15GB	2.0GB	18GB	VRAM 20GB〜	32GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	16GB	2.0GB	19GB	VRAM 20GB〜	32GB〜
4bit（Q4_K_M）標準。迷ったらこれ	18GB	2.0GB	21GB	VRAM 24GB〜	36GB〜
5bit（Q5_K_M）品質重視	22GB	2.0GB	25GB	VRAM 32GB〜	48GB〜
6bit（Q6_K）ほぼ無劣化	25GB	2.0GB	28GB	VRAM 32GB〜	48GB〜
8bit（Q8_0）無劣化に近い	32GB	2.0GB	36GB	VRAM 48GB〜	48GB〜
16bit（BF16）元精度	61GB	2.0GB	65GB	GPU単体では不可	96GB〜

モデルの構造と、必要メモリの増え方

Qwen3-VL 32BはAlibabaが2025年10月に公開した32.76Bのモデルです。GGUFのヘッダには64層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全64層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約256KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで2.0GB、128Kトークンまで伸ばすと32GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

このページの数字はInstruct版のものです。配布元は推論を強めたThinking版も別に出しているので、ダウンロードの際は名前の末尾を見分けましょう。全64層が全域注意で、KVは1トークン256KBと重い。32,768トークンで約8GBが上乗せされ、Q4_K_M（18.4GB）と合わせるとRTX 4090には入りません。

24GB機で長い書類を扱うなら、IQ4_XS（16.5GB）で16k前後が目安です。画像も文脈のトークンを消費するため、高解像度のスキャンを何枚も渡すと早く埋まる。GGUFで画像を読むには、本体とは別のmmprojファイルが要るのが通例です。軽く試すなら同系統のQwen3-VL 8B、新しい世代ならQwen3.6 27Bも候補になります。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen3vlで、当サイト収録の204モデル中4本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/Qwen3-VL-32B-Instruct-GGUF、元になったモデルはQwen/Qwen3-VL-32B-Instructです。

得意分野は画像を含む文書の読み取りです。

同じAlibabaのモデルでは、サイズの近いものにQwen3 32B（32.76B）、Qwen2.5-VL 32B（32.76B）、Qwen2.5-Coder 32B（32.76B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（18GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	1.0GB	20GB	VRAM 24GB〜	32GB〜
8,192既定	2.0GB	21GB	VRAM 24GB〜	36GB〜
16,384	4.0GB	23GB	VRAM 24GB〜	36GB〜
32,768	8.0GB	27GB	VRAM 32GB〜	48GB〜
65,536	16GB	35GB	VRAM 48GB〜	48GB〜
131,072	32GB	51GB	GPU単体では不可	96GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約8.0GBから約4.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
ABEJA Qwen2.5 32B Japanese	ABEJA	22GB	日本語追加学習の32B。VRAM 24GB
ELYZA-Shortcut-1.0 Qwen 32B	ELYZA	22GB	推論過程を省いて速く答える日本語32B
ELYZA-Thinking-1.0 Qwen 32B	ELYZA	22GB	考えてから答える日本語の推論型32B。VRAM 24GB
Qwen3 32B	Alibaba	21GB	VRAM 24GBで動かせる最大級のdense型モデル
Qwen2.5-VL 32B	Alibaba	22GB	Qwen2.5-VLの上位32B。画像・画面の読み取り。VRAM 20GB / Mac 32GBから
DeepSeek-R1 Distill Qwen 32B	DeepSeek	22GB	VRAM 24GB向け推論モデル