Qwen2.5-VL 32B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Alibaba ・公開 2025-03 ・ 32.76Bパラメータ・データ更新 2026-10-02

Qwen2.5-VLの上位32B。画像・画面の読み取り。VRAM 20GB / Mac 32GBから

22GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090

36GB実用になるいちばん小さいMac: M5 Max（36GB）

128,000最大コンテキスト（学習時）

編集部の見立て

Qwen2.5-VLの3B・7B・72Bに後から加わった32Bで、配布元は追加の強化学習で数学や問題解決と応答の書式を整えたと説明しています。画像の中の文字・図表・レイアウトの読み取り、座標をJSONで返す位置特定、請求書や帳票の構造化出力が用途の中心。Q4_K_Mの18.5GBに8kの文脈を足して21.5GBが要り、RTX 4090で推定34tok/s、M5 Max（36GB）で20.9tok/sです。

32GBのMacにはQ4_K_Mのままでは届きません。24GB級GPUか36GB以上のMacで帳票のスキャンを大量に読ませる人向け。Apache 2.0。

量子化別の必要メモリ

ファイルサイズは Hugging Face（unsloth/Qwen2.5-VL-32B-Instruct-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（64層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	11GB	2.0GB	13GB	VRAM 16GB〜	24GB〜
2bit（Q2_K）品質劣化大。最後の手段	11GB	2.0GB	14GB	VRAM 16GB〜	24GB〜
3bit（Q3_K_M）メモリ優先	15GB	2.0GB	18GB	VRAM 20GB〜	32GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	17GB	2.0GB	19GB	VRAM 20GB〜	32GB〜
4bit（Q4_K_M）標準。迷ったらこれ	18GB	2.0GB	22GB	VRAM 24GB〜	36GB〜
5bit（Q5_K_M）品質重視	22GB	2.0GB	25GB	VRAM 32GB〜	48GB〜
6bit（Q6_K）ほぼ無劣化	25GB	2.0GB	28GB	VRAM 32GB〜	48GB〜
16bit（BF16）元精度	61GB	2.0GB	65GB	GPU単体では不可	96GB〜

モデルの構造と、必要メモリの増え方

Qwen2.5-VL 32BはAlibabaが2025年3月に公開した32.76Bのモデルです。GGUFのヘッダには64層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全64層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約256KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで2.0GB、学習時の上限128,000トークンまで伸ばすと31GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

画像を読ませるにはGGUF本体とは別にmmprojファイルが要り、unsloth版のリポジトリから対にして落とします。全64層が全域注意でKVは1トークン256KBと重く、32kで8GB、128,000トークンの上限まで使えば32GBです。RTX 4090の実効23.5GBでは、8kの文脈込みの21.5GBを引いた残り2GBで足せる文脈は8千トークンほど。

配布元が挙げる1時間超の動画理解は、TransformersとPythonのツールキット側の機能で、GGUFで日常に使うのは静止画の読み取り。同じ32.76BのQwen3-VL 32Bは必要量が同じ21.5GBで文脈上限が262,144トークンと広く、2025年10月の新しい世代です。

7B版（5.4GB）で足りる帳票なら、そちらがRTX 2060 6GBで動きます。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen2vlで、当サイト収録の204モデル中3本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/Qwen2.5-VL-32B-Instruct-GGUF、元になったモデルはQwen/Qwen2.5-VL-32B-Instructです。

得意分野は画像を含む文書の読み取りです。

同じAlibabaのモデルでは、サイズの近いものにQwen3-VL 32B（32.76B）、Qwen3 32B（32.76B）、Qwen2.5-Coder 32B（32.76B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（18GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	1.0GB	21GB	VRAM 24GB〜	32GB〜
8,192既定	2.0GB	22GB	VRAM 24GB〜	36GB〜
16,384	4.0GB	24GB	VRAM 32GB〜	36GB〜
32,768	8.0GB	28GB	VRAM 32GB〜	48GB〜
65,536	16GB	36GB	VRAM 48GB〜	48GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約8.0GBから約4.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Qwen3-VL 32B	Alibaba	21GB	画像理解の上位。VRAM 24GB
ABEJA Qwen2.5 32B Japanese	ABEJA	22GB	日本語追加学習の32B。VRAM 24GB
ELYZA-Shortcut-1.0 Qwen 32B	ELYZA	22GB	推論過程を省いて速く答える日本語32B
ELYZA-Thinking-1.0 Qwen 32B	ELYZA	22GB	考えてから答える日本語の推論型32B。VRAM 24GB
Qwen3 32B	Alibaba	21GB	VRAM 24GBで動かせる最大級のdense型モデル
DeepSeek-R1 Distill Qwen 32B	DeepSeek	22GB	VRAM 24GB向け推論モデル