EXAONE 4.0.1 32B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

LG AI Research ・公開 2025-08 ・ 32Bパラメータ・データ更新 2026-10-02

LGの32B（dense型）。推論モードを切り替えられる。VRAM 20GB / Mac 32GBから

20GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090

32GB実用になるいちばん小さいMac: M2 Max（32GB）

131,072最大コンテキスト（学習時）

編集部の見立て

LG AI Researchの32Bのdense型で、4.0.1は不適切な応答を減らす修正版です。即答モードと推論モードを1つのモデルで切り替えられ、ツール呼び出しにも対応。対応言語は英語・韓国語・スペイン語で、日本語はカードに挙がっていません。18GBのQ4_K_Mに8k分を加えて20.3GB。

RTX 4090で推定35.6tok/s、M2 Max（32GB）は15tok/sの実用止まり。16GBのGPUには入りません。GPUなしのDDR4機だと1.2tok/sで無理です。24GB級のGPUを持ち、韓国語か英語で推論型を回したい人に向きます。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/LGAI-EXAONE_EXAONE-4.0.1-32B-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（64層・うち48層は直近の範囲だけを見る層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	10GB	1.3GB	12GB	VRAM 16GB〜	24GB〜
2bit（Q2_K）品質劣化大。最後の手段	11GB	1.3GB	13GB	VRAM 16GB〜	24GB〜
3bit（IQ3_M）メモリ優先	13GB	1.3GB	16GB	VRAM 20GB〜	24GB〜
3bit（Q3_K_M）メモリ優先	14GB	1.3GB	17GB	VRAM 20GB〜	32GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	16GB	1.3GB	18GB	VRAM 20GB〜	32GB〜
4bit（Q4_K_M）標準。迷ったらこれ	18GB	1.3GB	20GB	VRAM 24GB〜	32GB〜
5bit（Q5_K_M）品質重視	21GB	1.3GB	24GB	VRAM 32GB〜	36GB〜
6bit（Q6_K）ほぼ無劣化	24GB	1.3GB	27GB	VRAM 32GB〜	48GB〜
8bit（Q8_0）無劣化に近い	32GB	1.3GB	34GB	VRAM 48GB〜	48GB〜
16bit（BF16）元精度	60GB	1.3GB	63GB	GPU単体では不可	96GB〜

モデルの構造と、必要メモリの増え方

EXAONE 4.0.1 32BはLG AI Researchが2025年8月に公開した32Bのモデルです。GGUFのヘッダには64層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。注意機構は混合型で、全域注意が16層、残り48層は窓4,096トークンのスライディングウィンドウです。

コンテキストに比例して増えるのは全域注意の16層ぶん（1トークンあたり約64KB）だけで、スライディングウィンドウの48層は窓4,096トークンぶん（約0.8GB）で頭打ちになります。実際の値は、8,192トークンで1.3GB、学習時の上限131,072トークンまで伸ばすと8.8GBです。

このモデルを実際に使うなら

32Bのdense型の割にKVが軽いのが持ち味です。64層のうち全域注意は16層だけで、残る48層は窓4096の局所注意。1トークン64KBは全域の層ぶんで、学習上限の128kでも8GBに収まり、窓の層は4096で頭打ちになります。RTX 4090の実効23.5GBから18GBを引いた5.5GBなら、90k近くまで文脈を伸ばせる計算。

全域の層でRoPEを使わない設計だとカードにあり、llama.cppではexaone4として対応した版が要ります。推論モードはenable_thinkingを真にして入り、配布元はサンプリング設定に敏感だと注意書きしています。同じ32B級の比較相手はOlmo 3.1 32BやAya Expanse 32B。

同じ系列の小型版EXAONE 4.0 1.2Bは1.8GBで8GBのPCでも快適に動く端末向けで、32Bとは狙う場面が違います。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはexaone4で、当サイト収録の204モデル中2本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/LGAI-EXAONE_EXAONE-4.0.1-32B-GGUF、元になったモデルはLGAI-EXAONE/EXAONE-4.0.1-32Bです。

得意分野は推論（段階を踏んで考える処理）です。

同じLG AI Researchのモデルでは、サイズの近いものにEXAONE 4.0 1.2B（1.28B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（18GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。このモデルは64層のうち48層がスライディングウィンドウ注意（窓4,096トークン）なので、長くしてもKVが伸びにくい構造です。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	1.0GB	20GB	VRAM 24GB〜	32GB〜
8,192既定	1.3GB	20GB	VRAM 24GB〜	32GB〜
16,384	1.8GB	21GB	VRAM 24GB〜	32GB〜
32,768	2.8GB	22GB	VRAM 24GB〜	36GB〜
65,536	4.8GB	24GB	VRAM 32GB〜	36GB〜
131,072	8.8GB	28GB	VRAM 32GB〜	48GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約2.8GBから約1.4GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
LLM-jp-4 32B-A3B thinking	LLM-jp（国立情報学研究所）	22GB	国産フルスクラッチのMoE（アクティブ3B）。VRAM 20GB級のGPUやMac 32GBで速く動く
Granite 4.0 H-Small 32B-A9B	IBM	19GB	Mamba系の層を混ぜたIBMのMoE（総32B・アクティブ9B）。Apache 2.0。VRAM 20GB / Mac 32GBから
Olmo 3.1 32B	Ai2	20GB	学習過程まで公開したAi2の32B（dense型）。Apache 2.0。VRAM 20GB / Mac 32GBから
Aya Expanse 32B	Cohere	21GB	日本語を含む23言語向けの32B。CC BY-NC。VRAM 20GB / Mac 32GBから
Nemotron 3.5 Lightning 30B-A3B	NVIDIA	33GB	NVIDIA製のハイブリッドMoE（アクティブ3B）。長文でもKVキャッシュが膨らみにくい構造
Nemotron 3 Nano Omni 30B-A3B	NVIDIA	23GB	Mamba2とTransformerのハイブリッドMoE（アクティブ約3B）。画像・音声の入力にも対応。VRAM 20GB / Mac 32GBから