AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › 量子化別 › IQ4_XS

IQ4_XSとは — 必要メモリと選びどころ（2026年10月）

Q4_K_Mより1割ほど小さい4bit量子化です。「あと1GB足りない」ときの逃げ道として使われます。

4.3平均ビット数
27%元のbf16に対するサイズ
190この形式が公開されているモデル（全204本中）
107VRAM 16GBに載る数

どういう仕組みか

IQ系はimportance matrix（重要度行列）を使う量子化で、事前に流したテキストで重みごとの重要度を測り、重要な部分により多くのビットを割り当てます。XSはextra small。平均4.3ビット前後で、Q4_K_Mより10%前後小さくなります。生成時の計算はQ4_K_Mよりわずかに重く、CPU実行では速度差が出ることがあります。

品質はどう変わるか

同じ4bit帯なのでQ4_K_Mに近い水準です。ファイルが小さいぶん、VRAM 16GBに27Bクラスを載せる、といった「ぎりぎりの一手」で価値があります。

選ぶ場面

Q4_K_Mが数GB溢れるとき。当サイトの機種別ページの「量子化を落とせば収まるモデル」で、この形式が選ばれることが多くあります。

近い形式との使い分け

Q4_K_Mより1割ほど小さく収まります。あと数百MB足りずに収まらない、という場面で効く形式です。品質はQ4_K_Mよりわずかに落ちますが、量子化を3bitまで下げるよりは確実に良い結果になります。容量がぎりぎりのときの逃げ道として使います。

つまずきどころ

IQ系の量子化は、計算のときに展開する処理が入るため、環境によっては同じサイズのK系より生成が遅くなることがあります。VRAMに収まっているのに思ったより速度が出ないときは、K系に替えて比べてみましょう。

品質が落ちたと感じたときの確かめ方

同じモデルのQ4_K_M版と交互に使ってみて、応答の質と速度の両方を見ます。容量に余裕があるならK系、ぎりぎりならIQ系。この判断は機種ごとに変わるので、手元で一度確かめておくと以後の選択が速くなります。

同じモデルを他の形式にすると

この形式が配布されているモデルのうち最も大きいGLM-5.3（753.86B）を例に、形式を変えたときのファイルサイズを並べます。IQ4_XSのときが340GBです。

形式平均ビットファイルIQ4_XSとの差
IQ2_M2.7222GB118GB
IQ4_XS（このページ）4.3340GB—
Q8_08.5746GB+406GB

同じモデルでも形式でこれだけ変わります。あと数GBで手元の容量に載らない、というときは、モデルを替える前にこの表の1段下を試すほうが早いことがあります。コンテキスト長を伸ばす余地も、ここで決まります。

容量別に何本動くか

メモリ容量IQ4_XSで収まるモデル数
VRAM 8GB / Mac 8GB相当（実効5.4GB）52 / 190
VRAM 12GB / Mac 12GB相当（実効8.0GB）85 / 190
VRAM 16GB / Mac 16GB相当（実効11GB）96 / 190
VRAM 24GB / Mac 24GB相当（実効16GB）113 / 190
VRAM 32GB / Mac 32GB相当（実効21GB）151 / 190
Mac 48GB相当（実効36GB）154 / 190
Mac 64GB相当（実効48GB）165 / 190
Mac 128GB相当（実効96GB）177 / 190

IQ4_XSでの必要メモリ一覧（190モデル）

ファイルサイズはHugging Faceの実サイズ、必要メモリはそれにKVキャッシュ（8,192トークン）と計算バッファを足した値です。

モデルパラメータファイル必要メモリ動く最小のGPU動く最小のMac
Gemma 3 270M0.27B0.2GB0.8GBVRAM 4GB〜8GB〜
Qwen2.5 0.5B0.49B0.3GB0.9GBVRAM 4GB〜8GB〜
Qwen3.5 0.8B0.77B0.5GB1.1GBVRAM 4GB〜8GB〜
Gemma 3 1B1B0.7GB1.2GBVRAM 4GB〜8GB〜
Sarashina2.2 0.5B0.79B0.4GB1.4GBVRAM 4GB〜8GB〜
Llama 3.2 1B1.24B0.7GB1.5GBVRAM 4GB〜8GB〜
TinySwallow 1.5B1.54B0.8GB1.6GBVRAM 4GB〜8GB〜
RakutenAI-2.0 mini1.53B0.8GB1.7GBVRAM 4GB〜8GB〜
EXAONE 4.0 1.2B1.28B0.7GB1.7GBVRAM 4GB〜8GB〜
Qwen3 0.6B0.6B0.3GB1.7GBVRAM 4GB〜8GB〜
Qwen3.5 2B1.94B1.2GB1.8GBVRAM 4GB〜8GB〜
Sarashina2.2 1B1.41B0.8GB1.9GBVRAM 4GB〜8GB〜
LFM2.5-VL 3B2.7B1.4GB2.1GBVRAM 4GB〜8GB〜
LFM2.5 2.6B2.7B1.4GB2.1GBVRAM 4GB〜8GB〜
MiniCPM5 2B2.52B1.4GB2.2GBVRAM 4GB〜8GB〜
Qwen3 1.7B1.72B0.9GB2.3GBVRAM 4GB〜8GB〜
Qwen3-VL 2B1.72B0.9GB2.3GBVRAM 4GB〜8GB〜
Qwen2.5-VL 3B3.09B1.6GB2.4GBVRAM 4GB〜8GB〜
Qwen2.5 3B3.09B1.6GB2.4GBVRAM 4GB〜8GB〜
Qwen2.5-Coder 3B3.09B1.6GB2.4GBVRAM 4GB〜8GB〜
Gemma 2 Baku 2B2.61B1.5GB2.6GBVRAM 4GB〜8GB〜
SmolLM3 3B3.08B1.6GB2.7GBVRAM 4GB〜8GB〜
Gemma 3 4B3.88B2.1GB2.9GBVRAM 4GB〜8GB〜
LLM-jp-3.1 1.8B1.87B1.0GB3.0GBVRAM 4GB〜8GB〜
Nemotron 3 Nano 4B3.97B2.4GB3.1GBVRAM 4GB〜8GB〜
Granite 4.2 3B3.66B1.9GB3.1GBVRAM 4GB〜8GB〜
Qwen3.5 4B4.21B2.3GB3.1GBVRAM 4GB〜8GB〜
Llama 3.2 3B3.21B1.7GB3.1GBVRAM 4GB〜8GB〜
AREX-Turbo 4B4.21B2.4GB3.2GBVRAM 4GB〜8GB〜
Fara1.5 4B4.21B2.4GB3.2GBVRAM 4GB〜8GB〜
Ministral 3 3B3.43B1.8GB3.2GBVRAM 4GB〜8GB〜
Gemma 3n E2B4.46B2.7GB3.4GBVRAM 4GB〜8GB〜
Gemma 4 E2B4.65B2.8GB3.5GBVRAM 4GB〜8GB〜
AFM-4.5B4.62B2.4GB3.5GBVRAM 6GB〜8GB〜
Nanbeige4.2 3B4.17B2.3GB3.5GBVRAM 6GB〜8GB〜
Sarashina2.2 3B3.36B1.7GB3.5GBVRAM 6GB〜8GB〜
Phi-4-mini 3.8B3.84B2.1GB3.6GBVRAM 6GB〜8GB〜
Qwen3 4B4.02B2.1GB3.8GBVRAM 6GB〜8GB〜
Qwen3-VL 4B4.02B2.1GB3.8GBVRAM 6GB〜8GB〜
Granite 4.0 H-Tiny6.94B3.5GB4.2GBVRAM 6GB〜8GB〜
LFM2.5 8B-A1B8.47B4.0GB4.7GBVRAM 6GB〜8GB〜
Gemma 3n E4B6.87B4.0GB4.7GBVRAM 6GB〜8GB〜
Ling 3.0 tiny7.89B4.1GB4.8GBVRAM 6GB〜8GB〜
Falcon-H1R 7B7.59B3.9GB4.8GBVRAM 6GB〜8GB〜
DeepSeek-R1 Distill Qwen 7B7.62B3.9GB5.0GBVRAM 6GB〜8GB〜
ELYZA-Shortcut-1.0 Qwen 7B7.62B3.9GB5.0GBVRAM 6GB〜8GB〜
ABEJA Qwen2.5 7B Japanese7.62B3.9GB5.0GBVRAM 6GB〜8GB〜
Qwen2.5 7B7.62B3.9GB5.0GBVRAM 6GB〜8GB〜
Qwen2.5-Coder 7B7.62B3.9GB5.0GBVRAM 6GB〜8GB〜
Qwen2.5-VL 7B7.62B3.9GB5.0GBVRAM 6GB〜8GB〜
Mistral 7B v0.37.25B3.6GB5.3GBVRAM 6GB〜8GB〜
Gemma 4 E4B7.52B4.4GB5.3GBVRAM 6GB〜8GB〜
CAT-Translate 7B7.49B3.8GB5.4GBVRAM 6GB〜16GB〜
Tanuki-8B7.51B3.8GB5.4GBVRAM 6GB〜16GB〜
Phi-3.5-mini 3.8B3.82B1.9GB5.5GBVRAM 6GB〜16GB〜
Hunyuan 7B7.5B3.9GB5.5GBVRAM 6GB〜16GB〜
Command R7B8.03B4.3GB5.5GBVRAM 8GB〜16GB〜
Nemotron-Nano 9B v2 Japanese8.89B4.9GB5.7GBVRAM 8GB〜16GB〜
Qwen3.5 9B8.95B4.8GB5.7GBVRAM 8GB〜16GB〜
MiMo-V2.6-Distill-Qwen-9B8.95B4.9GB5.8GBVRAM 8GB〜16GB〜
Llama 3.1 Swallow 8B8.03B4.1GB5.8GBVRAM 8GB〜16GB〜
DeepSeek-R1 Distill Llama 8B8.03B4.1GB5.8GBVRAM 8GB〜16GB〜
Llama 3.1 8B8.03B4.1GB5.8GBVRAM 8GB〜16GB〜
UI-Venus-2 9B8.95B4.9GB5.8GBVRAM 8GB〜16GB〜
Ornith 1.5 9B8.95B4.9GB5.8GBVRAM 8GB〜16GB〜
UI-Mate 9B8.95B4.9GB5.8GBVRAM 8GB〜16GB〜
Fara1.5 9B8.95B4.9GB5.8GBVRAM 8GB〜16GB〜
Apertus 8B8.05B4.2GB5.8GBVRAM 8GB〜16GB〜
Llama 3 Youko 8B8.03B4.2GB5.8GBVRAM 8GB〜16GB〜
Ornith 1.0 9B8.95B4.9GB5.8GBVRAM 8GB〜16GB〜
GLM-4.6V-Flash 9B9.4B4.9GB5.9GBVRAM 8GB〜16GB〜
Aya Expanse 8B8.03B4.3GB5.9GBVRAM 8GB〜16GB〜
Qwen3 8B8.19B4.2GB6.0GBVRAM 8GB〜16GB〜
Shisa V2.1 Qwen3 8B8.19B4.2GB6.0GBVRAM 8GB〜16GB〜
Qwen3-Swallow 8B8.19B4.2GB6.0GBVRAM 8GB〜16GB〜
DeepSeek-R1-0528 Qwen3 8B8.19B4.3GB6.0GBVRAM 8GB〜16GB〜
Qwen3-VL 8B8.19B4.3GB6.0GBVRAM 8GB〜16GB〜
Ministral 3 8B8.49B4.4GB6.1GBVRAM 8GB〜16GB〜
LLM-jp-4 8B thinking8.59B4.5GB6.1GBVRAM 8GB〜16GB〜
Granite 4.2 8B8.79B4.6GB6.5GBVRAM 8GB〜16GB〜
Gemma 4 12B11.91B5.9GB7.1GBVRAM 8GB〜16GB〜
Nemotron Nano 12B v212.31B6.3GB7.2GBVRAM 8GB〜16GB〜
Gemma 2 9B9.24B4.8GB7.4GBVRAM 8GB〜16GB〜
Gemma-2-Llama-Swallow 9B9.24B4.8GB7.4GBVRAM 8GB〜16GB〜
Gemma 3 12B11.77B6.1GB7.6GBVRAM 10GB〜16GB〜
Mistral Nemo 12B12.25B6.3GB8.2GBVRAM 10GB〜16GB〜
Mistral Nemo Japanese 12B12.25B6.3GB8.2GBVRAM 10GB〜16GB〜
Ministral 3 14B13.51B6.9GB8.9GBVRAM 10GB〜16GB〜
Qwen3 14B14.77B7.6GB9.5GBVRAM 11GB〜16GB〜
ABEJA Qwen3 14B Agentic14.77B7.6GB9.5GBVRAM 11GB〜16GB〜
Phi-4 14B14.66B7.4GB9.7GBVRAM 11GB〜16GB〜
Shisa V2.1 unphi4 14B14.66B7.5GB9.8GBVRAM 11GB〜16GB〜
DeepSeek-R1 Distill Qwen 14B14.77B7.6GB9.8GBVRAM 11GB〜16GB〜
DeepSeek-R1 Distill Qwen 14B Japanese14.77B7.6GB9.8GBVRAM 11GB〜16GB〜
Qwen2.5 14B14.77B7.6GB9.8GBVRAM 11GB〜16GB〜
Qwen2.5-Coder 14B14.77B7.6GB9.8GBVRAM 11GB〜16GB〜
ERNIE 4.5 21B-A3B Thinking21.83B11GB12GBVRAM 16GB〜24GB〜
GPT-OSS-Swallow 20B20.91B11GB12GBVRAM 16GB〜24GB〜
Codestral 22B22.25B11GB14GBVRAM 16GB〜24GB〜
LLM-jp-3.1 13B13.71B6.9GB14GBVRAM 16GB〜24GB〜
Gemma 4 26B-A4B25.23B13GB14GBVRAM 16GB〜24GB〜
Mistral Small 3.2 24B23.57B12GB14GBVRAM 16GB〜24GB〜
Devstral Small 2 24B23.57B12GB14GBVRAM 16GB〜24GB〜
Magistral Small 250923.57B12GB14GBVRAM 16GB〜24GB〜
Devstral Small 250723.57B12GB14GBVRAM 16GB〜24GB〜
Qwen3.8 27B27.32B13GB15GBVRAM 16GB〜24GB〜
Qwen3.5 27B26.9B14GB15GBVRAM 16GB〜24GB〜
North Mini Code 1.030.48B14GB16GBVRAM 20GB〜24GB〜
AREX-2 27B26.9B14GB16GBVRAM 20GB〜24GB〜
Gemma 3 27B27.01B14GB16GBVRAM 20GB〜24GB〜
Fara1.5 27B26.9B14GB16GBVRAM 20GB〜24GB〜
UI-Mate 27B26.9B14GB16GBVRAM 20GB〜24GB〜
Qwen3.6 27B26.9B14GB16GBVRAM 20GB〜24GB〜
Gemma-2-Llama-Swallow 27B27.23B14GB17GBVRAM 20GB〜32GB〜
GLM-4.7-Flash 30B-A3B29.94B15GB17GBVRAM 20GB〜32GB〜
Qwen3-Swallow 30B-A3B30.53B15GB17GBVRAM 20GB〜32GB〜
Qwen3 30B-A3B30.53B15GB17GBVRAM 20GB〜32GB〜
Qwen3-VL 30B-A3B30.53B15GB17GBVRAM 20GB〜32GB〜
Qwen3-Coder 30B-A3B30.53B15GB17GBVRAM 20GB〜32GB〜
Granite 4.0 H-Small 32B-A9B32.21B16GB17GBVRAM 20GB〜32GB〜
Qwen3.5 35B-A3B34.66B16GB17GBVRAM 20GB〜32GB〜
Gemma 4 31B30.7B15GB18GBVRAM 20GB〜32GB〜
Qwen3.6 35B-A3B34.66B17GB18GBVRAM 20GB〜32GB〜
Ornith 1.0 35B-A3B34.66B17GB18GBVRAM 20GB〜32GB〜
Qwen-AgentWorld 35B-A3B34.66B17GB18GBVRAM 20GB〜32GB〜
Granite 4.2 30B29.28B15GB18GBVRAM 20GB〜32GB〜
EXAONE 4.0.1 32B32B16GB18GBVRAM 20GB〜32GB〜
Laguna XS 2.1 33B-A3B33.44B17GB18GBVRAM 20GB〜32GB〜
Olmo 3.1 32B32.23B16GB18GBVRAM 20GB〜32GB〜
XYZ-Aquila mini 35B-A3B34.66B18GB19GBVRAM 20GB〜32GB〜
KAT-Coder-V2.5-Dev 35B-A3B34.66B18GB19GBVRAM 20GB〜32GB〜
Thomson 1.0 Small 35B-A3B34.66B18GB19GBVRAM 20GB〜32GB〜
Aya Expanse 32B32.3B17GB19GBVRAM 20GB〜32GB〜
Ornith 1.5 35B-A3B35.51B18GB19GBVRAM 20GB〜32GB〜
BigBang v1 35B35.51B18GB19GBVRAM 20GB〜32GB〜
Nemotron 3 Nano Omni 30B-A3B31.58B18GB19GBVRAM 20GB〜32GB〜
Qwen3 32B32.76B16GB19GBVRAM 20GB〜32GB〜
DeepSeek-R1 Distill Qwen 32B32.76B16GB19GBVRAM 20GB〜32GB〜
ELYZA-Thinking-1.0 Qwen 32B32.76B16GB19GBVRAM 20GB〜32GB〜
DeepSeek-R1 Distill Qwen 32B Japanese32.76B16GB19GBVRAM 20GB〜32GB〜
ELYZA-Shortcut-1.0 Qwen 32B32.76B16GB19GBVRAM 20GB〜32GB〜
Qwen2.5 32B32.76B16GB19GBVRAM 20GB〜32GB〜
Qwen2.5-Coder 32B32.76B16GB19GBVRAM 20GB〜32GB〜
ABEJA Qwen2.5 32B Japanese32.76B16GB19GBVRAM 20GB〜32GB〜
KARAKURI LM 32B Thinking32.76B16GB19GBVRAM 20GB〜32GB〜
Qwen3-VL 32B32.76B16GB19GBVRAM 20GB〜32GB〜
Qwen2.5-VL 32B32.76B17GB19GBVRAM 20GB〜32GB〜
Nex-N2.5-mini34.66B19GB20GBVRAM 24GB〜32GB〜
Holo4 35B-A3B34.66B19GB20GBVRAM 24GB〜32GB〜
LLM-jp-4 33B thinking33.22B17GB20GBVRAM 24GB〜32GB〜
Seed-OSS 36B36.15B18GB21GBVRAM 24GB〜32GB〜
RakutenAI-2.0 8x7B46.83B23GB26GBVRAM 32GB〜48GB〜
Tanuki-8x8B46.97B24GB26GBVRAM 32GB〜48GB〜
Kimi Linear 48B-A3B49.12B25GB26GBVRAM 32GB〜48GB〜
Llama 3 Youko 70B70.55B35GB39GBVRAM 48GB〜64GB〜
Llama 3.1 70B Japanese70.55B35GB39GBVRAM 48GB〜64GB〜
Llama 3.3 Swallow 70B70.55B35GB39GBVRAM 48GB〜64GB〜
DeepSeek-R1 Distill Llama 70B70.55B35GB39GBVRAM 48GB〜64GB〜
Llama 3.1 70B70.55B35GB39GBVRAM 48GB〜64GB〜
Llama 3.3 70B70.55B35GB39GBVRAM 48GB〜64GB〜
Shisa V2.1 Llama 3.3 70B70.55B35GB39GBVRAM 48GB〜64GB〜
Qwen2.5 72B72.71B37GB41GBVRAM 48GB〜64GB〜
Qwen3-Next 80B-A3B79.67B40GB42GBVRAM 48GB〜64GB〜
Qwen3-Coder-Next 80B-A3B79.67B40GB42GBVRAM 48GB〜64GB〜
Hunyuan-A13B 80B80.39B41GB43GBVRAM 48GB〜64GB〜
Laguna S 2.1 118B-A8B117.56B54GB56GB不可96GB〜
Mistral Small 4 119B118.97B54GB57GB不可96GB〜
Llama 4 Scout 17B-16E107.77B54GB57GB不可96GB〜
Qwen3.5 122B-A10B122.11B56GB58GB不可96GB〜
Command A 111B111.06B56GB59GB不可96GB〜
GLM-4.5-Air 106B-A12B110.47B56GB60GB不可96GB〜
GPT-OSS-Swallow 120B116.83B62GB64GB不可96GB〜
Ling 3.0 flash127.49B64GB67GB不可96GB〜
Devstral 2 123B125.03B63GB68GB不可96GB〜
Mixtral 8x22B140.63B71GB75GB不可128GB〜
Qwen3.8-Flash-Next176.94B87GB91GB不可128GB〜
Step-3.7-Flash196.96B89GB92GB不可128GB〜
MiniMax-M2.5 229B-A10B228.69B114GB119GB不可192GB〜
Qwen3 235B-A22B235.09B117GB122GB不可192GB〜
Inkling Small 264B263.66B119GB123GB不可192GB〜
DeepSeek-V4-Flash284.33B127GB132GB不可192GB〜
GLM-5.3-Flash320.76B146GB151GB不可256GB〜
ERNIE 4.5 300B-A47B299.48B149GB155GB不可256GB〜
Hy3 295B-A21B298.79B150GB157GB不可256GB〜
Qwen3.5 397B-A17B396.35B177GB183GB不可256GB〜
GLM-4.5 355B-A32B358.34B178GB187GB不可256GB〜
Llama 4 Maverick 17B-128E400.71B200GB208GB不可512GB〜
Qwen3-Coder 480B-A35B480.15B243GB252GB不可512GB〜
Mistral Large 3 675B673.42B335GB347GB不可512GB〜
GLM-5.3753.86B340GB352GB不可512GB〜

他の形式との比較

形式平均ビット数IQ4_XSに対するサイズ位置づけ
Q4_K_M4.8112%ローカルLLMで最も広く使われている量子化です
IQ4_XS（このページ）4.3100%Q4_K_Mより1割ほど小さい4bit量子化です
Q5_K_M5.7133%4bitより一段品質に寄せた5bit量子化です
Q6_K6.6153%6bit量子化
Q8_08.5198%8bit量子化
Q3_K_M3.991%3bit量子化
Q2_K2.660%2bit量子化
MXFP44.2599%OpenAIのgpt-ossシリーズなどが採用する4bit形式です

よくある質問

IQ4_XSとは何ですか？

IQ系はimportance matrix（重要度行列）を使う量子化で、事前に流したテキストで重みごとの重要度を測り、重要な部分により多くのビットを割り当てます。XSはextra small。平均4.3ビット前後で、Q4_K_Mより10%前後小さくなります。生成時の計算はQ4_K_Mよりわずかに重く、CPU実行では速度差が出ることがあります。

IQ4_XSで品質はどれくらい落ちますか？

同じ4bit帯なのでQ4_K_Mに近い水準です。ファイルが小さいぶん、VRAM 16GBに27Bクラスを載せる、といった「ぎりぎりの一手」で価値があります。

IQ4_XSはどんなときに選びますか？

Q4_K_Mが数GB溢れるとき。当サイトの機種別ページの「量子化を落とせば収まるモデル」で、この形式が選ばれることが多くあります。

手持ちのPCで何が動くか判定する 容量別に動くモデルを見る