AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › 量子化別 › Q3_K_M

Q3_K_Mとは — 必要メモリと選びどころ（2026年10月）

3bit量子化。メモリを優先して品質を譲る選択です。

3.9平均ビット数
24%元のbf16に対するサイズ
190この形式が公開されているモデル（全204本中）
117VRAM 16GBに載る数

どういう仕組みか

平均3.9ビット前後で、Q4_K_Mより2割ほど小さくなります。K-quantの混合方式により、一部の層は上位ビットを保持します。

品質はどう変わるか

4bitと比べると、言い回しの不自然さ、指示の取りこぼし、長文での一貫性の低下が出やすくなります。用途によっては許容できますが、日本語の生成では差が出やすい印象があります。

選ぶ場面

4bitではどうしても収まらず、より大きなモデルを動かしたいとき。同じメモリなら「大きいモデルのQ3」と「小さいモデルのQ4」のどちらが良いかは用途次第で、当サイトはまずQ4で収まるモデルを勧めています。

近い形式との使い分け

4bitでは収まらないときの選択肢です。ファイルは4bitより2割ほど小さくなりますが、品質の落ち方はここから急になります。同じ容量なら「1つ小さいモデルの4bit」と比べてみる価値があります。

つまずきどころ

大きいモデルを無理に載せるより、小さいモデルを高い精度で動かすほうが結果が良いことがあります。30Bを3bitで動かすか、14Bを5bitで動かすか。用途によって答えが変わるので、両方試してから決めましょう。

品質が落ちたと感じたときの確かめ方

落ち方が出やすいのは、長い文脈の保持と、指示の細部の遵守です。要約や分類のような範囲の狭い仕事なら、3bitでも実用になることがあります。自分の仕事で試してから常用を決めてください。

同じモデルを他の形式にすると

この形式が配布されているモデルのうち最も大きいKimi K2.6（1026.41B）を例に、形式を変えたときのファイルサイズを並べます。Q3_K_Mのときが435GBです。

形式平均ビットファイルQ3_K_Mとの差
Q2_K2.6334GB101GB
IQ2_M2.7318GB117GB
IQ3_M3.7455GB+20GB
Q3_K_M（このページ）3.9435GB—

同じモデルでも形式でこれだけ変わります。あと数GBで手元の容量に載らない、というときは、モデルを替える前にこの表の1段下を試すほうが早いことがあります。コンテキスト長を伸ばす余地も、ここで決まります。

容量別に何本動くか

メモリ容量Q3_K_Mで収まるモデル数
VRAM 8GB / Mac 8GB相当（実効5.4GB）62 / 190
VRAM 12GB / Mac 12GB相当（実効8.0GB）86 / 190
VRAM 16GB / Mac 16GB相当（実効11GB）95 / 190
VRAM 24GB / Mac 24GB相当（実効16GB）120 / 190
VRAM 32GB / Mac 32GB相当（実効21GB）150 / 190
Mac 48GB相当（実効36GB）161 / 190
Mac 64GB相当（実効48GB）166 / 190
Mac 128GB相当（実効96GB）177 / 190

Q3_K_Mでの必要メモリ一覧（190モデル）

ファイルサイズはHugging Faceの実サイズ、必要メモリはそれにKVキャッシュ（8,192トークン）と計算バッファを足した値です。

モデルパラメータファイル必要メモリ動く最小のGPU動く最小のMac
Qwen2.5 0.5B0.49B0.3GB0.9GBVRAM 4GB〜8GB〜
Qwen3.5 0.8B0.77B0.5GB1.1GBVRAM 4GB〜8GB〜
Gemma 3 1B1B0.7GB1.2GBVRAM 4GB〜8GB〜
Sarashina2.2 0.5B0.79B0.4GB1.4GBVRAM 4GB〜8GB〜
TinySwallow 1.5B1.54B0.8GB1.5GBVRAM 4GB〜8GB〜
RakutenAI-2.0 mini1.53B0.7GB1.6GBVRAM 4GB〜8GB〜
Qwen2.5 1.5B1.78B0.9GB1.6GBVRAM 4GB〜8GB〜
EXAONE 4.0 1.2B1.28B0.6GB1.6GBVRAM 4GB〜8GB〜
Qwen3 0.6B0.6B0.3GB1.7GBVRAM 4GB〜8GB〜
Qwen3.5 2B1.94B1.1GB1.8GBVRAM 4GB〜8GB〜
Sarashina2.2 1B1.41B0.7GB1.9GBVRAM 4GB〜8GB〜
LFM2.5-VL 3B2.7B1.3GB1.9GBVRAM 4GB〜8GB〜
LFM2.5 2.6B2.7B1.3GB1.9GBVRAM 4GB〜8GB〜
MiniCPM5 2B2.52B1.2GB2.0GBVRAM 4GB〜8GB〜
Qwen3 1.7B1.72B0.9GB2.3GBVRAM 4GB〜8GB〜
Qwen3-VL 2B1.72B0.9GB2.3GBVRAM 4GB〜8GB〜
Qwen2.5-VL 3B3.09B1.5GB2.3GBVRAM 4GB〜8GB〜
Qwen2.5 3B3.09B1.5GB2.3GBVRAM 4GB〜8GB〜
Qwen2.5-Coder 3B3.09B1.5GB2.3GBVRAM 4GB〜8GB〜
Gemma 2 Baku 2B2.61B1.4GB2.5GBVRAM 4GB〜8GB〜
SmolLM3 3B3.08B1.5GB2.6GBVRAM 4GB〜8GB〜
Gemma 3 4B3.88B2.0GB2.8GBVRAM 4GB〜8GB〜
LLM-jp-3.1 1.8B1.87B0.9GB2.9GBVRAM 4GB〜8GB〜
Granite 4.2 3B3.66B1.8GB2.9GBVRAM 4GB〜8GB〜
Qwen3.5 4B4.21B2.1GB2.9GBVRAM 4GB〜8GB〜
Nemotron 3 Nano 4B3.97B2.3GB3.0GBVRAM 4GB〜8GB〜
Gemma 3n E2B4.46B2.3GB3.0GBVRAM 4GB〜8GB〜
Ministral 3 3B3.43B1.7GB3.0GBVRAM 4GB〜8GB〜
Gemma 4 E2B4.65B2.4GB3.1GBVRAM 4GB〜8GB〜
AREX-Turbo 4B4.21B2.3GB3.1GBVRAM 4GB〜8GB〜
Fara1.5 4B4.21B2.3GB3.1GBVRAM 4GB〜8GB〜
Nanbeige4.2 3B4.17B2.1GB3.3GBVRAM 4GB〜8GB〜
AFM-4.5B4.62B2.2GB3.4GBVRAM 4GB〜8GB〜
Sarashina2.2 3B3.36B1.6GB3.4GBVRAM 4GB〜8GB〜
Phi-4-mini 3.8B3.84B2.0GB3.5GBVRAM 6GB〜8GB〜
Qwen3 4B4.02B1.9GB3.6GBVRAM 6GB〜8GB〜
Qwen3-VL 4B4.02B1.9GB3.6GBVRAM 6GB〜8GB〜
Granite 4.0 H-Tiny6.94B3.2GB3.8GBVRAM 6GB〜8GB〜
Gemma 3n E4B6.87B3.4GB4.2GBVRAM 6GB〜8GB〜
Ling 3.0 tiny7.89B3.5GB4.2GBVRAM 6GB〜8GB〜
LFM2.5 8B-A1B8.47B3.7GB4.4GBVRAM 6GB〜8GB〜
Falcon-H1R 7B7.59B3.4GB4.4GBVRAM 6GB〜8GB〜
Qwen2.5-VL 7B7.62B3.5GB4.6GBVRAM 6GB〜8GB〜
DeepSeek-R1 Distill Qwen 7B7.62B3.5GB4.6GBVRAM 6GB〜8GB〜
ELYZA-Shortcut-1.0 Qwen 7B7.62B3.5GB4.6GBVRAM 6GB〜8GB〜
ABEJA Qwen2.5 7B Japanese7.62B3.5GB4.6GBVRAM 6GB〜8GB〜
Qwen2.5 7B7.62B3.5GB4.6GBVRAM 6GB〜8GB〜
Qwen2.5-Coder 7B7.62B3.5GB4.6GBVRAM 6GB〜8GB〜
Gemma 4 E4B7.52B3.8GB4.6GBVRAM 6GB〜8GB〜
Mistral 7B v0.37.25B3.3GB4.9GBVRAM 6GB〜8GB〜
CAT-Translate 7B7.49B3.4GB5.0GBVRAM 6GB〜8GB〜
Tanuki-8B7.51B3.4GB5.0GBVRAM 6GB〜8GB〜
MiMo-V2.6-Distill-Qwen-9B8.95B4.2GB5.0GBVRAM 6GB〜8GB〜
Hunyuan 7B7.5B3.5GB5.1GBVRAM 6GB〜8GB〜
Command R7B8.03B3.9GB5.2GBVRAM 6GB〜8GB〜
PLaMo 2 Translate9.53B4.3GB5.2GBVRAM 6GB〜8GB〜
Qwen3.5 9B8.95B4.4GB5.2GBVRAM 6GB〜8GB〜
Ornith 1.0 9B8.95B4.4GB5.3GBVRAM 6GB〜8GB〜
Llama 3 Youko 8B8.03B3.7GB5.4GBVRAM 6GB〜8GB〜
Llama 3.1 Swallow 8B8.03B3.7GB5.4GBVRAM 6GB〜8GB〜
DeepSeek-R1 Distill Llama 8B8.03B3.7GB5.4GBVRAM 6GB〜8GB〜
Llama 3.1 8B8.03B3.7GB5.4GBVRAM 6GB〜8GB〜
Phi-3.5-mini 3.8B3.82B1.8GB5.4GBVRAM 6GB〜8GB〜
UI-Venus-2 9B8.95B4.6GB5.5GBVRAM 6GB〜16GB〜
Ornith 1.5 9B8.95B4.6GB5.5GBVRAM 6GB〜16GB〜
UI-Mate 9B8.95B4.6GB5.5GBVRAM 6GB〜16GB〜
Fara1.5 9B8.95B4.6GB5.5GBVRAM 6GB〜16GB〜
Apertus 8B8.05B3.9GB5.5GBVRAM 6GB〜16GB〜
Aya Expanse 8B8.03B3.9GB5.6GBVRAM 8GB〜16GB〜
Qwen3 8B8.19B3.8GB5.6GBVRAM 8GB〜16GB〜
Shisa V2.1 Qwen3 8B8.19B3.8GB5.6GBVRAM 8GB〜16GB〜
DeepSeek-R1-0528 Qwen3 8B8.19B3.8GB5.6GBVRAM 8GB〜16GB〜
Qwen3-Swallow 8B8.19B3.8GB5.6GBVRAM 8GB〜16GB〜
Qwen3-VL 8B8.19B3.8GB5.6GBVRAM 8GB〜16GB〜
GLM-4.6V-Flash 9B9.4B4.6GB5.6GBVRAM 8GB〜16GB〜
Ministral 3 8B8.49B4.0GB5.6GBVRAM 8GB〜16GB〜
LLM-jp-4 8B thinking8.59B4.1GB5.7GBVRAM 8GB〜16GB〜
Nemotron-Nano 9B v2 Japanese8.89B5.0GB5.8GBVRAM 8GB〜16GB〜
Granite 4.2 8B8.79B4.2GB6.1GBVRAM 8GB〜16GB〜
Gemma 4 12B11.91B5.3GB6.4GBVRAM 8GB〜16GB〜
Nemotron Nano 12B v212.31B5.6GB6.5GBVRAM 8GB〜16GB〜
Gemma 2 9B9.24B4.4GB7.0GBVRAM 8GB〜16GB〜
Gemma-2-Llama-Swallow 9B9.24B4.4GB7.0GBVRAM 8GB〜16GB〜
Gemma 3 12B11.77B5.6GB7.1GBVRAM 8GB〜16GB〜
Mistral Nemo 12B12.25B5.7GB7.6GBVRAM 10GB〜16GB〜
Mistral Nemo Japanese 12B12.25B5.7GB7.6GBVRAM 10GB〜16GB〜
Ministral 3 14B13.51B6.2GB8.2GBVRAM 10GB〜16GB〜
Qwen3 14B14.77B6.8GB8.8GBVRAM 10GB〜16GB〜
ABEJA Qwen3 14B Agentic14.77B6.8GB8.8GBVRAM 10GB〜16GB〜
Shisa V2.1 unphi4 14B14.66B6.7GB9.0GBVRAM 10GB〜16GB〜
DeepSeek-R1 Distill Qwen 14B14.77B6.8GB9.0GBVRAM 10GB〜16GB〜
DeepSeek-R1 Distill Qwen 14B Japanese14.77B6.8GB9.0GBVRAM 10GB〜16GB〜
Qwen2.5 14B14.77B6.8GB9.0GBVRAM 10GB〜16GB〜
Qwen2.5-Coder 14B14.77B6.8GB9.0GBVRAM 10GB〜16GB〜
Phi-4 14B14.66B6.9GB9.1GBVRAM 10GB〜16GB〜
ERNIE 4.5 21B-A3B Thinking21.83B9.8GB11GBVRAM 12GB〜18GB〜
Codestral 22B22.25B10GB13GBVRAM 16GB〜24GB〜
Magistral Small 250923.57B11GB13GBVRAM 16GB〜24GB〜
Mistral Small 3.2 24B23.57B11GB13GBVRAM 16GB〜24GB〜
Devstral Small 250723.57B11GB13GBVRAM 16GB〜24GB〜
Devstral Small 2 24B23.57B11GB13GBVRAM 16GB〜24GB〜
Gemma 4 26B-A4B25.23B12GB13GBVRAM 16GB〜24GB〜
GPT-OSS-Swallow 20B20.91B12GB13GBVRAM 16GB〜24GB〜
LLM-jp-3.1 13B13.71B6.3GB13GBVRAM 16GB〜24GB〜
AREX-2 27B26.9B12GB14GBVRAM 16GB〜24GB〜
Qwen3.5 27B26.9B13GB14GBVRAM 16GB〜24GB〜
Qwen3.6 27B26.9B13GB14GBVRAM 16GB〜24GB〜
Gemma 3 27B27.01B13GB14GBVRAM 16GB〜24GB〜
North Mini Code 1.030.48B13GB15GBVRAM 16GB〜24GB〜
Fara1.5 27B26.9B13GB15GBVRAM 16GB〜24GB〜
UI-Mate 27B26.9B13GB15GBVRAM 16GB〜24GB〜
GLM-4.7-Flash 30B-A3B29.94B14GB15GBVRAM 16GB〜24GB〜
Qwen3 30B-A3B30.53B14GB15GBVRAM 16GB〜24GB〜
Qwen3-Swallow 30B-A3B30.53B14GB15GBVRAM 16GB〜24GB〜
Qwen3-VL 30B-A3B30.53B14GB15GBVRAM 16GB〜24GB〜
Qwen3-Coder 30B-A3B30.53B14GB15GBVRAM 16GB〜24GB〜
Granite 4.0 H-Small 32B-A9B32.21B14GB15GBVRAM 16GB〜24GB〜
Gemma-2-Llama-Swallow 27B27.23B13GB16GBVRAM 20GB〜24GB〜
Laguna XS 2.1 33B-A3B33.44B15GB16GBVRAM 20GB〜24GB〜
Gemma 4 31B30.7B14GB16GBVRAM 20GB〜24GB〜
XYZ-Aquila mini 35B-A3B34.66B15GB16GBVRAM 20GB〜32GB〜
KAT-Coder-V2.5-Dev 35B-A3B34.66B15GB16GBVRAM 20GB〜32GB〜
Thomson 1.0 Small 35B-A3B34.66B15GB16GBVRAM 20GB〜32GB〜
Granite 4.2 30B29.28B13GB16GBVRAM 20GB〜32GB〜
Qwen3.5 35B-A3B34.66B15GB16GBVRAM 20GB〜32GB〜
Qwen3.6 35B-A3B34.66B15GB17GBVRAM 20GB〜32GB〜
EXAONE 4.0.1 32B32B14GB17GBVRAM 20GB〜32GB〜
Ornith 1.0 35B-A3B34.66B16GB17GBVRAM 20GB〜32GB〜
Qwen-AgentWorld 35B-A3B34.66B16GB17GBVRAM 20GB〜32GB〜
Ornith 1.5 35B-A3B35.51B16GB17GBVRAM 20GB〜32GB〜
BigBang v1 35B35.51B16GB17GBVRAM 20GB〜32GB〜
Olmo 3.1 32B32.23B15GB17GBVRAM 20GB〜32GB〜
LLM-jp-4 32B-A3B thinking32.14B16GB17GBVRAM 20GB〜32GB〜
Nex-N2.5-mini34.66B16GB17GBVRAM 20GB〜32GB〜
Holo4 35B-A3B34.66B16GB17GBVRAM 20GB〜32GB〜
Aya Expanse 32B32.3B15GB17GBVRAM 20GB〜32GB〜
Qwen2.5-VL 32B32.76B15GB18GBVRAM 20GB〜32GB〜
DeepSeek-R1 Distill Qwen 32B32.76B15GB18GBVRAM 20GB〜32GB〜
ELYZA-Thinking-1.0 Qwen 32B32.76B15GB18GBVRAM 20GB〜32GB〜
DeepSeek-R1 Distill Qwen 32B Japanese32.76B15GB18GBVRAM 20GB〜32GB〜
ELYZA-Shortcut-1.0 Qwen 32B32.76B15GB18GBVRAM 20GB〜32GB〜
ABEJA Qwen2.5 32B Japanese32.76B15GB18GBVRAM 20GB〜32GB〜
Qwen2.5 32B32.76B15GB18GBVRAM 20GB〜32GB〜
Qwen2.5-Coder 32B32.76B15GB18GBVRAM 20GB〜32GB〜
KARAKURI LM 32B Thinking32.76B15GB18GBVRAM 20GB〜32GB〜
Qwen3 32B32.76B15GB18GBVRAM 20GB〜32GB〜
Qwen3-VL 32B32.76B15GB18GBVRAM 20GB〜32GB〜
LLM-jp-4 33B thinking33.22B15GB18GBVRAM 20GB〜32GB〜
Nemotron 3 Nano Omni 30B-A3B31.58B18GB19GBVRAM 20GB〜32GB〜
Seed-OSS 36B36.15B16GB19GBVRAM 20GB〜32GB〜
Kimi Linear 48B-A3B49.12B21GB22GBVRAM 24GB〜36GB〜
Mixtral 8x7B46.7B21GB23GBVRAM 24GB〜36GB〜
RakutenAI-2.0 8x7B46.83B21GB23GBVRAM 24GB〜36GB〜
Tanuki-8x8B46.97B21GB23GBVRAM 24GB〜36GB〜
Llama 3 Youko 70B70.55B32GB36GBVRAM 48GB〜48GB〜
Llama 3.1 70B Japanese70.55B32GB36GBVRAM 48GB〜48GB〜
Llama 3.3 Swallow 70B70.55B32GB36GBVRAM 48GB〜48GB〜
DeepSeek-R1 Distill Llama 70B70.55B32GB36GBVRAM 48GB〜48GB〜
Llama 3.1 70B70.55B32GB36GBVRAM 48GB〜48GB〜
Llama 3.3 70B70.55B32GB36GBVRAM 48GB〜48GB〜
Shisa V2.1 Llama 3.3 70B70.55B32GB36GBVRAM 48GB〜48GB〜
Hunyuan-A13B 80B80.39B35GB37GBVRAM 48GB〜64GB〜
Qwen3-Next 80B-A3B79.67B36GB37GBVRAM 48GB〜64GB〜
Qwen3-Coder-Next 80B-A3B79.67B36GB37GBVRAM 48GB〜64GB〜
Qwen2.5 72B72.71B35GB39GBVRAM 48GB〜64GB〜
Stockmark-2 100B96B43GB48GB不可64GB〜
Llama 4 Scout 17B-16E107.77B48GB52GB不可96GB〜
Laguna S 2.1 118B-A8B117.56B50GB53GB不可96GB〜
Mistral Small 4 119B118.97B51GB53GB不可96GB〜
Command A 111B111.06B51GB54GB不可96GB〜
Qwen3.5 122B-A10B122.11B53GB55GB不可96GB〜
GLM-4.5-Air 106B-A12B110.47B53GB57GB不可96GB〜
Ling 3.0 flash127.49B55GB57GB不可96GB〜
Devstral 2 123B125.03B56GB61GB不可96GB〜
Mixtral 8x22B140.63B63GB67GB不可96GB〜
GPT-OSS-Swallow 120B116.83B66GB69GB不可96GB〜
Step-3.7-Flash196.96B83GB87GB不可128GB〜
MiniMax-M2.5 229B-A10B228.69B102GB107GB不可192GB〜
Qwen3 235B-A22B235.09B105GB110GB不可192GB〜
Inkling Small 264B263.66B111GB115GB不可192GB〜
DeepSeek-V4-Flash284.33B119GB124GB不可192GB〜
Hy3 295B-A21B298.79B128GB135GB不可192GB〜
ERNIE 4.5 300B-A47B299.48B133GB139GB不可192GB〜
GLM-4.5 355B-A32B358.34B160GB168GB不可256GB〜
Qwen3.5 397B-A17B396.35B165GB171GB不可256GB〜
Llama 4 Maverick 17B-128E400.71B178GB185GB不可256GB〜
Qwen3-Coder 480B-A35B480.15B214GB222GB不可512GB〜
RakutenAI-3.0 671B-A37B671.03B297GB308GB不可512GB〜
Mistral Large 3 675B673.42B300GB310GB不可512GB〜
Kimi K2.61026.41B435GB449GB不可不可

他の形式との比較

形式平均ビット数Q3_K_Mに対するサイズ位置づけ
Q4_K_M4.8123%ローカルLLMで最も広く使われている量子化です
IQ4_XS4.3110%Q4_K_Mより1割ほど小さい4bit量子化です
Q5_K_M5.7146%4bitより一段品質に寄せた5bit量子化です
Q6_K6.6169%6bit量子化
Q8_08.5218%8bit量子化
Q3_K_M（このページ）3.9100%3bit量子化
Q2_K2.667%2bit量子化
MXFP44.25109%OpenAIのgpt-ossシリーズなどが採用する4bit形式です

よくある質問

Q3_K_Mとは何ですか？

平均3.9ビット前後で、Q4_K_Mより2割ほど小さくなります。K-quantの混合方式により、一部の層は上位ビットを保持します。

Q3_K_Mで品質はどれくらい落ちますか？

4bitと比べると、言い回しの不自然さ、指示の取りこぼし、長文での一貫性の低下が出やすくなります。用途によっては許容できますが、日本語の生成では差が出やすい印象があります。

Q3_K_Mはどんなときに選びますか？

4bitではどうしても収まらず、より大きなモデルを動かしたいとき。同じメモリなら「大きいモデルのQ3」と「小さいモデルのQ4」のどちらが良いかは用途次第で、当サイトはまずQ4で収まるモデルを勧めています。

手持ちのPCで何が動くか判定する 容量別に動くモデルを見る