AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › 量子化別 › Q2_K

Q2_Kとは — 必要メモリと選びどころ（2026年10月）

2bit量子化。品質の低下がはっきり出るため、最後の手段です。

2.6平均ビット数
16%元のbf16に対するサイズ
153この形式が公開されているモデル（全204本中）
119VRAM 16GBに載る数

どういう仕組みか

平均2.6ビット前後。Q4_K_Mの半分程度のファイルサイズになり、本来ならメモリに収まらない大きさのモデルを、無理やり収められます。

品質はどう変わるか

出力の破綻、指示の無視、繰り返しが起きやすくなります。「70Bを動かした」という体験そのものが目的でない限り、同じメモリで収まる小さいモデルのQ4を選んだほうが実用的です。

選ぶ場面

巨大モデルを試すとき、あるいはメモリが極端に限られるとき。当サイトの推奨では基本的に選びません。

近い形式との使い分け

この形式まで落とすのは、他に手段がないときです。ファイルは4bitの半分近くまで小さくなりますが、品質の目減りははっきり分かる水準になります。

つまずきどころ

「メモリに収まる」ことと「使える」ことは別です。2bitで大きいモデルを無理に収めるより、1つか2つ小さいモデルを4bitで動かすほうが、ほとんどの用途で良い結果になります。表で収まると出ていても、そこが最善とは限りません。

品質が落ちたと感じたときの確かめ方

同じ質問を、1つ小さいモデルの4bit版と2bit版に投げて比べます。多くの場合、小さいモデルの4bitのほうが安定します。それでも大きいモデルを選ぶ理由があるとすれば、そのモデルにしかない特性を使いたいときです。

同じモデルを他の形式にすると

この形式が配布されているモデルのうち最も大きいKimi K2.6（1026.41B）を例に、形式を変えたときのファイルサイズを並べます。Q2_Kのときが334GBです。

形式平均ビットファイルQ2_Kとの差
Q2_K（このページ）2.6334GB—
IQ2_M2.7318GB15GB
IQ3_M3.7455GB+121GB
Q3_K_M3.9435GB+101GB

同じモデルでも形式でこれだけ変わります。あと数GBで手元の容量に載らない、というときは、モデルを替える前にこの表の1段下を試すほうが早いことがあります。コンテキスト長を伸ばす余地も、ここで決まります。

容量別に何本動くか

メモリ容量Q2_Kで収まるモデル数
VRAM 8GB / Mac 8GB相当（実効5.4GB）66 / 153
VRAM 12GB / Mac 12GB相当（実効8.0GB）79 / 153
VRAM 16GB / Mac 16GB相当（実効11GB）85 / 153
VRAM 24GB / Mac 24GB相当（実効16GB）120 / 153
VRAM 32GB / Mac 32GB相当（実効21GB）124 / 153
Mac 48GB相当（実効36GB）135 / 153
Mac 64GB相当（実効48GB）141 / 153
Mac 128GB相当（実効96GB）144 / 153

Q2_Kでの必要メモリ一覧（153モデル）

ファイルサイズはHugging Faceの実サイズ、必要メモリはそれにKVキャッシュ（8,192トークン）と計算バッファを足した値です。

モデルパラメータファイル必要メモリ動く最小のGPU動く最小のMac
Sarashina2.2 0.5B0.79B0.3GB1.3GBVRAM 4GB〜8GB〜
TinySwallow 1.5B1.54B0.6GB1.4GBVRAM 4GB〜8GB〜
RakutenAI-2.0 mini1.53B0.6GB1.4GBVRAM 4GB〜8GB〜
Qwen2.5 1.5B1.78B0.7GB1.4GBVRAM 4GB〜8GB〜
EXAONE 4.0 1.2B1.28B0.5GB1.5GBVRAM 4GB〜8GB〜
Qwen3.5 2B1.94B1.0GB1.6GBVRAM 4GB〜8GB〜
Qwen3 0.6B0.6B0.3GB1.7GBVRAM 4GB〜8GB〜
LFM2.5-VL 3B2.7B1.0GB1.7GBVRAM 4GB〜8GB〜
LFM2.5 2.6B2.7B1.0GB1.7GBVRAM 4GB〜8GB〜
Sarashina2.2 1B1.41B0.6GB1.8GBVRAM 4GB〜8GB〜
MiniCPM5 2B2.52B0.9GB1.8GBVRAM 4GB〜8GB〜
Qwen2.5-VL 3B3.09B1.2GB2.0GBVRAM 4GB〜8GB〜
Qwen2.5 3B3.09B1.2GB2.0GBVRAM 4GB〜8GB〜
Qwen2.5-Coder 3B3.09B1.2GB2.0GBVRAM 4GB〜8GB〜
Qwen3 1.7B1.72B0.7GB2.1GBVRAM 4GB〜8GB〜
Qwen3-VL 2B1.72B0.7GB2.1GBVRAM 4GB〜8GB〜
SmolLM3 3B3.08B1.2GB2.3GBVRAM 4GB〜8GB〜
Gemma 2 Baku 2B2.61B1.1GB2.3GBVRAM 4GB〜8GB〜
Gemma 3 4B3.88B1.6GB2.4GBVRAM 4GB〜8GB〜
Granite 4.2 3B3.66B1.4GB2.6GBVRAM 4GB〜8GB〜
Ministral 3 3B3.43B1.4GB2.7GBVRAM 4GB〜8GB〜
AREX-Turbo 4B4.21B1.9GB2.7GBVRAM 4GB〜8GB〜
Fara1.5 4B4.21B1.9GB2.7GBVRAM 4GB〜8GB〜
LLM-jp-3.1 1.8B1.87B0.7GB2.7GBVRAM 4GB〜8GB〜
Gemma 3n E2B4.46B2.1GB2.7GBVRAM 4GB〜8GB〜
AFM-4.5B4.62B1.8GB2.9GBVRAM 4GB〜8GB〜
Nanbeige4.2 3B4.17B1.7GB3.0GBVRAM 4GB〜8GB〜
Sarashina2.2 3B3.36B1.2GB3.0GBVRAM 4GB〜8GB〜
Granite 4.0 H-Tiny6.94B2.5GB3.1GBVRAM 4GB〜8GB〜
Phi-4-mini 3.8B3.84B1.6GB3.1GBVRAM 4GB〜8GB〜
Qwen3 4B4.02B1.6GB3.2GBVRAM 4GB〜8GB〜
Qwen3-VL 4B4.02B1.6GB3.2GBVRAM 4GB〜8GB〜
Ling 3.0 tiny7.89B2.8GB3.5GBVRAM 4GB〜8GB〜
Falcon-H1R 7B7.59B2.7GB3.6GBVRAM 6GB〜8GB〜
Gemma 3n E4B6.87B3.0GB3.7GBVRAM 6GB〜8GB〜
Qwen2.5-VL 7B7.62B2.8GB3.8GBVRAM 6GB〜8GB〜
DeepSeek-R1 Distill Qwen 7B7.62B2.8GB3.8GBVRAM 6GB〜8GB〜
ELYZA-Shortcut-1.0 Qwen 7B7.62B2.8GB3.8GBVRAM 6GB〜8GB〜
ABEJA Qwen2.5 7B Japanese7.62B2.8GB3.8GBVRAM 6GB〜8GB〜
Qwen2.5 7B7.62B2.8GB3.8GBVRAM 6GB〜8GB〜
Qwen2.5-Coder 7B7.62B2.8GB3.8GBVRAM 6GB〜8GB〜
Mistral 7B v0.37.25B2.5GB4.1GBVRAM 6GB〜8GB〜
CAT-Translate 7B7.49B2.7GB4.2GBVRAM 6GB〜8GB〜
MiMo-V2.6-Distill-Qwen-9B8.95B3.4GB4.2GBVRAM 6GB〜8GB〜
Tanuki-8B7.51B2.7GB4.3GBVRAM 6GB〜8GB〜
Hunyuan 7B7.5B2.8GB4.4GBVRAM 6GB〜8GB〜
Command R7B8.03B3.2GB4.4GBVRAM 6GB〜8GB〜
Llama 3 Youko 8B8.03B3.0GB4.5GBVRAM 6GB〜8GB〜
Llama 3.1 Swallow 8B8.03B3.0GB4.5GBVRAM 6GB〜8GB〜
DeepSeek-R1 Distill Llama 8B8.03B3.0GB4.5GBVRAM 6GB〜8GB〜
Llama 3.1 8B8.03B3.0GB4.5GBVRAM 6GB〜8GB〜
UI-Venus-2 9B8.95B3.8GB4.6GBVRAM 6GB〜8GB〜
Ornith 1.5 9B8.95B3.8GB4.6GBVRAM 6GB〜8GB〜
UI-Mate 9B8.95B3.8GB4.6GBVRAM 6GB〜8GB〜
Fara1.5 9B8.95B3.8GB4.6GBVRAM 6GB〜8GB〜
Apertus 8B8.05B3.1GB4.7GBVRAM 6GB〜8GB〜
GLM-4.6V-Flash 9B9.4B3.7GB4.7GBVRAM 6GB〜8GB〜
Qwen3 8B8.19B3.1GB4.8GBVRAM 6GB〜8GB〜
Shisa V2.1 Qwen3 8B8.19B3.1GB4.8GBVRAM 6GB〜8GB〜
DeepSeek-R1-0528 Qwen3 8B8.19B3.1GB4.8GBVRAM 6GB〜8GB〜
Qwen3-VL 8B8.19B3.1GB4.8GBVRAM 6GB〜8GB〜
Ministral 3 8B8.49B3.1GB4.8GBVRAM 6GB〜8GB〜
Aya Expanse 8B8.03B3.2GB4.8GBVRAM 6GB〜8GB〜
Phi-3.5-mini 3.8B3.82B1.3GB4.9GBVRAM 6GB〜8GB〜
Granite 4.2 8B8.79B3.3GB5.2GBVRAM 6GB〜8GB〜
Nemotron Nano 12B v212.31B4.4GB5.2GBVRAM 6GB〜8GB〜
Gemma 3 12B11.77B4.4GB5.9GBVRAM 8GB〜16GB〜
Gemma 2 9B9.24B3.5GB6.1GBVRAM 8GB〜16GB〜
Gemma-2-Llama-Swallow 9B9.24B3.5GB6.1GBVRAM 8GB〜16GB〜
Mistral Nemo 12B12.25B4.5GB6.3GBVRAM 8GB〜16GB〜
Mistral Nemo Japanese 12B12.25B4.5GB6.3GBVRAM 8GB〜16GB〜
Ministral 3 14B13.51B4.9GB6.8GBVRAM 8GB〜16GB〜
Qwen3 14B14.77B5.4GB7.3GBVRAM 8GB〜16GB〜
Phi-4 14B14.66B5.2GB7.4GBVRAM 8GB〜16GB〜
Shisa V2.1 unphi4 14B14.66B5.2GB7.4GBVRAM 8GB〜16GB〜
DeepSeek-R1 Distill Qwen 14B14.77B5.4GB7.5GBVRAM 10GB〜16GB〜
DeepSeek-R1 Distill Qwen 14B Japanese14.77B5.4GB7.5GBVRAM 10GB〜16GB〜
Qwen2.5 14B14.77B5.4GB7.5GBVRAM 10GB〜16GB〜
Qwen2.5-Coder 14B14.77B5.4GB7.5GBVRAM 10GB〜16GB〜
ERNIE 4.5 21B-A3B Thinking21.83B7.6GB8.8GBVRAM 10GB〜16GB〜
Codestral 22B22.25B7.7GB10GBVRAM 11GB〜16GB〜
Magistral Small 250923.57B8.3GB10GBVRAM 11GB〜16GB〜
Mistral Small 3.2 24B23.57B8.3GB10GBVRAM 11GB〜16GB〜
Devstral Small 250723.57B8.3GB10GBVRAM 11GB〜16GB〜
Devstral Small 2 24B23.57B8.3GB10GBVRAM 11GB〜16GB〜
AREX-2 27B26.9B9.9GB11GBVRAM 12GB〜18GB〜
Gemma 3 27B27.01B9.8GB12GBVRAM 16GB〜18GB〜
LLM-jp-3.1 13B13.71B4.9GB12GBVRAM 16GB〜18GB〜
Qwen3 30B-A3B30.53B10GB12GBVRAM 16GB〜18GB〜
Qwen3-VL 30B-A3B30.53B10GB12GBVRAM 16GB〜18GB〜
Qwen3-Coder 30B-A3B30.53B10GB12GBVRAM 16GB〜18GB〜
Fara1.5 27B26.9B11GB12GBVRAM 16GB〜24GB〜
UI-Mate 27B26.9B11GB12GBVRAM 16GB〜24GB〜
Granite 4.0 H-Small 32B-A9B32.21B11GB12GBVRAM 16GB〜24GB〜
GLM-4.7-Flash 30B-A3B29.94B11GB12GBVRAM 16GB〜24GB〜
Laguna XS 2.1 33B-A3B33.44B11GB13GBVRAM 16GB〜24GB〜
Gemma-2-Llama-Swallow 27B27.23B9.7GB13GBVRAM 16GB〜24GB〜
XYZ-Aquila mini 35B-A3B34.66B12GB13GBVRAM 16GB〜24GB〜
KAT-Coder-V2.5-Dev 35B-A3B34.66B12GB13GBVRAM 16GB〜24GB〜
Thomson 1.0 Small 35B-A3B34.66B12GB13GBVRAM 16GB〜24GB〜
Granite 4.2 30B29.28B10GB13GBVRAM 16GB〜24GB〜
EXAONE 4.0.1 32B32B11GB13GBVRAM 16GB〜24GB〜
Ornith 1.5 35B-A3B35.51B12GB13GBVRAM 16GB〜24GB〜
BigBang v1 35B35.51B12GB13GBVRAM 16GB〜24GB〜
Olmo 3.1 32B32.23B11GB13GBVRAM 16GB〜24GB〜
Nex-N2.5-mini34.66B13GB14GBVRAM 16GB〜24GB〜
Holo4 35B-A3B34.66B13GB14GBVRAM 16GB〜24GB〜
Aya Expanse 32B32.3B12GB14GBVRAM 16GB〜24GB〜
Qwen2.5-VL 32B32.76B11GB14GBVRAM 16GB〜24GB〜
DeepSeek-R1 Distill Qwen 32B32.76B11GB14GBVRAM 16GB〜24GB〜
ELYZA-Thinking-1.0 Qwen 32B32.76B11GB14GBVRAM 16GB〜24GB〜
DeepSeek-R1 Distill Qwen 32B Japanese32.76B11GB14GBVRAM 16GB〜24GB〜
ELYZA-Shortcut-1.0 Qwen 32B32.76B11GB14GBVRAM 16GB〜24GB〜
ABEJA Qwen2.5 32B Japanese32.76B11GB14GBVRAM 16GB〜24GB〜
Qwen2.5 32B32.76B11GB14GBVRAM 16GB〜24GB〜
Qwen2.5-Coder 32B32.76B11GB14GBVRAM 16GB〜24GB〜
KARAKURI LM 32B Thinking32.76B11GB14GBVRAM 16GB〜24GB〜
Qwen3 32B32.76B11GB14GBVRAM 16GB〜24GB〜
Qwen3-VL 32B32.76B11GB14GBVRAM 16GB〜24GB〜
Seed-OSS 36B36.15B13GB16GBVRAM 20GB〜24GB〜
Kimi Linear 48B-A3B49.12B16GB17GBVRAM 20GB〜32GB〜
Mixtral 8x7B46.7B16GB18GBVRAM 20GB〜32GB〜
RakutenAI-2.0 8x7B46.83B16GB18GBVRAM 20GB〜32GB〜
Tanuki-8x8B46.97B16GB18GBVRAM 20GB〜32GB〜
Llama 3 Youko 70B70.55B25GB28GBVRAM 32GB〜48GB〜
Llama 3.1 70B Japanese70.55B25GB28GBVRAM 32GB〜48GB〜
Llama 3.3 Swallow 70B70.55B25GB28GBVRAM 32GB〜48GB〜
DeepSeek-R1 Distill Llama 70B70.55B25GB28GBVRAM 32GB〜48GB〜
Llama 3.1 70B70.55B25GB28GBVRAM 32GB〜48GB〜
Llama 3.3 70B70.55B25GB28GBVRAM 32GB〜48GB〜
Shisa V2.1 Llama 3.3 70B70.55B25GB28GBVRAM 32GB〜48GB〜
Qwen3-Next 80B-A3B79.67B27GB29GBVRAM 32GB〜48GB〜
Qwen3-Coder-Next 80B-A3B79.67B27GB29GBVRAM 32GB〜48GB〜
Hunyuan-A13B 80B80.39B27GB29GBVRAM 32GB〜48GB〜
Qwen2.5 72B72.71B28GB32GBVRAM 48GB〜48GB〜
Stockmark-2 100B96B33GB37GBVRAM 48GB〜64GB〜
Llama 4 Scout 17B-16E107.77B37GB40GBVRAM 48GB〜64GB〜
Command A 111B111.06B39GB42GBVRAM 48GB〜64GB〜
Ling 3.0 flash127.49B43GB45GBVRAM 48GB〜64GB〜
GLM-4.5-Air 106B-A12B110.47B42GB45GBVRAM 48GB〜64GB〜
Devstral 2 123B125.03B43GB48GB不可64GB〜
Mixtral 8x22B140.63B49GB52GB不可96GB〜
MiniMax-M2.5 229B-A10B228.69B78GB82GB不可128GB〜
Qwen3 235B-A22B235.09B80GB84GB不可128GB〜
Hy3 295B-A21B298.79B99GB105GB不可192GB〜
ERNIE 4.5 300B-A47B299.48B102GB107GB不可192GB〜
MiMo-V2.6-Flash-RL308.78B118GB122GB不可192GB〜
GLM-4.5 355B-A32B358.34B122GB129GB不可192GB〜
Llama 4 Maverick 17B-128E400.71B136GB142GB不可192GB〜
Qwen3-Coder 480B-A35B480.15B163GB170GB不可256GB〜
RakutenAI-3.0 671B-A37B671.03B227GB236GB不可512GB〜
Mistral Large 3 675B673.42B230GB239GB不可512GB〜
Kimi K2.61026.41B334GB345GB不可512GB〜

他の形式との比較

形式平均ビット数Q2_Kに対するサイズ位置づけ
Q4_K_M4.8185%ローカルLLMで最も広く使われている量子化です
IQ4_XS4.3165%Q4_K_Mより1割ほど小さい4bit量子化です
Q5_K_M5.7219%4bitより一段品質に寄せた5bit量子化です
Q6_K6.6254%6bit量子化
Q8_08.5327%8bit量子化
Q3_K_M3.9150%3bit量子化
Q2_K（このページ）2.6100%2bit量子化
MXFP44.25163%OpenAIのgpt-ossシリーズなどが採用する4bit形式です

よくある質問

Q2_Kとは何ですか？

平均2.6ビット前後。Q4_K_Mの半分程度のファイルサイズになり、本来ならメモリに収まらない大きさのモデルを、無理やり収められます。

Q2_Kで品質はどれくらい落ちますか？

出力の破綻、指示の無視、繰り返しが起きやすくなります。「70Bを動かした」という体験そのものが目的でない限り、同じメモリで収まる小さいモデルのQ4を選んだほうが実用的です。

Q2_Kはどんなときに選びますか？

巨大モデルを試すとき、あるいはメモリが極端に限られるとき。当サイトの推奨では基本的に選びません。

手持ちのPCで何が動くか判定する 容量別に動くモデルを見る