AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › 量子化別 › Q8_0

Q8_0とは — 必要メモリと選びどころ（2026年10月）

8bit量子化。実質的に元のモデルと同じ品質として扱われます。

8.5平均ビット数
53%元のbf16に対するサイズ
188この形式が公開されているモデル（全204本中）
88VRAM 16GBに載る数

どういう仕組みか

古くからあるシンプルな方式で、平均8.5ビット前後。ファイルはbf16のほぼ半分、Q4_K_Mの約1.8倍です。パラメータ数（B）とほぼ同じGB数になるので、「8Bモデルなら約8GB」と暗算しやすいのが特徴です。

品質はどう変わるか

量子化による劣化を議論しなくてよい水準。ただしファイルが大きいぶん、同じメモリならQ4で2倍のパラメータ数のモデルが載ります。ローカルで賢さを求めるなら、小さいモデルのQ8より大きいモデルのQ4が有利になることが多い。

選ぶ場面

メモリが余っている、あるいは小さなモデル（4B以下）で品質を詰めたいとき。

近い形式との使い分け

元のbf16の半分のサイズで、品質の目減りはほとんど問題になりません。基準として使う形式です。4bitとの差を確かめたいとき、この形式の出力を比較対象に置くと判断がつきます。

つまずきどころ

サイズが大きいぶん、1トークンあたりに読むバイト数も増えます。同じ機種でも4bitより生成は遅くなり、体感で半分以下になることもあります。品質を取るか速度を取るかの判断が、はっきり出る形式です。

品質が落ちたと感じたときの確かめ方

この形式で出した結果を基準にして、量子化を1段ずつ落としながら比べるのが、自分の用途に合う設定を見つける近道です。落として困らなかったところが、その用途での適正になります。

同じモデルを他の形式にすると

この形式が配布されているモデルのうち最も大きいGLM-5.3（753.86B）を例に、形式を変えたときのファイルサイズを並べます。Q8_0のときが746GBです。

形式平均ビットファイルQ8_0との差
IQ2_M2.7222GB524GB
IQ4_XS4.3340GB406GB
Q8_0（このページ）8.5746GB—

同じモデルでも形式でこれだけ変わります。あと数GBで手元の容量に載らない、というときは、モデルを替える前にこの表の1段下を試すほうが早いことがあります。コンテキスト長を伸ばす余地も、ここで決まります。

容量別に何本動くか

メモリ容量Q8_0で収まるモデル数
VRAM 8GB / Mac 8GB相当（実効5.4GB）35 / 188
VRAM 12GB / Mac 12GB相当（実効8.0GB）44 / 188
VRAM 16GB / Mac 16GB相当（実効11GB）81 / 188
VRAM 24GB / Mac 24GB相当（実効16GB）89 / 188
VRAM 32GB / Mac 32GB相当（実効21GB）98 / 188
Mac 48GB相当（実効36GB）140 / 188
Mac 64GB相当（実効48GB）153 / 188
Mac 128GB相当（実効96GB）164 / 188

Q8_0での必要メモリ一覧（188モデル）

ファイルサイズはHugging Faceの実サイズ、必要メモリはそれにKVキャッシュ（8,192トークン）と計算バッファを足した値です。

モデルパラメータファイル必要メモリ動く最小のGPU動く最小のMac
Gemma 3 270M0.27B0.3GB0.8GBVRAM 4GB〜8GB〜
Qwen2.5 0.5B0.49B0.5GB1.1GBVRAM 4GB〜8GB〜
Qwen3.5 0.8B0.77B0.8GB1.4GBVRAM 4GB〜8GB〜
Gemma 3 1B1B1.0GB1.6GBVRAM 4GB〜8GB〜
Sarashina2.2 0.5B0.79B0.8GB1.8GBVRAM 4GB〜8GB〜
LFM2.5 1.2B JP1.17B1.2GB1.8GBVRAM 4GB〜8GB〜
Qwen3 0.6B0.6B0.6GB2.0GBVRAM 4GB〜8GB〜
Llama 3.2 1B1.24B1.2GB2.0GBVRAM 4GB〜8GB〜
EXAONE 4.0 1.2B1.28B1.3GB2.3GBVRAM 4GB〜8GB〜
TinySwallow 1.5B1.54B1.5GB2.3GBVRAM 4GB〜8GB〜
RakutenAI-2.0 mini1.53B1.5GB2.4GBVRAM 4GB〜8GB〜
Qwen2.5 1.5B1.78B1.8GB2.5GBVRAM 4GB〜8GB〜
Qwen3.5 2B1.94B1.9GB2.6GBVRAM 4GB〜8GB〜
Sarashina2.2 1B1.41B1.4GB2.6GBVRAM 4GB〜8GB〜
Qwen3 1.7B1.72B1.7GB3.1GBVRAM 4GB〜8GB〜
Qwen3-VL 2B1.72B1.7GB3.1GBVRAM 4GB〜8GB〜
LFM2.5-VL 3B2.7B2.7GB3.4GBVRAM 4GB〜8GB〜
LFM2.5 2.6B2.7B2.7GB3.4GBVRAM 4GB〜8GB〜
MiniCPM5 2B2.52B2.5GB3.4GBVRAM 4GB〜8GB〜
Gemma 2 Baku 2B2.61B2.6GB3.8GBVRAM 6GB〜8GB〜
LLM-jp-3.1 1.8B1.87B1.9GB3.9GBVRAM 6GB〜8GB〜
Qwen2.5-VL 3B3.09B3.1GB3.9GBVRAM 6GB〜8GB〜
Qwen2.5 3B3.09B3.1GB3.9GBVRAM 6GB〜8GB〜
Qwen2.5-Coder 3B3.09B3.1GB3.9GBVRAM 6GB〜8GB〜
SmolLM3 3B3.08B3.1GB4.2GBVRAM 6GB〜8GB〜
Llama 3.2 3B3.21B3.2GB4.7GBVRAM 6GB〜8GB〜
Nemotron 3 Nano 4B3.97B3.9GB4.7GBVRAM 6GB〜8GB〜
Gemma 3 4B3.88B3.8GB4.7GBVRAM 6GB〜8GB〜
Ministral 3 3B3.43B3.4GB4.8GBVRAM 6GB〜8GB〜
Granite 4.2 3B3.66B3.6GB4.9GBVRAM 6GB〜8GB〜
Qwen3.5 4B4.21B4.2GB5.0GBVRAM 6GB〜8GB〜
AREX-Turbo 4B4.21B4.2GB5.1GBVRAM 6GB〜8GB〜
Fara1.5 4B4.21B4.2GB5.1GBVRAM 6GB〜8GB〜
Sarashina2.2 3B3.36B3.3GB5.2GBVRAM 6GB〜8GB〜
Gemma 3n E2B4.46B4.5GB5.2GBVRAM 6GB〜8GB〜
Phi-4-mini 3.8B3.84B3.8GB5.4GBVRAM 6GB〜16GB〜
Nanbeige4.2 3B4.17B4.1GB5.4GBVRAM 6GB〜16GB〜
Gemma 4 E2B4.65B4.7GB5.5GBVRAM 6GB〜16GB〜
Qwen3 4B4.02B4.0GB5.7GBVRAM 8GB〜16GB〜
Qwen3-VL 4B4.02B4.0GB5.7GBVRAM 8GB〜16GB〜
AFM-4.5B4.62B4.6GB5.8GBVRAM 8GB〜16GB〜
Phi-3.5-mini 3.8B3.82B3.8GB7.4GBVRAM 8GB〜16GB〜
Granite 4.0 H-Tiny6.94B6.9GB7.7GBVRAM 10GB〜16GB〜
Gemma 3n E4B6.87B6.8GB7.7GBVRAM 10GB〜16GB〜
Falcon-H1R 7B7.59B7.5GB8.6GBVRAM 10GB〜16GB〜
Gemma 4 E4B7.52B7.6GB8.6GBVRAM 10GB〜16GB〜
Ling 3.0 tiny7.89B7.8GB8.7GBVRAM 10GB〜16GB〜
Qwen2.5-VL 7B7.62B7.5GB8.7GBVRAM 10GB〜16GB〜
DeepSeek-R1 Distill Qwen 7B7.62B7.5GB8.7GBVRAM 10GB〜16GB〜
ELYZA-Shortcut-1.0 Qwen 7B7.62B7.5GB8.7GBVRAM 10GB〜16GB〜
ABEJA Qwen2.5 7B Japanese7.62B7.5GB8.7GBVRAM 10GB〜16GB〜
Qwen2.5 7B7.62B7.5GB8.7GBVRAM 10GB〜16GB〜
Qwen2.5-Coder 7B7.62B7.5GB8.7GBVRAM 10GB〜16GB〜
Mistral 7B v0.37.25B7.2GB8.9GBVRAM 10GB〜16GB〜
Hunyuan 7B7.5B7.4GB9.2GBVRAM 10GB〜16GB〜
Tanuki-8B7.51B7.4GB9.2GBVRAM 10GB〜16GB〜
LFM2.5 8B-A1B8.47B8.4GB9.2GBVRAM 10GB〜16GB〜
Command R7B8.03B8.0GB9.3GBVRAM 10GB〜16GB〜
Llama 3 Youko 8B8.03B8.0GB9.7GBVRAM 11GB〜16GB〜
Llama 3.1 Swallow 8B8.03B8.0GB9.7GBVRAM 11GB〜16GB〜
DeepSeek-R1 Distill Llama 8B8.03B8.0GB9.7GBVRAM 11GB〜16GB〜
Llama 3.1 8B8.03B8.0GB9.7GBVRAM 11GB〜16GB〜
Aya Expanse 8B8.03B8.0GB9.7GBVRAM 11GB〜16GB〜
Nemotron-Nano 9B v2 Japanese8.89B8.8GB9.7GBVRAM 11GB〜16GB〜
Apertus 8B8.05B8.0GB9.7GBVRAM 11GB〜16GB〜
Ornith 1.0 9B8.95B8.9GB9.9GBVRAM 11GB〜16GB〜
Qwen3.5 9B8.95B8.9GB9.9GBVRAM 11GB〜16GB〜
MiMo-V2.6-Distill-Qwen-9B8.95B8.9GB9.9GBVRAM 11GB〜16GB〜
UI-Venus-2 9B8.95B8.9GB9.9GBVRAM 11GB〜16GB〜
Ornith 1.5 9B8.95B8.9GB9.9GBVRAM 11GB〜16GB〜
UI-Mate 9B8.95B8.9GB9.9GBVRAM 11GB〜16GB〜
Fara1.5 9B8.95B8.9GB9.9GBVRAM 11GB〜16GB〜
Qwen3 8B8.19B8.1GB10.0GBVRAM 11GB〜16GB〜
DeepSeek-R1-0528 Qwen3 8B8.19B8.1GB10.0GBVRAM 11GB〜16GB〜
Qwen3-Swallow 8B8.19B8.1GB10.0GBVRAM 11GB〜16GB〜
Qwen3-VL 8B8.19B8.1GB10.0GBVRAM 11GB〜16GB〜
Ministral 3 8B8.49B8.4GB10GBVRAM 11GB〜16GB〜
LLM-jp-4 8B thinking8.59B8.5GB10GBVRAM 11GB〜16GB〜
GLM-4.6V-Flash 9B9.4B9.3GB10GBVRAM 11GB〜16GB〜
PLaMo 2 Translate9.53B9.4GB10GBVRAM 11GB〜16GB〜
Granite 4.2 8B8.79B8.7GB11GBVRAM 12GB〜18GB〜
Gemma 2 9B9.24B9.2GB12GBVRAM 16GB〜18GB〜
Gemma-2-Llama-Swallow 9B9.24B9.2GB12GBVRAM 16GB〜18GB〜
Gemma 4 12B11.91B12GB13GBVRAM 16GB〜24GB〜
Nemotron Nano 12B v212.31B12GB13GBVRAM 16GB〜24GB〜
Gemma 3 12B11.77B12GB13GBVRAM 16GB〜24GB〜
Mistral Nemo 12B12.25B12GB14GBVRAM 16GB〜24GB〜
Mistral Nemo Japanese 12B12.25B12GB14GBVRAM 16GB〜24GB〜
Ministral 3 14B13.51B13GB16GBVRAM 20GB〜24GB〜
Qwen3 14B14.77B15GB17GBVRAM 20GB〜32GB〜
ABEJA Qwen3 14B Agentic14.77B15GB17GBVRAM 20GB〜32GB〜
Phi-4 14B14.66B15GB17GBVRAM 20GB〜32GB〜
Shisa V2.1 unphi4 14B14.66B15GB17GBVRAM 20GB〜32GB〜
DeepSeek-R1 Distill Qwen 14B14.77B15GB17GBVRAM 20GB〜32GB〜
DeepSeek-R1 Distill Qwen 14B Japanese14.77B15GB17GBVRAM 20GB〜32GB〜
Qwen2.5 14B14.77B15GB17GBVRAM 20GB〜32GB〜
Qwen2.5-Coder 14B14.77B15GB17GBVRAM 20GB〜32GB〜
LLM-jp-3.1 13B13.71B14GB21GBVRAM 24GB〜32GB〜
GPT-OSS-Swallow 20B20.91B21GB22GBVRAM 24GB〜36GB〜
ERNIE 4.5 21B-A3B Thinking21.83B22GB23GBVRAM 24GB〜36GB〜
Codestral 22B22.25B22GB25GBVRAM 32GB〜48GB〜
Magistral Small 250923.57B23GB26GBVRAM 32GB〜48GB〜
Mistral Small 3.2 24B23.57B23GB26GBVRAM 32GB〜48GB〜
Devstral Small 250723.57B23GB26GBVRAM 32GB〜48GB〜
Devstral Small 2 24B23.57B23GB26GBVRAM 32GB〜48GB〜
Gemma 4 26B-A4B25.23B25GB27GBVRAM 32GB〜48GB〜
Qwen3.5 27B26.9B27GB28GBVRAM 32GB〜48GB〜
Qwen3.6 27B26.9B27GB28GBVRAM 32GB〜48GB〜
Fara1.5 27B26.9B27GB28GBVRAM 32GB〜48GB〜
UI-Mate 27B26.9B27GB28GBVRAM 32GB〜48GB〜
AREX-2 27B26.9B27GB28GBVRAM 32GB〜48GB〜
Qwen3.8 27B27.32B27GB29GBVRAM 32GB〜48GB〜
Gemma 3 27B27.01B27GB29GBVRAM 32GB〜48GB〜
Muse-Glimmer 30B27.85B28GB29GBVRAM 32GB〜48GB〜
Gemma-2-Llama-Swallow 27B27.23B27GB30GBVRAM 32GB〜48GB〜
GLM-4.7-Flash 30B-A3B29.94B30GB32GBVRAM 48GB〜48GB〜
North Mini Code 1.030.48B30GB32GBVRAM 48GB〜48GB〜
Granite 4.2 30B29.28B29GB32GBVRAM 48GB〜48GB〜
Qwen3 30B-A3B30.53B30GB32GBVRAM 48GB〜48GB〜
Qwen3-Swallow 30B-A3B30.53B30GB32GBVRAM 48GB〜48GB〜
Qwen3-VL 30B-A3B30.53B30GB32GBVRAM 48GB〜48GB〜
Qwen3-Coder 30B-A3B30.53B30GB32GBVRAM 48GB〜48GB〜
Nemotron 3.5 Lightning 30B-A3B31.58B31GB33GBVRAM 48GB〜48GB〜
Nemotron 3 Nano Omni 30B-A3B31.58B31GB33GBVRAM 48GB〜48GB〜
Gemma 4 31B30.7B30GB33GBVRAM 48GB〜48GB〜
Granite 4.0 H-Small 32B-A9B32.21B32GB33GBVRAM 48GB〜48GB〜
EXAONE 4.0.1 32B32B32GB34GBVRAM 48GB〜48GB〜
Olmo 3.1 32B32.23B32GB35GBVRAM 48GB〜48GB〜
Aya Expanse 32B32.3B32GB35GBVRAM 48GB〜48GB〜
Laguna XS 2.1 33B-A3B33.44B33GB35GBVRAM 48GB〜48GB〜
Qwen3 32B32.76B32GB36GBVRAM 48GB〜48GB〜
Qwen3-VL 32B32.76B32GB36GBVRAM 48GB〜48GB〜
DeepSeek-R1 Distill Qwen 32B32.76B32GB36GBVRAM 48GB〜48GB〜
ELYZA-Thinking-1.0 Qwen 32B32.76B32GB36GBVRAM 48GB〜48GB〜
DeepSeek-R1 Distill Qwen 32B Japanese32.76B32GB36GBVRAM 48GB〜48GB〜
ELYZA-Shortcut-1.0 Qwen 32B32.76B32GB36GBVRAM 48GB〜48GB〜
Qwen2.5-Coder 32B32.76B32GB36GBVRAM 48GB〜48GB〜
ABEJA Qwen2.5 32B Japanese32.76B32GB36GBVRAM 48GB〜48GB〜
Qwen2.5 32B32.76B32GB36GBVRAM 48GB〜48GB〜
KARAKURI LM 32B Thinking32.76B32GB36GBVRAM 48GB〜48GB〜
Ornith 1.0 35B-A3B34.66B34GB36GBVRAM 48GB〜64GB〜
Qwen3.5 35B-A3B34.66B34GB36GBVRAM 48GB〜64GB〜
Qwen3.6 35B-A3B34.66B34GB36GBVRAM 48GB〜64GB〜
Qwen-AgentWorld 35B-A3B34.66B34GB36GBVRAM 48GB〜64GB〜
Nex-N2.5-mini34.66B34GB36GBVRAM 48GB〜64GB〜
XYZ-Aquila mini 35B-A3B34.66B34GB36GBVRAM 48GB〜64GB〜
KAT-Coder-V2.5-Dev 35B-A3B34.66B34GB36GBVRAM 48GB〜64GB〜
Thomson 1.0 Small 35B-A3B34.66B34GB36GBVRAM 48GB〜64GB〜
Holo4 35B-A3B34.66B34GB36GBVRAM 48GB〜64GB〜
LLM-jp-4 33B thinking33.22B33GB36GBVRAM 48GB〜64GB〜
Ornith 1.5 35B-A3B35.51B35GB37GBVRAM 48GB〜64GB〜
BigBang v1 35B35.51B35GB37GBVRAM 48GB〜64GB〜
Seed-OSS 36B36.15B36GB39GBVRAM 48GB〜64GB〜
Mixtral 8x7B46.7B46GB49GB不可96GB〜
RakutenAI-2.0 8x7B46.83B46GB49GB不可96GB〜
Tanuki-8x8B46.97B46GB49GB不可96GB〜
Kimi Linear 48B-A3B49.12B49GB51GB不可96GB〜
DeepSeek-R1 Distill Llama 70B70.55B70GB75GB不可128GB〜
Llama 3.1 70B70.55B70GB75GB不可128GB〜
Llama 3.3 70B70.55B70GB75GB不可128GB〜
Qwen2.5 72B72.71B72GB77GB不可128GB〜
Qwen3-Next 80B-A3B79.67B79GB82GB不可128GB〜
Qwen3-Coder-Next 80B-A3B79.67B79GB82GB不可128GB〜
Hunyuan-A13B 80B80.39B80GB83GB不可128GB〜
Stockmark-2 100B96B95GB101GB不可192GB〜
Llama 4 Scout 17B-16E107.77B107GB112GB不可192GB〜
GLM-4.5-Air 106B-A12B110.47B109GB115GB不可192GB〜
Command A 111B111.06B110GB115GB不可192GB〜
Laguna S 2.1 118B-A8B117.56B116GB121GB不可192GB〜
Mistral Small 4 119B118.97B118GB122GB不可192GB〜
Qwen3.5 122B-A10B122.11B121GB125GB不可192GB〜
Devstral 2 123B125.03B124GB131GB不可192GB〜
Ling 3.0 flash127.49B126GB131GB不可192GB〜
Mixtral 8x22B140.63B139GB146GB不可256GB〜
Qwen3.8-Flash-Next176.94B175GB181GB不可256GB〜
Step-3.7-Flash196.96B195GB202GB不可512GB〜
MiniMax-M2.5 229B-A10B228.69B226GB236GB不可512GB〜
Qwen3 235B-A22B235.09B233GB242GB不可512GB〜
Inkling Small 264B263.66B261GB270GB不可512GB〜
ERNIE 4.5 300B-A47B299.48B296GB308GB不可512GB〜
Hy3 295B-A21B298.79B296GB308GB不可512GB〜
GLM-5.3-Flash320.76B318GB328GB不可512GB〜
GLM-4.5 355B-A32B358.34B355GB369GB不可512GB〜
Qwen3.5 397B-A17B396.35B393GB405GB不可不可
Llama 4 Maverick 17B-128E400.71B397GB410GB不可不可
Qwen3-Coder 480B-A35B480.15B475GB492GB不可不可
Mistral Large 3 675B673.42B667GB688GB不可不可
GLM-5.3753.86B746GB771GB不可不可

他の形式との比較

形式平均ビット数Q8_0に対するサイズ位置づけ
Q4_K_M4.856%ローカルLLMで最も広く使われている量子化です
IQ4_XS4.351%Q4_K_Mより1割ほど小さい4bit量子化です
Q5_K_M5.767%4bitより一段品質に寄せた5bit量子化です
Q6_K6.678%6bit量子化
Q8_0（このページ）8.5100%8bit量子化
Q3_K_M3.946%3bit量子化
Q2_K2.631%2bit量子化
MXFP44.2550%OpenAIのgpt-ossシリーズなどが採用する4bit形式です

よくある質問

Q8_0とは何ですか？

古くからあるシンプルな方式で、平均8.5ビット前後。ファイルはbf16のほぼ半分、Q4_K_Mの約1.8倍です。パラメータ数（B）とほぼ同じGB数になるので、「8Bモデルなら約8GB」と暗算しやすいのが特徴です。

Q8_0で品質はどれくらい落ちますか？

量子化による劣化を議論しなくてよい水準。ただしファイルが大きいぶん、同じメモリならQ4で2倍のパラメータ数のモデルが載ります。ローカルで賢さを求めるなら、小さいモデルのQ8より大きいモデルのQ4が有利になることが多い。

Q8_0はどんなときに選びますか？

メモリが余っている、あるいは小さなモデル（4B以下）で品質を詰めたいとき。

手持ちのPCで何が動くか判定する 容量別に動くモデルを見る