MXFP4とは — 必要メモリと選びどころ（2026年10月）
OpenAIのgpt-ossシリーズなどが採用する4bit形式です。モデル側が最初からこの形式で配布されます。
どういう仕組みか
Microscaling FP4という規格に基づく4bit浮動小数点形式で、平均4.25ビット前後。後から量子化するのではなく、学習・配布の段階でこの形式が前提になっているモデルがあり、その場合は他の量子化を選ぶ必要がありません。MoE部分だけに適用する MXFP4_MOE という派生もあります。
品質はどう変わるか
モデル提供側が想定した形式なので、後付けの量子化と違って品質の目減りを気にせず使えます。gpt-oss-20bがVRAM 16GBに収まるのはこの形式のおかげです。
選ぶ場面
gpt-ossなど、この形式で配布されているモデルを使うとき。選択の余地はなく、それが標準です。
近い形式との使い分け
後から量子化する形式と違い、モデル側が最初からこの形式を前提にしています。そのため「4bitに落としたぶん品質が下がる」という考え方が当てはまりません。同じモデルに他の量子化版が配布されていることもありますが、この形式が標準です。
つまずきどころ
対応していないツールやバージョンでは読み込めないことがあります。動かないときは、まずツールを新しくするのが先です。GGUFの仕様は更新が続いているので、モデルが新しいほどツール側の版数が効いてきます。
品質が落ちたと感じたときの確かめ方
想定された形式なので、品質を疑って他の量子化を探す必要は基本的にありません。速度が出ないときに見るのは量子化ではなく、GPUに全層が載っているかどうかとコンテキスト長の設定です。
この形式が持つ意味
他の形式との決定的な違いは、量子化が「後工程」ではないことです。Q4_K_MやIQ4_XSは、bf16で配布されたモデルを有志が変換して作ります。元の重みから情報を削るので、どこをどれだけ削るかで品質が変わり、同じ4bitでも配布元によって結果が違ってきます。
MXFP4はそこが逆で、モデルを出す側がこの形式を前提に調整したうえで配布します。使う側から見れば「これが正規版」であり、他の量子化を探す動機がほとんどありません。実際の効きどころは容量です。20Bクラスのモデルがbf16なら40GB前後になるところ、この形式なら十数GBに収まり、VRAM 16GBの一般的なGPUに載ります。
これまで「20BはGPU1枚では無理」とされていたものを、GPU1枚で動かせるようにした形式です。一方で、対応しているツールの版数を選ぶ点は他の形式より厳しくなります。動かないときにまず疑うのはモデルではなくツール側で、GGUFの仕様更新に追いついているかを確認するのが先です。
容量別に何本動くか
| メモリ容量 | MXFP4で収まるモデル数 |
|---|---|
| VRAM 8GB / Mac 8GB相当（実効5.4GB） | 0 / 23 |
| VRAM 12GB / Mac 12GB相当（実効8.0GB） | 1 / 23 |
| VRAM 16GB / Mac 16GB相当（実効11GB） | 1 / 23 |
| VRAM 24GB / Mac 24GB相当（実効16GB） | 2 / 23 |
| VRAM 32GB / Mac 32GB相当（実効21GB） | 8 / 23 |
| Mac 48GB相当（実効36GB） | 11 / 23 |
| Mac 64GB相当（実効48GB） | 12 / 23 |
| Mac 128GB相当（実効96GB） | 17 / 23 |
MXFP4での必要メモリ一覧（23モデル）
ファイルサイズはHugging Faceの実サイズ、必要メモリはそれにKVキャッシュ（8,192トークン）と計算バッファを足した値です。
| モデル | パラメータ | ファイル | 必要メモリ | 動く最小のGPU | 動く最小のMac |
|---|---|---|---|---|---|
| LFM2.5 8B-A1BMXFP4_MOE | 8.47B | 5.0GB | 5.7GB | VRAM 8GB〜 | 16GB〜 |
| gpt-oss-20b | 20.91B | 11GB | 12GB | VRAM 16GB〜 | 24GB〜 |
| Gemma 4 26B-A4BMXFP4_MOE | 25.23B | 15GB | 17GB | VRAM 20GB〜 | 32GB〜 |
| GLM-4.7-Flash 30B-A3BMXFP4_MOE | 29.94B | 16GB | 18GB | VRAM 20GB〜 | 32GB〜 |
| LLM-jp-4 32B-A3B thinkingMXFP4_MOE | 32.14B | 17GB | 18GB | VRAM 20GB〜 | 32GB〜 |
| North Mini Code 1.0MXFP4_MOE | 30.48B | 17GB | 19GB | VRAM 20GB〜 | 32GB〜 |
| Qwen3.5 35B-A3BMXFP4_MOE | 34.66B | 20GB | 21GB | VRAM 24GB〜 | 32GB〜 |
| Nemotron 3 Nano Omni 30B-A3BMXFP4_MOE | 31.58B | 20GB | 21GB | VRAM 24GB〜 | 32GB〜 |
| Ornith 1.0 35B-A3BMXFP4_MOE | 34.66B | 20GB | 21GB | VRAM 24GB〜 | 36GB〜 |
| Qwen-AgentWorld 35B-A3BMXFP4_MOE | 34.66B | 20GB | 21GB | VRAM 24GB〜 | 36GB〜 |
| Qwen3.6 35B-A3BMXFP4_MOE | 34.66B | 20GB | 21GB | VRAM 24GB〜 | 36GB〜 |
| Qwen3-Coder-Next 80B-A3BMXFP4_MOE | 79.67B | 45GB | 47GB | VRAM 48GB〜 | 64GB〜 |
| gpt-oss-120b | 116.83B | 59GB | 62GB | 不可 | 96GB〜 |
| GPT-OSS-Swallow 120BMXFP4_MOE | 116.83B | 59GB | 62GB | 不可 | 96GB〜 |
| Laguna S 2.1 118B-A8BMXFP4_MOE | 117.56B | 66GB | 69GB | 不可 | 96GB〜 |
| Mistral Small 4 119BMXFP4_MOE | 118.97B | 67GB | 70GB | 不可 | 96GB〜 |
| Qwen3.5 122B-A10BMXFP4_MOE | 122.11B | 70GB | 72GB | 不可 | 128GB〜 |
| Step-3.7-FlashMXFP4_MOE | 196.96B | 110GB | 114GB | 不可 | 192GB〜 |
| MiniMax-M2.5 229B-A10BMXFP4_MOE | 228.69B | 115GB | 121GB | 不可 | 192GB〜 |
| Inkling Small 264BMXFP4_MOE | 263.66B | 147GB | 152GB | 不可 | 256GB〜 |
| MiMo-V2.6-Flash-RL | 308.78B | 156GB | 161GB | 不可 | 256GB〜 |
| Qwen3.5 397B-A17BMXFP4_MOE | 396.35B | 221GB | 228GB | 不可 | 512GB〜 |
| RakutenAI-3.0 671B-A37BMXFP4_MOE | 671.03B | 340GB | 352GB | 不可 | 512GB〜 |
他の形式との比較
| 形式 | 平均ビット数 | MXFP4に対するサイズ | 位置づけ |
|---|---|---|---|
| Q4_K_M | 4.8 | 113% | ローカルLLMで最も広く使われている量子化です |
| IQ4_XS | 4.3 | 101% | Q4_K_Mより1割ほど小さい4bit量子化です |
| Q5_K_M | 5.7 | 134% | 4bitより一段品質に寄せた5bit量子化です |
| Q6_K | 6.6 | 155% | 6bit量子化 |
| Q8_0 | 8.5 | 200% | 8bit量子化 |
| Q3_K_M | 3.9 | 92% | 3bit量子化 |
| Q2_K | 2.6 | 61% | 2bit量子化 |
| MXFP4（このページ） | 4.25 | 100% | OpenAIのgpt-ossシリーズなどが採用する4bit形式です |
よくある質問
MXFP4とは何ですか？
Microscaling FP4という規格に基づく4bit浮動小数点形式で、平均4.25ビット前後。後から量子化するのではなく、学習・配布の段階でこの形式が前提になっているモデルがあり、その場合は他の量子化を選ぶ必要がありません。MoE部分だけに適用する MXFP4_MOE という派生もあります。
MXFP4で品質はどれくらい落ちますか？
モデル提供側が想定した形式なので、後付けの量子化と違って品質の目減りを気にせず使えます。gpt-oss-20bがVRAM 16GBに収まるのはこの形式のおかげです。
MXFP4はどんなときに選びますか？
gpt-ossなど、この形式で配布されているモデルを使うとき。選択の余地はなく、それが標準です。
MXFP4のモデルを、他の量子化に変換して使えますか
技術的には可能ですが、意味がありません。この形式はモデル側が前提として調整したもので、そこから別の形式に変換すると二度目の量子化になり、品質だけが落ちます。容量を減らしたいなら、形式を変えるのではなく1つ小さいモデルを選ぶほうが結果が安定します。
対応しているかどうかは、どう確かめればいいですか
使っているツールを最新にしたうえで、実際に読み込んでみるのが早い方法です。読み込めなければ、対応していない形式である旨がエラーに出ます。llama.cppを直接使っているなら、ビルドの日付が新しいかどうかが判断材料になります。OllamaやLM Studioなら、アプリの更新で解決することがほとんどです。