Apple M3 Ultra(512GB) で動くローカルLLM一覧(2026年9月)
30快適(20 tok/s以上)
9実用(8〜20 tok/s)
0CPUオフロードで動く
0動かない
この機種を積んだおすすめ構成: Mac Studio M3 Ultra(メモリ512GB)をLLMサーバに
まず試すなら: Qwen3.6 35B-A3B(8bit(Q8_0)・必要36GB・約84 tok/s較正)。Qwen3.5 35B-A3Bの改良版
載るモデル(ユニファイドメモリに全量が入る)
各モデルについて、載る中で最も高精度な量子化を表示。速度は推定(「較正」は同機種の公開ベンチで係数を合わせたもの)。
| モデル | 量子化 | 必要 | 判定 | 推定速度 |
|---|---|---|---|---|
| gpt-oss-20b | 4bit(MXFP4) | 12GB | 快適 | 約130 tok/s較正 |
| Llama 3.2 3B | 8bit(Q8_0) | 4.7GB | 快適 | 約120 tok/s較正 |
| Gemma 3 4B | 8bit(Q8_0) | 4.7GB | 快適 | 約110 tok/s較正 |
| Phi-4-mini 3.8B | 8bit(Q8_0) | 5.4GB | 快適 | 約99 tok/s較正 |
| gpt-oss-120b | 4bit(MXFP4) | 62GB | 快適 | 約94 tok/s較正 |
| Qwen3 4B | 8bit(Q8_0) | 5.7GB | 快適 | 約94 tok/s較正 |
| Llama-3-ELYZA-JP-8B | 4bit(Q4_K_M) | 6.2GB | 快適 | 約84 tok/s較正 |
| Qwen3.6 35B-A3B | 8bit(Q8_0) | 36GB | 快適 | 約84 tok/s較正 |
| Qwen3.5 35B-A3B | 8bit(Q8_0) | 36GB | 快適 | 約84 tok/s較正 |
| Qwen3-Next 80B-A3B | 8bit(Q8_0) | 82GB | 快適 | 約83 tok/s較正 |
| GLM-4.7-Flash 30B-A3B | 8bit(Q8_0) | 32GB | 快適 | 約76 tok/s較正 |
| Qwen3 30B-A3B | 8bit(Q8_0) | 32GB | 快適 | 約70 tok/s較正 |
| Qwen3-Coder 30B-A3B | 8bit(Q8_0) | 32GB | 快適 | 約70 tok/s較正 |
| Gemma 4 26B-A4B | 8bit(Q8_0) | 27GB | 快適 | 約62 tok/s較正 |
| Gemma 3n E4B | 8bit(Q8_0) | 7.7GB | 快適 | 約62 tok/s較正 |
| DeepSeek-R1 Distill Qwen 7B | 8bit(Q8_0) | 8.7GB | 快適 | 約55 tok/s較正 |
| Qwen2.5-Coder 7B | 8bit(Q8_0) | 8.7GB | 快適 | 約55 tok/s較正 |
| Llama 3.1 8B | 8bit(Q8_0) | 9.7GB | 快適 | 約50 tok/s較正 |
| DeepSeek-R1-0528 Qwen3 8B | 8bit(Q8_0) | 10.0GB | 快適 | 約49 tok/s較正 |
| Qwen3 8B | 8bit(Q8_0) | 10.0GB | 快適 | 約49 tok/s較正 |
| GLM-4.6V-Flash 9B | 8bit(Q8_0) | 10GB | 快適 | 約45 tok/s較正 |
| Gemma 3 12B | 8bit(Q8_0) | 13GB | 快適 | 約35 tok/s較正 |
| Mistral Nemo 12B | 8bit(Q8_0) | 14GB | 快適 | 約33 tok/s較正 |
| Qwen3 14B | 8bit(Q8_0) | 17GB | 快適 | 約28 tok/s較正 |
| Phi-4 14B | 8bit(Q8_0) | 17GB | 快適 | 約28 tok/s較正 |
| DeepSeek-R1 Distill Qwen 14B | 8bit(Q8_0) | 17GB | 快適 | 約28 tok/s較正 |
| DeepSeek-R1 Distill Qwen 14B Japanese | 8bit(Q8_0) | 17GB | 快適 | 約28 tok/s較正 |
| Qwen2.5-Coder 14B | 8bit(Q8_0) | 17GB | 快適 | 約28 tok/s較正 |
| Qwen3.5 122B-A10B | 8bit(Q8_0) | 125GB | 快適 | 約26 tok/s較正 |
| GLM-4.5-Air 106B-A12B | 8bit(Q8_0) | 115GB | 快適 | 約20 tok/s較正 |
| Mistral Small 3.2 24B | 8bit(Q8_0) | 26GB | 実用 | 約18 tok/s較正 |
| Qwen3.5 27B | 8bit(Q8_0) | 28GB | 実用 | 約16 tok/s較正 |
| Gemma 3 27B | 8bit(Q8_0) | 29GB | 実用 | 約16 tok/s較正 |
| Llama 4 Scout 17B-16E | 8bit(Q8_0) | 112GB | 実用 | 約15 tok/s較正 |
| Gemma 4 31B | 8bit(Q8_0) | 33GB | 実用 | 約14 tok/s較正 |
| Qwen3 32B | 8bit(Q8_0) | 36GB | 実用 | 約13 tok/s較正 |
| DeepSeek-R1 Distill Qwen 32B | 8bit(Q8_0) | 36GB | 実用 | 約13 tok/s較正 |
| Qwen2.5-Coder 32B | 8bit(Q8_0) | 36GB | 実用 | 約13 tok/s較正 |
| Qwen3 235B-A22B | 8bit(Q8_0) | 242GB | 実用 | 約11 tok/s較正 |
| Llama 3.3 70B | 8bit(Q8_0) | 75GB | 遅い | 約6.0 tok/s較正 |
動かないモデルと不足分
| モデル | 量子化 | 必要 | 不足 |
|---|---|---|---|
| なし(すべて載ります) | |||
今のPCで足りる人の、効く買い足し
PR: 以下は広告リンクを含みます(Amazonアソシエイト・各社アフィリエイト)。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
メモリ増設(32GB化)
エージェント・Docker・ブラウザ大量タブの詰まりはメモリで解消する
NVMe / 外付けSSD 2TB
モデル・Dockerイメージ・リポジトリで内蔵SSDはすぐ埋まる
この機種の実測データ(出典)
✅ M3 Ultra 3 の llama.cpp 公開ベンチマーク(GitHub Discussion): llama-7b F16 = 39.78 tok/s / llama-7b Q8_0 = 63.93 tok/s / llama-7b Q4_0 = 92.14 tok/s。この値からメモリ帯域幅に対する実効係数(57%)を求め、他モデルの速度推定に使っています。
よくある質問
Apple M3 Ultra(512GB)でローカルLLMは動く?
動きます。ユニファイドメモリ512GB(実効約384GB)に、収録40モデル中40本が載ります。日本語チャットならQwen3.6 35B-A3B(8bit(Q8_0))が推定約84 tok/sです。
Apple M3 Ultra(512GB)で動かないモデルは?
収録した人気モデルはすべて載ります。