GLM-5.3-Flash を動かすPCスペック(必要VRAM・メモリ・速度の目安)
総321BのMoE。メモリ192GB以上のMac Studio級が対象
編集部の見立て
GLM-5系で初めて、画像と文章を最初から一緒に学習したモデルだと配布元は説明しています。総320Bのうち、1トークンごとに働くのは18B。IQ4_XSの146.1GBに8kの文脈を足した151.1GBが基準で、M2 Ultra(192GB)の実効144GBには7.1GB足りません。
収まるのはM5 Ultraなど256GBのUltra機からです。同じ192GBのMacでもDeepSeek-V4-Flash(132.3GB)なら収まるので、M2 Ultraの持ち主にはそちらが現実的な上限です。GLM系で画像まで手元に置きたい人に絞られる1本。
量子化別の必要メモリ
ファイルサイズは Hugging Face(unsloth/GLM-5.3-Flash-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(46層・KVを圧縮するMLA方式・文脈全体を見る層は12層だけ)から計算しています。必要メモリの合計には計算用のバッファも含めています。
| 量子化 | ファイル | KVキャッシュ(8k) | 必要合計 | GPUなら | Macなら |
|---|---|---|---|---|---|
| 4bit(IQ4_XS) Q4_K_Mより一回り小さい | 146GB | 0.2GB | 151GB | GPU単体では不可 | 256GB〜 |
| 8bit(Q8_0) 無劣化に近い | 318GB | 0.2GB | 328GB | GPU単体では不可 | 512GB〜 |
| 16bit(BF16) 元精度 | 598GB | 0.2GB | 616GB | GPU単体では不可 | 不可 |
モデルの構造と、必要メモリの増え方
GLM-5.3-FlashはZ.aiが2026年8月に公開した320.76Bのモデルです。GGUFのヘッダには46層と書かれており、総パラメータ320.76Bのうち、1トークンの生成で実際に読むのは約18Bです(MoE)。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。
KVを低ランク(rank 512)に圧縮するMLA方式です。同じ規模の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約24KB(fp16)で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで0.2GB、128Kトークンまで伸ばすと3.0GBです。
ライセンス表記: mit(層数と窓の大きさはGGUFヘッダから取得)
同じ数字のモデルと、実際は何が違うか
同じZ.aiのGLM-4.5-Air 106B-A12B(4bitで72GB)と比べると、総パラメータは約3倍の321Bで、4bitでも151.1GBが要ります。動く判定が出るのは256GBを積んだUltra機からです。構造も別物になりました。配布元はGLMで初めて疎な注意と線形注意を組み合わせたハイブリッド構造を採ったと説明しており、当サイトの計算でもKVキャッシュを持つのは12層だけ、1トークンあたり約24KB。
188KBのGLM-4.5-Airの8分の1ほどです。学習時の最大コンテキストは100万トークンで、GLM-4.5-Airの131,072トークンの8倍。ライセンス表記はMITです。
このモデルを実際に使うなら
速度の推定は、配布元の説明どおりアクティブ18Bで出しています。256GBのMac Studioでも世代の差は大きく、M5 Ultraの推定47.4tok/sに対してM3 Ultraは推定30.9tok/s。実効192GBから151.1GBを引いた余白は40.9GBで、KVキャッシュが軽いので100万トークンを満杯にしても約24GBに収まります。
考える量はreasoning_effortのlow・high・maxで選び、指定しなければmaxです。会話で使うならclear_thinking=trueを渡すよう配布元は案内しています。個人で試すなら、まずGLM-4.5-Airで同じ系統の傾向をつかみ、必要なら上げる順が無駄がありません。
このモデルの系統
GGUFヘッダに書かれたアーキテクチャはglm5nextで、当サイト収録の204モデル中1本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。
配布元はunsloth/GLM-5.3-Flash-GGUF、元になったモデルはzai-org/GLM-5.3-Flashです。
同じZ.aiのモデルでは、サイズの近いものにGLM-4.5 355B-A32B(358.34B)、GLM-4.5-Air 106B-A12B(110.47B)、GLM-4.7-Flash 30B-A3B(29.94B)があります。
コンテキスト長を伸ばすと必要メモリはどう増えるか
長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(IQ4_XS)(146GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。MLA(圧縮KV)採用のため、長いコンテキストでもKVが小さく収まります。
| コンテキスト | KVキャッシュ | 必要合計 | 必要なGPU | 必要なMac |
|---|---|---|---|---|
| 4,096 | 0.1GB | 151GB | GPU単体では不可 | 256GB〜 |
| 8,192既定 | 0.2GB | 151GB | GPU単体では不可 | 256GB〜 |
| 16,384 | 0.4GB | 151GB | GPU単体では不可 | 256GB〜 |
| 32,768 | 0.8GB | 152GB | GPU単体では不可 | 256GB〜 |
| 65,536 | 1.5GB | 152GB | GPU単体では不可 | 256GB〜 |
| 131,072 | 3.0GB | 154GB | GPU単体では不可 | 256GB〜 |
KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.8GBから約0.4GBに減ります(品質はわずかに落ちます)。
同じサイズ帯の他のモデル
| モデル | 開発元 | 4bitで必要 | 一言 |
|---|---|---|---|
| MiMo-V2.6-Flash-RL | Xiaomi | 161GB | Xiaomiの総309B・活性15BのMoE。画像・動画・音声も扱う。MIT。MXFP4で約156GB、Mac 256GBから |
| ERNIE 4.5 300B-A47B | Baidu | 175GB | Baiduの300BのMoE(アクティブ47B)。Apache 2.0。Mac 256GB以上が対象 |
| Hy3 295B-A21B | Tencent | 178GB | Tencentの295BのMoE(アクティブ21B)。Apache 2.0。Mac 256GB以上が対象 |
| DeepSeek-V4-Flash | DeepSeek | 132GB | 総284BのMoEでMIT。MLA採用でKVキャッシュが小さい。メモリ192GB以上向け |
| GLM-4.5 355B-A32B | Z.ai | 211GB | GLM-4.5-Airの上位(総355B・アクティブ32B)。MIT。Mac 256GB以上が対象 |
| Inkling Small 264B | Thinking Machines | 157GB | 総264BのMoE。メモリ192GB以上のMac Studio級が対象 |
4bit(IQ4_XS)が動く機種と推定速度
4bit(IQ4_XS)なら4機種で20 tok/s以上、0機種で8〜20 tok/s(テキスト生成の推定・計算方法)。
快適 20 tok/s以上(4機種)
- Apple M5 Ultra(256GB) 約47 tok/s推定
- Apple M5 Ultra(512GB) 約47 tok/s推定
- Apple M3 Ultra(256GB) 約31 tok/s補正済み
- Apple M3 Ultra(512GB) 約31 tok/s補正済み
実用 8〜20 tok/s(0機種)
- なし
遅い 動くが遅い(0機種)
- なし
メモリに一部を逃がせば動く(0機種・CPUオフロード、PCのメモリ32GB想定)
- なし
動かない機種(138)を見る
- GeForce RTX 3060 12GB あと140GB
- GeForce RTX 3060 Ti あと144GB
- GeForce RTX 3070 あと144GB
- GeForce RTX 3070 Ti あと144GB
- GeForce RTX 3080 10GB あと142GB
- GeForce RTX 3080 12GB あと140GB
- GeForce RTX 3080 Ti あと140GB
- GeForce RTX 3090 あと128GB
- GeForce RTX 3090 Ti あと128GB
- GeForce RTX 4060 あと144GB
- GeForce RTX 4060 Ti 8GB あと144GB
- GeForce RTX 4060 Ti 16GB あと136GB
- GeForce RTX 4070 あと140GB
- GeForce RTX 4070 SUPER あと140GB
- GeForce RTX 4070 Ti あと140GB
- GeForce RTX 4070 Ti SUPER あと136GB
- GeForce RTX 4080 あと136GB
- GeForce RTX 4080 SUPER あと136GB
- GeForce RTX 4090 あと128GB
- GeForce RTX 5060 あと144GB
- GeForce RTX 5060 Ti 8GB あと144GB
- GeForce RTX 5060 Ti 16GB あと136GB
- GeForce RTX 5070 あと140GB
- GeForce RTX 5070 Ti あと136GB
- GeForce RTX 5080 あと136GB
- GeForce RTX 5090 あと120GB
- GeForce RTX 3050 8GB あと144GB
- GeForce RTX 5050 あと144GB
- GeForce RTX 2060 6GB あと146GB
- GeForce RTX 2060 12GB あと140GB
- GeForce RTX 2060 SUPER あと144GB
- GeForce RTX 2070 あと144GB
- GeForce RTX 2070 SUPER あと144GB
- GeForce RTX 2080 あと144GB
- GeForce RTX 2080 SUPER あと144GB
- GeForce RTX 2080 Ti あと141GB
- GeForce GTX 1080 Ti あと141GB
- RTX 2000 Ada あと136GB
- RTX 6000 Ada あと104GB
- GeForce RTX 3050 Laptop あと148GB
- GeForce RTX 3060 Laptop あと146GB
- GeForce RTX 3070 Laptop あと144GB
- GeForce RTX 3080 Laptop 16GB あと136GB
- GeForce RTX 3080 Ti Laptop あと136GB
- GeForce RTX 4050 Laptop あと146GB
- GeForce RTX 4060 Laptop あと144GB
- GeForce RTX 4070 Laptop あと144GB
- GeForce RTX 4080 Laptop あと140GB
- GeForce RTX 4090 Laptop あと136GB
- GeForce RTX 5060 Laptop あと144GB
- GeForce RTX 5070 Laptop あと144GB
- GeForce RTX 5070 Ti Laptop あと140GB
- GeForce RTX 5080 Laptop あと136GB
- GeForce RTX 5090 Laptop あと128GB
- Radeon RX 7600 あと144GB
- Radeon RX 7700 XT あと140GB
- Radeon RX 7800 XT あと136GB
- Radeon RX 7900 XT あと132GB
- Radeon RX 7900 XTX あと128GB
- Radeon RX 7600 XT 16GB あと136GB
今のPCのまま、GLM-5.3-Flashを動かすために足すもの
PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
NVMe SSD / 外付けSSD 2TB
GLM-5.3-Flashは4bit(IQ4_XS)で146GB、8bitのQ8_0なら318GB。精度違いを3種類そろえるだけで約1061GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。
メモリ増設(32GB化)
GLM-5.3-FlashはMoEで、1トークンごとに動くのは18B分だけです。だからGPUに全部載せなくても、システムメモリ側に置いて実用速度が出ます。必要なのは151GBぶんの空きで、この型はVRAMを足すより先にメモリを増やすほうが効きます。
ローカルLLM / AIエージェント入門書
GLM-5.3-FlashのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。
GLM-5.3-Flashを動かせるPC・Macを今日買うなら
PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
Mac Studio M5 Ultra(メモリ256GB・SSD 2TB)
235B級のMoE型を1台で動かせる。帯域1.2TB/sはRTX 4090を上回る。個人で持てる上限
M5 Ultra(30コアCPU・64コアGPU)・ユニファイドメモリ256GB・SSD 2TB ・ 目安 167〜185万円
要件を満たす中で最も手頃
Mac Studio M5 Ultra(メモリ512GB)をLLMサーバに
DeepSeek V3級(671B)の4bitを1台で。帯域1.2TB/s。チームのローカルLLMサーバ
M5 Ultra(36コア・80コアGPU)・ユニファイドメモリ512GB・SSD 4TB ・ 目安 240〜280万円
別の形で同じ仕事をするなら
よくある質問
GLM-5.3-Flashを動かすのに必要なVRAMは?
4bit量子化(4bit(IQ4_XS))でファイル146GB、8,192トークンのKVキャッシュを含めて約151GBが必要です。GPU単体のVRAMには載らず、Macのユニファイドメモリか複数GPUが必要です。
GLM-5.3-FlashはMacで動く?
動きます。ユニファイドメモリ256GB以上のApple Silicon(例: Apple M5 Ultra(256GB))なら、4bit量子化で実用的な速さが出ます。
このクラスの選び方: ローカルLLM(70B〜120B MoE)に必要なPC / MacかWindowsか