AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › GLM-4.5 355B-A32B

GLM-4.5 355B-A32B を動かすPCスペック(必要VRAM・メモリ・速度の目安)

GLM-4.5-Airの上位(総355B・アクティブ32B)。MIT。Mac 256GB以上が対象

211GB4bitで動かすのに要るメモリ(会話8,192トークン分込み)
ユニファイドメモリ向けGPU1枚のVRAMでは足りない
512GB実用になるいちばん小さいMac: M5 Ultra(512GB)
131,072最大コンテキスト(学習時)

編集部の見立て

GLM-4.5はZ.aiがエージェント用途を狙って作った基盤モデルで、推論・コーディング・ツール利用を1つにまとめた設計です。総355B、アクティブ32B。思考モードと即答モードを切り替えられ、ライセンスはMITなので商用も二次開発も条件が軽い。Q4_K_Mが201.6GB、8kの文脈込みで211GBになり、収まるのはM5 Ultra(512GB)だけで推定20.2tok/s。

快適の下限をわずかに超える数字です。256GB機の実効192GBには入りません。512GBのMacを研究用に持てる人向けで、それ以外はGLM-4.5-Airに目を向けるのが筋です。

量子化別の必要メモリ

ファイルサイズは Hugging Face(unsloth/GLM-4.5-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(93層)から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ(8k)必要合計GPUならMacなら
2bit(IQ2_M)
品質劣化大。最後の手段
114GB2.9GB121GBGPU単体では不可192GB〜
2bit(Q2_K)
品質劣化大。最後の手段
122GB2.9GB129GBGPU単体では不可192GB〜
3bit(Q3_K_M)
メモリ優先
160GB2.9GB168GBGPU単体では不可256GB〜
4bit(IQ4_XS)
Q4_K_Mより一回り小さい
178GB2.9GB187GBGPU単体では不可256GB〜
4bit(Q4_K_M)
標準。迷ったらこれ
202GB2.9GB211GBGPU単体では不可512GB〜
5bit(Q5_K_M)
品質重視
237GB2.9GB247GBGPU単体では不可512GB〜
6bit(Q6_K)
ほぼ無劣化
274GB2.9GB286GBGPU単体では不可512GB〜
8bit(Q8_0)
無劣化に近い
355GB2.9GB369GBGPU単体では不可512GB〜
16bit(BF16)
元精度
668GB2.9GB691GBGPU単体では不可不可

モデルの構造と、必要メモリの増え方

GLM-4.5 355B-A32BはZ.aiが2025年7月に公開した358.34Bのモデルです。GGUFのヘッダには93層と書かれており、総パラメータ358.34Bのうち、1トークンの生成で実際に読むのは約32Bです(MoE)。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

全93層が全域注意で、KVヘッド8・head次元128。KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約372KB(fp16)で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで2.9GB、学習時の上限131,072トークンまで伸ばすと47GBです。

ライセンス表記: mit(層数と窓の大きさはGGUFヘッダから取得)

このモデルを実際に使うなら

Airとの差は、そのまま必要な機材の差です。GLM-4.5-Air 106B-A12Bは72GBで、M5 Ultra(96GB)が推定48.4tok/s、Strix Halo(128GB)でも10.6tok/s。355B版を選ぶ理由は総パラメータの大きさ以外にありません。

KVは全93層が全域注意で1トークン372KBと、Devstral 2 123Bの352KBより重い。32kで11.6GB、学習上限の128kで46.5GBです。512GB機の実効384GBから211GBを引いた173GBの中で、128kは収まる計算。ただし20.2tok/sの推定は8kの文脈で出した値で、長くすれば下がります。

配布元はFP8版とBase版も公開しており、追加学習の土台に使えます。思考の切り替えは推論側の設定で行い、llama.cppではglm4moeとして扱われます。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはglm4moeで、当サイト収録の204モデル中2本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/GLM-4.5-GGUF、元になったモデルはzai-org/GLM-4.5です。

得意分野はコードを書く作業、推論(段階を踏んで考える処理)です。

同じZ.aiのモデルでは、サイズの近いものにGLM-5.3-Flash(320.76B)、GLM-4.5-Air 106B-A12B(110.47B)、GLM-4.7-Flash 30B-A3B(29.94B)があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(Q4_K_M)(202GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0961.5GB210GBGPU単体では不可512GB〜
8,192既定2.9GB211GBGPU単体では不可512GB〜
16,3845.8GB214GBGPU単体では不可512GB〜
32,76812GB220GBGPU単体では不可512GB〜
65,53623GB231GBGPU単体では不可512GB〜
131,07247GB255GBGPU単体では不可512GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約12GBから約5.8GBに減ります(品質はわずかに落ちます)。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
GLM-5.3-FlashZ.ai151GB総321BのMoE。メモリ192GB以上のMac Studio級が対象
Qwen3.5 397B-A17BAlibaba235GBQwen3.5の最上位MoE(総397B・アクティブ17B)。Mac 256GB以上が対象
Llama 4 Maverick 17B-128EMeta235GBLlama 4 Scoutの上位(総400B・アクティブ17B)。Mac 512GB以上が対象
MiMo-V2.6-Flash-RLXiaomi161GBXiaomiの総309B・活性15BのMoE。画像・動画・音声も扱う。MIT。MXFP4で約156GB、Mac 256GBから
ERNIE 4.5 300B-A47BBaidu175GBBaiduの300BのMoE(アクティブ47B)。Apache 2.0。Mac 256GB以上が対象
Hy3 295B-A21BTencent178GBTencentの295BのMoE(アクティブ21B)。Apache 2.0。Mac 256GB以上が対象

4bit(Q4_K_M)が動く機種と推定速度

4bit(Q4_K_M)なら1機種で20 tok/s以上、1機種で8〜20 tok/s(テキスト生成の推定・計算方法)。

快適 20 tok/s以上(1機種)

実用 8〜20 tok/s(1機種)

遅い 動くが遅い(0機種)

  • なし

メモリに一部を逃がせば動く(0機種・CPUオフロード、PCのメモリ32GB想定)

  • なし
動かない機種(140)を見る

今のPCのまま、GLM-4.5 355B-A32Bを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

GLM-4.5 355B-A32Bは4bit(IQ4_XS)で178GB、8bitのQ8_0なら355GB。精度違いを3種類そろえるだけで約540GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

メモリ増設(32GB化)

GLM-4.5 355B-A32BはMoEで、1トークンごとに動くのは32B分だけです。だからGPUに全部載せなくても、システムメモリ側に置いて実用速度が出ます。必要なのは211GBぶんの空きで、この型はVRAMを足すより先にメモリを増やすほうが効きます。

ローカルLLM / AIエージェント入門書

GLM-4.5 355B-A32BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

GLM-4.5 355B-A32Bを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったり常時稼働サーバー型

Mac Studio M5 Ultra(メモリ512GB)をLLMサーバに

DeepSeek V3級(671B)の4bitを1台で。帯域1.2TB/s。チームのローカルLLMサーバ

M5 Ultra(36コア・80コアGPU)・ユニファイドメモリ512GB・SSD 4TB ・ 目安 240〜280万円

要件を満たす中で最も手頃

よくある質問

GLM-4.5 355B-A32Bを動かすのに必要なVRAMは?

4bit量子化(4bit(Q4_K_M))でファイル202GB、8,192トークンのKVキャッシュを含めて約211GBが必要です。GPU単体のVRAMには載らず、Macのユニファイドメモリか複数GPUが必要です。

GLM-4.5 355B-A32BはMacで動く?

動きます。ユニファイドメモリ512GB以上のApple Silicon(例: Apple M5 Ultra(512GB))なら、4bit量子化で実用的な速さが出ます。

このクラスの選び方: ローカルLLM(70B〜120B MoE)に必要なPC / MacかWindowsか

手持ちのPCで判定する