AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › ERNIE 4.5 300B-A47B

ERNIE 4.5 300B-A47B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Baidu ・ 公開 2025-07 ・ 299.48Bパラメータ（MoE・アクティブ47B） ・ データ更新 2026-10-02

Baiduの300BのMoE（アクティブ47B）。Apache 2.0。Mac 256GB以上が対象

175GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）
ユニファイドメモリ向けGPU1枚のVRAMでは足りない
256GB実用になるいちばん小さいMac: M5 Ultra（256GB）
131,072最大コンテキスト（学習時）

編集部の見立て

ERNIE 4.5でいちばん大きい構成で、300Bのうち毎トークン読むのは47Bぶんです。アクティブパラメータが大きい分、同じ300B級でも速度は伸びにくい構造です。この-PT版はPyTorch形式のテキスト専用モデルで、画像は扱えず、カードに思考モードの記載もありません。

Q4_K_Mの167.8GBに8kの文脈を足して175GB。M5 Ultra（256GB）の実効192GBに入って推定14.5tok/s、判定は実用。96GBのMacやStrix Haloには収まりません。Apache 2.0。256GB以上のMacを持ち、Baiduの大規模モデルを手元に置きたい人向けです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（unsloth/ERNIE-4.5-300B-A47B-PT-GGUF） に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（54層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ（8k）必要合計GPUならMacなら
2bit（IQ2_M）
品質劣化大。最後の手段		98GB1.7GB104GBGPU単体では不可192GB〜
2bit（Q2_K）
品質劣化大。最後の手段		102GB1.7GB107GBGPU単体では不可192GB〜
3bit（Q3_K_M）
メモリ優先		133GB1.7GB139GBGPU単体では不可192GB〜
4bit（IQ4_XS）
Q4_K_Mより一回り小さい		149GB1.7GB155GBGPU単体では不可256GB〜
4bit（Q4_K_M）
標準。迷ったらこれ		168GB1.7GB175GBGPU単体では不可256GB〜
5bit（Q5_K_M）
品質重視		197GB1.7GB206GBGPU単体では不可512GB〜
6bit（Q6_K）
ほぼ無劣化		229GB1.7GB238GBGPU単体では不可512GB〜
8bit（Q8_0）
無劣化に近い		296GB1.7GB308GBGPU単体では不可512GB〜
16bit（BF16）
元精度		558GB1.7GB577GBGPU単体では不可不可

モデルの構造と、必要メモリの増え方

ERNIE 4.5 300B-A47BはBaiduが2025年7月に公開した299.48Bのモデルです。GGUFのヘッダには54層と書かれており、総パラメータ299.48Bのうち、1トークンの生成で実際に読むのは約47Bです（MoE）。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

全54層が全域注意で、KVヘッド8・head次元128。KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約216KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.7GB、学習時の上限131,072トークンまで伸ばすと27GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

256GB機での余白は17GBしかありません。KVは54層すべて全域注意で1トークン216KBなので、32kで6.75GB、64kで13.5GB。学習上限の128kは27GBで実効192GBを超えます。長文を読ませたいなら512GB機に上げるか、Q3_K_M（132.8GB）に落として枠を作るかの二択です。

14.5tok/sの推定はアクティブ47Bを毎トークン読む計算で、同じ256GB機で動くDevstral 2 123B（dense型）の9.2tok/sよりは速い。配布元の推奨は温度0.8、top_p 0.8。同じ系列の小型版ERNIE 4.5 21B-A3B Thinkingは13.7GBで16GBのGPUに収まる推論型で、用途が違います。

300Bのカードに思考モードの記述はなく、21Bは長く考える型。同じ名前でも中身の向きが逆なので、名前で選ばないのが確実です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはernie4_5-moeで、当サイト収録の204モデル中2本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/ERNIE-4.5-300B-A47B-PT-GGUF、元になったモデルはbaidu/ERNIE-4.5-300B-A47B-PTです。

同じBaiduのモデルでは、サイズの近いものにERNIE 4.5 21B-A3B Thinking（21.83B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（168GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0960.8GB174GBGPU単体では不可256GB〜
8,192既定1.7GB175GBGPU単体では不可256GB〜
16,3843.4GB177GBGPU単体では不可256GB〜
32,7686.8GB180GBGPU単体では不可256GB〜
65,53614GB187GBGPU単体では不可256GB〜
131,07227GB200GBGPU単体では不可512GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約6.8GBから約3.4GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
Hy3 295B-A21BTencent178GBTencentの295BのMoE（アクティブ21B）。Apache 2.0。Mac 256GB以上が対象
MiMo-V2.6-Flash-RLXiaomi161GBXiaomiの総309B・活性15BのMoE。画像・動画・音声も扱う。MIT。MXFP4で約156GB、Mac 256GBから
DeepSeek-V4-FlashDeepSeek132GB総284BのMoEでMIT。MLA採用でKVキャッシュが小さい。メモリ192GB以上向け
GLM-5.3-FlashZ.ai151GB総321BのMoE。メモリ192GB以上のMac Studio級が対象
Inkling Small 264BThinking Machines157GB総264BのMoE。メモリ192GB以上のMac Studio級が対象
GLM-4.5 355B-A32BZ.ai211GBGLM-4.5-Airの上位（総355B・アクティブ32B）。MIT。Mac 256GB以上が対象

4bit（Q4_K_M）が動く機種と推定速度

4bit（Q4_K_M）なら0機種で20 tok/s以上、4機種で8〜20 tok/s（テキスト生成の推定・計算方法）。

快適 20 tok/s以上（0機種）

  • なし

実用 8〜20 tok/s（4機種）

遅い 動くが遅い（0機種）

  • なし

メモリに一部を逃がせば動く（0機種・CPUオフロード、PCのメモリ32GB想定）

  • なし
動かない機種（138）を見る

今のPCのまま、ERNIE 4.5 300B-A47Bを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

ERNIE 4.5 300B-A47Bは4bit（IQ4_XS）で149GB、8bitのQ8_0なら296GB。精度違いを3種類そろえるだけで約449GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

Amazonで「NVMe SSD 2TB」を見る →Amazonで「外付けSSD 2TB USB 3.2」を見る →

メモリ増設（32GB化）

ERNIE 4.5 300B-A47BはMoEで、1トークンごとに動くのは47B分だけです。だからGPUに全部載せなくても、システムメモリ側に置いて実用速度が出ます。必要なのは175GBぶんの空きで、この型はVRAMを足すより先にメモリを増やすほうが効きます。

Amazonで「DDR5 16GB 2枚組」を見る →Amazonで「DDR5 SO-DIMM 16GB 2枚組」を見る →Amazonで「DDR4 16GB 2枚組」を見る →

ローカルLLM / AIエージェント入門書

ERNIE 4.5 300B-A47BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

Amazonで「ローカルLLM 本」を見る →Amazonで「AIエージェント 開発 本」を見る →

ERNIE 4.5 300B-A47Bを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったりMac

Mac Studio M5 Ultra（メモリ256GB・SSD 2TB）

235B級のMoE型を1台で動かせる。帯域1.2TB/sはRTX 4090を上回る。個人で持てる上限

M5 Ultra（30コアCPU・64コアGPU）・ユニファイドメモリ256GB・SSD 2TB ・ 目安 167〜185万円

要件を満たす中で最も手頃

Amazonで「Mac Studio M5 Ultra 256GB」を見る →
別の形なら常時稼働サーバー型

Mac Studio M5 Ultra（メモリ512GB）をLLMサーバに

DeepSeek V3級（671B）の4bitを1台で。帯域1.2TB/s。チームのローカルLLMサーバ

M5 Ultra（36コア・80コアGPU）・ユニファイドメモリ512GB・SSD 4TB ・ 目安 240〜280万円

別の形で同じ仕事をするなら

Amazonで「Mac Studio M5 Ultra 512GB」を見る →

よくある質問

ERNIE 4.5 300B-A47Bを動かすのに必要なVRAMは？

4bit量子化（4bit（Q4_K_M））でファイル168GB、8,192トークンのKVキャッシュを含めて約175GBが必要です。GPU単体のVRAMには載らず、Macのユニファイドメモリか複数GPUが必要です。

ERNIE 4.5 300B-A47BはMacで動く？

動きます。ユニファイドメモリ256GB以上のApple Silicon（例: Apple M5 Ultra（256GB））なら、4bit量子化で実用的な速さが出ます。

このクラスの選び方: ローカルLLM（70B〜120B MoE）に必要なPC / MacかWindowsか

手持ちのPCで判定する