AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › Hy3 295B-A21B

Hy3 295B-A21B を動かすPCスペック(必要VRAM・メモリ・速度の目安)

Tencentの295BのMoE(アクティブ21B)。Apache 2.0。Mac 256GB以上が対象

178GB4bitで動かすのに要るメモリ(会話8,192トークン分込み)
ユニファイドメモリ向けGPU1枚のVRAMでは足りない
256GB実用になるいちばん小さいMac: M5 Ultra(256GB)
262,144最大コンテキスト(学習時)

編集部の見立て

Tencentの主力にあたる総295B、アクティブ21BのMoEです。配布元はエージェント用途の安定性を押し出し、ツール呼び出しの形式崩れや幻覚の抑制、長い対話での意図の保持に手を入れたと説明しています。Apache 2.0。Q4_K_Mだけで169.6GBあり、8kの文脈を足すと177.8GB。

収まる機種はApple M5 Ultra(256GB・実効192GB)だけで、推定29.8tok/sです。GPU構成でもRyzen AI Max+ 395でも入りません。300B級を手元で回すなら256GBのMacを買う覚悟が要る、という一点で使う人が決まるモデル。

量子化別の必要メモリ

ファイルサイズは Hugging Face(bartowski/Hy3-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(81層)から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ(8k)必要合計GPUならMacなら
2bit(IQ2_M)
品質劣化大。最後の手段
95GB2.5GB101GBGPU単体では不可192GB〜
2bit(Q2_K)
品質劣化大。最後の手段
99GB2.5GB105GBGPU単体では不可192GB〜
3bit(Q3_K_M)
メモリ優先
128GB2.5GB135GBGPU単体では不可192GB〜
3bit(IQ3_M)
メモリ優先
134GB2.5GB141GBGPU単体では不可192GB〜
4bit(IQ4_XS)
Q4_K_Mより一回り小さい
150GB2.5GB157GBGPU単体では不可256GB〜
4bit(Q4_K_M)
標準。迷ったらこれ
170GB2.5GB178GBGPU単体では不可256GB〜
5bit(Q5_K_M)
品質重視
198GB2.5GB207GBGPU単体では不可512GB〜
6bit(Q6_K)
ほぼ無劣化
240GB2.5GB250GBGPU単体では不可512GB〜
8bit(Q8_0)
無劣化に近い
296GB2.5GB308GBGPU単体では不可512GB〜

モデルの構造と、必要メモリの増え方

Hy3 295B-A21BはTencentが2026年7月に公開した298.79Bのモデルです。GGUFのヘッダには81層と書かれており、総パラメータ298.79Bのうち、1トークンの生成で実際に読むのは約21Bです(MoE)。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

全81層が全域注意で、KVヘッド8・head次元128。KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約324KB(fp16)で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで2.5GB、128Kトークンまで伸ばすと41GBです。

ライセンス表記: apache-2.0(層数と窓の大きさはGGUFヘッダから取得)

このモデルを実際に使うなら

配布元の想定はvLLMかSGLangで8枚のGPUに分けて載せる運用で、Mac 1台はその外側です。llama.cppのGGUFなら実効192GBにQ4_K_Mが収まりますが、残りは14GB。81層すべてが全域注意で1トークン324KBと重く、32,768トークンで約10GBを使います。

長い文脈を使うならIQ4_XS(149.7GB)に下げて約42GBを空けるほうが現実的。推論の深さはreasoning_effortで指定し、複雑な課題はhigh、即答はno_think、推奨のtemperatureは0.9です。同じTencentのUI-Mate 27BやUI-Mate 9Bが画面操作の専門モデルなのに対し、Hy3は会話とコードと事務作業をこなす汎用モデル。

並べる相手は同じ300B級のDeepSeek-V4-FlashやGLM-5.3-Flashです。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはhy_v3で、当サイト収録の204モデル中1本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/Hy3-GGUF、元になったモデルはtencent/Hy3です。

得意分野は推論(段階を踏んで考える処理)です。

同じTencentのモデルでは、サイズの近いものにHunyuan-A13B 80B(80.39B)、UI-Mate 27B(26.9B)、UI-Mate 9B(8.95B)があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(Q4_K_M)(170GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0961.3GB177GBGPU単体では不可256GB〜
8,192既定2.5GB178GBGPU単体では不可256GB〜
16,3845.1GB180GBGPU単体では不可256GB〜
32,76810GB185GBGPU単体では不可256GB〜
65,53620GB195GBGPU単体では不可512GB〜
131,07241GB216GBGPU単体では不可512GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約10GBから約5.1GBに減ります(品質はわずかに落ちます)。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
ERNIE 4.5 300B-A47BBaidu175GBBaiduの300BのMoE(アクティブ47B)。Apache 2.0。Mac 256GB以上が対象
MiMo-V2.6-Flash-RLXiaomi161GBXiaomiの総309B・活性15BのMoE。画像・動画・音声も扱う。MIT。MXFP4で約156GB、Mac 256GBから
DeepSeek-V4-FlashDeepSeek132GB総284BのMoEでMIT。MLA採用でKVキャッシュが小さい。メモリ192GB以上向け
GLM-5.3-FlashZ.ai151GB総321BのMoE。メモリ192GB以上のMac Studio級が対象
Inkling Small 264BThinking Machines157GB総264BのMoE。メモリ192GB以上のMac Studio級が対象
GLM-4.5 355B-A32BZ.ai211GBGLM-4.5-Airの上位(総355B・アクティブ32B)。MIT。Mac 256GB以上が対象

4bit(Q4_K_M)が動く機種と推定速度

4bit(Q4_K_M)なら2機種で20 tok/s以上、2機種で8〜20 tok/s(テキスト生成の推定・計算方法)。

快適 20 tok/s以上(2機種)

実用 8〜20 tok/s(2機種)

遅い 動くが遅い(0機種)

  • なし

メモリに一部を逃がせば動く(0機種・CPUオフロード、PCのメモリ32GB想定)

  • なし
動かない機種(138)を見る

今のPCのまま、Hy3 295B-A21Bを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

Hy3 295B-A21Bは4bit(IQ4_XS)で150GB、8bitのQ8_0なら296GB。精度違いを3種類そろえるだけで約412GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

メモリ増設(32GB化)

Hy3 295B-A21BはMoEで、1トークンごとに動くのは21B分だけです。だからGPUに全部載せなくても、システムメモリ側に置いて実用速度が出ます。必要なのは178GBぶんの空きで、この型はVRAMを足すより先にメモリを増やすほうが効きます。

ローカルLLM / AIエージェント入門書

Hy3 295B-A21BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

Hy3 295B-A21Bを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったりMac

Mac Studio M5 Ultra(メモリ256GB・SSD 2TB)

235B級のMoE型を1台で動かせる。帯域1.2TB/sはRTX 4090を上回る。個人で持てる上限

M5 Ultra(30コアCPU・64コアGPU)・ユニファイドメモリ256GB・SSD 2TB ・ 目安 167〜185万円

要件を満たす中で最も手頃

別の形なら常時稼働サーバー型

Mac Studio M5 Ultra(メモリ512GB)をLLMサーバに

DeepSeek V3級(671B)の4bitを1台で。帯域1.2TB/s。チームのローカルLLMサーバ

M5 Ultra(36コア・80コアGPU)・ユニファイドメモリ512GB・SSD 4TB ・ 目安 240〜280万円

別の形で同じ仕事をするなら

よくある質問

Hy3 295B-A21Bを動かすのに必要なVRAMは?

4bit量子化(4bit(Q4_K_M))でファイル170GB、8,192トークンのKVキャッシュを含めて約178GBが必要です。GPU単体のVRAMには載らず、Macのユニファイドメモリか複数GPUが必要です。

Hy3 295B-A21BはMacで動く?

動きます。ユニファイドメモリ256GB以上のApple Silicon(例: Apple M5 Ultra(256GB))なら、4bit量子化で実用的な速さが出ます。

このクラスの選び方: ローカルLLM(70B〜120B MoE)に必要なPC / MacかWindowsか

手持ちのPCで判定する