AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › Qwen3-Next 80B-A3B

Qwen3-Next 80B-A3B を動かすPCスペック(必要VRAM・メモリ・速度の目安)

注意機構がハイブリッド型で、長文でもKVキャッシュが膨らみにくい

47GB4bitで動かすのに要るメモリ(会話8,192トークン分込み)
VRAM 48GB実用になるいちばん安いGPU: RTX 6000 Ada
64GB実用になるいちばん小さいMac: M5 Max(64GB)
262,144最大コンテキスト(学習時)

編集部の見立て

Qwen3-Nextシリーズの第1弾で、線形注意と通常の注意を混ぜた構造を採った総80B・アクティブ3BのMoEです。配布元の説明では、Baseの段階で32Bのdense型を上回り、32Kトークンを超える文脈で推論のスループットが10倍になるとされます。このページの数字はInstruct版で、思考モードを持ちません。

量子化の最小がQ2_K(27.2GB)なので、24GBのGPUや32GBのMacでは試す手段がない。4bitに8kの文脈を足すと47.2GBです。M5 Max(64GB)で推定155.7tok/s。長い文書を相手にする、64GB以上の機材の持ち主向けです。

量子化別の必要メモリ

ファイルサイズは Hugging Face(unsloth/Qwen3-Next-80B-A3B-Instruct-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(48層・文脈全体を見る層は12層だけ)から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ(8k)必要合計GPUならMacなら
2bit(Q2_K)
品質劣化大。最後の手段
27GB0.2GB29GBVRAM 32GB〜48GB〜
3bit(Q3_K_M)
メモリ優先
36GB0.2GB37GBVRAM 48GB〜64GB〜
4bit(IQ4_XS)
Q4_K_Mより一回り小さい
40GB0.2GB42GBVRAM 48GB〜64GB〜
4bit(Q4_K_M)
標準。迷ったらこれ
45GB0.2GB47GBVRAM 48GB〜64GB〜
5bit(Q5_K_M)
品質重視
53GB0.2GB55GBGPU単体では不可96GB〜
6bit(Q6_K)
ほぼ無劣化
61GB0.2GB64GBGPU単体では不可96GB〜
8bit(Q8_0)
無劣化に近い
79GB0.2GB82GBGPU単体では不可128GB〜
16bit(BF16)
元精度
149GB0.2GB154GBGPU単体では不可256GB〜

モデルの構造と、必要メモリの増え方

Qwen3-Next 80B-A3BはAlibabaが2025年9月に公開した79.67Bのモデルです。GGUFのヘッダには48層と書かれており、総パラメータ79.67Bのうち、1トークンの生成で実際に読むのは約3Bです(MoE)。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

48層のうち注意機構でKVキャッシュを持つのは12層だけで、残り36層は線形注意やSSMなどKVを持たない層です。KVヘッド2・head次元256で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約24KB(fp16)で、コンテキスト長にそのまま比例します。

実際の値は、8,192トークンで0.2GB、128Kトークンまで伸ばすと3.0GBです。

ライセンス表記: apache-2.0(層数と窓の大きさはGGUFヘッダから取得)

同じ数字のモデルと、実際は何が違うか

同じ80B・アクティブ3Bのコード特化版(Qwen3-Coder-Next 80B-A3B)とは、パラメータ構成も量子化後のサイズも同じです。当サイトの必要メモリと推定速度は両者で一致します。違うのは学習の方向で、こちらは汎用の対話向け、あちらはコード向けに調整されています。

手元で動くかどうかを判断する段階では区別がつかないので、どちらを選ぶかは用途で決めることになります。両方を試したい場合、必要な容量は同じなので、機材の判断は1回で済みます。

このモデルを実際に使うなら

ハイブリッドな注意機構を持ち、長いコンテキストでもKVキャッシュが膨らみにくい構造です。この性質が役に立つのは、長い文書を丸ごと渡す使い方です。当サイトのコンテキスト別の表を見ると、同じサイズ帯の他のモデルより伸びが緩やかなことが確認できます。総パラメータが80Bあるためメモリの要求は大きく、大容量のMacかメモリを積んだ構成が前提です。

アクティブパラメータが3Bなので、メモリに収まりさえすればGPUなしでも実用速度に届く可能性がある点も、このクラスを狙う理由になります。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen3nextで、当サイト収録の204モデル中2本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/Qwen3-Next-80B-A3B-Instruct-GGUF、元になったモデルはQwen/Qwen3-Next-80B-A3B-Instructです。

同じAlibabaのモデルでは、サイズの近いものにQwen3-Coder-Next 80B-A3B(79.67B)、Qwen2.5 72B(72.71B)、Qwen3.5 122B-A10B(122.11B)があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(Q4_K_M)(45GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が12層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0960.1GB47GBVRAM 48GB〜64GB〜
8,192既定0.2GB47GBVRAM 48GB〜64GB〜
16,3840.4GB47GBVRAM 48GB〜64GB〜
32,7680.8GB48GBGPU単体では不可64GB〜
65,5361.5GB49GBGPU単体では不可96GB〜
131,0723.0GB50GBGPU単体では不可96GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.8GBから約0.4GBに減ります(品質はわずかに落ちます)。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
Qwen3-Coder-Next 80B-A3BAlibaba47GBローカルのコーディングエージェント用途で最有力のMoE。メモリ64GB級
Hunyuan-A13B 80BTencent49GBTencentの80BのMoE(アクティブ13B)。VRAM 48GB / Mac 64GBから
Qwen2.5 72BAlibaba48GB2024年のQwen2.5の最上位(dense型)。VRAM 48GB / Mac 64GBから
Shisa V2.1 Llama 3.3 70BShisa.AI44GB日英バイリンガルに調整した70B。Mac 64GB以上かVRAM 48GB級
Llama 3.3 Swallow 70BSwallow(東京科学大学・産総研)44GBLlama 3.3 70Bの日本語強化版。Mac 64GB以上かVRAM 48GB級
DeepSeek-R1 Distill Llama 70BDeepSeek44GBR1をLlama 70Bに蒸留した推論型。VRAM 48GB / Mac 64GBから

4bit(Q4_K_M)が動く機種と推定速度

4bit(Q4_K_M)なら25機種で20 tok/s以上、1機種で8〜20 tok/s(テキスト生成の推定・計算方法)。

快適 20 tok/s以上(25機種)

遅い 動くが遅い(0機種)

  • なし

メモリに一部を逃がせば動く(1機種・CPUオフロード、PCのメモリ32GB想定)

動かない機種(115)を見る

今のPCのまま、Qwen3-Next 80B-A3Bを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

Qwen3-Next 80B-A3Bは4bit(IQ4_XS)で40GB、8bitのQ8_0なら79GB。精度違いを3種類そろえるだけで約121GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

メモリ増設(32GB化)

Qwen3-Next 80B-A3BはMoEで、1トークンごとに動くのは3B分だけです。だからGPUに全部載せなくても、システムメモリ側に置いて実用速度が出ます。必要なのは47GBぶんの空きで、この型はVRAMを足すより先にメモリを増やすほうが効きます。

ローカルLLM / AIエージェント入門書

Qwen3-Next 80B-A3BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

Qwen3-Next 80B-A3Bを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったり常時稼働サーバー型

Ryzen AI Max+ 395 ミニPC(メモリ128GB)

Windows/Linuxで128GBの共有メモリ。GPU側に96GBを割り当てれば、gpt-oss-120bや70Bクラスを常時サーバとして動かせる

Ryzen AI Max+ 395・LPDDR5X 128GB(256GB/s)・NVMe 2TB ・ 目安 32〜48万円

要件を満たす中で最も手頃

余裕を持つなら常時稼働サーバー型

Mac Studio M5 Ultra(メモリ512GB)をLLMサーバに

DeepSeek V3級(671B)の4bitを1台で。帯域1.2TB/s。チームのローカルLLMサーバ

M5 Ultra(36コア・80コアGPU)・ユニファイドメモリ512GB・SSD 4TB ・ 目安 240〜280万円

将来の用途拡張(大きなモデル・並列エージェント)に余裕

別の形ならMac

Mac mini M4 Pro(メモリ64GB・SSD 1TB)

70BクラスのローカルLLMまで。同じ価格帯のGeForce機より大きいモデルまで動く

M4 Pro・ユニファイドメモリ64GB・SSD 1TB ・ 目安 36〜42万円

Macで同じ仕事をするなら

よくある質問

Qwen3-Next 80B-A3Bを動かすのに必要なVRAMは?

4bit量子化(4bit(Q4_K_M))でファイル45GB、8,192トークンのKVキャッシュを含めて約47GBが必要です。GPU単体ならRTX 6000 Ada(VRAM 48GB)から実用速度で動きます。

Qwen3-Next 80B-A3BはMacで動く?

動きます。ユニファイドメモリ64GB以上のApple Silicon(例: Apple M5 Max(64GB))なら、4bit量子化で実用的な速さが出ます。

このクラスの選び方: ローカルLLM(70B〜120B MoE)に必要なPC / MacかWindowsか

手持ちのPCで判定する