ローカルLLM(70B〜120B MoE) に必要なPCスペックと、合うPC・Mac(2026年10月)
70B以上をローカルで動かすなら、選択肢はMacのユニファイドメモリ64〜128GBか、Ryzen AI Max+ 395の128GB機のどちらかです。
4bitでも40〜60GB要るので、単体のGeForceは最上位のRTX 5090(32GB)でもVRAMに収まりません。速度を決めるのはメモリ帯域幅で、M5 Max(614GB/s)が個人向けでは最速級。MoE型のgpt-oss-120bは1トークンごとに使うパラメータが5.1Bだけなので、容量さえ足りれば帯域の割に速く返ってきます。
どこで何が動いているか
Llama 3.3 70B、gpt-oss-120b、Qwen3.5 122B、GLM-4.5-Airといった70B〜120Bクラスは、4bitでも40〜70GBのメモリを必要とします。単体のGeForceではVRAM 32GBが上限なので収まりません。現実的な選択肢は3つ。
(1)Apple SiliconのMacでユニファイドメモリ64〜128GB(M4 Max、M5 Max)、(2)AMD Ryzen AI Max+ 395搭載機でメモリ128GB(GPUに96GBまで割当可)、(3)GeForceを2枚以上(例: RTX 3090×2で48GB)。
速度はメモリ帯域幅で決まり、M5 Max(614GB/s)が個人向けでは最速級、Ryzen AI Max(256GB/s)はその半分弱です。MoE型(gpt-oss-120b、Qwen3.5 122B-A10B)はアクティブな部分が小さいので、帯域の割に速く動きます。
この帯を狙う人は「PCを買う」というより「小さなサーバを置く」感覚に近づきます。
手元のPCで実際に起きていること
4bitで40〜60GB。GeForce 1枚のVRAMには収まらないので、ユニファイドメモリ64〜128GBのMac(M4 Max / M3 Ultra)か、Ryzen AI Max+ 395(128GB)のミニPCが現実的な選択です。速度はメモリ帯域幅で決まり、M4 Max(546GB/s)が個人向けでは最速級です。
必要なリソース(最低ライン)
最低・快適・余裕の3段階
| 段階 | 構成の目安 | できること |
|---|---|---|
| 最低 | Mac 64GB(M4 Pro/Max)またはRyzen AI Max 64GB | 70B Q4がぎりぎり。gpt-oss-120bは128GBが必要 |
| 快適 | Mac 128GB(M4 Max)またはRyzen AI Max 128GB | 120BのMoE型もメモリに収まり、MoE型なら実用速度 |
| 余裕 | Mac Studio M5 Ultra 256GB以上 | 235BクラスのMoE型まで。個人で持てる上限(M3 Ultraの256GB以上は販売終了) |
計算例: 実際に何GB要るか
Llama 3.3 70BのQ4_K_M(39.6GB)を8,192トークンで動かすと、KVキャッシュ2.5GB(80層×8ヘッド)、バッファ1.7GB、合計43.8GB。Mac 64GB(実効48GB)に載り、M4 Max(546GB/s)で当サイトの推定は1秒に約9トークン。
70Bのdense型は帯域を全部使うので、Mac 128GBにしても速度は変わりません。一方gpt-oss-120b(MXFP4で59GB、合計約62GB)はMac 64GBには載らず128GBが必要ですが、アクティブパラメータが5.1Bなので同じM4 Maxで1秒に約50トークン。
「メモリに収まるか」は容量、「速いか」は帯域とアクティブパラメータ。この2つを分けて考えるのがこの帯の基本です。
よくある誤解
「70Bを動かすにはGPUを何枚も積むしかない」大容量のユニファイドメモリを持つMacや、メモリを大きく積んだGPUなしのPCでも動きます。アクティブパラメータの小さいMoE型なら、GPUなしでも実用速度に届く。
「大きいモデルほど仕事の質が上がる」待ち時間とのつり合いで決まります。1秒に2トークンしか出ない70Bより、20トークン出る30Bのほうが実務では回る。速度は、そのまま利用頻度を左右します。
よくある失敗
- RTX 5090(32GB)を買えば70Bが動くと思う。単体のVRAMには収まらない。一部をメインメモリに逃がすと1秒に1〜2トークン
- Mac 64GBで70B Q4を動かし、コンテキストを伸ばした途端に溢れる。実効は約48GB
- Ryzen AI Max機で帯域の限界を知らずに買う。MoE型は速いがdense型の70Bは1秒に数トークン
- 2枚のGPUを自作で組んで、電源と冷却と設定で消耗する。上級者向け
MacかWindowsか
この帯はMac(Apple Silicon)が主役です。Windowsで対抗できるのはRyzen AI Max+ 395の128GBミニPCか、マルチGPUの自作機のみ。マルチGPUは電源・冷却・設定の難度が高く、初心者には勧めません。
買う前のチェックリスト
- 狙うモデルの4bitサイズを当サイトのモデル別ページで確認した(70Bで44GB、120BのMoE型で62GB)
- Macならユニファイドメモリ64GB以上、120BのMoE型なら128GB
- Ryzen AI Max機なら128GB版、GPUへの割当を96GBに設定できるか
- dense型の70Bの速度(1秒に数トークン〜10トークン)で用途に足りるか。速さが要るならMoE型を選ぶ
- SSD 2TB以上(1本40〜70GB)
編集部メモ: 70Bクラスは「本当に要るか」を一度疑ったほうがいい帯です。当サイトのDBで比べると、Qwen3.5 27BやGemma 3 27Bの4bitと70Bのdense型の差は、多くの用途で速度の低下に見合いません。本当に70B以上が役に立つのは、長い文書の精読と複雑な推論。それが主用途で、社外に出せないデータがあるなら、Mac Studio M4 Max 128GBは正しい投資です。
関連するページ
ローカルLLM(70B〜120B MoE)に要るのは、CPU 12コア・メモリ64GB・NVMe 2TB、GPUはVRAM 40GB(Macならユニファイド64GB)という水準でした。この数字を持ったまま、別の角度から裏を取れるページを並べます。用語で詰まったら用語集へ。
| 知りたいこと | ページ |
|---|---|
| その容量で何が動くか | VRAM 32GBで動くモデル ・ Mac 64GBで動くモデル |
| 予算から構成を選ぶ | 予算別のおすすめ(10万〜100万円) |
| 使うソフトの推奨スペック | ツール別(Ollama・LM Studio・ComfyUIほか) |
| GPUやチップのシリーズで比べる | シリーズ別の対応表 |
| 量子化の形式を選ぶ | 量子化の種類と必要メモリ |
| 用語の意味を確認する | AI用PCの用語集(29語) |
| 会社で導入する場合の考え方 | 法人・業務でAIを使うPC選び |
| いま何が動くようになっているか | ローカルLLMの現在地(データレポート) |
予算別にどれを選ぶか
ローカルLLM(70B〜120B MoE)を使うという条件だけで、予算ごとに選べる構成が変わります。要件を満たす中で最も手頃なものを並べました。価格は2026年10月時点の目安です。
| 予算 | この用途を満たす最も手頃な構成 | 目安 | 備考 |
|---|---|---|---|
| 10万円まで | この予算では要件を満たす構成がありません | — | |
| 15万円まで | この予算では要件を満たす構成がありません | — | |
| 20万円まで | この予算では要件を満たす構成がありません | — | |
| 30万円まで | この予算では要件を満たす構成がありません | — | |
| 40万円まで | Ryzen AI Max+ 395 ミニPC(メモリ128GB) | 32〜48万円 | Windows/Linuxで128GBの共有メモリ |
| 60万円まで | Ryzen AI Max+ 395 ミニPC(メモリ128GB) | 32〜48万円 | Windows/Linuxで128GBの共有メモリ |
| 100万円まで | Ryzen AI Max+ 395 ミニPC(メモリ128GB) | 32〜48万円 | Windows/Linuxで128GBの共有メモリ |
要件を満たす中で最も安いのはRyzen AI Max+ 395 ミニPC(メモリ128GB)(32〜48万円)です。同じ予算でも形(ノート・BTO・自作・Mac・常時稼働)で選べるものが変わります。予算別のページで各価格帯の全構成を確認できます。
1年後を見据えるなら
この帯は、モデル側の効率化の影響が最も大きい領域です。120BのMoE型が5Bクラス並みの速度で動くように、総パラメータと体感速度の関係が変わり続けています。今128GBを選んでも、2年後には同じ容量でより賢いモデルが動いている可能性が高い。逆に、dense型の70Bを速く動かす方向には進みにくいので、MoE型を前提に容量を選ぶのが合理的です。
PCを買わずに済ませる選択肢
クラウドAPIなら、70B以上のモデルも従量課金で使えます。Mac Studio 128GBの60〜70万円は、多くの使い方でAPIの数年分。ローカルに置く理由は、契約上データを外に出せない、通信できない環境で使う、のどちらかに絞られます。それ以外の理由なら、まずAPIで使用量を測るのが先です。
させたい仕事を足すと、要件はどう変わるか
ローカルLLM(70B〜120B MoE)単体の要件(CPU 12コア・メモリ64GB・VRAM 40GB・SSD 2TB)に、仕事を1つ足したときの変化です。上がる軸だけを示します。
形態別のおすすめ
PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
MacBook Pro 16 M4 Max(メモリ128GB・SSD 2TB)
70B〜120BのMoE型まで持ち歩ける。帯域546GB/sでミドルクラスのGPU並みの速さ
M4 Max・ユニファイドメモリ128GB・SSD 2TB ・ 目安 70〜85万円
ノートPCでローカルLLM(70B〜120B MoE)を使うなら
RTX 5080(16GB)デスクトップ・メモリ64GB
画像生成を速く、並列エージェントも余裕。VRAMは5070 Tiと同じ16GB
RTX 5080(VRAM 16GB・960GB/s)・メモリ64GB・NVMe 2TB・電源850W ・ 目安 36〜48万円
この形態に要件を満たす機種がありません: VRAM 40GB以上が必要
Mac Studio M4 Max(メモリ128GB・SSD 2TB)
gpt-oss-120bやQwen3.5 122Bがメモリに収まり、帯域546GB/sで実用的な速さが出る。個人向けローカルLLMの本命
M4 Max・ユニファイドメモリ128GB・SSD 2TB ・ 目安 62〜72万円
MacでローカルLLM(70B〜120B MoE)を使うなら
Ryzen AI Max+ 395 ミニPC(メモリ128GB)
Windows/Linuxで128GBの共有メモリ。GPU側に96GBを割り当てれば、gpt-oss-120bや70Bクラスを常時サーバとして動かせる
Ryzen AI Max+ 395・LPDDR5X 128GB(256GB/s)・NVMe 2TB ・ 目安 32〜48万円
常時稼働サーバー型でローカルLLM(70B〜120B MoE)を使うなら
自作: エージェント用ワークステーション(16コア・メモリ64GB・GPUなし)
Claude Code・Docker・n8nを並列で回す。GPUは要らない、静音と大容量メモリに振る
Ryzen 9 9950X・DDR5 32GB×2・NVMe 2TB・静音ケース・電源750W(将来GPU増設可) ・ 目安 20〜28万円
この形態に要件を満たす機種がありません: VRAM 40GB以上が必要
させたい仕事を足して絞り込む
よくある質問
70Bをローカルで動かす意味は?
クラウドの上位モデルに近い品質を、社外秘データに対して無制限に使える点です。速度や賢さでクラウドを上回るためではありません。
M5 MaxとM5 Ultraはどちら?
128GBまでならM5 Max(帯域614GB/s)で足りて価格も半分以下。256GB以上の容量が要るならM5 Ultra(1.2TB/s)。M3 Ultraの256GB以上は新品では買えなくなりました。
RTX 3090を2枚で48GBにするのは?
動きますが、電源1200W・冷却・設定が必要で、速度も1枚分の帯域に近い。同じ予算ならMac mini M4 Pro 64GBのほうが手間なく確実です。
ローカルLLM(70B〜120B MoE)にはどんなPCが合う?
ノートPC: MacBook Pro 16 M4 Max(メモリ128GB・SSD 2TB)。デスクトップ(BTO): RTX 5080(16GB)デスクトップ・メモリ64GB。Mac: Mac Studio M4 Max(メモリ128GB・SSD 2TB)。常時稼働サーバー型: Ryzen AI Max+ 395 ミニPC(メモリ128GB)。自作: 自作: エージェント用ワークステーション(16コア・メモリ64GB・GPUなし)
関連: AI時代のPC選び 5つの軸 / ローカルLLMに必要なPCスペック / AI開発用PCのスペック / MacかWindowsか / メモリ16・32・64GBの差