ローカルLLMに必要なPCスペック｜VRAM・メモリ・速度はモデルの大きさで決まる
「ローカルLLMを動かしたい。PCは何を買えばいいのか」。答えは一つの数字に集約されます。動かしたいモデルを標準的な軽さ（4bit）に量子化したとき何GBになるか、です。その数字がGPUのVRAM（またはMacのユニファイドメモリ）に収まれば動き、収まらなければ動かない。速度はその次で、メモリの帯域幅で決まります。この2つを順に押さえれば、スペック表のどこを見ればいいかが分かります。
結論の早見表: モデルの大きさ別に要るもの
当サイトのDBで、代表的なモデルを4bit量子化・コンテキスト8,192トークンで動かすときの必要メモリと、それが収まる機種の目安です。価格は2026年9月時点の目安で、構成の価格帯を示しています。
| モデルの大きさ | 代表例 | 4bitで動かすのに要るメモリ | GPUなら | Macなら | 構成の目安 |
|---|---|---|---|---|---|
| 8Bクラス | Qwen3 8B・Llama 3.1 8B | 6.5GB | VRAM 8GB（RTX 4060・5060） | ユニファイド16GB | 15〜21万円 |
| 12〜14Bクラス | Gemma 3 12B・Qwen3 14B | 8.3〜10GB | VRAM 12GB（RTX 3060 12GB・5070） | ユニファイド16〜24GB | 20〜28万円 |
| 20BのMoE型 | gpt-oss-20b | 12GB | VRAM 16GB（5070 Ti・4070 Ti SUPER） | ユニファイド24GB | 28〜38万円 |
| 27〜32Bクラス | Gemma 3 27B・Qwen3 32B | 17〜21GB | VRAM 24GB（RTX 4090・3090） | ユニファイド32〜36GB | 30〜42万円 |
| 70Bクラス | Llama 3.3 70B | 44GB | VRAM 48GB（業務用GPU） | ユニファイド64GB | 36〜42万円（Mac） |
| 120BのMoE型 | gpt-oss-120b | 62GB | GPU単体では不足 | ユニファイド96〜128GB | 32〜72万円 |
表を見て気づくことが二つあります。一つは、8Bと12Bの間にVRAM 8GBと12GBの壁があること。もう一つは、32Bを超えた先でGPUよりMacのほうが安く済むこと。この二つの境目が、ローカルLLMのPC選びのほぼすべてです。
必要メモリはどう計算するのか
「8Bなら8GB」ではありません。モデルのパラメータ数をそのままGBに読み替える人が多いのですが、実際に要るのは3つの足し算です。Qwen3 8Bを4bit（Q4_K_M）で動かす場合を数えます。
まずモデル本体のファイルが約4.9GB。次にKVキャッシュ。これは読ませた文章の長さに比例して増えるメモリで、8,192トークンなら約1.1GB。最後に計算用のバッファが約0.5GB。合計6.5GBです。VRAM 8GBのGPUはドライバと表示に0.5GBほど取られ、モデルに使えるのは7.5GBなので、ここに収まります。
同じ計算を27Bクラスでやると、本体16GB前後にKVキャッシュとバッファを足して17〜21GB。VRAM 16GBには載りません。「あと1.9GB足りない」という惜しい組み合わせが、RTX 4070 Ti SUPER（16GB）とGemma 3 27Bです。この1.9GBのために、24GBのカードか、量子化を3bitに落とす判断が要ります。
KVキャッシュは見落とされがちです。長い議事録やコードベース全体を読ませる使い方だと、コンテキストを32Kや128Kに伸ばします。8Bクラスでも32Kで約4.4GB、128Kなら17GBを超え、モデル本体より大きくなります。「動いたのに長文を渡したら落ちた」の正体はこれです。
VRAM・メインメモリ・ユニファイドメモリの違い
GPUを積んだWindows PCでは、モデルはVRAMに載せます。メインメモリが64GBあっても、GPUが8GBならモデルが載るのは8GBまで。溢れた分はメインメモリに逃がせますが（CPUオフロード）、速度は数分の一に落ちる。実用的には「VRAMに全部入るか」が判断の分かれ目です。
Apple Siliconは事情が違う。CPUとGPUが同じメモリを共有するので、48GBのMacなら理屈のうえでは48GBまでモデルに使えます。実際にはOSとアプリが取るぶんがあり、当サイトは36GB以下で約3分の2、それ以上で約4分の3をモデルに使える量として計算しています。24GBのMacBook Airなら16GB。8Bはもちろん、Gemma 3 12Bも収まる容量です。
GPUなしのWindows PCは、メインメモリがそのまま置き場になります。32GBならモデルに使えるのは21GB前後で、動く本数だけ見ればVRAM 16GBのGPUより多い。ただし速度が桁で違います。速度については次の節で説明します。
速度を決めるのはメモリの帯域幅
ローカルLLMは1トークンを出すたびにモデル全体を読み直します。だから速度は「1秒に何GB読めるか」、つまりメモリの帯域幅で決まります。演算性能ではありません。当サイトのDBから、機種ごとに例のモデルを1本選び、動かしたときの推定速度を並べます。
| 機種 | 帯域幅 | 例にしたモデル | 推定速度 | 体感 |
|---|---|---|---|---|
| DDR5-5600 32GB（GPUなし） | 89.6 GB/s | Qwen-AgentWorld 35B-A3B（MoE） | 約15 tok/s（推定） | 読む速さの3倍。待たされない |
| MacBook Air M4 24GB | 120 GB/s | Gemma 4 26B-A4B（MoE） | 約25 tok/s（補正済み） | 会話として十分 |
| RTX 4060 8GB | 272 GB/s | Gemma 4 12B | 約30 tok/s（推定） | 同上 |
| RTX 3060 12GB | 360 GB/s | Qwen3 14B | 約30 tok/s（補正済み） | 同上 |
| Mac mini M4 Pro 48GB | 273 GB/s | Qwen3.5 35B-A3B（6bit） | 約51 tok/s（補正済み） | 目で追えない |
| RTX 4070 Ti SUPER 16GB | 672 GB/s | Qwen3.8 27B | 約35 tok/s（補正済み） | 27Bでこの速さ |
| RTX 4090 24GB | 1,008 GB/s | Qwen3.5 35B-A3B | 約210 tok/s（補正済み） | 画面が一瞬で埋まる |
「補正済み」は同じ機種の公開ベンチマークに合わせて補正した値、「推定」は同系統の機種から出した値です。当サイトが測った値ではないので、数割の誤差は見込んでおきましょう。それでも順序は変わりません。
10 tok/sが実用の下限です。人が文章を読む速さが5 tok/s前後なので、10あれば待たされる感覚はありません。30を超えると目で追えなくなり、あとは長文の生成が終わるまでの時間の差になります。
表にMoEという注記があるモデルは、総パラメータは大きくても1トークンごとに読む量が少ない構造です。35Bでも実際に読むのは3B分。だからGPUなしの89.6GB/sでも15 tok/s出ます。2026年に入ってこのMoE型が増え、「メモリは多いがGPUは弱い」PCの価値が上がりました。
容量別に何本動くか
当サイトが収録している204モデルのうち、4bit以上の量子化で収まる本数を容量ごとに数えました。GPUは「動く」と「快適に動く」がほぼ一致しますが、Macはメモリに収まっても、帯域が細い構成だと速度が出ません。両方の数字を並べます。
GPUは2つの棒がほぼ重なり、Macは容量が増えるほど差が開きます。収まっても読み出しが追いつかない、という差です。どの機種がどの容量に当たるかは下の表で確かめましょう。
| 容量 | 該当する機種 | 動く | 快適に動く |
|---|---|---|---|
| VRAM 8GB | RTX 4060・5060・3070・ノート用GPUの多く | 87 / 204 | 87 |
| VRAM 12GB | RTX 3060 12GB・4070・5070 | 100 / 204 | 100 |
| VRAM 16GB | RTX 4070 Ti SUPER・5070 Ti・5080・RX 9070 | 112 / 204 | 112 |
| VRAM 24GB | RTX 3090・4090・RX 7900 XTX | 158 / 204 | 158 |
| Mac 16GB | M1〜M5の16GB構成 | 100 / 204 | 38 |
| Mac 24GB | MacBook Air 24GB・Mac mini 24GB | 118 / 204 | 43 |
| Mac 48GB | M4 Pro・M4 Maxの48GB構成 | 163 / 204 | 112 |
| Mac 64GB | M4 Pro 64GB・M2 Max 64GB | 174 / 204 | 114 |
| Mac 128GB | M4 Max・M1/M2 Ultraの128GB構成 | 188 / 204 | 139 |
VRAM 16GBから24GBに上げると、動く本数が112から158に一気に増えます。27〜32Bクラスと35B級のMoE型がまとめてVRAMに収まるからです。逆に24GBと32GB（RTX 5090）では158本と162本でほとんど変わらず、差は速度と、より高精度な量子化を選べるかどうかに出ます。
「大きいモデルを動かしたい」なら24GB、「速くしたい」なら32GB、と目的で分かれます。
Macで「動く」と「快適に動く」の差を生むのは帯域幅です。16GBのM4は120GB/sなので、メモリに収まっても遅い。M4 Proの273GB/sで初めて30Bクラスが実用になり、M4 Maxの546GB/sでミドルクラスのGPU並みになります。Macを選ぶなら、容量と同じくらいチップの世代とグレード（無印・Pro・Max）を見ましょう。
最低・快適・余裕の3段階
| 段階 | 構成の目安 | できること | 目安 |
|---|---|---|---|
| 最低 | VRAM 8GBかMac 16GB・メインメモリ16GB | 8Bクラスの日本語チャット、コード補完。12Bは省メモリ設定で | 15〜21万円 |
| 快適 | VRAM 16GBかMac 48GB・メインメモリ32GB・NVMe 1TB | 20BのMoE型と14Bが快適、27Bは量子化を一段落として。Macなら30BのMoE型が速い | 28〜38万円 |
| 余裕 | VRAM 24GB以上かMac 64〜128GB・メインメモリ64GB・NVMe 2TB | 27〜32Bを4bitで、Macなら70Bや120BのMoE型も。長文を読ませてもメモリが足りる | 40〜75万円 |
メインメモリとSSDも忘れずに。GPUで動かす場合でもモデルの読み込みはメインメモリを経由するので、VRAMと同じ以上の容量が要ります。SSDはモデルファイルの置き場で、8Bが5GB、27Bが16GB、試すたびに増えます。1TBが実用の下限です。
予算から入るなら
「動かしたいモデルが決まっていない」人は、予算から逆算するほうが早い。当サイトのおすすめ構成から、ローカルLLM向けのものを価格順に並べます。
| 予算 | 構成 | ローカルLLMの実力 |
|---|---|---|
| 〜17万円 | Mac mini M4 24GB | 8〜14Bが実用的な速さで動く。静音・省電力で置きっぱなしにできる |
| 15〜21万円 | RTX 5060 8GB デスクトップ | 8Bクラスが快適。画像生成の入門も兼ねる |
| 20〜28万円 | RTX 5070 12GB デスクトップ | 14BまでGPUだけで動く。SDXLも実用 |
| 28〜38万円 | RTX 5070 Ti 16GB デスクトップ | 20BのMoE型と14Bが快適。27BもIQ4_XSに落とせば動くものがある |
| 30〜36万円 | Mac mini M4 Pro 48GB | 30Bクラスが実用的に動く。コーディングAIの並列運用も |
| 32〜48万円 | Ryzen AI Max+ 395 128GB ミニPC | 120BのMoE型までメモリに収まる。速度はMac mini M4 Pro並み |
| 36〜42万円 | Mac mini M4 Pro 64GB | 70Bクラスまで。同価格のGeForce機より大きなモデルを動かせる |
| 55〜75万円 | RTX 5090 32GB デスクトップ | 32Bクラスを4bitで最速。動画生成やLoRA学習も |
30万円前後で道が分かれます。GeForceの16GBを選べば画像・動画生成も速く、Macの48GBを選べば大きなモデルが動く。両方を1台で満たす構成はこの価格帯にありません。何を主に動かすかで決めましょう。
GPUか、Macか、GPUなしか
| やりたいこと | 向いている形 | 理由 |
|---|---|---|
| 8〜14Bで日本語チャット・コード補完 | どれでも | VRAM 8GB、Mac 16GB、DDR5 32GBのいずれも実用的な速さ |
| 27〜32Bを4bitで速く | GPU 24GB | 帯域1,000GB/s級はGPUだけ。同容量のMacの3〜4倍速い |
| 70B・120BのMoE型を1台で | Mac 64〜128GB・Ryzen AI Max 128GB | VRAM 48GB超の民生GPUがない。ユニファイドメモリの機種しか選択肢がない |
| 画像生成・動画生成も同じPCで | GeForce | CUDA前提のツールが多く、Macは2〜4倍遅い |
| 24時間サーバとして置く | Mac mini・ミニPC | アイドル10W前後。GPU機は60W超で電気代と騒音が違う |
| 今のPCで試したい | GPUなし | メモリ16GB以上なら8Bは起動する。MoE型なら実用的な速さ |
「ゲーミングPCならローカルLLMも強いでしょう」。半分だけ正しい。RTX 4070（12GB）のゲーミングPCは14Bまでなら申し分ありません。27Bを動かしたくなった時点で、GPUを丸ごと買い替えることになります。ゲームと違って、ローカルLLMは性能ではなく容量で壁に当たります。
買う前のチェックリスト
- 動かしたいモデルの4bitの必要メモリを、当サイトのモデル別ページで確認した（KVキャッシュ込みの数字）
- GPUの型番の末尾まで見た。RTX 4060 Tiには8GBと16GB、RTX 5060 Tiにも8GBと16GBがある。ノート用GPUはデスクトップより少ない（5070 Laptopは8GB）
- Macはメモリを後から増やせないので、モデルに使える量（24GBなら約16GB）で収まるかを確認した
- メインメモリはVRAM以上、できれば32GB。2枚組（デュアルチャネル）になっているか
- SSDは1TB以上。モデルファイルは1本5〜40GB
- 長文を読ませる予定があるなら、コンテキスト32Kでの必要メモリを見た（8Bで約10GB）
- 置きっぱなしにするなら、アイドル時の消費電力とファンの音を先に見た
よくある誤解
「NPU搭載のAIパソコンならローカルLLMが速い」。速くなりません。NPUを使うのはWindows付属のリコールやライブ字幕で、llama.cppやOllamaは使いません。Copilot+ PCを選ぶなら、NPUではなくメモリ容量と帯域幅（LPDDR5Xの135GB/s前後）で選ぶのが正解です。
「メモリを増やせば速くなる」。動く本数は増えますが、速度は変わりません。速度は帯域幅で、DDR5を32GBから64GBにしても89.6GB/sのまま。速くしたければGPUか、帯域の広いユニファイドメモリです。
「量子化すれば何でも動く」。2bitまで落とせばファイルは半分になりますが、回答の質が目に見えて落ちます。当サイトが「動く」と書くのは4bit以上でメモリに収まる組み合わせだけです。3bitは妥協、2bitは最後の手段と考えましょう。
「ベンチマークの上位モデルを選べばいい」。ベンチマークは英語中心で、日本語の自然さは別の話です。8Bクラスでも日本語に強いモデル（Llama-3-ELYZA-JP-8Bなど）を選ぶほうが、無理に27Bを動かすより満足度が高いことがあります。
編集部メモ
当サイトのDBで204モデル×142機種の組み合わせを計算していて一つ言えるのは、迷ったら「VRAM 16GBのGeForce」か「48GBのMac mini」のどちらかに落ち着く人が多いだろう、ということです。8GBは半年で物足りなくなり、24GBのGPUは価格が一気に上がる。
その中間にある16GBは、20BのMoE型と14Bが快適に動く現実的な落としどころです。Macなら48GBで30BのMoE型が50 tok/s出る。この二つは、モデルの世代が変わっても古くなりにくい容量だと見ています。
正直に言えば、「動く」の定義は人によって違います。当サイトは20 tok/sを快適の線にしていますが、コードを書かせて待つ用途なら8 tok/sでも我慢できるし、チャットで会話するなら15は欲しい。数字はDBで出せますが、待てるかどうかは手元で試すしかありません。
よくある質問
ローカルLLMに最低限必要なスペックは？
8Bクラスを4bitで動かすなら、VRAM 8GBのGPUか、ユニファイドメモリ16GBのMac、またはメインメモリ16GB以上のPCです。必要メモリは6.5GB前後で、速度はGPUなら約30 tok/s、GPUなしのDDR5なら5〜9 tok/sが目安です。
VRAM 8GBと12GBと16GBでは何が変わる？
動くモデルの本数が87本、100本、112本と増えます。8GBは12B級までをIQ4_XSで、12GBは14BまでGPUだけで動き、16GBは20BのMoE型と14Bが快適で、27Bも、Qwen3.8 27BならIQ4_XSまで落とせばVRAMに収まります。27BをQ4_K_Mのまま動かすには20GB以上が要ります。
MacとGeForceのどちらがローカルLLMに向いている？
32B以下を速く動かすならGeForceの24GB、70B以上を1台で動かすならMacの64〜128GBです。同じ容量ならGeForceのほうが3〜4倍速く、同じ価格ならMacのほうが大きなモデルを動かせます。画像生成も兼ねるならGeForce一択です。
GPUなしのノートPCでもローカルLLMは動く？
メモリ16GB以上なら8Bクラスは起動します。速度はメモリの帯域幅で決まり、DDR5-5600で約9 tok/s、Ryzen AI 300やCore Ultra 200Vの120〜136GB/sで約13 tok/sです。MoE型のモデルを選べば、35Bクラスでも15 tok/s前後が出ます。
コンテキストを長くすると必要メモリはどれくらい増える？
8Bクラスで8Kトークンなら約1.1GB、32Kで約4.4GB、128Kで17GB以上がKVキャッシュとして加わります。長文を読ませる用途では、モデル本体より大きくなることがあるので、容量を一段上げるか、KVキャッシュの量子化で半分にする設定を使いましょう。
関連: ローカルLLM（8Bクラス） / ローカルLLM（27〜32Bクラス） / ローカルLLM（70B〜120B MoE） / 容量別に動くモデル一覧 / GPUなしでローカルLLMは動くのか / 手持ちのPCで判定する