GPUなしでローカルLLMは動くのか｜メモリだけでどこまでできるか
動きます。GPUを積んでいない普通のPCでも、メモリが16GBあればローカルLLMは起動します。問題は速度で、これはメモリの帯域幅で決まります。ただし2026年に入って事情が変わりました。MoE型のモデルが増えたことで、GPUなしでも実用的な速度が出る組み合わせが現れています。
なぜGPUなしでも動くのか
ローカルLLMがやっているのは、モデルの重みをメモリから読み出して計算することの繰り返しです。GPUが速いのは、演算が速いからというより、メモリを読む速度がはるかに速いからです。GeForce RTX 4070のVRAMは1秒に504GBを読めますが、DDR5-5600のデュアルチャネル構成では89.6GB。約5.6倍の差があります。
逆に言えば、読み出す量が少なければ、GPUなしでも実用的な速さが出ます。ここで役に立つのがMoE（Mixture of Experts）という構造です。総パラメータが30Bあっても、1トークンごとに使うのが3Bだけなら、読み出す量は10分の1で済みます。この性質のおかげで、GPUなしのPCでも「大きいけれど軽い」モデルが動くようになりました。
メモリの種類ごとの速度
GPUなしの場合、速度を決めるのはメモリの規格と構成です。当サイトのデータベースで、8Bクラスのモデル（4bitで必要メモリ約6.4GB）を動かしたときの推定速度を並べます。
| メモリ構成 | 帯域幅 | 8Bモデルの推定速度 | 体感 |
|---|---|---|---|
| DDR4-3200 デュアルチャネル | 51.2 GB/s | 約5 tok/s | 読む速さと同じ。待たされる感覚がある |
| DDR5-5600 デュアルチャネル | 89.6 GB/s | 約9 tok/s | 読む速さより少し速い。実用の下限 |
| Ryzen AI 300（LPDDR5X） | 120 GB/s | 約12 tok/s | 会話として成立する |
| Snapdragon X Elite | 135 GB/s | 約13 tok/s | 同上 |
| Core Ultra 200V（Lunar Lake） | 136.5 GB/s | 約13 tok/s | 同上 |
| Ryzen AI Max+ 395 | 256 GB/s | 約25 tok/s | GPU搭載機に近い |
注意したいのが、メモリを2枚組で挿しているかどうかです。同じ32GBでも、16GB×2ならデュアルチャネルで帯域が倍になり、32GB×1では半分になります。生成速度がそのまま倍違うので、増設するときは必ず2枚組を選んでください。ノートPCでオンボードメモリの機種は、この構成が最初から決まっています。
GPUなしで現実的に動くモデル
メモリ32GB（モデルに使えるのは約21GB）のGPUなしPCを想定して、当サイトのデータベースから抜き出しました。dense型は読み出す量が多いので遅く、MoE型は軽く動きます。
| モデル | 型 | 必要メモリ | DDR5での推定速度 |
|---|---|---|---|
| Qwen3 4B / Gemma 3 4B | dense型 | 3〜4GB | 約15〜20 tok/s |
| Qwen3 8B / Llama 3.1 8B | dense型 | 6〜7GB | 約9 tok/s |
| Gemma 3 12B | dense型 | 8〜9GB | 約7 tok/s |
| Qwen3 14B | dense型 | 10GB | 約6 tok/s |
| gpt-oss-20b | MoE型（アクティブ3.6B） | 12GB | 約11 tok/s |
| Qwen3 30B-A3B | MoE型（アクティブ3.3B） | 19GB | 約10 tok/s |
| Gemma 3 27B | dense型 | 18GB | 約3 tok/s |
表を見ると、同じくらいの必要メモリでも速度がまるで違うことが分かります。Gemma 3 27B（dense型・18GB）が約3 tok/sなのに対し、Qwen3 30B-A3B（MoE・19GB）は約10 tok/s。GPUなしのPCでは、モデルの大きさより「dense型かMoE型か」を先に見てください。速度はDDR5-5600での推定値で、実測ではありません。
メモリを増やすとどこまで伸びるか
GPUなしの構成では、メモリ容量を増やすほど大きなモデルが動きます。速度は帯域幅で決まるので容量を増やしても変わりませんが、MoEなら大きくても軽いという性質があるため、容量を増やす価値は十分にあります。
| メモリ | モデルに使える量 | 動くモデルの上限（4bit） |
|---|---|---|
| 16GB | 約11GB | 14Bクラスまで。gpt-oss-20bは少し足りない |
| 32GB | 約21GB | 27〜30Bクラス。MoE型なら実用的な速さ |
| 64GB | 約43GB | 80BのMoE型まで。dense型の70Bは収まるが遅い |
| 128GB | 約86GB | 120BのMoE型。Ryzen AI Max+ 395なら帯域も広い |
容量別に何が動くかは容量別のページで、機種ごとの一覧はGPUなしPC・Copilot+ PC・APUのページで確認できます。
計算してみる: なぜその速度になるのか
推定の中身を開いておきます。ローカルLLMが1トークンを生成するとき、モデルの重みをメモリから読みます。dense型なら全部、MoE型なら使うエキスパートの分だけ。ここに、会話の途中経過を保持するKVキャッシュの読み出しが加わります。
Qwen3 8Bの4bit版（ファイル4.7GB）をDDR5-5600（89.6GB/s）で動かす場合を追ってみます。1トークンあたり読むのは重み4.7GBとKVキャッシュの一部で、合計およそ5.2GB。理論上は89.6÷5.2で1秒に17トークンですが、実際にはメモリの理論値を出し切れないので、実効係数として45%前後を掛けます。
結果は約8〜9トークン。当サイトが表示している数字はこの計算で、公開ベンチマークのある機種では、その結果から係数を逆算して合わせています。
同じ計算をQwen3 30B-A3B（4bitで17.3GB・アクティブ3.3B）でやると、読むのは17.3×（3.3÷30.5）で約1.9GB。KVキャッシュを足しても2.3GB程度なので、89.6÷2.3×0.45×0.6（MoEの補正）で約10トークン。ファイルは3.7倍大きいのに、速度はむしろ速い。これがMoEで速度が出る仕組みです。
この計算から言えるのは、GPUなしの環境で速度を上げる方法が2つしかないということです。1つはメモリの帯域幅を上げること（DDR4からDDR5へ、1枚挿しから2枚組へ）。もう1つは読み出す量を減らすこと（小さいモデル、またはMoE型を選ぶ）。CPUの速さは、この式のどこにも入ってきません。
GPUなしを選ぶ人の実際の使い方
速度で劣ることが分かっていても、GPUなしを選ぶ理由がある場面があります。
- 常時稼働させる: GPUを積むとアイドルでも20〜30W余分に食います。24時間動かすワークフローの裏でモデルを常駐させるなら、GPUなしの静音ミニPCのほうが電気代も騒音も有利です（常時稼働PCの選び方）
- 夜間にまとめて処理する: 文書を何百件も要約する、といった処理は、速度より「放っておけること」が重要です。1件2分でも、寝ている間に走れば問題になりません
- 置き場所が限られる: GPU搭載機は大きく、熱く、うるさい。手のひらサイズのミニPCで済むなら、その差は日々の快適さに直結します
- まず試したい: 今あるPCで動かしてみて、速度に不満が出てから買えばいい。この順番なら、要らないGPUを買う失敗が起きません
逆に、対話しながら使う、コードを書かせる、画像を生成するといった「待つ時間が作業を止める」使い方では、GPUの有無が決定的になります。
GPUなしで始めるときの手順
- 今のメモリを確認する: Windowsはタスクマネージャーの「パフォーマンス → メモリ」、Macは「このMacについて」。16GB未満なら、まず増設を検討します
- LM StudioかOllamaを入れる: どちらもGPUの有無を自動で判定し、なければCPUで動かします。画面で操作したいならLM Studio、他のツールから呼ぶならOllama（ツール別のページ）
- 小さいモデルから試す: まずQwen3 4Bか8Bで、実際の速度を体感する。ここで「使えない」と感じたら、モデルを変えるかGPUを検討します
- MoE型を試す: メモリ32GB以上あるなら、gpt-oss-20bかQwen3 30B-A3Bを。同じ速度で賢さが上がることが多い
- コンテキスト長は控えめに: 既定のまま使い、長い文書を渡すときだけ伸ばします。伸ばした分だけメモリを食います
同じ予算なら、GPUとメモリのどちらに回すか
10万円の予算があるとして、GPUに使うかメモリに使うかで、できることが変わります。当サイトのデータベースで比べます。
| 使い道 | できるようになること | できないこと |
|---|---|---|
| RTX 5060 Ti 16GB（7〜8万円）を足す | Gemma 4 26B-A4BなどのMoE型とgpt-oss-20bが1秒に数十トークンで動く。画像生成（SDXL・FLUX）が可能になる | 27Bのdense型や70BはVRAMに収まらない。消費電力とファンの音が増える |
| メモリを32GB→128GB（3〜5万円）にする | 120BのMoE型までメモリに収まる（gpt-oss-120bで毎秒8トークン前後）。常時稼働させても静かで省電力 | 速度は変わらない。dense型は遅いまま。画像生成は不可 |
読み取れるのは、この2つが競合しないということです。画像生成をやるならGPU、大きなモデルを静かに動かすならメモリ。両方やりたいなら、GPUを積んだうえでメモリも増やすことになります。どちらか片方しか選べないなら、やりたいことから決めてください。用途から機種を出すおすすめ診断は、この判断を自動でやっています。
速度の体感を数字で持っておく
「遅い」「速い」は主観なので、目安を置いておきます。日本語では1トークンが1〜2文字なので、tok/sはおおむね「1秒間に書ける文字数」に近い。
| 速度 | 体感 | 向いている使い方 |
|---|---|---|
| 3 tok/s未満 | 1文が出るまで数秒待つ。会話は成立しにくい | 夜間のバッチ処理のみ |
| 5 tok/s | 人が黙読する速さと同じくらい | 短い要約、単発の質問 |
| 10 tok/s | 読むより少し速い。待たされる感覚がない | 日常的な対話、文書の整形 |
| 20 tok/s以上 | 出力が流れるように出る | 長文の生成、何度も試す作業 |
GPUなしのDDR5機は8Bクラスで9 tok/s前後、MoEの30Bクラスで10 tok/s前後。つまり「日常的な対話は成立するが、長文を何度も生成し直す作業には向かない」水準です。この目安を持っておくと、GPUを買うかどうかの判断がぶれません。
GPUを買うべきタイミング
GPUなしで始めて、次のどれかに当てはまったらGPUの検討時期です。
- 待ち時間が作業のリズムを崩している: 1日に何十回も使うなら、5 tok/sと50 tok/sの差は積み重なります
- 画像生成をやりたくなった: これはGPUなしでは実質的に不可能です。VRAM 12GB以上が要ります
- 27〜32Bクラスのdense型が必要で、MoE型では代わりにならない: 用途によっては、dense型の品質が必要な場面があります
- 長いコンテキストを常用する: KVキャッシュが増え、読み出す量も増えるので、帯域幅の差がさらに速度に表れます
逆に、これらに当てはまらないなら、GPUを買わずにメモリを増やすほうが安く済みます。DDR5の16GB×2は1万円台で、GPUの10分の1以下。メモリ容量のガイドも参考にしてください。
よくある誤解
「GPUがなければローカルLLMは動かない」動きます。メモリさえあればモデルは読み込めます。問題は速度で、アクティブパラメータの小さいMoE型なら実用の範囲に収まり、dense型は数分の一まで落ちます。
「メモリを増やせば速くなる」速くはなりません。容量は「どの大きさのモデルが動くか」を決め、速度を決めるのは帯域幅です。ただし1枚挿しを2枚組に替えてデュアルチャネルにすると、帯域幅が倍になり速度も倍になります。
「内蔵GPUを使えばGPUなしより速い」大きくは変わりません。内蔵GPUもメインメモリを共有しているので、帯域幅の上限は同じです。単体GPUのVRAMのような速さは出ません。
編集部メモ: GPUなしで動かす話をすると、たいてい「遅いなら意味がない」と言われます。ところが実際に使い始めると、待てる処理と待てない処理がはっきり分かれてくる。対話しながら使う用途は1秒に10トークンを切ると苦しい一方、夜のうちに文書を要約させておく、といった使い方なら1秒2トークンでも困りません。GPUを買うかどうかの前に、自分の使い方が対話型かバッチ型かを見極めるほうが、金額の判断としては先に来ます。
GPUなしで組む場合の金額
GPUを買わずにメモリへ回すと、同じ予算で動かせるモデルは大きくなります。2026年9月時点の目安です。
| 構成 | 価格の目安 | 動くモデルの上限（4bit） |
|---|---|---|
| メモリ32GBの一般的なデスクトップ | 15〜22万円 | 30Bクラスまで。dense型は遅い |
| メモリ64GBの自作機 | 25〜35万円 | 70Bクラスまでメモリに収まる |
| Ryzen AI Max+ 395の128GB機 | 32〜48万円 | 120BのMoE型まで。GPUに大きく割り当て可能 |
| 比較: VRAM 16GBのGPU搭載機 | 28〜38万円 | 14Bクラスまで。ただし速い |
表の最後の行が要点です。38万円のGPU機で27Bクラス、48万円のGPUなし大容量機で120BのMoE型。動かせる大きさで見ればGPUなしが勝ち、速度で見ればGPU機が勝ちます。どちらを取るかは、待てるかどうかで決まります。
よくある質問
CPUの性能は関係ありますか？
ほとんど関係ありません。生成速度はメモリ帯域幅で決まるので、CPUのコア数やクロックを上げても伸びません。速度を左右するのはメモリの規格（DDR4かDDR5か）と、2枚組で挿しているかどうかです。
NPU搭載のPCなら速いですか？
いいえ。Copilot+ PCのNPUは、Windows付属の軽い機能のためのものです。当サイトのデータベースにCore Ultra 200V、Ryzen AI 300、Snapdragon X Eliteを入れて計算しましたが、速度はGPUなしの一般PCと同等でした。これらの機種が優れているのは省電力とバッテリー持ちで、AIの速度ではありません（AIパソコンとは）。
ノートPCでも動きますか？
動きます。ただし長時間の生成では発熱でクロックが落ちることがあります。また、バッテリー駆動時は省電力設定で遅くなる機種があるので、電源に繋いだ状態で試してください。
GPUなしで実用になるのはどのモデルですか
1トークンごとに使うパラメータが小さいMoE型です。総パラメータが100Bを超えていても、1トークンごとに読むのが3〜5Bなら、メモリ帯域幅の制約の中でも実用的な速さが出ます。逆にdense型は、同じサイズでも数分の一の速度になります。モデル別のページで、MoE型かdense型かを確認しましょう。
メモリを増やせば速くなりますか
容量を増やしても速度は変わりません。速度を決めるのはメモリ帯域幅で、これは規格（DDR4かDDR5か）とチャネル数で決まります。ただし2枚組にしてデュアルチャネルにすると、帯域幅が倍になり生成速度も倍になります。
内蔵GPUは使われますか
ツールによります。llama.cppはVulkanやSYCL経由で内蔵GPUを使えますが、内蔵GPUもメインメモリを共有しているため、帯域幅の上限は同じです。劇的な差にはなりません。
画像生成もGPUなしでできますか
動くには動きますが、実用的ではありません。1枚に数分かかります。画像生成を日常的に使うなら、VRAM 12GB以上のGeForceが実質的な下限です。