AI PCナビ使うAIと、させたい仕事に合うPC・Macを。

GPUなしPC・Copilot+ PC・APUで動くローカルLLM一覧

GPUなしの一般PC、Copilot+ PC(Lunar Lake / Ryzen AI / Snapdragon X)、Ryzen AI Max+ 395 で動くローカルLLMと推定速度。「快適」は20 tok/s以上、「実用」は8〜20 tok/sで動くモデルの数です。

GPUを積んでいないPCでも、ローカルの言語モデルは動きます。メモリさえあればモデルは読み込めるからです。問題になるのは速度で、生成のたびにモデルの重みを読み出す量がメモリ帯域幅で頭打ちになります。DDR5のデュアルチャネルで毎秒90GB前後、GeForceのVRAMは毎秒数百GBから1TB超。この差がそのまま速度に出ます。

ただし、モデルの構造によって結論が変わります。全パラメータを毎回読み出すdense型は、この帯域幅の制約をまともに受けます。一方、アクティブパラメータの小さいMoE型は、総パラメータが100Bを超えていても1トークンあたりに読むのは数Bぶん。GPUなしでも実用速度に届くことがあります。「GPUがないから無理」ではなく、「どのモデルなら回るか」という問いに変わります。

もうひとつ、GPUを積まない構成にはメモリを大きく積めるという利点があります。VRAMは16GBや24GBで頭打ちになりますが、システムメモリなら64GBや128GBが現実的です。動かせるモデルの大きさで見ればGPUなしが勝ち、速度で見ればGPUが勝つ。どちらを取るかは、待てるかどうかで決まります。

機種ごとに、動かせるモデルの数

動く快適に動く
GPUなし(PCのメモリだけ)
100本 うち6本
158本 うち13本
173本 うち13本
APU・Copilot+ PC
158本 うち27本
158本 うち40本
158本 うち27本
173本 うち77本
186本 うち81本
0204本
専用GPUを挿さず、PCのメモリや共有メモリで動かした場合。容量さえあれば数は出るが、メモリの読み出しが遅いので、快適に動くのは小さいモデルと、毎回読む量が少ない構造のモデルに限られる。「動く」は、標準的な軽さ(4bit)に落としてメモリに収まるもの。「快適」は毎秒20トークン以上で文字が出るもので、人が黙読する速さのおよそ4倍。待たされる感覚はない。

条件で絞り込む

メモリ容量で絞る

世代・シリーズで絞る

機種メモリ帯域幅快適実用速度係数
一般的なデスクトップ/ノートPC(DDR4-3200・GPUなし)(メモリ8GB)8GB51.2 GB/s614推定
一般的なデスクトップ/ノートPC(DDR4-3200・GPUなし)(メモリ16GB)16GB51.2 GB/s616推定
一般的なデスクトップ/ノートPC(DDR4-3200・GPUなし)(メモリ32GB)32GB51.2 GB/s619推定
一般的なデスクトップ/ノートPC(DDR4-3200・GPUなし)(メモリ64GB)64GB51.2 GB/s616推定
一般的なデスクトップ/ノートPC(DDR5-5600・GPUなし)(メモリ16GB)16GB89.6 GB/s1331推定
一般的なデスクトップ/ノートPC(DDR5-5600・GPUなし)(メモリ32GB)32GB89.6 GB/s1451推定
一般的なデスクトップ/ノートPC(DDR5-5600・GPUなし)(メモリ64GB)64GB89.6 GB/s1336推定
一般的なデスクトップ/ノートPC(DDR5-5600・GPUなし)(メモリ128GB)128GB89.6 GB/s1331推定
Intel Core Ultra 200V(Lunar Lake・Copilot+ PC)(メモリ16GB)16GB136.5 GB/s2527推定
Intel Core Ultra 200V(Lunar Lake・Copilot+ PC)(メモリ32GB)32GB136.5 GB/s2846推定
AMD Ryzen AI 300(Strix Point・Copilot+ PC)(メモリ16GB)16GB120 GB/s3039推定
AMD Ryzen AI 300(Strix Point・Copilot+ PC)(メモリ32GB)32GB120 GB/s4148推定
AMD Ryzen AI 300(Strix Point・Copilot+ PC)(メモリ64GB)64GB120 GB/s3063推定
AMD Ryzen AI Max+ 395(Strix Halo)(メモリ32GB)32GB256 GB/s7471推定
AMD Ryzen AI Max+ 395(Strix Halo)(メモリ64GB)64GB256 GB/s8158推定
AMD Ryzen AI Max+ 395(Strix Halo)(メモリ128GB)128GB256 GB/s8358推定
Snapdragon X Elite(Copilot+ PC)(メモリ16GB)16GB135 GB/s2527推定
Snapdragon X Elite(Copilot+ PC)(メモリ32GB)32GB135 GB/s2846推定

GPUなしという選択が成立する条件

MoE型のモデルを使うことが第1の条件です。総パラメータが100Bを超えていても、1トークンごとに読むのが3〜5Bぶんなら、メモリ帯域幅の制約の中でも実用速度が出ます。逆にdense型は、同じサイズでも数分の一まで落ちます。動かしたいモデルの種別を先に確認してください。

デュアルチャネルにすることが第2の条件です。メモリを1枚挿しにすると帯域幅が半分になり、生成速度もそのまま半分になります。同じ32GBでも、16GB×2枚と32GB×1枚では結果が違う。増設のときは必ず2枚組にしましょう。

3つ目は、待てる用途かどうか。対話しながら使う用途では、1秒に10トークンを切ると苦しくなります。一方、夜のうちに文書を要約させておく、といったバッチ処理なら1秒2トークンでも困らない。自分の使い方が対話型かバッチ型かで、この選択の可否が決まります。

この3つが揃うなら、GPUなしの構成は費用対効果で有利になります。同じ48万円で、GPU機なら27Bクラスまで、大容量メモリ機なら120B MoEまで。動かせるモデルの大きさだけを見れば、GPUなしのほうが上です。画像生成と動画生成はCUDAが要るので、GPUなしの構成は代わりになりません。

このページの使い方

メモリ規格と容量の組み合わせでページを分けています。手元のPCに近い構成を開くと、そこで何本のモデルが動くか、推定速度、収まらないモデルの不足量が出ます。Copilot+ PCに使われるプロセッサも同じ条件で計算しているので、「AIパソコン」と一般PCの差もここで確かめられます。

メモリを増設できる機種なら、まず挿し方(1枚か2枚か)を確かめてください。1枚挿しになっているなら、2枚組にするだけで帯域幅が倍になり、生成速度もほぼ倍になります。容量を増やす前に、この確認をする価値があります。

GPUを買うべきかどうかの判断は、動かしたいモデルがdense型かMoE型かで変わります。各モデルのページに種別とアクティブパラメータを載せているので、そこを見てから決めてください。

よくある質問

GPUなしで実用になるのはどんなモデルですか

アクティブパラメータの小さいMoE型です。総パラメータが大きくても、1トークンごとに読むのが数Bぶんなら、メモリ帯域幅の制約の中でも実用速度が出ます。逆にdense型は、同じサイズでも数分の一の速度になります。モデル別のページで種別を確認してください。

メモリを増やせば速くなりますか

容量を増やしても速度は変わりません。速度を決めるのは帯域幅で、これは規格とチャネル数で決まります。ただし1枚挿しを2枚組にすると帯域幅が倍になり、生成速度も倍になります。増設のときは必ず2枚組にしましょう。

Copilot+ PCならローカルAIが速く動きますか

速くはなりません。NPUが使われるのはWindows付属の機能だけで、llama.cppやOllamaといったローカルAIのツールはNPUを使いません。当サイトの計算でも、Copilot+ PC向けプロセッサの結果はGPUなしの一般PCとほぼ同じです。

手持ちのPCで判定する 容量別に動くモデルを見る