GPUなしPC・Copilot+ PC・APUで動くローカルLLM一覧
GPUなしの一般PC、Copilot+ PC(Lunar Lake / Ryzen AI / Snapdragon X)、Ryzen AI Max+ 395 で動くローカルLLMと推定速度。「快適」は20 tok/s以上、「実用」は8〜20 tok/sで動くモデルの数です。
GPUを積んでいないPCでも、ローカルの言語モデルは動きます。メモリさえあればモデルは読み込めるからです。問題になるのは速度で、生成のたびにモデルの重みを読み出す量がメモリ帯域幅で頭打ちになります。DDR5のデュアルチャネルで毎秒90GB前後、GeForceのVRAMは毎秒数百GBから1TB超。この差がそのまま速度に出ます。
ただし、モデルの構造によって結論が変わります。全パラメータを毎回読み出すdense型は、この帯域幅の制約をまともに受けます。一方、アクティブパラメータの小さいMoE型は、総パラメータが100Bを超えていても1トークンあたりに読むのは数Bぶん。GPUなしでも実用速度に届くことがあります。「GPUがないから無理」ではなく、「どのモデルなら回るか」という問いに変わります。
もうひとつ、GPUを積まない構成にはメモリを大きく積めるという利点があります。VRAMは16GBや24GBで頭打ちになりますが、システムメモリなら64GBや128GBが現実的です。動かせるモデルの大きさで見ればGPUなしが勝ち、速度で見ればGPUが勝つ。どちらを取るかは、待てるかどうかで決まります。
機種ごとに、動かせるモデルの数
条件で絞り込む
メモリ容量で絞る
世代・シリーズで絞る
GPUなしという選択が成立する条件
MoE型のモデルを使うことが第1の条件です。総パラメータが100Bを超えていても、1トークンごとに読むのが3〜5Bぶんなら、メモリ帯域幅の制約の中でも実用速度が出ます。逆にdense型は、同じサイズでも数分の一まで落ちます。動かしたいモデルの種別を先に確認してください。
デュアルチャネルにすることが第2の条件です。メモリを1枚挿しにすると帯域幅が半分になり、生成速度もそのまま半分になります。同じ32GBでも、16GB×2枚と32GB×1枚では結果が違う。増設のときは必ず2枚組にしましょう。
3つ目は、待てる用途かどうか。対話しながら使う用途では、1秒に10トークンを切ると苦しくなります。一方、夜のうちに文書を要約させておく、といったバッチ処理なら1秒2トークンでも困らない。自分の使い方が対話型かバッチ型かで、この選択の可否が決まります。
この3つが揃うなら、GPUなしの構成は費用対効果で有利になります。同じ48万円で、GPU機なら27Bクラスまで、大容量メモリ機なら120B MoEまで。動かせるモデルの大きさだけを見れば、GPUなしのほうが上です。画像生成と動画生成はCUDAが要るので、GPUなしの構成は代わりになりません。
このページの使い方
メモリ規格と容量の組み合わせでページを分けています。手元のPCに近い構成を開くと、そこで何本のモデルが動くか、推定速度、収まらないモデルの不足量が出ます。Copilot+ PCに使われるプロセッサも同じ条件で計算しているので、「AIパソコン」と一般PCの差もここで確かめられます。
メモリを増設できる機種なら、まず挿し方(1枚か2枚か)を確かめてください。1枚挿しになっているなら、2枚組にするだけで帯域幅が倍になり、生成速度もほぼ倍になります。容量を増やす前に、この確認をする価値があります。
GPUを買うべきかどうかの判断は、動かしたいモデルがdense型かMoE型かで変わります。各モデルのページに種別とアクティブパラメータを載せているので、そこを見てから決めてください。
よくある質問
GPUなしで実用になるのはどんなモデルですか
アクティブパラメータの小さいMoE型です。総パラメータが大きくても、1トークンごとに読むのが数Bぶんなら、メモリ帯域幅の制約の中でも実用速度が出ます。逆にdense型は、同じサイズでも数分の一の速度になります。モデル別のページで種別を確認してください。
メモリを増やせば速くなりますか
容量を増やしても速度は変わりません。速度を決めるのは帯域幅で、これは規格とチャネル数で決まります。ただし1枚挿しを2枚組にすると帯域幅が倍になり、生成速度も倍になります。増設のときは必ず2枚組にしましょう。
Copilot+ PCならローカルAIが速く動きますか
速くはなりません。NPUが使われるのはWindows付属の機能だけで、llama.cppやOllamaといったローカルAIのツールはNPUを使いません。当サイトの計算でも、Copilot+ PC向けプロセッサの結果はGPUなしの一般PCとほぼ同じです。