AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップGPU別 › GeForce RTX 3080 10GB

GeForce RTX 3080 10GB で動くローカルLLM一覧(2026年9月)

19快適(20 tok/s以上)
0実用(8〜20 tok/s)
14CPUオフロードで動く
7動かない

まず試すなら: Gemma 3 12B(5bit(Q5_K_M)・必要9.4GB・約60 tok/s較正)。VRAM 12GBで日本語が上手い定番

足りないのは: Qwen3 14Bを動かすにはVRAMがあと約0.9GB必要(必要10GB / 実効9.5GB)。システムメモリに逃がすオフロードなら動きますが、速度は数分の一になります。

載るモデル(VRAMに全量が入る)

各モデルについて、載る中で最も高精度な量子化を表示。速度は推定(「較正」は同機種の公開ベンチで係数を合わせたもの)。

モデル量子化必要判定推定速度
Llama 3.2 3B8bit(Q8_0)4.7GB快適約140 tok/s較正
Gemma 3 4B8bit(Q8_0)4.7GB快適約120 tok/s較正
Phi-4-mini 3.8B8bit(Q8_0)5.4GB快適約120 tok/s較正
Qwen3 4B8bit(Q8_0)5.7GB快適約110 tok/s較正
Llama-3-ELYZA-JP-8B4bit(Q4_K_M)6.2GB快適約98 tok/s較正
Llama 3.1 8B6bit(Q6_K)7.8GB快適約75 tok/s較正
DeepSeek-R1-0528 Qwen3 8B6bit(Q6_K)8.1GB快適約73 tok/s較正
Qwen3 8B6bit(Q6_K)8.1GB快適約73 tok/s較正
Gemma 3n E4B8bit(Q8_0)7.7GB快適約72 tok/s較正
Qwen3 14B3bit(Q3_K_M)8.8GB快適約67 tok/s較正
DeepSeek-R1 Distill Qwen 14B3bit(Q3_K_M)9.0GB快適約66 tok/s較正
DeepSeek-R1 Distill Qwen 14B Japanese3bit(Q3_K_M)9.0GB快適約66 tok/s較正
Qwen2.5-Coder 14B3bit(Q3_K_M)9.0GB快適約66 tok/s較正
Mistral Nemo 12B4bit(Q4_K_M)8.9GB快適約66 tok/s較正
Phi-4 14B3bit(Q3_K_M)9.1GB快適約65 tok/s較正
DeepSeek-R1 Distill Qwen 7B8bit(Q8_0)8.7GB快適約64 tok/s較正
Qwen2.5-Coder 7B8bit(Q8_0)8.7GB快適約64 tok/s較正
GLM-4.6V-Flash 9B6bit(Q6_K)8.7GB快適約63 tok/s較正
Gemma 3 12B5bit(Q5_K_M)9.4GB快適約60 tok/s較正

CPUオフロードなら動く(システムメモリ32GB想定)

モデル量子化必要判定推定速度
Gemma 4 26B-A4B4bit(Q4_K_M)17GB実用CPUオフロード約17 tok/s較正
Gemma 4 31B4bit(Q4_K_M)19GB遅いCPUオフロード約3.8 tok/s較正
Qwen3.6 35B-A3B4bit(Q4_K_M)22GB快適CPUオフロード約20 tok/s較正
Qwen3.5 27B4bit(Q4_K_M)17GB遅いCPUオフロード約4.9 tok/s較正
Qwen3.5 35B-A3B4bit(Q4_K_M)22GB快適CPUオフロード約20 tok/s較正
GLM-4.7-Flash 30B-A3B4bit(Q4_K_M)19GB快適CPUオフロード約20 tok/s較正
gpt-oss-20b4bit(MXFP4)12GB快適CPUオフロード約39 tok/s較正
Qwen3 30B-A3B4bit(Q4_K_M)19GB実用CPUオフロード約19 tok/s較正
Qwen3-Coder 30B-A3B4bit(Q4_K_M)19GB実用CPUオフロード約19 tok/s較正
Mistral Small 3.2 24B4bit(Q4_K_M)16GB遅いCPUオフロード約6.2 tok/s較正
Qwen3 32B4bit(Q4_K_M)21GB遅いCPUオフロード約3.3 tok/s較正
Gemma 3 27B4bit(Q4_K_M)17GB遅いCPUオフロード約4.8 tok/s較正
DeepSeek-R1 Distill Qwen 32B4bit(Q4_K_M)22GB遅いCPUオフロード約3.3 tok/s較正
Qwen2.5-Coder 32B4bit(Q4_K_M)22GB遅いCPUオフロード約3.3 tok/s較正

動かないモデルと不足分

モデル量子化必要不足
Llama 3.3 70B4bit(Q4_K_M)44GBあと34GB
Qwen3-Next 80B-A3B4bit(Q4_K_M)47GBあと38GB
gpt-oss-120b4bit(MXFP4)62GBあと52GB
Llama 4 Scout 17B-16E4bit(Q4_K_M)65GBあと55GB
GLM-4.5-Air 106B-A12B4bit(Q4_K_M)72GBあと62GB
Qwen3.5 122B-A10B4bit(Q4_K_M)74GBあと65GB
Qwen3 235B-A22B4bit(Q4_K_M)138GBあと129GB

Qwen3 14Bまで届くPC・Macに買い替えるなら

PR: 以下は広告リンクを含みます(Amazonアソシエイト・各社アフィリエイト)。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったりデスクトップ(BTO)

RTX 5070(12GB)デスクトップ・メモリ32GB

SDXLの画像生成が快適。14BクラスのローカルLLMがGPU完結

RTX 5070(VRAM 12GB)・メモリ32GB・NVMe 1TB ・ 目安 20〜28万円

要件を満たす中で最も手頃

余裕を持つならデスクトップ(BTO)

RTX 5070 Ti(16GB)デスクトップ・メモリ32GB

FLUX・27B MoE・gpt-oss-20b。ローカルAIの定番ライン

RTX 5070 Ti(VRAM 16GB)・メモリ32GB・NVMe 2TB・電源750W ・ 目安 28〜38万円

将来の用途拡張(大きなモデル・並列エージェント)に余裕

別の形ならMac

Mac mini M4 Pro(メモリ48GB・SSD 1TB)

30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心

M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円

Macで同じ仕事をするなら

この機種の実測データ(出典)

RTX 3080 の llama.cpp 公開ベンチマーク(GitHub Discussion): llama-2-7b Q4_0 = 139.65 tok/s。この値からメモリ帯域幅に対する実効係数(70%)を求め、他モデルの速度推定に使っています。

よくある質問

GeForce RTX 3080 10GBでローカルLLMは動く?

動きます。VRAM10GB(実効約9.5GB)に、収録40モデル中19本が載ります。日本語チャットならGemma 3 12B(5bit(Q5_K_M))が推定約60 tok/sです。

GeForce RTX 3080 10GBで動かないモデルは?

Qwen3 14Bは4bitで約10GB必要で、VRAMがあと約0.9GB足りません。

この機種で判定ツールを開く