GeForce RTX 3080 10GB で動くローカルLLM一覧(2026年9月)
まず試すなら: Gemma 3 12B(5bit(Q5_K_M)・必要9.4GB・約60 tok/s較正)。VRAM 12GBで日本語が上手い定番
足りないのは: Qwen3 14Bを動かすにはVRAMがあと約0.9GB必要(必要10GB / 実効9.5GB)。システムメモリに逃がすオフロードなら動きますが、速度は数分の一になります。
載るモデル(VRAMに全量が入る)
各モデルについて、載る中で最も高精度な量子化を表示。速度は推定(「較正」は同機種の公開ベンチで係数を合わせたもの)。
| モデル | 量子化 | 必要 | 判定 | 推定速度 |
|---|---|---|---|---|
| Llama 3.2 3B | 8bit(Q8_0) | 4.7GB | 快適 | 約140 tok/s較正 |
| Gemma 3 4B | 8bit(Q8_0) | 4.7GB | 快適 | 約120 tok/s較正 |
| Phi-4-mini 3.8B | 8bit(Q8_0) | 5.4GB | 快適 | 約120 tok/s較正 |
| Qwen3 4B | 8bit(Q8_0) | 5.7GB | 快適 | 約110 tok/s較正 |
| Llama-3-ELYZA-JP-8B | 4bit(Q4_K_M) | 6.2GB | 快適 | 約98 tok/s較正 |
| Llama 3.1 8B | 6bit(Q6_K) | 7.8GB | 快適 | 約75 tok/s較正 |
| DeepSeek-R1-0528 Qwen3 8B | 6bit(Q6_K) | 8.1GB | 快適 | 約73 tok/s較正 |
| Qwen3 8B | 6bit(Q6_K) | 8.1GB | 快適 | 約73 tok/s較正 |
| Gemma 3n E4B | 8bit(Q8_0) | 7.7GB | 快適 | 約72 tok/s較正 |
| Qwen3 14B | 3bit(Q3_K_M) | 8.8GB | 快適 | 約67 tok/s較正 |
| DeepSeek-R1 Distill Qwen 14B | 3bit(Q3_K_M) | 9.0GB | 快適 | 約66 tok/s較正 |
| DeepSeek-R1 Distill Qwen 14B Japanese | 3bit(Q3_K_M) | 9.0GB | 快適 | 約66 tok/s較正 |
| Qwen2.5-Coder 14B | 3bit(Q3_K_M) | 9.0GB | 快適 | 約66 tok/s較正 |
| Mistral Nemo 12B | 4bit(Q4_K_M) | 8.9GB | 快適 | 約66 tok/s較正 |
| Phi-4 14B | 3bit(Q3_K_M) | 9.1GB | 快適 | 約65 tok/s較正 |
| DeepSeek-R1 Distill Qwen 7B | 8bit(Q8_0) | 8.7GB | 快適 | 約64 tok/s較正 |
| Qwen2.5-Coder 7B | 8bit(Q8_0) | 8.7GB | 快適 | 約64 tok/s較正 |
| GLM-4.6V-Flash 9B | 6bit(Q6_K) | 8.7GB | 快適 | 約63 tok/s較正 |
| Gemma 3 12B | 5bit(Q5_K_M) | 9.4GB | 快適 | 約60 tok/s較正 |
CPUオフロードなら動く(システムメモリ32GB想定)
| モデル | 量子化 | 必要 | 判定 | 推定速度 |
|---|---|---|---|---|
| Gemma 4 26B-A4B | 4bit(Q4_K_M) | 17GB | 実用CPUオフロード | 約17 tok/s較正 |
| Gemma 4 31B | 4bit(Q4_K_M) | 19GB | 遅いCPUオフロード | 約3.8 tok/s較正 |
| Qwen3.6 35B-A3B | 4bit(Q4_K_M) | 22GB | 快適CPUオフロード | 約20 tok/s較正 |
| Qwen3.5 27B | 4bit(Q4_K_M) | 17GB | 遅いCPUオフロード | 約4.9 tok/s較正 |
| Qwen3.5 35B-A3B | 4bit(Q4_K_M) | 22GB | 快適CPUオフロード | 約20 tok/s較正 |
| GLM-4.7-Flash 30B-A3B | 4bit(Q4_K_M) | 19GB | 快適CPUオフロード | 約20 tok/s較正 |
| gpt-oss-20b | 4bit(MXFP4) | 12GB | 快適CPUオフロード | 約39 tok/s較正 |
| Qwen3 30B-A3B | 4bit(Q4_K_M) | 19GB | 実用CPUオフロード | 約19 tok/s較正 |
| Qwen3-Coder 30B-A3B | 4bit(Q4_K_M) | 19GB | 実用CPUオフロード | 約19 tok/s較正 |
| Mistral Small 3.2 24B | 4bit(Q4_K_M) | 16GB | 遅いCPUオフロード | 約6.2 tok/s較正 |
| Qwen3 32B | 4bit(Q4_K_M) | 21GB | 遅いCPUオフロード | 約3.3 tok/s較正 |
| Gemma 3 27B | 4bit(Q4_K_M) | 17GB | 遅いCPUオフロード | 約4.8 tok/s較正 |
| DeepSeek-R1 Distill Qwen 32B | 4bit(Q4_K_M) | 22GB | 遅いCPUオフロード | 約3.3 tok/s較正 |
| Qwen2.5-Coder 32B | 4bit(Q4_K_M) | 22GB | 遅いCPUオフロード | 約3.3 tok/s較正 |
動かないモデルと不足分
| モデル | 量子化 | 必要 | 不足 |
|---|---|---|---|
| Llama 3.3 70B | 4bit(Q4_K_M) | 44GB | あと34GB |
| Qwen3-Next 80B-A3B | 4bit(Q4_K_M) | 47GB | あと38GB |
| gpt-oss-120b | 4bit(MXFP4) | 62GB | あと52GB |
| Llama 4 Scout 17B-16E | 4bit(Q4_K_M) | 65GB | あと55GB |
| GLM-4.5-Air 106B-A12B | 4bit(Q4_K_M) | 72GB | あと62GB |
| Qwen3.5 122B-A10B | 4bit(Q4_K_M) | 74GB | あと65GB |
| Qwen3 235B-A22B | 4bit(Q4_K_M) | 138GB | あと129GB |
Qwen3 14Bまで届くPC・Macに買い替えるなら
PR: 以下は広告リンクを含みます(Amazonアソシエイト・各社アフィリエイト)。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
RTX 5070(12GB)デスクトップ・メモリ32GB
SDXLの画像生成が快適。14BクラスのローカルLLMがGPU完結
RTX 5070(VRAM 12GB)・メモリ32GB・NVMe 1TB ・ 目安 20〜28万円
要件を満たす中で最も手頃
RTX 5070 Ti(16GB)デスクトップ・メモリ32GB
FLUX・27B MoE・gpt-oss-20b。ローカルAIの定番ライン
RTX 5070 Ti(VRAM 16GB)・メモリ32GB・NVMe 2TB・電源750W ・ 目安 28〜38万円
将来の用途拡張(大きなモデル・並列エージェント)に余裕
Mac mini M4 Pro(メモリ48GB・SSD 1TB)
30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心
M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円
Macで同じ仕事をするなら
この機種の実測データ(出典)
RTX 3080 の llama.cpp 公開ベンチマーク(GitHub Discussion): llama-2-7b Q4_0 = 139.65 tok/s。この値からメモリ帯域幅に対する実効係数(70%)を求め、他モデルの速度推定に使っています。
よくある質問
GeForce RTX 3080 10GBでローカルLLMは動く?
動きます。VRAM10GB(実効約9.5GB)に、収録40モデル中19本が載ります。日本語チャットならGemma 3 12B(5bit(Q5_K_M))が推定約60 tok/sです。
GeForce RTX 3080 10GBで動かないモデルは?
Qwen3 14Bは4bitで約10GB必要で、VRAMがあと約0.9GB足りません。