トップ › GPU別 › GeForce RTX 3050 8GB

GeForce RTX 3050 8GB で動くローカルLLM一覧（2026年9月）

VRAM 8GB ・メモリ帯域幅 224 GB/s（出典: NVIDIA公式スペック（nvidia.com））・速度係数: 同系統機種から推定

26快適（20 tok/s以上）

0実用（8〜20 tok/s）

21CPUオフロードで動く

8動かない

まず試すなら: Gemma 4 12B（4bit（IQ4_XS）・必要7.0GB・約25 tok/s推定）。VRAM 12GBで日本語が上手い2026年版。Gemma 3 12Bの後継

足りないのは: Gemma 3 12Bを動かすにはVRAMがあと約0.8GB必要（必要8.3GB / 実効7.5GB）。システムメモリに逃がすオフロードなら動きますが、速度は数分の一になります。

載るモデル（VRAMに全量が入る）

各モデルについて、載る中で最も高精度な量子化を表示。速度は推定（「較正」は同機種の公開ベンチで係数を合わせたもの）。

モデル	量子化	必要	判定	推定速度
Llama 3.2 3B	8bit（Q8_0）	4.7GB	快適	約43 tok/s推定
Gemma 3 4B	8bit（Q8_0）	4.7GB	快適	約39 tok/s推定
Qwen3.5 4B	8bit（Q8_0）	5.0GB	快適	約36 tok/s推定
Phi-4-mini 3.8B	8bit（Q8_0）	5.4GB	快適	約36 tok/s推定
Qwen3 4B	8bit（Q8_0）	5.7GB	快適	約34 tok/s推定
Gemma 4 E2B	8bit（Q8_0）	5.5GB	快適	約32 tok/s推定
Llama-3-ELYZA-JP-8B	4bit（Q4_K_M）	6.2GB	快適	約30 tok/s推定
Gemma 4 E4B	5bit（Q5_K_M）	6.0GB	快適	約30 tok/s推定
DeepSeek-R1 Distill Qwen 14B	2bit（IQ2_M）	7.1GB	快適	約27 tok/s推定
DeepSeek-R1 Distill Qwen 14B Japanese	2bit（IQ2_M）	7.1GB	快適	約27 tok/s推定
Qwen2.5-Coder 14B	2bit（IQ2_M）	7.1GB	快適	約27 tok/s推定
Llama 3.1 8B	5bit（Q5_K_M）	7.0GB	快適	約26 tok/s推定
GLM-4.6V-Flash 9B	4bit（Q4_K_M）	6.7GB	快適	約26 tok/s推定
Gemma 3n E4B	6bit（Q6_K）	6.7GB	快適	約26 tok/s推定
Phi-4 14B	2bit（Q2_K）	7.4GB	快適	約26 tok/s推定
Mistral Nemo Japanese 12B	3bit（IQ3_M）	7.2GB	快適	約26 tok/s推定
Mistral Nemo 12B	3bit（IQ3_M）	7.2GB	快適	約26 tok/s推定
Qwen3 14B	2bit（Q2_K）	7.3GB	快適	約26 tok/s推定
Gemma 3 12B	3bit（Q3_K_M）	7.1GB	快適	約26 tok/s推定
Qwen3-VL 8B	5bit（Q5_K_M）	7.2GB	快適	約26 tok/s推定
DeepSeek-R1-0528 Qwen3 8B	5bit（Q5_K_M）	7.2GB	快適	約26 tok/s推定
Qwen3 8B	5bit（Q5_K_M）	7.2GB	快適	約26 tok/s推定
DeepSeek-R1 Distill Qwen 7B	6bit（Q6_K）	6.9GB	快適	約26 tok/s推定
Qwen2.5-Coder 7B	6bit（Q6_K）	6.9GB	快適	約26 tok/s推定
Gemma 4 12B	4bit（IQ4_XS）	7.0GB	快適	約25 tok/s推定
Qwen3.5 9B	5bit（Q5_K_M）	7.1GB	快適	約25 tok/s推定

CPUオフロードなら動く（システムメモリ32GB想定）

モデル	量子化	必要	判定	推定速度
Gemma 4 26B-A4B	4bit（Q4_K_M）	17GB	実用CPUオフロード	約13 tok/s推定
Gemma 4 31B	4bit（Q4_K_M）	19GB	遅いCPUオフロード	約3.0 tok/s推定
Qwen3.6 27B	4bit（Q4_K_M）	17GB	遅いCPUオフロード	約3.5 tok/s推定
Qwen3.6 35B-A3B	4bit（Q4_K_M）	22GB	実用CPUオフロード	約16 tok/s推定
Qwen3.5 27B	4bit（Q4_K_M）	17GB	遅いCPUオフロード	約3.6 tok/s推定
Qwen3.5 35B-A3B	4bit（Q4_K_M）	22GB	実用CPUオフロード	約16 tok/s推定
GLM-4.7-Flash 30B-A3B	4bit（Q4_K_M）	19GB	実用CPUオフロード	約15 tok/s推定
Qwen3-VL 32B	4bit（Q4_K_M）	21GB	遅いCPUオフロード	約2.6 tok/s推定
Magistral Small 2509	4bit（Q4_K_M）	16GB	遅いCPUオフロード	約4.2 tok/s推定
gpt-oss-20b	4bit（MXFP4）	12GB	快適CPUオフロード	約21 tok/s推定
Seed-OSS 36B	4bit（Q4_K_M）	23GB	遅いCPUオフロード	約2.3 tok/s推定
Devstral Small 2507	4bit（Q4_K_M）	16GB	遅いCPUオフロード	約4.2 tok/s推定
Qwen3 30B-A3B	4bit（Q4_K_M）	19GB	実用CPUオフロード	約14 tok/s推定
Qwen3-Coder 30B-A3B	4bit（Q4_K_M）	19GB	実用CPUオフロード	約14 tok/s推定
Mistral Small 3.2 24B	4bit（Q4_K_M）	16GB	遅いCPUオフロード	約4.2 tok/s推定
ELYZA-Shortcut-1.0 Qwen 32B	4bit（Q4_K_M）	22GB	遅いCPUオフロード	約2.6 tok/s推定
LLM-jp-3.1 13B	4bit（Q4_K_M）	15GB	遅いCPUオフロード	約5.6 tok/s推定
Qwen3 32B	4bit（Q4_K_M）	21GB	遅いCPUオフロード	約2.6 tok/s推定
Gemma 3 27B	4bit（Q4_K_M）	17GB	遅いCPUオフロード	約3.5 tok/s推定
DeepSeek-R1 Distill Qwen 32B	4bit（Q4_K_M）	22GB	遅いCPUオフロード	約2.6 tok/s推定
Qwen2.5-Coder 32B	4bit（Q4_K_M）	22GB	遅いCPUオフロード	約2.6 tok/s推定

動かないモデルと不足分

モデル	量子化	必要	不足
Llama 3.3 70B	4bit（Q4_K_M）	44GB	あと36GB
Qwen3-Next 80B-A3B	4bit（Q4_K_M）	47GB	あと40GB
Qwen3-Coder-Next 80B-A3B	4bit（Q4_K_M）	47GB	あと40GB
gpt-oss-120b	4bit（MXFP4）	62GB	あと54GB
Llama 4 Scout 17B-16E	4bit（Q4_K_M）	65GB	あと57GB
GLM-4.5-Air 106B-A12B	4bit（Q4_K_M）	72GB	あと64GB
Qwen3.5 122B-A10B	4bit（Q4_K_M）	74GB	あと67GB
Qwen3 235B-A22B	4bit（Q4_K_M）	138GB	あと131GB