VRAM 16GBで動くローカルLLM一覧（2026年10月）
16GBで4bit以上のままVRAMに収まるのは204本中112本。27B級がIQ4_XSでぎりぎり入り、23.57BのMagistral Small 2509はQ4_K_Mで必要15.5GBと、容量をほぼ使い切ります。
1124bit以上で動くモデル（全204本中）
112その中で快適に動くもの（20 tok/s以上）
155量子化を落とせば動く数
27.32B4bit以上で動く最大のモデル
編集部の見立て
機種の選択肢が一気に広がる容量です。NVIDIA系が12機種、Radeonが8機種並び、CUDA以外の道も現実的になります。動くのは112本で、12GBの100本からは小幅な増加。ここから20GBへ上げると154本まで一気に増えるので、増え方だけを見れば16GBは大きく伸びる手前の段です。
RakutenAI-2.0 8x7Bは最小量子化でも必要16.4GBで、あと0.9GB。1GBに満たない差で、47B級のMoEが丸ごと外れます。27B級を4bit相当で日常的に回したい人の下限が、この容量だと見ています。
この容量に該当する機種
GeForce RTX 4060 Ti 16GBGeForce RTX 4070 Ti SUPERGeForce RTX 4080GeForce RTX 4080 SUPERGeForce RTX 5060 Ti 16GBGeForce RTX 5070 TiGeForce RTX 5080RTX 2000 AdaGeForce RTX 3080 Laptop 16GBGeForce RTX 3080 Ti LaptopGeForce RTX 4090 LaptopGeForce RTX 5080 LaptopRadeon RX 7800 XTRadeon RX 7600 XT 16GBRadeon RX 6800Radeon RX 6800 XTRadeon RX 6900 XTRadeon RX 9060 XT 16GBRadeon RX 9070Radeon RX 9070 XT
動くモデルと推定速度
各モデルについて、この容量に収まる量子化のうち、いちばん精度の高いものを表示しています。速度はGeForce RTX 5070 Tiでの推定値で、同じ容量でも帯域幅の広いGPUならこれより速く、狭ければ遅くなります。
| モデル | パラメータ | 量子化 | 必要 | 判定 | 推定速度 |
|---|---|---|---|---|---|
| Gemma 3 270M | 0.27B | 8bit（Q8_0） | 0.8GB | 快適 | 約2190 tok/s補正済み |
| Qwen2.5 0.5B | 0.49B | 8bit（Q8_0） | 1.1GB | 快適 | 約1160 tok/s補正済み |
| Qwen3.5 0.8B | 0.77B | 8bit（Q8_0） | 1.4GB | 快適 | 約760 tok/s補正済み |
| Gemma 3 1B | 1B | 8bit（Q8_0） | 1.6GB | 快適 | 約620 tok/s補正済み |
| Sarashina2.2 0.5B | 0.79B | 8bit（Q8_0） | 1.8GB | 快適 | 約620 tok/s補正済み |
| Qwen3 0.6B | 0.6B | 8bit（Q8_0） | 2.0GB | 快適 | 約610 tok/s補正済み |
| LFM2.5 1.2B JP | 1.17B | 8bit（Q8_0） | 1.8GB | 快適 | 約520 tok/s補正済み |
| Llama 3.2 1B | 1.24B | 8bit（Q8_0） | 2.0GB | 快適 | 約460 tok/s補正済み |
| EXAONE 4.0 1.2B | 1.28B | 8bit（Q8_0） | 2.3GB | 快適 | 約420 tok/s補正済み |
| TinySwallow 1.5B | 1.54B | 8bit（Q8_0） | 2.3GB | 快適 | 約380 tok/s補正済み |
| Qwen3.5 35B-A3B | 34.66B アクティブ3B | 2bit（IQ2_M） | 12GB | 快適 | 約380 tok/s補正済み |
| Qwen3.6 35B-A3B | 34.66B アクティブ3B | 2bit（IQ2_M） | 12GB | 快適 | 約380 tok/s補正済み |
| Ornith 1.0 35B-A3B | 34.66B アクティブ3B | 2bit（IQ2_M） | 12GB | 快適 | 約370 tok/s補正済み |
| Qwen-AgentWorld 35B-A3B | 34.66B アクティブ3B | 2bit（IQ2_M） | 12GB | 快適 | 約370 tok/s補正済み |
| RakutenAI-2.0 mini | 1.53B | 8bit（Q8_0） | 2.4GB | 快適 | 約370 tok/s補正済み |
| Sarashina2.2 1B | 1.41B | 8bit（Q8_0） | 2.6GB | 快適 | 約370 tok/s補正済み |
| KAT-Coder-V2.5-Dev 35B-A3B | 34.66B アクティブ3B | 2bit（Q2_K） | 13GB | 快適 | 約340 tok/s補正済み |
| Ornith 1.5 35B-A3B | 35.51B アクティブ3B | 2bit（Q2_K） | 13GB | 快適 | 約340 tok/s補正済み |
| Qwen2.5 1.5B | 1.78B | 8bit（Q8_0） | 2.5GB | 快適 | 約340 tok/s補正済み |
| Qwen3.5 2B | 1.94B | 8bit（Q8_0） | 2.6GB | 快適 | 約320 tok/s補正済み |
| Holo4 35B-A3B | 34.66B アクティブ3B | 2bit（Q2_K） | 14GB | 快適 | 約320 tok/s補正済み |
| Laguna XS 2.1 33B-A3B | 33.44B アクティブ3B | 2bit（Q2_K） | 13GB | 快適 | 約310 tok/s補正済み |
| Qwen3-VL 2B | 1.72B | 8bit（Q8_0） | 3.1GB | 快適 | 約290 tok/s補正済み |
| Qwen3 1.7B | 1.72B | 8bit（Q8_0） | 3.1GB | 快適 | 約290 tok/s補正済み |
| Thomson 1.0 Small 35B-A3B | 34.66B アクティブ3.58B | 2bit（Q2_K） | 13GB | 快適 | 約290 tok/s補正済み |
| XYZ-Aquila mini 35B-A3B | 34.66B アクティブ3.58B | 2bit（Q2_K） | 13GB | 快適 | 約290 tok/s補正済み |
| BigBang v1 35B | 35.51B アクティブ3.65B | 2bit（Q2_K） | 13GB | 快適 | 約280 tok/s補正済み |
| Ling 3.0 tiny | 7.89B アクティブ1.3B | 8bit（Q8_0） | 8.7GB | 快適 | 約280 tok/s補正済み |
| Nex-N2.5-mini | 34.66B アクティブ3.58B | 2bit（Q2_K） | 14GB | 快適 | 約270 tok/s補正済み |
| LFM2.5 8B-A1B | 8.47B アクティブ1.5B | 8bit（Q8_0） | 9.2GB | 快適 | 約250 tok/s補正済み |
| North Mini Code 1.0 | 30.48B アクティブ3B | 3bit（Q3_K_M） | 15GB | 快適 | 約240 tok/s補正済み |
| LLM-jp-3.1 1.8B | 1.87B | 8bit（Q8_0） | 3.9GB | 快適 | 約240 tok/s補正済み |
| MiniCPM5 2B | 2.52B | 8bit（Q8_0） | 3.4GB | 快適 | 約240 tok/s補正済み |
| LFM2.5 2.6B | 2.7B | 8bit（Q8_0） | 3.4GB | 快適 | 約230 tok/s補正済み |
| LFM2.5-VL 3B | 2.7B | 8bit（Q8_0） | 3.4GB | 快適 | 約230 tok/s補正済み |
| Gemma 2 Baku 2B | 2.61B | 8bit（Q8_0） | 3.8GB | 快適 | 約220 tok/s補正済み |
| GLM-4.7-Flash 30B-A3B | 29.94B アクティブ3B | 3bit（Q3_K_M） | 15GB | 快適 | 約220 tok/s補正済み |
| Qwen3-Swallow 30B-A3B | 30.53B アクティブ3.3B | 3bit（Q3_K_M） | 15GB | 快適 | 約200 tok/s補正済み |
| Qwen3-VL 30B-A3B | 30.53B アクティブ3.3B | 3bit（Q3_K_M） | 15GB | 快適 | 約200 tok/s補正済み |
| Qwen3 30B-A3B | 30.53B アクティブ3.3B | 3bit（Q3_K_M） | 15GB | 快適 | 約200 tok/s補正済み |
| Qwen3-Coder 30B-A3B | 30.53B アクティブ3.3B | 3bit（Q3_K_M） | 15GB | 快適 | 約200 tok/s補正済み |
| Qwen2.5-VL 3B | 3.09B | 8bit（Q8_0） | 3.9GB | 快適 | 約200 tok/s補正済み |
| Qwen2.5-Coder 3B | 3.09B | 8bit（Q8_0） | 3.9GB | 快適 | 約200 tok/s補正済み |
| Qwen2.5 3B | 3.09B | 8bit（Q8_0） | 3.9GB | 快適 | 約200 tok/s補正済み |
| ERNIE 4.5 21B-A3B Thinking | 21.83B アクティブ3B | 4bit（Q4_K_M） | 14GB | 快適 | 約200 tok/s補正済み |
| SmolLM3 3B | 3.08B | 8bit（Q8_0） | 4.2GB | 快適 | 約190 tok/s補正済み |
| gpt-oss-20b | 20.91B アクティブ3.6B | 4bit（MXFP4） | 12GB | 快適 | 約190 tok/s補正済み |
| GPT-OSS-Swallow 20B | 20.91B アクティブ3.6B | 3bit（Q3_K_M） | 13GB | 快適 | 約170 tok/s補正済み |
| Llama 3.2 3B | 3.21B | 8bit（Q8_0） | 4.7GB | 快適 | 約170 tok/s補正済み |
| Gemma 4 26B-A4B | 25.23B アクティブ4B | 4bit（IQ4_XS） | 14GB | 快適 | 約170 tok/s補正済み |
| Ministral 3 3B | 3.43B | 8bit（Q8_0） | 4.8GB | 快適 | 約170 tok/s補正済み |
| Granite 4.2 3B | 3.66B | 8bit（Q8_0） | 4.9GB | 快適 | 約160 tok/s補正済み |
| Sarashina2.2 3B | 3.36B | 8bit（Q8_0） | 5.2GB | 快適 | 約160 tok/s補正済み |
| Gemma 3 4B | 3.88B | 8bit（Q8_0） | 4.7GB | 快適 | 約160 tok/s補正済み |
| Nemotron 3 Nano 4B | 3.97B | 8bit（Q8_0） | 4.7GB | 快適 | 約160 tok/s補正済み |
| Qwen3.5 4B | 4.21B | 8bit（Q8_0） | 5.0GB | 快適 | 約150 tok/s補正済み |
| Phi-4-mini 3.8B | 3.84B | 8bit（Q8_0） | 5.4GB | 快適 | 約150 tok/s補正済み |
| AREX-Turbo 4B | 4.21B | 8bit（Q8_0） | 5.1GB | 快適 | 約150 tok/s補正済み |
| Fara1.5 4B | 4.21B | 8bit（Q8_0） | 5.1GB | 快適 | 約150 tok/s補正済み |
| Nanbeige4.2 3B | 4.17B | 8bit（Q8_0） | 5.4GB | 快適 | 約140 tok/s補正済み |
| Gemma 3n E2B | 4.46B | 8bit（Q8_0） | 5.2GB | 快適 | 約140 tok/s補正済み |
| Qwen3-VL 4B | 4.02B | 8bit（Q8_0） | 5.7GB | 快適 | 約140 tok/s補正済み |
| Qwen3 4B | 4.02B | 8bit（Q8_0） | 5.7GB | 快適 | 約140 tok/s補正済み |
| Gemma 4 E2B | 4.65B | 8bit（Q8_0） | 5.5GB | 快適 | 約130 tok/s補正済み |
| AFM-4.5B | 4.62B | 8bit（Q8_0） | 5.8GB | 快適 | 約130 tok/s補正済み |
| Llama-3-ELYZA-JP-8B | 8.03B | 4bit（Q4_K_M） | 6.2GB | 快適 | 約120 tok/s補正済み |
| Phi-3.5-mini 3.8B | 3.82B | 8bit（Q8_0） | 7.4GB | 快適 | 約120 tok/s補正済み |
| CAT-Translate 7B | 7.49B | 6bit（Q6_K） | 7.4GB | 快適 | 約100 tok/s補正済み |
| Granite 4.0 H-Small 32B-A9B | 32.21B アクティブ9B | 3bit（Q3_K_M） | 15GB | 快適 | 約92 tok/s補正済み |
| Shisa V2.1 Qwen3 8B | 8.19B | 6bit（Q6_K） | 8.1GB | 快適 | 約92 tok/s補正済み |
| Granite 4.0 H-Tiny | 6.94B | 8bit（Q8_0） | 7.7GB | 快適 | 約91 tok/s補正済み |
| Gemma 3n E4B | 6.87B | 8bit（Q8_0） | 7.7GB | 快適 | 約91 tok/s補正済み |
| Mistral 7B v0.3 | 7.25B | 8bit（Q8_0） | 8.9GB | 快適 | 約82 tok/s補正済み |
| Falcon-H1R 7B | 7.59B | 8bit（Q8_0） | 8.6GB | 快適 | 約82 tok/s補正済み |
| Gemma 4 E4B | 7.52B | 8bit（Q8_0） | 8.6GB | 快適 | 約81 tok/s補正済み |
| ELYZA-Shortcut-1.0 Qwen 7B | 7.62B | 8bit（Q8_0） | 8.7GB | 快適 | 約81 tok/s補正済み |
| ABEJA Qwen2.5 7B Japanese | 7.62B | 8bit（Q8_0） | 8.7GB | 快適 | 約81 tok/s補正済み |
| DeepSeek-R1 Distill Qwen 7B | 7.62B | 8bit（Q8_0） | 8.7GB | 快適 | 約81 tok/s補正済み |
| Qwen2.5-VL 7B | 7.62B | 8bit（Q8_0） | 8.7GB | 快適 | 約81 tok/s補正済み |
| Qwen2.5 7B | 7.62B | 8bit（Q8_0） | 8.7GB | 快適 | 約81 tok/s補正済み |
| Qwen2.5-Coder 7B | 7.62B | 8bit（Q8_0） | 8.7GB | 快適 | 約81 tok/s補正済み |
| Hunyuan 7B | 7.5B | 8bit（Q8_0） | 9.2GB | 快適 | 約79 tok/s補正済み |
| Tanuki-8B | 7.51B | 8bit（Q8_0） | 9.2GB | 快適 | 約79 tok/s補正済み |
| Command R7B | 8.03B | 8bit（Q8_0） | 9.3GB | 快適 | 約76 tok/s補正済み |
| Llama 3.1 Swallow 8B | 8.03B | 8bit（Q8_0） | 9.7GB | 快適 | 約75 tok/s補正済み |
| DeepSeek-R1 Distill Llama 8B | 8.03B | 8bit（Q8_0） | 9.7GB | 快適 | 約75 tok/s補正済み |
| Aya Expanse 8B | 8.03B | 8bit（Q8_0） | 9.7GB | 快適 | 約75 tok/s補正済み |
| Llama 3 Youko 8B | 8.03B | 8bit（Q8_0） | 9.7GB | 快適 | 約75 tok/s補正済み |
| Llama 3.1 8B | 8.03B | 8bit（Q8_0） | 9.7GB | 快適 | 約75 tok/s補正済み |
| Apertus 8B | 8.05B | 8bit（Q8_0） | 9.7GB | 快適 | 約74 tok/s補正済み |
| Qwen3-Swallow 8B | 8.19B | 8bit（Q8_0） | 10.0GB | 快適 | 約73 tok/s補正済み |
| Qwen3-VL 8B | 8.19B | 8bit（Q8_0） | 10.0GB | 快適 | 約73 tok/s補正済み |
| DeepSeek-R1-0528 Qwen3 8B | 8.19B | 8bit（Q8_0） | 10.0GB | 快適 | 約73 tok/s補正済み |
| Qwen3 8B | 8.19B | 8bit（Q8_0） | 10.0GB | 快適 | 約73 tok/s補正済み |
| Nemotron-Nano 9B v2 Japanese | 8.89B | 8bit（Q8_0） | 9.7GB | 快適 | 約71 tok/s補正済み |
| Ministral 3 8B | 8.49B | 8bit（Q8_0） | 10GB | 快適 | 約70 tok/s補正済み |
| Ornith 1.0 9B | 8.95B | 8bit（Q8_0） | 9.9GB | 快適 | 約70 tok/s補正済み |
| Qwen3.5 9B | 8.95B | 8bit（Q8_0） | 9.9GB | 快適 | 約70 tok/s補正済み |
| LLM-jp-4 8B thinking | 8.59B | 8bit（Q8_0） | 10GB | 快適 | 約70 tok/s補正済み |
| MiMo-V2.6-Distill-Qwen-9B | 8.95B | 8bit（Q8_0） | 9.9GB | 快適 | 約70 tok/s補正済み |
| Ornith 1.5 9B | 8.95B | 8bit（Q8_0） | 9.9GB | 快適 | 約70 tok/s補正済み |
| UI-Mate 9B | 8.95B | 8bit（Q8_0） | 9.9GB | 快適 | 約70 tok/s補正済み |
| UI-Venus-2 9B | 8.95B | 8bit（Q8_0） | 9.9GB | 快適 | 約70 tok/s補正済み |
| Fara1.5 9B | 8.95B | 8bit（Q8_0） | 9.9GB | 快適 | 約70 tok/s補正済み |
| Granite 4.2 8B | 8.79B | 8bit（Q8_0） | 11GB | 快適 | 約68 tok/s補正済み |
| GLM-4.6V-Flash 9B | 9.4B | 8bit（Q8_0） | 10GB | 快適 | 約67 tok/s補正済み |
| PLaMo 2 Translate | 9.53B | 8bit（Q8_0） | 10GB | 快適 | 約66 tok/s補正済み |
| Gemma-2-Llama-Swallow 9B | 9.24B | 8bit（Q8_0） | 12GB | 快適 | 約62 tok/s補正済み |
| Gemma 2 9B | 9.24B | 8bit（Q8_0） | 12GB | 快適 | 約62 tok/s補正済み |
| Gemma 4 31B | 30.7B | 2bit（IQ2_M） | 12GB | 快適 | 約59 tok/s補正済み |
| LLM-jp-3.1 13B | 13.71B | 4bit（Q4_K_M） | 15GB | 快適 | 約58 tok/s補正済み |
| Ministral 3 14B | 13.51B | 6bit（Q6_K） | 12GB | 快適 | 約58 tok/s補正済み |
| EXAONE 4.0.1 32B | 32B | 2bit（Q2_K） | 13GB | 快適 | 約54 tok/s補正済み |
| Olmo 3.1 32B | 32.23B | 2bit（Q2_K） | 13GB | 快適 | 約53 tok/s補正済み |
| ABEJA Qwen3 14B Agentic | 14.77B | 6bit（Q6_K） | 13GB | 快適 | 約53 tok/s補正済み |
| Qwen3 14B | 14.77B | 6bit（Q6_K） | 13GB | 快適 | 約53 tok/s補正済み |
| Shisa V2.1 unphi4 14B | 14.66B | 6bit（Q6_K） | 14GB | 快適 | 約53 tok/s補正済み |
| Phi-4 14B | 14.66B | 6bit（Q6_K） | 14GB | 快適 | 約53 tok/s補正済み |
| Gemma 4 12B | 11.91B | 8bit（Q8_0） | 13GB | 快適 | 約52 tok/s補正済み |
| DeepSeek-R1 Distill Qwen 14B | 14.77B | 6bit（Q6_K） | 14GB | 快適 | 約52 tok/s補正済み |
| DeepSeek-R1 Distill Qwen 14B Japanese | 14.77B | 6bit（Q6_K） | 14GB | 快適 | 約52 tok/s補正済み |
| Qwen2.5-Coder 14B | 14.77B | 6bit（Q6_K） | 14GB | 快適 | 約52 tok/s補正済み |
| Qwen2.5 14B | 14.77B | 6bit（Q6_K） | 14GB | 快適 | 約52 tok/s補正済み |
| Gemma 3 12B | 11.77B | 8bit（Q8_0） | 13GB | 快適 | 約52 tok/s補正済み |
| Nemotron Nano 12B v2 | 12.31B | 8bit（Q8_0） | 13GB | 快適 | 約51 tok/s補正済み |
| ABEJA Qwen2.5 32B Japanese | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約51 tok/s補正済み |
| ELYZA-Shortcut-1.0 Qwen 32B | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約51 tok/s補正済み |
| ELYZA-Thinking-1.0 Qwen 32B | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約51 tok/s補正済み |
| Qwen2.5-VL 32B | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約51 tok/s補正済み |
| DeepSeek-R1 Distill Qwen 32B | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約51 tok/s補正済み |
| DeepSeek-R1 Distill Qwen 32B Japanese | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約51 tok/s補正済み |
| KARAKURI LM 32B Thinking | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約51 tok/s補正済み |
| Qwen2.5-Coder 32B | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約51 tok/s補正済み |
| Qwen2.5 32B | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約51 tok/s補正済み |
| Qwen3-VL 32B | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約50 tok/s補正済み |
| Qwen3 32B | 32.76B | 2bit（Q2_K） | 14GB | 快適 | 約50 tok/s補正済み |
| Devstral Small 2 24B | 23.57B | 4bit（IQ4_XS） | 14GB | 快適 | 約50 tok/s補正済み |
| Aya Expanse 32B | 32.3B | 2bit（Q2_K） | 14GB | 快適 | 約50 tok/s補正済み |
| Gemma-2-Llama-Swallow 27B | 27.23B | 3bit（IQ3_M） | 15GB | 快適 | 約50 tok/s補正済み |
| Mistral Nemo Japanese 12B | 12.25B | 8bit（Q8_0） | 14GB | 快適 | 約49 tok/s補正済み |
| Mistral Nemo 12B | 12.25B | 8bit（Q8_0） | 14GB | 快適 | 約49 tok/s補正済み |
| Seed-OSS 36B | 36.15B | 2bit（IQ2_M） | 15GB | 快適 | 約49 tok/s補正済み |
| Qwen3.6 27B | 26.9B | 3bit（Q3_K_M） | 14GB | 快適 | 約49 tok/s補正済み |
| Gemma 3 27B | 27.01B | 3bit（Q3_K_M） | 14GB | 快適 | 約48 tok/s補正済み |
| Muse-Glimmer 30B | 27.85B | 3bit（IQ3_M） | 14GB | 快適 | 約48 tok/s補正済み |
| Codestral 22B | 22.25B | 4bit（Q4_K_M） | 15GB | 快適 | 約47 tok/s補正済み |
| Granite 4.2 30B | 29.28B | 3bit（IQ3_M） | 15GB | 快適 | 約47 tok/s補正済み |
| Qwen3.8 27B | 27.32B | 4bit（IQ4_XS） | 15GB | 快適 | 約47 tok/s補正済み |
| UI-Mate 27B | 26.9B | 3bit（Q3_K_M） | 15GB | 快適 | 約46 tok/s補正済み |
| Fara1.5 27B | 26.9B | 3bit（Q3_K_M） | 15GB | 快適 | 約46 tok/s補正済み |
| AREX-2 27B | 26.9B | 3bit（IQ3_M） | 15GB | 快適 | 約45 tok/s補正済み |
| Magistral Small 2509 | 23.57B | 4bit（Q4_K_M） | 16GB | 快適 | 約45 tok/s補正済み |
| Devstral Small 2507 | 23.57B | 4bit（Q4_K_M） | 16GB | 快適 | 約45 tok/s補正済み |
| Mistral Small 3.2 24B | 23.57B | 4bit（Q4_K_M） | 16GB | 快適 | 約45 tok/s補正済み |
| Qwen3.5 27B | 26.9B | 4bit（IQ4_XS） | 15GB | 快適 | 約44 tok/s補正済み |
あと少しで収まらないモデル
最も小さい量子化にしても、この容量には収まらなかったモデルです。不足分が小さいものは、コンテキスト長を4,096に絞れば収まることがあります。
| モデル | パラメータ | 必要（最小量子化） | 不足 |
|---|---|---|---|
| Kimi Linear 48B-A3B | 49.12B | 16GB | あと0.3GB |
| RakutenAI-2.0 8x7B | 46.83B | 16GB | あと0.9GB |
| Tanuki-8x8B | 46.97B | 17GB | あと1.0GB |
| LLM-jp-4 33B thinking | 33.22B | 17GB | あと1.5GB |
| LLM-jp-4 32B-A3B thinking | 32.14B | 17GB | あと1.6GB |
| Mixtral 8x7B | 46.7B | 18GB | あと2.6GB |
| Nemotron 3 Nano Omni 30B-A3B | 31.58B | 19GB | あと3.8GB |
| Qwen3-Coder-Next 80B-A3B | 79.67B | 25GB | あと9.1GB |
| Shisa V2.1 Llama 3.3 70B | 70.55B | 26GB | あと11GB |
| Llama 3.3 Swallow 70B | 70.55B | 26GB | あと11GB |
| DeepSeek-R1 Distill Llama 70B | 70.55B | 26GB | あと11GB |
| Llama 3.3 70B | 70.55B | 26GB | あと11GB |
1段上のVRAM 20GBにすると何が増えるか
VRAM 16GBからVRAM 20GB（RX 7900 XT）に上げると、新たに7モデルが動くようになります。買い替えや構成の検討で、その差額に見合うかを判断する材料にしてください。
| 新たに動くモデル | パラメータ | 量子化 | 必要 |
|---|---|---|---|
| Kimi Linear 48B-A3B | 49.12B | 2bit（Q2_K） | 17GB |
| Tanuki-8x8B | 46.97B | 2bit（Q2_K） | 18GB |
| RakutenAI-2.0 8x7B | 46.83B | 2bit（Q2_K） | 18GB |
| Mixtral 8x7B | 46.7B | 2bit（Q2_K） | 18GB |
| LLM-jp-4 33B thinking | 33.22B | 3bit（Q3_K_M） | 18GB |
| LLM-jp-4 32B-A3B thinking | 32.14B | 4bit（MXFP4 MoE） | 18GB |
| Nemotron 3 Nano Omni 30B-A3B | 31.58B | 4bit（IQ4_XS） | 19GB |
この容量での選び方
27Bのdense型（毎回すべての重みを使う構造）とMoEのどちらを主に使うかで、使い勝手が変わります。Qwen3.8 27BのIQ4_XSは必要14.7GB・推定46.6tok/sで、余白は0.8GB。対してGemma 4 26B-A4BのIQ4_XSは必要13.9GB、推定173tok/s出ます。
速度と余白の両方でMoEが有利な帯です。注意したいのは35B級で、Ornith 1.5 35B-A3BのQ2_Kは必要13.2GB・推定341tok/sと数字が跳ねるものの、2bitまで落とした上での速さ。同じモデルをIQ4_XSで回すには20GBが要ります。
コードはDevstral Small 2507のQ4_K_M、14B級で足りるならQwen2.5-Coder 14BをQ6_Kで。
この容量で足りるAI用途
手元で動かすAIの用途ごとに、VRAM 16GBが要件を満たすかどうかです。クラウドで動くAI（ChatGPT・Claude・Gemini）はどの機種でも使えるので含めていません。
| 用途 | 必要な容量 | VRAM 16GBでは |
|---|---|---|
| Stable Diffusion / SDXL | VRAM 12GB | 快適 |
| FLUX / 高品質画像生成 | VRAM 16GB | 快適 |
| 動画生成AI（Wan / Hunyuan / LTX） | VRAM 24GB | 動かない あと8GB |
| ローカルLLM（8Bクラス） | VRAM 8GB | 快適 |
| ローカルLLM（27〜32Bクラス） | VRAM 24GB | 動かない あと8GB |
| ローカルLLM（70B〜120B MoE） | VRAM 40GB | 動かない あと24GB |
| 文字起こし（Whisper） | VRAM 6GB | 快適 |
コンテキスト長をどこまで伸ばせるか
この容量で問題になりやすいのが、一度に読ませる文章の長さ。長くするほどKVキャッシュがメモリを食い、同じモデルでも収まらなくなります。この容量に収まるモデルのうち最も大きいQwen3.8 27B（4bit（IQ4_XS）・ファイル13GB）で計算すると、次のようになります。
| コンテキスト | KVキャッシュ | 必要合計 | 実効16GBに |
|---|---|---|---|
| 4,096 | 0.3GB | 14GB | 収まる |
| 8,192 | 0.5GB | 15GB | 収まる |
| 32,768 | 2.0GB | 16GB | 溢れる |
| 131,072 | 8.0GB | 22GB | 溢れる |
このモデルが収まるのは、8,192トークンまで。32,768トークンにすると溢れるので、そこから先はKVキャッシュを8bitに量子化する（必要量がおおむね半分になる）か、1つ小さいモデルに替えるかの判断です。
実際のツール（Ollama・LM Studio・llama.cpp）では既定のコンテキスト長が2,048〜8,192のことが多く、伸ばすときは設定で明示します。長い文書を渡す予定があるなら、どの長さまで使うかを先に決めてからモデルを選びましょう。
VRAM 16GBのPC・Macを買うなら
PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
ぴったり自作
自作: RTX 5070 Ti（16GB）・メモリ32GB
BTOより同予算で一段上のGPUに届く。画像生成とローカルLLMの定番
Ryzen 7 9700X・DDR5 16GB×2・RTX 5070 Ti・NVMe 2TB・電源850W ・ 目安 27〜35万円
要件を満たす中で最も手頃
余裕を持つなら自作
自作: RTX 5090（32GB）・メモリ96GB
動画生成・学習・32BクラスのLLM。メモリ96GBあれば、大型のMoE型を一部メインメモリに逃がして動かせる
Ryzen 9 9950X・DDR5 48GB×2・RTX 5090・NVMe 4TB・電源1000W・大型ケース ・ 目安 60〜80万円
将来の用途拡張（大きなモデル・並列エージェント）に余裕
別の形ならMac
Mac mini M4 Pro（メモリ48GB・SSD 1TB）
30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心
M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円
Macで同じ仕事をするなら
よくある質問
VRAM 16GBで動くローカルLLMは何本？
当サイト収録の204モデルのうち、4bit（標準的な量子化）で112本がメモリに収まります。量子化を落とせば155本まで増えます。最大はQwen3.8 27B（27.32B）です。
VRAM 16GBで画像生成はできる？
FLUXのfp8版まで動きます。SDXLはControlNetを重ねても余裕があります。
1段上のVRAM 20GBにすると何が変わる？
新たに7モデルが動くようになります。Kimi Linear 48B-A3B、Tanuki-8x8B、RakutenAI-2.0 8x7Bなどです。