RTX 30シリーズでローカルAIはどこまで動くか（2026年10月）

中古市場の主力。RTX 3090の24GBはローカルLLM用途で今も現役です。当サイトの204モデルのデータベースで、シリーズ内の各機種で何本動くかを並べました。

機種	VRAM	帯域幅	動くモデル	快適に動く	動く最大
GeForce RTX 3050 8GB	8GB	224 GB/s	87 / 204	87	Nemotron Nano 12B v2
GeForce RTX 3060 Ti	8GB	448 GB/s	87 / 204	87	Nemotron Nano 12B v2
GeForce RTX 3070	8GB	448 GB/s	87 / 204	87	Nemotron Nano 12B v2
GeForce RTX 3070 Ti	8GB	608 GB/s	87 / 204	87	Nemotron Nano 12B v2
GeForce RTX 3080 10GB	10GB	760 GB/s	92 / 204	92	Ministral 3 14B
GeForce RTX 3060 12GB	12GB	360 GB/s	100 / 204	100	ABEJA Qwen3 14B Agentic
GeForce RTX 3080 12GB	12GB	912 GB/s	100 / 204	100	ABEJA Qwen3 14B Agentic
GeForce RTX 3080 Ti	12GB	912 GB/s	100 / 204	100	ABEJA Qwen3 14B Agentic
GeForce RTX 3090	24GB	936 GB/s	158 / 204	158	Seed-OSS 36B
GeForce RTX 3090 Ti	24GB	1008 GB/s	158 / 204	158	Seed-OSS 36B

RTX 30をAI用途で見ると

中古市場の主力です。AI用途で名前が挙がり続けているのは3090で、24GBという容量が今の30Bクラスにちょうど噛み合っています。3060の12GB版も、価格に対して容量が大きく、入門機として長く使われています。

3090（24GB）か3060 12GB、この二択がAI用途での実質的な選択肢です。3070・3080の8〜10GBは、容量の面で早く頭打ちになります。

容量を一段上げると何本増えるか

このシリーズの中で、VRAMの容量ごとに4bit以上で動くモデル数がどう変わるかです。同じ容量の機種が複数ある場合は、最も多く動く機種の値を採っています。

容量	4bit以上で動く	一段下との差	その容量で動く最大のモデル
8GB	87 / 204	—	Nemotron Nano 12B v2（12.31B）
10GB	92 / 204	+5本	Ministral 3 14B（13.51B）
12GB	100 / 204	+8本	ABEJA Qwen3 14B Agentic（14.77B）
24GB	158 / 204	+58本	Seed-OSS 36B（36.15B）

差がいちばん大きいのは12GBから24GBへの一段で、ここで58本増えます。予算を積む余地があるなら、この段を越えられるかどうかが分かれ目です。

このシリーズで勧めやすい構成

3090（24GB）と3060 12GB版、この二択がAI用途での実質的な選択肢です。3090は30Bクラスに手が届き、3060 12GBは価格に対する容量が大きい。中古価格を含めて考えると、この世代は今も費用対効果の面で無視できない世代です。

避けたい選び方

3070や3080の8〜10GB版は、性能の割に早く頭打ちになります。ゲーム用途では今も十分に速いのに、AI用途では容量で止まる。「性能が高いから大丈夫」という判断が最も外れやすいのが、この2機種です。

買うときの見どころ

3090はGDDR6Xの発熱が大きく、基板裏のメモリが特に熱を持ちます。ケースのエアフローを確保できないなら、長時間の推論には向きません。システム全体で750W以上の電源が要り、中古で本体だけ安く買っても、電源とケースで追加費用が出ることがあります。

このシリーズで何ができるか

手元で動かすAIの用途ごとに、このシリーズの何機種が要件を満たすかです。クラウドで動くAI（ChatGPT・Claude・Gemini）はどの機種でも使えるので含めていません。

用途	必要な容量	このシリーズでは
Stable Diffusion / SDXL	VRAM 12GB	5機種（最小はGeForce RTX 3060 12GB）
FLUX / 高品質画像生成	VRAM 16GB	2機種（最小はGeForce RTX 3090）
動画生成AI（Wan / Hunyuan / LTX）	VRAM 24GB	2機種（最小はGeForce RTX 3090）
ローカルLLM（8Bクラス）	VRAM 8GB	10機種（最小はGeForce RTX 3050 8GB）
ローカルLLM（27〜32Bクラス）	VRAM 24GB	2機種（最小はGeForce RTX 3090）
ローカルLLM（70B〜120B MoE）	VRAM 40GB	このシリーズでは容量が足りない
文字起こし（Whisper）	VRAM 6GB	10機種（最小はGeForce RTX 3050 8GB）

速度の数字をどれだけ信用してよいか

このシリーズの10機種のうち、llama.cppの公開ベンチマークで速度を補正できているのは4機種です。残りは同系統の係数を流用した推定で、表では「補正済み」「推定」の印で区別しています。帯域幅は224〜1008GB/sの幅があり、上下で約4.5倍。同じモデルを載せたときの生成速度も、おおむねこの比に沿って開きます。

買う前に確認すること: 3090はGDDR6Xの発熱が大きく、基板裏のメモリが特に熱を持ちます。ケースのエアフローを確保できないなら、長時間の推論には向きません。中古なら消費電力にも注意で、システム全体で750W以上の電源が要ります。

量子化を落とすと、どこまで動くか

このシリーズの上位機（GeForce RTX 3090 Ti・VRAM24GB）で、標準の4bitでは溢れるものの、より小さい量子化にすれば収まるモデルです。4本あり、最大はKimi Linear 48B-A3B（49.12B）。ファイルが小さくなるぶん回答の品質は少し落ちますが、CPUオフロードで待たされるよりは実用的なことが多い選択肢です。

モデル	パラメータ	落とすなら	必要	推定速度
Kimi Linear 48B-A3B	49.12B	3bit（Q3_K_M）	22GB	約270 tok/s補正済み
Tanuki-8x8B	46.97B	3bit（Q3_K_M）	23GB	約58 tok/s補正済み
RakutenAI-2.0 8x7B	46.83B	3bit（Q3_K_M）	23GB	約58 tok/s補正済み
Mixtral 8x7B	46.7B	3bit（Q3_K_M）	23GB	約58 tok/s補正済み

それでも収まらないモデルのうち、いちばん惜しいのはQwen3-Next 80B-A3Bで、VRAMがあと約24GB足りません。ここから先は、容量の大きい機種に替えるか、システムメモリへのオフロードを受け入れるかの判断になります。

同じ容量を別の系統で買うなら

VRAM24GBという容量は、他の系統でも手に入ります。動くモデルは同じで、差が出るのは速度と、CUDAが要るツールを使えるかどうかです。

機種	シリーズ	帯域幅	この機種比
GeForce RTX 4090	RTX 40	1008 GB/s	1.00倍
Radeon RX 7900 XTX	RX 7000	960 GB/s	0.95倍
GeForce RTX 5090 Laptop	RTX 50 Laptop	896 GB/s	0.89倍

このシリーズの選びどころ

入口: GeForce RTX 3050 8GB（8GB）で87モデル。バランス: GeForce RTX 3090（24GB）で158モデル、その中で快適に動くのは158本。上限: GeForce RTX 3090 Ti（24GB）で158モデル。同じシリーズ内では容量の差がそのまま動くモデル数の差になり、帯域幅の差は速度に効きます。

代表的なモデルが動くか

よく使われる5本について、シリーズ内の各機種で4bit以上の量子化がメモリに収まるかどうかです。◯は収まる、△は量子化を落とせば収まる、×は収まりません。速度は推定値です。

機種	Qwen3 8B 8.19B	Gemma 3 12B 11.77B	Gemma 3 27B 27.01B	gpt-oss-20b 20.91B	Llama 3.3 70B 70.55B
GeForce RTX 3050 8GB	◯ 25 tok/s	△ 25 tok/s	×	×	×
GeForce RTX 3060 Ti	◯ 50 tok/s	△ 50 tok/s	×	×	×
GeForce RTX 3070	◯ 50 tok/s	△ 50 tok/s	×	×	×
GeForce RTX 3070 Ti	◯ 68 tok/s	△ 68 tok/s	×	×	×
GeForce RTX 3080 10GB	◯ 73 tok/s	◯ 60 tok/s	×	×	×
GeForce RTX 3060 12GB	◯ 31 tok/s	◯ 29 tok/s	△ 29 tok/s	×	×
GeForce RTX 3080 12GB	◯ 71 tok/s	◯ 66 tok/s	△ 66 tok/s	×	×
GeForce RTX 3080 Ti	◯ 71 tok/s	◯ 66 tok/s	△ 66 tok/s	×	×
GeForce RTX 3090	◯ 65 tok/s	◯ 47 tok/s	◯ 27 tok/s	◯ 170 tok/s	×
GeForce RTX 3090 Ti	◯ 70 tok/s	◯ 51 tok/s	◯ 29 tok/s	◯ 180 tok/s	×

容量ごとの詳細

VRAM 8GBで動くモデル VRAM 10GBで動くモデル VRAM 12GBで動くモデル VRAM 24GBで動くモデル

他のシリーズと比べる

シリーズ	最上位の機種	容量	帯域幅	動くモデル
RTX 30（このページ）	GeForce RTX 3090 Ti	24GB	1008 GB/s	158
RTX 50	GeForce RTX 5090	32GB	1792 GB/s	162
RTX 40	GeForce RTX 4090	24GB	1008 GB/s	158
RTX 20	GeForce RTX 2060 12GB	12GB	336 GB/s	100
RTX Ada	RTX 6000 Ada	48GB	960 GB/s	174
RTX 50 Laptop	GeForce RTX 5090 Laptop	24GB	896 GB/s	158
RTX 40 Laptop	GeForce RTX 4090 Laptop	16GB	576 GB/s	111

よくある質問

RTX 30シリーズでAI用途に選ぶならどれ？

VRAMの容量で決まります。当サイトのデータでは、GeForce RTX 3090が158モデル（その中で快適に動くのは158本）で、容量あたりの選択肢が広い位置です。GeForce RTX 3090 Tiなら158モデルまで広がります。

RTX 30で動く最大のモデルは？

GeForce RTX 3090 TiでSeed-OSS 36B（36.15B）まで4bitで動きます。

同じ型番でVRAM容量が違うことはありますか？

あります。RTX 4060 Tiは8GB版と16GB版、RTX 3080は10GB版と12GB版があり、AI用途では別物として扱う必要があります。購入時は型番の末尾の容量まで確認してください。

手持ちのPCで判定する他のシリーズと比べる