RTX 50シリーズでローカルAIはどこまで動くか（2026年10月）
NVIDIAの現行世代。VRAM容量は8GBから32GBまで幅があり、AI用途では容量で選びます。当サイトの204モデルのデータベースで、シリーズ内の各機種で何本動くかを並べました。
| 機種 | VRAM | 帯域幅 | 動くモデル | 快適に動く | 動く最大 |
|---|---|---|---|---|---|
| GeForce RTX 5050 | 8GB | 320 GB/s | 87 / 204 | 87 | Nemotron Nano 12B v2 |
| GeForce RTX 5060 | 8GB | 448 GB/s | 87 / 204 | 87 | Nemotron Nano 12B v2 |
| GeForce RTX 5060 Ti 8GB | 8GB | 448 GB/s | 87 / 204 | 87 | Nemotron Nano 12B v2 |
| GeForce RTX 5070 | 12GB | 672 GB/s | 100 / 204 | 100 | ABEJA Qwen3 14B Agentic |
| GeForce RTX 5060 Ti 16GB | 16GB | 448 GB/s | 111 / 204 | 111 | Qwen3.8 27B |
| GeForce RTX 5070 Ti | 16GB | 896 GB/s | 111 / 204 | 111 | Qwen3.8 27B |
| GeForce RTX 5080 | 16GB | 960 GB/s | 111 / 204 | 111 | Qwen3.8 27B |
| GeForce RTX 5090 | 32GB | 1792 GB/s | 162 / 204 | 162 | Kimi Linear 48B-A3B |
RTX 50をAI用途で見ると
NVIDIAの現行世代です。AI用途で効くのはコア性能よりVRAM容量で、同じ50系でも8GBの下位と32GBの5090では動かせるモデルがまるで違います。GDDR7になって帯域幅が伸びたぶん、同じモデルを動かしたときの生成速度は前世代より素直に速くなりました。
型番の数字ではなくVRAMの数字で選びます。画像生成まで含めるなら16GB、30Bクラスの言語モデルをGPUだけで動かすなら24GB以上が分かれ目です。5060 Tiのように8GB版と16GB版が同名で売られているものがあります。
容量を一段上げると何本増えるか
このシリーズの中で、VRAMの容量ごとに4bit以上で動くモデル数がどう変わるかです。同じ容量の機種が複数ある場合は、最も多く動く機種の値を採っています。
| 容量 | 4bit以上で動く | 一段下との差 | その容量で動く最大のモデル |
|---|---|---|---|
| 8GB | 87 / 204 | — | Nemotron Nano 12B v2（12.31B） |
| 12GB | 100 / 204 | +13本 | ABEJA Qwen3 14B Agentic（14.77B） |
| 16GB | 111 / 204 | +11本 | Qwen3.8 27B（27.32B） |
| 32GB | 162 / 204 | +51本 | Kimi Linear 48B-A3B（49.12B） |
差がいちばん大きいのは16GBから32GBへの一段で、ここで51本増えます。予算を積む余地があるなら、この段を越えられるかどうかが分かれ目です。
このシリーズで勧めやすい構成
5070 Ti（16GB）が、この世代でいちばん勧めやすい位置にあります。SDXLとFLUXの画像生成が標準設定で回り、14BクラスのローカルLLMがGPUだけで完結する。ここから上は、動画生成か30Bクラスに手を出すかどうかで5080か5090に分かれ、価格の上がり方が急になります。
避けたい選び方
型番の数字だけを見て5060 Tiを選び、8GB版だったという間違いが起きやすい世代です。同じ名前で8GBと16GBが売られており、AI用途では別物になります。もうひとつは、5090を買ったのに電源が足りず定格まで回らない構成。カードの価格だけで予算を組むと、ここで詰まります。
買うときの見どころ
発売から間もないため中古の出物は限られます。新品で買うなら、電源容量（5090なら1,000W級）とケースの奥行き、それに12V-2x6コネクタの有無を先に確認しましょう。GDDR7は発熱が大きく、ケースのエアフローが結果に効いてきます。
このシリーズで何ができるか
手元で動かすAIの用途ごとに、このシリーズの何機種が要件を満たすかです。クラウドで動くAI（ChatGPT・Claude・Gemini）はどの機種でも使えるので含めていません。
| 用途 | 必要な容量 | このシリーズでは |
|---|---|---|
| Stable Diffusion / SDXL | VRAM 12GB | 5機種（最小はGeForce RTX 5070） |
| FLUX / 高品質画像生成 | VRAM 16GB | 4機種（最小はGeForce RTX 5060 Ti 16GB） |
| 動画生成AI（Wan / Hunyuan / LTX） | VRAM 24GB | 1機種（最小はGeForce RTX 5090） |
| ローカルLLM（8Bクラス） | VRAM 8GB | 8機種（最小はGeForce RTX 5050） |
| ローカルLLM（27〜32Bクラス） | VRAM 24GB | 1機種（最小はGeForce RTX 5090） |
| ローカルLLM（70B〜120B MoE） | VRAM 40GB | このシリーズでは容量が足りない |
| 文字起こし（Whisper） | VRAM 6GB | 8機種（最小はGeForce RTX 5050） |
速度の数字をどれだけ信用してよいか
このシリーズの8機種のうち、llama.cppの公開ベンチマークで速度を補正できているのは5機種です。残りは同系統の係数を流用した推定で、表では「補正済み」「推定」の印で区別しています。帯域幅は320〜1792GB/sの幅があり、上下で約5.6倍。同じモデルを載せたときの生成速度も、おおむねこの比に沿って開きます。
買う前に確認すること: 消費電力と電源容量、それにケースの奥行き。上位カードは3スロット厚が普通で、既存のミドルタワーに入らないことがあります。電源は12V-2x6コネクタの有無も確認してください。
量子化を落とすと、どこまで動くか
このシリーズの上位機（GeForce RTX 5090・VRAM32GB）で、標準の4bitでは溢れるものの、より小さい量子化にすれば収まるモデルです。8本あり、最大はHunyuan-A13B 80B（80.39B）。ファイルが小さくなるぶん回答の品質は少し落ちますが、CPUオフロードで待たされるよりは実用的なことが多い選択肢です。
| モデル | パラメータ | 落とすなら | 必要 | 推定速度 |
|---|---|---|---|---|
| Hunyuan-A13B 80B | 80.39B | 2bit（Q2_K） | 29GB | 約130 tok/s補正済み |
| Qwen3-Coder-Next 80B-A3B | 79.67B | 2bit（Q2_K） | 29GB | 約550 tok/s補正済み |
| Qwen3-Next 80B-A3B | 79.67B | 2bit（Q2_K） | 29GB | 約550 tok/s補正済み |
| Qwen2.5 72B | 72.71B | 2bit（IQ2_M） | 31GB | 約36 tok/s補正済み |
| Shisa V2.1 Llama 3.3 70B | 70.55B | 2bit（Q2_K） | 28GB | 約40 tok/s補正済み |
| Llama 3.3 Swallow 70B | 70.55B | 2bit（Q2_K） | 28GB | 約40 tok/s補正済み |
| DeepSeek-R1 Distill Llama 70B | 70.55B | 2bit（Q2_K） | 28GB | 約40 tok/s補正済み |
| Llama 3.3 70B | 70.55B | 2bit（Q2_K） | 28GB | 約40 tok/s補正済み |
それでも収まらないモデルのうち、いちばん惜しいのはStockmark-2 100Bで、VRAMがあと約27GB足りません。ここから先は、容量の大きい機種に替えるか、システムメモリへのオフロードを受け入れるかの判断になります。
このシリーズの選びどころ
入口: GeForce RTX 5050（8GB）で87モデル。バランス: GeForce RTX 5060 Ti 16GB（16GB）で111モデル、その中で快適に動くのは111本。上限: GeForce RTX 5090（32GB）で162モデル。同じシリーズ内では容量の差がそのまま動くモデル数の差になり、帯域幅の差は速度に効きます。
代表的なモデルが動くか
よく使われる5本について、シリーズ内の各機種で4bit以上の量子化がメモリに収まるかどうかです。◯は収まる、△は量子化を落とせば収まる、×は収まりません。速度は推定値です。
| 機種 | Qwen3 8B 8.19B | Gemma 3 12B 11.77B | Gemma 3 27B 27.01B | gpt-oss-20b 20.91B | Llama 3.3 70B 70.55B |
|---|---|---|---|---|---|
| GeForce RTX 5050 | ◯ 36 tok/s | △ 36 tok/s | × | × | × |
| GeForce RTX 5060 | ◯ 50 tok/s | △ 50 tok/s | × | × | × |
| GeForce RTX 5060 Ti 8GB | ◯ 50 tok/s | △ 50 tok/s | × | × | × |
| GeForce RTX 5070 | ◯ 52 tok/s | ◯ 48 tok/s | △ 49 tok/s | × | × |
| GeForce RTX 5060 Ti 16GB | ◯ 37 tok/s | ◯ 27 tok/s | △ 25 tok/s | ◯ 95 tok/s | × |
| GeForce RTX 5070 Ti | ◯ 73 tok/s | ◯ 52 tok/s | △ 48 tok/s | ◯ 190 tok/s | × |
| GeForce RTX 5080 | ◯ 75 tok/s | ◯ 54 tok/s | △ 50 tok/s | ◯ 190 tok/s | × |
| GeForce RTX 5090 | ◯ 120 tok/s | ◯ 86 tok/s | ◯ 38 tok/s | ◯ 300 tok/s | △ 40 tok/s |
容量ごとの詳細
他のシリーズと比べる
| シリーズ | 最上位の機種 | 容量 | 帯域幅 | 動くモデル |
|---|---|---|---|---|
| RTX 50（このページ） | GeForce RTX 5090 | 32GB | 1792 GB/s | 162 |
| RTX 40 | GeForce RTX 4090 | 24GB | 1008 GB/s | 158 |
| RTX 30 | GeForce RTX 3090 | 24GB | 936 GB/s | 158 |
| RTX 20 | GeForce RTX 2060 12GB | 12GB | 336 GB/s | 100 |
| RTX Ada | RTX 6000 Ada | 48GB | 960 GB/s | 174 |
| RTX 50 Laptop | GeForce RTX 5090 Laptop | 24GB | 896 GB/s | 158 |
| RTX 40 Laptop | GeForce RTX 4090 Laptop | 16GB | 576 GB/s | 111 |
よくある質問
RTX 50シリーズでAI用途に選ぶならどれ？
VRAMの容量で決まります。当サイトのデータでは、GeForce RTX 5060 Ti 16GBが111モデル（その中で快適に動くのは111本）で、容量あたりの選択肢が広い位置です。GeForce RTX 5090なら162モデルまで広がります。
RTX 50で動く最大のモデルは？
GeForce RTX 5090でKimi Linear 48B-A3B（49.12B）まで4bitで動きます。
同じ型番でVRAM容量が違うことはありますか？
あります。RTX 4060 Tiは8GB版と16GB版、RTX 3080は10GB版と12GB版があり、AI用途では別物として扱う必要があります。購入時は型番の末尾の容量まで確認してください。