RTX 20シリーズでローカルAIはどこまで動くか(2026年10月)
中古で安く手に入る世代。2080 Tiの11GBが上限で、8Bクラスまでが現実的な範囲です。当サイトの204モデルのデータベースで、シリーズ内の各機種で何本動くかを並べました。
| 機種 | VRAM | 帯域幅 | 動くモデル | 快適に動く | 動く最大 |
|---|---|---|---|---|---|
| GeForce RTX 2060 6GB | 6GB | 336 GB/s | 58 / 204 | 58 | LFM2.5 8B-A1B |
| GeForce RTX 2060 SUPER | 8GB | 448 GB/s | 87 / 204 | 87 | Nemotron Nano 12B v2 |
| GeForce RTX 2070 | 8GB | 448 GB/s | 87 / 204 | 87 | Nemotron Nano 12B v2 |
| GeForce RTX 2070 SUPER | 8GB | 448 GB/s | 87 / 204 | 87 | Nemotron Nano 12B v2 |
| GeForce RTX 2080 | 8GB | 448 GB/s | 87 / 204 | 87 | Nemotron Nano 12B v2 |
| GeForce RTX 2080 SUPER | 8GB | 496 GB/s | 87 / 204 | 87 | Nemotron Nano 12B v2 |
| GeForce RTX 2080 Ti | 11GB | 616 GB/s | 100 / 204 | 100 | ABEJA Qwen3 14B Agentic |
| GeForce RTX 2060 12GB | 12GB | 336 GB/s | 100 / 204 | 100 | ABEJA Qwen3 14B Agentic |
RTX 20をAI用途で見ると
中古で安く手に入る世代です。Tensorコアを積んだ最初の世代なので推論自体は動きますが、VRAMが6〜11GBに収まっているため、載せられるモデルは8Bクラスまでが現実的な範囲になります。
この世代を選ぶ理由は価格です。まずローカルLLMがどんなものか触ってみたい、という段階なら十分に役目を果たします。長く使うつもりなら、同じ予算で新しい世代の12GBを探すほうが後悔が少ないはずです。
容量を一段上げると何本増えるか
このシリーズの中で、VRAMの容量ごとに4bit以上で動くモデル数がどう変わるかです。同じ容量の機種が複数ある場合は、最も多く動く機種の値を採っています。
| 容量 | 4bit以上で動く | 一段下との差 | その容量で動く最大のモデル |
|---|---|---|---|
| 6GB | 58 / 204 | — | LFM2.5 8B-A1B(8.47B) |
| 8GB | 87 / 204 | +29本 | Nemotron Nano 12B v2(12.31B) |
| 11GB | 100 / 204 | +13本 | ABEJA Qwen3 14B Agentic(14.77B) |
| 12GB | 100 / 204 | 変わらず | ABEJA Qwen3 14B Agentic(14.77B) |
差がいちばん大きいのは6GBから8GBへの一段で、ここで29本増えます。予算を積む余地があるなら、この段を越えられるかどうかが分かれ目です。
このシリーズで勧めやすい構成
この世代を選ぶ理由は価格です。2060 SUPER(8GB)や2070(8GB)で、8Bクラスの言語モデルとStable Diffusion 1.5が動きます。ローカルAIがどういうものかを確かめる段階なら、それで役目を果たします。上限は2080 Tiの11GBです。
避けたい選び方
長く使うつもりでこの世代に投資するのは勧めにくい選択です。同じ予算で新しい世代の12GBを探すほうが、動かせるモデルの幅で先に差がつきます。とくに2060の6GB版は、今のモデルサイズに対して窮屈です。
買うときの見どころ
発売から年数が経っており、個体差が大きい世代です。ファンの異音、長時間負荷での安定性、保証の有無を確認しましょう。Tensorコアは載っているので推論そのものは動きますが、新しい量子化向けの最適化は新世代ほど手厚くありません。
このシリーズで何ができるか
手元で動かすAIの用途ごとに、このシリーズの何機種が要件を満たすかです。クラウドで動くAI(ChatGPT・Claude・Gemini)はどの機種でも使えるので含めていません。
| 用途 | 必要な容量 | このシリーズでは |
|---|---|---|
| Stable Diffusion / SDXL | VRAM 12GB | 1機種(最小はGeForce RTX 2060 12GB) |
| FLUX / 高品質画像生成 | VRAM 16GB | このシリーズでは容量が足りない |
| 動画生成AI(Wan / Hunyuan / LTX) | VRAM 24GB | このシリーズでは容量が足りない |
| ローカルLLM(8Bクラス) | VRAM 8GB | 7機種(最小はGeForce RTX 2060 SUPER) |
| ローカルLLM(27〜32Bクラス) | VRAM 24GB | このシリーズでは容量が足りない |
| ローカルLLM(70B〜120B MoE) | VRAM 40GB | このシリーズでは容量が足りない |
| 文字起こし(Whisper) | VRAM 6GB | 8機種(最小はGeForce RTX 2060 6GB) |
速度の数字をどれだけ信用してよいか
このシリーズの8機種のうち、llama.cppの公開ベンチマークで速度を補正できているのは3機種です。残りは同系統の係数を流用した推定で、表では「補正済み」「推定」の印で区別しています。帯域幅は336〜616GB/sの幅があり、上下で約1.8倍。同じモデルを載せたときの生成速度も、おおむねこの比に沿って開きます。
買う前に確認すること: 発売から年数が経っており、中古の個体差が大きい世代です。ファンの異音、VRAMの安定性、保証の有無を確認してください。
量子化を落とすと、どこまで動くか
このシリーズの上位機(GeForce RTX 2060 12GB・VRAM12GB)で、標準の4bitでは溢れるものの、より小さい量子化にすれば収まるモデルです。8本あり、最大はNorth Mini Code 1.0(30.48B)。ファイルが小さくなるぶん回答の品質は少し落ちますが、CPUオフロードで待たされるよりは実用的なことが多い選択肢です。
| モデル | パラメータ | 落とすなら | 必要 | 推定速度 |
|---|---|---|---|---|
| North Mini Code 1.0 | 30.48B | 2bit(IQ2_M) | 10GB | 約120 tok/s推定 |
| Gemma 3 27B | 27.01B | 2bit(IQ2_M) | 11GB | 約24 tok/s推定 |
| AREX-2 27B | 26.9B | 2bit(Q2_K) | 11GB | 約23 tok/s推定 |
| UI-Mate 27B | 26.9B | 2bit(IQ2_M) | 11GB | 約22 tok/s推定 |
| Fara1.5 27B | 26.9B | 2bit(IQ2_M) | 11GB | 約22 tok/s推定 |
| Qwen3.6 27B | 26.9B | 2bit(IQ2_M) | 11GB | 約22 tok/s推定 |
| Qwen3.5 27B | 26.9B | 2bit(IQ2_M) | 11GB | 約23 tok/s推定 |
| Gemma 4 26B-A4B | 25.23B | 2bit(IQ2_M) | 10GB | 約82 tok/s推定 |
それでも収まらないモデルのうち、いちばん惜しいのはShisa V2.1 Llama 3.3 70Bで、VRAMがあと約32GB足りません。ここから先は、容量の大きい機種に替えるか、システムメモリへのオフロードを受け入れるかの判断になります。
同じ容量を別の系統で買うなら
VRAM12GBという容量は、他の系統でも手に入ります。動くモデルは同じで、差が出るのは速度と、CUDAが要るツールを使えるかどうかです。
| 機種 | シリーズ | 帯域幅 | この機種比 |
|---|---|---|---|
| GeForce RTX 3080 12GB | RTX 30 | 912 GB/s | 2.71倍 |
| GeForce RTX 3080 Ti | RTX 30 | 912 GB/s | 2.71倍 |
| GeForce RTX 5070 | RTX 50 | 672 GB/s | 2.00倍 |
| GeForce RTX 5070 Ti Laptop | RTX 50 Laptop | 672 GB/s | 2.00倍 |
このシリーズの選びどころ
入口: GeForce RTX 2060 6GB(6GB)で58モデル。バランス: GeForce RTX 2060 12GB(12GB)で100モデル、その中で快適に動くのは100本。上限: GeForce RTX 2060 12GB(12GB)で100モデル。同じシリーズ内では容量の差がそのまま動くモデル数の差になり、帯域幅の差は速度に効きます。
代表的なモデルが動くか
よく使われる5本について、シリーズ内の各機種で4bit以上の量子化がメモリに収まるかどうかです。◯は収まる、△は量子化を落とせば収まる、×は収まりません。速度は推定値です。
| 機種 | Qwen3 8B 8.19B | Gemma 3 12B 11.77B | Gemma 3 27B 27.01B | gpt-oss-20b 20.91B | Llama 3.3 70B 70.55B |
|---|---|---|---|---|---|
| GeForce RTX 2060 6GB | △ 54 tok/s | △ 51 tok/s | × | × | × |
| GeForce RTX 2060 SUPER | ◯ 36 tok/s | △ 36 tok/s | × | × | × |
| GeForce RTX 2070 | ◯ 50 tok/s | △ 50 tok/s | × | × | × |
| GeForce RTX 2070 SUPER | ◯ 52 tok/s | △ 52 tok/s | × | × | × |
| GeForce RTX 2080 | ◯ 50 tok/s | △ 50 tok/s | × | × | × |
| GeForce RTX 2080 SUPER | ◯ 56 tok/s | △ 56 tok/s | × | × | × |
| GeForce RTX 2080 Ti | ◯ 44 tok/s | ◯ 46 tok/s | × | × | × |
| GeForce RTX 2060 12GB | ◯ 26 tok/s | ◯ 24 tok/s | △ 24 tok/s | × | × |
容量ごとの詳細
他のシリーズと比べる
| シリーズ | 最上位の機種 | 容量 | 帯域幅 | 動くモデル |
|---|---|---|---|---|
| RTX 20(このページ) | GeForce RTX 2060 12GB | 12GB | 336 GB/s | 100 |
| RTX 50 | GeForce RTX 5090 | 32GB | 1792 GB/s | 162 |
| RTX 40 | GeForce RTX 4090 | 24GB | 1008 GB/s | 158 |
| RTX 30 | GeForce RTX 3090 | 24GB | 936 GB/s | 158 |
| RTX Ada | RTX 6000 Ada | 48GB | 960 GB/s | 174 |
| RTX 50 Laptop | GeForce RTX 5090 Laptop | 24GB | 896 GB/s | 158 |
| RTX 40 Laptop | GeForce RTX 4090 Laptop | 16GB | 576 GB/s | 111 |
よくある質問
RTX 20シリーズでAI用途に選ぶならどれ?
VRAMの容量で決まります。当サイトのデータでは、GeForce RTX 2060 12GBが100モデル(その中で快適に動くのは100本)で、容量あたりの選択肢が広い位置です。GeForce RTX 2060 12GBなら100モデルまで広がります。
RTX 20で動く最大のモデルは?
GeForce RTX 2060 12GBでABEJA Qwen3 14B Agentic(14.77B)まで4bitで動きます。
同じ型番でVRAM容量が違うことはありますか?
あります。RTX 4060 Tiは8GB版と16GB版、RTX 3080は10GB版と12GB版があり、AI用途では別物として扱う必要があります。購入時は型番の末尾の容量まで確認してください。