RTX AdaシリーズでローカルAIはどこまで動くか（2026年10月）

ワークステーション向け。RTX 6000 Adaの48GBは、単体GPUで最大級の容量です。当サイトの204モデルのデータベースで、シリーズ内の各機種で何本動くかを並べました。

機種	VRAM	帯域幅	動くモデル	快適に動く	動く最大
RTX 2000 Ada	16GB	224 GB/s	111 / 204	79	Qwen3.8 27B
RTX 6000 Ada	48GB	960 GB/s	174 / 204	151	Hunyuan-A13B 80B

RTX AdaをAI用途で見ると

ワークステーション向けの製品群です。同世代のGeForceと同じ設計を使いながら、VRAMを大きく積み、消費電力を抑えているのが特徴です。48GBという容量は、単体GPUで70Bクラスに手が届く数少ない選択肢になります。

価格が同容量のGeForce中古を大きく上回るため、個人で買うより法人の資産として導入されることが多い帯です。ブロワー型で複数枚挿しやすいという利点があります。

容量を一段上げると何本増えるか

このシリーズの中で、VRAMの容量ごとに4bit以上で動くモデル数がどう変わるかです。同じ容量の機種が複数ある場合は、最も多く動く機種の値を採っています。

容量	4bit以上で動く	一段下との差	その容量で動く最大のモデル
16GB	111 / 204	—	Qwen3.8 27B（27.32B）
48GB	174 / 204	+63本	Hunyuan-A13B 80B（80.39B）

差がいちばん大きいのは16GBから48GBへの一段で、ここで63本増えます。予算を積む余地があるなら、この段を越えられるかどうかが分かれ目です。

このシリーズで勧めやすい構成

RTX 6000 Ada（48GB）は、単体GPUで70Bクラスに手が届く数少ない選択肢です。ブロワー型で複数枚を隣接させやすく、消費電力もGeForceの同格より抑えられています。1台に複数枚を積んで容量を稼ぐ構成では、この設計が効いてきます。

避けたい選び方

個人がローカルLLMのためだけに選ぶには、同容量のGeForce中古との価格差が大きすぎます。48GBという容量が目的なら、大容量のユニファイドメモリを持つMacと総額で比べてから決めるほうが納得できます。

買うときの見どころ

入手経路が限られ、価格の変動も大きい製品です。導入前に保守とドライバのサポート期間、それに販売元の実績を確認しましょう。法人の資産として入れる場合は、更新サイクルもあわせて決めておくと後が楽になります。

このシリーズで何ができるか

手元で動かすAIの用途ごとに、このシリーズの何機種が要件を満たすかです。クラウドで動くAI（ChatGPT・Claude・Gemini）はどの機種でも使えるので含めていません。

用途	必要な容量	このシリーズでは
Stable Diffusion / SDXL	VRAM 12GB	2機種（最小はRTX 2000 Ada）
FLUX / 高品質画像生成	VRAM 16GB	2機種（最小はRTX 2000 Ada）
動画生成AI（Wan / Hunyuan / LTX）	VRAM 24GB	1機種（最小はRTX 6000 Ada）
ローカルLLM（8Bクラス）	VRAM 8GB	2機種（最小はRTX 2000 Ada）
ローカルLLM（27〜32Bクラス）	VRAM 24GB	1機種（最小はRTX 6000 Ada）
ローカルLLM（70B〜120B MoE）	VRAM 40GB	1機種（最小はRTX 6000 Ada）
文字起こし（Whisper）	VRAM 6GB	2機種（最小はRTX 2000 Ada）

速度の数字をどれだけ信用してよいか

このシリーズの2機種のうち、llama.cppの公開ベンチマークで速度を補正できているのは2機種です。残りは同系統の係数を流用した推定で、表では「補正済み」「推定」の印で区別しています。帯域幅は224〜960GB/sの幅があり、上下で約4.3倍。同じモデルを載せたときの生成速度も、おおむねこの比に沿って開きます。

買う前に確認すること: 入手経路が限られ、価格の変動も大きい製品です。導入前に保守とドライバのサポート期間を確認してください。

量子化を落とすと、どこまで動くか

このシリーズの上位機（RTX 6000 Ada・VRAM48GB）で、標準の4bitでは溢れるものの、より小さい量子化にすれば収まるモデルです。8本あり、最大はLing 3.0 flash（127.49B）。ファイルが小さくなるぶん回答の品質は少し落ちますが、CPUオフロードで待たされるよりは実用的なことが多い選択肢です。

モデル	パラメータ	落とすなら	必要	推定速度
Ling 3.0 flash	127.49B	2bit（Q2_K）	45GB	約210 tok/s補正済み
Devstral 2 123B	125.03B	2bit（IQ2_M）	45GB	約15 tok/s補正済み
Qwen3.5 122B-A10B	122.11B	2bit（IQ2_M）	38GB	約120 tok/s補正済み
Mistral Small 4 119B	118.97B	2bit（IQ2_M）	37GB	約180 tok/s補正済み
Laguna S 2.1 118B-A8B	117.56B	2bit（IQ2_M）	37GB	約150 tok/s補正済み
Command A 111B	111.06B	2bit（Q2_K）	42GB	約16 tok/s補正済み
GLM-4.5-Air 106B-A12B	110.47B	2bit（Q2_K）	45GB	約71 tok/s補正済み
Llama 4 Scout 17B-16E	107.77B	2bit（Q2_K）	40GB	約57 tok/s補正済み

それでも収まらないモデルのうち、いちばん惜しいのはMixtral 8x22Bで、VRAMがあと約37GB足りません。ここから先は、容量の大きい機種に替えるか、システムメモリへのオフロードを受け入れるかの判断になります。

このシリーズの選びどころ

入口: RTX 2000 Ada（16GB）で111モデル。バランス: RTX 2000 Ada（16GB）で111モデル、その中で快適に動くのは79本。上限: RTX 6000 Ada（48GB）で174モデル。同じシリーズ内では容量の差がそのまま動くモデル数の差になり、帯域幅の差は速度に効きます。

代表的なモデルが動くか

よく使われる5本について、シリーズ内の各機種で4bit以上の量子化がメモリに収まるかどうかです。◯は収まる、△は量子化を落とせば収まる、×は収まりません。速度は推定値です。

機種	Qwen3 8B 8.19B	Gemma 3 12B 11.77B	Gemma 3 27B 27.01B	gpt-oss-20b 20.91B	Llama 3.3 70B 70.55B
RTX 2000 Ada	◯ 21 tok/s	◯ 15 tok/s	△ 14 tok/s	◯ 53 tok/s	×
RTX 6000 Ada	◯ 72 tok/s	◯ 52 tok/s	◯ 23 tok/s	◯ 180 tok/s	◯ 15 tok/s

容量ごとの詳細

VRAM 16GBで動くモデル VRAM 48GBで動くモデル

他のシリーズと比べる

シリーズ	最上位の機種	容量	帯域幅	動くモデル
RTX Ada（このページ）	RTX 6000 Ada	48GB	960 GB/s	174
RTX 50	GeForce RTX 5090	32GB	1792 GB/s	162
RTX 40	GeForce RTX 4090	24GB	1008 GB/s	158
RTX 30	GeForce RTX 3090	24GB	936 GB/s	158
RTX 20	GeForce RTX 2060 12GB	12GB	336 GB/s	100
RTX 50 Laptop	GeForce RTX 5090 Laptop	24GB	896 GB/s	158
RTX 40 Laptop	GeForce RTX 4090 Laptop	16GB	576 GB/s	111

よくある質問

RTX AdaシリーズでAI用途に選ぶならどれ？

VRAMの容量で決まります。当サイトのデータでは、RTX 2000 Adaが111モデル（その中で快適に動くのは79本）で、容量あたりの選択肢が広い位置です。RTX 6000 Adaなら174モデルまで広がります。

RTX Adaで動く最大のモデルは？

RTX 6000 AdaでHunyuan-A13B 80B（80.39B）まで4bitで動きます。

同じ型番でVRAM容量が違うことはありますか？

あります。RTX 4060 Tiは8GB版と16GB版、RTX 3080は10GB版と12GB版があり、AI用途では別物として扱う必要があります。購入時は型番の末尾の容量まで確認してください。

手持ちのPCで判定する他のシリーズと比べる