トップ › モデル別 › Nemotron 3 Nano Omni 30B-A3B

Nemotron 3 Nano Omni 30B-A3B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

NVIDIA ・公開 2026-04 ・ 31.58Bパラメータ（MoE・アクティブ3B）・データ更新 2026-10-02

Mamba2とTransformerのハイブリッドMoE（アクティブ約3B）。画像・音声の入力にも対応。VRAM 20GB / Mac 32GBから

23GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090

36GB実用になるいちばん小さいMac: M5 Max（36GB）

1,048,576最大コンテキスト（学習時）

編集部の見立て

動画・音声・画像・文章をまとめて受け取れる、NVIDIAの総31.58BのMoEです。中身はMamba2とTransformerの混成で、1トークンで動くのは約3B。会議録画の要約や書き起こし、契約書などの文書読解を配布元は用途に挙げています。Q4_K_Mは8kの文脈込みで23.5GBちょうどで、RTX 4090の実効23.5GBに隙間なく収まり、推定186.1tok/s。

M5 Max（36GB）なら114.3tok/sです。対応言語は英語だけと明記されており、日本語で使う人には大きな制約になります。

量子化別の必要メモリ

ファイルサイズは Hugging Face（unsloth/NVIDIA-Nemotron-3-Nano-Omni-30B-A3B-Reasoning-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（52層・文脈全体を見る層は6層だけ）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
4bit（IQ4_XS） Q4_K_Mより一回り小さい	18GB	0.0GB	19GB	VRAM 20GB〜	32GB〜
3bit（Q3_K_M）メモリ優先	18GB	0.0GB	19GB	VRAM 20GB〜	32GB〜
4bit（MXFP4 MoE） MoE専用のMXFP4	20GB	0.0GB	21GB	VRAM 24GB〜	32GB〜
4bit（Q4_K_M）標準。迷ったらこれ	22GB	0.0GB	23GB	VRAM 24GB〜	36GB〜
5bit（Q5_K_M）品質重視	27GB	0.0GB	28GB	VRAM 32GB〜	48GB〜
6bit（Q6_K）ほぼ無劣化	31GB	0.0GB	33GB	VRAM 48GB〜	48GB〜
8bit（Q8_0）無劣化に近い	31GB	0.0GB	33GB	VRAM 48GB〜	48GB〜

モデルの構造と、必要メモリの増え方

Nemotron 3 Nano Omni 30B-A3BはNVIDIAが2026年4月に公開した31.58Bのモデルです。GGUFのヘッダには52層と書かれており、総パラメータ31.58Bのうち、1トークンの生成で実際に読むのは約3Bです（MoE）。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

52層のうち注意機構でKVキャッシュを持つのは6層だけで、残り46層は線形注意やSSMなどKVを持たない層です。KVヘッド2・head次元128で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約6.0KB（fp16）で、コンテキスト長にそのまま比例します。

実際の値は、8,192トークンで0.0GB、128Kトークンまで伸ばすと0.8GBです。

このモデルを実際に使うなら

同じシリーズのNemotron 3.5 Lightning 30B-A3Bは文章専用で、当サイトが把握するGGUFはQ8_0からのため32.8GBが要ります。4bitで24GBのGPUに収まるのは、こちらのOmniです。4090では余白がゼロなので、IQ4_XS（18.2GB）に下げると約4GBが空きます。

KVは52層中6層だけで1トークン6KB。上限の256kトークンでも1.5GBなので、文脈の長さで困ることはまずありません。考える過程は既定で有効、切り替えはenable_thinking。思考時はtemperature 0.6とreasoning_budget 16384、即答ならtemperature 0.2とtop_k 1が配布元の設定です。

動画はmp4で2分まで、音声は1時間まで。ライセンスはNVIDIA Open Model Agreement。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはnemotron_h_moeで、当サイト収録の204モデル中2本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/NVIDIA-Nemotron-3-Nano-Omni-30B-A3B-Reasoning-GGUF、元になったモデルはnvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16です。

得意分野は推論（段階を踏んで考える処理）、画像を含む文書の読み取りです。

同じNVIDIAのモデルでは、サイズの近いものにNemotron 3.5 Lightning 30B-A3B（31.58B）、Nemotron Nano 12B v2（12.31B）、Nemotron-Nano 9B v2 Japanese（8.89B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（22GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が6層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.0GB	23GB	VRAM 24GB〜	36GB〜
8,192既定	0.0GB	23GB	VRAM 24GB〜	36GB〜
16,384	0.1GB	24GB	VRAM 32GB〜	36GB〜
32,768	0.2GB	24GB	VRAM 32GB〜	36GB〜
65,536	0.4GB	24GB	VRAM 32GB〜	36GB〜
131,072	0.8GB	24GB	VRAM 32GB〜	48GB〜

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Nemotron 3.5 Lightning 30B-A3B	NVIDIA	33GB	NVIDIA製のハイブリッドMoE（アクティブ3B）。長文でもKVキャッシュが膨らみにくい構造
EXAONE 4.0.1 32B	LG AI Research	20GB	LGの32B（dense型）。推論モードを切り替えられる。VRAM 20GB / Mac 32GBから
LLM-jp-4 32B-A3B thinking	LLM-jp（国立情報学研究所）	22GB	国産フルスクラッチのMoE（アクティブ3B）。VRAM 20GB級のGPUやMac 32GBで速く動く
Granite 4.0 H-Small 32B-A9B	IBM	19GB	Mamba系の層を混ぜたIBMのMoE（総32B・アクティブ9B）。Apache 2.0。VRAM 20GB / Mac 32GBから
Olmo 3.1 32B	Ai2	20GB	学習過程まで公開したAi2の32B（dense型）。Apache 2.0。VRAM 20GB / Mac 32GBから
Aya Expanse 32B	Cohere	21GB	日本語を含む23言語向けの32B。CC BY-NC。VRAM 20GB / Mac 32GBから