トップ › モデル別 › Nemotron-Nano 9B v2 Japanese

Nemotron-Nano 9B v2 Japanese を動かすPCスペック（必要VRAM・メモリ・速度の目安）

NVIDIA ・公開 2026-02 ・ 8.89Bパラメータ・データ更新 2026-10-02

NVIDIA製の日本語版9B。大半がSSM層でKVキャッシュが小さく、長文でもメモリが増えにくい

6.9GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

1,048,576最大コンテキスト（学習時）

編集部の見立て

NVIDIA Japanが日本語向けに追加学習した9Bで、日本語のツール呼び出しデータで鍛えた点が配布元の説明の中心です。社内のRAGやエージェントを日本語で試作したい人に合います。4bitのQ4_K_Mが6.1GBなので、8kの会話を含めても6.9GBで収まります。

8GBのGeForce RTX 3070 Tiなら推定66.9tok/s。16GBのApple M2 Proは推定25tok/s、ノートのRTX 3070 Laptopは推定52.3tok/sです。事前学習データは2024年9月までなので、最近の出来事は知りません。

量子化別の必要メモリ

ファイルサイズは Hugging Face（mmnga-o/NVIDIA-Nemotron-Nano-9B-v2-Japanese-gguf）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（56層・文脈全体を見る層は4層だけ）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
3bit（IQ3_M）メモリ優先	4.9GB	0.1GB	5.6GB	VRAM 8GB〜	16GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	4.9GB	0.1GB	5.7GB	VRAM 8GB〜	16GB〜
3bit（Q3_K_M）メモリ優先	5.0GB	0.1GB	5.8GB	VRAM 8GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	6.1GB	0.1GB	6.9GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	6.6GB	0.1GB	7.4GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	8.5GB	0.1GB	9.4GB	VRAM 10GB〜	16GB〜
8bit（Q8_0）無劣化に近い	8.8GB	0.1GB	9.7GB	VRAM 11GB〜	16GB〜

モデルの構造と、必要メモリの増え方

Nemotron-Nano 9B v2 JapaneseはNVIDIAが2026年2月に公開した8.89Bのモデルです。GGUFのヘッダには56層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。

56層のうち注意機構でKVキャッシュを持つのは4層だけで、残り52層は線形注意やSSMなどKVを持たない層です。KVヘッド8・head次元128で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約16KB（fp16）で、コンテキスト長にそのまま比例します。

実際の値は、8,192トークンで0.1GB、128Kトークンまで伸ばすと2.0GBです。

このモデルを実際に使うなら

56層のうち注意の層は4つだけで、残りはMamba-2です。KVは1トークン16KBと小さく、128kトークンで約2GB、学習時上限の100万トークンでも約16GB。長い議事録を読ませても8GBのGPUから溢れにくい構造です。ただしnemotron_hは新しい系統なので、llama.cppやLM Studioは最近の版にしておくのが確実。

思考の出力はシステムプロンプトで止められ、何トークンまで考えるかも指定できます。止めると難しい質問で精度がわずかに落ちると配布元は書いています。量子化はQ4_K_Mが基本。IQ4_XSとIQ3_Mはどちらも4.9GBなので、低いほうを選ぶ理由はありません。ライセンスはNVIDIA Nemotron Open Model Licenseで、商用利用可です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはnemotron_hで、当サイト収録の204モデル中3本が同じ系統です。Nemotron-H系。大半の層がSSM（Mamba2）で、注意機構の層は数層だけです。KVキャッシュが小さく長文に向く一方、対応ツールは新しめの版が必要です。

配布元はmmnga-o/NVIDIA-Nemotron-Nano-9B-v2-Japanese-gguf、元になったモデルはnvidia/NVIDIA-Nemotron-Nano-9B-v2-Japaneseです。

得意分野は推論（段階を踏んで考える処理）、日本語の文章です。

同じNVIDIAのモデルでは、サイズの近いものにNemotron Nano 12B v2（12.31B）、Nemotron 3 Nano 4B（3.97B）、Nemotron 3.5 Lightning 30B-A3B（31.58B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（6.1GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が4層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.1GB	6.8GB	VRAM 8GB〜	16GB〜
8,192既定	0.1GB	6.9GB	VRAM 8GB〜	16GB〜
16,384	0.3GB	7.0GB	VRAM 8GB〜	16GB〜
32,768	0.5GB	7.3GB	VRAM 8GB〜	16GB〜
65,536	1.0GB	7.8GB	VRAM 10GB〜	16GB〜
131,072	2.0GB	8.8GB	VRAM 10GB〜	16GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.5GBから約0.3GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
MiMo-V2.6-Distill-Qwen-9B	Xiaomi	6.4GB	XiaomiがQwen3.5 9Bを自社MiMoの出力で追加学習したエージェント向け9B。MIT。4bitならVRAM 8GB / Mac 16GBから
Ornith 1.5 9B	ornith-ai	6.4GB	Ornith 1.5の9B（dense型）。MIT。4bitならVRAM 8GBに収まり、GPUなしのメモリ16GBでも動く
UI-Mate 9B	Tencent	6.4GB	画面・UIの理解を名前に掲げた9B。ブラウザ操作エージェント向け。VRAM 8GBで動く
UI-Venus-2 9B	inclusionAI	6.4GB	スマホ・ブラウザ・デスクトップの画面を操作するGUIエージェント9B。Apache 2.0。GPUなしのメモリ16GBのPCでも動く
Fara1.5 9B	Microsoft	6.4GB	Fara1.5のブラウザ操作エージェント9B。MIT。GPUなしのメモリ16GBのPCでも動く
Ornith 1.0 9B	deepreinforce-ai	6.2GB	9Bのdense型でMITライセンス。VRAM 8GB / Mac 16GBで動く小型