Ornith 1.0 9B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

deepreinforce-ai ・公開 2026-07 ・ 8.95Bパラメータ・データ更新 2026-10-02

9Bのdense型でMITライセンス。VRAM 8GB / Mac 16GBで動く小型

6.2GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

262,144最大コンテキスト（学習時）

編集部の見立て

ターミナルで動くコーディングエージェント向けに鍛えたOrnith 1.0シリーズの最小モデルで、上には31B・35B・397Bが控えます。Qwen3.5系の構造を持つdense型の8.95Bで、ライセンスはMIT。Q4_K_Mは5.3GB、8kの文脈込みで6.2GBです。

推定速度はRTX 3070 Ti（8GB）が75.5tok/s、M2 Pro（16GB）が28.2tok/s。8GB級のGPUや16GBのMacしかなくても、コードを書かせるエージェントを手元で試せる大きさです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（unsloth/Ornith-1.0-9B-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（32層・文脈全体を見る層は8層だけ）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	3.6GB	0.3GB	4.5GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	4.4GB	0.3GB	5.3GB	VRAM 6GB〜	8GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	4.9GB	0.3GB	5.8GB	VRAM 8GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	5.3GB	0.3GB	6.2GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	6.1GB	0.3GB	7.0GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	7.0GB	0.3GB	7.9GB	VRAM 10GB〜	16GB〜
8bit（Q8_0）無劣化に近い	8.9GB	0.3GB	9.9GB	VRAM 11GB〜	16GB〜
16bit（BF16）元精度	17GB	0.3GB	18GB	VRAM 20GB〜	32GB〜

モデルの構造と、必要メモリの増え方

Ornith 1.0 9Bはdeepreinforce-aiが2026年7月に公開した8.95Bのモデルです。GGUFのヘッダには32層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。32層のうち注意機構でKVキャッシュを持つのは8層だけで、残り24層は線形注意やSSMなどKVを持たない層です。

KVヘッド4・head次元256で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約32KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで0.3GB、128Kトークンまで伸ばすと4.0GBです。

ライセンス表記: mit（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

推論モデルなので、既定では答えの前に<think>のブロックが出ます。エージェントが1ステップ進むごとに考える分のトークンが増えるため、Ryzen AI 300（16GB）の推定12.3tok/sでは待ち時間が積み重なりがち。コードの作業を回すなら、GPUかMacで使いたいモデルです。

配布元の推奨はtemperature 0.6、top_p 0.95、top_k 20。KVを持つのは32層中8層で、1トークン32KB。VRAM 8GBの実効7.5GBなら、8kの文脈込みの6.2GBを引いた残り1.3GBで4万トークンほど文脈を足せます。リポジトリを丸ごと読ませるには足りません。

上限の262,144トークンを使い切ると、KVだけで約8GB。汎用の会話まで含めて選ぶなら、同じ8.95BのQwen3.5 9Bが比較相手です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen35で、当サイト収録の204モデル中18本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/Ornith-1.0-9B-GGUF、元になったモデルはdeepreinforce-ai/Ornith-1.0-9Bです。

同じdeepreinforce-aiのモデルでは、サイズの近いものにOrnith 1.0 35B-A3B（34.66B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（5.3GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が8層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.1GB	6.1GB	VRAM 8GB〜	16GB〜
8,192既定	0.3GB	6.2GB	VRAM 8GB〜	16GB〜
16,384	0.5GB	6.5GB	VRAM 8GB〜	16GB〜
32,768	1.0GB	7.0GB	VRAM 8GB〜	16GB〜
65,536	2.0GB	8.0GB	VRAM 10GB〜	16GB〜
131,072	4.0GB	10.0GB	VRAM 11GB〜	16GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約1.0GBから約0.5GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
MiMo-V2.6-Distill-Qwen-9B	Xiaomi	6.4GB	XiaomiがQwen3.5 9Bを自社MiMoの出力で追加学習したエージェント向け9B。MIT。4bitならVRAM 8GB / Mac 16GBから
Ornith 1.5 9B	ornith-ai	6.4GB	Ornith 1.5の9B（dense型）。MIT。4bitならVRAM 8GBに収まり、GPUなしのメモリ16GBでも動く
UI-Mate 9B	Tencent	6.4GB	画面・UIの理解を名前に掲げた9B。ブラウザ操作エージェント向け。VRAM 8GBで動く
UI-Venus-2 9B	inclusionAI	6.4GB	スマホ・ブラウザ・デスクトップの画面を操作するGUIエージェント9B。Apache 2.0。GPUなしのメモリ16GBのPCでも動く
Fara1.5 9B	Microsoft	6.4GB	Fara1.5のブラウザ操作エージェント9B。MIT。GPUなしのメモリ16GBのPCでも動く
Qwen3.5 9B	Alibaba	6.2GB	2026年の8Bクラスの本命。4bitならVRAM 8GBに収まり、画像も読める