Ornith 1.5 9B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

ornith-ai ・公開 2026-08 ・ 8.95Bパラメータ・データ更新 2026-10-02

Ornith 1.5の9B（dense型）。MIT。4bitならVRAM 8GBに収まり、GPUなしのメモリ16GBでも動く

6.4GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

262,144最大コンテキスト（学習時）

編集部の見立て

Ornith 1.0 9Bの後継です。配布元の説明では、自己改善の対象を解き方の試行だけでなく、学習課題の生成と作業用の枠組みづくりにまで広げました。1.5系で最も軽い8.95Bのdense型で、Q4_K_Mは5.5GB。8kの文脈込みの6.4GBは1.0より0.2GB重い程度です。

RTX 3070 Ti（8GB）で推定72.9tok/s、M2 Pro（16GB）で27.3tok/s。MITライセンスのまま、コードを書くエージェントを8GB級GPUや16GBのMacで回したい人向けの更新版。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/Ornith-1.5-9B-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（32層・文脈全体を見る層は8層だけ）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	3.5GB	0.3GB	4.4GB	VRAM 6GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	3.8GB	0.3GB	4.6GB	VRAM 6GB〜	8GB〜
3bit（IQ3_M）メモリ優先	4.4GB	0.3GB	5.3GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	4.6GB	0.3GB	5.5GB	VRAM 6GB〜	16GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	4.9GB	0.3GB	5.8GB	VRAM 8GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	5.5GB	0.3GB	6.4GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	6.4GB	0.3GB	7.3GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	7.2GB	0.3GB	8.1GB	VRAM 10GB〜	16GB〜
8bit（Q8_0）無劣化に近い	8.9GB	0.3GB	9.9GB	VRAM 11GB〜	16GB〜
16bit（BF16）元精度	17GB	0.3GB	18GB	VRAM 20GB〜	32GB〜

モデルの構造と、必要メモリの増え方

Ornith 1.5 9Bはornith-aiが2026年8月に公開した8.95Bのモデルです。GGUFのヘッダには32層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。32層のうち注意機構でKVキャッシュを持つのは8層だけで、残り24層は線形注意やSSMなどKVを持たない層です。

KVヘッド4・head次元256で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約32KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで0.3GB、128Kトークンまで伸ばすと4.0GBです。

ライセンス表記: mit（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

1.0 9Bとは構造もサイズも同じで、違いは学習の中身にあります。サーバーで動かすならTransformers 5.8.1以上、vLLM 0.19.1以上、SGLang 0.5.9以上が必要。配布元はQwen向けのチャットテンプレートを手直しして使っています。

推奨値は用途で分かれ、普段の作業はtemperature 1.0とpresence_penalty 1.5、正確さが要るコードでは0.6です。KVは1トークン32KBなので、128kトークンで4GB。Q4_K_Mと合わせても約10GBで、実効11.5GBのRTX 3060 12GBに収まる計算になります。

上限の262,144トークンを超えるときはYaRNで約100万まで伸ばせるものの、普通の長さの入力で質が少し落ちうると配布元は注意しています。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen35で、当サイト収録の204モデル中18本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/Ornith-1.5-9B-GGUF、元になったモデルはornith-ai/Ornith-1.5-9Bです。

同じornith-aiのモデルでは、サイズの近いものにOrnith 1.5 35B-A3B（35.51B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（5.5GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が8層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.1GB	6.3GB	VRAM 8GB〜	16GB〜
8,192既定	0.3GB	6.4GB	VRAM 8GB〜	16GB〜
16,384	0.5GB	6.7GB	VRAM 8GB〜	16GB〜
32,768	1.0GB	7.2GB	VRAM 8GB〜	16GB〜
65,536	2.0GB	8.2GB	VRAM 10GB〜	16GB〜
131,072	4.0GB	10GB	VRAM 11GB〜	16GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約1.0GBから約0.5GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
MiMo-V2.6-Distill-Qwen-9B	Xiaomi	6.4GB	XiaomiがQwen3.5 9Bを自社MiMoの出力で追加学習したエージェント向け9B。MIT。4bitならVRAM 8GB / Mac 16GBから
UI-Mate 9B	Tencent	6.4GB	画面・UIの理解を名前に掲げた9B。ブラウザ操作エージェント向け。VRAM 8GBで動く
UI-Venus-2 9B	inclusionAI	6.4GB	スマホ・ブラウザ・デスクトップの画面を操作するGUIエージェント9B。Apache 2.0。GPUなしのメモリ16GBのPCでも動く
Fara1.5 9B	Microsoft	6.4GB	Fara1.5のブラウザ操作エージェント9B。MIT。GPUなしのメモリ16GBのPCでも動く
Ornith 1.0 9B	deepreinforce-ai	6.2GB	9Bのdense型でMITライセンス。VRAM 8GB / Mac 16GBで動く小型
Qwen3.5 9B	Alibaba	6.2GB	2026年の8Bクラスの本命。4bitならVRAM 8GBに収まり、画像も読める