Ornith 1.5 35B-A3B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

ornith-ai ・公開 2026-08 ・ 35.51Bパラメータ（MoE・アクティブ3B）・データ更新 2026-10-02

35BのMoE（アクティブ3B）でMIT。メモリ32GBクラスで速く動く

22GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090

36GB実用になるいちばん小さいMac: M5 Max（36GB）

262,144最大コンテキスト（学習時）

編集部の見立て

学習用の課題づくりから解き方の枠組みまでを、強化学習で自ら更新していく手法で作られた35BのMoEです。配布元がとくに押し出すのはエージェント型のコーディング。1トークンで動くのは約3Bと同じ35B級でも小さく、RTX 4090の推定は221.2tok/s、M5 Max（36GB）でも135.8tok/sが出ます。

GPUのないRyzen AI Max+ 395（64GB）で推定47.7tok/s。ライセンスはMITで、コードを書かせるエージェントを24GB級GPUや大容量メモリ機で回したい人に合います。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/Ornith-1.5-35B-A3B-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（41層・文脈全体を見る層は10層だけ）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	12GB	0.2GB	13GB	VRAM 16GB〜	24GB〜
2bit（Q2_K）品質劣化大。最後の手段	12GB	0.2GB	13GB	VRAM 16GB〜	24GB〜
3bit（Q3_K_M）メモリ優先	16GB	0.2GB	17GB	VRAM 20GB〜	32GB〜
3bit（IQ3_M）メモリ優先	16GB	0.2GB	17GB	VRAM 20GB〜	32GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	18GB	0.2GB	19GB	VRAM 20GB〜	32GB〜
4bit（Q4_K_M）標準。迷ったらこれ	20GB	0.2GB	22GB	VRAM 24GB〜	36GB〜
5bit（Q5_K_M）品質重視	24GB	0.2GB	25GB	VRAM 32GB〜	48GB〜
6bit（Q6_K）ほぼ無劣化	28GB	0.2GB	30GB	VRAM 32GB〜	48GB〜
8bit（Q8_0）無劣化に近い	35GB	0.2GB	37GB	VRAM 48GB〜	64GB〜
16bit（BF16）元精度	66GB	0.2GB	69GB	GPU単体では不可	96GB〜

モデルの構造と、必要メモリの増え方

Ornith 1.5 35B-A3Bはornith-aiが2026年8月に公開した35.51Bのモデルです。GGUFのヘッダには41層と書かれており、総パラメータ35.51Bのうち、1トークンの生成で実際に読むのは約3Bです（MoE）。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

41層のうち注意機構でKVキャッシュを持つのは10層だけで、残り31層は線形注意やSSMなどKVを持たない層です。KVヘッド2・head次元256で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約20KB（fp16）で、コンテキスト長にそのまま比例します。

実際の値は、8,192トークンで0.2GB、128Kトークンまで伸ばすと2.5GBです。

ライセンス表記: mit（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

推論モデルなので、回答の頭に<think>のブロックが付きます。サーバーで動かすなら推論パーサーを有効にして、考える過程を別フィールドに分けるのが配布元の手順。必要な版はTransformers 5.8.1以上、vLLM 0.19.1以上です。普段使いの推奨はtemperature 0.6、top_p 0.95。

コンテキストの上限は262,144トークンで、KVは1トークン20KB。満杯で約5GB、Q4_K_Mの20.4GBと合わせて25GB台になり、24GBのGPUには収まりません。32GBのMacならIQ4_XS（必要19.1GB）が現実的で、M2 Max（32GB）の推定は105tok/s。

同じ35.51BのBigBang v1とは、配布元の力点がコードか研究かで選ぶ形になります。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen35moeで、当サイト収録の204モデル中13本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/Ornith-1.5-35B-A3B-GGUF、元になったモデルはornith-ai/Ornith-1.5-35B-A3Bです。

得意分野は画像を含む文書の読み取りです。

同じornith-aiのモデルでは、サイズの近いものにOrnith 1.5 9B（8.95B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（20GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が10層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.1GB	22GB	VRAM 24GB〜	36GB〜
8,192既定	0.2GB	22GB	VRAM 24GB〜	36GB〜
16,384	0.3GB	22GB	VRAM 24GB〜	36GB〜
32,768	0.6GB	22GB	VRAM 24GB〜	36GB〜
65,536	1.3GB	23GB	VRAM 24GB〜	36GB〜
131,072	2.5GB	24GB	VRAM 32GB〜	36GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.6GBから約0.3GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
BigBang v1 35B	endless-frontier	22GB	35BのMoEで画像対応。Apache 2.0。アクティブパラメータが小さくメモリ32GB級でも速い
Seed-OSS 36B	ByteDance	23GB	長文コンテキストに強い36Bのdense型。VRAM 24〜32GB向け
Holo4 35B-A3B	H Company	22GB	画面を見てクリックや入力を返すパソコン操作用のMoE（総35B・アクティブ3B）。Apache 2.0。VRAM 24GB / Mac 36GBから
Nex-N2.5-mini	Nex AGI	22GB	35B級のMoEで画像も扱える。Apache 2.0。VRAM 24GB / Mac 32GBから
Thomson 1.0 Small 35B-A3B	Thomson Reuters	21GB	法務・専門文書の会社が公開した35BのMoE。メモリ32GBクラスで動く
KAT-Coder-V2.5-Dev 35B-A3B	Kwaipilot（快手）	21GB	Qwen3.6 35B-A3Bを土台にしたコード用MoE。Apache 2.0。VRAM 20GB / Mac 32GBから