AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › Ornith 1.0 35B-A3B

Ornith 1.0 35B-A3B を動かすPCスペック(必要VRAM・メモリ・速度の目安)

コーディングエージェント向けOrnith 1.0のMoE版。MIT。VRAM 20GB / Mac 32GBから

22GB4bitで動かすのに要るメモリ(会話8,192トークン分込み)
VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090
36GB実用になるいちばん小さいMac: M5 Max(36GB)
262,144最大コンテキスト(学習時)

編集部の見立て

deepreinforce-aiがQwen3.5系のMoEを土台に、コーディングエージェント向けの強化学習を施した35Bです。解答を導く枠組みまで学習で更新する手法が配布元の売りです。MITで、アクティブ3B。8kの文脈込みで必要なメモリは21.9GBで、RTX 4090なら推定213.6tok/s、Apple M5 Max(36GB)なら131.1tok/s。

Ryzen AI Max+ 395(64GB)はGPUなしで46.1tok/sの見積もりです。画像入力付きのOrnith 1.5 35B-A3Bが後から出たので、文章だけのコード作業に絞る人がこの1.0を選ぶ形です。

量子化別の必要メモリ

ファイルサイズは Hugging Face(unsloth/Ornith-1.0-35B-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(40層・文脈全体を見る層は10層だけ)から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ(8k)必要合計GPUならMacなら
2bit(IQ2_M)
品質劣化大。最後の手段
11GB0.2GB12GBVRAM 16GB〜18GB〜
3bit(Q3_K_M)
メモリ優先
16GB0.2GB17GBVRAM 20GB〜32GB〜
4bit(IQ4_XS)
Q4_K_Mより一回り小さい
17GB0.2GB18GBVRAM 20GB〜32GB〜
4bit(MXFP4 MoE)
MoE専用のMXFP4
20GB0.2GB21GBVRAM 24GB〜36GB〜
4bit(Q4_K_M)
標準。迷ったらこれ
21GB0.2GB22GBVRAM 24GB〜36GB〜
5bit(Q5_K_M)
品質重視
25GB0.2GB26GBVRAM 32GB〜48GB〜
6bit(Q6_K)
ほぼ無劣化
27GB0.2GB29GBVRAM 32GB〜48GB〜
8bit(Q8_0)
無劣化に近い
34GB0.2GB36GBVRAM 48GB〜64GB〜
16bit(BF16)
元精度
65GB0.2GB67GBGPU単体では不可96GB〜

モデルの構造と、必要メモリの増え方

Ornith 1.0 35B-A3Bはdeepreinforce-aiが2026年7月に公開した34.66Bのモデルです。GGUFのヘッダには40層と書かれており、総パラメータ34.66Bのうち、1トークンの生成で実際に読むのは約3Bです(MoE)。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

40層のうち注意機構でKVキャッシュを持つのは10層だけで、残り30層は線形注意やSSMなどKVを持たない層です。KVヘッド2・head次元256で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約20KB(fp16)で、コンテキスト長にそのまま比例します。

実際の値は、8,192トークンで0.2GB、128Kトークンまで伸ばすと2.5GBです。

ライセンス表記: mit(層数と窓の大きさはGGUFヘッダから取得)

このモデルを実際に使うなら

既定で<think>ブロックを先に出す推論モデルで、サーバーには推論パーサーとツール呼び出しパーサーを付け、思考と関数呼び出しを別々の欄で受け取る形が配布元の手順です。OpenAI互換のエンドポイントとして、OpenCodeやOpenHands、OpenClawなどのエージェント用ツールから呼ぶ用途が本命。

32GBのMacは実効21.4GBに0.5GB届かず、IQ4_XS(16.6GB)へ落とせば約4.8GBの履歴が持てます。24GBのGPUはQ4_K_Mのまま残り2.9GBで、KVが1トークン20KBなので約15万トークン分です。1.5 35B-A3Bとの差は画像入力の有無と、あちらが0.3GB軽い点。

同じ35B-A3BのKAT-Coder-V2.5-Devとは、Apache 2.0かMITかで選び分けます。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen35moeで、当サイト収録の204モデル中13本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/Ornith-1.0-35B-GGUF、元になったモデルはdeepreinforce-ai/Ornith-1.0-35Bです。

得意分野はコードを書く作業です。

同じdeepreinforce-aiのモデルでは、サイズの近いものにOrnith 1.0 9B(8.95B)があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(Q4_K_M)(21GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が10層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0960.1GB22GBVRAM 24GB〜36GB〜
8,192既定0.2GB22GBVRAM 24GB〜36GB〜
16,3840.3GB22GBVRAM 24GB〜36GB〜
32,7680.6GB22GBVRAM 24GB〜36GB〜
65,5361.3GB23GBVRAM 24GB〜36GB〜
131,0722.5GB24GBVRAM 32GB〜48GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.6GBから約0.3GBに減ります(品質はわずかに落ちます)。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
Holo4 35B-A3BH Company22GB画面を見てクリックや入力を返すパソコン操作用のMoE(総35B・アクティブ3B)。Apache 2.0。VRAM 24GB / Mac 36GBから
Nex-N2.5-miniNex AGI22GB35B級のMoEで画像も扱える。Apache 2.0。VRAM 24GB / Mac 32GBから
Thomson 1.0 Small 35B-A3BThomson Reuters21GB法務・専門文書の会社が公開した35BのMoE。メモリ32GBクラスで動く
KAT-Coder-V2.5-Dev 35B-A3BKwaipilot(快手)21GBQwen3.6 35B-A3Bを土台にしたコード用MoE。Apache 2.0。VRAM 20GB / Mac 32GBから
XYZ-Aquila mini 35B-A3BXYZAILab21GB35BのMoE。Apache 2.0。VRAM 16GB+メモリ32GBクラスから
Qwen-AgentWorld 35B-A3BAlibaba22GBエージェント用途を名前に掲げた35BのMoE(アクティブ3B)。Apache 2.0

4bit(Q4_K_M)が動く機種と推定速度

4bit(Q4_K_M)なら42機種で20 tok/s以上、2機種で8〜20 tok/s(テキスト生成の推定・計算方法)。

快適 20 tok/s以上(42機種)

メモリに一部を逃がせば動く(62機種・CPUオフロード、PCのメモリ32GB想定)

動かない機種(35)を見る

今のPCのまま、Ornith 1.0 35B-A3Bを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

Ornith 1.0 35B-A3Bは4bit(IQ4_XS)で17GB、8bitのQ8_0なら34GB。精度違いを3種類そろえるだけで約52GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

メモリ増設(32GB化)

Ornith 1.0 35B-A3BはMoEで、1トークンごとに動くのは3B分だけです。だからGPUに全部載せなくても、システムメモリ側に置いて実用速度が出ます。必要なのは22GBぶんの空きで、この型はVRAMを足すより先にメモリを増やすほうが効きます。

ローカルLLM / AIエージェント入門書

Ornith 1.0 35B-A3BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

Ornith 1.0 35B-A3Bを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったりMac

Mac mini M4 Pro(メモリ48GB・SSD 1TB)

30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心

M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円

要件を満たす中で最も手頃

余裕を持つならMac

Mac mini M4 Pro(メモリ64GB・SSD 1TB)

70BクラスのローカルLLMまで。同じ価格帯のGeForce機より大きいモデルまで動く

M4 Pro・ユニファイドメモリ64GB・SSD 1TB ・ 目安 36〜42万円

将来の用途拡張(大きなモデル・並列エージェント)に余裕

別の形なら常時稼働サーバー型

Ryzen AI Max+ 395 ミニPC(メモリ128GB)

Windows/Linuxで128GBの共有メモリ。GPU側に96GBを割り当てれば、gpt-oss-120bや70Bクラスを常時サーバとして動かせる

Ryzen AI Max+ 395・LPDDR5X 128GB(256GB/s)・NVMe 2TB ・ 目安 32〜48万円

Windowsで同じ仕事をするなら

よくある質問

Ornith 1.0 35B-A3Bを動かすのに必要なVRAMは?

4bit量子化(4bit(Q4_K_M))でファイル21GB、8,192トークンのKVキャッシュを含めて約22GBが必要です。GPU単体ならGeForce RTX 4090(VRAM 24GB)から実用速度で動きます。

Ornith 1.0 35B-A3BはMacで動く?

動きます。ユニファイドメモリ36GB以上のApple Silicon(例: Apple M5 Max(36GB))なら、4bit量子化で実用的な速さが出ます。

このクラスの選び方: ローカルLLM(27〜32Bクラス)に必要なPC / MacかWindowsか

手持ちのPCで判定する