トップ › モデル別 › KAT-Coder-V2.5-Dev 35B-A3B

KAT-Coder-V2.5-Dev 35B-A3B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Kwaipilot（快手）・公開 2026-07 ・ 34.66Bパラメータ（MoE・アクティブ3B）・データ更新 2026-10-02

Qwen3.6 35B-A3Bを土台にしたコード用MoE。Apache 2.0。VRAM 20GB / Mac 32GBから

21GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090

32GB実用になるいちばん小さいMac: M2 Max（32GB）

262,144最大コンテキスト（学習時）

編集部の見立て

快手のKwaipilotが、Qwen3.6 35B-A3Bを土台にコーディングエージェント向けの追加学習を施したMoEです。追加学習でツール呼び出しの形式崩れを減らしたと配布元は言います。公開版は文章専用で、土台にあった画像入力は外されました。8kの文脈込みで4bitなら21.2GBと、土台の21.9GBより0.7GB軽い。

この差で32GBのMac（実効21.4GB）に入り、M2 Max（32GB）で推定92.9tok/s。RTX 4090なら220.7tok/sです。コードだけ書かせたい32GB Macの人には、土台よりこちらが向きます。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/Kwaipilot_KAT-Coder-V2.5-Dev-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（40層・文脈全体を見る層は10層だけ）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	11GB	0.2GB	12GB	VRAM 16GB〜	24GB〜
2bit（Q2_K）品質劣化大。最後の手段	12GB	0.2GB	13GB	VRAM 16GB〜	24GB〜
3bit（Q3_K_M）メモリ優先	15GB	0.2GB	16GB	VRAM 20GB〜	32GB〜
3bit（IQ3_M）メモリ優先	16GB	0.2GB	17GB	VRAM 20GB〜	32GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	18GB	0.2GB	19GB	VRAM 20GB〜	32GB〜
4bit（Q4_K_M）標準。迷ったらこれ	20GB	0.2GB	21GB	VRAM 24GB〜	32GB〜
5bit（Q5_K_M）品質重視	23GB	0.2GB	25GB	VRAM 32GB〜	48GB〜
6bit（Q6_K）ほぼ無劣化	28GB	0.2GB	29GB	VRAM 32GB〜	48GB〜
8bit（Q8_0）無劣化に近い	34GB	0.2GB	36GB	VRAM 48GB〜	64GB〜
16bit（BF16）元精度	65GB	0.2GB	67GB	GPU単体では不可	96GB〜

モデルの構造と、必要メモリの増え方

KAT-Coder-V2.5-Dev 35B-A3BはKwaipilot（快手）が2026年7月に公開した34.66Bのモデルです。GGUFのヘッダには40層と書かれており、総パラメータ34.66Bのうち、1トークンの生成で実際に読むのは約3Bです（MoE）。

メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。40層のうち注意機構でKVキャッシュを持つのは10層だけで、残り30層は線形注意やSSMなどKVを持たない層です。KVヘッド2・head次元256で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。

1トークンあたりのKVキャッシュは約20KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで0.2GB、128Kトークンまで伸ばすと2.5GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

配布元の評価は、Claude Codeやterminus-2といったコーディング用のCLIから呼ぶ形で行われています。チャット欄に貼るより、OpenAI互換のサーバーを立ててエージェントのバックエンドに据える使い方が本筋です。40層中KVを持つのは10層で、1トークン20KB。

評価と同じ256kの文脈を手元で再現すると約5GBが上乗せになります。M2 Max（32GB）の実効21.4GBでは残り0.2GBしかないので、IQ4_XS（17.5GB）に落として文脈に4GB近くを回すのが現実的。24GBのGPUなら本体Q4_K_Mの19.9GBに3.6GBの余裕があります。

画像付きの相談も混ぜたいなら土台のQwen3.6 35B-A3B、同じ35B-A3BでMITがよければOrnith 1.0 35B-A3Bが比較相手です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen35moeで、当サイト収録の204モデル中13本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/Kwaipilot_KAT-Coder-V2.5-Dev-GGUF、元になったモデルはKwaipilot/KAT-Coder-V2.5-Devです。

得意分野はコードを書く作業です。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（20GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が10層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.1GB	21GB	VRAM 24GB〜	32GB〜
8,192既定	0.2GB	21GB	VRAM 24GB〜	32GB〜
16,384	0.3GB	21GB	VRAM 24GB〜	32GB〜
32,768	0.6GB	22GB	VRAM 24GB〜	36GB〜
65,536	1.3GB	22GB	VRAM 24GB〜	36GB〜
131,072	2.5GB	24GB	VRAM 32GB〜	36GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.6GBから約0.3GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Holo4 35B-A3B	H Company	22GB	画面を見てクリックや入力を返すパソコン操作用のMoE（総35B・アクティブ3B）。Apache 2.0。VRAM 24GB / Mac 36GBから
Nex-N2.5-mini	Nex AGI	22GB	35B級のMoEで画像も扱える。Apache 2.0。VRAM 24GB / Mac 32GBから
Thomson 1.0 Small 35B-A3B	Thomson Reuters	21GB	法務・専門文書の会社が公開した35BのMoE。メモリ32GBクラスで動く
Ornith 1.0 35B-A3B	deepreinforce-ai	22GB	コーディングエージェント向けOrnith 1.0のMoE版。MIT。VRAM 20GB / Mac 32GBから
XYZ-Aquila mini 35B-A3B	XYZAILab	21GB	35BのMoE。Apache 2.0。VRAM 16GB＋メモリ32GBクラスから
Qwen-AgentWorld 35B-A3B	Alibaba	22GB	エージェント用途を名前に掲げた35BのMoE（アクティブ3B）。Apache 2.0