トップ › モデル別 › MiMo-V2.6-Distill-Qwen-9B

MiMo-V2.6-Distill-Qwen-9B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Xiaomi ・公開 2026-09 ・ 8.95Bパラメータ・データ更新 2026-10-02

XiaomiがQwen3.5 9Bを自社MiMoの出力で追加学習したエージェント向け9B。MIT。4bitならVRAM 8GB / Mac 16GBから

6.3GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

262,144最大コンテキスト（学習時）

編集部の見立て

XiaomiがQwen3.5 9Bに、自社の大型モデルMiMo-V2.6で作ったデータで追加学習をかけた9Bです。配布元はコーディング、エージェント作業、画面を見ながらのコーディング、セキュリティ分野を対象に挙げ、強化学習の土台として公開したと説明しています。

5.4GBのQ4_K_Mに8kの文脈を足して6.3GB。VRAM 8GBのRTX 3070 Tiで推定73.8tok/s、M2 Pro 16GBで27.6tok/sが出ます。GPUのないRyzen AI 300のメモリ16GB機でも12tok/s。手元のノートでエージェント向けの9Bを試したい人向けで、大きなGPUは要りません。MIT。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/MiMo-V2.6-Distill-Qwen-9B-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（32層・文脈全体を見る層は8層だけ）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	3.3GB	0.3GB	4.1GB	VRAM 6GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	3.4GB	0.3GB	4.2GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	4.2GB	0.3GB	5.0GB	VRAM 6GB〜	8GB〜
3bit（IQ3_M）メモリ優先	4.5GB	0.3GB	5.4GB	VRAM 6GB〜	8GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	4.9GB	0.3GB	5.8GB	VRAM 8GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	5.4GB	0.3GB	6.4GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	6.4GB	0.3GB	7.3GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	7.3GB	0.3GB	8.2GB	VRAM 10GB〜	16GB〜
8bit（Q8_0）無劣化に近い	8.9GB	0.3GB	9.9GB	VRAM 11GB〜	16GB〜
16bit（BF16）元精度	17GB	0.3GB	18GB	VRAM 20GB〜	32GB〜

モデルの構造と、必要メモリの増え方

MiMo-V2.6-Distill-Qwen-9BはXiaomiが2026年9月に公開した8.95Bのモデルです。GGUFのヘッダには32層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。32層のうち注意機構でKVキャッシュを持つのは8層だけで、残り24層は線形注意やSSMなどKVを持たない層です。

KVヘッド4・head次元256で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約32KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで0.3GB、128Kトークンまで伸ばすと4.0GBです。

ライセンス表記: mit（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

使い始めに気をつけるのは思考モードです。配布元の手順では、思考を使うときは呼び出す側でenable_thinkingを明示的に有効にする形になっています。画像を読ませるには本体とは別のmmprojファイルが要るので、同じリポジトリから一緒に落としておきましょう。

土台がQwen3.5なので、32層のうちKVを持つのは8層だけ。文脈を伸ばしても増えるメモリはトークンあたり32KBで、学習時の上限26万トークンでも8GBです。本体の5.4GBを超えるのは17万トークンを超えてから。同じ8.95BのOrnith 1.5 9BやUI-Mate 9Bと並びますが、こちらはコードとエージェント作業に寄せた調整で、画面操作に特化したUI-Mate 9Bとは目的が違います。やらせたい仕事で選び分けるのが確実です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen35で、当サイト収録の204モデル中18本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/MiMo-V2.6-Distill-Qwen-9B-GGUF、元になったモデルはXiaomiMiMo/MiMo-V2.6-Distill-Qwen-9Bです。

得意分野はコードを書く作業、推論（段階を踏んで考える処理）、画像を含む文書の読み取りです。

同じXiaomiのモデルでは、サイズの近いものにMiMo-V2.6-Flash-RL（308.78B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（5.4GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が8層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.1GB	6.2GB	VRAM 8GB〜	16GB〜
8,192既定	0.3GB	6.4GB	VRAM 8GB〜	16GB〜
16,384	0.5GB	6.6GB	VRAM 8GB〜	16GB〜
32,768	1.0GB	7.1GB	VRAM 8GB〜	16GB〜
65,536	2.0GB	8.1GB	VRAM 10GB〜	16GB〜
131,072	4.0GB	10GB	VRAM 11GB〜	16GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約1.0GBから約0.5GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Ornith 1.5 9B	ornith-ai	6.4GB	Ornith 1.5の9B（dense型）。MIT。4bitならVRAM 8GBに収まり、GPUなしのメモリ16GBでも動く
UI-Mate 9B	Tencent	6.4GB	画面・UIの理解を名前に掲げた9B。ブラウザ操作エージェント向け。VRAM 8GBで動く
UI-Venus-2 9B	inclusionAI	6.4GB	スマホ・ブラウザ・デスクトップの画面を操作するGUIエージェント9B。Apache 2.0。GPUなしのメモリ16GBのPCでも動く
Fara1.5 9B	Microsoft	6.4GB	Fara1.5のブラウザ操作エージェント9B。MIT。GPUなしのメモリ16GBのPCでも動く
Ornith 1.0 9B	deepreinforce-ai	6.2GB	9Bのdense型でMITライセンス。VRAM 8GB / Mac 16GBで動く小型
Qwen3.5 9B	Alibaba	6.2GB	2026年の8Bクラスの本命。4bitならVRAM 8GBに収まり、画像も読める