North Mini Code 1.0 を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Cohere Labs ・公開 2026-06 ・ 30.48Bパラメータ（MoE・アクティブ3B）・データ更新 2026-10-02

コード用途を名前に掲げた30BのMoE。Apache 2.0。メモリ32GB級から

19GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 20GB実用になるいちばん安いGPU: Radeon RX 7900 XT

32GB実用になるいちばん小さいMac: M2 Max（32GB）

256,000最大コンテキスト（学習時）

編集部の見立て

Cohereが研究用に公開した、コード生成とエージェント型のソフトウェア開発、ターミナル作業に絞った30BのMoEです。総30.48Bのうち動くのは3B、入力は文章のみで、Apache 2.0のもとで公開されました。Q4_K_M（17.9GB）に8kの文脈を足すと19.4GBで、20GBのRadeon RX 7900 XTに収まり推定133.9tok/s。

24GBのMacでもIQ4_XS（15.6GB）なら収まり、M4 Pro（24GB）で推定75tok/sです。20GB級GPUか24GB以上のMacで、コーディングエージェントを手元に置きたい人の候補。

量子化別の必要メモリ

ファイルサイズは Hugging Face（unsloth/North-Mini-Code-1.0-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（49層・うち36層は直近の範囲だけを見る層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	9.2GB	0.5GB	10GB	VRAM 11GB〜	16GB〜
3bit（Q3_K_M）メモリ優先	13GB	0.5GB	15GB	VRAM 16GB〜	24GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	14GB	0.5GB	16GB	VRAM 20GB〜	24GB〜
4bit（MXFP4 MoE） MoE専用のMXFP4	17GB	0.5GB	19GB	VRAM 20GB〜	32GB〜
4bit（Q4_K_M）標準。迷ったらこれ	18GB	0.5GB	19GB	VRAM 20GB〜	32GB〜
5bit（Q5_K_M）品質重視	21GB	0.5GB	23GB	VRAM 24GB〜	36GB〜
6bit（Q6_K）ほぼ無劣化	24GB	0.5GB	25GB	VRAM 32GB〜	48GB〜
8bit（Q8_0）無劣化に近い	30GB	0.5GB	32GB	VRAM 48GB〜	48GB〜
16bit（BF16）元精度	57GB	0.5GB	60GB	GPU単体では不可	96GB〜

モデルの構造と、必要メモリの増え方

North Mini Code 1.0はCohere Labsが2026年6月に公開した30.48Bのモデルです。GGUFのヘッダには49層と書かれており、総パラメータ30.48Bのうち、1トークンの生成で実際に読むのは約3Bです（MoE）。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

注意機構は混合型で、全域注意が13層、残り36層は窓4,096トークンのスライディングウィンドウです。コンテキストに比例して増えるのは全域注意の13層ぶん（1トークンあたり約26KB）だけで、スライディングウィンドウの36層は窓4,096トークンぶん（約0.3GB）で頭打ちになります。

実際の値は、8,192トークンで0.5GB、128Kトークンまで伸ばすと3.5GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

新しい構造のため、配布元は当面vLLMもOpenCodeもmain版を使い、応答の解析にはCohereのmelodyライブラリを入れるよう案内しています。GGUFで動かす場合も、ツールは新しい版から。思考を挟みながらツールを呼ぶ形式で、生成した思考の内容を次の手順の履歴にも残すと性能が出るとされます。

ここを削るエージェント設定では本来の動きになりません。配布元の説明で文脈は256K、出力は64Kまで。KVは全域注意13層ぶんの1トークン26KBで、64Kなら約1.6GB、256Kでは約6.3GBが上乗せです。RX 7900 XTは余白0.1GBで、CUDAではなくROCmかVulkanで動かす前提。

長いリポジトリを読ませるならRTX 5090級が確実です。比べる相手はアクティブ3B前後のQwen3-Coder 30B-A3B。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはcohere2moeで、当サイト収録の204モデル中1本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/North-Mini-Code-1.0-GGUF、元になったモデルはCohereLabs/North-Mini-Code-1.0です。

得意分野はコードを書く作業です。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（18GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。このモデルは49層のうち36層がスライディングウィンドウ注意（窓4,096トークン）なので、長くしてもKVが伸びにくい構造です。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.4GB	19GB	VRAM 20GB〜	32GB〜
8,192既定	0.5GB	19GB	VRAM 20GB〜	32GB〜
16,384	0.7GB	20GB	VRAM 24GB〜	32GB〜
32,768	1.1GB	20GB	VRAM 24GB〜	32GB〜
65,536	1.9GB	21GB	VRAM 24GB〜	32GB〜
131,072	3.5GB	22GB	VRAM 24GB〜	36GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約1.1GBから約0.5GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Qwen3-Swallow 30B-A3B	Swallow（東京科学大学・産総研）	19GB	Qwen3 30B-A3Bに日本語を追加学習したMoE。VRAM 20GB級のGPUやMac 32GBで速い
Qwen3-VL 30B-A3B	Alibaba	19GB	画像を読めるQwen3のMoE（アクティブ3B級）。VRAM 20GB / Mac 32GBから
Qwen3 30B-A3B	Alibaba	19GB	MoE型で、メモリさえ足りれば速い。Macやメモリ多めのPC向き
Qwen3-Coder 30B-A3B	Alibaba	19GB	ローカルのコード補助の定番MoE
Gemma 4 31B	Google	19GB	2026年のGoogle製で、dense型の上位。VRAM 24GB向け
GLM-4.7-Flash 30B-A3B	Z.ai	19GB	MLA採用でKVキャッシュが小さい軽量MoE