Kimi Linear 48B-A3B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Moonshot AI ・公開 2026-02 ・ 49.12Bパラメータ（MoE・アクティブ3B）・データ更新 2026-10-02

線形注意を使う48BのMoE（アクティブ3B）。長文でもKVキャッシュが増えにくい。MIT。VRAM 32GB / Mac 48GBから

29GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 32GB実用になるいちばん安いGPU: GeForce RTX 5090

48GB実用になるいちばん小さいMac: M5 Max（48GB）

1,048,576最大コンテキスト（学習時）

編集部の見立て

Moonshot AIが線形注意の設計を示すために公開した総48B、アクティブ3BのMoEです。線形のKDA層と全域のMLA層を3対1で混ぜ、長文でKVが増えにくい。学習時の文脈は1,048,576トークンで、KVは1トークン15KB。8kの文脈込みで29.4GBが要り、推定速度はRTX 5090で350.4tok/s、Apple M5 Max（48GB）で158.1tok/s。

GPUなしでもRyzen AI Max+ 395（64GB）で48.5tok/sです。MITで、本を丸ごと読ませる用途を32GB級のGPUで試したい人向け。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/moonshotai_Kimi-Linear-48B-A3B-Instruct-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（27層・KVを圧縮するMLA方式・文脈全体を見る層は7層だけ）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	15GB	0.1GB	16GB	VRAM 20GB〜	24GB〜
2bit（Q2_K）品質劣化大。最後の手段	16GB	0.1GB	17GB	VRAM 20GB〜	32GB〜
3bit（IQ3_M）メモリ優先	21GB	0.1GB	22GB	VRAM 24GB〜	36GB〜
3bit（Q3_K_M）メモリ優先	21GB	0.1GB	22GB	VRAM 24GB〜	36GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	25GB	0.1GB	26GB	VRAM 32GB〜	48GB〜
4bit（Q4_K_M）標準。迷ったらこれ	28GB	0.1GB	29GB	VRAM 32GB〜	48GB〜
5bit（Q5_K_M）品質重視	33GB	0.1GB	34GB	VRAM 48GB〜	48GB〜
6bit（Q6_K）ほぼ無劣化	38GB	0.1GB	39GB	VRAM 48GB〜	64GB〜
8bit（Q8_0）無劣化に近い	49GB	0.1GB	51GB	GPU単体では不可	96GB〜
16bit（BF16）元精度	92GB	0.1GB	95GB	GPU単体では不可	128GB〜

モデルの構造と、必要メモリの増え方

Kimi Linear 48B-A3BはMoonshot AIが2026年2月に公開した49.12Bのモデルです。GGUFのヘッダには27層と書かれており、総パラメータ49.12Bのうち、1トークンの生成で実際に読むのは約3Bです（MoE）。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

KVを低ランク（rank 512）に圧縮するMLA方式です。同じ規模の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約15KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで0.1GB、128Kトークンまで伸ばすと1.9GBです。

ライセンス表記: mit（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

同じMoonshotでもKimi K2.6とは役割が別です。K2.6は総1兆・アクティブ32Bの主力で、3bit台でも8kの文脈込みで449.4GBと、1台には収まりません。こちらは5.7Tトークンで学習した研究寄りの版で、画像は読めず、コード特化の調整も謳っていません。

新しい注意の型なので、llama.cppは対応済みの版が要ります。RTX 5090の実効31.5GBでは29.4GBを引いて残り2.1GB、KVに換算して約14万トークンです。100万トークンを使い切るには15GBの余白が要り、M5 Max（48GB・実効36GB）でも本体28GBと足すと43GBで溢れます。

100万トークンを使い切るなら64GB以上のMacから。Ryzen AI Max+ 395（64GB）の実効42.9GBでは届きません。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはkimi-linearで、当サイト収録の204モデル中1本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/moonshotai_Kimi-Linear-48B-A3B-Instruct-GGUF、元になったモデルはmoonshotai/Kimi-Linear-48B-A3B-Instructです。

同じMoonshot AIのモデルでは、サイズの近いものにKimi K2.6（1026.41B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（28GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。MLA（圧縮KV）採用のため、長いコンテキストでもKVが小さく収まります。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.1GB	29GB	VRAM 32GB〜	48GB〜
8,192既定	0.1GB	29GB	VRAM 32GB〜	48GB〜
16,384	0.2GB	30GB	VRAM 32GB〜	48GB〜
32,768	0.5GB	30GB	VRAM 32GB〜	48GB〜
65,536	0.9GB	30GB	VRAM 32GB〜	48GB〜
131,072	1.9GB	31GB	VRAM 32GB〜	48GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.5GBから約0.2GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Tanuki-8x8B	松尾・岩澤研究室 GENIAC	29GB	Tanuki-8BをMoE化した47B（アクティブ13B）。Apache 2.0。VRAM 32GB / Mac 48GBから
RakutenAI-2.0 8x7B	楽天	29GB	楽天の日本語MoE（総47B・アクティブ13B）。Mac 48GB以上かVRAM 32GB向け
Mixtral 8x7B	Mistral AI	29GB	公開MoEの先駆け（総47B・アクティブ13B）。Apache 2.0。VRAM 32GB / Mac 48GBから
Seed-OSS 36B	ByteDance	23GB	長文コンテキストに強い36Bのdense型。VRAM 24〜32GB向け
BigBang v1 35B	endless-frontier	22GB	35BのMoEで画像対応。Apache 2.0。アクティブパラメータが小さくメモリ32GB級でも速い
Ornith 1.5 35B-A3B	ornith-ai	22GB	35BのMoE（アクティブ3B）でMIT。メモリ32GBクラスで速く動く