Codestral 22B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Mistral AI ・公開 2024-05 ・ 22.25Bパラメータ・データ更新 2026-10-02

Mistralのコード専用22B。VRAM 16GB / Mac 24GBから

15GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 16GB実用になるいちばん安いGPU: GeForce RTX 5080

24GB実用になるいちばん小さいMac: M5 Pro（24GB）

32,768最大コンテキスト（学習時）

編集部の見立て

Mistral AIが2024年5月に出した、コード専用の22Bのdense型です。配布元は80を超えるプログラミング言語で学習したとし、質問に答えるinstructの使い方に加えて、前後のコードから真ん中を埋めるFIMに対応する点を挙げています。Q4_K_Mなら12.4GBのファイルに8k分の文脈を足して、必要量は15.1GBになります。

VRAM 16GBのRTX 5080で推定48.7tok/s、M5 Pro（24GB）で19.5tok/s、Ryzen AI Max+ 395（32GB）で10.8tok/s。16GB級GPUで補完を回したい人向けですが、ライセンスは独自です。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/Codestral-22B-v0.1-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（56層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	7.1GB	1.8GB	9.6GB	VRAM 11GB〜	16GB〜
2bit（Q2_K）品質劣化大。最後の手段	7.7GB	1.8GB	10GB	VRAM 11GB〜	16GB〜
3bit（IQ3_M）メモリ優先	9.4GB	1.8GB	12GB	VRAM 16GB〜	18GB〜
3bit（Q3_K_M）メモリ優先	10GB	1.8GB	13GB	VRAM 16GB〜	24GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	11GB	1.8GB	14GB	VRAM 16GB〜	24GB〜
4bit（Q4_K_M）標準。迷ったらこれ	12GB	1.8GB	15GB	VRAM 16GB〜	24GB〜
5bit（Q5_K_M）品質重視	15GB	1.8GB	17GB	VRAM 20GB〜	32GB〜
6bit（Q6_K）ほぼ無劣化	17GB	1.8GB	20GB	VRAM 24GB〜	32GB〜
8bit（Q8_0）無劣化に近い	22GB	1.8GB	25GB	VRAM 32GB〜	48GB〜

モデルの構造と、必要メモリの増え方

Codestral 22BはMistral AIが2024年5月に公開した22.25Bのモデルです。GGUFのヘッダには56層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全56層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約224KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.8GB、学習時の上限32,768トークンまで伸ばすと7.0GBです。

このモデルを実際に使うなら

最初に見るのはライセンスです。Codestral 22BはMNLP-0.1という配布元独自の条件で、Apache 2.0のDevstralやMistral Smallとは扱いが違います。業務のコードに使う前に原文を読むのが先。次に文脈です。全56層が全域注意でKVは1トークン224KBと、22Bとしては重い。

RTX 5080の実効15.5GBにQ4_K_M（12.4GB）を置くと、文脈は1万1千トークン前後で頭打ち。IQ4_XS（11.1GB）でも1万7千トークン程度で、リポジトリ全体を読ませるには足りません。上限の32,768トークンではKVだけで7GBかかり、24GB級のGPUが要ります。

エージェントに任せるなら、同じ社のDevstral Small 2 24Bが8kの文脈込みで15.5GBとほぼ同じ重さで、Apache 2.0、文脈も長い。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはllamaで、当サイト収録の204モデル中39本が同じ系統です。Llama系。最も広く使われているアーキテクチャで、対応していないツールを探すほうが難しい水準です。

配布元はbartowski/Codestral-22B-v0.1-GGUF、元になったモデルはmistralai/Codestral-22B-v0.1です。

得意分野はコードを書く作業です。

同じMistral AIのモデルでは、サイズの近いものにDevstral Small 2 24B（23.57B）、Magistral Small 2509（23.57B）、Devstral Small 2507（23.57B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（12GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.9GB	14GB	VRAM 16GB〜	24GB〜
8,192既定	1.8GB	15GB	VRAM 16GB〜	24GB〜
16,384	3.5GB	17GB	VRAM 20GB〜	32GB〜
32,768	7.0GB	20GB	VRAM 24GB〜	32GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約7.0GBから約3.5GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
ERNIE 4.5 21B-A3B Thinking	Baidu	14GB	Baiduの推論型MoE（総21B・アクティブ3B）。Apache 2.0。VRAM 16GB / Mac 24GBから
Devstral Small 2 24B	Mistral AI	16GB	Devstral Smallの第2世代。コーディングエージェント向け。VRAM 16GB / Mac 24GBから
Magistral Small 2509	Mistral AI	15GB	Mistralの推論モデル24B。VRAM 16GB
Devstral Small 2507	Mistral AI	15GB	コーディングエージェント向けに調整された24B。VRAM 16GB
Mistral Small 3.2 24B	Mistral AI	15GB	Q4ならVRAM 16GBに収まる欧州製
GPT-OSS-Swallow 20B	Swallow（東京科学大学・産総研）	16GB	gpt-oss-20bの日本語強化版。VRAM 16GBに載る