Ministral 3 8B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Mistral AI ・公開 2025-12 ・ 8.49Bパラメータ・データ更新 2026-10-02

Ministral 3の8B。Apache 2.0。GPUなしのメモリ16GBのPCでも動く

6.5GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

262,144最大コンテキスト（学習時）

編集部の見立て

Ministral 3は端末側で動かす前提の小型シリーズで、8Bはその中間です。8.4Bの言語モデルに0.4Bの画像エンコーダが付き、文書の読み取りにも使えると配布元は書いています。対応言語に日本語あり。ファイルはQ4_K_Mで4.8GB、8kの文脈を足しても6.5GBに収まります。

VRAM 8GBのRTX 3070 Tiで推定76.4tok/s、M2 Pro（16GB）でも28.6tok/sと快適の判定。GPUなしのRyzen AI 300でも12.5tok/sで実用に入る。数年前のゲーミングノートや16GBのMacで画像も読めるモデルを使いたい人向け。

量子化別の必要メモリ

ファイルサイズは Hugging Face（unsloth/Ministral-3-8B-Instruct-2512-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（34層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	3.0GB	1.1GB	4.6GB	VRAM 6GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	3.1GB	1.1GB	4.8GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	4.0GB	1.1GB	5.6GB	VRAM 8GB〜	16GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	4.4GB	1.1GB	6.1GB	VRAM 8GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	4.8GB	1.1GB	6.5GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	5.6GB	1.1GB	7.4GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	6.5GB	1.1GB	8.3GB	VRAM 10GB〜	16GB〜
8bit（Q8_0）無劣化に近い	8.4GB	1.1GB	10GB	VRAM 11GB〜	16GB〜
16bit（BF16）元精度	16GB	1.1GB	18GB	VRAM 20GB〜	32GB〜

モデルの構造と、必要メモリの増え方

Ministral 3 8BはMistral AIが2025年12月に公開した8.49Bのモデルです。GGUFのヘッダには34層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全34層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約136KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.1GB、128Kトークンまで伸ばすと17GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

3B・8B・14Bのどれにするかは手元のメモリで決まります。3Bは3.4GBで8GBのM2でも推定33.9tok/s、14Bは9.7GBでM2 Pro（16GB）だと18.5tok/sの実用止まり。16GBのMacで快適の判定が付く上限が8Bです。KVは34層すべて全域注意で1トークン136KB。

32kで4.25GB、学習上限の256kでは34GBに達し、本体の7倍になります。8GB VRAMで使うなら文脈は16k前後で止めるのが確実。画像を読ませるにはllama.cppだとmmprojファイルを本体と別に置く必要があります。配布元は温度0.1未満、ツールは必要最小限にと勧めています。

Instructのほかに追加学習用のBaseと、思考を挟むReasoning版が同じ8Bで配られている点も覚えておくと選びやすい。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはmistral3で、当サイト収録の204モデル中4本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/Ministral-3-8B-Instruct-2512-GGUF、元になったモデルはmistralai/Ministral-3-8B-Instruct-2512です。

得意分野は画像を含む文書の読み取りです。

同じMistral AIのモデルでは、サイズの近いものにMistral 7B v0.3（7.25B）、Mistral Nemo 12B（12.25B）、Ministral 3 14B（13.51B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（4.8GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.5GB	6.0GB	VRAM 8GB〜	16GB〜
8,192既定	1.1GB	6.5GB	VRAM 8GB〜	16GB〜
16,384	2.1GB	7.6GB	VRAM 10GB〜	16GB〜
32,768	4.3GB	9.7GB	VRAM 11GB〜	16GB〜
65,536	8.5GB	14GB	VRAM 16GB〜	24GB〜
131,072	17GB	22GB	VRAM 24GB〜	36GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約4.3GBから約2.1GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
LFM2.5 8B-A1B	Liquid AI	5.7GB	総8.3B・アクティブ1.5BのMoE。GPUなしのメモリ8GBのPCでも速い
LLM-jp-4 8B thinking	LLM-jp（国立情報学研究所）	6.6GB	国産フルスクラッチの推論型8B。4bitならVRAM 8GBに収まる
Granite 4.2 8B	IBM	7.1GB	IBMの業務向け8B。Apache 2.0。4bitならVRAM 8GBに収まり、GPUなしのメモリ16GBでも動く
Qwen3-Swallow 8B	Swallow（東京科学大学・産総研）	6.4GB	Qwen3 8Bの日本語強化版。4bitならVRAM 8GBに収まる
Shisa V2.1 Qwen3 8B	Shisa.AI	6.4GB	Qwen3 8Bを日英バイリンガルに調整。VRAM 8GB
Qwen3-VL 8B	Alibaba	6.4GB	画像・画面・書類を読ませる用途の8B。VRAM 8GB