Phi-3.5-mini 3.8B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Microsoft ・公開 2024-08 ・ 3.82Bパラメータ・データ更新 2026-10-02

Phi-4-mini以前の3.8B。MIT。GPUなしのメモリ16GBでも動く

5.8GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

131,072最大コンテキスト（学習時）

編集部の見立て

Microsoftが2024年8月に出した3.8Bで、半年後のPhi-4-miniと大きさはほぼ同じです。違いはKVの重さ。このモデルのKVは1トークン384KBで、Phi-4-miniの128KBの3倍あります。そのため8kの文脈込みで4bitでも5.8GBになり、Phi-4-mini（3.9GB）なら入るRTX 2060 6GBには収まりません。

RTX 3070 Tiで推定110.1tok/s、M2 Pro（16GB）で推定41.2tok/s。すでにPhi-3.5を組み込んだ仕組みを持つ人以外は、Phi-4-miniから入るほうが機材を選びません。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/Phi-3.5-mini-instruct-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（32層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	1.2GB	3.0GB	4.8GB	VRAM 6GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	1.3GB	3.0GB	4.9GB	VRAM 6GB〜	8GB〜
3bit（IQ3_M）メモリ優先	1.7GB	3.0GB	5.3GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	1.8GB	3.0GB	5.4GB	VRAM 6GB〜	8GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	1.9GB	3.0GB	5.5GB	VRAM 6GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	2.2GB	3.0GB	5.8GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	2.6GB	3.0GB	6.2GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	2.9GB	3.0GB	6.5GB	VRAM 8GB〜	16GB〜
8bit（Q8_0）無劣化に近い	3.8GB	3.0GB	7.4GB	VRAM 8GB〜	16GB〜

モデルの構造と、必要メモリの増え方

Phi-3.5-mini 3.8BはMicrosoftが2024年8月に公開した3.82Bのモデルです。GGUFのヘッダには32層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全32層が全域注意で、KVヘッド32・head次元96。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約384KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで3.0GB、学習時の上限131,072トークンまで伸ばすと48GBです。

ライセンス表記: mit（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

文脈は128Kまで受け付けますが、その上限を使うとKVだけで48GBになります。32kでも12GBで、Q4_K_Mの2.2GBの5倍を超える重さ。16GBのMacやGPUで長い資料を読ませるなら、8k〜16kに抑えるのが現実的です。配布元が想定する使いどころは、メモリや計算量に制約のある環境と、応答の遅れが許されない場面、それにコード・数学・論理の推論。

ライセンスはMITで条件は軽めです。後継のPhi-4-miniは、配布元の説明では語彙を増やして多言語への対応を広げ、関数呼び出しも学習しています。ツール連携まで考えるなら、そちらを先に見ておきましょう。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはphi3で、当サイト収録の204モデル中3本が同じ系統です。Phi系。小さいサイズで性能を出す方向に振った系統です。

配布元はbartowski/Phi-3.5-mini-instruct-GGUF、元になったモデルはmicrosoft/Phi-3.5-mini-instructです。

同じMicrosoftのモデルでは、サイズの近いものにPhi-4-mini 3.8B（3.84B）、Fara1.5 4B（4.21B）、Fara1.5 9B（8.95B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（2.2GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	1.5GB	4.3GB	VRAM 6GB〜	8GB〜
8,192既定	3.0GB	5.8GB	VRAM 8GB〜	16GB〜
16,384	6.0GB	8.8GB	VRAM 10GB〜	16GB〜
32,768	12GB	15GB	VRAM 16GB〜	24GB〜
65,536	24GB	27GB	VRAM 32GB〜	48GB〜
131,072	48GB	51GB	GPU単体では不可	96GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約12GBから約6.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Phi-4-mini 3.8B	Microsoft	3.9GB	GPUなしでも動く小型
Gemma 3 4B	Google	3.2GB	画像も読める小型。日本語も自然
Nemotron 3 Nano 4B	NVIDIA	3.4GB	NVIDIAのハイブリッド構造の4B。KVキャッシュが小さく長文向き。GPUなしのメモリ8GBでも動く
Granite 4.2 3B	IBM	3.3GB	IBMの小型3B。Apache 2.0。GPUなしのメモリ8GBのPCでも動く
Qwen3-VL 4B	Alibaba	4.0GB	画像・画面を読ませる小型の4B。GPUなしのメモリ8GBでも動く
Qwen3 4B	Alibaba	4.0GB	4Bながら日本語が破綻しにくい。メモリ8GBのノートでも動く入門向け