Sarashina2.2 3B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

SB Intuitions ・公開 2025-02 ・ 3.36Bパラメータ・データ更新 2026-10-02

ソフトバンク系の国産フルスクラッチ3B。MITライセンス。GPUなしのノートでも動く

3.7GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 6GB実用になるいちばん安いGPU: GeForce RTX 3060 Laptop

8GB実用になるいちばん小さいMac: M2（8GB）

8,192最大コンテキスト（学習時）

編集部の見立て

Sarashina2.2で一番大きい3.36Bです。4bitで8kの会話を含めても3.7GB。Apple M2（8GB）で推定31.9tok/s、RTX 3060 Laptopなら推定94.4tok/s出ます。GPUなしのDDR4-3200・8GBでは推定8.4tok/sで、実用の下限に近い。

GPUのないPCで動かすなら、シリーズの中でここが上限です。MITライセンスで、配布元は安全面の学習が限られると書いています。8GBのMacやGPU付きのノートで、日本語向けの軽いモデルを探す人のための大きさです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（mmnga/sarashina2.2-3b-instruct-v0.1-gguf）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（32層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	1.2GB	1.3GB	2.9GB	VRAM 4GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	1.2GB	1.3GB	3.0GB	VRAM 4GB〜	8GB〜
3bit（IQ3_M）メモリ優先	1.5GB	1.3GB	3.3GB	VRAM 4GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	1.6GB	1.3GB	3.4GB	VRAM 4GB〜	8GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	1.7GB	1.3GB	3.5GB	VRAM 6GB〜	8GB〜
4bit（Q4_K_M）標準。迷ったらこれ	1.9GB	1.3GB	3.7GB	VRAM 6GB〜	8GB〜
5bit（Q5_K_M）品質重視	2.2GB	1.3GB	4.1GB	VRAM 6GB〜	8GB〜
6bit（Q6_K）ほぼ無劣化	2.6GB	1.3GB	4.4GB	VRAM 6GB〜	8GB〜
8bit（Q8_0）無劣化に近い	3.3GB	1.3GB	5.2GB	VRAM 6GB〜	8GB〜

モデルの構造と、必要メモリの増え方

Sarashina2.2 3BはSB Intuitionsが2025年2月に公開した3.36Bのモデルです。GGUFのヘッダには32層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全32層が全域注意で、KVヘッド8・head次元160。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約160KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.3GB、学習時の上限8,192トークンまで伸ばすと1.3GBです。

ライセンス表記: mit（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

8GBのMac（実効5.4GB）なら、Q8_0の3.3GBに8k分のKV 1.3GBを足しても4.6GBで収まります。量子化のビット数を下げずに済むのはこのあたりの大きさまで。KVは1トークン160KBで、0.5B版の約2.7倍あります。GPUなしのPCでは推定8.4tok/sに加えて入力を読み込む処理も遅く、長めの資料を渡すと返事が始まるまでに待たされる。

比べる相手はLlama 3.2 3B・Phi-4-mini 3.8B・Gemma 3 4B・Qwen3 4Bです。多言語の汎用モデルと違い、こちらはカードの対応言語欄が日本語だけ。社外に出す文章を任せるなら、出力の確認を挟みましょう。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはllamaで、当サイト収録の204モデル中39本が同じ系統です。Llama系。最も広く使われているアーキテクチャで、対応していないツールを探すほうが難しい水準です。

配布元はmmnga/sarashina2.2-3b-instruct-v0.1-gguf、元になったモデルはsbintuitions/sarashina2.2-3b-instruct-v0.1です。

得意分野は日本語の文章です。

同じSB Intuitionsのモデルでは、サイズの近いものにSarashina2.2 1B（1.41B）、Sarashina2.2 0.5B（0.79B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（1.9GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.6GB	3.1GB	VRAM 4GB〜	8GB〜
8,192既定	1.3GB	3.7GB	VRAM 6GB〜	8GB〜

KVキャッシュをq8_0に量子化すると、8,192トークンでのKVは約1.3GBから約0.6GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Ministral 3 3B	Mistral AI	3.4GB	Mistralの小型3B。Apache 2.0。GPUなしのメモリ8GBでも動く
Llama 3.2 3B	Meta	3.3GB	GPUなしのノートでも動く軽量級
Qwen2.5-VL 3B	Alibaba	2.6GB	Qwen2.5-VLの小型3B。GPUなしのメモリ8GBのPCでも動く
Qwen2.5-Coder 3B	Alibaba	2.6GB	Qwen2.5-Coderの小型3B。補完向け。GPUなしのメモリ8GBのPCでも動く
Qwen2.5 3B	Alibaba	2.6GB	Qwen2.5の3B。GPUなしのメモリ8GBのPCでも動く
SmolLM3 3B	Hugging Face	2.9GB	学習手順まで公開された3B。Apache 2.0。GPUなしのメモリ8GBでも動く