Gemma 4 12B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Google ・公開 2026-07 ・ 11.91Bパラメータ・データ更新 2026-10-02

VRAM 12GBで日本語が上手い2026年版。Gemma 3 12Bの後継

7.8GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 10GB実用になるいちばん安いGPU: GeForce RTX 3080 10GB

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

262,144最大コンテキスト（学習時）

編集部の見立て

Gemma 4の5サイズのうち、配布元がコンシューマーGPUとワークステーション向けに置いた中で一番小さいのが12Bです。文章と画像に加えて音声も受け付け、専用のエンコーダを持たない「Unified」構造と説明されています。Q4_K_Mは6.6GBで、8kの会話込みの必要量は7.8GB。

VRAM 8GBの実効7.5GBにはあと0.3GB届きません。IQ4_XS（必要7GB）に一段落とせば、RTX 4060でも推定29.8tok/sで回ります。余裕を持って使うなら10GB以上のGPUで、RTX 3080 10GBは推定72.6tok/s。8GB機の持ち主が最初に試す候補になる大きさです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（unsloth/gemma-4-12b-it-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（48層・うち40層は直近の範囲だけを見る層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	3.9GB	0.4GB	5.0GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	5.3GB	0.4GB	6.4GB	VRAM 8GB〜	16GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	5.9GB	0.4GB	7.1GB	VRAM 8GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	6.6GB	0.4GB	7.8GB	VRAM 10GB〜	16GB〜
5bit（Q5_K_M）品質重視	7.8GB	0.4GB	9.0GB	VRAM 10GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	9.1GB	0.4GB	10GB	VRAM 11GB〜	16GB〜
8bit（Q8_0）無劣化に近い	12GB	0.4GB	13GB	VRAM 16GB〜	24GB〜
16bit（BF16）元精度	22GB	0.4GB	24GB	VRAM 32GB〜	36GB〜

モデルの構造と、必要メモリの増え方

Gemma 4 12BはGoogleが2026年7月に公開した11.91Bのモデルです。GGUFのヘッダには48層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。注意機構は混合型で、全域注意が8層、残り40層は窓1,024トークンのスライディングウィンドウです。

コンテキストに比例して増えるのは全域注意の8層ぶん（1トークンあたり約16KB）だけで、スライディングウィンドウの40層は窓1,024トークンぶん（約0.3GB）で頭打ちになります。実際の値は、8,192トークンで0.4GB、128Kトークンまで伸ばすと2.3GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

まず確かめたいのは手元のツールの版です。gemma4は2026年7月に出た構造で、音声や画像を直接取り込む部分まで対応しているかは、llama.cppやOllamaの版ごとに差が出ます。文字だけのチャットなら迷う点は少ない。思考モードは配布元の説明で切り替え式、Gemma 4からはsystemの役割も正式に扱えるようになりました。

KVが伸びるのは全域注意の8層ぶんだけで1トークン16KB、上限の262,144トークンまで広げても全域側の増加は約4GBです。RTX 3080 10GBでQ4_K_Mを使うと、実効9.5GBに対して必要7.8GBで、残る1.7GBを文脈に回せます。ライセンスの区分はApache 2.0。

比べる相手は2025年のGemma 3 12Bと、日本語を追加学習したMistral Nemo Japanese 12Bです。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはgemma4で、当サイト収録の204モデル中5本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/gemma-4-12b-it-GGUF、元になったモデルはgoogle/gemma-4-12B-itです。

得意分野は画像を含む文書の読み取り、日本語の文章です。

同じGoogleのモデルでは、サイズの近いものにGemma 3 12B（11.77B）、Gemma 2 9B（9.24B）、Gemma 4 E4B（7.52B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（6.6GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。このモデルは48層のうち40層がスライディングウィンドウ注意（窓1,024トークン）なので、長くしてもKVが伸びにくい構造です。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.4GB	7.7GB	VRAM 10GB〜	16GB〜
8,192既定	0.4GB	7.8GB	VRAM 10GB〜	16GB〜
16,384	0.6GB	7.9GB	VRAM 10GB〜	16GB〜
32,768	0.8GB	8.1GB	VRAM 10GB〜	16GB〜
65,536	1.3GB	8.6GB	VRAM 10GB〜	16GB〜
131,072	2.3GB	9.6GB	VRAM 11GB〜	16GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.8GBから約0.4GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Gemma 3 12B	Google	8.3GB	VRAM 12GBで日本語が上手い定番
Mistral Nemo Japanese 12B	CyberAgent	8.9GB	日本語追加学習の12B。VRAM 8〜12GB
Mistral Nemo 12B	Mistral AI	8.9GB	長文向け12B
Nemotron Nano 12B v2	NVIDIA	7.9GB	NVIDIAのハイブリッド構造の12B。KVキャッシュが小さく長文向き。GPUなしのメモリ16GBのPCでも動く
Ministral 3 14B	Mistral AI	9.7GB	Mistralの14B。Apache 2.0。VRAM 10GB / Mac 16GBから
LLM-jp-3.1 13B	LLM-jp（国立情報学研究所）	15GB	国産のフルスクラッチ日本語モデル。VRAM 12GB