Granite 4.2 8B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

IBM ・公開 2026-08 ・ 8.79Bパラメータ・データ更新 2026-10-02

IBMの業務向け8B。Apache 2.0。4bitならVRAM 8GBに収まり、GPUなしのメモリ16GBでも動く

7.1GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

131,072最大コンテキスト（学習時）

編集部の見立て

Granite 4.2の中間サイズで、30Bと同じく思考の仕組みを内蔵した8.79Bのdense型です。重みはQ4_K_Mで5.2GBと軽く、8kの会話を含めても7.1GBに収まります。VRAM 8GBのRTX 3070 Tiで推定71tok/s、16GBのM2 Proで26.5tok/sが出ます。

GPUのないRyzen AI 300（16GB）でも推定11.6tok/sの実用域。検証済み言語の一覧に日本語が入り、ツール呼び出しやコード生成も配布元が得意分野に挙げています。Apache 2.0で社内ツールを組みたい、8GB級GPUの持ち主に合う大きさ。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/granite-4.2-8b-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（40層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	3.3GB	1.3GB	5.1GB	VRAM 6GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	3.3GB	1.3GB	5.2GB	VRAM 6GB〜	8GB〜
3bit（IQ3_M）メモリ優先	3.9GB	1.3GB	5.8GB	VRAM 8GB〜	16GB〜
3bit（Q3_K_M）メモリ優先	4.2GB	1.3GB	6.1GB	VRAM 8GB〜	16GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	4.6GB	1.3GB	6.5GB	VRAM 8GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	5.2GB	1.3GB	7.1GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	6.0GB	1.3GB	7.9GB	VRAM 10GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	7.0GB	1.3GB	9.0GB	VRAM 10GB〜	16GB〜
8bit（Q8_0）無劣化に近い	8.7GB	1.3GB	11GB	VRAM 12GB〜	18GB〜
16bit（BF16）元精度	16GB	1.3GB	19GB	VRAM 20GB〜	32GB〜

モデルの構造と、必要メモリの増え方

Granite 4.2 8BはIBMが2026年8月に公開した8.79Bのモデルです。GGUFのヘッダには40層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全40層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約160KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.3GB、学習時の上限131,072トークンまで伸ばすと20GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

つまずきやすいのは文脈の伸ばし方です。全40層が全域注意で、KVは1トークン160KB。同じ9B前後のOrnith 1.5 9B（32KB）の5倍あり、32kトークンで5GBに届きます。8GBカードの実効7.5GBでは、8kの文脈込みの7.1GBから残るのは0.4GBほど。

1万トークン余りで頭打ちなので、長い資料を渡すならVRAM 12GB以上か16GB以上のMacが要ります。考える過程は既定で出る設定。短い質問に即答させたい日は、考えないモードに切り替えると待ち時間が短くなります。上位の30Bとの差はサイズだけではありません。

エージェント用データを増やした2段目の学習が30Bにしか入っていないことも、配布元の説明から読み取れます。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはgraniteで、当サイト収録の204モデル中3本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/granite-4.2-8b-GGUF、元になったモデルはibm-granite/granite-4.2-8bです。

得意分野はコードを書く作業です。

同じIBMのモデルでは、サイズの近いものにGranite 4.0 H-Tiny（6.94B）、Granite 4.2 3B（3.66B）、Granite 4.2 30B（29.28B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（5.2GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.6GB	6.4GB	VRAM 8GB〜	16GB〜
8,192既定	1.3GB	7.1GB	VRAM 8GB〜	16GB〜
16,384	2.5GB	8.3GB	VRAM 10GB〜	16GB〜
32,768	5.0GB	11GB	VRAM 12GB〜	18GB〜
65,536	10GB	16GB	VRAM 20GB〜	24GB〜
131,072	20GB	26GB	VRAM 32GB〜	48GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約5.0GBから約2.5GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Nemotron-Nano 9B v2 Japanese	NVIDIA	6.9GB	NVIDIA製の日本語版9B。大半がSSM層でKVキャッシュが小さく、長文でもメモリが増えにくい
MiMo-V2.6-Distill-Qwen-9B	Xiaomi	6.4GB	XiaomiがQwen3.5 9Bを自社MiMoの出力で追加学習したエージェント向け9B。MIT。4bitならVRAM 8GB / Mac 16GBから
Ornith 1.5 9B	ornith-ai	6.4GB	Ornith 1.5の9B（dense型）。MIT。4bitならVRAM 8GBに収まり、GPUなしのメモリ16GBでも動く
UI-Mate 9B	Tencent	6.4GB	画面・UIの理解を名前に掲げた9B。ブラウザ操作エージェント向け。VRAM 8GBで動く
UI-Venus-2 9B	inclusionAI	6.4GB	スマホ・ブラウザ・デスクトップの画面を操作するGUIエージェント9B。Apache 2.0。GPUなしのメモリ16GBのPCでも動く
Fara1.5 9B	Microsoft	6.4GB	Fara1.5のブラウザ操作エージェント9B。MIT。GPUなしのメモリ16GBのPCでも動く