AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › Granite 4.2 30B

Granite 4.2 30B を動かすPCスペック(必要VRAM・メモリ・速度の目安)

IBMの業務向け30B(dense型)。Apache 2.0。VRAM 20GB / Mac 32GBから

20GB4bitで動かすのに要るメモリ(会話8,192トークン分込み)
VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090
32GB実用になるいちばん小さいMac: M2 Max(32GB)
131,072最大コンテキスト(学習時)

編集部の見立て

IBMのGranite 4.2で最上位にあたる30Bのdense型モデルです。思考の連鎖を内蔵し、深く考える既定のモード、考えないモード、軽く考えるモードを1問ごとに選べます。3サイズのうち30Bだけ、エージェント向けのデータを厚くした2回目の追加学習を受けたと配布元は説明しています。

必要量はQ4_K_Mと8kの文脈で19.8GB、RTX 4090なら推定37.3tok/sです。20GBのRX 7900 XTには0.3GB届きません。Apache 2.0で業務に組み込みやすく、24GB級GPUを持つ開発者向け。

量子化別の必要メモリ

ファイルサイズは Hugging Face(bartowski/granite-4.2-30b-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(64層)から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ(8k)必要合計GPUならMacなら
2bit(IQ2_M)
品質劣化大。最後の手段
10GB2.0GB13GBVRAM 16GB〜24GB〜
2bit(Q2_K)
品質劣化大。最後の手段
10GB2.0GB13GBVRAM 16GB〜24GB〜
3bit(IQ3_M)
メモリ優先
12GB2.0GB15GBVRAM 16GB〜24GB〜
3bit(Q3_K_M)
メモリ優先
13GB2.0GB16GBVRAM 20GB〜32GB〜
4bit(IQ4_XS)
Q4_K_Mより一回り小さい
15GB2.0GB18GBVRAM 20GB〜32GB〜
4bit(Q4_K_M)
標準。迷ったらこれ
17GB2.0GB20GBVRAM 24GB〜32GB〜
5bit(Q5_K_M)
品質重視
20GB2.0GB23GBVRAM 24GB〜36GB〜
6bit(Q6_K)
ほぼ無劣化
23GB2.0GB26GBVRAM 32GB〜48GB〜
8bit(Q8_0)
無劣化に近い
29GB2.0GB32GBVRAM 48GB〜48GB〜
16bit(BF16)
元精度
55GB2.0GB59GBGPU単体では不可96GB〜

モデルの構造と、必要メモリの増え方

Granite 4.2 30BはIBMが2026年8月に公開した29.28Bのモデルです。GGUFのヘッダには64層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全64層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約256KB(fp16)で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで2.0GB、学習時の上限131,072トークンまで伸ばすと32GBです。

ライセンス表記: apache-2.0(層数と窓の大きさはGGUFヘッダから取得)

このモデルを実際に使うなら

隣に並ぶQwen3 30B-A3Bは、1トークンで3B強しか動かさないMoEです。こちらは毎回29.28Bを全部読むdense型なので、Qwen3 30B-A3BがRX 7900 XTで推定119.6tok/sなのに対し、RTX 4090でも37.3tok/sにとどまります。

重いのはKVも同じ。全64層が全域注意で1トークン256KBあり、32kトークンで8GB、学習時の128kなら32GBに達します。4090の実効23.5GBでは、8kの文脈込みの19.8GBを置いた残りで文脈は2万3千トークンほどが上限。長い文書を読ませる用途なら、RTX 5090か48GB以上のMacに回すほうが無理がありません。

32GBのMacではM2 Max(32GB)が推定15.7tok/sの実用域です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはgraniteで、当サイト収録の204モデル中3本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/granite-4.2-30b-GGUF、元になったモデルはibm-granite/granite-4.2-30bです。

得意分野はコードを書く作業です。

同じIBMのモデルでは、サイズの近いものにGranite 4.0 H-Small 32B-A9B(32.21B)、Granite 4.2 8B(8.79B)、Granite 4.0 H-Tiny(6.94B)があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(Q4_K_M)(17GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0961.0GB19GBVRAM 20GB〜32GB〜
8,192既定2.0GB20GBVRAM 24GB〜32GB〜
16,3844.0GB22GBVRAM 24GB〜36GB〜
32,7688.0GB26GBVRAM 32GB〜48GB〜
65,53616GB34GBVRAM 48GB〜48GB〜
131,07232GB50GBGPU単体では不可96GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約8.0GBから約4.0GBに減ります(品質はわずかに落ちます)。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
GLM-4.7-Flash 30B-A3BZ.ai19GBMLA採用でKVキャッシュが小さい軽量MoE
North Mini Code 1.0Cohere Labs19GBコード用途を名前に掲げた30BのMoE。Apache 2.0。メモリ32GB級から
Qwen3-Swallow 30B-A3BSwallow(東京科学大学・産総研)19GBQwen3 30B-A3Bに日本語を追加学習したMoE。VRAM 20GB級のGPUやMac 32GBで速い
Qwen3-VL 30B-A3BAlibaba19GB画像を読めるQwen3のMoE(アクティブ3B級)。VRAM 20GB / Mac 32GBから
Qwen3 30B-A3BAlibaba19GBMoE型で、メモリさえ足りれば速い。Macやメモリ多めのPC向き
Qwen3-Coder 30B-A3BAlibaba19GBローカルのコード補助の定番MoE

4bit(Q4_K_M)が動く機種と推定速度

4bit(Q4_K_M)なら25機種で20 tok/s以上、20機種で8〜20 tok/s(テキスト生成の推定・計算方法)。

快適 20 tok/s以上(25機種)

実用 8〜20 tok/s(20機種)

メモリに一部を逃がせば動く(62機種・CPUオフロード、PCのメモリ32GB想定)

動かない機種(23)を見る

今のPCのまま、Granite 4.2 30Bを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

Granite 4.2 30Bは4bit(IQ4_XS)で15GB、8bitのQ8_0なら29GB。精度違いを3種類そろえるだけで約45GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

メモリ増設(32GB化)

VRAMに載りきらない分は、システムメモリに逃がして動かせます(CPUオフロード)。Granite 4.2 30Bは20GB要るので、VRAM 12GBのカードなら約8.3GBをメモリ側で受ける計算です。メモリ16GBのままだとOSとブラウザで詰まるので、32GBが下限。

GPUを1枚替える: RTX 5090(32GB)

「あと数GB足りない」を埋めるのに、PC一式を買い替える必要はありません。RTX 5090なら4bit(IQ4_XS)の20GBがVRAMに収まります。先に見るのは、今のケースに入る長さか、電源の容量と補助電源のコネクタが足りるかの2点です。

ローカルLLM / AIエージェント入門書

Granite 4.2 30BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

Granite 4.2 30Bを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったりMac

Mac mini M4 Pro(メモリ48GB・SSD 1TB)

30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心

M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円

要件を満たす中で最も手頃

余裕を持つならMac

Mac mini M4 Pro(メモリ64GB・SSD 1TB)

70BクラスのローカルLLMまで。同じ価格帯のGeForce機より大きいモデルまで動く

M4 Pro・ユニファイドメモリ64GB・SSD 1TB ・ 目安 36〜42万円

将来の用途拡張(大きなモデル・並列エージェント)に余裕

別の形なら常時稼働サーバー型

Ryzen AI Max+ 395 ミニPC(メモリ128GB)

Windows/Linuxで128GBの共有メモリ。GPU側に96GBを割り当てれば、gpt-oss-120bや70Bクラスを常時サーバとして動かせる

Ryzen AI Max+ 395・LPDDR5X 128GB(256GB/s)・NVMe 2TB ・ 目安 32〜48万円

Windowsで同じ仕事をするなら

よくある質問

Granite 4.2 30Bを動かすのに必要なVRAMは?

4bit量子化(4bit(Q4_K_M))でファイル17GB、8,192トークンのKVキャッシュを含めて約20GBが必要です。GPU単体ならGeForce RTX 4090(VRAM 24GB)から実用速度で動きます。

Granite 4.2 30BはMacで動く?

動きます。ユニファイドメモリ32GB以上のApple Silicon(例: Apple M2 Max(32GB))なら、4bit量子化で実用的な速さが出ます。

このクラスの選び方: ローカルLLM(27〜32Bクラス)に必要なPC / MacかWindowsか

手持ちのPCで判定する