AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › Gemma-2-Llama-Swallow 9B

Gemma-2-Llama-Swallow 9B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Swallow（東京科学大学・産総研） ・ 公開 2025-04 ・ 9.24Bパラメータ ・ データ更新 2026-10-02

Gemma 2 9Bの日本語強化版。4bitならVRAM 8GBに収まる

8.0GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）
VRAM 10GB実用になるいちばん安いGPU: GeForce RTX 3080 10GB
16GB実用になるいちばん小さいMac: M2 Pro（16GB）
8,192最大コンテキスト（学習時）

編集部の見立て

Gemma 2 9Bの日本語強化版で、Swallowが2B・9B・27Bの3サイズで出した中間です。VRAM 8GBのGPUを持つ人には注意点が一つ。4bitに8kの文脈を足すと8GBになり、実効7.5GBに0.5GB届きません。DBで収まるGPUのうち最も手頃なのはRTX 3080 10GB（推定78.3tok/s）、ノートならRTX 5070 Ti Laptop（12GB）。

MacはM2 Pro（16GB）で推定24.2tok/s、GPUなしのRyzen AI 300（16GB）でも推定10.6tok/sが出ます。

量子化別の必要メモリ

ファイルサイズは Hugging Face（mmnga/Gemma-2-Llama-Swallow-9b-it-v0.1-gguf） に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（42層・うち21層は直近の範囲だけを見る層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ（8k）必要合計GPUならMacなら
2bit（IQ2_M）
品質劣化大。最後の手段		3.2GB2.0GB5.8GBVRAM 8GB〜16GB〜
2bit（Q2_K）
品質劣化大。最後の手段		3.5GB2.0GB6.1GBVRAM 8GB〜16GB〜
3bit（IQ3_M）
メモリ優先		4.2GB2.0GB6.8GBVRAM 8GB〜16GB〜
3bit（Q3_K_M）
メモリ優先		4.4GB2.0GB7.0GBVRAM 8GB〜16GB〜
4bit（IQ4_XS）
Q4_K_Mより一回り小さい		4.8GB2.0GB7.4GBVRAM 8GB〜16GB〜
4bit（Q4_K_M）
標準。迷ったらこれ		5.4GB2.0GB8.0GBVRAM 10GB〜16GB〜
5bit（Q5_K_M）
品質重視		6.2GB2.0GB8.8GBVRAM 10GB〜16GB〜
6bit（Q6_K）
ほぼ無劣化		7.1GB2.0GB9.7GBVRAM 11GB〜16GB〜
8bit（Q8_0）
無劣化に近い		9.2GB2.0GB12GBVRAM 16GB〜18GB〜

モデルの構造と、必要メモリの増え方

Gemma-2-Llama-Swallow 9BはSwallow（東京科学大学・産総研）が2025年4月に公開した9.24Bのモデルです。GGUFのヘッダには42層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。

注意機構は混合型で、全域注意が21層、残り21層は窓4,096トークンのスライディングウィンドウです。コンテキストに比例して増えるのは全域注意の21層ぶん（1トークンあたり約168KB）だけで、スライディングウィンドウの21層は窓4,096トークンぶん（約0.7GB）で頭打ちになります。

実際の値は、8,192トークンで2.0GB、学習時の上限8,192トークンまで伸ばすと2.0GBです。

ライセンス表記: gemma（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

8GBのGPUで動かす道は2つあります。1つは文脈を4,096トークンに縮める方法で、全域注意21層ぶんのKVが半分になり、Q4_K_M（5.4GB）でも7.3GB前後に収まる計算。もう1つはIQ4_XS（4.8GB）に下げて8kを保つ方法ですが、残りは0.1GB程度しかありません。

学習時の文脈長が8,192トークンなので、長くするほうの選択肢はそもそもない。同じSwallowの8B級では、推論型のQwen3-Swallow 8Bが6.5GB、即答型のLlama 3.1 Swallow 8Bが6.2GBで、どちらも8GBのVRAMに無理なく載ります。Gemma由来の利用規約が付く点も、選ぶ前に比べておきたい違いです。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはgemma2で、当サイト収録の204モデル中4本が同じ系統です。Gemma2系。スライディングウィンドウ注意を使い、長いコンテキストでもKVキャッシュが膨らみにくい構造です。

配布元はmmnga/Gemma-2-Llama-Swallow-9b-it-v0.1-gguf、元になったモデルはtokyotech-llm/Gemma-2-Llama-Swallow-9b-it-v0.1です。

得意分野は日本語の文章です。

同じSwallow（東京科学大学・産総研）のモデルでは、サイズの近いものにQwen3-Swallow 8B（8.19B）、Llama 3.1 Swallow 8B（8.03B）、GPT-OSS-Swallow 20B（20.91B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（5.4GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。このモデルは42層のうち21層がスライディングウィンドウ注意（窓4,096トークン）なので、長くしてもKVが伸びにくい構造です。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0961.3GB7.3GBVRAM 8GB〜16GB〜
8,192既定2.0GB8.0GBVRAM 10GB〜16GB〜

KVキャッシュをq8_0に量子化すると、8,192トークンでのKVは約2.0GBから約1.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
Gemma 2 9BGoogle8.0GBGemma 2の9B。Swallow版など派生モデルの元。4bitならVRAM 8GBに収まる
GLM-4.6V-Flash 9BZ.ai6.7GB画像理解の軽量モデル
PLaMo 2 TranslatePreferred Networks5.2GB国産の翻訳専用モデル（約10B）。チャットではなく日英・英日の翻訳に使う
MiMo-V2.6-Distill-Qwen-9BXiaomi6.4GBXiaomiがQwen3.5 9Bを自社MiMoの出力で追加学習したエージェント向け9B。MIT。4bitならVRAM 8GB / Mac 16GBから
Ornith 1.5 9Bornith-ai6.4GBOrnith 1.5の9B（dense型）。MIT。4bitならVRAM 8GBに収まり、GPUなしのメモリ16GBでも動く
UI-Mate 9BTencent6.4GB画面・UIの理解を名前に掲げた9B。ブラウザ操作エージェント向け。VRAM 8GBで動く

4bit（Q4_K_M）が動く機種と推定速度

4bit（Q4_K_M）なら87機種で20 tok/s以上、20機種で8〜20 tok/s（テキスト生成の推定・計算方法）。

快適 20 tok/s以上（87機種）

実用 8〜20 tok/s（20機種）

遅い 動くが遅い（7機種）

メモリに一部を逃がせば動く（24機種・CPUオフロード、PCのメモリ32GB想定）

動かない機種（4）を見る

今のPCのまま、Gemma-2-Llama-Swallow 9Bを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

Gemma-2-Llama-Swallow 9Bは4bit（IQ4_XS）で4.8GB、8bitのQ8_0なら9.2GB。精度違いを3種類そろえるだけで約13GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

Amazonで「NVMe SSD 2TB」を見る →Amazonで「外付けSSD 2TB USB 3.2」を見る →

GPUを1枚替える: RTX 5070（12GB）

「あと数GB足りない」を埋めるのに、PC一式を買い替える必要はありません。RTX 5070なら4bit（IQ4_XS）の8.0GBがVRAMに収まります。先に見るのは、今のケースに入る長さか、電源の容量と補助電源のコネクタが足りるかの2点です。

Amazonで「RTX 5070 グラフィックボード」を見る →

ローカルLLM / AIエージェント入門書

Gemma-2-Llama-Swallow 9BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

Amazonで「ローカルLLM 本」を見る →Amazonで「AIエージェント 開発 本」を見る →

Gemma-2-Llama-Swallow 9Bを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったりデスクトップ（BTO）

RTX 5070（12GB）デスクトップ・メモリ32GB

SDXLの画像生成が快適。14BクラスのローカルLLMがGPUだけで動く

RTX 5070（VRAM 12GB）・メモリ32GB・NVMe 1TB ・ 目安 20〜28万円

要件を満たす中で最も手頃

Amazonで「RTX 5070 搭載 デスクトップPC」を見る →
余裕を持つならデスクトップ（BTO）

RTX 5070 Ti（16GB）デスクトップ・メモリ32GB

FLUX、27B級のMoE型、gpt-oss-20bまで。ローカルAIの定番

RTX 5070 Ti（VRAM 16GB）・メモリ32GB・NVMe 2TB・電源750W ・ 目安 28〜38万円

将来の用途拡張（大きなモデル・並列エージェント）に余裕

Amazonで「RTX 5070 Ti 搭載 デスクトップPC」を見る →
別の形ならMac

Mac mini M4 Pro（メモリ48GB・SSD 1TB）

30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心

M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円

Macで同じ仕事をするなら

Amazonで「Mac mini M4 Pro 48GB」を見る →

よくある質問

Gemma-2-Llama-Swallow 9Bを動かすのに必要なVRAMは？

4bit量子化（4bit（Q4_K_M））でファイル5.4GB、8,192トークンのKVキャッシュを含めて約8.0GBが必要です。GPU単体ならGeForce RTX 3080 10GB（VRAM 10GB）から実用速度で動きます。

Gemma-2-Llama-Swallow 9BはMacで動く？

動きます。ユニファイドメモリ16GB以上のApple Silicon（例: Apple M2 Pro（16GB））なら、4bit量子化で実用的な速さが出ます。

このクラスの選び方: ローカルLLM（8Bクラス）に必要なPC / MacかWindowsか

手持ちのPCで判定する