GPT-OSS-Swallow 20B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Swallow（東京科学大学・産総研）・公開 2026-02 ・ 20.91Bパラメータ（MoE・アクティブ3.6B）・データ更新 2026-10-02

gpt-oss-20bの日本語強化版。VRAM 16GBに載る

16GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 20GB実用になるいちばん安いGPU: Radeon RX 7900 XT

24GB実用になるいちばん小さいMac: M5 Pro（24GB）

131,072最大コンテキスト（学習時）

編集部の見立て

gpt-oss-20bを土台に、Swallowチームが日本語と日英翻訳を強めた20.91BのMoEで、推論時に動くのは3.6B分です。16GBのGPUではわずかに届かない大きさで、Q4_K_Mは14.7GB、8kの文脈込みで15.8GB。実効15.5GBに0.3GB足りません。

収まるGPUで最も手頃なのはRadeon RX 7900 XT（20GB）で推定102tok/s。MacはM5 Pro（24GB）で推定59.2tok/sですが、実効16.1GBに対して残りは0.3GBです。GPUなしならRyzen AI Max+ 395（32GB）で推定32.6tok/sが出ます。

量子化別の必要メモリ

ファイルサイズは Hugging Face（mmnga-o/GPT-OSS-Swallow-20B-RL-v0.1-gguf）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（24層・うち12層は直近の範囲だけを見る層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
4bit（IQ4_XS） Q4_K_Mより一回り小さい	11GB	0.2GB	12GB	VRAM 16GB〜	24GB〜
3bit（IQ3_M）メモリ優先	11GB	0.2GB	12GB	VRAM 16GB〜	24GB〜
3bit（Q3_K_M）メモリ優先	12GB	0.2GB	13GB	VRAM 16GB〜	24GB〜
4bit（Q4_K_M）標準。迷ったらこれ	15GB	0.2GB	16GB	VRAM 20GB〜	24GB〜
5bit（Q5_K_M）品質重視	16GB	0.2GB	17GB	VRAM 20GB〜	32GB〜
6bit（Q6_K）ほぼ無劣化	21GB	0.2GB	22GB	VRAM 24GB〜	36GB〜
8bit（Q8_0）無劣化に近い	21GB	0.2GB	22GB	VRAM 24GB〜	36GB〜

モデルの構造と、必要メモリの増え方

GPT-OSS-Swallow 20BはSwallow（東京科学大学・産総研）が2026年2月に公開した20.91Bのモデルです。GGUFのヘッダには24層と書かれており、総パラメータ20.91Bのうち、1トークンの生成で実際に読むのは約3.6Bです（MoE）。

メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。注意機構は混合型で、全域注意が12層、残り12層は窓128トークンのスライディングウィンドウです。コンテキストに比例して増えるのは全域注意の12層ぶん（1トークンあたり約24KB）だけで、スライディングウィンドウの12層は窓128トークンぶん（約0.0GB）で頭打ちになります。

実際の値は、8,192トークンで0.2GB、学習時の上限131,072トークンまで伸ばすと3.0GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

16GBのGPUで使うなら、IQ4_XS（11.3GB）まで下げるのが現実的です。本家のgpt-oss-20bは配布ファイルがMXFP4の11.3GBだけでしたが、こちらのQ4_K_Mは14.7GBに膨らむため、同じ感覚で選ぶと溢れます。もう一つの違いは考える深さ。

本家は普段の質問をlowで回せても、Swallow版は深さを変える学習をしておらず、配布元はmediumのまま使うよう勧めています。SFT版とRL版が別々に公開されていて、DBの数字はRL版のもの。KVは全域注意12層ぶんで1トークン24KBと軽く、推奨上限の32,768トークンでも約0.75GBです。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはgpt-ossで、当サイト収録の204モデル中4本が同じ系統です。gpt-oss系。スライディングウィンドウ注意を1層おきに挟むMoEで、配布の標準形式はMXFP4です。

配布元はmmnga-o/GPT-OSS-Swallow-20B-RL-v0.1-gguf、元になったモデルはtokyotech-llm/GPT-OSS-Swallow-20B-RL-v0.1です。

得意分野は推論（段階を踏んで考える処理）、日本語の文章です。

同じSwallow（東京科学大学・産総研）のモデルでは、サイズの近いものにGemma-2-Llama-Swallow 27B（27.23B）、Qwen3-Swallow 30B-A3B（30.53B）、Gemma-2-Llama-Swallow 9B（9.24B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（15GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。このモデルは24層のうち12層がスライディングウィンドウ注意（窓128トークン）なので、長くしてもKVが伸びにくい構造です。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.1GB	16GB	VRAM 20GB〜	24GB〜
8,192既定	0.2GB	16GB	VRAM 20GB〜	24GB〜
16,384	0.4GB	16GB	VRAM 20GB〜	24GB〜
32,768	0.8GB	16GB	VRAM 20GB〜	32GB〜
65,536	1.5GB	17GB	VRAM 20GB〜	32GB〜
131,072	3.0GB	19GB	VRAM 20GB〜	32GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.8GBから約0.4GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
gpt-oss-20b	OpenAI	12GB	OpenAI初のオープンモデル。MXFP4でVRAM 16GBに載る
ERNIE 4.5 21B-A3B Thinking	Baidu	14GB	Baiduの推論型MoE（総21B・アクティブ3B）。Apache 2.0。VRAM 16GB / Mac 24GBから
Codestral 22B	Mistral AI	15GB	Mistralのコード専用22B。VRAM 16GB / Mac 24GBから
Devstral Small 2 24B	Mistral AI	16GB	Devstral Smallの第2世代。コーディングエージェント向け。VRAM 16GB / Mac 24GBから
Magistral Small 2509	Mistral AI	15GB	Mistralの推論モデル24B。VRAM 16GB
Devstral Small 2507	Mistral AI	15GB	コーディングエージェント向けに調整された24B。VRAM 16GB