gpt-oss-20b を動かすPCスペック（必要VRAM・メモリ・速度の目安）

OpenAI ・公開 2025-08 ・ 20.91Bパラメータ（MoE・アクティブ3.6B）・データ更新 2026-10-02

OpenAI初のオープンモデル。MXFP4でVRAM 16GBに載る

12GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 16GB実用になるいちばん安いGPU: GeForce RTX 5080

24GB実用になるいちばん小さいMac: M5 Pro（24GB）

131,072最大コンテキスト（学習時）

編集部の見立て

OpenAIが2025年8月に出したオープンウェイトのモデルで、配布元は低遅延やローカル用途向けと位置づけています。総パラメータ20.91Bのうち推論で動くのは3.6BのMoE。MoE部分はMXFP4で量子化した状態で学習後の調整がされ、配布ファイルは11.3GBの1種類です。

文脈8k分を含めても12.3GBで、VRAM 16GBのGPUに入る大きさ。RTX 5080なら190.8tok/s、M5 Pro（24GB）のMacは76.5tok/s、GPUのないRyzen AI Max+ 395（32GB）でも42.1tok/sという推定です。

量子化別の必要メモリ

ファイルサイズは Hugging Face（ggml-org/gpt-oss-20b-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（24層・うち12層は直近の範囲だけを見る層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
4bit（MXFP4） gpt-oss公式形式	11GB	0.2GB	12GB	VRAM 16GB〜	24GB〜

モデルの構造と、必要メモリの増え方

gpt-oss-20bはOpenAIが2025年8月に公開した20.91Bのモデルです。GGUFのヘッダには24層と書かれており、総パラメータ20.91Bのうち、1トークンの生成で実際に読むのは約3.6Bです（MoE）。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

注意機構は混合型で、全域注意が12層、残り12層は窓128トークンのスライディングウィンドウです。コンテキストに比例して増えるのは全域注意の12層ぶん（1トークンあたり約24KB）だけで、スライディングウィンドウの12層は窓128トークンぶん（約0.0GB）で頭打ちになります。

実際の値は、8,192トークンで0.2GB、学習時の上限131,072トークンまで伸ばすと3.0GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

最初の壁はharmonyという応答形式です。配布元はこの形式で使わないと正しく動かないと明記しています。OllamaやLM Studioのように手順が案内されているツールなら意識せずに済みますが、自前でプロンプトを組むと形式がずれやすい。考える深さはlow・medium・highの3段階で、システムプロンプトに「Reasoning: high」のように書いて切り替えます。

配布元の区分でlowは一般的な対話向けなので、普段の質問はlowで構いません。ライセンスはApache 2.0。KVは1トークン24KBで、131,072トークンを満杯にしても約3GB、本体と合わせて14GB台に収まる計算です。同じ20.91B/A3.6Bの骨格を国内の研究機関が手がけたGPT-OSS-Swallow 20Bも、比べておきたい相手です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはgpt-ossで、当サイト収録の204モデル中4本が同じ系統です。gpt-oss系。スライディングウィンドウ注意を1層おきに挟むMoEで、配布の標準形式はMXFP4です。

配布元はggml-org/gpt-oss-20b-GGUF、元になったモデルはopenai/gpt-oss-20bです。

得意分野は推論（段階を踏んで考える処理）です。

同じOpenAIのモデルでは、サイズの近いものにgpt-oss-120b（116.83B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（MXFP4）（11GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。このモデルは24層のうち12層がスライディングウィンドウ注意（窓128トークン）なので、長くしてもKVが伸びにくい構造です。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.1GB	12GB	VRAM 16GB〜	24GB〜
8,192既定	0.2GB	12GB	VRAM 16GB〜	24GB〜
16,384	0.4GB	12GB	VRAM 16GB〜	24GB〜
32,768	0.8GB	13GB	VRAM 16GB〜	24GB〜
65,536	1.5GB	14GB	VRAM 16GB〜	24GB〜
131,072	3.0GB	15GB	VRAM 16GB〜	24GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.8GBから約0.4GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
GPT-OSS-Swallow 20B	Swallow（東京科学大学・産総研）	16GB	gpt-oss-20bの日本語強化版。VRAM 16GBに載る
ERNIE 4.5 21B-A3B Thinking	Baidu	14GB	Baiduの推論型MoE（総21B・アクティブ3B）。Apache 2.0。VRAM 16GB / Mac 24GBから
Codestral 22B	Mistral AI	15GB	Mistralのコード専用22B。VRAM 16GB / Mac 24GBから
Devstral Small 2 24B	Mistral AI	16GB	Devstral Smallの第2世代。コーディングエージェント向け。VRAM 16GB / Mac 24GBから
Magistral Small 2509	Mistral AI	15GB	Mistralの推論モデル24B。VRAM 16GB
Devstral Small 2507	Mistral AI	15GB	コーディングエージェント向けに調整された24B。VRAM 16GB