LLM-jp-4 33B thinking を動かすPCスペック（必要VRAM・メモリ・速度の目安）

LLM-jp（国立情報学研究所）・公開 2026-08 ・ 33.22Bパラメータ・データ更新 2026-10-02

国産フルスクラッチの最新世代で、考えてから答える33B。Apache 2.0。VRAM 24GB / Mac 32GB向け

22GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090

36GB実用になるいちばん小さいMac: M5 Max（36GB）

65,536最大コンテキスト（学習時）

編集部の見立て

国立情報学研究所の研究開発センターが手がけたLLM-jp-4シリーズの33Bのdense型で、公開は2026年8月です。事前学習と中間学習で使った計11.7Tトークンのコーパスは、大半が公開されています。学習データまでたどれる国産モデルを手元に置きたい研究者や組織の候補。

Q4_K_Mのファイルは18.8GBあり、会話8k分を見込むと21.8GBが要ります。最低ラインはRTX 4090（推定33.5tok/s）、MacならM5 Max（36GB）で推定20.6tok/s。GPUなしのDDR5 64GB機は推定1.9tok/sで、対象外と考えたほうが早いです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（mmnga-o/llm-jp-4-33b-thinking-gguf）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（64層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
3bit（IQ3_M）メモリ優先	14GB	2.0GB	17GB	VRAM 20GB〜	32GB〜
3bit（Q3_K_M）メモリ優先	15GB	2.0GB	18GB	VRAM 20GB〜	32GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	17GB	2.0GB	20GB	VRAM 24GB〜	32GB〜
4bit（Q4_K_M）標準。迷ったらこれ	19GB	2.0GB	22GB	VRAM 24GB〜	36GB〜
5bit（Q5_K_M）品質重視	22GB	2.0GB	25GB	VRAM 32GB〜	48GB〜
6bit（Q6_K）ほぼ無劣化	25GB	2.0GB	29GB	VRAM 32GB〜	48GB〜
8bit（Q8_0）無劣化に近い	33GB	2.0GB	36GB	VRAM 48GB〜	64GB〜

モデルの構造と、必要メモリの増え方

LLM-jp-4 33B thinkingはLLM-jp（国立情報学研究所）が2026年8月に公開した33.22Bのモデルです。GGUFのヘッダには64層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。

全64層が全域注意で、KVヘッド8・head次元128。KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約256KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで2.0GB、学習時の上限65,536トークンまで伸ばすと16GBです。

このモデルを実際に使うなら

thinking版なので、答えの前に考える過程を出力します。1回の回答で生成するトークンが増えるぶん、推定33.5tok/sでも返事までの時間は長めに見ておきましょう。チャットテンプレートはOpenAIのHarmony形式と互換ですが、トークナイザーが違うため、openai-harmonyライブラリで直接トークン化する使い方は非対応と明記されています。

同梱のトークナイザーを使い、手順は配布元のcookbookに沿うのが確実。全64層がKVを持つ構造で1トークン256KBと重く、8kで約2GB、上限65,536トークンでは約16GBになります。RTX 4090の実効23.5GBなら1万5,000トークン前後が目安。

速さを優先するなら、同じシリーズのMoE版LLM-jp-4 32B-A3B thinkingが比較対象です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはllamaで、当サイト収録の204モデル中39本が同じ系統です。Llama系。最も広く使われているアーキテクチャで、対応していないツールを探すほうが難しい水準です。

配布元はmmnga-o/llm-jp-4-33b-thinking-gguf、元になったモデルはllm-jp/llm-jp-4-33b-thinkingです。

得意分野は推論（段階を踏んで考える処理）、日本語の文章です。

同じLLM-jp（国立情報学研究所）のモデルでは、サイズの近いものにLLM-jp-4 32B-A3B thinking（32.14B）、LLM-jp-3.1 13B（13.71B）、LLM-jp-4 8B thinking（8.59B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（19GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	1.0GB	21GB	VRAM 24GB〜	32GB〜
8,192既定	2.0GB	22GB	VRAM 24GB〜	36GB〜
16,384	4.0GB	24GB	VRAM 32GB〜	36GB〜
32,768	8.0GB	28GB	VRAM 32GB〜	48GB〜
65,536	16GB	36GB	VRAM 48GB〜	48GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約8.0GBから約4.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Laguna XS 2.1 33B-A3B	poolside	21GB	手元のMacで動かす前提のコード用MoE（総33B・アクティブ3B）。VRAM 20GB / Mac 32GBから
Qwen3-VL 32B	Alibaba	21GB	画像理解の上位。VRAM 24GB
ABEJA Qwen2.5 32B Japanese	ABEJA	22GB	日本語追加学習の32B。VRAM 24GB
ELYZA-Shortcut-1.0 Qwen 32B	ELYZA	22GB	推論過程を省いて速く答える日本語32B
ELYZA-Thinking-1.0 Qwen 32B	ELYZA	22GB	考えてから答える日本語の推論型32B。VRAM 24GB
Qwen3 32B	Alibaba	21GB	VRAM 24GBで動かせる最大級のdense型モデル