AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップモデル別 › LLM-jp-3.1 13B

LLM-jp-3.1 13B を動かすPCスペック(必要VRAM・メモリ・速度の目安)

国産のフルスクラッチ日本語モデル。VRAM 12GB

15GB4bitで必要なメモリ(KV 8k込み)
VRAM 16GB最安で実用: GeForce RTX 5080 Laptop
24GBMac最小構成: M4 Pro(24GB)
4,096最大コンテキスト(学習時)

量子化別の必要メモリ

ファイルサイズは Hugging Face(mmnga/llm-jp-3.1-13b-instruct4-gguf) の実サイズ(事実)。KVキャッシュは8,192トークン・fp16でモデル構造(40層)から計算。必要メモリ合計には計算バッファを含みます。

量子化ファイルKV(8k)必要合計GPUならMacなら
2bit(IQ2_M)
品質劣化大。最後の手段
4.6GB6.3GB11GBVRAM 12GB〜18GB〜
2bit(Q2_K)
品質劣化大。最後の手段
4.9GB6.3GB12GBVRAM 16GB〜18GB〜
3bit(IQ3_M)
メモリ優先
6.0GB6.3GB13GBVRAM 16GB〜24GB〜
3bit(Q3_K_M)
メモリ優先
6.3GB6.3GB13GBVRAM 16GB〜24GB〜
4bit(IQ4_XS)
Q4_K_Mより一回り小さい
6.9GB6.3GB14GBVRAM 16GB〜24GB〜
4bit(Q4_K_M)
標準。迷ったらこれ
7.8GB6.3GB15GBVRAM 16GB〜24GB〜
5bit(Q5_K_M)
品質重視
9.1GB6.3GB16GBVRAM 20GB〜32GB〜
6bit(Q6_K)
ほぼ無劣化
10GB6.3GB18GBVRAM 20GB〜32GB〜
8bit(Q8_0)
無劣化に近い
14GB6.3GB21GBVRAM 24GB〜32GB〜

4bit(Q4_K_M)が動く機種と推定速度

速度はテキスト生成(tok/s)の推定。「較正」= 同機種のllama.cpp公開ベンチマークで実効係数を合わせた推定、「推定」= 同系統機種の係数を流用。10 tok/s で人が読む速さの約2倍です。

快適 20 tok/s以上(40機種)

実用 8〜20 tok/s(15機種)

CPUオフロードで動く(28機種・システムメモリ32GB想定)

動かない機種(17)を見る

LLM-jp-3.1 13Bを動かせるPC・Macを今日買うなら

PR: 以下は広告リンクを含みます(Amazonアソシエイト・各社アフィリエイト)。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったり自作

自作: RTX 5070 Ti(16GB)・メモリ32GB

BTOより同予算で一段上のGPUに届く。画像生成とローカルLLMの定番

Ryzen 7 9700X・DDR5 16GB×2・RTX 5070 Ti・NVMe 2TB・電源850W ・ 目安 27〜35万円

要件を満たす中で最も手頃

余裕を持つなら自作

自作: RTX 5090(32GB)・メモリ96GB

動画生成・学習・32B LLM。メモリ96GBで大型MoEのCPUオフロードも

Ryzen 9 9950X・DDR5 48GB×2・RTX 5090・NVMe 4TB・電源1000W・大型ケース ・ 目安 60〜80万円

将来の用途拡張(大きなモデル・並列エージェント)に余裕

別の形ならMac

Mac mini M4 Pro(メモリ48GB・SSD 1TB)

30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心

M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円

Macで同じ仕事をするなら

よくある質問

LLM-jp-3.1 13Bを動かすのに必要なVRAMは?

4bit量子化(4bit(Q4_K_M))でファイル7.8GB、8,192トークンのKVキャッシュを含めて約15GBが必要です。GPU単体ならGeForce RTX 5080 Laptop(VRAM 16GB)から実用速度で動きます。

LLM-jp-3.1 13BはMacで動く?

動きます。ユニファイドメモリ24GB以上のApple Silicon(例: Apple M4 Pro(24GB))で4bit量子化が実用速度です。

このクラスの選び方: ローカルLLM(27〜32Bクラス)に必要なPC / MacかWindowsか

手持ちのPCで判定する