Stockmark-2 100B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Stockmark ・公開 2025-07 ・ 96Bパラメータ・データ更新 2026-10-02

ビジネス文書に強みを置く国産の100B（dense型）。MIT。Mac 96GB以上が対象

58GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

ユニファイドメモリ向けGPU1枚のVRAMでは足りない

96GB実用になるいちばん小さいMac: M5 Ultra（96GB）

32,768最大コンテキスト（学習時）

編集部の見立て

96Bのパラメータを一から学習した国産のdense型モデルです。配布元によると学習量は約2.0兆トークンで、英語6割・日本語3割・コード1割。MoEではないので、1トークンごとに96B全部を読みます。4bitに落として8kの文脈を持たせると58.5GB。単体GPUで収まるものは当サイトのDBになく、MacはM5 Ultra（96GB）の推定11.9tok/sが最低ラインです。

GPUなしで128GB積んでも推定0.7tok/s。国産の大型モデルを社外に出さずに回したい組織が、ユニファイドメモリ96GB以上のMacを用意して使うモデルです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（a4lg/Stockmark-2-100B-Instruct-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（86層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（Q2_K）品質劣化大。最後の手段	33GB	2.7GB	37GB	VRAM 48GB〜	64GB〜
3bit（Q3_K_M）メモリ優先	43GB	2.7GB	48GB	GPU単体では不可	64GB〜
4bit（Q4_K_M）標準。迷ったらこれ	54GB	2.7GB	58GB	GPU単体では不可	96GB〜
5bit（Q5_K_M）品質重視	63GB	2.7GB	68GB	GPU単体では不可	96GB〜
6bit（Q6_K）ほぼ無劣化	73GB	2.7GB	79GB	GPU単体では不可	128GB〜
8bit（Q8_0）無劣化に近い	95GB	2.7GB	101GB	GPU単体では不可	192GB〜
16bit（BF16）元精度	179GB	2.7GB	187GB	GPU単体では不可	256GB〜

モデルの構造と、必要メモリの増え方

Stockmark-2 100BはStockmarkが2025年7月に公開した96Bのモデルです。GGUFのヘッダには86層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全86層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約344KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで2.7GB、学習時の上限32,768トークンまで伸ばすと11GBです。

ライセンス表記: mit（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

配布はa4lgによるGGUFで、Q4_K_Mが53.7GB、Q3_K_Mが43.2GB。Mac 64GB（実効48GB）にQ3_K_Mを載せると、8k分のKV 2.7GBを足して46GB前後です。動いても余白はほとんど残りません。文脈の上限は32Kで、KVは1トークン344KB。

32Kいっぱいなら10.8GBが加わり、Q4_K_Mと合わせて64.5GBになります。実効72GBの96GB機なら収まる計算。推定11.9tok/sなので、2,000トークンの報告書を頼むと3分近く待ちます。対話より、夜間にまとめて処理させる使い方が合っています。

似た規模のGLM-4.5-Air 106B-A12BはMoEで、速度の出方がまったく違う。速さを優先するならそちらと比べましょう。ライセンスはMITです。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはllamaで、当サイト収録の204モデル中39本が同じ系統です。Llama系。最も広く使われているアーキテクチャで、対応していないツールを探すほうが難しい水準です。

配布元はa4lg/Stockmark-2-100B-Instruct-GGUF、元になったモデルはstockmark/Stockmark-2-100B-Instructです。

得意分野は日本語の文章です。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（54GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	1.3GB	57GB	GPU単体では不可	96GB〜
8,192既定	2.7GB	58GB	GPU単体では不可	96GB〜
16,384	5.4GB	61GB	GPU単体では不可	96GB〜
32,768	11GB	67GB	GPU単体では不可	96GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約11GBから約5.4GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Llama 4 Scout 17B-16E	Meta	65GB	総109BのMoE。メモリ64GB以上
GLM-4.5-Air 106B-A12B	Z.ai	72GB	メモリ64GB以上向けの高性能MoE
Command A 111B	Cohere	66GB	Cohereの111B（dense型）。研究用途向けライセンス（CC BY-NC）。Mac 96GB以上が対象
Hunyuan-A13B 80B	Tencent	49GB	Tencentの80BのMoE（アクティブ13B）。VRAM 48GB / Mac 64GBから
Qwen3-Coder-Next 80B-A3B	Alibaba	47GB	ローカルのコーディングエージェント用途で最有力のMoE。メモリ64GB級
Qwen3-Next 80B-A3B	Alibaba	47GB	注意機構がハイブリッド型で、長文でもKVキャッシュが膨らみにくい