AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › Step-3.7-Flash

Step-3.7-Flash を動かすPCスペック(必要VRAM・メモリ・速度の目安)

総198B・アクティブ約11BのMoEで画像も読める。Apache 2.0。IQ4_XSならMac 128GBから収まる

118GB4bitで動かすのに要るメモリ(会話8,192トークン分込み)
ユニファイドメモリ向けGPU1枚のVRAMでは足りない
192GB実用になるいちばん小さいMac: M2 Ultra(192GB)
262,144最大コンテキスト(学習時)

編集部の見立て

StepFunが高頻度の業務処理向けに作った総198BのMoEで、配布元の説明では1トークンで働くのは約11B、画像も読めます。推論の深さはlow・medium・highの3段階。配布元は128GB以上のMacでの実行を挙げていますが、当サイトの計算で128GB機に収まるのはIQ4_XS(92.4GB)までです。

Q4_K_Mは8kの文脈込みで118.1GBあり、22.1GB足りません。M5 Max(128GB)では推定54tok/sで、快適の判定に入ります。Apache 2.0。128GBのMacで200B級を4bit相当で常用したい人の候補です。

量子化別の必要メモリ

ファイルサイズは Hugging Face(unsloth/Step-3.7-Flash-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(45層・うち33層は直近の範囲だけを見る層)から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ(8k)必要合計GPUならMacなら
2bit(IQ2_M)
品質劣化大。最後の手段
58GB0.4GB60GBGPU単体では不可96GB〜
3bit(Q3_K_M)
メモリ優先
83GB0.4GB87GBGPU単体では不可128GB〜
4bit(IQ4_XS)
Q4_K_Mより一回り小さい
89GB0.4GB92GBGPU単体では不可128GB〜
4bit(MXFP4 MoE)
MoE専用のMXFP4
110GB0.4GB114GBGPU単体では不可192GB〜
4bit(Q4_K_M)
標準。迷ったらこれ
114GB0.4GB118GBGPU単体では不可192GB〜
5bit(Q5_K_M)
品質重視
136GB0.4GB141GBGPU単体では不可192GB〜
6bit(Q6_K)
ほぼ無劣化
152GB0.4GB158GBGPU単体では不可256GB〜
8bit(Q8_0)
無劣化に近い
195GB0.4GB202GBGPU単体では不可512GB〜
16bit(BF16)
元精度
367GB0.4GB379GBGPU単体では不可512GB〜

モデルの構造と、必要メモリの増え方

Step-3.7-FlashはStepFunが2026年5月に公開した196.96Bのモデルです。GGUFのヘッダには45層と書かれており、総パラメータ196.96Bのうち、1トークンの生成で実際に読むのは約11Bです(MoE)。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

注意機構は混合型で、全域注意が12層、残り33層は窓512トークンのスライディングウィンドウです。コンテキストに比例して増えるのは全域注意の12層ぶん(1トークンあたり約48KB)だけで、スライディングウィンドウの33層は窓512トークンぶん(約0.1GB)で頭打ちになります。

実際の値は、8,192トークンで0.4GB、128Kトークンまで伸ばすと6.1GBです。

ライセンス表記: apache-2.0(層数と窓の大きさはGGUFヘッダから取得)

このモデルを実際に使うなら

速度はアクティブ約11Bで計算しており、IQ4_XSでM4 Max(128GB)が推定41.8tok/s、M3 Max(128GB)が33tok/sです。全域注意は12層だけで、残る33層は窓512の局所注意なので、長文で増えるのは全域の層ぶんです。1トークン48KBで、128GB機の実効96GBからIQ4_XSの92.4GBを引いた3.6GBなら、8kに加えて約7.9万トークンが入ります。

Ryzen AI Max+ 395(128GB)は実効85.8GBでIQ4_XSが届かず、IQ2_M(57.6GB)なら推定25tok/sです。llama.cppとvLLMに対応し、vLLMでは配布元のDockerイメージが推奨です。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはstep35で、当サイト収録の204モデル中1本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/Step-3.7-Flash-GGUF、元になったモデルはstepfun-ai/Step-3.7-Flashです。

得意分野は画像を含む文書の読み取りです。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(Q4_K_M)(114GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。このモデルは45層のうち33層がスライディングウィンドウ注意(窓512トークン)なので、長くしてもKVが伸びにくい構造です。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0960.3GB118GBGPU単体では不可192GB〜
8,192既定0.4GB118GBGPU単体では不可192GB〜
16,3840.8GB118GBGPU単体では不可192GB〜
32,7681.6GB119GBGPU単体では不可192GB〜
65,5363.1GB121GBGPU単体では不可192GB〜
131,0726.1GB124GBGPU単体では不可192GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約1.6GBから約0.8GBに減ります(品質はわずかに落ちます)。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
Qwen3.8-Flash-NextAlibaba91GB総177BのMoEで画像も読める。メモリ128GB級のMac/Strix Halo向け
MiniMax-M2.5 229B-A10BMiniMax135GBコードとエージェント用途に重点を置いた229BのMoE(アクティブ10B)。Mac 192GB以上が対象
Qwen3 235B-A22BAlibaba138GBメモリ128GB級のMac StudioやStrix Haloで動かす巨大なMoE
Mixtral 8x22BMistral AI84GBMixtralの上位(総141B・アクティブ39B)。Apache 2.0。Mac 128GB以上が対象
Inkling Small 264BThinking Machines157GB総264BのMoE。メモリ192GB以上のMac Studio級が対象
Ling 3.0 flashinclusionAI75GB総124B・アクティブ5.1BのMoE。MIT。Mac 96GB以上が対象

4bit(Q4_K_M)が動く機種と推定速度

4bit(Q4_K_M)なら5機種で20 tok/s以上、0機種で8〜20 tok/s(テキスト生成の推定・計算方法)。

快適 20 tok/s以上(5機種)

実用 8〜20 tok/s(0機種)

  • なし

遅い 動くが遅い(0機種)

  • なし

メモリに一部を逃がせば動く(0機種・CPUオフロード、PCのメモリ32GB想定)

  • なし
動かない機種(137)を見る

今のPCのまま、Step-3.7-Flashを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

Step-3.7-Flashは4bit(IQ4_XS)で89GB、8bitのQ8_0なら195GB。精度違いを3種類そろえるだけで約282GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

メモリ増設(32GB化)

Step-3.7-FlashはMoEで、1トークンごとに動くのは11B分だけです。だからGPUに全部載せなくても、システムメモリ側に置いて実用速度が出ます。必要なのは118GBぶんの空きで、この型はVRAMを足すより先にメモリを増やすほうが効きます。

ローカルLLM / AIエージェント入門書

Step-3.7-FlashのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

Step-3.7-Flashを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったりMac

Mac Studio M5 Ultra(メモリ256GB・SSD 2TB)

235B級のMoE型を1台で動かせる。帯域1.2TB/sはRTX 4090を上回る。個人で持てる上限

M5 Ultra(30コアCPU・64コアGPU)・ユニファイドメモリ256GB・SSD 2TB ・ 目安 167〜185万円

要件を満たす中で最も手頃

別の形なら常時稼働サーバー型

Mac Studio M5 Ultra(メモリ512GB)をLLMサーバに

DeepSeek V3級(671B)の4bitを1台で。帯域1.2TB/s。チームのローカルLLMサーバ

M5 Ultra(36コア・80コアGPU)・ユニファイドメモリ512GB・SSD 4TB ・ 目安 240〜280万円

別の形で同じ仕事をするなら

よくある質問

Step-3.7-Flashを動かすのに必要なVRAMは?

4bit量子化(4bit(Q4_K_M))でファイル114GB、8,192トークンのKVキャッシュを含めて約118GBが必要です。GPU単体のVRAMには載らず、Macのユニファイドメモリか複数GPUが必要です。

Step-3.7-FlashはMacで動く?

動きます。ユニファイドメモリ192GB以上のApple Silicon(例: Apple M2 Ultra(192GB))なら、4bit量子化で実用的な速さが出ます。

このクラスの選び方: ローカルLLM(70B〜120B MoE)に必要なPC / MacかWindowsか

手持ちのPCで判定する