Mistral Large 3 675B を動かすPCスペック(必要VRAM・メモリ・速度の目安)
Mistralの最上位MoE(総673B・アクティブ39B)。Apache 2.0。Q4_K_Mは512GBのMacにも載らず、IQ4_XSかMXFP4で収まる
編集部の見立て
Mistral AIが2025年12月に出した最上位で、総673Bの言語モデルに2.5Bの画像エンコーダを重ねたMoEです。1トークンで動くのは39B。配布元は長い文書の読解、企業向けの検索連携、ツール呼び出しを主用途に挙げ、専用の推論モデルではないと明記しています。
Q4_K_Mは379GBで、8kの文脈込みで391.9GB。M5 Ultra(512GB)の実効384GBにも入らず、当サイトの収録機種には4bitで収まる1台がありません。Apache 2.0で条件は緩いものの、動かせる機材がない。APIで使うか、サーバー機を組む人向けです。
量子化別の必要メモリ
ファイルサイズは Hugging Face(unsloth/Mistral-Large-3-675B-Instruct-2512-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(61層・KVを圧縮するMLA方式)から計算しています。必要メモリの合計には計算用のバッファも含めています。
| 量子化 | ファイル | KVキャッシュ(8k) | 必要合計 | GPUなら | Macなら |
|---|---|---|---|---|---|
| 2bit(IQ2_M) 品質劣化大。最後の手段 | 219GB | 1.0GB | 227GB | GPU単体では不可 | 512GB〜 |
| 2bit(Q2_K) 品質劣化大。最後の手段 | 230GB | 1.0GB | 239GB | GPU単体では不可 | 512GB〜 |
| 3bit(Q3_K_M) メモリ優先 | 300GB | 1.0GB | 310GB | GPU単体では不可 | 512GB〜 |
| 4bit(IQ4_XS) Q4_K_Mより一回り小さい | 335GB | 1.0GB | 347GB | GPU単体では不可 | 512GB〜 |
| 4bit(Q4_K_M) 標準。迷ったらこれ | 379GB | 1.0GB | 392GB | GPU単体では不可 | 不可 |
| 5bit(Q5_K_M) 品質重視 | 445GB | 1.0GB | 460GB | GPU単体では不可 | 不可 |
| 6bit(Q6_K) ほぼ無劣化 | 515GB | 1.0GB | 532GB | GPU単体では不可 | 不可 |
| 8bit(Q8_0) 無劣化に近い | 667GB | 1.0GB | 688GB | GPU単体では不可 | 不可 |
| 16bit(BF16) 元精度 | 1254GB | 1.0GB | 1294GB | GPU単体では不可 | 不可 |
モデルの構造と、必要メモリの増え方
Mistral Large 3 675BはMistral AIが2025年12月に公開した673.42Bのモデルです。GGUFのヘッダには61層と書かれており、総パラメータ673.42Bのうち、1トークンの生成で実際に読むのは約39Bです(MoE)。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。
KVを低ランク(rank 512)に圧縮するMLA方式です。同じ規模の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約130KB(fp16)で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.0GB、128Kトークンまで伸ばすと16GBです。
ライセンス表記: apache-2.0(層数と窓の大きさはGGUFヘッダから取得)
このモデルを実際に使うなら
512GBのMacで無理に動かすなら、量子化を一段落とす道だけ残ります。IQ4_XSが335.2GB、Q3_K_Mが299.7GB。実効384GBから引いた残りが文脈と作業用の全部で、KVはMLA構造のため1トークン130KBと総量の割に軽く、32kで約4GB、学習上限の256kでも32.5GBです。
速度の推定は当サイトに載っていないので、判定は付けられません。配布元が想定する実行環境はH200を8枚並べたサーバーです。同じ2025年12月に出た下位のMistral Small 4 119Bはアクティブ6.5Bで、必要量71.6GB、M5 Ultra(96GB)で推定100.4tok/s。
学習上限もSmall 4は100万トークンと長い。配布元は温度0.1未満を勧め、ツールは最小限の数に絞るよう書いています。画像を読ませるにはmmprojファイルが別途要ります。
このモデルの系統
GGUFヘッダに書かれたアーキテクチャはdeepseek2で、当サイト収録の204モデル中4本が同じ系統です。DeepSeek系。KVを圧縮するMLAを使い、同規模のモデルよりKVキャッシュが小さく済みます。
配布元はunsloth/Mistral-Large-3-675B-Instruct-2512-GGUF、元になったモデルはmistralai/Mistral-Large-3-675B-Instruct-2512です。
得意分野は画像を含む文書の読み取りです。
同じMistral AIのモデルでは、サイズの近いものにMixtral 8x22B(140.63B)、Devstral 2 123B(125.03B)、Mistral Small 4 119B(118.97B)があります。
コンテキスト長を伸ばすと必要メモリはどう増えるか
長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(Q4_K_M)(379GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。MLA(圧縮KV)採用のため、長いコンテキストでもKVが小さく収まります。
| コンテキスト | KVキャッシュ | 必要合計 | 必要なGPU | 必要なMac |
|---|---|---|---|---|
| 4,096 | 0.5GB | 391GB | GPU単体では不可 | 不可 |
| 8,192既定 | 1.0GB | 392GB | GPU単体では不可 | 不可 |
| 16,384 | 2.0GB | 393GB | GPU単体では不可 | 不可 |
| 32,768 | 4.1GB | 395GB | GPU単体では不可 | 不可 |
| 65,536 | 8.1GB | 399GB | GPU単体では不可 | 不可 |
| 131,072 | 16GB | 407GB | GPU単体では不可 | 不可 |
KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約4.1GBから約2.0GBに減ります(品質はわずかに落ちます)。
同じサイズ帯の他のモデル
| モデル | 開発元 | 4bitで必要 | 一言 |
|---|---|---|---|
| RakutenAI-3.0 671B-A37B | 楽天 | 390GB | 日本語向けに調整した671BのMoE(アクティブ37B)。Mac 512GB級が対象 |
| GLM-5.3 | Z.ai | 352GB | 総754BのMoE。4bitでも400GB級で、Mac Studio 512GBが対象 |
| Qwen3-Coder 480B-A35B | Alibaba | 281GB | Qwen3-Coderの最上位MoE(総480B・アクティブ35B)。Apache 2.0。Mac 512GB以上が対象 |
| Kimi K2.6 | Moonshot AI | 329GB | 総1T・アクティブ32BのMoE。2〜3bitでも300GBを超え、Mac 512GBの構成が対象 |
4bit(Q4_K_M)が動く機種と推定速度
4bit(Q4_K_M)なら0機種で20 tok/s以上、0機種で8〜20 tok/s(テキスト生成の推定・計算方法)。
快適 20 tok/s以上(0機種)
- なし
実用 8〜20 tok/s(0機種)
- なし
遅い 動くが遅い(0機種)
- なし
メモリに一部を逃がせば動く(0機種・CPUオフロード、PCのメモリ32GB想定)
- なし
動かない機種(142)を見る
- GeForce RTX 3060 12GB あと380GB
- GeForce RTX 3060 Ti あと384GB
- GeForce RTX 3070 あと384GB
- GeForce RTX 3070 Ti あと384GB
- GeForce RTX 3080 10GB あと382GB
- GeForce RTX 3080 12GB あと380GB
- GeForce RTX 3080 Ti あと380GB
- GeForce RTX 3090 あと368GB
- GeForce RTX 3090 Ti あと368GB
- GeForce RTX 4060 あと384GB
- GeForce RTX 4060 Ti 8GB あと384GB
- GeForce RTX 4060 Ti 16GB あと376GB
- GeForce RTX 4070 あと380GB
- GeForce RTX 4070 SUPER あと380GB
- GeForce RTX 4070 Ti あと380GB
- GeForce RTX 4070 Ti SUPER あと376GB
- GeForce RTX 4080 あと376GB
- GeForce RTX 4080 SUPER あと376GB
- GeForce RTX 4090 あと368GB
- GeForce RTX 5060 あと384GB
- GeForce RTX 5060 Ti 8GB あと384GB
- GeForce RTX 5060 Ti 16GB あと376GB
- GeForce RTX 5070 あと380GB
- GeForce RTX 5070 Ti あと376GB
- GeForce RTX 5080 あと376GB
- GeForce RTX 5090 あと360GB
- GeForce RTX 3050 8GB あと384GB
- GeForce RTX 5050 あと384GB
- GeForce RTX 2060 6GB あと386GB
- GeForce RTX 2060 12GB あと380GB
- GeForce RTX 2060 SUPER あと384GB
- GeForce RTX 2070 あと384GB
- GeForce RTX 2070 SUPER あと384GB
- GeForce RTX 2080 あと384GB
- GeForce RTX 2080 SUPER あと384GB
- GeForce RTX 2080 Ti あと381GB
- GeForce GTX 1080 Ti あと381GB
- RTX 2000 Ada あと376GB
- RTX 6000 Ada あと344GB
- GeForce RTX 3050 Laptop あと388GB
- GeForce RTX 3060 Laptop あと386GB
- GeForce RTX 3070 Laptop あと384GB
- GeForce RTX 3080 Laptop 16GB あと376GB
- GeForce RTX 3080 Ti Laptop あと376GB
- GeForce RTX 4050 Laptop あと386GB
- GeForce RTX 4060 Laptop あと384GB
- GeForce RTX 4070 Laptop あと384GB
- GeForce RTX 4080 Laptop あと380GB
- GeForce RTX 4090 Laptop あと376GB
- GeForce RTX 5060 Laptop あと384GB
- GeForce RTX 5070 Laptop あと384GB
- GeForce RTX 5070 Ti Laptop あと380GB
- GeForce RTX 5080 Laptop あと376GB
- GeForce RTX 5090 Laptop あと368GB
- Radeon RX 7600 あと384GB
- Radeon RX 7700 XT あと380GB
- Radeon RX 7800 XT あと376GB
- Radeon RX 7900 XT あと372GB
- Radeon RX 7900 XTX あと368GB
- Radeon RX 7600 XT 16GB あと376GB
今のPCのまま、Mistral Large 3 675Bを動かすために足すもの
PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
NVMe SSD / 外付けSSD 2TB
Mistral Large 3 675Bは4bit(IQ4_XS)で335GB、8bitのQ8_0なら667GB。精度違いを3種類そろえるだけで約1014GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。
メモリ増設(32GB化)
Mistral Large 3 675BはMoEで、1トークンごとに動くのは39B分だけです。だからGPUに全部載せなくても、システムメモリ側に置いて実用速度が出ます。必要なのは392GBぶんの空きで、この型はVRAMを足すより先にメモリを増やすほうが効きます。
ローカルLLM / AIエージェント入門書
Mistral Large 3 675BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。
Mistral Large 3 675Bを動かせるPC・Macを今日買うなら
PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
GPUなし開発デスクトップ(メモリ32GB・SSD 1TB)
コーディングAI・データ分析・自動化のサーバ役。GPUは後から足せる
Ryzen 7 / Core i7 クラス・メモリ32GB・NVMe 1TB・電源650W以上(GPU増設余地) ・ 目安 12〜18万円
この形態に要件を満たす機種がありません: VRAM 393GB以上が必要
よくある質問
Mistral Large 3 675Bを動かすのに必要なVRAMは?
4bit量子化(4bit(Q4_K_M))でファイル379GB、8,192トークンのKVキャッシュを含めて約392GBが必要です。GPU単体のVRAMには載らず、Macのユニファイドメモリか複数GPUが必要です。
Mistral Large 3 675BはMacで動く?
収録したApple Silicon構成では4bit量子化が実効メモリに載りません。
このクラスの選び方: ローカルLLM(70B〜120B MoE)に必要なPC / MacかWindowsか