AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › Mistral Large 3 675B

Mistral Large 3 675B を動かすPCスペック(必要VRAM・メモリ・速度の目安)

Mistralの最上位MoE(総673B・アクティブ39B)。Apache 2.0。Q4_K_Mは512GBのMacにも載らず、IQ4_XSかMXFP4で収まる

392GB4bitで動かすのに要るメモリ(会話8,192トークン分込み)
ユニファイドメモリ向けGPU1枚のVRAMでは足りない
不可収録しているMacでは足りない
294,912最大コンテキスト(学習時)

編集部の見立て

Mistral AIが2025年12月に出した最上位で、総673Bの言語モデルに2.5Bの画像エンコーダを重ねたMoEです。1トークンで動くのは39B。配布元は長い文書の読解、企業向けの検索連携、ツール呼び出しを主用途に挙げ、専用の推論モデルではないと明記しています。

Q4_K_Mは379GBで、8kの文脈込みで391.9GB。M5 Ultra(512GB)の実効384GBにも入らず、当サイトの収録機種には4bitで収まる1台がありません。Apache 2.0で条件は緩いものの、動かせる機材がない。APIで使うか、サーバー機を組む人向けです。

量子化別の必要メモリ

ファイルサイズは Hugging Face(unsloth/Mistral-Large-3-675B-Instruct-2512-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(61層・KVを圧縮するMLA方式)から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ(8k)必要合計GPUならMacなら
2bit(IQ2_M)
品質劣化大。最後の手段
219GB1.0GB227GBGPU単体では不可512GB〜
2bit(Q2_K)
品質劣化大。最後の手段
230GB1.0GB239GBGPU単体では不可512GB〜
3bit(Q3_K_M)
メモリ優先
300GB1.0GB310GBGPU単体では不可512GB〜
4bit(IQ4_XS)
Q4_K_Mより一回り小さい
335GB1.0GB347GBGPU単体では不可512GB〜
4bit(Q4_K_M)
標準。迷ったらこれ
379GB1.0GB392GBGPU単体では不可不可
5bit(Q5_K_M)
品質重視
445GB1.0GB460GBGPU単体では不可不可
6bit(Q6_K)
ほぼ無劣化
515GB1.0GB532GBGPU単体では不可不可
8bit(Q8_0)
無劣化に近い
667GB1.0GB688GBGPU単体では不可不可
16bit(BF16)
元精度
1254GB1.0GB1294GBGPU単体では不可不可

モデルの構造と、必要メモリの増え方

Mistral Large 3 675BはMistral AIが2025年12月に公開した673.42Bのモデルです。GGUFのヘッダには61層と書かれており、総パラメータ673.42Bのうち、1トークンの生成で実際に読むのは約39Bです(MoE)。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

KVを低ランク(rank 512)に圧縮するMLA方式です。同じ規模の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約130KB(fp16)で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.0GB、128Kトークンまで伸ばすと16GBです。

ライセンス表記: apache-2.0(層数と窓の大きさはGGUFヘッダから取得)

このモデルを実際に使うなら

512GBのMacで無理に動かすなら、量子化を一段落とす道だけ残ります。IQ4_XSが335.2GB、Q3_K_Mが299.7GB。実効384GBから引いた残りが文脈と作業用の全部で、KVはMLA構造のため1トークン130KBと総量の割に軽く、32kで約4GB、学習上限の256kでも32.5GBです。

速度の推定は当サイトに載っていないので、判定は付けられません。配布元が想定する実行環境はH200を8枚並べたサーバーです。同じ2025年12月に出た下位のMistral Small 4 119Bはアクティブ6.5Bで、必要量71.6GB、M5 Ultra(96GB)で推定100.4tok/s。

学習上限もSmall 4は100万トークンと長い。配布元は温度0.1未満を勧め、ツールは最小限の数に絞るよう書いています。画像を読ませるにはmmprojファイルが別途要ります。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはdeepseek2で、当サイト収録の204モデル中4本が同じ系統です。DeepSeek系。KVを圧縮するMLAを使い、同規模のモデルよりKVキャッシュが小さく済みます。

配布元はunsloth/Mistral-Large-3-675B-Instruct-2512-GGUF、元になったモデルはmistralai/Mistral-Large-3-675B-Instruct-2512です。

得意分野は画像を含む文書の読み取りです。

同じMistral AIのモデルでは、サイズの近いものにMixtral 8x22B(140.63B)、Devstral 2 123B(125.03B)、Mistral Small 4 119B(118.97B)があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(Q4_K_M)(379GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。MLA(圧縮KV)採用のため、長いコンテキストでもKVが小さく収まります。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0960.5GB391GBGPU単体では不可不可
8,192既定1.0GB392GBGPU単体では不可不可
16,3842.0GB393GBGPU単体では不可不可
32,7684.1GB395GBGPU単体では不可不可
65,5368.1GB399GBGPU単体では不可不可
131,07216GB407GBGPU単体では不可不可

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約4.1GBから約2.0GBに減ります(品質はわずかに落ちます)。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
RakutenAI-3.0 671B-A37B楽天390GB日本語向けに調整した671BのMoE(アクティブ37B)。Mac 512GB級が対象
GLM-5.3Z.ai352GB総754BのMoE。4bitでも400GB級で、Mac Studio 512GBが対象
Qwen3-Coder 480B-A35BAlibaba281GBQwen3-Coderの最上位MoE(総480B・アクティブ35B)。Apache 2.0。Mac 512GB以上が対象
Kimi K2.6Moonshot AI329GB総1T・アクティブ32BのMoE。2〜3bitでも300GBを超え、Mac 512GBの構成が対象

4bit(Q4_K_M)が動く機種と推定速度

4bit(Q4_K_M)なら0機種で20 tok/s以上、0機種で8〜20 tok/s(テキスト生成の推定・計算方法)。

快適 20 tok/s以上(0機種)

  • なし

実用 8〜20 tok/s(0機種)

  • なし

遅い 動くが遅い(0機種)

  • なし

メモリに一部を逃がせば動く(0機種・CPUオフロード、PCのメモリ32GB想定)

  • なし
動かない機種(142)を見る

今のPCのまま、Mistral Large 3 675Bを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

Mistral Large 3 675Bは4bit(IQ4_XS)で335GB、8bitのQ8_0なら667GB。精度違いを3種類そろえるだけで約1014GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

メモリ増設(32GB化)

Mistral Large 3 675BはMoEで、1トークンごとに動くのは39B分だけです。だからGPUに全部載せなくても、システムメモリ側に置いて実用速度が出ます。必要なのは392GBぶんの空きで、この型はVRAMを足すより先にメモリを増やすほうが効きます。

ローカルLLM / AIエージェント入門書

Mistral Large 3 675BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

Mistral Large 3 675Bを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

近いものデスクトップ(BTO)

GPUなし開発デスクトップ(メモリ32GB・SSD 1TB)

コーディングAI・データ分析・自動化のサーバ役。GPUは後から足せる

Ryzen 7 / Core i7 クラス・メモリ32GB・NVMe 1TB・電源650W以上(GPU増設余地) ・ 目安 12〜18万円

この形態に要件を満たす機種がありません: VRAM 393GB以上が必要

よくある質問

Mistral Large 3 675Bを動かすのに必要なVRAMは?

4bit量子化(4bit(Q4_K_M))でファイル379GB、8,192トークンのKVキャッシュを含めて約392GBが必要です。GPU単体のVRAMには載らず、Macのユニファイドメモリか複数GPUが必要です。

Mistral Large 3 675BはMacで動く?

収録したApple Silicon構成では4bit量子化が実効メモリに載りません。

このクラスの選び方: ローカルLLM(70B〜120B MoE)に必要なPC / MacかWindowsか

手持ちのPCで判定する