AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › LFM2.5 8B-A1B

LFM2.5 8B-A1B を動かすPCスペック(必要VRAM・メモリ・速度の目安)

総8.3B・アクティブ1.5BのMoE。GPUなしのメモリ8GBのPCでも速い

5.7GB4bitで動かすのに要るメモリ(会話8,192トークン分込み)
VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti
16GB実用になるいちばん小さいMac: M2 Pro(16GB)
128,000最大コンテキスト(学習時)

編集部の見立て

Liquid AIが端末上で動かす前提で作ったハイブリッド構造のMoEで、総8.47Bのうち1トークンで働くのは1.5Bです。配布元が勧めるのは、ツール呼び出しを重ねるエージェント、構造化出力、多言語のアシスタント。日本語も対応言語に入っています。IQ4_XSなら4.7GBで、メモリ8GBのM2で推定65.1tok/s、GPUなしのDDR4機でも推定17.2tok/s。

重いプログラミングと、検索なしで知識を問う質問は不向きだと配布元自身が書いています。ノートにエージェントを常駐させたい人の候補。

量子化別の必要メモリ

ファイルサイズは Hugging Face(unsloth/LFM2.5-8B-A1B-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(24層・文脈全体を見る層は6層だけ)から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ(8k)必要合計GPUならMacなら
2bit(IQ2_M)
品質劣化大。最後の手段
2.6GB0.1GB3.2GBVRAM 4GB〜8GB〜
3bit(Q3_K_M)
メモリ優先
3.7GB0.1GB4.4GBVRAM 6GB〜8GB〜
4bit(IQ4_XS)
Q4_K_Mより一回り小さい
4.0GB0.1GB4.7GBVRAM 6GB〜8GB〜
4bit(Q4_K_M)
標準。迷ったらこれ
5.0GB0.1GB5.7GBVRAM 8GB〜16GB〜
4bit(MXFP4 MoE)
MoE専用のMXFP4
5.0GB0.1GB5.7GBVRAM 8GB〜16GB〜
5bit(Q5_K_M)
品質重視
5.9GB0.1GB6.7GBVRAM 8GB〜16GB〜
6bit(Q6_K)
ほぼ無劣化
6.6GB0.1GB7.4GBVRAM 8GB〜16GB〜
8bit(Q8_0)
無劣化に近い
8.4GB0.1GB9.2GBVRAM 10GB〜16GB〜
16bit(BF16)
元精度
16GB0.1GB17GBVRAM 20GB〜32GB〜

モデルの構造と、必要メモリの増え方

LFM2.5 8B-A1BはLiquid AIが2026年5月に公開した8.47Bのモデルです。GGUFのヘッダには24層と書かれており、総パラメータ8.47Bのうち、1トークンの生成で実際に読むのは約1.5Bです(MoE)。メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。

24層のうち注意機構でKVキャッシュを持つのは6層だけで、残り18層は線形注意やSSMなどKVを持たない層です。KVヘッド8・head次元64で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約12KB(fp16)で、コンテキスト長にそのまま比例します。

実際の値は、8,192トークンで0.1GB、学習時の上限128,000トークンまで伸ばすと1.5GBです。

このモデルを実際に使うなら

推奨設定はtemperature 0.2、top_k 80、repetition_penalty 1.05で、低めの温度が前提です。推論向けに調整されているため、答えの前に考える過程が出力に入ります。ツール呼び出しは既定でPython風の書式なので、JSONで受け取りたいならシステムプロンプトで指定する形。

KVを持つのは24層中6層だけで、1トークン12KB。学習時上限の128,000トークンまで伸ばしても約1.5GBで、Q4_K_Mの5GBと足しても6.5GBほどです。ライセンス欄はotherなので、商用に組み込む前に条件の確認が要ります。同じLiquid AIのLFM2.5 1.2B JPは日本語向けの調整版。8GB機でほかのアプリに余白を残したいならそちら。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはlfm2moeで、当サイト収録の204モデル中1本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/LFM2.5-8B-A1B-GGUF、元になったモデルはLiquidAI/LFM2.5-8B-A1Bです。

同じLiquid AIのモデルでは、サイズの近いものにLFM2.5 2.6B(2.7B)、LFM2.5-VL 3B(2.7B)、LFM2.5 1.2B JP(1.17B)があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(Q4_K_M)(5.0GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が6層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0960.0GB5.7GBVRAM 8GB〜16GB〜
8,192既定0.1GB5.7GBVRAM 8GB〜16GB〜
16,3840.2GB5.8GBVRAM 8GB〜16GB〜
32,7680.4GB6.0GBVRAM 8GB〜16GB〜
65,5360.8GB6.4GBVRAM 8GB〜16GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.4GBから約0.2GBに減ります(品質はわずかに落ちます)。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
Ministral 3 8BMistral AI6.5GBMinistral 3の8B。Apache 2.0。GPUなしのメモリ16GBのPCでも動く
LLM-jp-4 8B thinkingLLM-jp(国立情報学研究所)6.6GB国産フルスクラッチの推論型8B。4bitならVRAM 8GBに収まる
Qwen3-Swallow 8BSwallow(東京科学大学・産総研)6.4GBQwen3 8Bの日本語強化版。4bitならVRAM 8GBに収まる
Shisa V2.1 Qwen3 8BShisa.AI6.4GBQwen3 8Bを日英バイリンガルに調整。VRAM 8GB
Qwen3-VL 8BAlibaba6.4GB画像・画面・書類を読ませる用途の8B。VRAM 8GB
DeepSeek-R1-0528 Qwen3 8BDeepSeek6.4GBR1蒸留の改良版8B

4bit(Q4_K_M)が動く機種と推定速度

4bit(Q4_K_M)なら131機種で20 tok/s以上、3機種で8〜20 tok/s(テキスト生成の推定・計算方法)。

快適 20 tok/s以上(131機種)

遅い 動くが遅い(0機種)

  • なし

メモリに一部を逃がせば動く(4機種・CPUオフロード、PCのメモリ32GB想定)

動かない機種(4)を見る

今のPCのまま、LFM2.5 8B-A1Bを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

LFM2.5 8B-A1Bは4bit(IQ4_XS)で4.0GB、8bitのQ8_0なら8.4GB。精度違いを3種類そろえるだけで約13GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

ローカルLLM / AIエージェント入門書

LFM2.5 8B-A1BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

LFM2.5 8B-A1Bを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったりデスクトップ(BTO)

RTX 5060(8GB)デスクトップ・メモリ32GB

画像生成の入門と8BクラスのローカルLLM。最安のGPU機

RTX 5060(VRAM 8GB)・メモリ32GB・NVMe 1TB ・ 目安 15〜21万円

要件を満たす中で最も手頃

余裕を持つならデスクトップ(BTO)

RTX 5070(12GB)デスクトップ・メモリ32GB

SDXLの画像生成が快適。14BクラスのローカルLLMがGPUだけで動く

RTX 5070(VRAM 12GB)・メモリ32GB・NVMe 1TB ・ 目安 20〜28万円

将来の用途拡張(大きなモデル・並列エージェント)に余裕

別の形ならMac

Mac mini M4 Pro(メモリ48GB・SSD 1TB)

30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心

M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円

Macで同じ仕事をするなら

よくある質問

LFM2.5 8B-A1Bを動かすのに必要なVRAMは?

4bit量子化(4bit(Q4_K_M))でファイル5.0GB、8,192トークンのKVキャッシュを含めて約5.7GBが必要です。GPU単体ならGeForce RTX 3070 Ti(VRAM 8GB)から実用速度で動きます。

LFM2.5 8B-A1BはMacで動く?

動きます。ユニファイドメモリ16GB以上のApple Silicon(例: Apple M2 Pro(16GB))なら、4bit量子化で実用的な速さが出ます。

このクラスの選び方: ローカルLLM(8Bクラス)に必要なPC / MacかWindowsか

手持ちのPCで判定する