ローカルLLMの現在地(2026年10月版)
当サイトのデータベースを集計した定点観測です。手元のPCでどこまでできるようになったのか、必要なメモリはどう動いているのかを、実ファイルサイズの集計で示します。モデルを追加するたびに自動で更新されます。
公開年ごとの傾向
当サイトが収録しているモデルの範囲での集計です。全モデルを網羅しているわけではなく、日本で使われやすいものを中心に選んでいます。
| 公開年 | 収録数 | パラメータの中央値 | 4bit必要メモリの中央値 | MoEの割合 | VRAM 16GBに載る割合 |
|---|---|---|---|---|---|
| 2023年 | 1 | 46.7B | 29GB | 100% | 0% |
| 2024年 | 34 | 8.6B | 7.2GB | 6% | 71% |
| 2025年 | 89 | 14.8B | 11GB | 20% | 58% |
| 2026年 | 80 | 28.6B | 18GB | 50% | 40% |
読み取れるのは、パラメータ数が増える一方でMoE型が増えていることです。MoEは総パラメータが大きくても一度に使う部分が小さいため、メモリさえあれば速く動きます。「大きいモデルは重い」という前提が、構造の側から崩れつつあります。
容量別に何本動くか
| メモリ容量 | 4bit以上で動くモデル | 割合 | 詳細 |
|---|---|---|---|
| VRAM 8GB | 84 / 204 | 41% | 一覧を見る |
| VRAM 12GB | 100 / 204 | 49% | 一覧を見る |
| VRAM 16GB | 108 / 204 | 53% | 一覧を見る |
| VRAM 24GB | 158 / 204 | 77% | 一覧を見る |
| VRAM 32GB | 162 / 204 | 79% | 一覧を見る |
| Mac 48GB | 163 / 204 | 80% | 一覧を見る |
| Mac 64GB | 172 / 204 | 84% | 一覧を見る |
| Mac 128GB | 187 / 204 | 92% | 一覧を見る |
直近に追加したモデル
| モデル | 開発元 | 公開 | パラメータ | 4bit必要メモリ | 最小のGPU / Mac |
|---|---|---|---|---|---|
| AREX-2 27B | BAAI(北京智源) | 2026-09 | 26.9B | 18GB | 20GB / 32GB |
| Holo4 35B-A3B | H Company | 2026-09 | 34.66B アクティブ3B | 22GB | 24GB / 36GB |
| MiMo-V2.6-Distill-Qwen-9B | Xiaomi | 2026-09 | 8.95B | 6.4GB | 8GB / 16GB |
| MiMo-V2.6-Flash-RL | Xiaomi | 2026-09 | 308.78B アクティブ15B | 161GB | 不可 / 256GB |
| MiniCPM5 2B | OpenBMB | 2026-09 | 2.52B | 2.4GB | 4GB / 8GB |
| Nex-N2.5-mini | Nex AGI | 2026-09 | 34.66B アクティブ3.58B | 22GB | 24GB / 36GB |
| BigBang v1 35B | endless-frontier | 2026-08 | 35.51B アクティブ3.65B | 22GB | 24GB / 36GB |
| GLM-5.3 | Z.ai | 2026-08 | 753.86B | 352GB | 不可 / 512GB |
| GLM-5.3-Flash | Z.ai | 2026-08 | 320.76B アクティブ18B | 151GB | 不可 / 256GB |
| Granite 4.2 30B | IBM | 2026-08 | 29.28B | 20GB | 24GB / 32GB |
| Granite 4.2 3B | IBM | 2026-08 | 3.66B | 3.3GB | 4GB / 8GB |
| Granite 4.2 8B | IBM | 2026-08 | 8.79B | 7.1GB | 8GB / 16GB |
| LFM2.5 2.6B | Liquid AI | 2026-08 | 2.7B | 2.2GB | 4GB / 8GB |
| LFM2.5-VL 3B | Liquid AI | 2026-08 | 2.7B | 2.2GB | 4GB / 8GB |
| Ling 3.0 flash | inclusionAI | 2026-08 | 127.49B アクティブ5.1B | 75GB | 不可 / 128GB |
更新のたびに何が変わるか
この集計は、モデルのデータベースを更新するたびに作り直しています。新しいモデルが1本増えると、容量別に動く本数が変わり、その容量の機種で「できること」の数字も動きます。逆に言えば、機材を買い替えなくても、時間が経つだけでできることが増えることがあります。
実際、この1〜2年で起きたのは主にこの形の変化でした。手元の機材はそのままなのに、動かせるモデルの選択肢が増え、同じ容量でより大きな仕事ができるようになる。買い時を判断するときは、いま動かないモデルが「永遠に動かない」わけではないことを見込んでおくと、過剰な投資を避けられます。
この定点観測を何に使うか
買う前の判断材料としては、ここに出ている「容量別に何本動くか」がそのまま予算の目安になります。VRAM 16GBで何本、24GBで何本という数字が、金額の差に見合うかどうかを決める材料です。すでに機材を持っている人にとっては、直近に追加されたモデルの欄が実用的です。手元の容量で新しいモデルが動くかどうかが、そこで分かります。
もうひとつの使い方は、待つかどうかの判断です。同じ仕事ができるモデルが小さくなり続けているなら、いま手が届かないモデルも、半年後には一段下の容量で動くようになる可能性があります。急いで上位機に手を伸ばすより、いまの機材で回る範囲から始めて、必要になってから足すほうが結果的に安く済むことがあります。
この集計は当サイトが収録している範囲のもので、公開されている全モデルの網羅ではありません。収録は量子化の配布状況とダウンロード数をもとに選んでいるため、業界全体の傾向としてそのまま読むことはできません。
この数字から読み取れること
モデルの公開が続くなかで、手元のPCで動かせる範囲は年ごとに広がってきました。広がり方には2つの筋道があります。
ひとつはモデルが小さくなることです。同じくらいの仕事ができるモデルが、より少ないパラメータで作られるようになる。8Bクラスでできることは、数年前の30Bクラスに近づいています。これは容量の側から見れば、同じ機材でできることが増えたということです。
もうひとつは構造が変わることです。MoE型が増え、1トークンあたりに読む量が総パラメータより大幅に小さくなった。スライディングウィンドウやMLAが入り、コンテキストを伸ばしたときのKVキャッシュの増え方も緩やかになりました。この2つが効いて、「総パラメータは大きいのに、手元で実用速度が出る」モデルが現れています。
逆に言えば、パラメータ数だけを見ていると判断を誤ります。同じ「30Bクラス」でも、dense型とMoE型では同じ機種での速度が倍以上違う。上の表を見るときは、パラメータ数と一緒に構造の欄を見てください。
集計のしかた
- 必要メモリは、Hugging Faceで配布されている4bit量子化(Q4_K_M相当)の実ファイルサイズに、コンテキスト8,192トークン分のKVキャッシュと計算バッファを足した値です
- KVキャッシュはGGUFのヘッダから読んだ層構造をもとに計算しています。スライディングウィンドウ、線形注意、MLAといった構造の違いも反映しています
- 実効メモリは、GPUがVRAMから0.5GB、Macがユニファイドメモリの2/3〜3/4という前提で計算しています
- 収録モデルは、量子化の配布状況とダウンロード数をもとに選んでいます。全モデルの網羅ではないため、業界全体の統計ではありません
- 速度の推定方法や出典はデータの出典をご覧ください