AI PCナビ使うAIと、させたい仕事に合うPC・Macを。

メモリ容量別 動くローカルLLM一覧

「VRAM 16GBで何が動くのか」を容量ごとにまとめました。204モデルの必要メモリはHugging Faceの実ファイルサイズとモデル構造から計算しています。買う前の比較にも、今の機種の確認にも使えます。容量を決める前に全体像を知りたいなら、ローカルLLMに必要なPCスペックにモデルの大きさ別の要点をまとめています。

「VRAM 16GBで何が動くのか」。ローカルAIの機材を選ぶとき、最後に残るのはこの形の質問です。モデルの重みとKVキャッシュと計算バッファの合計が容量に収まれば動き、収まらなければ動かない。この線引きは容量で決まるので、容量から入るのが最も確実な順路になります。

このセクションでは、GPUのVRAM容量とMacのユニファイドメモリ容量それぞれについて、収録している全モデルの可否を計算して並べています。必要メモリはHugging Faceの実ファイルサイズと、GGUFヘッダから読んだモデル構造から算出したものです。

容量には実効値という考え方があります。GPUはドライバと表示用に0.5GBほど引かれ、Macのユニファイドメモリはさらに大きくOSとアプリに取られます。当サイトは36GB以下で約2/3、それ以上で約3/4を実効値として判定しています。公称の容量そのままでは計算が合いません。

動く快適に動く
GPUのVRAM
87本 うち87本
100本 うち100本
112本 うち112本
158本 うち158本
162本 うち162本
Macのユニファイドメモリ
100本 うち38本
118本 うち43本
158本 うち60本
163本 うち112本
174本 うち114本
188本 うち139本
198本 うち173本
0204本
収録204本のうち、その容量で動かせる数。「動く」は、標準的な軽さ(4bit)に落としてメモリに収まるもの。「快適」は毎秒20トークン以上で文字が出るもので、人が黙読する速さのおよそ4倍。待たされる感覚はない。Macの容量は、OSとアプリが使う分を除いた実効値で計算している。

GPUは2つの棒がほぼ重なります。収まれば、そのまま快適に動くからです。Macは容量が増えるほど差が開きます。同じ容量でも、メモリの読み出しの速さがチップの等級で変わるためです。

GPUのVRAM容量から

容量該当するGPU動く快適に動く
VRAM 8GBRTX 4060 / 5060 / 5060 Ti 8GB / 3070 / ノート用GPUの多く87/20487
VRAM 12GBRTX 3060 12GB / 4070 / 4070 SUPER / 5070 / RX 7700 XT100/204100
VRAM 16GBRTX 4060 Ti 16GB / 5060 Ti 16GB / 4070 Ti SUPER / 4080 / 5070 Ti / 5080 / RX 9070112/204112
VRAM 24GBRTX 3090 / 3090 Ti / 4090 / RX 7900 XTX158/204158
VRAM 32GBRTX 5090162/204162

Macのユニファイドメモリ容量から

容量該当するチップ・構成動く快適に動く
16GBM1 / M2 / M3 / M4 / M5 の16GB構成、M1 Pro / M2 Pro 16GB100/20438
24GBM2 / M3 / M4 / M5 の24GB構成、MacBook Air 24GB118/20443
32GBM1 Max / M2 Pro / M2 Max / M4 / M5 の32GB構成158/20460
48GBM3 Max / M4 Pro / M4 Max / M5 Pro の48GB構成163/204112
64GBM1 Max / M2 Max / M3 Max / M4 Pro / M4 Max の64GB構成174/204114
128GBM1 Ultra / M2 Ultra / M3 Max / M4 Max の128GB構成188/204139
256GBM5 Ultra / M3 Ultra の256GB構成198/204173

Macのユニファイドメモリは全部をモデルに使えるわけではなく、OSとアプリの分を除いた実効値(36GB以下は約2/3、それ以上は約3/4)で判定しています。GPUのVRAMはドライバ・表示用に0.5GBを引いています。

容量の段が意味を持つ場所

8GBはローカルAIの入口です。8Bクラスの言語モデルとStable Diffusion 1.5が中心で、SDXLは省メモリ設定が前提になります。ここから12GBに上がると、SDXLが標準設定で回り、14Bクラスの言語モデルがGPU内で完結します。

16GBはFLUXの画像生成が使えるようになる容量です。言語モデルでは20Bクラスまで。ここから24GBに上がる段が、この一覧のなかで最も差の大きい場所になります。27〜32Bクラスのdense型モデル(MoEではない通常の構造)が4bitでVRAMに収まり、動画生成にも手が届く。金額の上がり方も、この段で急になります。

Macの側では、段の意味そのものが変わります。48GBで30Bクラスが余裕を持って収まり、64GBで70Bクラス、128GBで120B級のMoEが動く。単体GPUでは届かない領域に、容量だけで到達できるのがこちらの構造です。ただし帯域幅はグレードで決まるため、容量が同じでも速度は大きく違います。

容量を決めるときに忘れやすいのがコンテキスト長です。同じモデルでも、8,192トークンと131,072トークンでは必要メモリが数GB変わります。長い文書を渡す使い方をするなら、モデルのサイズだけで容量を決めると足りなくなります。各ページにその計算を載せています。

代表的なモデルが収まる最小の容量

よく名前の挙がるモデルについて、4bit標準の量子化・8,192トークンで必要な容量と、それを満たす最小のGPU・Macを出しました。買う容量を決めるときの逆引きに使えます。

モデルパラメータ必要メモリ最小のGPU最小のMac
Qwen3 8B8.19B6.4GBVRAM 8GBMac 16GB
Gemma 3 12B11.77B8.3GBVRAM 10GBMac 16GB
gpt-oss-20b20.91B12GBVRAM 16GBMac 24GB
Gemma 3 27B27.01B17GBVRAM 20GBMac 32GB
Qwen3 32B32.76B21GBVRAM 24GBMac 36GB
Llama 3.3 70B70.55B44GBVRAM 48GBMac 64GB

コンテキストを伸ばすと必要メモリは増えます。この表は8,192トークンでの値なので、長い文書を渡す使い方をするなら一段上の容量を見ておきましょう。

このページの使い方

検討している容量のページを開くと、その容量に収まるモデルの一覧と推定速度、あと少し足りないモデル、量子化を落とせば収まるモデル、そして一段上の容量にすると何が増えるかが出ます。

手元の機種の容量が分かっているなら、その容量のページから入るのが早い順路です。機種名から入りたい場合は、GPU別・Mac別・PC別の一覧から探せます。

よくある質問

公称の容量と実効値はどれくらい違いますか

GPUはドライバと表示用に0.5GBほど引かれます。Macのユニファイドメモリはもっと大きく、36GB以下で約1/3、それ以上で約1/4がOSとアプリに取られる前提で計算しています。48GBの構成なら実効36GB前後、という見方になります。

容量が足りないとどうなりますか

GPUの場合は、足りない分をシステムメモリに逃がして動かすことができます(CPUオフロード)。動きはしますが、速度は数分の一まで落ちます。Macのユニファイドメモリでは逃がす先がないため、収まらなければ動きません。

同じ容量なら、どの機種でも同じですか

動くモデルは同じです。違うのは速度で、これはメモリ帯域幅で決まります。同じVRAM 8GBでも、帯域幅が2倍違えば生成速度も2倍近く変わります。各機種のページに、同じ容量の中での位置づけを出しています。

容量が同じでも、GPUとMacで結果は違いますか

動くモデルの本数は違います。Macのユニファイドメモリは実効値が公称より小さいため、同じ「32GB」でもGPUのVRAM 32GBより収まる範囲が狭くなります。一方でMacは64GB、128GBと積めるので、大きなモデルではこちらが有利になります。

どの容量を買えばいいか決まりません

動かしたいモデルから逆算するのが確実です。8Bクラスなら8GB、14BクラスならVRAM 12GB、27〜32Bクラスなら24GB、70Bクラスならユニファイド64GB以上。上の表に、代表的なモデルが動く最小容量を出しています。

あと1GB足りないときはどうしますか

選択肢は3つあります。量子化を1段落とす、コンテキスト長を短くする、KVキャッシュを8bitに量子化する。3つ目は必要量がおおむね半分になるので、あと数GBという場面では最も効果があります。各容量のページに、その計算を載せています。

手持ちのPCで判定する