ローカルLLMのモデル比較
モデルを2本並べて迷ったとき、当サイトが比べるのは「手元のPCで動くかどうか」です。必要メモリ、動く機種、推定速度、量子化別のサイズ。回答の品質そのものについては、ベンチマークを実施していないため優劣を主張しません。
この観点でも、判断に役立つ差はかなり出ます。同じ「30Bクラス」でも、dense型とMoE型では1トークンあたりに読むバイト数が違うので、同じ機種でも速度が倍以上変わります。層の構造が違えば、コンテキストを伸ばしたときのメモリの増え方も変わり、短い会話では軽かったほうが長文では重くなる、という逆転も起きます。
各ページでは、142機種のうち「片方だけが動く機種」を名指しで出しています。手元の機材がその帯にあるなら、選択の余地は実質ひとつです。
よく並べて検討される組み合わせを、必要メモリ・動く機種・推定速度で比べます。当サイトは品質のベンチマークを取っていないため、比較するのは「手元のPCで動くかどうか」の観点です。
| 比較 | 必要メモリ | 観点 |
|---|---|---|
| Qwen3.8 27B と Gemma 3 27B | 17GB / 17GB | 2026年の27B dense型と、日本語で定番だったGemma 3 27Bの比較 |
| Qwen3.8 27B と Qwen3.5 27B | 17GB / 17GB | 同じQwenの27B dense型、世代違いの比較 |
| Gemma 3 27B と Gemma 4 31B | 17GB / 19GB | Gemmaの27Bと31B、世代違いの比較 |
| Qwen3 8B と Gemma 3 12B | 6.4GB / 8.3GB | VRAM 8GB帯と12GB帯、入門の2本 |
| Qwen3.5 9B と Qwen3 8B | 6.2GB / 6.4GB | Qwenの8Bクラス、世代違いの比較 |
| gpt-oss-20b と Qwen3 30B-A3B | 12GB / 19GB | VRAM 16GB帯で選べるMoE 2本 |
| Qwen3 30B-A3B と Qwen3.5 35B-A3B | 19GB / 22GB | Qwenの30B級MoE、世代違いの比較 |
| Llama 3.3 70B と gpt-oss-120b | 44GB / 62GB | 70Bのdense型と120BのMoE、大型2本の性格の違い |
| Qwen2.5-Coder 32B と Qwen3-Coder 30B-A3B | 22GB / 19GB | コード用途の32B dense型と30B MoE |
| Qwen3-Coder 30B-A3B と Devstral Small 2507 | 19GB / 15GB | コーディングエージェント向けの2本 |
| DeepSeek-R1 Distill Qwen 32B と Qwen3 32B | 22GB / 21GB | 推論特化と汎用、同じ32B |
| Gemma 3 12B と Qwen3 14B | 8.3GB / 10GB | 12〜14B帯、VRAM 12GBで動く2本 |
品質ではなく、動くかどうかで比べる理由
回答の品質は、用途と日本語の相性で大きく変わります。公開されているベンチマークの多くは英語のタスクで測られており、日本語での実務にそのまま当てはまるとは限りません。当サイトが独自にベンチマークを取っていない以上、品質の優劣を書くのは推測になります。書けないことは書かない、という方針です。
一方で「動くかどうか」は計算で確定します。ファイルサイズはHugging Faceの実サイズ、KVキャッシュはGGUFヘッダから読んだ層構造からの決定論的な計算。ここは推測が入りません。手元の容量に収まるかどうかは、品質の議論以前に選択肢を決めてしまいます。
実際、モデル選びで最初に問題になるのはこの制約です。どれだけ評判の良いモデルでも、手元のPCに収まらなければ選べません。逆に、収まる範囲のなかで一番大きいものを選べば、多くの場合それが妥当な選択になります。品質の比較は、動く候補が複数あるときに初めて意味を持ちます。
収録している204モデルの内訳
比較の前提として、当サイトがどんなモデルを収録しているかを示します。構造の違いが必要メモリと速度に直結するので、この内訳がそのまま比較の観点になります。
| 分類 | 本数 | 必要メモリと速度への影響 |
|---|---|---|
| MoE型（アクティブパラメータあり） | 61 | 全部をメモリに載せる必要がある一方、毎回読むのはアクティブパラメータのぶん。同サイズのdense型より速い |
| dense型 | 143 | 全パラメータを毎回読む。速度はファイルサイズと帯域幅でほぼ決まる |
| スライディングウィンドウ注意を含む | 33 | コンテキストを伸ばしてもKVキャッシュの増え方が緩やか |
| MLA（圧縮KV） | 10 | 同規模のモデルよりKVキャッシュが小さく済む |
| 日本語に強いとされるもの | 76 | メモリ要件は他と同じ。選ぶ基準が別にある |
よくある誤解
「パラメータ数が大きいほうが優れている」手元で動かす前提では、そうとは限りません。1秒に2トークンしか出ない70Bより、20トークン出る30Bのほうが実務では使われます。速度は利用頻度に直結し、使われないモデルは成果を生みません。
「新しいモデルなら、必ず前の世代より良い」必要メモリの効率という点では改善が続いています。ただし回答の品質については、当サイトはベンチマークを取っていないため判断していません。用途と日本語の相性で変わる部分なので、手元で比べるのが確実です。
「比較表で両方とも収まると出れば、どちらでも選べる」量子化のビット数まで見てください。同じ容量で片方が4bit、もう片方が2bitにしかならないなら、比較の土俵に乗っているのは4bitで入るほうだけです。各ページのメモリ予算ごとの表で、そこが分かります。
このページの使い方
比べたい組み合わせのページを開くと、基本スペック、代表機種での可否と速度、量子化別のサイズ、コンテキスト長を伸ばしたときの必要メモリ、そしてメモリ予算ごとにどちらがどの量子化で収まるかが出ます。
組み合わせが一覧にない場合は、それぞれのモデル別ページで同じ数値を確認できます。必要メモリと動く機種は、どちらのページでも同じ計算で出しています。
よくある質問
どちらのモデルが賢いかは分かりますか
当サイトでは判断していません。ベンチマークを実施していないためです。比べているのは必要メモリ、動く機種、生成速度の3点で、これらは計算で確定します。品質については、両方を手元で動かして自分の用途で比べるのが確実です。
パラメータ数が大きいほうが良いモデルですか
一概には言えません。アクティブパラメータの小さいMoE型は、総パラメータが大きくても読み出す量が少なく、同じ機種で速く動きます。また、1秒に2トークンしか出ない70Bより、20トークン出る30Bのほうが実務では使われます。速度は利用頻度に直結します。
比較にない組み合わせを知りたいです
各モデルのページに、必要メモリ・動く機種・推定速度を同じ計算で載せています。2本のページを開いて数値を突き合わせれば、同じ判断ができます。よく比較される組み合わせから順にページを増やしています。
新しいモデルほど良いのですか
必要メモリの効率という点では、新しいほうが有利なことが多くなります。スライディングウィンドウやMLAといった構造が入り、同じ規模でもKVキャッシュが小さく済むためです。ただし回答の品質については、当サイトでは判断していません。
MoE型とdense型、どちらを選ぶべきですか
メモリに余裕があるならMoE型が有利です。同じ容量を使いながら、1トークンあたりに読む量が少ないため速く動きます。ただし総パラメータぶんのメモリは必要なので、容量が足りない場合はdense型の小さいモデルのほうが現実的になります。
比較ページの数値はいつのものですか
ファイルサイズはHugging Faceから取得した時点の実サイズで、データの更新日は各モデルのページに書いています。モデルの配布元が量子化を作り直すとサイズが変わることがあるため、定期的に取り直しています。