Llama 3.3 70B と gpt-oss-120b の違い — 必要メモリと動く機種で比べる(2026年10月)
70Bのdense型と120BのMoE、大型2本の性格の違い。当サイトは品質のベンチマークを取っていないため、ここで比べるのは必要メモリ、動く機種、生成速度の3点です。どちらが賢いかではなく、どちらが手元のPCで動くかを判断するためのページです。
編集部の見立て
どちらも一般的なGPU1枚では動きません。Llama 3.3 70Bは4bitで43.8GB、gpt-oss-120bはMXFP4で61.6GB。GPU単体に載せられるのは前者だけで、RTX 6000 Adaを含む10機種が該当します。M4 Max(128GB)に載せたときの推定は8.8tok/sと79.5tok/s。
80層すべてが文脈全体を見るdense型と、1トークンで働くのが5.1BのMoEでは、待ち時間の桁が違います。ライセンスもMeta独自とApache 2.0で別物です。
基本スペック
| 項目 | Llama 3.3 70B | gpt-oss-120b |
|---|---|---|
| 開発元 | Meta | OpenAI |
| 公開 | 2024-12 | 2025-08 |
| パラメータ | 70.55B(dense型) | 116.83B(MoE・アクティブ5.1B) |
| 最大コンテキスト | 131,072 | 131,072 |
| ライセンス | llama3.3 | apache-2.0 |
| 4bitのファイル | 40GB(4bit(Q4_K_M)) | 59GB(4bit(MXFP4)) |
| KVキャッシュ(8k) | 2.5GB | 0.3GB |
| 必要メモリ合計 | 44GB | 62GB |
| 動く最小のGPU | VRAM 48GB〜 | GPU単体では不可 |
| 動く最小のMac | 64GB〜 | 96GB〜 |
| 4bitで動く機種数 | 26 / 142 | 16 / 142 |
メモリの差: Llama 3.3 70Bのほうが約18GB軽く済みます。この差のぶん、Llama 3.3 70Bだけが動く機種が出てきます。
代表的な機種での比較
同じ機種で両方を動かしたときの必要メモリと推定速度です。速度はメモリ帯域幅からの計算値で、実測ではありません。
| 機種 | Llama 3.3 70B | gpt-oss-120b |
|---|---|---|
| GeForce RTX 5070 Ti 896 GB/s | 4bitでは収まらない | 4bitでは収まらない |
| GeForce RTX 4090 1008 GB/s | 4bitでは収まらない | 4bitでは収まらない |
| Apple M4 Pro(48GB) 273 GB/s | 4bitでは収まらない | 4bitでは収まらない |
| Apple M4 Max(128GB) 546 GB/s | 実用 44GB・約8.8 tok/s補正済み | 快適 62GB・約80 tok/s補正済み |
| 一般的なデスクトップ/ノートPC(DDR5-5600・GPUなし)(メモリ64GB) 89.6 GB/s | 4bitでは収まらない | 4bitでは収まらない |
量子化別のサイズ比較
| 量子化 | Llama 3.3 70B | gpt-oss-120b |
|---|---|---|
| 2bit(Q2_K) | 25GB | — |
| 2bit(IQ2_M) | 22GB | — |
| 3bit(IQ3_M) | 30GB | — |
| 3bit(Q3_K_M) | 32GB | — |
| 4bit(MXFP4) | — | 59GB |
| 4bit(IQ4_XS) | 35GB | — |
| 4bit(Q4_K_M) | 40GB | — |
| 5bit(Q5_K_M) | 47GB | — |
| 6bit(Q6_K) | 54GB | — |
| 8bit(Q8_0) | 70GB | — |
コンテキスト長を伸ばしたときの違い
長い文書を渡す使い方では、KVキャッシュの増え方で差が出ます。構造が違うと同じサイズのモデルでも差が出ます。
| コンテキスト | Llama 3.3 70B | gpt-oss-120b |
|---|---|---|
| 4,096 | 43GB | 61GB |
| 8,192 | 44GB | 62GB |
| 32,768 | 51GB | 62GB |
| 131,072 | 81GB | 66GB |
構造の違いが、どこに出るか
Llama 3.3 70BはMetaが2024年12月に公開した70.55Bで、全80層が全域注意(KVヘッド8・head次元128)。全パラメータを毎回読むdense型です。対するgpt-oss-120bはOpenAIの116.83Bで、18層が全域注意、18層が窓128のスライディングウィンドウ。アクティブ5.1BのMoE。
片方がMoEなので、メモリに載せる量が同じでも読み出す量が違います。gpt-oss-120bのほうが、1トークンあたりに読むバイト数が少なく、同じ機種でも速く動きます。また、gpt-oss-120bだけがスライディングウィンドウを使っているため、コンテキストを伸ばしたときのKVキャッシュの増え方が緩やかです。
判定が分かれる機種
当サイト収録の142機種で、4bit標準の量子化を前提にメモリに収まるかどうかを計算すると、両方収まるのが16機種、Llama 3.3 70Bだけ収まるのが10機種、gpt-oss-120bだけ収まるのが0機種です。この差が出る容量の機種を持っている人にとっては、どちらを選ぶかで動くかどうかが変わります。
Llama 3.3 70Bだけ収まる機種(10件): RTX 6000 Ada / Apple M1 Max(64GB) / Apple M1 Ultra(64GB) ほか7件。これらの機種では、gpt-oss-120bは量子化を落とすかCPUオフロードが要ります。
長い文書を読ませると順位が変わるか
必要メモリは、モデルのファイルサイズだけでは決まりません。コンテキスト長を伸ばすとKVキャッシュが上乗せされ、その増え方は層の構造で変わります。4bit標準の量子化で計算すると次のようになります。
| コンテキスト | Llama 3.3 70B | gpt-oss-120b | 差 |
|---|---|---|---|
| 8,192 | 44GB | 62GB | 18GB |
| 32,768 | 51GB | 62GB | 11GB |
| 131,072 | 81GB | 66GB | 15GB |
131,072トークンで順位が入れ替わります。短い会話ではLlama 3.3 70Bのほうが軽いのに、長い文書を読ませるとgpt-oss-120bのほうが少ないメモリで済む。コードベース全体や長い契約書を渡す使い方なら、この逆転を見て決めるべきです。
KVキャッシュはfp16での計算です。q8_0などに量子化すれば、表のKVぶんはおおむね半分になります。両モデルとも同じ比率で減るため、順位そのものは変わりません。
メモリ予算ごとの選び方
使える容量が決まっているとき、それぞれ収まる量子化のうち、いちばん精度の高いものを選ぶとどうなるかです。実効容量はOSとドライバのぶんを引いて計算しています。
| 使える容量 | Llama 3.3 70B | gpt-oss-120b |
|---|---|---|
| 32GB | 2bit(IQ2_M) 必要26GB | 収まらない |
| 48GB | 4bit(Q4_K_M) 必要44GB | 収まらない |
| 64GB | 6bit(Q6_K) 必要59GB | 4bit(MXFP4) 必要62GB |
| 128GB | 8bit(Q8_0) 必要75GB | 4bit(MXFP4) 必要62GB |
両方が収まるようになるのは64GBからです。それより下の容量だと、選択肢は実質ひとつに絞られます。32GBの帯で選べるのはLlama 3.3 70Bだけで、ここが入口になります。
量子化のビット数が下がるほど、回答の細部は崩れていきます。同じ容量で片方が4bit、もう片方が2bitにしかならないなら、比較の土俵に乗っているのは4bitで入るほうだけ。そう考えたほうが実態に合います。それぞれのファイルサイズはLlama 3.3 70Bとgpt-oss-120bのページに量子化別で載せています。
選び分けの目安
Llama 3.3 70Bを選ぶ場面
70Bのdense型。VRAM 48GB以上かMac 64GB以上
- メモリに余裕がない(18GB少なく済む)
- 必要メモリ 44GB・4bitで動く機種 26件
gpt-oss-120bを選ぶ場面
メモリ64GB以上のMac/Strix Haloで現実的
- 速度を優先する(MoEなので読み出しが少ない)
- より新しく公開されたモデルを試したい(2025-08公開)
- 必要メモリ 62GB・4bitで動く機種 16件
回答の品質そのものは、用途と日本語の相性で変わります。当サイトはベンチマークを実施していないため、品質の優劣は主張しません。両方とも手元のPCで動くなら、実際に同じ質問を投げて比べるのが確実です。
迷ったときの決め方
64GBを境に候補が入れ替わります。32GBではLlama 3.3 70BのIQ2_M(26.1GB)だけ、48GBならQ4_K_M(43.8GB)が収まり、gpt-oss-120bはまだ入りません。64GB以上でようやく両方が並び、128GBならLlama側はQ8_0(74.9GB)まで上がります。
長文での必要量も途中で逆転する。8kでは43.8GBと61.6GBなのに、131,072トークンでは81.3GBと65.8GBです。直近128トークンだけを見る層を18持つgpt-oss-120bは、文脈を伸ばしてもKVキャッシュがほとんど増えません。常時動かす据え置きの1台に入れるなら、速度の出る側に絞るのが現実的です。
よくある質問
Llama 3.3 70Bとgpt-oss-120b、必要なメモリはどちらが少ない?
Llama 3.3 70Bが約44GB、gpt-oss-120bが約62GBで、差は約18GBです(どちらも4bit相当・コンテキスト8,192トークン込み)。
どちらが速く動きますか?
Llama 3.3 70Bはdense型、gpt-oss-120bはアクティブパラメータ5.1BのMoEです。Apple M4 Max(128GB)で計算するとLlama 3.3 70Bが約8.8 tok/s、gpt-oss-120bが約80 tok/sで、gpt-oss-120bのほうが速くなります。読み出す量は重みだけでなくKVキャッシュも含むため、アクティブパラメータが小さいほうが必ず速いとは限りません。
VRAM 16GBのGPUで両方動きますか?
Llama 3.3 70Bは4bitではVRAMに収まりません。gpt-oss-120bは4bitではVRAMに収まりません。