AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル比較 › Llama 3.3 70B と gpt-oss-120b

Llama 3.3 70B と gpt-oss-120b の違い — 必要メモリと動く機種で比べる(2026年10月)

70Bのdense型と120BのMoE、大型2本の性格の違い。当サイトは品質のベンチマークを取っていないため、ここで比べるのは必要メモリ、動く機種、生成速度の3点です。どちらが賢いかではなく、どちらが手元のPCで動くかを判断するためのページです。

編集部の見立て

どちらも一般的なGPU1枚では動きません。Llama 3.3 70Bは4bitで43.8GB、gpt-oss-120bはMXFP4で61.6GB。GPU単体に載せられるのは前者だけで、RTX 6000 Adaを含む10機種が該当します。M4 Max(128GB)に載せたときの推定は8.8tok/sと79.5tok/s。

80層すべてが文脈全体を見るdense型と、1トークンで働くのが5.1BのMoEでは、待ち時間の桁が違います。ライセンスもMeta独自とApache 2.0で別物です。

基本スペック

項目Llama 3.3 70Bgpt-oss-120b
開発元MetaOpenAI
公開2024-122025-08
パラメータ70.55B(dense型)116.83B(MoE・アクティブ5.1B)
最大コンテキスト131,072131,072
ライセンスllama3.3apache-2.0
4bitのファイル40GB(4bit(Q4_K_M))59GB(4bit(MXFP4))
KVキャッシュ(8k)2.5GB0.3GB
必要メモリ合計44GB62GB
動く最小のGPUVRAM 48GB〜GPU単体では不可
動く最小のMac64GB〜96GB〜
4bitで動く機種数26 / 14216 / 142

メモリの差: Llama 3.3 70Bのほうが約18GB軽く済みます。この差のぶん、Llama 3.3 70Bだけが動く機種が出てきます。

代表的な機種での比較

同じ機種で両方を動かしたときの必要メモリと推定速度です。速度はメモリ帯域幅からの計算値で、実測ではありません。

機種Llama 3.3 70Bgpt-oss-120b
GeForce RTX 5070 Ti
896 GB/s
4bitでは収まらない4bitでは収まらない
GeForce RTX 4090
1008 GB/s
4bitでは収まらない4bitでは収まらない
Apple M4 Pro(48GB)
273 GB/s
4bitでは収まらない4bitでは収まらない
Apple M4 Max(128GB)
546 GB/s
実用 44GB・約8.8 tok/s補正済み快適 62GB・約80 tok/s補正済み
一般的なデスクトップ/ノートPC(DDR5-5600・GPUなし)(メモリ64GB)
89.6 GB/s
4bitでは収まらない4bitでは収まらない

量子化別のサイズ比較

量子化Llama 3.3 70Bgpt-oss-120b
2bit(Q2_K)25GB—
2bit(IQ2_M)22GB—
3bit(IQ3_M)30GB—
3bit(Q3_K_M)32GB—
4bit(MXFP4)—59GB
4bit(IQ4_XS)35GB—
4bit(Q4_K_M)40GB—
5bit(Q5_K_M)47GB—
6bit(Q6_K)54GB—
8bit(Q8_0)70GB—

コンテキスト長を伸ばしたときの違い

長い文書を渡す使い方では、KVキャッシュの増え方で差が出ます。構造が違うと同じサイズのモデルでも差が出ます。

コンテキストLlama 3.3 70Bgpt-oss-120b
4,09643GB61GB
8,19244GB62GB
32,76851GB62GB
131,07281GB66GB

構造の違いが、どこに出るか

Llama 3.3 70BはMetaが2024年12月に公開した70.55Bで、全80層が全域注意(KVヘッド8・head次元128)。全パラメータを毎回読むdense型です。対するgpt-oss-120bはOpenAIの116.83Bで、18層が全域注意、18層が窓128のスライディングウィンドウ。アクティブ5.1BのMoE。

片方がMoEなので、メモリに載せる量が同じでも読み出す量が違います。gpt-oss-120bのほうが、1トークンあたりに読むバイト数が少なく、同じ機種でも速く動きます。また、gpt-oss-120bだけがスライディングウィンドウを使っているため、コンテキストを伸ばしたときのKVキャッシュの増え方が緩やかです。

判定が分かれる機種

当サイト収録の142機種で、4bit標準の量子化を前提にメモリに収まるかどうかを計算すると、両方収まるのが16機種、Llama 3.3 70Bだけ収まるのが10機種、gpt-oss-120bだけ収まるのが0機種です。この差が出る容量の機種を持っている人にとっては、どちらを選ぶかで動くかどうかが変わります。

Llama 3.3 70Bだけ収まる機種(10件): RTX 6000 Ada / Apple M1 Max(64GB) / Apple M1 Ultra(64GB) ほか7件。これらの機種では、gpt-oss-120bは量子化を落とすかCPUオフロードが要ります。

長い文書を読ませると順位が変わるか

必要メモリは、モデルのファイルサイズだけでは決まりません。コンテキスト長を伸ばすとKVキャッシュが上乗せされ、その増え方は層の構造で変わります。4bit標準の量子化で計算すると次のようになります。

コンテキストLlama 3.3 70Bgpt-oss-120b差
8,19244GB62GB18GB
32,76851GB62GB11GB
131,07281GB66GB15GB

131,072トークンで順位が入れ替わります。短い会話ではLlama 3.3 70Bのほうが軽いのに、長い文書を読ませるとgpt-oss-120bのほうが少ないメモリで済む。コードベース全体や長い契約書を渡す使い方なら、この逆転を見て決めるべきです。

KVキャッシュはfp16での計算です。q8_0などに量子化すれば、表のKVぶんはおおむね半分になります。両モデルとも同じ比率で減るため、順位そのものは変わりません。

メモリ予算ごとの選び方

使える容量が決まっているとき、それぞれ収まる量子化のうち、いちばん精度の高いものを選ぶとどうなるかです。実効容量はOSとドライバのぶんを引いて計算しています。

使える容量Llama 3.3 70Bgpt-oss-120b
32GB2bit(IQ2_M)
必要26GB
収まらない
48GB4bit(Q4_K_M)
必要44GB
収まらない
64GB6bit(Q6_K)
必要59GB
4bit(MXFP4)
必要62GB
128GB8bit(Q8_0)
必要75GB
4bit(MXFP4)
必要62GB

両方が収まるようになるのは64GBからです。それより下の容量だと、選択肢は実質ひとつに絞られます。32GBの帯で選べるのはLlama 3.3 70Bだけで、ここが入口になります。

量子化のビット数が下がるほど、回答の細部は崩れていきます。同じ容量で片方が4bit、もう片方が2bitにしかならないなら、比較の土俵に乗っているのは4bitで入るほうだけ。そう考えたほうが実態に合います。それぞれのファイルサイズはLlama 3.3 70Bとgpt-oss-120bのページに量子化別で載せています。

選び分けの目安

Llama 3.3 70Bを選ぶ場面

70Bのdense型。VRAM 48GB以上かMac 64GB以上

  • メモリに余裕がない(18GB少なく済む)
  • 必要メモリ 44GB・4bitで動く機種 26件

gpt-oss-120bを選ぶ場面

メモリ64GB以上のMac/Strix Haloで現実的

  • 速度を優先する(MoEなので読み出しが少ない)
  • より新しく公開されたモデルを試したい(2025-08公開)
  • 必要メモリ 62GB・4bitで動く機種 16件

回答の品質そのものは、用途と日本語の相性で変わります。当サイトはベンチマークを実施していないため、品質の優劣は主張しません。両方とも手元のPCで動くなら、実際に同じ質問を投げて比べるのが確実です。

迷ったときの決め方

64GBを境に候補が入れ替わります。32GBではLlama 3.3 70BのIQ2_M(26.1GB)だけ、48GBならQ4_K_M(43.8GB)が収まり、gpt-oss-120bはまだ入りません。64GB以上でようやく両方が並び、128GBならLlama側はQ8_0(74.9GB)まで上がります。

長文での必要量も途中で逆転する。8kでは43.8GBと61.6GBなのに、131,072トークンでは81.3GBと65.8GBです。直近128トークンだけを見る層を18持つgpt-oss-120bは、文脈を伸ばしてもKVキャッシュがほとんど増えません。常時動かす据え置きの1台に入れるなら、速度の出る側に絞るのが現実的です。

よくある質問

Llama 3.3 70Bとgpt-oss-120b、必要なメモリはどちらが少ない?

Llama 3.3 70Bが約44GB、gpt-oss-120bが約62GBで、差は約18GBです(どちらも4bit相当・コンテキスト8,192トークン込み)。

どちらが速く動きますか?

Llama 3.3 70Bはdense型、gpt-oss-120bはアクティブパラメータ5.1BのMoEです。Apple M4 Max(128GB)で計算するとLlama 3.3 70Bが約8.8 tok/s、gpt-oss-120bが約80 tok/sで、gpt-oss-120bのほうが速くなります。読み出す量は重みだけでなくKVキャッシュも含むため、アクティブパラメータが小さいほうが必ず速いとは限りません。

VRAM 16GBのGPUで両方動きますか?

Llama 3.3 70Bは4bitではVRAMに収まりません。gpt-oss-120bは4bitではVRAMに収まりません。

手持ちのPCでどちらが動くか判定する 他の組み合わせを見る