Llama-3-ELYZA-JP-8B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

ELYZA ・公開 2024-06 ・ 8.03Bパラメータ・データ更新 2026-10-02

国産の日本語特化8B。VRAM 8GB

6.2GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

8,192最大コンテキスト（学習時）

編集部の見立て

Meta Llama 3 8B Instructに、ELYZAが日本語の追加事前学習と指示調整を施した8Bです。2024年6月の公開で、当サイトに並ぶ国産8B級では古い部類。4bitに8kの文脈を加えて6.2GBで、RTX 3070 Ti（8GB）で推定80.8tok/s、Apple M2 Pro（16GB）で推定30.2tok/sです。

ELYZA自身が公式にGGUFを配っているので、入手先で迷わない。LM Studioで初めて日本語のローカルLLMを動かす人の最初の1本として、今も残るモデルです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（elyza/Llama-3-ELYZA-JP-8B-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（32層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
4bit（Q4_K_M）標準。迷ったらこれ	4.6GB	1.0GB	6.2GB	VRAM 8GB〜	16GB〜

モデルの構造と、必要メモリの増え方

Llama-3-ELYZA-JP-8BはELYZAが2024年6月に公開した8.03Bのモデルです。GGUFのヘッダには32層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全32層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約128KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.0GB、学習時の上限8,192トークンまで伸ばすと1.0GBです。

ライセンス表記: llama3（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

公式のGGUFはQ4_K_M（4.6GB）の1種類だけで、配布元はQ4_K_Mでの劣化が小さいことを比較表で示しています。LM Studioの検索欄にリポジトリ名を入れて落とす手順も、カードにそのまま書かれている。文脈は8,192トークンが上限で、KVは1トークン128KB、上限まで使って1.0GBです。

6GBのRTX 2060は、4.6GBに1.0GBを足した時点で実効5.5GBを超えるので対象外。ライセンスはMeta Llama 3 Community Licenseで、商用利用には独自の条件が付きます。新しい同級のShisa V2.1 Qwen3 8Bは32Kまで扱えるので、長い資料を渡したくなったら乗り換えを考える時期でしょう。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはllamaで、当サイト収録の204モデル中39本が同じ系統です。Llama系。最も広く使われているアーキテクチャで、対応していないツールを探すほうが難しい水準です。

配布元はelyza/Llama-3-ELYZA-JP-8B-GGUFです。

得意分野は日本語の文章です。

同じELYZAのモデルでは、サイズの近いものにELYZA-Shortcut-1.0 Qwen 7B（7.62B）、ELYZA-Shortcut-1.0 Qwen 32B（32.76B）、ELYZA-Thinking-1.0 Qwen 32B（32.76B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（4.6GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.5GB	5.7GB	VRAM 8GB〜	16GB〜
8,192既定	1.0GB	6.2GB	VRAM 8GB〜	16GB〜

KVキャッシュをq8_0に量子化すると、8,192トークンでのKVは約1.0GBから約0.5GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Llama 3.1 Swallow 8B	Swallow（東京科学大学・産総研）	6.2GB	Llama 3.1 8Bの日本語強化版（v0.5）。VRAM 8GB
DeepSeek-R1 Distill Llama 8B	DeepSeek	6.2GB	R1をLlama 8Bに蒸留した推論型。4bitならVRAM 8GBに収まる
Command R7B	Cohere	6.0GB	Cohereの7B。研究用途向けライセンス（CC BY-NC）。GPUなしのメモリ16GBのPCでも動く
Aya Expanse 8B	Cohere	6.4GB	日本語を含む23言語向けの8B。CC BY-NC。GPUなしのメモリ16GBのPCでも動く
Llama 3 Youko 8B	rinna	6.2GB	rinnaがLlama 3 8Bに日本語を追加学習。GPUなしのメモリ16GBのPCでも動く
Llama 3.1 8B	Meta	6.2GB	英語圏の基準モデル。日本語はQwenに劣る