Apertus 8B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Swiss AI ・公開 2025-09 ・ 8.05Bパラメータ・データ更新 2026-10-02

学習データまで公開したスイスの8B。1000以上の言語に対応。Apache 2.0。GPUなしのメモリ16GBのPCでも動く

6.3GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

65,536最大コンテキスト（学習時）

編集部の見立て

学習データの復元スクリプトまで公開しているスイスのApertusで、70Bと並ぶ小さいほうの8Bです。配布元は1811言語を学習した点と、データ提供者のオプトアウトを事後まで尊重した点を掲げています。Q4_K_Mは4.7GB、8kの文脈込みで6.3GB。RTX 3070 Ti（8GB）で推定78.8tok/s、M2 Pro（16GB）で29.5tok/sです。

何を学んだかまで追える8Bが要る人、つまり研究や教育で出自を説明したい人に向くモデルです。GPUなしのRyzen AI 300（16GB）でも12.9tok/sの実用域に入ります。

量子化別の必要メモリ

ファイルサイズは Hugging Face（unsloth/Apertus-8B-Instruct-2509-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（32層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	2.8GB	1.0GB	4.4GB	VRAM 6GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	3.1GB	1.0GB	4.7GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	3.9GB	1.0GB	5.5GB	VRAM 6GB〜	16GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	4.2GB	1.0GB	5.8GB	VRAM 8GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	4.7GB	1.0GB	6.4GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	5.4GB	1.0GB	7.1GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	6.2GB	1.0GB	7.8GB	VRAM 10GB〜	16GB〜
8bit（Q8_0）無劣化に近い	8.0GB	1.0GB	9.7GB	VRAM 11GB〜	16GB〜
16bit（BF16）元精度	15GB	1.0GB	17GB	VRAM 20GB〜	32GB〜

モデルの構造と、必要メモリの増え方

Apertus 8BはSwiss AIが2025年9月に公開した8.05Bのモデルです。GGUFのヘッダには32層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全32層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約128KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.0GB、学習時の上限65,536トークンまで伸ばすと8.0GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

文脈は既定で65,536トークンまで。全32層が全域注意で、KVは1トークン128KBかかります。32kで4GB、上限の64kなら8GBになり、本体の4.7GBを超えます。RTX 3070 Tiの実効7.5GBでは、文脈は2万トークン弱が上限の計算。長文を渡すならM2 Pro（16GB）以上に回しましょう。

配布元の推奨はtemperature 0.8、top_p 0.9で、ツール呼び出しにも対応しています。Transformersは4.56.0以降が要り、MLXでも動かせます。個人情報の出力フィルターは未提供で、配布元は半年ごとにサイトを確認するよう求めています。

Apache 2.0。同じ8.03BのLlama 3.1 8Bは6.2GBで推定80.8tok/sと数字は並ぶので、選ぶ理由は出自の透明さに置くことになります。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはapertusで、当サイト収録の204モデル中1本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はunsloth/Apertus-8B-Instruct-2509-GGUF、元になったモデルはswiss-ai/Apertus-8B-Instruct-2509です。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（4.7GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.5GB	5.9GB	VRAM 8GB〜	16GB〜
8,192既定	1.0GB	6.4GB	VRAM 8GB〜	16GB〜
16,384	2.0GB	7.4GB	VRAM 8GB〜	16GB〜
32,768	4.0GB	9.4GB	VRAM 10GB〜	16GB〜
65,536	8.0GB	13GB	VRAM 16GB〜	24GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約4.0GBから約2.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Llama 3.1 Swallow 8B	Swallow（東京科学大学・産総研）	6.2GB	Llama 3.1 8Bの日本語強化版（v0.5）。VRAM 8GB
DeepSeek-R1 Distill Llama 8B	DeepSeek	6.2GB	R1をLlama 8Bに蒸留した推論型。4bitならVRAM 8GBに収まる
Command R7B	Cohere	6.0GB	Cohereの7B。研究用途向けライセンス（CC BY-NC）。GPUなしのメモリ16GBのPCでも動く
Aya Expanse 8B	Cohere	6.4GB	日本語を含む23言語向けの8B。CC BY-NC。GPUなしのメモリ16GBのPCでも動く
Llama 3 Youko 8B	rinna	6.2GB	rinnaがLlama 3 8Bに日本語を追加学習。GPUなしのメモリ16GBのPCでも動く
Llama 3.1 8B	Meta	6.2GB	英語圏の基準モデル。日本語はQwenに劣る