Hunyuan 7B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

Tencent ・公開 2025-08 ・ 7.5Bパラメータ・データ更新 2026-10-02

Tencentの7B（dense型）。学習時の文脈256K。GPUなしのメモリ16GBのPCでも動く

5.9GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 8GB実用になるいちばん安いGPU: GeForce RTX 3070 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

262,144最大コンテキスト（学習時）

編集部の見立て

Hunyuan 7Bは、TencentがA13Bと同じ学習方針で作った小型のdense型シリーズ（0.5B・1.8B・4B・7B）の最大版です。配布元は遅い思考と速い思考の切り替えと、256Kの文脈を特徴に挙げています。Q4_K_Mは4.3GBで、8kの会話を含めると5.9GB。

RTX 3070 Tiで推定85.5tok/s、M2 Pro（16GB）で31.9tok/s、GPUなしのRyzen AI 300でも14tok/s。8GBのM2は実効5.4GBなので8kでは入りません。VRAM 8GBのGPUか16GBのメモリで、思考を挟める小型モデルを試すのに向きます。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/tencent_Hunyuan-7B-Instruct-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（32層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	2.5GB	1.0GB	4.1GB	VRAM 6GB〜	8GB〜
2bit（Q2_K）品質劣化大。最後の手段	2.8GB	1.0GB	4.4GB	VRAM 6GB〜	8GB〜
3bit（IQ3_M）メモリ優先	3.3GB	1.0GB	4.9GB	VRAM 6GB〜	8GB〜
3bit（Q3_K_M）メモリ優先	3.5GB	1.0GB	5.1GB	VRAM 6GB〜	8GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	3.9GB	1.0GB	5.5GB	VRAM 6GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	4.3GB	1.0GB	5.9GB	VRAM 8GB〜	16GB〜
5bit（Q5_K_M）品質重視	5.0GB	1.0GB	6.6GB	VRAM 8GB〜	16GB〜
6bit（Q6_K）ほぼ無劣化	5.7GB	1.0GB	7.4GB	VRAM 8GB〜	16GB〜
8bit（Q8_0）無劣化に近い	7.4GB	1.0GB	9.2GB	VRAM 10GB〜	16GB〜
16bit（BF16）元精度	14GB	1.0GB	16GB	VRAM 20GB〜	24GB〜

モデルの構造と、必要メモリの増え方

Hunyuan 7BはTencentが2025年8月に公開した7.5Bのモデルです。GGUFのヘッダには32層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全32層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約128KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.0GB、128Kトークンまで伸ばすと16GBです。

このモデルを実際に使うなら

7B級の中でKVが重いのが特徴で、32層すべて全域注意、1トークン128KB。32kで4GBと本体とほぼ同じ量になり、学習上限の256kなら32GBです。同じ7B級のFalcon-H1R 7Bは1トークン44KBなので、長文を読ませる用途なら差が3倍近く開く。

RTX 3070 Tiの実効7.5GBでは、4.3GBを引いた3.2GBがKVの上限で、文脈は2万トークン台が目安です。思考は既定でオンなので、短い会話ならプロンプトの先頭に/no_thinkを付けて止めます。配布元によれば既定のシステムプロンプトは持たせていません。

追加学習の形式も配布元が公開しており、思考ありと思考なしの2種類のデータ形式が示されています。同じ容量帯のQwen2.5 7BやCAT-Translate 7Bと比べる場合、思考モードの有無で選ぶのが早い。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはhunyuan-denseで、当サイト収録の204モデル中1本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/tencent_Hunyuan-7B-Instruct-GGUF、元になったモデルはtencent/Hunyuan-7B-Instructです。

同じTencentのモデルでは、サイズの近いものにUI-Mate 9B（8.95B）、UI-Mate 27B（26.9B）、Hunyuan-A13B 80B（80.39B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（4.3GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.5GB	5.4GB	VRAM 6GB〜	16GB〜
8,192既定	1.0GB	5.9GB	VRAM 8GB〜	16GB〜
16,384	2.0GB	6.9GB	VRAM 8GB〜	16GB〜
32,768	4.0GB	8.9GB	VRAM 10GB〜	16GB〜
65,536	8.0GB	13GB	VRAM 16GB〜	24GB〜
131,072	16GB	21GB	VRAM 24GB〜	32GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約4.0GBから約2.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
CAT-Translate 7B	CyberAgent	5.9GB	サイバーエージェントの翻訳専用7B。MIT。VRAM 8GBで手元の翻訳に使える
Tanuki-8B	松尾・岩澤研究室 GENIAC	5.9GB	GENIACで国産フルスクラッチ開発した8B。Apache 2.0。GPUなしのメモリ16GBのPCでも動く
Gemma 4 E4B	Google	5.5GB	ノート・省メモリ向け設計。メモリ8〜16GBで動く
Falcon-H1R 7B	TII	5.3GB	Mamba系を混ぜたハイブリッド構造の推論型7B。GPUなしのメモリ16GBのPCでも動く
ELYZA-Shortcut-1.0 Qwen 7B	ELYZA	5.4GB	推論過程を省いてすぐ答える日本語7B。VRAM 8GB
ABEJA Qwen2.5 7B Japanese	ABEJA	5.4GB	ABEJAの日本語追加学習7B。VRAM 8GB