AREX-2 27B を動かすPCスペック（必要VRAM・メモリ・速度の目安）

BAAI（北京智源）・公開 2026-09 ・ 26.9Bパラメータ・データ更新 2026-10-02

答えを出し、点数やエラーを読んで作り直す周回を重ねる前提で鍛えたBAAIの27B。Apache 2.0。VRAM 20GB / Mac 32GBから

18GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 20GB実用になるいちばん安いGPU: Radeon RX 7900 XT

32GB実用になるいちばん小さいMac: M2 Max（32GB）

262,144最大コンテキスト（学習時）

編集部の見立て

BAAI（北京智源）の27Bで、答えを出したら点数やエラー、実行時間を読んでどこを直すか考え、作り直す。この周回を何度も重ねる前提で鍛えたモデルです。学習は機械学習とアルゴリズムの課題が中心で、調べものにも役立つと配布元は書いています。4bitに8kの履歴を足して17.5GB。

VRAM 20GBのRadeon RX 7900 XTで推定27.5tok/s、Apple M2 Max（32GB）は17.1tok/sです。周回を重ねるほど待ち時間も積み上がるので、20GB以上のGPUを持つ人向け。

量子化別の必要メモリ

ファイルサイズは Hugging Face（bartowski/BAAI_AREX-2-GGUF）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（64層・文脈全体を見る層は16層だけ）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
2bit（IQ2_M）品質劣化大。最後の手段	9.6GB	0.5GB	11GB	VRAM 12GB〜	18GB〜
2bit（Q2_K）品質劣化大。最後の手段	9.9GB	0.5GB	11GB	VRAM 12GB〜	18GB〜
3bit（Q3_K_M）メモリ優先	12GB	0.5GB	14GB	VRAM 16GB〜	24GB〜
3bit（IQ3_M）メモリ優先	14GB	0.5GB	15GB	VRAM 16GB〜	24GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	14GB	0.5GB	16GB	VRAM 20GB〜	24GB〜
4bit（Q4_K_M）標準。迷ったらこれ	16GB	0.5GB	18GB	VRAM 20GB〜	32GB〜
5bit（Q5_K_M）品質重視	19GB	0.5GB	21GB	VRAM 24GB〜	32GB〜
6bit（Q6_K）ほぼ無劣化	22GB	0.5GB	24GB	VRAM 32GB〜	36GB〜
8bit（Q8_0）無劣化に近い	27GB	0.5GB	28GB	VRAM 32GB〜	48GB〜
16bit（BF16）元精度	50GB	0.5GB	53GB	GPU単体では不可	96GB〜

モデルの構造と、必要メモリの増え方

AREX-2 27BはBAAI（北京智源）が2026年9月に公開した26.9Bのモデルです。GGUFのヘッダには64層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。64層のうち注意機構でKVキャッシュを持つのは16層だけで、残り48層は線形注意やSSMなどKVを持たない層です。

KVヘッド4・head次元256で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。1トークンあたりのKVキャッシュは約64KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで0.5GB、128Kトークンまで伸ばすと8.0GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

一問一答のチャットでは持ち味が出ません。コードを実行して点数を返す仕組みと組み、結果を読ませて次の版を書かせる。このループを自分で用意するのが前提です。土台はQwen3.8 27Bで画像も読めますが、画像を渡すには同じリポジトリのmmprojファイルが別に要ります。

KVを持つ層は全64層のうち16層だけで、履歴は1トークンにつき64KBずつ増えます。周回のたびにログが積まれ、65,536トークンなら約4GBの上乗せです。M2 Max（32GB）の実効21.4GBでは残りが約4GBしかなく、長い周回は窮屈。24GBのGPUか48GBのMacが楽です。

同じBAAIのAREX-Turbo 4Bは検索を繰り返す調査用、同じ27BのFara1.5 27Bはブラウザ操作用で、やらせる仕事が違います。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen35で、当サイト収録の204モデル中18本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/BAAI_AREX-2-GGUF、元になったモデルはBAAI/AREX-2です。

得意分野はコードを書く作業、推論（段階を踏んで考える処理）、画像を含む文書の読み取りです。

同じBAAI（北京智源）のモデルでは、サイズの近いものにAREX-Turbo 4B（4.21B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（16GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が16層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.3GB	17GB	VRAM 20GB〜	32GB〜
8,192既定	0.5GB	18GB	VRAM 20GB〜	32GB〜
16,384	1.0GB	18GB	VRAM 20GB〜	32GB〜
32,768	2.0GB	19GB	VRAM 20GB〜	32GB〜
65,536	4.0GB	21GB	VRAM 24GB〜	32GB〜
131,072	8.0GB	25GB	VRAM 32GB〜	48GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約2.0GBから約1.0GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
UI-Mate 27B	Tencent	18GB	UI-Mateの上位27B。VRAM 24GB / Mac 48GB向け
Fara1.5 27B	Microsoft	18GB	Microsoft Researchのブラウザ操作エージェント用27B。画面のスクリーンショットを見て操作する。MIT。VRAM 20GB / Mac 24GBから
Qwen3.6 27B	Alibaba	17GB	Qwen3.5 27Bの改良版。VRAM 24GB向けのdense型では最新
Qwen3.5 27B	Alibaba	17GB	2026年の主力となるdense型。VRAM 24GBならQ4〜Q5で動く
Gemma 3 27B	Google	17GB	VRAM 24GB向け。日本語品質は最上位クラス
Gemma-2-Llama-Swallow 27B	Swallow（東京科学大学・産総研）	19GB	Gemma 2 27Bの日本語強化版。VRAM 24GB向け