トップ › モデル別 › ABEJA Qwen3 14B Agentic

ABEJA Qwen3 14B Agentic を動かすPCスペック（必要VRAM・メモリ・速度の目安）

ABEJA ・公開 2026-02 ・ 14.77Bパラメータ・データ更新 2026-10-02

エージェント用途と256Kの長文対応を名前に掲げた14B。4bitならVRAM 12GBに収まる

10GB4bitで動かすのに要るメモリ（会話8,192トークン分込み）

VRAM 11GB実用になるいちばん安いGPU: GeForce RTX 2080 Ti

16GB実用になるいちばん小さいMac: M2 Pro（16GB）

262,144最大コンテキスト（学習時）

編集部の見立て

ABEJAがQwen3-14Bに追加学習を重ね、計画を立ててツールを呼ぶ力と長い文脈を伸ばした版です。配布元自身が、幅広い汎用よりエージェント利用が主な想定だと断っています。4bitで8kの文脈を含めると10.4GBが要ります。RTX 2080 Ti（11GB）で推定42.5tok/s、ノートならRTX 5070 Ti Laptopから動きます。

雑談の相手を探す人には、元のQwen3 14Bのほうが素直な選択。ツール連携のエージェントを手元で組む開発者が、VRAM 12〜16GBのPCで回すためのモデルです。

量子化別の必要メモリ

ファイルサイズは Hugging Face（mmnga-o/ABEJA-Qwen3-14B-Agentic-256k-v0.1-gguf）に置かれている実際のファイルサイズです。KVキャッシュ（会話の作業メモリ）は8,192トークン・fp16として、モデルの構造（40層）から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化	ファイル	KVキャッシュ（8k）	必要合計	GPUなら	Macなら
3bit（IQ3_M）メモリ優先	6.4GB	1.3GB	8.4GB	VRAM 10GB〜	16GB〜
3bit（Q3_K_M）メモリ優先	6.8GB	1.3GB	8.8GB	VRAM 10GB〜	16GB〜
4bit（IQ4_XS） Q4_K_Mより一回り小さい	7.6GB	1.3GB	9.5GB	VRAM 11GB〜	16GB〜
4bit（Q4_K_M）標準。迷ったらこれ	8.4GB	1.3GB	10GB	VRAM 11GB〜	16GB〜
5bit（Q5_K_M）品質重視	9.8GB	1.3GB	12GB	VRAM 16GB〜	18GB〜
6bit（Q6_K）ほぼ無劣化	11GB	1.3GB	13GB	VRAM 16GB〜	24GB〜
8bit（Q8_0）無劣化に近い	15GB	1.3GB	17GB	VRAM 20GB〜	32GB〜

モデルの構造と、必要メモリの増え方

ABEJA Qwen3 14B AgenticはABEJAが2026年2月に公開した14.77Bのモデルです。GGUFのヘッダには40層と書かれており、全パラメータを毎回読み出すdense型なので、生成速度はファイルサイズとメモリ帯域幅でほぼ決まります。全40層が全域注意で、KVヘッド8・head次元128。

KVキャッシュはトークン数に正比例して増えます。1トークンあたりのKVキャッシュは約160KB（fp16）で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで1.3GB、128Kトークンまで伸ばすと20GBです。

ライセンス表記: apache-2.0（層数と窓の大きさはGGUFヘッダから取得）

このモデルを実際に使うなら

名前にある256kは、そのまま使うとメモリが持ちません。KVは1トークン160KBで、256Kいっぱいなら40GB。Q4_K_Mの8.4GBと合わせると48GBを超え、実効48GBのMac 64GB機でも足りない計算です。現実的な線は32K（KV 5.0GB）で、合計13GB台ならVRAM 16GBのGPUに収まります。

64Kまで伸ばすとKVだけで10GB。ここからは24GB機が要ります。サンプリングはTemperature 0.6・TopP 0.95・TopK 20が推奨で、貪欲デコードは性能低下と繰り返しを招くと配布元が注意しています。ツール呼び出しの書式はアプリ側のテンプレート次第なので、Ollamaなどで組むなら関数呼び出しが通るかを最初に確かめるのが確実です。Apache 2.0なので、組み込み先の条件は緩めです。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen3で、当サイト収録の204モデル中10本が同じ系統です。Qwen3系。前世代から構造が更新され、対応するツールの版数を選ぶことがあります。

配布元はmmnga-o/ABEJA-Qwen3-14B-Agentic-256k-v0.1-gguf、元になったモデルはabeja/ABEJA-Qwen3-14B-Agentic-256k-v0.1です。

得意分野は日本語の文章です。

同じABEJAのモデルでは、サイズの近いものにABEJA Qwen2.5 7B Japanese（7.62B）、ABEJA Qwen2.5 32B Japanese（32.76B）があります。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit（Q4_K_M）（8.4GB）を前提に、コンテキスト長ごとの必要メモリを計算しました。全層が全域注意なので、コンテキスト長に比例してKVが増えます。

コンテキスト	KVキャッシュ	必要合計	必要なGPU	必要なMac
4,096	0.6GB	9.8GB	VRAM 11GB〜	16GB〜
8,192既定	1.3GB	10GB	VRAM 11GB〜	16GB〜
16,384	2.5GB	12GB	VRAM 16GB〜	18GB〜
32,768	5.0GB	14GB	VRAM 16GB〜	24GB〜
65,536	10GB	19GB	VRAM 20GB〜	32GB〜
131,072	20GB	29GB	VRAM 32GB〜	48GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約5.0GBから約2.5GBに減ります（品質はわずかに落ちます）。

同じサイズ帯の他のモデル

モデル	開発元	4bitで必要	一言
Qwen3 14B	Alibaba	10GB	Q4ならVRAM 12GBに収まる。8Bとの差が体感できる中量級
DeepSeek-R1 Distill Qwen 14B	DeepSeek	11GB	VRAM 12GB向け推論モデル
DeepSeek-R1 Distill Qwen 14B Japanese	CyberAgent	11GB	サイバーエージェントの日本語追加学習版
Qwen2.5-Coder 14B	Alibaba	11GB	VRAM 12GB向けコードモデル
Qwen2.5 14B	Alibaba	11GB	2024年の14B（dense型）。VRAM 11GB / Mac 16GBから
Shisa V2.1 unphi4 14B	Shisa.AI	11GB	Phi-4系を日英バイリンガルに調整した14B。VRAM 12GB