AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › モデル別 › Thomson 1.0 Small 35B-A3B

Thomson 1.0 Small 35B-A3B を動かすPCスペック(必要VRAM・メモリ・速度の目安)

法務・専門文書の会社が公開した35BのMoE。メモリ32GBクラスで動く

21GB4bitで動かすのに要るメモリ(会話8,192トークン分込み)
VRAM 24GB実用になるいちばん安いGPU: GeForce RTX 4090
32GB実用になるいちばん小さいMac: M2 Max(32GB)
262,144最大コンテキスト(学習時)

編集部の見立て

報道と法務情報のThomson Reutersが、Qwen3.6 35B-A3Bを土台に法務・税務・報道の実務へ寄せて鍛えたモデルです。判例や契約書、規制関連の文書を継続事前学習に入れたと配布元は説明しています。総34.66Bでアクティブ3.58B。4bitで8kトークンの文脈を含めると21.2GBが要り、実効21.4GBのM2 Max(32GB)でも推定78.4tok/sで動きます。

外に出せない書類をクラウドに送らず読ませたい事務所なら、32GB以上のMacか24GB級GPUが最低ラインです。

量子化別の必要メモリ

ファイルサイズは Hugging Face(bartowski/thomsonreuters_Thomson-1.0-Small-GGUF) に置かれている実際のファイルサイズです。KVキャッシュ(会話の作業メモリ)は8,192トークン・fp16として、モデルの構造(40層・文脈全体を見る層は10層だけ)から計算しています。必要メモリの合計には計算用のバッファも含めています。

量子化ファイルKVキャッシュ(8k)必要合計GPUならMacなら
2bit(IQ2_M)
品質劣化大。最後の手段
11GB0.2GB12GBVRAM 16GB〜24GB〜
2bit(Q2_K)
品質劣化大。最後の手段
12GB0.2GB13GBVRAM 16GB〜24GB〜
3bit(Q3_K_M)
メモリ優先
15GB0.2GB16GBVRAM 20GB〜32GB〜
3bit(IQ3_M)
メモリ優先
16GB0.2GB17GBVRAM 20GB〜32GB〜
4bit(IQ4_XS)
Q4_K_Mより一回り小さい
18GB0.2GB19GBVRAM 20GB〜32GB〜
4bit(Q4_K_M)
標準。迷ったらこれ
20GB0.2GB21GBVRAM 24GB〜32GB〜
5bit(Q5_K_M)
品質重視
23GB0.2GB25GBVRAM 32GB〜48GB〜
6bit(Q6_K)
ほぼ無劣化
28GB0.2GB29GBVRAM 32GB〜48GB〜
8bit(Q8_0)
無劣化に近い
34GB0.2GB36GBVRAM 48GB〜64GB〜
16bit(BF16)
元精度
65GB0.2GB67GBGPU単体では不可96GB〜

モデルの構造と、必要メモリの増え方

Thomson 1.0 Small 35B-A3BはThomson Reutersが2026年8月に公開した34.66Bのモデルです。GGUFのヘッダには40層と書かれており、総パラメータ34.66Bのうち、1トークンの生成で実際に読むのは約3.58Bです(MoE)。

メモリには全部を載せる必要がある一方、毎回読み出す量はアクティブパラメータのぶんで済むため、同じサイズのdense型より速く動きます。40層のうち注意機構でKVキャッシュを持つのは10層だけで、残り30層は線形注意やSSMなどKVを持たない層です。KVヘッド2・head次元256で、同じ層数の一般的なモデルよりKVキャッシュが小さく済みます。

1トークンあたりのKVキャッシュは約20KB(fp16)で、コンテキスト長にそのまま比例します。実際の値は、8,192トークンで0.2GB、128Kトークンまで伸ばすと2.5GBです。

このモデルを実際に使うなら

ライセンスの区分はotherで、Apache 2.0やMITのように読み流せる種類ではありません。業務に使う前に配布ページの条件を読むのが先です。M2 Max(32GB)で動くとはいえ、残りは0.2GB。契約書の束のような長い入力を渡すと、KVが1トークン20KBなので10万トークンなら約1.9GBが上乗せになり、この構成では溢れます。

長文を読ませる前提なら、実効36GBの48GB Macか実効31.5GBのRTX 5090へ。VRAM 20GBのRadeon RX 7900 XTはQ4_K_Mにあと1.7GB届かず、IQ4_XS(必要18.7GB・推定142.1tok/s)なら収まります。

カードの抜粋には日本語や日本の法令に触れた記述が見当たりません。国内の書類に使うなら、土台のQwen3.6 35B-A3Bと並べて見極めましょう。

このモデルの系統

GGUFヘッダに書かれたアーキテクチャはqwen35moeで、当サイト収録の204モデル中13本が同じ系統です。ツール側の対応状況は、使う前に確認しておくと確実です。

配布元はbartowski/thomsonreuters_Thomson-1.0-Small-GGUF、元になったモデルはthomsonreuters/Thomson-1.0-Smallです。

コンテキスト長を伸ばすと必要メモリはどう増えるか

長い文書を渡す、会話を続ける、コードベース全体を読ませる。こうした使い方ではコンテキスト長を伸ばしますが、その分KVキャッシュがメモリを食います。4bit(Q4_K_M)(20GB)を前提に、コンテキスト長ごとの必要メモリを計算しました。全域注意が10層だけのハイブリッド構成なので、長文でもKVの増え方が緩やかです。

コンテキストKVキャッシュ必要合計必要なGPU必要なMac
4,0960.1GB21GBVRAM 24GB〜32GB〜
8,192既定0.2GB21GBVRAM 24GB〜32GB〜
16,3840.3GB21GBVRAM 24GB〜32GB〜
32,7680.6GB22GBVRAM 24GB〜36GB〜
65,5361.3GB22GBVRAM 24GB〜36GB〜
131,0722.5GB24GBVRAM 32GB〜36GB〜

KVキャッシュをq8_0に量子化すると、32,768トークンでのKVは約0.6GBから約0.3GBに減ります(品質はわずかに落ちます)。

同じサイズ帯の他のモデル

モデル開発元4bitで必要一言
Holo4 35B-A3BH Company22GB画面を見てクリックや入力を返すパソコン操作用のMoE(総35B・アクティブ3B)。Apache 2.0。VRAM 24GB / Mac 36GBから
Nex-N2.5-miniNex AGI22GB35B級のMoEで画像も扱える。Apache 2.0。VRAM 24GB / Mac 32GBから
KAT-Coder-V2.5-Dev 35B-A3BKwaipilot(快手)21GBQwen3.6 35B-A3Bを土台にしたコード用MoE。Apache 2.0。VRAM 20GB / Mac 32GBから
Ornith 1.0 35B-A3Bdeepreinforce-ai22GBコーディングエージェント向けOrnith 1.0のMoE版。MIT。VRAM 20GB / Mac 32GBから
XYZ-Aquila mini 35B-A3BXYZAILab21GB35BのMoE。Apache 2.0。VRAM 16GB+メモリ32GBクラスから
Qwen-AgentWorld 35B-A3BAlibaba22GBエージェント用途を名前に掲げた35BのMoE(アクティブ3B)。Apache 2.0

4bit(Q4_K_M)が動く機種と推定速度

4bit(Q4_K_M)なら48機種で20 tok/s以上、7機種で8〜20 tok/s(テキスト生成の推定・計算方法)。

快適 20 tok/s以上(48機種)

メモリに一部を逃がせば動く(62機種・CPUオフロード、PCのメモリ32GB想定)

動かない機種(23)を見る

今のPCのまま、Thomson 1.0 Small 35B-A3Bを動かすために足すもの

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

NVMe SSD / 外付けSSD 2TB

Thomson 1.0 Small 35B-A3Bは4bit(IQ4_XS)で18GB、8bitのQ8_0なら34GB。精度違いを3種類そろえるだけで約48GB使います。何本か試すうちに、まず内蔵SSDが先に埋まります。Macは内蔵を増設できないので外付けが前提です。

メモリ増設(32GB化)

Thomson 1.0 Small 35B-A3BはMoEで、1トークンごとに動くのは3.58B分だけです。だからGPUに全部載せなくても、システムメモリ側に置いて実用速度が出ます。必要なのは21GBぶんの空きで、この型はVRAMを足すより先にメモリを増やすほうが効きます。

ローカルLLM / AIエージェント入門書

Thomson 1.0 Small 35B-A3BのようなGGUF版のモデルを落として動かす手順、量子化の選び方、Ollama と LM Studio の使い分けは、一冊まとまったものを手元に置くと早い。

Thomson 1.0 Small 35B-A3Bを動かせるPC・Macを今日買うなら

PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。

ぴったりMac

Mac mini M4 Pro(メモリ48GB・SSD 1TB)

30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心

M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円

要件を満たす中で最も手頃

余裕を持つならMac

Mac mini M4 Pro(メモリ64GB・SSD 1TB)

70BクラスのローカルLLMまで。同じ価格帯のGeForce機より大きいモデルまで動く

M4 Pro・ユニファイドメモリ64GB・SSD 1TB ・ 目安 36〜42万円

将来の用途拡張(大きなモデル・並列エージェント)に余裕

別の形なら常時稼働サーバー型

Ryzen AI Max+ 395 ミニPC(メモリ128GB)

Windows/Linuxで128GBの共有メモリ。GPU側に96GBを割り当てれば、gpt-oss-120bや70Bクラスを常時サーバとして動かせる

Ryzen AI Max+ 395・LPDDR5X 128GB(256GB/s)・NVMe 2TB ・ 目安 32〜48万円

Windowsで同じ仕事をするなら

よくある質問

Thomson 1.0 Small 35B-A3Bを動かすのに必要なVRAMは?

4bit量子化(4bit(Q4_K_M))でファイル20GB、8,192トークンのKVキャッシュを含めて約21GBが必要です。GPU単体ならGeForce RTX 4090(VRAM 24GB)から実用速度で動きます。

Thomson 1.0 Small 35B-A3BはMacで動く?

動きます。ユニファイドメモリ32GB以上のApple Silicon(例: Apple M2 Max(32GB))なら、4bit量子化で実用的な速さが出ます。

このクラスの選び方: ローカルLLM(27〜32Bクラス)に必要なPC / MacかWindowsか

手持ちのPCで判定する