AIに「社内文書の検索・要約（ローカルRAG）」をさせるPCスペックと、合うPC・Mac（2026年10月）
社内文書をローカルLLMで検索・要約する仕組みは、VRAM 16GBかMacのメモリ32GBから現実的になります。文書を数値に変換する埋め込みモデルと、答えを書く生成モデルを同時にVRAMに載せるからです。
8B級の生成モデルが4bitで5GB前後、埋め込みが1〜2GB、ベクトルDBがメモリ側に数GB。外に出せない文書を扱うのが目的なので、PCは常時稼働にしておくと運用が楽になります。
社外秘の文書をクラウドに出さずにAIで検索・要約する用途。埋め込みモデルとローカルLLM（14〜30B）を回すのでVRAM 16GB / Mac 32GB以上。常時使うならサーバー型が向いています。
この仕事でPCに何が起きるか
社内規程、契約書、議事録、顧客対応記録。クラウドに出せない文書をAIで検索・要約したいときは、ローカルRAG（検索拡張生成）を組みます。文書を分割して埋め込みモデルでベクトル化し、質問に近い箇所を取り出し、ローカルLLMに答えさせる。埋め込みモデルは軽いですが、回答品質を出すLLMは14〜30Bクラスが欲しく、VRAM 16GB / Mac 32GB以上が現実的です。
チームで常時使うなら、サーバー型の常時稼働機にDifyやOpen WebUIを入れます。この仕事は「個人で試す」と「チームで運用する」で要件が2段階違います。個人なら手元のGPU機で足り、チーム運用なら常時稼働と同時アクセスに耐えるメモリが加わります。
- 文書を収集・分割・ベクトル化
- ベクトルDBに格納
- 質問→検索→ローカルLLMが回答
- Web UIでチームに公開
最低・快適・余裕の3段階
| 段階 | 構成の目安 | できること |
|---|---|---|
| 最低 | VRAM 8GBまたはMac 16GB | 8Bモデルを個人で使う程度 |
| 快適 | VRAM 16〜24GBまたはMac 32〜48GB・メモリ32GB | 14〜30Bモデルで回答品質が実用になる |
| 余裕 | Mac mini M4 Pro 64GB / Ryzen AI Max 128GB（常時稼働） | チームでの利用や70B級を24時間動かせる |
計算例: 実際に何GB要るか
社内文書1万ページ（約500万文字）をRAGにする場合。埋め込みモデル（1GB弱）でベクトル化すると、ベクトルDBのサイズは1〜2GB、処理時間はGPUで10〜20分、CPUで数時間。回答側にQwen3 14B Q4（8.4GB＋KVキャッシュ1.5GB＋バッファ0.8GB＝10.7GB）を使うと、VRAM 12GBのRTX 5070に載って1秒に約35トークン。
Gemma 3 27B（17.9GB）にするとVRAM 24GBかMac 48GBが必要になり、品質は上がるが速度は半分。チームで5人が同時に使うなら、KVキャッシュが人数分増えるので、Mac mini M4 Pro 64GBかRyzen AI Max 128GBの常時稼働機で動かすのが現実的です。個人で試すだけなら、VRAM 12GBのGPU1枚で今日から始められます。
よくある誤解
「社内文書を読ませるだけなら小さいモデルで十分」モデルより先に前処理です。PDFがスキャン画像のままだった、章の途中で分割していた。ここが崩れていると、どんなモデルでも正しく答えられません。
「ローカルに置けばそれだけで安全」機材が社内にあるだけでは守れません。誰がどの文書に質問できるかを、元の文書の権限とそろえる必要があります。ここがずれると、権限のない人が要約経由で中身を読めてしまいます。
よくある失敗
- 小さいモデルで始めて回答品質に失望する（14B以上が目安）
- 個人PCで運用してチームが使えない時間帯ができる
- 文書の前処理（PDFのレイアウト崩れ・表の抽出）を軽く見て精度が出ない
- クラウドの「社内データ対応プラン」で規約上足りるのにローカルを組む
精度を決めるのはモデルより前処理
ローカルRAGで「答えが的外れ」になる原因の大半は、LLMの賢さではなく、文書の前処理にあります。PDFの表がバラバラの文字列になっている、2段組のレイアウトが行ごとに混ざっている、スキャン文書がOCRされていない、章立てを無視して固定長で切っている。こうした状態でベクトル化すると、検索で正しい箇所が引けず、どんなモデルでも答えられません。
前処理には、レイアウト解析つきのPDF変換（Docling、Unstructured等）、見出し単位の分割、表の別扱いが要り、この処理自体はCPUで動きますがOCRを含めると時間がかかります。1万ページなら数時間から一晩。ここを丁寧にやると、14Bクラスのモデルでも社内の質問に十分答えられるようになり、逆に雑にやると70Bでもだめです。
機材の予算を組むとき、モデルを大きくする前に、前処理にかける時間を先に確保しましょう。
買う前のチェックリスト
- 個人利用かチーム運用かを決めた
- 個人ならVRAM 12〜16GB / Mac 32GB
- チームなら常時稼働機（Mac mini M4 Pro 64GB / Ryzen AI Max 128GB）
- メインメモリ32GB以上
- 文書の前処理（OCR・表抽出）の手段を確認した
編集部メモ: ローカルRAGは、当サイトが「Mac mini M4 Pro 48〜64GB」を強く推す用途の一つです。27〜30Bクラスがメモリに収まり、静音で常時稼働でき、Docker上のDifyやOpen WebUIがそのまま動く。WindowsでやるならRTX 4090搭載機かRyzen AI Max機で、価格は同等かやや上。個人で試す段階なら、手元のRTX 5070クラスで十分に感触が掴めます。
この仕事で使うAIの候補
関連するページ
社内文書の検索・要約（ローカルRAG）をAIにさせるなら、CPU 8コア・メモリ32GB・NVMe 1TB、VRAM 24GB（Macならユニファイド34GB）が目安でした。同じ数字を、容量・予算・ツールの側から確かめられます。用語で詰まったら用語集へ。
| 知りたいこと | ページ |
|---|---|
| その容量で何が動くか | VRAM 24GBで動くモデル ・ Mac 48GBで動くモデル |
| 予算から構成を選ぶ | 予算別のおすすめ（10万〜100万円） |
| 使うソフトの推奨スペック | ツール別（Ollama・LM Studio・ComfyUIほか） |
| GPUやチップのシリーズで比べる | シリーズ別の対応表 |
| 量子化の形式を選ぶ | 量子化の種類と必要メモリ |
| 用語の意味を確認する | AI用PCの用語集（29語） |
| 会社で導入する場合の考え方 | 法人・業務でAIを使うPC選び |
| いま何が動くようになっているか | ローカルLLMの現在地（データレポート） |
予算別にどれを選ぶか
「社内文書の検索・要約（ローカルRAG）」をさせるという条件で、予算ごとに選べる構成です。価格は2026年10月時点の目安です。
| 予算 | この仕事を満たす最も手頃な構成 | 目安 | 備考 |
|---|---|---|---|
| 10万円まで | この予算では要件を満たす構成がありません | — | |
| 15万円まで | この予算では要件を満たす構成がありません | — | |
| 20万円まで | この予算では要件を満たす構成がありません | — | |
| 30万円まで | Mac mini M4 Pro（メモリ48GB・SSD 1TB） | 30〜36万円 | 30BクラスのローカルLLMとエージェント並列運用を1台で |
| 40万円まで | Mac mini M4 Pro（メモリ48GB・SSD 1TB） | 30〜36万円 | 30BクラスのローカルLLMとエージェント並列運用を1台で |
| 60万円まで | Mac mini M4 Pro（メモリ48GB・SSD 1TB） | 30〜36万円 | 30BクラスのローカルLLMとエージェント並列運用を1台で |
| 100万円まで | Mac mini M4 Pro（メモリ48GB・SSD 1TB） | 30〜36万円 | 30BクラスのローカルLLMとエージェント並列運用を1台で |
1年後を見据えるなら
文書は増え続けるので、差分だけをベクトル化する仕組みを最初から作っておくことが、1年後の負担を決めます。モデル側は効率化が進んでおり、同じメモリでより賢いモデルが動くようになっています。今14Bで足りない品質が、1年後には同じ機材で解決している可能性もあります。機材を増やす前に、前処理とモデルの更新を試すのが順序です。
PCを買わずに済ませる選択肢
主要なAIサービスには、入力を学習に使わない法人向けプランがあります。契約と社内規程でそれが認められるなら、ローカル化しないほうが安く速い。ローカルに進むのは、契約上どうしても外に出せない文書がある場合に限られます。まず法務と情報システムに確認するのが先です。
使うAIによって要件はどう変わるか
「社内文書の検索・要約（ローカルRAG）」という仕事は同じでも、どのAIでやるかで手元のPCに要るものが変わります。候補のAIごとに、この仕事と組み合わせたときの要件と、その要件を満たす最も手頃な構成です。
| 使うAI | CPU / メモリ | GPU | その他 | 手頃な構成 |
|---|---|---|---|---|
| ローカルLLM（8Bクラス） | 8コア / 32GB | VRAM 16GB（Mac 32GB） | SSD 1TB | 自作: RTX 5070 Ti（16GB）・メモリ32GB |
| ローカルLLM（27〜32Bクラス） | 8コア / 32GB | VRAM 24GB（Mac 34GB） | SSD 1TB | Mac mini M4 Pro（メモリ48GB・SSD 1TB） |
| ローカルLLM（70B〜120B MoE） | 12コア / 64GB | VRAM 40GB（Mac 64GB） | SSD 2TB | Ryzen AI Max+ 395 ミニPC（メモリ128GB） |
| 文字起こし（Whisper） | 8コア / 32GB | VRAM 16GB（Mac 32GB） | SSD 1TB | 自作: RTX 5070 Ti（16GB）・メモリ32GB |
必要なリソース（最低ライン）
形態別のおすすめ
PR: 以下はAmazonアソシエイトの広告リンクを含みます。価格の目安は執筆時点のもので変動します。価格・在庫はリンク先でご確認ください。
MacBook Pro 14/16 M4 Pro（メモリ48GB・SSD 1TB）
開発者の定番。Claude Code並列運用＋30BクラスのローカルLLMを1台で
M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 42〜52万円
ノートPCで「社内文書の検索・要約（ローカルRAG）」をさせるなら
RTX 5090（32GB）デスクトップ・メモリ64GB
動画生成・32BクラスのローカルLLM・LoRA学習。GPU 1枚で届く上限
RTX 5090（VRAM 32GB・1,792GB/s）・メモリ64GB・NVMe 2TB・電源1000W ・ 目安 55〜75万円
デスクトップ（BTO）で「社内文書の検索・要約（ローカルRAG）」をさせるなら
Mac mini M4 Pro（メモリ48GB・SSD 1TB）
30BクラスのローカルLLMとエージェント並列運用を1台で。コスパの中心
M4 Pro・ユニファイドメモリ48GB・SSD 1TB・帯域273GB/s ・ 目安 30〜36万円
Macで「社内文書の検索・要約（ローカルRAG）」をさせるなら
Ryzen AI Max+ 395 ミニPC（メモリ128GB）
Windows/Linuxで128GBの共有メモリ。GPU側に96GBを割り当てれば、gpt-oss-120bや70Bクラスを常時サーバとして動かせる
Ryzen AI Max+ 395・LPDDR5X 128GB（256GB/s）・NVMe 2TB ・ 目安 32〜48万円
常時稼働サーバー型で「社内文書の検索・要約（ローカルRAG）」をさせるなら
自作: RTX 5090（32GB）・メモリ96GB
動画生成・学習・32BクラスのLLM。メモリ96GBあれば、大型のMoE型を一部メインメモリに逃がして動かせる
Ryzen 9 9950X・DDR5 48GB×2・RTX 5090・NVMe 4TB・電源1000W・大型ケース ・ 目安 60〜80万円
自作で「社内文書の検索・要約（ローカルRAG）」をさせるなら
よくある質問
クラウドの「社内データ対応」プランではダメ？
規約上問題なければそれが最も楽です。ローカルを選ぶのは、契約上外に出せない、ログを残したくない、通信できない環境、のいずれかです。
どのモデルが日本語の社内文書に向く？
Qwen3 14B / Qwen3.5 27B / Gemma 3 27Bが実績豊富。日本語特化ならLLM-jp 13BやELYZA系も候補です。
埋め込みモデルにもGPUは要る？
ベクトル化の初回処理はGPUがあると数十倍速いですが、日常の検索はCPUでも十分です。
文書が増え続ける場合の運用は？
新しい文書だけを差分でベクトル化する仕組みを最初から組んでおくと、全体の再処理が不要になります。n8nでフォルダを監視して自動投入する形が定番で、その時点で常時稼働機の話になります。