AI PCナビ使うAIと、させたい仕事に合うPC・Macを。
トップ › ツール別 › Ollama

Ollamaの推奨スペック — 何が動くかをデータで確認する（2026年10月）

コマンド1行でローカルLLMを動かす。他のツールから呼び出す用途の定番

どんなツールか

ターミナルで `ollama run qwen3` のように打つだけでモデルをダウンロードして起動できるツールです。内部はllama.cppで、面倒な設定を肩代わりしてくれます。起動するとローカルにAPIサーバが立ち上がるため、n8nやDify、自作のスクリプト、エディタの拡張機能から呼び出せるのが最大の利点。「自分で使う」よりも「他のツールに使わせる」場面で選ばれます。macOS・Windows・Linuxのいずれでも動きます。

動作に必要なもの

必要なメモリはモデル次第です。ツール自体は数百MBしか使いません。GPUがあれば自動で使い、なければCPUとシステムメモリで動きます。この自動判定のおかげで、GPUなしのPCでもインストールしてすぐ試せます。

機種別に何本のモデルが動くか

当サイト収録の204モデルのうち、4bit以上の量子化でメモリに収まる数です。Ollamaが使うのはGGUF形式なので、この数字がそのまま「Ollamaで動くモデル数」になります。

機種メモリ動くモデル快適に動くこの機種で動く最大
GeForce RTX 50608GB87 / 20487Nemotron Nano 12B v2（12.31B）
GeForce RTX 507012GB100 / 204100ABEJA Qwen3 14B Agentic（14.77B）
GeForce RTX 5070 Ti16GB111 / 204111Qwen3.8 27B（27.32B）
GeForce RTX 409024GB158 / 204158Seed-OSS 36B（36.15B）
GeForce RTX 509032GB162 / 204162Kimi Linear 48B-A3B（49.12B）
Apple M4（24GB）24GB118 / 20443North Mini Code 1.0（30.48B）
Apple M4 Pro（48GB）48GB163 / 204112Kimi Linear 48B-A3B（49.12B）
Apple M4 Max（128GB）128GB188 / 204139Step-3.7-Flash（196.96B）
一般的なデスクトップ/ノートPC（DDR5-5600・GPUなし）（メモリ32GB）32GB158 / 20413Seed-OSS 36B（36.15B）

手持ちのPCで判定すると、あなたの機種で動くモデルの一覧と推定速度が出ます。

導入と、最初に詰まるところ

公式サイトのインストーラか、Windowsなら winget、Linuxならワンライナーのスクリプトで入ります。入れたあとは `ollama run qwen3` のように打つだけで、モデルのダウンロードから起動まで進みます。最初に詰まりやすいのはモデル名の指定で、タグを省くと既定の量子化とサイズが選ばれます。

手元の容量に合わせたいなら `qwen3:8b-instruct-q4_K_M` のようにタグまで書きましょう。もうひとつはディスクで、モデルは既定でホームディレクトリの下に溜まります。数本ダウンロードすると数十GBになるので、空きの少ないドライブに入れたなら早めに移動先を決めておくほうが安全です。

最初の30分でやること

  1. インストーラを実行し、ターミナルで `ollama --version` が返ることを確かめる
  2. 手元の容量に合うモデルを1本だけ入れる。8GBのGPUなら8Bクラス、16GBなら14Bクラスが目安
  3. 短い質問を投げて、生成が始まるまでの待ち時間と1秒あたりの語数を体感で見る
  4. モデルの保存先の空き容量を確認する。数本入れると数十GBになる
  5. 長い文書を渡す予定があるなら、コンテキスト長を伸ばした状態でメモリがどこまで増えるかを見ておく

つまずきやすい点

速度が出ないときに見る場所

速度が出ないときに見る場所は決まっています。ひとつはコンテキスト長。`num_ctx` を伸ばした分だけKVキャッシュがメモリを食い、GPUに載りきらなくなった瞬間に一気に遅くなります。もうひとつはGPUへ載せる層数で、モデルがVRAMに収まらないと自動でCPU側に逃がすため、「動くけれど遅い」状態になる。

どちらの状態かは、生成中にGPUの使用率とメモリ使用量を見れば判断できます。KVキャッシュの量子化を有効にすると、同じVRAMでコンテキストをおおよそ倍まで伸ばせます。常駐させる時間は `keep_alive` で決まり、既定では数分で解放されるため、次の呼び出しでモデルの読み込みからやり直しになります。

他のツールや自動化との組み合わせ

OpenAI互換のAPIを持っているのが実務では効きます。n8nやDifyのワークフロー、エディタの拡張機能、自作のスクリプトから、エンドポイントの向き先をローカルに変えるだけで呼び出せます。クラウドのAPIで組んだ処理をそのままローカルへ寄せる、という移行がやりやすい構造です。常時稼働機に置いて、社内から共有のエンドポイントとして使う構成もよく見かけます。

よくあるエラーと対処

症状見るところ
生成が極端に遅いモデルがGPUに載りきらず、一部がCPU側で動いている状態です。1つ小さいモデルか、1段低い量子化に落として、GPUだけで完結するかを確かめましょう
ディスクが埋まったモデルは既定でホームディレクトリ配下に溜まります。使っていないものを削除するか、保存先を別ドライブに変えます
長い文書を渡すと途中で切れる既定のコンテキスト長を超えています。伸ばす設定を明示し、その分メモリが増えることを見込んでおきましょう
他のPCから接続できない既定ではローカルからの接続だけを受け付けます。外部に開くなら待ち受けアドレスの設定と、アクセス制御をあわせて確認してください

乗り換えを考えるとき

設定を細かく詰めたい、新しいモデル形式をいち早く試したい、という段階まで来たら llama.cpp を直接使うほうが自由がききます。逆に、モデルを画面で比べながら選びたい、パラメータをスライダで動かしたいなら LM Studio のほうが向いています。Ollama が強いのは「他のツールに使わせる」場面で、自分の目で見て触る用途では他に譲る部分があります。

他のツールと比べる

ツール向いている使い方
Ollama（このページ）コマンド1行でローカルLLMを動かす。他のツールから呼び出す用途の定番
LM Studio画面で操作するローカルLLM。モデル探しから会話まで完結する
llama.cppローカルLLMの土台。OllamaもLM Studioも内部でこれを使う
ComfyUIノードをつないで画像・動画生成を組み立てる。VRAM管理が細かい
Stable Diffusion WebUI（AUTOMATIC1111 / Forge）画像生成の定番インターフェース。決まった手順で描くなら最短

よくある質問

OllamaにGPUは必須ですか？

必須ではありません。GPUがなければシステムメモリとCPUで動きます。ただし生成速度はメモリ帯域幅で決まるため、GPUがある場合の数分の一になります。8Bクラスのモデルであれば、GPUなしでも1秒に8〜10トークン程度が見込めます。

どのモデルから始めればいいですか？

日本語で使うなら8B〜14Bクラスから。手元の機種で何が動くかは当サイトの判定ツールで確認できます。

LM Studioとどちらがいいですか？

画面で操作したいならLM Studio、他のツールから呼び出すならOllamaです。中身はどちらもllama.cppなので、動くモデルと必要メモリは同じです。

複数のモデルを同時に動かせますか

できますが、メモリの合計が必要です。8Bクラスを2本なら12〜13GB前後になり、VRAM 16GBの機種でぎりぎり収まります。片方を呼び出している間だけ常駐させる運用にすると、メモリの取り合いを避けられます。常駐時間の設定を短くすれば自動で解放されますが、次の呼び出しで読み込み直しになるので、応答の速さとメモリのどちらを取るかの判断になります。

社内の共有サーバとして使えますか

使えます。常時稼働機に置き、待ち受けアドレスを社内から届く設定に変えるのが基本の形です。ただし認証の仕組みは持っていないので、社内ネットワークの内側に置く、あるいは前段に認証を挟む構成が要ります。同時に投げる人数が増えると待ち行列ができるため、実運用では同時実行2〜3を上限に見ておくと外れません。

手持ちのPCで何が動くか判定する