「GPUがないパソコンやサーバーでローカルLLMは動くのか」。動きます。ただし、載せられるモデルの大きさは、ほぼ計算で決まります。

載せられるモデルファイル ≒ 空きメモリ ÷ 2.4

この2.4という倍率は、GPUなしのVPSで実際に測って出した値です。そしてこの計算を外れた瞬間、速度は段階的にではなく崖のように落ちます。

確認できたこと

  • 必要メモリの目安はモデルファイルの約2.4倍。0.5Bのモデル（380MB）で実測930MBだった
  • 0.5Bは15.36 tokens/秒で動き、1Bでは0.07 tokens/秒に落ちた。219分の1。段階的ではなく崖
  • Ollamaの公式ドキュメントには、必要メモリの記載がない。2026年9月13日に確認した
  • 重いのはツールではなくモデル。Ollama本体の常駐メモリは36MBで、Dockerの49MBより軽い
  • 先に埋まるのはメモリではなくディスクのことがある。Ollama本体だけで2.1GB
  • 商用利用の可否はモデルごとに違う。同じQwen2.5でもサイズによってライセンスが分かれている

この記事の数字には実測値と計算値が混ざっています。 どちらなのかは、その都度書きます。

載るモデルは「空きメモリ ÷ 2.4」で決まる

出発点は、GPUのないVPSで測った1本の実測値です。

モデルファイル 380MB → 実際のメモリピーク 930MB（2.4倍）

さくらのVPS 2Gプラン、Ubuntu 24.04、GPUなし・CPUのみ。qwen2.5:0.5b を載せたときの値です。測定の詳細は2GBのVPSでローカルLLMは動くのかに書きました。

この倍率で逆算すると、載せられるモデルの上限が出ます。

載せられるモデルファイル ≒ 空きメモリ ÷ 2.4

同じ実測から、1Bのモデルが動かない理由も説明がつきます。 1Bのファイルは1,260MB。2.4倍すると約3,000MBが必要になります。そのときの枠は1,200MBでした。入るはずがありません。そして実際に入りませんでした。

倍率が1本のモデルからしか出ていない点は、そのまま弱点です。 0.5B以外では検証していません。

なお、この2.4倍はcgroupの memory.current から取った値で、モデルファイルのページキャッシュを含みます。 「アプリが確保した量」より大きめに出る数字です。余裕を見る方向に効くので、目安としては安全側ですが、そういう数字だという前提で読んでください。

公式のファイルサイズから逆算した早見表

ここから先は計算値です。 各モデルのファイルサイズは2026年9月13日にOllama公式ライブラリで確認した値、必要メモリはそれを2.4倍したものです。

モデル公式のファイルサイズ必要メモリの目安（×2.4）
gemma3:270m292MB約700MB
qwen2.5:0.5b398MB約960MB（実測930MB）
gemma3:1b815MB約1,960MB
qwen2.5:1.5b986MB約2,370MB
llama3.2:1b1.3GB約3,120MB
qwen2.5:3b1.9GB約4,560MB
llama3.2:3b2.0GB約4,800MB
gemma3:4b3.3GB約7,920MB

実測と一致しているのは2行目だけです。 他は倍率からの計算で、私は確かめていません。

空きメモリ別に並べ替えると、こうなります。

空きメモリ載る見込みのモデル検証状況
1.4GB前後gemma3:270m / qwen2.5:0.5b0.5Bのみ実測済み
3GB前後gemma3:1b / qwen2.5:1.5b未検証
5GB前後llama3.2:1b / qwen2.5:3b未検証
8GB前後gemma3:4b未検証

「空きメモリ」は搭載メモリではありません。 OSと、すでに動いているものが使っている分を引いた残りです。2GBのVPSでも、OSのデーモンだけで50〜100MBを持っていきます（43時間の計測で確認しました）。

速度は段階的に落ちない。崖から落ちる

ここが、この計算を守るべきいちばんの理由です。

モデルファイルメモリピーク生成速度結果
qwen2.5:0.5b397MB930MB15.36 tok/s動く
llama3.2:1b1.3GB1,201MB（上限）0.07 tok/s実用不可
qwen2.5:3b1.9GB——落ちた

0.5Bから1Bに上げただけで、219分の1になりました。9トークンの返事に3分かかっています。

「少し重くなる」ではありません。枠を超えた瞬間、メモリとスワップの間でページを出し入れし続ける状態になり、実用の範囲から一気に外れます。そのときのI/O待ちは最大86%でした。

つまり、目安を少し超えるくらいなら大丈夫、という読み方はできません。 超えたら使えません。

Ollamaの公式ドキュメントに、必要メモリの記載はない

ローカルLLMの解説記事を10本ほど見ると、ほぼすべてがVRAMの容量別にモデルを振り分けています。8GB VRAMならこれ、16GBならこれ、という形です。

なぜCPUの話が出てこないのか。公式に書いていないからです。

2026年9月13日に確認した範囲では、Ollamaの公式ドキュメント（FAQ）に必要RAMの節はありません。 メモリに関連する記載としてあるのは、次のようなものです。

  • ollama ps が、モデルをどこで動かしているかを 100% GPU / 100% CPU またはその中間として表示する
  • 必要RAMは OLLAMA_NUM_PARALLEL × OLLAMA_CONTEXT_LENGTH に応じてスケールする

「100% CPU」という表示が公式に用意されていること自体が、CPUだけでの動作が想定内であることを示しています。一方で、では何GB要るのかは、公式には書かれていません。

GitHubのREADMEについては、断定を避けます。 以前は必要RAMの記載があったと記憶していますが、2026年9月13日時点のREADMEからは該当箇所を確認できませんでした。「削除された」と書けるだけの確証がないため、ここでは「現時点では見つからなかった」とだけ書きます。

書かれていない数字を埋めるために、解説記事はGPUベンダー側の表を持ってくることになります。その表は、GPUがない環境には使えません。

「動く」ことと「使える」ことは違う

0.5Bは15 tokens/秒で動きました。ただし、出力はこうでした。

日本の首都は东京です。

「東京」が簡体字の「东京」になっています。 中国語圏で作られた小型モデルなので、日本語の中に簡体字が混ざります。

同じ質問に対して、1Bのほうは正しく「東京」と返しました。品質は上がっています。速度が実用外なだけです。

CPUだけの環境では、この「品質は足りているが遅すぎる」と「速いが品質が足りない」の間に挟まれます。 メモリを増やす以外に、この挟み撃ちから抜ける方法はありません。

用途で言い換えると、こうなります。

  • 分類・抽出・短い要約なら0.5Bクラスでも実用範囲
  • 日本語の文章を生成させるなら0.5Bでは足りない

重いのはツールではなくモデル

「AIツールはメモリを食う」という言い方をよく見ますが、実測すると逆です。

常駐メモリ
Ollama本体36MB
Docker（dockerd + containerd）約49MB
n8n402MB
Dify（16コンテナ）2,076MB

Ollamaのデーモンは、Dockerより軽い。 モデルを止めればメモリはすぐ戻ります。使っていないときのコストはほぼゼロです。

重いのはモデルです。ツールを選び直しても解決しません。

先に埋まるのはディスクのことがある

メモリばかり見ていると足をすくわれます。

  • Ollama本体だけでディスク2.1GB。 CPUしかない環境でも、GPU用のライブラリを含めて配布されるためです
  • ここにモデルが積み上がります。3つ入れた時点で3.4GBでした

2GBのVPSでディスクが20GBというような構成では、メモリの上限より先にディスクが問題になることがあります。 特にDockerを同居させている場合は、消したつもりで消えていない領域が積み上がります。

商用利用：ライセンスはモデルごとに違う

同じシリーズでもサイズによって分かれます。 Ollama公式ライブラリの記載（2026年9月13日確認）です。

モデルライセンスの記載
Qwen2.53Bと72B以外はApache 2.0。3Bと72BはQwenライセンス
Gemma 3Gemma Terms of Use
Llama 3.2ライセンス名を確認できませんでした

Qwen2.5の原文はこうです。

all models except the 3B and 72B are released under the Apache 2.0 license, while the 3B and 72B models are under the Qwen license.

「オープンソースだから自由に使える」とは限りません。 商用で使うなら、使うモデルのライセンス原文を読んでください。ここに書いたのは、あくまでOllamaのライブラリページに書かれていた内容です。

Llama 3.2については、Ollamaのライブラリページからライセンス名を確認できませんでした。 推測で埋めません。

この記事が書けなかったこと

  • 2.4倍という倍率は、モデル1本（qwen2.5:0.5b）の実測から出したものです。 他のモデルでは検証していません
  • 早見表の「未検証」の行は、計算値です。 3GB・5GB・8GBの環境では測っていません
  • GPUがある環境とは比較していません。 この記事の数字はすべてCPU推論のものです
  • 量子化の違いは扱っていません。 Ollamaの既定の量子化のままで測った値です
  • Ollamaの必要メモリについて、「公式が意図的に書いていない」とは書けません。 確認できたのは「見つからなかった」ことだけです

出典

  • Ollama公式ライブラリ qwen2.5 / gemma3 / llama3.2（モデルのファイルサイズとライセンス記載、2026年9月13日確認）
  • Ollama Docs FAQ（ollama ps の表示、RAMのスケール、2026年9月13日確認）
  • 実測値は当サイトの測定による（さくらのVPS 2Gプラン / Ubuntu 24.04 LTS / GPUなし）

関連記事