Jevは自前サーバーで動かせるのか|公式の記載を確認して、自前の0.5Bと費用を比べた

2026年9月15日に、文章を生成しないAIモデルが出ました。TypeSafe AIの「Jev」です。返すのは型のついた値と、確率と、信頼度。人間が読むためではなく、ソフトウェアがそのまま使うための出力です。 このサイトは「自分のサーバーで動かした記録」を書いています。なので、最初に確認したのはこれを自前で動かせるのかでした。 確認できた範囲では、動かせません。 そして、その理由の書かれ方が少し特殊でした。 確認できたこと Jevのウェイトは公開されていない。 ライセンスはproprietary(専有)で、アーキテクチャも技術論文も公開されていないとされている セルフホストの選択肢について、公式サイト・Cloudflareのドキュメント・Wikipedia・技術メディアの4か所を見ても、記載が1つもなかった 提供はホスト型APIのみ。エンドポイントは api.typesafe.ai/v1/systemone 価格は入力100万トークンあたり$0.042。出力トークンは課金されない(2つの情報源で一致) コンテキスト長については、情報源が食い違っている(後述) 応答時間は70〜500ミリ秒とされている 私はJevを実際には叩いていません。 この記事は公開情報の確認と、自前で同じことをやる場合の計算です。そこは最後にはっきり書きます。 Jevが何を返すのか(最小限) 大規模言語モデルと違い、Jevは自然言語のテキストを返しません。用意されているのは3種類の問い方です。 プリミティブ 何をするか 返ってくるもの Choice 選択肢から1つ選ぶ(最大255個) 選択肢・確率・信頼度 Score 順序のある段階で評価する スコア・段階別の確率・信頼度 Noul はい/いいえを判定する 0〜1の確率 信頼度は確率分布の形から出しており、高信頼度は自動処理へ、中程度はレビューへ、低信頼度は人間へという振り分けが想定されています。 「判断だけを返す」というのは、つまりこういうことです。文章を読ませて要約させるのではなく、「この問い合わせは対応が必要か」に0〜1で答えさせる。 用途がはっきり分かれています。 自前サーバーで動かせるのか 4か所を確認しました。 確認先 セルフホストに関する記載 TypeSafe AI 公式サイト 記載なし(early accessの案内、コンソール、ドキュメントへのリンクのみ) Cloudflare AI のモデルドキュメント 記載なし(typesafe/jev として第三者製モデルを提供) Wikipedia ライセンスはproprietary。「アーキテクチャ、ウェイト、技術論文のいずれも公開していない」 MarkTechPost 「TypeSafe has not published weights, a parameter count, or a self-hosting option」 注意して書きます。「できない」と断定できるのは、公式が明示的に禁じている場合です。 ここで確認できたのは、そのための情報が公開されていないということです。ウェイトが無ければ動かしようがないので、実務上は「できない」と同じですが、書き方は分けておきます。 つまりJevを使うということは、判断を外部のAPIに投げるということです。自前サーバーの話とは、前提が逆になります。 情報が食い違っている点:コンテキスト長 ここは正直に書きます。2つの情報源で、記載が食い違っています。 Cloudflare AI のドキュメント:コンテキストウィンドウ 32,000トークン MarkTechPost:「Context length and model size remain undisclosed(コンテキスト長とモデルサイズは非公開のまま)」 TypeSafe自身が公開していない数字を、提供事業者であるCloudflareが自社ドキュメントに書いている、という形です。どちらが正しいのかは、私には判断できませんでした。 ...

2026年9月22日 · 1 分

GPUなしでローカルLLMは使えるのか|載るモデルは「空きメモリ÷2.4」で決まる

「GPUがないパソコンやサーバーでローカルLLMは動くのか」。動きます。ただし、載せられるモデルの大きさは、ほぼ計算で決まります。 載せられるモデルファイル ≒ 空きメモリ ÷ 2.4 この2.4という倍率は、GPUなしのVPSで実際に測って出した値です。そしてこの計算を外れた瞬間、速度は段階的にではなく崖のように落ちます。 確認できたこと 必要メモリの目安はモデルファイルの約2.4倍。0.5Bのモデル(380MB)で実測930MBだった 0.5Bは15.36 tokens/秒で動き、1Bでは0.07 tokens/秒に落ちた。219分の1。段階的ではなく崖 Ollamaの公式ドキュメントには、必要メモリの記載がない。2026年9月13日に確認した 重いのはツールではなくモデル。Ollama本体の常駐メモリは36MBで、Dockerの49MBより軽い 先に埋まるのはメモリではなくディスクのことがある。Ollama本体だけで2.1GB 商用利用の可否はモデルごとに違う。同じQwen2.5でもサイズによってライセンスが分かれている この記事の数字には実測値と計算値が混ざっています。 どちらなのかは、その都度書きます。 載るモデルは「空きメモリ ÷ 2.4」で決まる 出発点は、GPUのないVPSで測った1本の実測値です。 モデルファイル 380MB → 実際のメモリピーク 930MB(2.4倍) さくらのVPS 2Gプラン、Ubuntu 24.04、GPUなし・CPUのみ。qwen2.5:0.5b を載せたときの値です。測定の詳細は2GBのVPSでローカルLLMは動くのかに書きました。 この倍率で逆算すると、載せられるモデルの上限が出ます。 載せられるモデルファイル ≒ 空きメモリ ÷ 2.4 同じ実測から、1Bのモデルが動かない理由も説明がつきます。 1Bのファイルは1,260MB。2.4倍すると約3,000MBが必要になります。そのときの枠は1,200MBでした。入るはずがありません。そして実際に入りませんでした。 倍率が1本のモデルからしか出ていない点は、そのまま弱点です。 0.5B以外では検証していません。 なお、この2.4倍はcgroupの memory.current から取った値で、モデルファイルのページキャッシュを含みます。 「アプリが確保した量」より大きめに出る数字です。余裕を見る方向に効くので、目安としては安全側ですが、そういう数字だという前提で読んでください。 公式のファイルサイズから逆算した早見表 ここから先は計算値です。 各モデルのファイルサイズは2026年9月13日にOllama公式ライブラリで確認した値、必要メモリはそれを2.4倍したものです。 モデル 公式のファイルサイズ 必要メモリの目安(×2.4) gemma3:270m 292MB 約700MB qwen2.5:0.5b 398MB 約960MB(実測930MB) gemma3:1b 815MB 約1,960MB qwen2.5:1.5b 986MB 約2,370MB llama3.2:1b 1.3GB 約3,120MB qwen2.5:3b 1.9GB 約4,560MB llama3.2:3b 2.0GB 約4,800MB gemma3:4b 3.3GB 約7,920MB 実測と一致しているのは2行目だけです。 他は倍率からの計算で、私は確かめていません。 ...

2026年9月13日 · 2 分

AI用途のVPSは何GB必要か|n8nとDifyを実測して積み上げた

本記事はプロモーションを含みます。 記事内の一部のリンクは広告リンクです。リンクの有無で内容を変えていません。 掲載している数値はすべて自分のサーバーで実際に測った値か、公式ドキュメントの記載です。 「AI用途のVPSは4GB以上がおすすめです」。よく見る書き方です。 その4GBの内訳がどこにも書いてありません。 OSがいくら使うのか、ツールがいくら足されるのか、どこに余裕を見ているのか。根拠が出てこないので、自分の用途に当てはめようがない。 このサイトでは、ここまで4本の記事で全部自分で測ってきました。 その数字を積み上げて、必要なスペックを出します。 先に結論 やりたいこと メモリ ディスク 根拠 静的サイト+小さな業務アプリ 1〜2GB 20GB〜 実測(アプリ3本で166MB) + n8n で自動化 2GB 50GB〜 実測(+402MB、空き1.1GB残) + Dify(起動して置くだけ) 4GB 100GB〜 実測(Dify単体で2,076MB) Dify を実際に使う 8GB 100GB〜 推定・未検証 + ローカルLLM(0.5Bクラス) 2GB 20GB〜 実測(本体2.1GB+モデル) ローカルLLM(1B以上) 4GB〜 50GB〜 推定・未検証 「実測」と書いた行は測った数字です。「未検証」の行は測っていません。どこまでが実測でどこからが推測か、はっきり分けて書きます。 土台:OSと常駐デーモンで何MB持っていかれるか まずアプリを何も載せない状態のコストです。ここを知らないと積み上げができません。 このサーバー(さくらのVPS 2Gプラン / Ubuntu 24.04)で、再起動直後・Dockerとnginxと自作アプリ1本が動いている状態が 398MB でした。 内訳のうち、多くの人が見落とすものが2つあります。 1. VPSでは働きようがないデーモンが50〜100MB 最初の記事で測った内訳です。 プロセス RSS 本来の用途 fwupd 44.0MB 物理デバイスのファームウェア更新 multipathd 26.7MB ストレージへの複数I/Oパスの管理 udisksd 13.4MB ディスク・リムーバブルメディアの管理 ModemManager 12.8MB モバイル通信モデムの管理 VPSに物理ファームウェアはありません。モバイル通信のモデムも刺さっていません。常駐3つで約53MB、fwupd が起動していると約97MB。 ...

2026年9月7日 · 2 分