ローカル推論ではプロンプトを自分のマシン上で処理できます。新しい構成では Qwen3.8 27B、Muse Glimmer 30B、Qwen3 Coder 30B を比較し、小型機では Gemma 4 E4B や Qwen3 8B を試してください。
モデル情報は 2026年10月14日 に確認しました。Qwen3.8 と Muse Glimmer は約18GBのダウンロードに加え、コンテキストと実行時の余裕が必要です。以下は候補一覧であり、新しい実測順位ではありません。
モデルランキング
| モデル | Ollamaタグ | 試す用途 | メモリの注意点 |
|---|---|---|---|
| Qwen3.8 27B | qwen3.8:27b | コードとツール利用 | 約18GBのダウンロード+実行時メモリ |
| Muse Glimmer 30B | muse-glimmer:30b | エージェントの処理と復旧 | 約18GBのダウンロード+実行時メモリ |
| Qwen3 Coder 30B | qwen3-coder:30b | コード専用の比較基準 | 量子化とコンテキストを確認 |
| Qwen3 Coder Next | qwen3-coder-next | 大容量機でのコード作業 | 標準版は約52GB+追加メモリ |
| gpt-oss 20B | gpt-oss:20b | 小規模な推論 | 約14GB。16GB機では余裕が少ない |
| Gemma 4 E4B | gemma4:e4b | 軽量なコード支援 | 小型機向け候補 |
| Qwen3 8B | qwen3:8b | 小さな編集と説明 | 短いコンテキストから開始 |
ハードウェア要件
重み、コンテキスト状態、実行時バッファはすべてメモリを使います。MoEの有効パラメータ数は計算量を示すもので、全重みの保存量を減らすわけではありません。
VRAM 8〜16GB(エントリーレベル)
Gemma 4 E4BかQwen3 8Bから試してください。gpt-oss 20Bはダウンロードだけで約14GBあるため、16GB機ではコンテキストを増やすと厳しくなる場合があります。
VRAM 18〜32GB(推奨)
Qwen3.8 27B、Muse Glimmer 30B、Qwen3 Coder 30Bが候補です。24GB GPUや32GB以上のユニファイドメモリは出発点ですが、実際の使用量を確認してください。
実効メモリ48GB以上(プレミアム)
Qwen3 Coder Nextの標準版は約52GBのダウンロードに加え、実行時メモリが必要です。48GBカード1枚で全体をVRAMに置くことはできません。別の量子化や大容量機では速度も実測してください。
Ollamaのセットアップ
Ollamaはローカルモデルを動かす最も簡単な方法です。インストールしてモデルをプルすれば、localhost上でOpenAI互換APIがすぐに使えます。
# Install
curl -fsSL https://ollama.com/install.sh | sh
# Pull a model (pick one based on your hardware)
ollama pull qwen3.8:27b
ollama pull muse-glimmer:30b
ollama pull gemma4:e4b
ollama pull qwen3:8b
OllamaのデフォルトのAPIエンドポイントは http://localhost:11434 です。
r/LocalLLaMAからのヒント: 27B以上のモデルでは、Ollamaからllama.cppへ直接切り替えた方がパフォーマンスが上がったという報告が複数あります。Ollamaは手軽ですが、llama.cppは量子化やメモリ割り当てを細かく制御できます。まずOllamaで始め、性能の壁にぶつかったらllama.cppへ移ってください。
OpenClawの設定
Ollamaが公式プロバイダーになったため、セットアップは簡単です。オンボーディングウィザードを実行します:
openclaw onboard --auth-choice ollama
または、~/.openclaw/openclaw.json にOllamaを手動で追加します:
{
models: {
providers: {
ollama: {
baseUrl: "http://localhost:11434/v1",
api: "openai-completions",
models: [
{
id: "qwen3.8:27b",
name: "Qwen3.8 27B",
reasoning: false,
contextWindow: 32768,
maxTokens: 8192
}
]
}
}
},
agents: {
defaults: {
model: { primary: "ollama/qwen3.8:27b" },
models: {
"ollama/qwen3.8:27b": { alias: "qwen-local" }
}
}
}
}
ローカルモデルに切り替えます:
/model qwen-local
ローカルモデルが得意なこと
コードの説明、小さな編集、テスト草案から試してください。パッチを確認し、ツールの引数、失敗後の復旧、再試行回数を記録します。
ローカルモデルが苦手なこと
長い変更、難しいデバッグ、多数のツール呼び出しでは、モデルが制約を見失うことがあります。大きな公称コンテキストは正確な記憶や十分なメモリを保証しません。新モデルに旧モデルの速度やスコアを流用せず、実際の構成で測定してください。
ハイブリッドアプローチ
ローカルで正しく完了する仕事を残し、失敗した仕事をより強いクラウドモデルに切り替えます。割合や節約額は実際のタスクで測定してください。
{
agents: {
defaults: {
model: {
primary: "ollama/qwen3.8:27b",
thinking: "anthropic/claude-sonnet-5-5"
}
}
}
}
クラウド用の設定は Haimakerの接続ガイド を参照してください。
トラブルシューティング
メモリ不足ならコンテキストを短くするか、公開されている小型ビルドを選んでください。モデルタグは Ollamaの一覧 から正確にコピーします。ツールが失敗する場合は対応状況とスキーマを確認し、短い手順で試します。設定例の32Kは出発点であり、すべてのマシンで収まる保証はありません。
モデル料金の比較はOpenClaw向け最安モデルを、クラウドモデルのトークンコスト削減はQMDでコストを96%削減する方法をご覧ください。