この層に合うハードウェアをお持ちでない場合も、haimakerを使えばOpenClawにクラウドルーティング用の単一エンドポイントを用意できます。ローカルモデルが得意な作業はローカルで処理し、対応しきれない作業だけクラウドモデルにフォールバックできます。
クラウドルーティングにHAIMAKERを試す
## Ollamaのセットアップ
Ollamaはローカルモデルを動かす最も簡単な方法です。インストールしてモデルをプルすれば、localhost上でOpenAI互換APIがすぐに使えます。
```bash
# Install
curl -fsSL https://ollama.com/install.sh | sh
# Pull a model (pick one based on your hardware)
ollama pull qwen3.6:27b # Best quality, needs 18GB+ VRAM
ollama pull qwen3.6:35b-a3b # Fast MoE model, runs on 16GB
ollama pull qwen3.6:9b # Lightweight, runs on 8GB
ollama pull qwen3-coder-plus # Premium, needs 48GB+ or 96GB unified
```
OllamaのデフォルトのAPIエンドポイントは `http://localhost:11434` です。
**r/LocalLLaMAからのヒント：** 27B以上のモデルでは、Ollamaからllama.cppへ直接切り替えた方がパフォーマンスが上がったという報告が複数あります。Ollamaは手軽ですが、llama.cppは量子化やメモリ割り当てを細かく制御できます。まずOllamaで始め、性能の壁にぶつかったらllama.cppへ移ってください。
## OpenClawの設定
Ollamaが公式プロバイダーになったため、セットアップは簡単です。オンボーディングウィザードを実行します：
```bash
openclaw onboard --auth-choice ollama
```
または、`~/.openclaw/openclaw.json` にOllamaを手動で追加します：
```json5
{
models: {
providers: {
ollama: {
baseUrl: "http://localhost:11434/v1",
api: "openai-completions",
models: [
{
id: "qwen3.6:27b",
name: "Qwen3.6 27B",
reasoning: false,
contextWindow: 131072,
maxTokens: 8192
}
]
}
}
},
agents: {
defaults: {
model: { primary: "ollama/qwen3.6:27b" },
models: {
"ollama/qwen3.6:27b": { alias: "qwen-local" }
}
}
}
}
```
ローカルモデルに切り替えます：
```
/model qwen-local
```
## ローカルモデルが得意なこと
Qwen3.6 27Bを数週間にわたってローカルで運用した結果、以下の点は実用に耐えると感じました。
- **コードの読み取りと要約。** 関数の動作を尋ねると、しっかりした回答が返ってきます。Sonnet 4.6ほどきめ細かくはありませんが、初見のコードベースを把握するには十分です。
- **一般的なパターンのコード生成。** ボイラープレート、CRUD操作、設定ファイル、テストの雛形。ほとんどの場合、一発で動作するコードを書きます。3.6リリースは実際にマージされたPRでポストトレーニングされており、diffの品質にそれが表れています。
- **ファイル操作と単純なリファクタリング。** ファイル一覧の取得、パターン検索、ファイル内の変数名変更など、深い推論が不要な機械的タスク。
- **エージェント型ツール呼び出し。** Qwen3.6は関数呼び出しの信頼性を大きく引き上げました。Terminal-Bench 2.0の59.3%はClaude Opus 4.5と同スコアです。OpenClawのツールループでは、「誤った関数を誤った引数で呼び出す」エラーが減ることにつながります。
## ローカルモデルが苦手なこと
- **複数ファイルにまたがるリファクタリング。** 5つ以上のファイルにまたがるコンテキスト保持が必要になると不安定になります。モデルがコンテキストを見失うか、一貫性のない変更をします。200K以上のコンテキストウィンドウを持つクラウドモデルはここでは依然として優位ですが、Qwen3.6で差は縮まりました。
- **複雑なデバッグ。** 複数の抽象化レイヤーをまたぐ推論が必要なバグでは、問題が深い箇所にあるのに表面的な修正を提案することがあります。Claude Opus 4.8はSWE-bench VerifiedでQwen3.6 27Bをいまだに約11ポイント上回り、Claude Fable 5は約18ポイント上回ります。
- **旧世代ハードウェアでのDenseモデルの速度。** 27BモデルはRTX 5090単体で約70 t/s、M5 Maxで約22 t/sです。まだ3090や4090を使っている場合は30〜40 t/s程度を見込んでください（35B-A3B MoEの180 t/s超は例外です）。
- **非常に長いコンテキスト。** Qwen3.6は理論上256Kトークンまで対応しますが、一般向けハードウェアでは32Kを超えると推論品質が下がります。設定では `contextWindow` を現実的な値にしておきましょう。
## ハイブリッドアプローチ
ローカルモデルを試した人の多くは、最終的にハイブリッド構成に落ち着きます。軽い作業はローカル、難しい作業はクラウドという使い分けです。
```json5
{
agents: {
defaults: {
model: {
primary: "ollama/qwen3.6:27b",
thinking: "anthropic/claude-sonnet-4-6-20260514"
}
}
}
}
```
ローカルモデルがファイル読み取り、簡単な編集、ボイラープレートを処理し、一般的なコーディングセッションの60〜70%をカバーします。デバッグ、アーキテクチャ判断、複数ファイルにまたがる作業はSonnetが担います。API料金は1日あたり数ドルに収まり、20〜50ドルもかかることはなくなります。
より高い能力が必要だと分かっているタスクでは、手動で切り替えます：
```
/model sonnet
```
または[Haimakerの自動ルーター](/blog/openclaw-auto-router-setup/)でルーティングを自動化しましょう。自動ルーターはタスクの複雑さを検出し、難しい問題を自動でクラウドモデルに送るため、切り替えタイミングを意識せずに済みます。
## トラブルシューティング
**モデルの読み込みが遅い、またはクラッシュする。** メモリ不足の可能性が高いです。より低精度の量子化モデルを試してください。`ollama pull qwen3.6:27b-q4_K_M` は品質を少し落とす代わりにメモリ使用量を減らせます。Q4_K_Mは多くの人にとって最適解です。品質低下は最小限で、メモリ削減効果は大きいです。
**ツール呼び出しが失敗する。** モデル設定に `"reasoning": false` を設定し、Qwen3.6モデルを使い続けましょう。Qwen3.6はMistralや旧世代のLlamaモデルよりOpenClawのツール呼び出し形式を安定して処理できます。それでも失敗する場合は、Ollamaを最新版へ更新してください。公式プロバイダー統合により、いくつかのエッジケースが修正されています。
**コンテキストウィンドウエラー。** 設定で `contextWindow` を正しく指定してください。Qwen3.6では、VRAM 24GB以上（RTX 5090単体なら余裕があります）なら131072（128K）が安全な既定値です。16GB環境では品質劣化を避けるため32768にしてください。
**生成速度が遅い。** 5090上の27Bモデルが40 t/s未満、またはM5 Maxで18 t/s未満なら、他のプロセスがGPUを使っていないか確認しましょう。WebGLや動画を再生しているブラウザタブは閉じてください。Macでは、アクティビティモニタ → GPU履歴でユニファイドメモリを消費しているプロセスを確認できます。M5ユーザーはOllamaがMLXバックエンド（v0.21以降）を使っているかも確認してください。MetalのみのパスとMLXパスでは、プロンプト処理に約2倍の速度差があります。