Coding Agent 的最佳 Ollama 模型：本機模型評比

2026 年 10 月 14 日更新： 下表提供目前候選模型的測試順序，並非新的程式設計實測排名。除了模型權重，還需為上下文狀態與執行階段緩衝預留記憶體。

最適合 coding agent 的 Ollama 模型，不一定是你能下載到的最大模型。Agent 會不斷循環：讀取檔案、呼叫工具、修訂計畫、產生 patch。有些模型在單一提示下看起來很強，但只要每次工具呼叫都得多跑一次緩慢的本機推論，實際用起來就會令人難以忍受。

這份評比可以當作實務起點：該拉取哪個模型、需要什麼硬體，以及何時該停止勉強本機推論、改用雲端備援。

快速評比

測試順序	模型	下載指令	測試任務	記憶體說明
1	Qwen3.8 27B	ollama pull qwen3.8:27b	程式設計、推理與工具呼叫	約 18GB 下載，另需上下文空間
2	Muse Glimmer 30B	ollama pull muse-glimmer:30b	代理循環與失敗復原	約 18GB 下載，另需上下文空間
3	Qwen3 Coder 30B	ollama pull qwen3-coder:30b	專用程式設計基準	核對量化版本和上下文
4	Nemotron 3.5 Lightning	ollama pull nemotron-3.5-lightning:30b	常駐代理	預設下載約 25GB，需要更多記憶體
5	gpt-oss 20B	ollama pull gpt-oss:20b	較小規模推理	約 14GB 下載，16GB 可能吃緊
6	Gemma 4 E4B	ollama pull gemma4:e4b	輕量程式碼輔助	核對實際版本與可用記憶體
7	Qwen3 8B	ollama pull qwen3:8b	小幅編輯與解釋	較小模型，先用短上下文

Qwen3.8 與 Muse Glimmer 是支援工具的新候選。Qwen3 Coder 仍可作為程式設計基準。請在相同儲存庫任務上比較，發布時間不等於實際品質排名。

依機器規格挑選

8-16GB 記憶體

先試 Gemma 4 E4B 或 Qwen3 8B。gpt-oss 20B 下載約 14GB，加上上下文和執行階段開銷後，可能超出 16GB 的實用預算。關閉其他應用程式並檢查實際占用。

這個級別適合：

• 解說不熟悉的程式碼
• 撰寫小型函式
• 草擬測試
• 產生設定檔
• 摘要日誌

不要期待在這裡進行可靠的跨檔案重構。較小的模型能寫出有用的程式碼，但一旦 agent 開始開啟檔案、修訂 patch、處理工具輸出，它們很快就會跟丟脈絡。

24-32GB 記憶體

比較 Qwen3.8 27B、Muse Glimmer 30B 與 Qwen3 Coder 30B。24GB GPU 或 32GB 以上統一記憶體可作為起點，但需限制上下文並實測占用。

64GB+ 記憶體

Qwen3 Coder Next 的預設下載約 52GB，另需執行階段空間。Nemotron 3.5 Lightning 的預設下載約 25GB。模型能載入不代表工具循環夠快，請同時測量延遲和完成品質。

程式設計基準：Qwen3 Coder

Qwen3 Coder 可作為專用程式設計基準，與上表的新候選執行相同任務來比較。

拉取它：

ollama pull qwen3-coder:30b

執行快速檢查：

ollama run qwen3-coder:30b "Explain this repo structure and suggest where tests should live."

將它作為程式設計基準的原因：

• 它明確針對 coding 與 agentic 工作流程進行調校。
• Ollama 頁面列出了 ollama launch 對 Claude Code、Codex、OpenCode 和 OpenClaw 的支援。
• 30B 變體在本機上比 480B 變體實際可行得多。
• 長上下文支援讓它比舊的本機程式碼模型更適合儲存庫相關工作。

適合用於程式碼審查、測試產生、中型重構，以及重視隱私的本機優先 agent 工作階段。

最佳輕量選擇：Gemma 4

當 Qwen3 Coder 太吃資源時，Gemma 4 是值得嘗試的模型系列。較小的 Gemma 4 變體專為本機與裝置端使用而設計；26B MoE 變體則提供更強的工作站選項，而且不會每個 token 都啟用所有參數。

拉取適合筆電的版本：

ollama pull gemma4:e4b

拉取更強的工作站版本：

ollama pull gemma4:26b

當你需要快速的本機輔助來解說程式碼、進行小幅修改或處理私有程式碼時，Gemma 4 很適合搭配 coding agent 使用。但如果是需要 agent 維持完整遷移計畫的長時間自主工作階段，它就沒那麼合適。

新的代理候選：Muse Glimmer 與 Nemotron 3.5 Lightning

Muse Glimmer 30B 可用於測試多步工具呼叫和失敗復原。Nemotron 3.5 Lightning 面向常駐代理，預設版本下載約 25GB；MLX 版本的大小與上下文限制不同，應核對實際標籤。

ollama pull muse-glimmer:30b
ollama pull nemotron-3.5-lightning:30b

帶有 cloud 標籤的模型使用託管推理，不能因為由 Ollama 啟動就稱為私有本機推理。

在哪裡使用這些模型

• haimaker.ai - 將本機 Ollama 模型與更強的雲端模型搭配使用：把簡單的 coding agent 工作分派到本機，困難任務交給付費模型。
• OpenClaw - 使用 Ollama 作為 coding agent 工作階段的本機 provider。參閱 OpenClaw 本機模型指南。
• OpenCode - 透過 OpenAI 相容的 provider 路徑加入 Ollama。參閱 使用 OpenCode 搭配 Ollama。
• Codex 和 Claude Code - Ollama 的模型頁面包含 ollama launch 的 agent 執行環境範例，包括 Codex 和 Claude Code。

OpenAI 相容 agent 的設定

多數 coding agent 都可以透過 Ollama 的本機 OpenAI 相容端點來使用：

http://localhost:11434/v1

如果你的工具要求 API 金鑰，填入一個佔位值即可；Ollama 在本機端不會驗證它。

{
  "baseURL": "http://localhost:11434/v1",
  "apiKey": "ollama",
  "model": "qwen3.8:27b"
}

OpenCode 的 provider 區塊如下：

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "ollama": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Ollama (local)",
      "options": {
        "baseURL": "http://localhost:11434/v1"
      },
      "models": {
        "qwen3.8:27b": {
          "name": "Qwen3.8 27B"
        }
      }
    }
  }
}

如果工具呼叫不穩定，先縮小模型，再只把上下文加到硬體能負荷的範圍。一個大到會觸發記憶體置換的上下文視窗，比能保持回應速度的小視窗更糟。

何時不該使用 Ollama

當隱私、成本或離線工作很重要時，本機模型最適合。但不見得每個程式設計任務都更適合用它們。

遇到以下情況，改用雲端模型：

• 任務跨越多個檔案
• bug 難以察覺
• 你需要可靠的工具呼叫
• patch 會影響正式環境
• 你沒有時間逐行審查產生的程式碼

務實的做法是本機優先，而不是只靠本機。用 Qwen3 Coder 或 Gemma 4 處理低成本的私有工作，當任務開始消耗大量注意力而不是 token 時，再升級到更強的雲端模型。

使用 HAIMAKER 分派本機與雲端模型

---

如需 OpenClaw 專用的本機設定，請參閱 OpenClaw 最佳本機模型。如需 OpenCode 設定，請參閱 使用 OpenCode 搭配 Ollama。