2026 年 10 月 14 日更新： 下表给出当前候选模型的测试顺序，并非新的编程实测排名。模型权重之外，还需为上下文状态与运行时缓冲预留内存。

适合编程智能体的最佳 Ollama 模型，并不一定是你能下载到的最大模型。智能体的工作方式是循环迭代：读取文件、调用工具、修订计划、生成补丁。有些模型在一次提示中表现不错，但当智能体每次调用工具都要再跑一轮本地推理时，速度拖慢，体验便难以忍受。

以下排名可作为实操参考：该拉取哪个模型、需要什么硬件，以及什么时候该停止硬撑本地推理、改用云端兜底。

快速排名

测试顺序模型拉取命令测试任务内存说明
1Qwen3.8 27Bollama pull qwen3.8:27b编程、推理与工具调用约 18GB 下载，另需上下文空间
2Muse Glimmer 30Bollama pull muse-glimmer:30b智能体循环与失败恢复约 18GB 下载，另需上下文空间
3Qwen3 Coder 30Bollama pull qwen3-coder:30b专用编程基线核对量化版本和上下文
4Nemotron 3.5 Lightningollama pull nemotron-3.5-lightning:30b常驻智能体默认下载约 25GB，需要更多内存
5gpt-oss 20Bollama pull gpt-oss:20b较小规模推理约 14GB 下载，16GB 可能较紧
6Gemma 4 E4Bollama pull gemma4:e4b轻量代码辅助核对具体构建和剩余内存
7Qwen3 8Bollama pull qwen3:8b小规模编辑与解释较小模型，先用短上下文

Qwen3.8 和 Muse Glimmer 是支持工具的新候选。Qwen3 Coder 仍可作为编程基线。请在相同仓库任务上对比，发布时间不等于实际质量排名。

按机器配置选择

8-16GB 内存

先试 Gemma 4 E4B 或 Qwen3 8B。gpt-oss 20B 下载约 14GB，加入上下文和运行时开销后可能超出 16GB 的实用预算。关闭其他应用，并检查实际内存占用。

这个档位适合：

  • 解释不熟悉的代码
  • 编写小型函数
  • 起草测试
  • 生成配置文件
  • 总结日志

别指望在这个级别做可靠的多文件重构。小模型能写出有用的代码，但智能体一开始打开文件、修改补丁、处理工具输出，它们就很容易跟丢主线。

24-32GB 内存

对比 Qwen3.8 27B、Muse Glimmer 30B 和 Qwen3 Coder 30B。24GB GPU 或 32GB 以上统一内存可作为起点，但需限制上下文并实测占用。

64GB+ 内存

Qwen3 Coder Next 的默认下载约 52GB，另需运行时空间。Nemotron 3.5 Lightning 的默认下载约 25GB。模型能装载不代表工具循环够快，请同时测量延迟和完成质量。

在智能体中同时配置本地 Ollama 供应商和 haimaker 云端供应商，本地模型无法完成任务时再切换。

使用 HAIMAKER 路由本地和云端模型

编程基线：Qwen3 Coder

Qwen3 Coder 可作为专用编程基线，与上表的新候选运行相同任务来对比。

拉取：

ollama pull qwen3-coder:30b

快速验证：

ollama run qwen3-coder:30b "Explain this repo structure and suggest where tests should live."

将它作为编程基线的原因：

  • 明确针对编程和智能体工作流做了调优。
  • Ollama 页面列出了支持 Claude Code、Codex、OpenCode 和 OpenClaw 的 ollama launch 功能。
  • 30B 变体在本地运行比 480B 变体现实得多。
  • 长上下文支持使其比旧版本地代码模型更适合仓库级工作。

适合用来做代码审查、测试生成、中等规模重构，以及注重隐私的本地优先智能体会话。

最佳轻量选择：Gemma 4

当 Qwen3 Coder 太重时，Gemma 4 系列是值得尝试的选择。较小的 Gemma 4 变体专为本地和端侧使用而设计，26B MoE 变体则提供更强的工作站选项，而且不需要在每个 token 上激活所有参数。

拉取适合笔记本的版本：

ollama pull gemma4:e4b

拉取更强的工作站版本：

ollama pull gemma4:26b

当你需要快速的本地辅助来解释代码、做小规模编辑和处理私有代码时，Gemma 4 是编程智能体的好选择。但如果需要智能体在长时间自主会话中保持完整的迁移计划，它就不太够用了。

新的智能体候选：Muse Glimmer 和 Nemotron 3.5 Lightning

Muse Glimmer 30B 可用于测试多步工具调用和失败恢复。Nemotron 3.5 Lightning 面向常驻智能体，默认构建下载约 25GB；MLX 构建的大小和上下文限制不同，应核对实际标签。

ollama pull muse-glimmer:30b
ollama pull nemotron-3.5-lightning:30b

带有 cloud 标签的模型使用托管推理，不能因为由 Ollama 启动就称为私有本地推理。

在哪里使用这些模型

  • haimaker.ai - 将本地 Ollama 模型与更强的云端模型配合使用，简单的编程智能体任务路由到本地，困难任务路由到付费模型。
  • OpenClaw - 将 Ollama 作为编程智能体会话的本地提供商。参见 OpenClaw 本地模型指南。
  • OpenCode - 通过 OpenAI 兼容的提供商路径添加 Ollama。参见 Ollama 与 OpenCode 配合使用。
  • Codex 和 Claude Code - Ollama 的模型页面包含 ollama launch 示例，覆盖 Codex 和 Claude Code 等智能体运行时。

面向 OpenAI 兼容智能体的配置

大多数编程智能体都可以通过 Ollama 的本地 OpenAI 兼容端点来使用：

http://localhost:11434/v1

如果你的工具要求填写 API 密钥，填入一个占位符即可，Ollama 本地不会校验。

{
  "baseURL": "http://localhost:11434/v1",
  "apiKey": "ollama",
  "model": "qwen3.8:27b"
}

对于 OpenCode，提供商配置块如下：

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "ollama": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Ollama (local)",
      "options": {
        "baseURL": "http://localhost:11434/v1"
      },
      "models": {
        "qwen3.8:27b": {
          "name": "Qwen3.8 27B"
        }
      }
    }
  }
}

如果工具调用不稳定，先减小模型规模，再在硬件承受范围内逐步增加上下文。一个导致内存交换的巨大上下文窗口，还不如一个保持响应速度的小窗口。

何时不该用 Ollama

当隐私、成本或离线工作很重要时，本地模型是最佳选择。但它们并不是在所有编程任务上都自动更好。

以下情况应使用云端模型：

  • 任务涉及多个文件
  • Bug 很隐蔽
  • 需要可靠的工具调用
  • 补丁将触及生产系统
  • 没时间逐行审查生成的代码

实用的配置策略是本地优先，而非仅限本地。用 Qwen3 Coder 或 Gemma 4 处理低成本的私有工作，当任务的主要成本从 token 消耗变成你自己的注意力时，就该升级到更强的云端模型。

使用 HAIMAKER 路由本地和云端模型

关于 OpenClaw 专属的本地配置，参见 OpenClaw 最佳本地模型。关于 OpenCode 配置，参见 Ollama 与 OpenCode 配合使用。