Muốn có một thiết lập ưu tiên chạy local, có cloud dự phòng mà không phải quản lý key cho từng nhà cung cấp? haimaker định tuyến các tác vụ coding-agent đơn giản về model local của bạn, và chuyển các tác vụ khó lên model cloud qua một endpoint duy nhất.
ĐỊNH TUYẾN MÔ HÌNH LOCAL VÀ CLOUD VỚI HAIMAKER
## Tổng thể tốt nhất: Qwen3 Coder
Qwen3 Coder là model đầu tiên tôi sẽ thử cho bất kỳ thiết lập coding agent local nào.
Lệnh pull model:
```bash
ollama pull qwen3-coder:30b
```
Chạy kiểm tra nhanh:
```bash
ollama run qwen3-coder:30b "Explain this repo structure and suggest where tests should live."
```
Vì sao model này xếp hạng nhất:
- Được tinh chỉnh rõ ràng cho các tác vụ coding và agentic.
- Trang Ollama liệt kê hỗ trợ `ollama launch` cho Claude Code, Codex, OpenCode và OpenClaw.
- Bản 30B chạy local thực tế hơn nhiều so với bản 480B.
- Khả năng ngữ cảnh dài giúp nó phù hợp cho công việc repository hơn các model code local đời cũ.
Hãy dùng model này để review code, tạo test, refactor ở mức vừa phải và cho các phiên agent ưu tiên local khi quyền riêng tư là yếu tố quan trọng.
## Lựa chọn nhẹ tốt nhất: Gemma 4
Gemma 4 là dòng model nên thử khi Qwen3 Coder quá nặng. Các biến thể Gemma 4 nhỏ hơn được thiết kế để chạy local và trên thiết bị, trong khi biến thể 26B MoE mang lại lựa chọn workstation mạnh hơn mà không cần kích hoạt toàn bộ tham số cho từng token.
Lệnh pull bản nhẹ cho laptop:
```bash
ollama pull gemma4:e4b
```
Lệnh pull bản mạnh hơn cho workstation:
```bash
ollama pull gemma4:26b
```
Gemma 4 phù hợp với coding agent khi bạn cần trợ giúp local nhanh về giải thích, sửa nhỏ và code riêng tư. Nó kém hấp dẫn hơn với những phiên tự hành dài, khi agent cần giữ trọn một kế hoạch migration nhất quán từ đầu đến cuối.
## Các model mới nhất: Kimi K2.7 Code và Laguna XS 2.1
Hai model tập trung vào coding đã xuất hiện trong thư viện Ollama trong mùa hè này và rất đáng theo dõi.
**Kimi K2.7 Code** là bản build tinh chỉnh cho coding của Moonshot trên nền dòng K2.6 — cùng dòng model có bản K3 đang vượt qua các model frontier đóng trên các bảng xếp hạng arena. Model này cần phần cứng thực sự mạnh (khoảng VRAM 48GB+ hoặc một máy Mac nhiều RAM), nhưng nếu bạn có đủ, thì đây là dòng model coding mở mạnh nhất mà bạn có thể chạy local hiện nay.
```bash
ollama pull kimi-k2.7-code
```
**Laguna XS 2.1** là MoE coding agentic của Poolside — tổng 33B tham số nhưng chỉ 3B hoạt động mỗi token, nên chạy nhẹ hơn nhiều so với kích thước. Nó được xây dựng riêng cho vòng lặp gọi tool mà coding agent luôn phải hoạt động bên trong.
Nếu trước đây bạn chạy DeepSeek Coder V2 theo phiên bản cũ của hướng dẫn này, hãy ngừng dùng nó — model đó đã tụt hậu hai thế hệ so với các lựa chọn hiện tại và đã biến mất khỏi các bảng xếp hạng cộng đồng.
## Nên sử dụng các model này ở đâu
- **[haimaker.ai](https://haimaker.ai)** – dùng các model Ollama local cùng với các model cloud mạnh hơn, định tuyến tác vụ coding-agent đơn giản chạy local và chuyển tác vụ khó sang model trả phí.
- **OpenClaw** – dùng Ollama làm provider local cho các phiên coding agent. Xem [hướng dẫn chọn model local cho OpenClaw](/vi-vn/blog/mô-hình-cục-bộ-tốt-nhất-cho-openclaw/).
- **OpenCode** – thêm Ollama qua đường dẫn provider tương thích OpenAI. Xem [dùng Ollama với OpenCode](/vi-vn/blog/dùng-ollama-với-opencode/).
- **Codex và Claude Code** – trang model của Ollama có kèm các ví dụ `ollama launch` cho agent runtime, bao gồm Codex và Claude Code.
## Thiết lập cho các agent tương thích OpenAI
Hầu hết coding agent đều có thể dùng Ollama thông qua endpoint local tương thích OpenAI:
```text
http://localhost:11434/v1
```
Hãy dùng một API key bất kỳ nếu công cụ của bạn yêu cầu. Ollama không xác thực key khi chạy local.
```json
{
"baseURL": "http://localhost:11434/v1",
"apiKey": "ollama",
"model": "qwen3-coder:30b"
}
```
Với OpenCode, khối provider trông như sau:
```jsonc
{
"$schema": "https://opencode.ai/config.json",
"provider": {
"ollama": {
"npm": "@ai-sdk/openai-compatible",
"name": "Ollama (local)",
"options": {
"baseURL": "http://localhost:11434/v1"
},
"models": {
"qwen3-coder:30b": {
"name": "Qwen3 Coder 30B"
}
}
}
}
}
```
Nếu việc gọi tool không đáng tin cậy, hãy giảm kích thước model trước, sau đó chỉ tăng ngữ cảnh đến mức phần cứng có thể xử lý được. Một cửa sổ ngữ cảnh khổng lồ bị swap bộ nhớ còn tệ hơn một cửa sổ nhỏ hơn nhưng vẫn phản hồi nhanh.
## Khi nào không nên dùng Ollama
Model local phát huy tốt nhất khi quyền riêng tư, chi phí hoặc làm việc offline là yếu tố quan trọng. Chúng không tự động tốt hơn cho mọi tác vụ coding.
Hãy dùng model cloud khi:
- Tác vụ trải rộng nhiều file
- Bug khó phát hiện
- Bạn cần gọi tool đáng tin cậy
- Patch sẽ chạm tới hệ thống production
- Bạn không có thời gian review từng dòng code được tạo ra
Cấu hình thực tế nên là ưu tiên local, chứ không phải chỉ chạy local. Hãy dùng Qwen3 Coder hoặc Gemma 4 cho các công việc riêng tư chi phí thấp, rồi chuyển lên model cloud mạnh hơn khi tác vụ trở nên tốn chất xám thay vì chỉ tốn token.