모든 프로바이더의 키를 관리하지 않고도 로컬 우선, 클라우드 폴백 설정을 원하시나요? haimaker는 간단한 코딩 에이전트 작업을 로컬 모델로 라우팅하고, 어려운 작업은 하나의 엔드포인트를 통해 클라우드 모델로 넘깁니다.
HAIMAKER로 로컬 및 클라우드 모델 라우팅하기
## 종합 최고: Qwen3 Coder
Qwen3 Coder는 모든 로컬 코딩 에이전트 설정에서 가장 먼저 테스트할 모델입니다.
pull하기:
```bash
ollama pull qwen3-coder:30b
```
빠르게 테스트해 보기:
```bash
ollama run qwen3-coder:30b "Explain this repo structure and suggest where tests should live."
```
1위로 뽑은 이유는 다음과 같습니다:
- 코딩 및 에이전트 중심 워크플로에 특화되어 있습니다.
- Ollama 페이지에는 Claude Code, Codex, OpenCode, OpenClaw용 `ollama launch` 지원이 명시되어 있습니다.
- 30B 버전은 480B 버전보다 로컬에서 훨씬 현실적입니다.
- 긴 컨텍스트 지원 덕분에 이전 로컬 코드 모델보다 리포지토리 작업에 더 적합합니다.
코드 리뷰, 테스트 생성, 중간 규모 리팩토링, 프라이버시가 중요한 로컬 우선 에이전트 세션에 사용하세요.
## 최고의 경량 선택지: Gemma 4
Gemma 4는 Qwen3 Coder가 너무 무거울 때 시도할 모델군입니다. 작은 Gemma 4 모델들은 로컬 및 온디바이스 사용에 맞게 설계되었고, 26B MoE 모델은 모든 토큰에서 모든 파라미터를 활성화하지 않으면서 더 강력한 워크스테이션 옵션을 제공합니다.
노트북 친화적인 버전 pull하기:
```bash
ollama pull gemma4:e4b
```
더 강력한 워크스테이션 버전 pull하기:
```bash
ollama pull gemma4:26b
```
Gemma 4는 설명, 소규모 편집, 비공개 코드에 대한 빠른 로컬 지원이 필요할 때 코딩 에이전트에 좋은 선택입니다. 에이전트가 전체 마이그레이션 계획을 일관되게 유지해야 하는 긴 자율 세션에는 덜 적합합니다.
## 최신 등장 모델: Kimi K2.7 Code와 Laguna XS 2.1
올여름 Ollama 라이브러리에 코딩 특화 모델 두 개가 등장했으며 주목할 만합니다.
**Kimi K2.7 Code**는 Moonshot의 K2.6 라인을 기반으로 한 코딩 특화 빌드입니다. 같은 계열의 K3 릴리스는 아레나 리더보드에서 폐쇄형 최첨단 모델을 계속 앞서고 있습니다. 고사양 하드웨어가 필요합니다(48GB+ VRAM이나 고용량 Mac을 생각하세요). 하지만 갖추고 있다면, 현재 로컬에서 실행할 수 있는 가장 강력한 오픈 코딩 모델 계열입니다.
```bash
ollama pull kimi-k2.7-code
```
**Laguna XS 2.1**은 Poolside의 에이전트 중심 코딩 MoE입니다. 총 33B 파라미터에 토큰당 활성 파라미터는 3B뿐이므로 크기보다 훨씬 가볍게 실행됩니다. 코딩 에이전트가 실제로 동작하는 도구 호출 루프에 특화되어 있습니다.
이 가이드의 이전 버전에서 DeepSeek Coder V2를 사용하고 있었다면 이제 교체하세요. 현재 옵션보다 두 세대 뒤처져 있고, 커뮤니티 순위에서 완전히 빠졌습니다.
## 이 모델들을 어디서 사용할까
- **[haimaker.ai](https://haimaker.ai)** - 로컬 Ollama 모델을 더 강력한 클라우드 모델과 함께 사용하고, 간단한 코딩 에이전트 작업은 로컬로, 어려운 작업은 유료 모델로 라우팅합니다.
- **OpenClaw** - 코딩 에이전트 세션에서 Ollama를 로컬 프로바이더로 사용합니다. [OpenClaw 로컬 모델 가이드](/ko-kr/blog/openclaw용-최고의-로컬-llm/)를 참조하세요.
- **OpenCode** - OpenAI 호환 프로바이더 경로를 통해 Ollama를 추가합니다. [OpenCode에서 Ollama 사용하기](/ko-kr/blog/opencode에서-ollama-사용/)를 참조하세요.
- **Codex 및 Claude Code** - Ollama 모델 페이지에는 Codex와 Claude Code를 포함한 에이전트 런타임용 `ollama launch` 예시가 포함되어 있습니다.
## OpenAI 호환 에이전트 설정
대부분의 코딩 에이전트는 로컬 OpenAI 호환 엔드포인트를 통해 Ollama를 사용할 수 있습니다:
```text
http://localhost:11434/v1
```
도구가 API 키를 요구하면 플레이스홀더 키를 사용하세요. Ollama는 로컬에서 이를 검증하지 않습니다.
```json
{
"baseURL": "http://localhost:11434/v1",
"apiKey": "ollama",
"model": "qwen3-coder:30b"
}
```
OpenCode의 경우 프로바이더 블록은 다음과 같습니다:
```jsonc
{
"$schema": "https://opencode.ai/config.json",
"provider": {
"ollama": {
"npm": "@ai-sdk/openai-compatible",
"name": "Ollama (local)",
"options": {
"baseURL": "http://localhost:11434/v1"
},
"models": {
"qwen3-coder:30b": {
"name": "Qwen3 Coder 30B"
}
}
}
}
}
```
도구 호출이 불안정하면 먼저 모델 크기를 줄이고, 하드웨어가 감당할 수 있는 범위 내에서만 컨텍스트를 늘리세요. 메모리 스왑이 발생하는 거대한 컨텍스트 윈도우는 응답성을 유지하는 작은 윈도우보다 나쁩니다.
## Ollama를 사용하지 말아야 할 때
로컬 모델은 프라이버시, 비용, 오프라인 작업이 중요할 때 가장 좋습니다. 모든 코딩 작업에 자동으로 더 나은 것은 아닙니다.
클라우드 모델을 사용해야 할 때:
- 작업이 여러 파일에 걸쳐 있을 때
- 버그가 미묘할 때
- 안정적인 도구 호출이 필요할 때
- 패치가 프로덕션 시스템에 영향을 줄 때
- 생성된 모든 줄을 리뷰할 시간이 없을 때
실용적인 설정은 로컬 우선이지, 로컬 전용이 아닙니다. Qwen3 Coder나 Gemma 4로 저렴하게 프라이버시를 지키며 작업하고, 토큰 비용보다 집중력이 더 드는 시점이 오면 더 강력한 클라우드 모델로 넘기세요.