Các mô hình Ollama tốt nhất cho lập trình theo GPU NVIDIA RTX: Hướng dẫn theo tầng VRAM

Danh sách mô hình được kiểm tra vào ngày 14 tháng 10 năm 2026. Các lựa chọn bên dưới là thứ tự thử nghiệm cho từng loại khối lượng công việc khác nhau, không phải kết quả từ một benchmark lập trình có kiểm soát mới. Hãy chừa bộ nhớ cho ngữ cảnh, bộ đệm runtime cũng như cho trọng số mô hình.

Mô hình lập trình local phù hợp là mô hình lớn nhất nằm hoàn toàn trong VRAM của GPU, với phần dư cho ngữ cảnh. Phần sau quan trọng hơn nhiều người nghĩ. Một mô hình 32B chạy ở 60 token/giây khi nằm gọn trong VRAM sẽ tụt xuống 1-2 token/giây ngay khi tràn sang RAM hệ thống. Với một coding agent lặp qua hàng chục lần gọi tool, đó là ranh giới giữa dùng được và bỏ đi.

Vậy câu hỏi không phải “mô hình Ollama tốt nhất cho lập trình là gì,” mà là “mô hình tốt nhất mà card của tôi chứa được là gì.” Hướng dẫn này đối chiếu các GPU NVIDIA RTX tiêu dùng hiện tại với mô hình lập trình phù hợp, tốc độ kỳ vọng, và thời điểm bạn nên ngừng ép suy luận local để chuyển sang mô hình cloud.

Để xem bảng xếp hạng mô hình theo chất lượng riêng, hãy xem các mô hình Ollama tốt nhất cho coding agent. Bài viết này là phần bổ sung về phần cứng cho bài đó.

Bảng đối chiếu nhanh: GPU và mô hình phù hợp

GPU	VRAM	Ứng viên hiện tại để thử nghiệm	Ngân sách ngữ cảnh
RTX 5090	32GB	qwen3.8:27b, muse-glimmer:30b, qwen3-coder:30b	Bắt đầu với phạm vi giới hạn; đo trước khi mở rộng
RTX 4090 / 3090	24GB	Cùng các ứng viên workstation với bản build phù hợp	Ít dư địa hơn; kiểm tra phân bổ thực tế
RTX 5070 Ti / 4070 Ti Super / 4060 Ti 16GB	16GB	gemma4:e4b, qwen3:8b, các bản build 14B nhỏ hơn đã xác minh	Ngữ cảnh ngắn hơn; tính cả chi phí runtime
RTX 3060 12GB	12GB	qwen3:8b, gemma4:e4b nếu bản build vừa	Ngữ cảnh ngắn
Card 8GB	8GB	Bản build Gemma hoặc Qwen nhỏ hơn thực sự vừa	Kiểm tra trọng số cộng ngữ cảnh, không chỉ tên mô hình

Không có benchmark token/giây mới nào được chạy cho bản cập nhật này. Các con số tốc độ cũ không thể gán cho Qwen3.8 hoặc Muse Glimmer. Sử dụng ollama ps trong một tác vụ đại diện để kiểm tra mức thường trú và sử dụng bộ nhớ.

32GB: RTX 5090

So sánh Qwen3.8 27B, Muse Glimmer 30B và Qwen3 Coder 30B trên cùng một tác vụ repository. Dung lượng tải xuống mặc định của Qwen3.8 và Muse Glimmer khoảng 18GB, để lại một khoảng trống trên card 32GB cho ngữ cảnh và bộ đệm runtime.

ollama pull qwen3.8:27b

Dung lượng tải xuống không phải toàn bộ bộ nhớ làm việc. Hãy đo bộ nhớ và độ trễ ở kích thước ngữ cảnh dự định trước khi chọn mặc định. Nemotron 3.5 Lightning có dung lượng tải xuống mặc định lớn hơn, khoảng 25GB; ngữ cảnh dài cần nhiều không gian dự trữ hơn.

24GB: RTX 4090 và RTX 3090

Qwen3.8 27B, Muse Glimmer 30B và Qwen3 Coder 30B là các ứng viên cho tầng này. Dung lượng tải xuống khoảng 18GB để lại ít không gian dự trữ hơn trên phần cứng 24GB so với card 32GB. Hãy kiểm tra phân bổ ngữ cảnh thực tế thay vì giả sử cửa sổ ngữ cảnh tối đa theo quảng cáo sẽ vừa.

ollama pull qwen3.8:27b

Các mức lượng tử hóa khác nhau thay đổi cả chất lượng lẫn mức sử dụng bộ nhớ. Sử dụng tag được nhà phát hành mô hình liệt kê, rồi so sánh độ chính xác hoàn thành tác vụ và độ trễ trên card của bạn.

16GB: RTX 5070 Ti, 4070 Ti Super, 4060 Ti 16GB

Bắt đầu với Gemma 4 E4B, Qwen3 8B, hoặc bản build nhỏ hơn đã xác minh của Qwen3 14B. Dành chỗ cho ngữ cảnh và bộ đệm runtime.

ollama pull qwen3:8b

gpt-oss 20B có dung lượng tải xuống khoảng 14GB, nên phần cứng 16GB có thể chật chội trong một phiên agent. Ngữ cảnh ngắn có thể hoạt động, nhưng hãy kiểm tra phân bổ thực tế. Tham số hoạt động của mô hình MoE mô tả khối lượng tính toán, không phải bao nhiêu trọng số expert cần được lưu trữ.

12GB: RTX 3060 12GB và tương đương

Ở 12GB, lựa chọn tối ưu là lớp 8B. Qwen3 8B chạy ở tốc độ tương tác và xử lý tốt công việc agent hàng ngày: giải thích code lạ, viết hàm nhỏ, soạn test, tóm tắt log.

ollama pull qwen3:8b

Bạn có thể ép mô hình 14B ở Q4 (khoảng 8GB) lên card 12GB, nhưng không gian ngữ cảnh sẽ nhanh chóng chật. Để có vòng lặp agent mượt mà, mô hình 8B nằm hoàn toàn trong VRAM thường cho trải nghiệm tốt hơn mô hình 14B phải tranh giành bộ nhớ.

8GB: Card cấp thấp

Tám gigabyte cần bản build nhỏ và ngữ cảnh ngắn. Hãy kiểm tra dung lượng tải xuống thực tế của Gemma 4 E4B hoặc Qwen3 8B cộng phân bổ runtime trước khi giả sử nó vừa.

ollama pull gemma4:e4b

Đặt kỳ vọng cho phù hợp. Phân khúc này tốt cho giải thích code, boilerplate và chỉnh sửa file đơn nhỏ. Đây không phải nơi để chạy coding agent qua một cuộc refactor đa file. Mô hình nhỏ hơn sẽ không theo kịp khi agent bắt đầu mở file, sửa patch và xử lý output từ tool.

Quy tắc đánh bại mọi benchmark

Giữ mô hình hoàn toàn trong VRAM. Mọi thứ khác đều là thứ yếu.

• CPU offload có thể giảm mạnh thông lượng; hãy đo mô hình và cấu hình offload thực tế
• Lượng tử hóa là cách để mô hình vừa VRAM: Q4_K_M là mặc định thực dụng, Q5/Q8 chỉ khi bạn có VRAM dư
• Xử lý prompt nhanh trên mọi card; sinh token là điểm nghẽn, và nó phụ thuộc vào băng thông bộ nhớ
• Mô hình nhỏ hơn nằm thường trú luôn thắng mô hình lớn hơn phải swap, mọi lúc

Khi chọn mức lượng tử hóa, hãy chừa dư dung lượng cho ngữ cảnh. Mô hình vừa ở 0K ngữ cảnh nhưng tràn ở 16K sẽ swap giữa phiên, đó là trường hợp tệ nhất.

Khi nào nên dùng mô hình cloud thay thế

Local tốt nhất khi quyền riêng tư, chi phí hoặc làm việc offline quan trọng. Nó không tự động tốt hơn cho mọi tác vụ, và không có GPU tiêu dùng nào thay đổi được điều đó. Hãy chuyển sang mô hình cloud khi:

• Tác vụ trải dài nhiều file
• Bug tinh vi khó bắt và cần khả năng suy luận mạnh
• Bạn cần gọi tool đáng tin cậy
• Thay đổi sẽ ảnh hưởng đến production
• Bạn không có thời gian xem xét mọi dòng code được tạo ra

Cách thiết lập hợp lý là local-first, không phải local-only. Chạy Qwen3 Coder hoặc mô hình 14B trên card RTX cho công việc riêng tư giá rẻ, rồi chuyển sang mô hình cloud mạnh hơn khi tác vụ trở nên phức tạp.

Cách định tuyến local và cloud cùng nhau

• haimaker.ai — nhà cung cấp cloud bạn có thể cấu hình bên cạnh Ollama trong agent của mình, với một khóa duy nhất cho các mô hình cloud bạn so sánh
• Ollama — chạy mô hình local trên card RTX với API tương thích OpenAI trên localhost
• Coding agent của bạn — trỏ OpenCode, OpenClaw hoặc bất kỳ agent tương thích OpenAI nào đến endpoint local cho công việc giá rẻ và endpoint cloud cho mọi thứ khác

ĐỊNH TUYẾN MÔ HÌNH LOCAL VÀ CLOUD VỚI HAIMAKER

Tóm lại

Chọn mô hình và ngữ cảnh vừa với card thực tế của bạn. Thử nghiệm các ứng viên workstation hiện tại trên phần cứng 24–32GB và các bản build nhỏ hơn trên phần cứng thấp hơn mức đó. Mô hình mới hơn chỉ hữu ích nếu nó hoàn thành tác vụ chính xác ở độ trễ bạn chấp nhận được.

---

Để xem bảng xếp hạng mô hình dựa trên giá trị riêng của chúng, hãy xem các mô hình Ollama tốt nhất cho coding agent. Để thiết lập local riêng cho OpenClaw, hãy xem các mô hình local tốt nhất cho OpenClaw.