Cùng một yêu cầu · hai luồng đầu ra
Tạo câu trả lời hoặc chấm điểm các lựa chọn
TIN NHẮN
“Tôi bị tính phí hai lần cho cùng một đơn hàng.”
LỜI NHẮC HỆ THỐNG
Phân loại ticket này. Chọn billing cho vấn đề thanh toán, technical cho lỗi sản phẩm, hoặc review khi không rõ ràng.
Tạo văn bản
Xây dựng câu trả lời theo trình tự
Đọc tin nhắn + lời nhắc hệ thống
Dự đoán token tiếp theo→Thêm vào đầu ra
Lặp lại với câu trả lời ngày càng dài
JSON được tạo
Đang tạo câu trả lời…Đã có câu trả lời~1–3 s · ~$0.000015/request
Suy luận quyết định
Đánh giá ba lựa chọn
Đọc tin nhắn + lời nhắc hệ thống
Chấm điểm các câu trả lời được phép
Xác suất các lựa chọn
Billing92%
Technical5%
Review3%
Đang tạo quyết định…Đã có quyết định~100 ms · ~$0.000010/request
Từ phán đoán đến phản hồi khách hàng
Mô hình quyết định chọn hàng đợi
Kết quả rõ ràngCode định tuyến ticket
Một người hoặc LLM xử lý vấn đề và viết phản hồi.
Kết quả không chắc chắnMột người xem xét lại
Người xem xét làm rõ vấn đề và chọn đúng nhóm.
Khách hàng nhận được phản hồi