同一请求 · 两条输出路径
生成答案或对选项评分
消息
“同一笔订单，我被扣了两次费。”
系统提示词
对此工单进行分类。支付问题选择 billing，产品故障选择 technical，不确定时选择 review。
文本生成
按顺序构建答案
读取消息 + 系统提示词
预测下一个 token→追加到输出
用不断增长的答案重复此过程
生成的 JSON
正在生成答案…答案就绪~1–3 s · ~$0.000015/request
决策推理
评估三个选项
读取消息 + 系统提示词
对允许的答案评分
选项概率
Billing92%
Technical5%
Review3%
正在生成决策…决策就绪~100 ms · ~$0.000010/request
从判断到客户响应
决策模型选择队列
结果明确代码对工单进行路由
由人工或 LLM 处理问题并撰写回复。
结果不确定由人工审核
审核人员厘清问题并选择合适的团队。
客户收到回复