동일한 요청 · 두 가지 출력 경로
답변을 생성하거나 옵션에 점수를 매기기
메시지
"같은 주문에 대해 두 번 결제되었습니다."
시스템 프롬프트
이 티켓을 분류하세요. 결제 문제는 billing, 제품 장애는 technical, 불분명한 경우 review를 선택하세요.
텍스트 생성
순차적으로 답변 생성
메시지 + 시스템 프롬프트 읽기
다음 토큰 예측→출력에 추가
누적되는 답변으로 반복
생성된 JSON
답변 생성 중…답변 완료~1–3 s · ~$0.000015/request
의사결정 추론
세 가지 옵션 평가
메시지 + 시스템 프롬프트 읽기
허용된 답변 점수 매기기
옵션 확률
요금92%
기술5%
검토3%
의사결정 생성 중…의사결정 완료~100 ms · ~$0.000010/request
판단에서 고객 응답까지
의사결정 모델이 큐를 선택
명확한 결과코드가 티켓을 라우팅
사람 또는 LLM이 문제를 처리하고 답변을 작성합니다.
불확실한 결과사람이 검토
검토자가 문제를 명확히 하고 적절한 팀을 선택합니다.
고객이 응답을 받음