Dieselbe Anfrage · zwei Ausgabepfade
Antwort generieren oder Optionen bewerten
NACHRICHT
„Mir wurde dieselbe Bestellung doppelt in Rechnung gestellt.“
SYSTEM-PROMPT
Klassifiziere dieses Ticket. Wähle Billing bei Zahlungsproblemen, Technical bei Produktfehlern oder Review, wenn unklar.
Textgenerierung
Antwort schrittweise aufbauen
Nachricht + System-Prompt lesen
Nächstes Token vorhersagen→An die Ausgabe anhängen
Mit der wachsenden Antwort wiederholen
Generiertes JSON
Antwort wird generiert …Antwort bereit~1–3 s · ~$0.000015/request
Entscheidungsinferenz
Drei Optionen bewerten
Nachricht + System-Prompt lesen
Zulässige Antworten bewerten
Optionswahrscheinlichkeiten
Billing92%
Technical5%
Review3%
Entscheidung wird generiert …Entscheidung bereit~100 ms · ~$0.000010/request
Von der Entscheidung zur Kundenantwort
Entscheidungsmodell wählt eine Warteschlange
Eindeutiges ErgebnisCode leitet das Ticket weiter
Eine Person oder ein LLM bearbeitet das Anliegen und verfasst eine Antwort.
Unsicheres ErgebnisEine Person prüft es
Die Person klärt das Anliegen und wählt das richtige Team.
Der Kunde erhält eine Antwort