Тот же запрос · два пути вывода
Сгенерировать ответ или оценить варианты
СООБЩЕНИЕ
«С меня дважды списали оплату за один и тот же заказ.»
СИСТЕМНЫЙ ПРОМПТ
Классифицируй этот тикет. Выбери «Биллинг» для проблем с оплатой, «Техническая поддержка» для сбоев продукта или «На проверку», если ситуация неясна.
Генерация текста
Последовательное формирование ответа
Чтение сообщения + системного промпта
Предсказание следующего токена→Добавление к выводу
Повторение с накопленным ответом
Сгенерированный JSON
Генерация ответа…Ответ готов~1–3 s · ~$0.000015/request
Вывод решений
Оценка трёх вариантов
Чтение сообщения + системного промпта
Оценка допустимых ответов
Вероятности вариантов
Биллинг92%
Техническая поддержка5%
Проверка3%
Генерация решения…Решение готово~100 ms · ~$0.000010/request
От решения к ответу клиенту
Модель принятия решений выбирает очередь
Однозначный результатКод направляет тикет
Человек или LLM разбирает проблему и пишет ответ.
Неоднозначный результатЧеловек проверяет
Проверяющий уточняет суть проблемы и выбирает нужную команду.
Клиент получает ответ