Un modelo de decisión ayuda al software a elegir entre las respuestas que defines. Le proporcionas un mensaje, una pregunta y las opciones permitidas, y te devuelve un juicio con probabilidades. Un modelo de lenguaje grande (LLM) generativo de texto puede componer una respuesta nueva. Un modelo de decisión puede ayudar a decidir a dónde debe ir primero ese mensaje.
Jev de TypeSafe, Clef de Cloudflare y la Decisions API de OpenAI permiten este tipo de juicio acotado. Una aplicación puede usarlos para seleccionar una cola de soporte, identificar un problema o evaluar su gravedad. Un modelo generativo puede encargarse de la redacción posterior.
Un mensaje, dos tareas distintas
Supongamos que un cliente escribe: «Me han cobrado dos veces por el mismo pedido». Un sistema de soporte tiene dos tareas: enviar el ticket al equipo adecuado y que alguien redacte una respuesta útil. Esas tareas requieren salidas diferentes.
Un LLM generativo podría escribir: «Puedo ayudarte a revisar ese cargo». Un modelo de decisión podría responder a la pregunta «¿Qué equipo debería encargarse?» con billing, seleccionado entre billing, technical y review.
La aplicación puede inspeccionar esa respuesta directamente. Podría enrutar el ticket a facturación o enviarlo a revisión cuando el resultado sea incierto. Una persona u otro modelo puede entonces redactar la respuesta. El modelo de decisión gestiona un juicio concreto dentro de un proceso más amplio. La introducción a System One de TypeSafe describe esta separación.
El diagrama compara ambos modelos ante la misma pregunta de enrutamiento. El modelo de texto genera una respuesta JSON; el modelo de decisión puntúa las tres opciones permitidas.
¿Qué puedes preguntarle a un modelo de decisión?
Las interfaces de decisión suelen admitir tres tipos de preguntas: elegir una opción, estimar si algo es verdadero o dar una puntuación. Tú proporcionas la evidencia y defines qué significan las respuestas. El mismo mensaje de cliente puede dar lugar a varios juicios independientes.
| Tipo de pregunta | Ejemplo | Qué se devuelve |
|---|---|---|
| Elegir una opción | ¿Qué equipo debería responder primero? | Un equipo seleccionado y probabilidades para cada opción |
| Sí o no | ¿Este mensaje solicita un reembolso? | Una probabilidad de que la respuesta sea sí |
| Dar una puntuación | ¿Qué gravedad tiene este problema según una escala definida? | Una valoración basada en los niveles que proporcionaste |
TypeSafe los denomina Choice, Noul y Score. OpenAI utiliza choice, predicate y score. Un predicado es una pregunta de sí/no.
La formulación importa. «¿Qué equipo debería responder primero?» pide un único equipo. «¿Menciona esto un problema de facturación?» y «¿Menciona esto un problema técnico?» son preguntas separadas que pueden recibir ambas un sí. Si un ticket describe dos problemas, encasillarlos en una sola categoría puede hacer que se pierda información útil.
¿En qué se diferencia esto de pedir JSON a un LLM?
Un LLM también puede devolver una categoría dentro de JSON, un formato de datos que el software puede leer. Con Structured Outputs, los esquemas admitidos pueden restringir la respuesta a los valores permitidos. Eso convierte a un LLM en una alternativa válida para muchas tareas de clasificación.
La diferencia está en cómo un modelo de decisión dedicado produce su respuesta. Un LLM convencional genera texto en secuencia, usando pequeñas piezas llamadas tokens. Sigue siendo generación de texto aunque la salida sea simplemente {"team":"billing"}.
Clef de Cloudflare, en cambio, lee la entrada y puntúa las respuestas permitidas directamente, sin escribir la respuesta token a token. Cloudflare describe este enfoque en su anuncio de Clef. Clef sigue utilizando un LLM como base para comprender la entrada.
OpenAI documenta las entradas y salidas de la Decisions API sin confirmar que utilice el diseño interno de Clef. Una interfaz similar no demuestra una arquitectura idéntica.
Ambos enfoques pueden devolver una categoría válida y aun así elegir la incorrecta. Una categoría válida aún debe coincidir con el problema del cliente.
¿Dónde encajan Jev, Clef y OpenAI?
Estos productos proporcionan juicios concretos que el software puede inspeccionar. Jev es el modelo de decisión de TypeSafe. Clef es la familia de modelos descargables de Cloudflare, también disponible a través de Workers AI. OpenAI ofrece una Decisions API para preguntas acotadas. Elegir entre ellos requiere probarlos con la tarea real.
| Producto | Qué saber primero |
|---|---|
| TypeSafe Jev | Construido en torno a preguntas tipadas sobre texto y datos estructurados. Su entrenamiento busca probabilidades útiles y calibradas. |
| Cloudflare Clef y Clef-flash | Disponibles como pesos descargables y como servicio alojado. Su diseño publicado puntúa respuestas usando un modelo de lenguaje como base. |
| OpenAI Decisions API | Una interfaz alojada para elecciones, juicios de sí/no y puntuaciones. Actualmente en beta pública usando gpt-6-luna. |
Fuentes: TypeSafe, Cloudflare y OpenAI.
Sus formatos de respuesta y entradas admitidas difieren. OpenAI también puede devolver un rechazo, que la aplicación debe gestionar. Pasar de un proveedor a otro implica verificar tanto la integración como la calidad de sus respuestas.
¿Qué te dicen las probabilidades?
Una probabilidad expresa la estimación del modelo para una respuesta a la pregunta que planteaste. Proporciona a tu aplicación más información que una etiqueta ganadora por sí sola. Es necesario validar los números antes de usarlos para decidir qué casos pueden omitir la revisión humana.
Imagina estos resultados para nuestro ticket:
| Respuesta permitida | Probabilidad ilustrativa |
|---|---|
| Facturación | 92% |
| Técnico | 5% |
| Revisión | 3% |
Facturación es la clara ganadora. Para un mensaje mixto sobre un cargo y un panel roto, facturación podría recibir un 52 % y técnico un 43 %. Facturación sigue ganando, pero el resultado ajustado da a la aplicación un motivo para solicitar revisión.
Calibración significa comprobar si las probabilidades se corresponden con los resultados reales en muchos ejemplos. Entre predicciones comparables en torno al 90 %, un modelo bien calibrado debería acertar aproximadamente el 90 % de las veces. Una respuesta marcada al 90 % puede seguir siendo incorrecta.
Un campo llamado «confianza» puede resumir lo concentradas que están las probabilidades. No equivale automáticamente a una tasa de éxito medida. La guía de confianza de TypeSafe explica esa distinción.
¿Cuándo son útiles los modelos de decisión?
Los modelos de decisión son útiles cuando la tarea requiere interpretar el significado y las respuestas posibles ya se conocen. Algunos ejemplos incluyen enrutar mensajes, seleccionar documentos relevantes y valorar un elemento según una rúbrica. Pueden funcionar junto a un modelo generativo que se encargue de la redacción o la investigación.
Evitar una respuesta generada puede reducir el trabajo del modelo. Si eso mejora la velocidad o el coste depende de toda la aplicación, incluidos los retrasos de red, el tamaño de la entrada y las llamadas de respaldo. Compara un modelo de decisión con un LLM al que se pide la misma respuesta corta, en lugar de una explicación innecesariamente larga.
También tienen límites. Un modelo de decisión puede malinterpretar el mensaje, elegir una opción incorrecta de las permitidas o mostrarse excesivamente seguro. Las pruebas independientes de Red Hat sobre guardrails encontraron que Jev era el más fuerte en una tarea, mientras que las alternativas lo superaban en otra. Esas pruebas no compararon los tres productos.
Usa código convencional para cálculos exactos y comprobaciones de permisos. Usa un modelo generativo cuando la tarea necesite una respuesta nueva, código o una explicación. Para probar un modelo de decisión, empieza con un juicio pequeño, recopila ejemplos con respuestas conocidas y mide sus errores junto con la cantidad de trabajo que ahorra.
Preguntas frecuentes
¿Puede un modelo de decisión redactar una explicación?
Las interfaces de decisión de Jev y Clef devuelven opciones y puntuaciones en lugar de texto nuevo. La Decisions API de OpenAI también devuelve respuestas acotadas. Utiliza un modelo generativo de texto cuando la aplicación necesite una explicación redactada.
¿Necesito datos de entrenamiento para probar un modelo de decisión?
Puedes definir preguntas y respuestas permitidas sin entrenar un modelo nuevo. Aun así, necesitas ejemplos con resultados conocidos para verificar la precisión y decidir qué resultados pueden usarse automáticamente.
¿Puede un modelo de decisión ejecutar acciones por sí mismo?
Un modelo de decisión devuelve un juicio. Tu aplicación decide si lo utiliza, verifica los permisos y ejecuta cualquier acción. Seleccionar una etiqueta de reembolso no autoriza un reembolso.