JEV en Nimbus Bot: la idea que muchos están pasando por alto

JEV está en auge. Pero muchos están pasando por alto lo mejor de la idea: no toda IA tiene que conversar.

Se habla de su velocidad, su costo y sus salidas tipadas. Todo eso importa. Pero la idea más valiosa es más simple: separar la conversación de las decisiones internas que toma el software.

En Nimbus Bot usamos modelos de lenguaje para entender al cliente, consultar información y construir respuestas útiles. Pero dentro de cada conversación también existen decisiones mucho más acotadas: ¿qué agente debe intervenir?, ¿a qué nodo del workflow hay que avanzar?, ¿qué etiqueta describe mejor el caso?

Para ese tipo de decisión estamos probando JEV 1.13, el primer modelo “System One” de TypeSafe AI. Su propuesta no es escribir una respuesta. Es elegir entre opciones definidas de antemano y devolver, junto con la elección, una distribución de probabilidades y una medida de confianza.

Una IA que no necesita hablar

Un modelo conversacional genera texto palabra por palabra. Esa flexibilidad es clave para atender bien: permite explicar, hacer preguntas, adaptar el tono y responder con contexto.

JEV está diseñado para otra tarea. Recibe:

• un estado, como el último mensaje, parte del historial y el nodo actual;
• una pregunta concreta, por ejemplo “¿cuál es el próximo paso?”;
• un conjunto de criterios, como “venta”, “entrega”, “financiación”, “postventa” o “quedarse”.

La salida ya viene estructurada: una opción válida, la probabilidad asignada a cada alternativa y un valor de confianza. El código no tiene que extraer una decisión desde un párrafo ni aceptar una respuesta fuera del catálogo.

Ese contrato está pensado para insertar juicios de IA dentro de software tradicional: el modelo interpreta la información no estructurada y el código conserva el control del flujo. La documentación de TypeSafe lo resume como “estado adentro, decisiones tipadas y probabilidades afuera”.

Dónde aporta valor en Nimbus Bot

1. Elegir el próximo nodo de un workflow

En un workflow comercial, cada flecha representa una elección. Una consulta puede ir hacia cotización, flete, financiación, reposición de stock o postventa. El classifier necesita entender la intención sin demorar la conversación ni inventar un destino que no existe.

Con JEV, los destinos posibles se envían como criterios explícitos. También agregamos una opción importante: quedarse en el nodo actual. Si la decisión no es accionable o el servicio falla, Nimbus Bot conserva el estado y aplica su fallback defensivo.

2. Derivar al agente correcto

Cuando un bot tiene varios agentes especializados, JEV puede decidir cuál debe atender según el mensaje, el historial reciente y la descripción de cada agente.

La separación es útil: JEV elige quién debe continuar; el modelo conversacional decide cómo responder. Cada componente hace el trabajo para el que fue diseñado.

3. Etiquetar conversaciones

Las etiquetas ayudan a ordenar la operación, filtrar conversaciones y detectar patrones. Otra prueba que estamos preparando es usar JEV para elegir entre etiquetas ya configuradas, sin cambio o ninguna.

JEV no crea etiquetas ni modifica datos por su cuenta. Nimbus Bot sigue validando el tenant, preservando el historial y registrando cada cambio.

4. Saber cuándo no decidir solo

La confianza no es una garantía de acierto, pero sí una señal útil. Ante una decisión ambigua, el sistema puede quedarse en el nodo, pedir una aclaración, recurrir al router actual o derivar a una persona.

Los umbrales no son universales. Una clasificación reversible puede tolerar más incertidumbre que una acción sensible. Por eso los estamos calibrando con conversaciones reales y según el riesgo de cada paso.

Un ejemplo simple

Supongamos que una persona escribe:

“Necesito 20 chapas de 4 metros. ¿Cuánto me sale el envío a Alta Gracia?”

Nimbus Bot puede presentar a JEV el mensaje, un tramo breve del historial y los destinos disponibles. JEV podría devolver —en un ejemplo ilustrativo— flete_y_entrega como opción principal, junto con las probabilidades de las demás rutas.

El workflow avanza sólo si la respuesta es válida y cumple las reglas definidas. Luego, el modelo conversacional consulta los datos que necesita y redacta la respuesta para el cliente.

JEV decide entre caminos. Nimbus Bot aplica las reglas. El modelo conversacional habla con la persona.

Por qué nos interesa

Hay cuatro beneficios que queremos medir:

• Velocidad: una decisión cerrada no necesita generar una explicación completa.
• Costo: la salida es mínima y el precio publicado hoy es muy bajo frente a un modelo generativo.
• Previsibilidad: la respuesta siempre pertenece al conjunto de opciones que definió el sistema.
• Observabilidad: probabilidades, confianza y consumo pueden registrarse y evaluarse por separado.

TypeSafe reporta latencias de decenas a cientos de milisegundos en sus pruebas. Las primeras evaluaciones independientes también muestran resultados interesantes, aunque variables según la tarea. JEV es nuevo y todavía necesita evidencia en cada dominio: eso incluye nuestro caso, con conversaciones comerciales reales en español.

Estructurado no significa infalible

Hay una distinción importante. JEV no puede inventar una cuarta opción si el sistema ofreció tres. Eso evita errores de formato y salidas fuera del esquema. Pero todavía puede elegir la opción incorrecta.

Por eso nuestra integración mantiene controles duros fuera del modelo:

• permisos y aislamiento por tenant;
• aprobaciones obligatorias;
• validación de argumentos;
• fallbacks ante errores o baja confianza;
• registro de decisiones y consumo;
• evaluación sobre casos reales antes de ampliar el uso.

Además, TypeSafe documenta que JEV 1.13 funciona mejor con preguntas literales, contexto acotado y reglas numéricas resueltas por código. También reconoce que el inglés es hoy su idioma principal. Para Nimbus Bot, medir en español no es opcional: es parte del trabajo.

Lo que estamos probando ahora

La primera etapa se concentra en dos puntos: router de agentes y classifier de workflow. Después evaluaremos el etiquetado automático y decisiones de intervención humana.

No buscamos sumar IA por sumar IA. Buscamos que cada parte del sistema tenga un rol claro:

• el código conserva reglas, permisos y ejecución;
• JEV aporta juicios rápidos entre opciones cerradas;
• el modelo conversacional comprende, consulta y redacta;
• el equipo humano interviene cuando el caso lo requiere.

La conversación sigue siendo la interfaz. Detrás, Nimbus Bot suma una capa de decisiones más rápida, observable y controlable.

Fuentes y lectura adicional

• TypeSafe AI: Introducing System One Models & JEV
• Documentación oficial: System One
• Documentación oficial: Choice y confianza
• OpenRouter: JEV 1.13
• Evaluación independiente de clasificación
• Evaluación independiente de prompt injection

¿Querés ver cómo un workflow de Nimbus Bot ordena y automatiza las conversaciones de tu empresa? Hablemos.