Todo sistema en producción construido sobre un modelo de lenguaje comparte la misma costura: el modelo devuelve una cadena de texto y algo más abajo tiene que analizarla, validarla y decidir qué hacer cuando el análisis falla. La respuesta de TypeSafe AI, publicada el 15 de septiembre, consiste en eliminar la cadena. Su primer modelo, Jev, devuelve valores tipados extraídos de un esquema declarado de antemano, cada uno con una probabilidad calibrada.
Puntos clave
- TypeSafe salió del sigilo con unos 40 millones de dólares en financiación semilla liderada por DCVC. La fundó el exinvestigador de OpenAI Diogo Almeida junto a Erik Gafni y Sasha Sheng.
- Jev cobra 0,042 dólares por millón de tokens de entrada y nada por los de salida, con una latencia de extremo a extremo que la compañía sitúa entre 70 y 500 milisegundos.
- Como el esquema de salida queda fijado antes de ejecutar la consulta, la empresa sostiene que los errores de tipo son estructuralmente imposibles, no solo infrecuentes.
Qué es un modelo System One
TypeSafe llama a esta categoría System One: modelos pensados para tomar decisiones rápidas que el software consume directamente, en vez de prosa que alguien lee. Para llegar ahí cambiaron tres piezas: una arquitectura distinta, un muestreador paralelo y un método de entrenamiento que el laboratorio bautizó como aprendizaje por refuerzo para decisiones calibradas (RLCD).
El contraste con RLHF es justamente el argumento. Mientras el entrenamiento con retroalimentación humana optimiza las respuestas que prefieren los evaluadores, y el de recompensa verificable optimiza salidas que un comprobador puede confirmar, RLCD optimiza para que las probabilidades asociadas a cada decisión sean honestas. Almeida coescribió el trabajo de InstructGPT que sustenta ChatGPT, así que la ruptura es deliberada.
La diferencia en el muestreo importa tanto como el objetivo. Los modelos convencionales generan un token cada vez, condicionado por el anterior. Jev emite todos los campos de su salida estructurada en una única pasada paralela, y de ahí salen sus afirmaciones sobre latencia y coste.
Las cifras y en qué se apoyan
Los números destacados en la web de la compañía —193,6 veces más rápido, 444,6 veces más barato— proceden de una evaluación hecha a medida, no de una clasificación pública. TypeSafe fija un flujo de trabajo en código, pasa todos los modelos por el mismo grafo de cómputo y los puntúa contra probabilidades de referencia tomadas del promedio de GPT-6 Astra y Fable 5.1.
Hay que reconocer que el laboratorio publica también las salvedades. Los cuatro flujos de trabajo los escribió su propio equipo de capacidades de modelo. Usar competidores de frontera como referencia sesga los resultados hacia esos competidores, algo que la empresa presenta como una subestimación de su propio margen. Y la tasa cero de errores de tipo no está medida, sino garantizada por la correspondencia con el esquema: una afirmación que, como reconoce la propia publicación, un solo contraejemplo derribaría.
Dónde encaja
La propuesta no busca sustituir a los chatbots. TypeSafe coloca a Jev en las decisiones difusas repartidas por el software corriente —clasificar, enrutar, puntuar, extraer, ramificar—, esos puntos donde la lógica escrita a mano se vuelve frágil y una llamada completa a un modelo de lenguaje grande resulta demasiado lenta o cara para el camino crítico.
Otros usos que sugiere son el procesamiento tipo map-reduce sobre grandes conjuntos de datos, las interfaces en tiempo real donde un presupuesto de 100 milisegundos descarta llamar a un modelo de frontera, y la evaluación de salidas de otros modelos como juez o barrera de seguridad. Una demostración interna procesa diez consultas por segundo por unos 7 dólares la hora.
Por qué este planteamiento cala ahora
El argumento de que los modelos son demasiado impredecibles para construir sobre ellos se ha ido afilando, y no solo desde laboratorios que venden una alternativa: los cambios de pesos sin anunciar detrás de nombres de modelo estables en la API han señalado lo mismo desde el otro lado. Un modelo que no puede producir una alucinación porque no puede producir texto libre es una respuesta tosca a esa queja.
El precio de ese intercambio es real. Todo lo que exija lenguaje generado —explicaciones, código, una respuesta redactada— queda directamente fuera de lo que Jev hace, y TypeSafe admite que sus evaluaciones publicadas se ejecutaron desde sus propios portátiles en la Costa Oeste. Jev está en acceso anticipado con lista de espera, y la cifra interesante será cómo se sostiene ese precio cuando sean otros quienes paguen las GPU.
Preguntas frecuentes
¿Qué devuelve Jev en lugar de texto?
Valores tipados seleccionados de un esquema que el desarrollador define antes de ejecutar la consulta, cada uno acompañado de una probabilidad calibrada y una puntuación de confianza. Como las salidas posibles están fijadas de antemano, la respuesta no necesita pasar por análisis ni validación, y el modelo no puede devolver un campo que el esquema no permita.
¿Cuánto cuesta Jev?
Los tokens de entrada cuestan 0,042 dólares por millón y los de salida son gratuitos: TypeSafe los describe como demasiado baratos para facturarlos. La compañía espera que el precio baje en lugar de subir, aunque reconoce que todavía no puede demostrar que la tarifa no esté subvencionada.
¿Está Jev disponible para todos?
No. Se encuentra en acceso anticipado para desarrolladores seleccionados, con lista de espera en typesafe.ai. TypeSafe ha publicado cuatro evaluaciones de flujos de trabajo, con las consultas completas y los desacuerdos incluidos, para quien quiera revisar la metodología detrás de sus afirmaciones de velocidad y coste.
