Baseten lanza joey-1, un modelo de decisión de 2B que devuelve probabilidades en vez de texto y libera los pesos bajo licencia MIT
MarkTechPost informó el 29 de octubre de 2026 de que Base Labs, de Baseten, publicó joey-1, un modelo de decisión de 2B que en una pasada devuelve probabilidades calibradas por opción en vez de texto libre. Los pesos están abiertos con licencia MIT y la interfaz alojada admite hasta 16.384 tokens. El reportaje le atribuye 63,30 en la división pública de Jev y una latencia P50 de 20 ms.
Qué ha cambiado
Según MarkTechPost del 29 de octubre de 2026, el equipo de investigación Base Labs, de Baseten, publicó joey-1: un modelo de decisión de 2B de parámetros que no genera texto libre, sino que recibe un estado de texto o imagen y un conjunto de preguntas tipadas, y en una sola pasada hacia adelante devuelve la probabilidad de cada opción para cada pregunta. El reportaje indica que los pesos están abiertos en Hugging Face bajo licencia MIT y que también se ofrece mediante Baseten Model APIs, con ruta de llamada /v1/systemone, y que ya está listado en OpenRouter; el artículo señala un precio de API de 0,01 dólares por millón de tokens de entrada, con salida y entrada en caché marcadas a 0 dólares. Es la tarifa del día del reportaje; la facturación real debe consultarse en la página de precios del proveedor. joey-1 admite tres tipos de pregunta: choice elige una entre opciones dadas; yes/no, cuyo campo en la API se llama noul, devuelve la probabilidad de «sí»; y score devuelve niveles ordenados, con el más bajo primero. El reportaje dice que se deriva de Qwen3.5-2B mediante un ajuste fino completo y posterior entrenamiento, con el codificador visual congelado, capas de atención completa con máscara bidireccional por bloques y un único prellenado de prefijo compartido para todas las preguntas, de modo que el costo marginal de añadir preguntas es pequeño. En Model APIs la secuencia máxima es de 16.384 tokens; en despliegue dedicado se afirma que llega a 262k. El autoalojamiento requiere una GPU CUDA y una imagen de PyTorch 2.8 / CUDA 12.8; el reportaje no revela los requisitos de memoria de video ni enumera versiones cuantizadas oficiales. La tarjeta del modelo indica 6,21 millones de muestras de decisión, entropía cruzada más un término de calibración de Brier, y el entrenamiento de una opción «no lo sé». joey-1 es el tercer miembro de la familia; Baseten ya había publicado la semana anterior mammoth-1, de 27B, y elephant-1, de 9B. Los tres comparten datos de entrenamiento y la misma interfaz, y el reportaje afirma que cambiar de uno a otro requiere modificar una sola línea. En cuanto a los benchmarks, todas las cifras son de Baseten: en la división pública de Jev Decision Index 0.4, joey-1 obtiene 63,30 y queda en el puesto 37 entre 230 modelos; Baseten lo describe como la puntuación más alta por debajo de 4B. elephant-1, de la misma familia, marca 72,24; Clef, de Cloudflare, 61,71; y Jev 1.14, 60,70. En la réplica de Baseten del Artificial Analysis Decision Index, joey-1 obtiene 62,9 y mammoth-1, 65,9. Sobre latencia, Baseten reporta una latencia extremo a extremo P50 de 20 milisegundos para solicitudes de 2.000 tokens en promedio, frente a 49 milisegundos de elephant-1; el blog también afirma que es cinco veces más rápido que modelos de decisión comparables, pero no identifica a cuáles.
Impacto para desarrolladores
Este lanzamiento cambia la forma en que falla el sistema y la estructura de costos, no la posición de otro modelo generalista. Antes, para clasificación de alto volumen se solía pedir a un LLM generalista que emitiera JSON y luego la aplicación lo interpretaba; los fallos típicos eran errores de formato y etiquetas alucinadas. Un modelo como joey-1 restringe el espacio de salida a las opciones dadas, por lo que los fallos de parseo prácticamente desaparecen y el riesgo restante pasa a ser que el propio juicio probabilístico sea inexacto y que el umbral esté mal fijado. El costo también es claro: el conocimiento general de un modelo de decisión de 2B es menor que el de los modelos mayores de la misma familia; el propio reportaje dice que queda por detrás de elephant-1 en todos los dominios, así que sirve para enrutamiento de primera línea, no para sustituir etapas que requieren conocimiento del mundo o generación abierta. El uso real de las probabilidades calibradas es estratificar. Como cada opción lleva probabilidad y además se entrenó una opción de abstención, en ingeniería se pueden escalar las muestras de baja confianza a 9B, 27B o a revisión humana, y concentrar las llamadas caras en los casos difíciles; que los tres modelos compartan la misma interfaz implica que el costo de modificar la cadena de escalado recae sobre todo en umbrales y evaluación, no en reescribir código. Pero eso también obliga a quien integra a añadir dos cosas que antes podía omitir: un conjunto de validación etiquetado y una política de umbrales basada en costos. Sin ambas, las ventajas de precio y latencia no se traducen en tu propia calidad de decisión. Otra variable fácil de pasar por alto es el contexto. La interfaz alojada corta en 16.384 tokens, y los 262k corresponden solo al despliegue dedicado; eso determina si entradas largas, como tickets o registros extensos, pueden ir por la vía alojada. El autoalojamiento solo requiere una GPU CUDA, pero no se revelan los requisitos de memoria de video ni hay versiones cuantizadas oficiales, así que la longitud de secuencia que realmente puede ejecutarse hay que verificarla por cuenta propia.
Integración y evaluación
Lo siguiente es un análisis condicional, no un hecho del reportaje. Si el sistema actual es «clasificación por prompt más análisis de JSON», conviene empezar con una vía paralela de prueba, no con un reemplazo directo. El requisito es que el conjunto de etiquetas sea enumerable y que haya datos históricos etiquetados o revisados por humanos para construir un conjunto de validación. Empieza por el tipo de solicitud de mayor volumen, con bajo costo por error individual y etiquetas cerradas. El criterio es calcular la F1 macro y la exactitud en tu propio conjunto de validación con el umbral de confianza que acepte el negocio, y comprobar a la vez si la tasa de fallos de parseo llega a cero y si la proporción de abstenciones queda dentro de lo que puede absorber la revisión humana; si la exactitud no supera la línea base actual basada en prompts o la tasa de abstención es demasiado alta, la conclusión debería ser no cambiar. Si el costo de un error individual es claramente mayor que el de una llamada de escalado, conviene usar la probabilidad como interruptor de derivación. La práctica es fijar un umbral y enviar las muestras por debajo de él a elephant-1, mammoth-1 o revisión humana, con un límite para el volumen de escalado. El criterio es barrer distintos umbrales y buscar el punto de costo total mínimo sumando «costo de la llamada de decisión, costo del escalado y costo del error restante»; además, trazar una curva de fiabilidad para comprobar si las muestras a las que el modelo asigna 0,8 aciertan realmente cerca del 80 %. El término de calibración de Brier del reportaje se ajustó en su distribución de entrenamiento; si sigue calibrado al trasladarlo a tu dominio solo puede comprobarse con tus datos, y ese paso no debe omitirse. Si la longitud de entrada supera con frecuencia los 16k o los datos no pueden salir de la red, primero define la forma de despliegue y después discute la calidad del modelo. Los 16.384 tokens de la interfaz alojada, los 262k del despliegue dedicado y el autoalojamiento con una sola GPU y una imagen concreta son tres caminos distintos. El criterio es medir el rendimiento y la latencia p99 en el hardware objetivo y compararlos con la latencia actual de tu propia cadena; no cites directamente los 20 milisegundos del lado de la plataforma del proveedor, porque esa cifra mide su entorno extremo a extremo.
Límites y cuestiones pendientes
Las cifras de benchmark y latencia de este artículo son declaradas por Baseten y carecen de reproducción independiente. Jev Decision Index es una clasificación comunitaria en Hugging Face, pero las puntuaciones de cada empresa en ella también se citan de la tarjeta del modelo de Baseten; la comparación de 20 y 49 milisegundos se limita a mediciones dentro de la misma plataforma, y la afirmación del blog de que es «cinco veces más rápido» no identifica con qué se compara. MIT es la licencia indicada en la página de los pesos, y no equivale a una explicación completa de los derechos derivados del modelo base ni del origen de los datos de entrenamiento; antes de un uso comercial conviene verificar por cuenta propia la licencia y las notas de datos del repositorio. joey-1 no figura actualmente en el catálogo de modelos de KimiSeek; la disponibilidad y el precio de API mencionados se refieren a la oferta de Baseten y OpenRouter. Para comprobar los modelos disponibles y la facturación de esta plataforma, consulta la página de precios del sitio.