Mistral Large 4 publica sus pesos: 1T de parámetros, razonamiento no desactivable y decisiones de precisión y licencia antes de desplegar
Según el blog de Hugging Face del 29 de octubre de 2026, Mistral Large 4 (Le Chonk) se publicó con pesos abiertos de unos 1T de parámetros totales y 49B activos, contexto de 1M, variantes FP8 y NVFP4 y varias cuantizaciones GGUF; el razonamiento viene en high por defecto y no puede desactivarse, y la ruta NVFP4 en vLLM exige GPU Blackwell.

Qué ha cambiado
Según el blog publicado por Hugging Face el 29 de octubre de 2026, Mistral ha liberado en esa plataforma los pesos de Mistral Large 4 (nombre clave Le Chonk). Es un modelo de mezcla de expertos multilingüe que acepta texto e imágenes y solo genera texto: unos 1T de parámetros totales, 49B activos por token y una ventana de contexto de 1M de tokens. La versión oficial ofrece dos variantes, FP8 y NVFP4, además de cuantizaciones GGUF convertidas por los equipos de Unsloth y llama.cpp. Los detalles de arquitectura divulgados por el blog incluyen: un decodificador de texto de 72 capas, dimensión oculta de 6144 y 64 cabezas de atención; el bloque de atención combina atención latente multicabeza con el indexador de atención dispersa de DeepSeek, con hasta 2048 posiciones de clave seleccionadas por consulta; las capas decodificadoras alternan RoPE y NoPE en proporción 3:1 y comparten estado KV entre capas; la primera capa es una capa densa de propagación hacia adelante (feed-forward) y las otras 71 son MoE, con un enrutador softmax que elige 4 de 128 expertos por token más 1 experto compartido siempre activo. En visión hay un codificador Pixtral de 1,6B, con 30 capas, 16 cabezas de atención y parches de 14×14. Los resultados autodeclarados por el emisor incluyen: DeepSWE v1.1 61,7%, SWE-Atlas-QnA 59,4%, Terminal-Bench 4 28,3% y un Coding Agent Index global de 49,8%; el blog afirma que este último supera a DeepSeek V4 Pro 0813 y Qwen3.8 Max. En ciberseguridad, obtiene 82% en una prueba que exige reproducir y parchear vulnerabilidades reales, resuelve el 93% de 40 retos de Cybench y alcanza 93,3% de resistencia a ataques Lakera B3. Al 29 de octubre de 2026, el blog lo sitúa quinto entre los modelos de pesos abiertos en el índice de inteligencia de Artificial Analysis. Estas cifras proceden del emisor o de los criterios de evaluación que cita; este artículo no las ha reproducido de forma independiente.
Impacto para desarrolladores
El primer impacto está en cómo se estiman coste y latencia. En la sección de Transformers, el blog indica que reasoning_effort admite low, medium y high, que high es el valor por defecto y que el razonamiento no puede desactivarse: pasar reasoning_effort: none sigue ejecutando high. Si la cadena actual calculó la longitud de salida y el tiempo hasta el primer token asumiendo un modo sin pensamiento, habrá que volver a medir tras integrarlo; el endpoint de inferencia de Hugging Face coloca el contenido de razonamiento en un campo reasoning separado de la respuesta, así que el parseo del cliente también debe cambiar. El segundo está en el contexto. La ficha del modelo dice 1M de tokens, pero el comando de arranque de vLLM que da el blog fija max-model-len en 131072, y la receta del endpoint también habla de hasta 131K de contexto. No se contradicen, pero indican que 1M se acerca más al límite de capacidad de los pesos que a una configuración de servicio lista para usar; la longitud real que puede ejecutarse depende de la memoria de GPU y de los ajustes de concurrencia. El tercero es la bifurcación entre hardware y precisión. El checkpoint NVFP4 requiere NVIDIA Blackwell; la receta del endpoint usa FP8 en 8 H200 con paralelismo tensorial más paralelismo de expertos, atiende 131K de contexto y hasta 16 solicitudes concurrentes. El blog también ofrece cuantizaciones GGUF: la versión de 2 bits puede correr en un solo Apple Silicon con 512 GB de memoria unificada, y las demás requieren inferencia distribuida en varias GPU NVIDIA o AMD. El orden de magnitud del rendimiento difiere mucho entre las tres rutas y no puede extrapolarse de una a otra. El cuarto es la licencia. Los pesos se distribuyen bajo la Mistral Ecosystem Open-Weight License, que el blog describe como una licencia derivada de la licencia MIT y con límites para el modelo como servicio. Poder descargar los pesos no equivale a poder ofrecer libremente un servicio de inferencia externo; los límites concretos deben juzgarse según el texto de la licencia. El quinto es el umbral de ajuste fino. El ejemplo de LoRA con TRL del blog se ejecuta en un nodo de 8 B300, y el script de entrenamiento usa FSDP más paralelismo de expertos; no es una configuración reproducible en una sola GPU.
Integración y evaluación
Las siguientes son recomendaciones condicionales, no conclusiones ya verificadas. Decisión uno: si bajar el nivel de razonamiento por defecto. El hecho reportado es que el razonamiento no puede desactivarse y que high es el valor por defecto. La opción es bajar el nivel por defecto de high a low o medium. La condición es que la carga consista en salidas cortas y de formato fijo, extracción o clasificación; en tareas como reparación de código en varios pasos o reproducción de vulnerabilidades, los benchmarks del blog se midieron con razonamiento alto, así que bajar el nivel equivale a cambiar el objeto medido. La evaluación consiste en ejecutar high y low sobre el mismo lote fijo de muestras y registrar número de tokens de salida, latencia extremo a extremo y tasa de éxito; cambiar el valor por defecto solo si la caída de éxito es aceptable y de verdad bajan tokens y latencia. Decisión dos: qué ruta de despliegue tomar. El hecho reportado es que hay dos variantes oficiales de precisión, FP8 y NVFP4; solo FP8 tiene una receta pública de despliegue en 8×H200 y NVFP4 requiere Blackwell. Esto no significa que las máquinas sin Blackwell tengan una sola vía: el blog también presenta cuantizaciones GGUF de llama.cpp, la de 2 bits puede correr en un solo Apple Silicon con 512 GB de memoria unificada y las demás requieren inferencia distribuida en varias tarjetas NVIDIA o AMD. La opción es usar FP8, NVFP4 o GGUF sobre el hardware disponible. La condición es que solo tiene sentido replicar la receta FP8 con una máquina de 8 H200 o equivalente; probar NVFP4 para reducir el uso de memoria requiere Blackwell; con una sola máquina o varias GPU de consumo solo quedan las cuantizaciones GGUF, asumiendo pérdida de precisión. La evaluación consiste en hacer pruebas de carga con la concurrencia objetivo y la longitud real de prompts, y registrar tiempo hasta el primer token, rendimiento de generación y memoria de GPU; tomar como referencia de orden de magnitud, no como umbral de aceptación, el ~0,6 s hasta el primer token por solicitud y los ~4300 tok/s de prefill con prompt de 16K y cuatro solicitudes concurrentes que reporta el blog. Decisión tres: si diseñar para 1M de contexto. El hecho reportado es que la ficha del modelo indica 1M, la configuración de servicio 131K, y en las propias pruebas de contexto largo del blog IQ2_XXS baja a 3 tok/s de generación con 800K de contexto. La opción es abrir una ruta separada para contexto largo o limitar las solicitudes a 131K y tratarlas de forma uniforme. La condición es medir primero la longitud p95 de las solicitudes reales; si la p95 está muy por debajo de 131K, sacrificar concurrencia por una ventana que no se usa no compensa. La evaluación consiste en construir un conjunto de prueba con la longitud p95 y comparar, en las mismas tareas, la tasa de finalización y el tiempo total de truncar a 131K frente a entrada completa. Decisión cuatro: si las cargas de seguridad se despliegan en propio o se sigue con una interfaz gestionada. El hecho reportado es que el blog pone la ciberseguridad como eje principal, afirma que su tasa media de rechazo en prompts de ciberseguridad de JailbreakBench, StrongREJECT y AgentHarm es superior a la de otros modelos de pesos abiertos, y sostiene que varios modelos frontera cerrados obtienen cerca de cero en la misma prueba de reproducción porque rechazan la tarea. La opción es despliegue propio o seguir con una API cerrada. La condición es que el despliegue propio solo compensa si la tarea realmente queda bloqueada por filtros cerrados o si se necesita mantener el acceso sin interrupciones durante la gestión de un incidente; los pesos abiertos dejan en manos propias la política de uso y el despliegue, pero también el cumplimiento y la protección frente a abusos. La evaluación consiste en medir en muestras históricas propias la tasa de éxito y la tasa de rechazo al reproducir y luego parchear, y compararla con las cifras correspondientes de las mismas muestras a través de una interfaz cerrada.
Límites y cuestiones pendientes
Primero, Mistral Large 4 no está actualmente en el catálogo de modelos de KimiSeek; las recetas de Inference Endpoints, de inferencia sin servidor de Inference Providers y de Dell Enterprise Hub mencionadas pertenecen a canales de Mistral, Hugging Face y Dell. Si esta versión y su API se ofrecen en este sitio y en qué forma debe comprobarse en el catálogo y las páginas reales del sitio. Segundo, los benchmarks son en su mayoría autodeclarados por el emisor o proceden de criterios de terceros que este cita. El quinto entre modelos de pesos abiertos está limitado al 29 de octubre de 2026; las conclusiones sobre análisis de malware, priorización de vulnerabilidades y generación de reglas de detección provienen de pruebas internas de Mistral y no se han reproducido de forma independiente. Tercero, las cifras de rendimiento proceden de máquinas y cuantizaciones concretas; los resultados en M3 Ultra, 4 RTX6000 Pro u 8 H200 no pueden extrapolarse a otros clústeres. Cuarto, el blog no explica el compromiso entre la especificación de 1M, la configuración de servicio de 131K y la caída de rendimiento en contexto largo; solo queda medirlo uno mismo. Quinto, en el ejemplo de solicitud multimodal de llama.cpp del texto original, el campo model contiene el nombre de otro modelo, por lo que copiarlo tal cual puede inducir a error; el nombre del repositorio oficial aparece como 1T-A52B, mientras que el cuerpo describe 49B de parámetros activos. Debe comprobarse en la ficha del modelo si ambos usan el mismo criterio de conteo. Por último, determinar qué servicio externo constituye modelo como servicio según la licencia exige leer el texto de la licencia; este artículo no emite una conclusión jurídica.
Ilustraciones de la noticia original



