Mistral Large 4 em pesos abertos: 1T de parâmetros, raciocínio que não pode ser desligado e o que considerar em precisão e licença
Segundo o blog do Hugging Face de 29 de outubro de 2026, o Mistral Large 4 (Le Chonk) foi disponibilizado em pesos abertos com cerca de 1T de parâmetros totais e 49B ativos, contexto de 1M de tokens, variantes FP8 e NVFP4 e vários quantizados GGUF; a intensidade de raciocínio é high por padrão e não pode ser desligada, e o caminho vLLM com NVFP4 exige GPUs Blackwell.

O que mudou
Segundo um blog do Hugging Face publicado em 29 de outubro de 2026, o Mistral Large 4 (codinome Le Chonk), da Mistral, teve os pesos disponibilizados nessa plataforma. É um modelo multilíngue de mistura de especialistas que aceita entrada de texto e imagem e produz apenas texto: cerca de 1T de parâmetros totais, 49B ativados por token e janela de contexto de 1M de tokens. Há duas variantes oficiais, FP8 e NVFP4, além de quantizados GGUF convertidos pelas equipes da Unsloth e do llama.cpp. Os detalhes de arquitetura divulgados no blog incluem: decodificador de texto com 72 camadas, dimensão oculta 6144 e 64 cabeças de atenção; o bloco de atenção combina atenção latente multicabeça com o indexador de atenção esparsa do DeepSeek, e cada consulta seleciona no máximo 2048 posições de chave; as camadas do decodificador alternam RoPE e NoPE na proporção de 3:1 e compartilham o estado KV entre camadas; a primeira camada tem feed-forward denso e as outras 71 são MoE, com um roteador softmax que escolhe 4 de 128 especialistas por token, mais 1 especialista compartilhado sempre ativo. No lado visual há um codificador Pixtral de 1,6B, com 30 camadas, 16 cabeças de atenção e patch de 14×14. Os resultados divulgados pela empresa responsável pelo lançamento incluem: 61,7% no DeepSWE v1.1, 59,4% no SWE-Atlas-QnA e 28,3% no Terminal-Bench 4, com 49,8% no índice agregado Coding Agent Index; o blog afirma que este último fica à frente do DeepSeek V4 Pro 0813 e do Qwen3.8 Max. Na área de segurança cibernética, obteve 82% em um teste que exige reproduzir e corrigir vulnerabilidades reais, resolveu 93% dos 40 desafios do Cybench e teve 93,3% de resistência aos ataques do Lakera B3. Em 29 de outubro de 2026, o blog afirmava que o modelo ocupava o quinto lugar entre modelos de pesos abertos no índice de inteligência da Artificial Analysis. Os números acima vêm da empresa responsável pelo anúncio ou dos critérios de avaliação que ela cita; este texto não os reproduziu de forma independente.
Impacto para desenvolvedores
O primeiro impacto está na forma de estimar custo e latência. Na seção sobre Transformers, o blog afirma que reasoning_effort aceita low, medium e high, com high como padrão, e que o raciocínio não pode ser desligado — passar reasoning_effort: none ainda executa em high. Se o pipeline atual estimou comprimento de saída e tempo até o primeiro token com base em um “modo sem raciocínio”, será preciso medir de novo após a integração; o endpoint de inferência do Hugging Face coloca o conteúdo de raciocínio em um campo separado reasoning na resposta, e o parsing do cliente também precisa mudar. O segundo está na definição de contexto. A especificação do modelo diz 1M de tokens, mas o comando de inicialização do vLLM no blog define max-model-len como 131072, e a receita do endpoint também fala em “contexto de até 131K”. Os dois não se contradizem, mas indicam que 1M está mais próximo do teto de capacidade dos pesos do que de uma configuração de serviço pronta para uso; o comprimento real possível ainda depende de memória de GPU e configuração de concorrência. O terceiro é a bifurcação entre hardware e precisão. O checkpoint NVFP4 exige NVIDIA Blackwell; a receita do endpoint usa FP8 em 8 H200 com paralelismo de tensor mais paralelismo de especialistas, atendendo contexto de 131K e no máximo 16 requisições concorrentes. O blog também apresenta quantizados GGUF: a versão de 2 bits pode rodar em uma única máquina Apple Silicon com 512 GB de memória unificada, enquanto os demais quantizados exigem inferência distribuída, possível em várias GPUs NVIDIA ou AMD. As ordens de grandeza de throughput das três rotas diferem muito e não podem ser extrapoladas entre si. O quarto é a licença. Os pesos são distribuídos sob a Mistral Ecosystem Open-Weight License, que o blog descreve como uma licença derivada da MIT e com restrições a model-as-a-service. Poder baixar os pesos não significa poder oferecer livremente um serviço de inferência a terceiros; os limites concretos devem ser julgados pelo texto da licença. O quinto é a barreira para fine-tuning. O exemplo de LoRA com TRL no blog roda em um nó com 8 B300, e o script de treinamento usa FSDP mais paralelismo de especialistas; não é uma configuração reproduzível em uma única GPU.
Integração e avaliação
As sugestões a seguir são condicionais e não conclusões já verificadas. Decisão 1: reduzir ou não a intensidade de raciocínio padrão. O fato relatado é que o raciocínio não pode ser desligado e o padrão é high. A opção é baixar o padrão de high para low ou medium. A premissa é que sua carga seja de saídas curtas e extração ou classificação com formato fixo; em tarefas como correção de código em várias etapas e reprodução de vulnerabilidades, os benchmarks do blog foram medidos com raciocínio alto, e reduzir o nível equivale a trocar o objeto testado. A avaliação consiste em rodar high e low no mesmo conjunto fixo de amostras, registrando número de tokens de saída, latência ponta a ponta e taxa de sucesso na tarefa; só mude o padrão se a queda de sucesso for aceitável e houver redução real de tokens e latência. Decisão 2: qual caminho de implantação seguir. O fato relatado é que há duas variantes oficiais de precisão, FP8 e NVFP4, das quais apenas a FP8 tem uma receita pública de implantação em 8×H200, enquanto a NVFP4 exige Blackwell; isso não significa que máquinas sem Blackwell tenham um único caminho, pois o blog também apresenta quantizados GGUF do llama.cpp, sendo que o de 2 bits roda em uma única máquina Apple Silicon com 512 GB de memória unificada e os demais exigem inferência distribuída, possível em várias GPUs NVIDIA ou AMD. A escolha é usar FP8, NVFP4 ou GGUF no hardware disponível. A premissa é que só é possível falar em replicar a receita FP8 com uma máquina de nível 8×H200, que só vale a pena testar NVFP4 com Blackwell para obter menor uso de memória, e que, com uma única máquina ou várias GPUs de consumo, só resta escolher entre quantizados GGUF e aceitar perda de precisão. A avaliação consiste em fazer teste de carga na concorrência alvo e no comprimento real dos seus prompts, registrando tempo até o primeiro token, throughput de geração e uso de memória; trate os cerca de 0,6 s até o primeiro token por requisição e os cerca de 4300 tok/s de prefill com prompt de 16K e quatro requisições concorrentes relatados no blog como referência de ordem de grandeza, não como linha de aceitação. Decisão 3: projetar ou não para contexto de 1M. O fato relatado é que a especificação do modelo é 1M, a configuração de serviço é 131K, e no próprio teste de contexto longo do blog o IQ2_XXS cai para 3 tok/s de geração com 800K de contexto. A escolha é abrir um caminho separado para contexto longo ou limitar as requisições a 131K e tratá-las de forma unificada. A premissa é medir primeiro o p95 do comprimento real das requisições; se o p95 estiver bem abaixo de 131K, sacrificar concorrência por uma janela que não será usada não compensa. A avaliação consiste em montar um conjunto de teste no comprimento p95 e comparar, nas mesmas tarefas, a taxa de conclusão e o tempo total de duas abordagens: truncar em 131K e enviar a entrada completa. Decisão 4: hospedar cargas de segurança ou continuar usando API gerenciada. O fato relatado é que o blog coloca a segurança cibernética como destaque, afirma que a taxa média de recusa em prompts de segurança cibernética do JailbreakBench, StrongREJECT e AgentHarm é maior que a de outros modelos de pesos abertos, e diz que alguns modelos de fronteira fechados ficam perto de zero no mesmo teste de reprodução por se recusarem a responder. A escolha é entre implantação própria e continuação com API fechada. A premissa é que a implantação própria só compensa se as tarefas forem de fato bloqueadas por filtros fechados ou se for necessário manter o acesso sem interrupção durante o tratamento de um incidente; pesos abertos deixam a política de uso e a implantação nas suas mãos, mas também transferem para você a conformidade e a proteção contra abuso. A avaliação consiste em medir, nos seus próprios exemplos históricos, a taxa de sucesso e a taxa de recusa em “reproduzir e depois corrigir”, e comparar com os números correspondentes dos mesmos exemplos enviados pela API fechada.
Limites e pontos a confirmar
Primeiro, o Mistral Large 4 não está atualmente no catálogo de modelos do KimiSeek; os Inference Endpoints, a inferência serverless dos Inference Providers e as receitas do Dell Enterprise Hub mencionados no texto pertencem a canais da Mistral, do Hugging Face e da Dell, e se esta versão e sua API são oferecidas neste site, e em que forma, deve ser verificado no catálogo e nas páginas reais do site. Segundo, os benchmarks são em grande parte relatados pela própria empresa ou por critérios de terceiros por ela citados. O “quinto entre modelos de pesos abertos” vale para o momento de 29 de outubro de 2026; conclusões sobre análise de malware, priorização de vulnerabilidades e geração de regras de detecção vêm de testes internos da Mistral e não foram reproduzidas de forma independente. Terceiro, os números de throughput vêm de máquinas e quantizações específicas; resultados em M3 Ultra, 4 RTX6000 Pro e 8 H200 não podem ser extrapolados para outros clusters. Quarto, o blog não explica o trade-off entre a especificação de 1M, a configuração de serviço de 131K e a queda de throughput em contexto longo; é preciso testar por conta própria. Quinto, no exemplo original de requisição multimodal do llama.cpp, o campo model traz o nome de outro modelo, o que facilita erros ao copiar; o nome no repositório oficial aparece como 1T-A52B, enquanto o texto descreve 49B de parâmetros ativos, e é preciso conferir no model card se os dois usam o mesmo critério estatístico. Por fim, o que, na licença, constitui model-as-a-service para serviços externos precisa ser julgado pelo texto da licença; este artigo não apresenta conclusão jurídica.
Ilustrações da notícia original



