Lev faz modelos de decisão darem mais voltas por questão: os mesmos pesos cobrem várias profundidades
Segundo o Machine Heart de 2 de novembro de 2026, Lehigh, UBC e o Vector Institute propõem o modelo de decisão recorrente Lev: a cada volta ele lê uma vez as probabilidades das opções, os mesmos pesos podem responder em diferentes profundidades, e um parador decide o número de voltas por questão; no JevBench, o Lev-2.6B sobe de 63,2% em uma volta para 76,2% em quatro.
O que mudou
O Machine Heart relatou em 2 de novembro de 2026 que pesquisadores da Lehigh University, da Universidade da Colúmbia Britânica e do Vector Institute propuseram o Lev, um modelo de decisão que aprofunda o raciocínio por recorrência, não por cadeia de pensamento. Ele segue o formato de tarefa de modelos de decisão como Jev e Kev: uma requisição contém um estado e várias perguntas com opções candidatas, e o modelo fornece diretamente a probabilidade de cada opção, sem gerar texto. A diferença está no modelo base: o Lev passa a usar Ouro ou Nanbeige4.2, que já trazem recorrência desde o pré-treinamento; o mesmo conjunto de camadas de decodificação é executado repetidamente e, após cada volta, um pointer head compartilhado lê uma vez as probabilidades das opções; o pointer head e os adaptadores LoRA são compartilhados entre as voltas, e a perda é a média de todas as voltas, de modo que o mesmo checkpoint é um modelo de decisão utilizável em cada profundidade. Um parador de regressão logística por profundidade decide em qual volta cada questão para. Os autores chamam esse modo de computação de System 1.5: a interface continua a dar uma decisão direta, mas questões difíceis podem gastar mais computação. O artigo apresenta três modelos: Lev-1.4B (Ouro-1.4B, até 4 voltas), Lev-2.6B (Ouro-2.6B, 4 voltas) e Lev-3B (Nanbeige4.2-3B, 2 voltas). No caso da Nanbeige, o pré-treinamento tinha perda apenas na última volta, o que foi usado para testar se o Lev depende de voltas intermediárias que receberam supervisão. Nas 231 questões públicas do JevBench, o Lev-2.6B passou de 63,2% em uma volta para 76,2% em quatro, um ganho de 13,0 pontos percentuais (intervalo de confiança de 95%: 7,4 a 19,0), sem trocar os pesos; só a profundidade de recorrência mudou. O alvo de previsão do parador não é “se acertou”, mas “se a resposta atual já coincide com a da volta mais profunda”; o limiar é o menor valor que faz pelo menos 98% das respostas finais coincidirem com a resposta mais profunda, portanto a calibração não precisa de rótulos humanos. O artigo, o código, os três modelos e os três conjuntos de dados foram tornados públicos; o relato não informa qual licença os pesos usam nem apresenta termos de uso comercial. O relato também destaca que o Lev é uma implementação independente semelhante ao OpenAI Decisions apenas no formato da tarefa; não replica seus pesos, arquitetura ou API, nem fez comparação de desempenho com o produto.
Impacto para desenvolvedores
Para desenvolvedores, a mudança não está na quantidade de parâmetros, mas em deslocar “o quanto calcular” do treinamento para o serviço. Uma passagem única pela rede de um modelo de decisão é barata, mas o custo computacional é fixado no treinamento: questões fáceis e difíceis têm o mesmo preço; a cadeia de pensamento torna as questões difíceis mais precisas ao custo de pagar por texto de raciocínio em cada pergunta. Na comparação citada pelo relato, ativar o pensamento no mesmo modelo base de 26B melhora as questões difíceis em 9 a 13 pontos, e o tempo mediano das difíceis passa a ser três a quatro vezes maior. A abordagem do Lev é fazer os mesmos pesos oferecerem diferentes pontos de operação com diferentes números de voltas: segundo o relato, a profundidade sob demanda usou apenas 76% a 85% do cálculo de voltas da volta mais profunda em dois conjuntos de teste reservados, com diferença de acurácia de 0,3 a 0,8 ponto. Os limites do ganho também são concretos. Em termos de operações de ponto flutuante, o relato diz que o Lev empata ou fica pior que a abordagem dense, porque cada volta precisa executar todo o modelo base; a vantagem aparece na latência, não na capacidade de computação: na faixa de 39 a 46 milissegundos, o Lev-1.4B e o Lev-3B sob demanda ficam 7,0 a 8,8 pontos acima de uma cascata com a mesma latência e 5,4 a 7,5 pontos acima da melhor abordagem dense; mas o Lev-2.6B não supera o uso direto do Kev-4B por volta de 150 milissegundos. A profundidade também não só corrige: no LevBench, a primeira volta extra corrige 20,4% e introduz erro em 8,6%, e 12,6% das questões são respondidas corretamente nas camadas rasas e incorretamente na volta mais profunda, casos que um parador cujo alvo é “coincidir com a mais profunda” não consegue salvar. Há diferença por tipo de tarefa: compreensão de linguagem melhora 19,0 pontos, enquanto julgamentos de gosto, como humor e preferência de cores, não têm ganho. Os autores supõem que as voltas extras fornecem a computação serial necessária para combinar vários fatos, e que julgamentos de gosto não usam esse tipo de computação; essa explicação de mecanismo ainda não foi verificada de forma independente e não deve ser tratada como conclusão causal confirmada.
Integração e avaliação
As recomendações a seguir são condicionais e não são fatos reportados. Primeiro, decida se vale adotar profundidade sob demanda antes de trocar de modelo. A mudança relatada é: em relação à volta mais profunda, a profundidade sob demanda calcula 15% a 24% menos; mas a vantagem sobre “misturar profundidades fixas com o mesmo custo” é pequena — o Lev-2.6B fica só 0,2 ponto acima no conjunto reservado, e o Lev-3B, 1,0 ponto acima; além disso, transformar a economia de voltas em vazão online exige que o servidor empacote e agende requisições com profundidades diferentes, parte que o artigo explicitamente não fez. Se sua pilha de inferência ainda não consegue separar por profundidade ou fazer saída antecipada, a sugestão é começar com duas voltas fixas; só invista no parador quando realmente precisar reservar orçamento de cauda para questões difíceis e estiver disposto a reformar o agendamento. A premissa é que o custo de padding e agendamento de diferentes números de voltas no mesmo lote seja aceitável. Um critério mensurável: na amostra do seu próprio tráfego, a profundidade sob demanda não fica abaixo da fronteira de custo equivalente das duas voltas fixas e o p95 de voltas cai 15% ou mais; se o p95 de latência não melhorar após a reforma, o gargalo está no agendamento, não no número de voltas. Segundo, o limiar do parador precisa ser recalibrado com o seu próprio tráfego. O relato mostra que, ao ajustar o limiar com dados rotulados tendo “acertou ou não” como alvo, os dois modelos Ouro caem abaixo da fronteira de profundidade fixa; já com o alvo “coincidir com a resposta mais profunda” e calibração em requisições-alvo sem rótulos, um simples limiar de probabilidade máxima fica só 0,2 ponto atrás do parador completo, com 500 questões por dobra. O procedimento é registrar as saídas de cada volta das suas próprias requisições de negócio e usar “coincide com a resposta de profundidade total” como rótulo para reescolher o limiar, em vez de copiar o limiar do artigo. A premissa é conseguir rodar a profundidade total offline; sem rótulos não significa custo zero. O critério é que, no tráfego reservado, a taxa de concordância entre a resposta de saída antecipada e a resposta de profundidade total não seja inferior a 98%; se a ação downstream for irreversível, eleve esse patamar e redefina o limiar conforme a perda de negócio. Terceiro, antes de substituir a inferência generativa por uma interface de decisão, faça uma comparação estratificada. O relato aponta que o Lev só produz probabilidades de candidatos e não gera texto explicativo, enquanto ativar o pensamento melhora 9 a 13 pontos nas questões difíceis, mas multiplica o tempo. Tarefas como roteamento de ferramentas, classificação e ordenação de ações podem ser comparadas em pequena amostra pelos dois caminhos; cenários que exigem justificativa ou trilha auditável devem manter o caminho generativo. A premissa é que a tarefa possa ser enumerada em um conjunto de candidatos. O critério é que, no mesmo conjunto de avaliação, a acurácia não caia, o p50 de latência fique dentro do orçamento e a proporção de respostas que passaram de corretas para erradas seja medida separadamente, não apenas o ganho líquido. Quarto, não acople recorrência a um modelo base dense. O relato menciona que, ao conectar as 8 camadas intermediárias do Qwen3.5-0.8B em uma recorrência com gate e treinar com a receita do Kev, a acurácia variou menos de meio ponto e o gate permaneceu próximo de zero. Se você quer um botão de profundidade, parta de um modelo base nativamente recorrente; se ainda quiser tentar, verifique primeiro se o valor do gate sai de zero e se a curva de acurácia por volta tem inclinação — uma curva plana indica que a recorrência não foi usada.
Limites e pontos a confirmar
Os modelos base recorrentes do artigo cobrem apenas de 1,4B a 3B, o tamanho atualmente disponível publicamente; não se sabe se a curva de profundidade se sustenta em modelos maiores. As conclusões do JevBench se baseiam apenas em 231 questões públicas. A “economia de cálculo” da profundidade sob demanda é uma contagem offline de voltas, não o tempo online; os números de latência vêm de uma única H200, bf16, uma requisição por vez, sem operadores fundidos, captura de grafo ou cache de estado, e sem otimização de servidor — as leituras mudam em produção. Os 12,6% de casos “acertados nas camadas rasas e errados na profunda” mostram que aprofundar não é monotonicamente melhor. Sobre licenciamento, o relato diz apenas que código, modelos e dados foram tornados públicos, sem informar a licença dos pesos; pesos públicos não equivalem a licença open source, e os termos do repositório precisam ser verificados antes do uso comercial. O Lev-1.4B, o Lev-2.6B e o Lev-3B não estão atualmente no catálogo de modelos do KimiSeek; a disponibilidade citada no relato se refere ao repositório e aos pesos publicados pelos autores, não ao status de lançamento no KimiSeek, e não indica que já exista API de fornecedor. Se surgir um serviço hospedado no futuro, sua disponibilidade dependerá do respectivo provedor. Os números acima vêm do relato do Machine Heart e da descrição pública do artigo, sem reprodução ou teste independentes.