StartLux-Decision deixa o modelo decidir se precisa raciocinar, mas a probabilidade filtrada se distorce
Segundo o portal Machine Heart (Synced), em 4 de novembro de 2026, a StartLux, junto com a Universidade de Hong Kong e a Universidade de Ciência e Tecnologia do Sul da China (SUSTech), propôs o StartLux-Decision: dois conjuntos de pesos, Instant e AutoThink, compartilham a leitura de probabilidade das opções, e o AutoThink só gera raciocínio quando a maior probabilidade de opção fica abaixo de 0,9. O artigo também apresenta o treino RLCD² e a avaliação DecisionPivot, além de repositório de código e endereços dos pesos no Hugging Face.
O que mudou
Não é um modelo de chat. O StartLux-Decision escreve o pedido como “estado de entrada + pergunta + opções candidatas”, extrai das logits da última camada do modelo as posições correspondentes às letras A, B, C etc., e aplica escalonamento de temperatura e softmax para obter a probabilidade de cada opção, sem adicionar um cabeçalho de classificação; o Instant faz apenas um forward, enquanto o AutoThink faz uma leitura antes e outra depois do raciocínio. A direção da atenção difere entre os dois: o Instant remove a máscara causal nas camadas de Full Attention, permitindo interação bidirecional entre os tokens do prompt, e mantém o cálculo causal nas camadas de Linear Attention; o AutoThink mantém a atenção causal para suportar a geração da trajetória de raciocínio. O artigo afirma explicitamente que os dois não são o mesmo conjunto de pesos publicados e não podem substituir um ao outro. Na configuração padrão de avaliação do artigo, o AutoThink calcula primeiro a distribuição inicial p₀ e devolve a resposta direto se a maior probabilidade de opção atingir 0,9; só abaixo de 0,9 gera a trajetória de raciocínio, lê p₁ no fim da trajetória e o resultado final fica ponderado em cerca de 75% para a distribuição pós-raciocínio. O treino tem três fases: ajuste fino supervisionado com todos os parâmetros, treino do adaptador com a diferenciação da direção de atenção e, depois, supervisão de raciocínio e aprendizado por reforço RLCD² para o AutoThink. A recompensa do RLCD² é composta pelo ganho de pontuação de probabilidade dado por um modelo avaliador congelado e por uma penalidade de comprimento excessivo, com orçamento suave de 3072 tokens e limite de geração de 4096 tokens. A avaliação associada, DecisionPivot, inclui 13 categorias de tarefas geradas por programa, 600 questões por categoria, 7800 no total, com pares de controle que na maioria dos casos alteram apenas um detalhe suficiente para mudar a resposta; a métrica central é a acurácia pareada, em que as duas questões do par precisam estar corretas. O artigo reporta 59,9%, 59,9% e 86,9% para o AutoThink de 4B, 9B e 27B, contra 41,5%, 47,5% e 75,4% do Instant correspondente; na mesma tabela, o Decision 3.0 d3 marca 71,3%, o Perplexity Decider v1.1 marca 70,1% e o GLM-5.3 com configuração de baixa intensidade de raciocínio marca 82,2%. Todos são números e configurações de execução relatados pelos próprios autores do artigo.
Impacto para desenvolvedores
O impacto na forma de integração é mais direto do que as pontuações. Primeiro, a saída são probabilidades, não texto: o Instant não faz geração autorregressiva e não serve como modelo de chat ou de resumo; se o ambiente de implantação não consegue obter as logits ou as probabilidades por opção, a interface central desse modelo fica inutilizável. Segundo, a latência passa a ter dois picos: o artigo mede, em uma única H200, em BF16, com prompt de 256 tokens e requisição única, latência mediana de 24 a 52 milissegundos para uma leitura do Instant, mas, quando o AutoThink dispara o raciocínio, o tempo ponta a ponta ainda soma a geração da trajetória e a segunda leitura, e o p50 esconde a cauda longa. Terceiro, a semântica da probabilidade depende da estratégia a jusante: o artigo verificou com o 9B como verificador que respostas com 80% a 90% de confiança em uma única predição acertavam 92% das vezes, mas, ao escolher a maior pontuação entre 32 candidatos, a mesma faixa de confiança cai para 78%, porque a operação de seleção muda a distribuição condicional das predições retornadas. Quarto, a implantação local tem barreira de memória: a versão 27B em BF16 ultrapassa a memória disponível em um M5 Pro com 64GB de memória unificada, e só roda com quantização de 8 ou 4 bits. Quinto, o ganho por tarefa é desigual: os ganhos do 4B e do 9B concentram-se em tarefas que exigem cálculo item a item, como triagem, verificação de estado-alvo e conflitos de escala, enquanto em interpretação de políticas, mudanças de cláusulas e tratamento de dependências modelos fortes de predição única ainda levam vantagem.
Integração e avaliação
O que segue é uma análise condicional baseada no que o artigo reporta, não uma recomendação dos autores. Juízo um: escolher Instant ou AutoThink e onde fixar o limiar. A mudança que o relatório permite usar é o portão por confiança do AutoThink — o 27B responde diretamente a cerca de 39% das questões do DecisionPivot, com acurácia de cerca de 96% por questão, e nos outros cerca de 61% entra em raciocínio, quando a acurácia sobe de cerca de 57% para cerca de 93%. Se a sua carga for roteamento de requisições ou julgamento de resultados de busca, com poucas opções e contexto já completo, o valor do Instant está em eliminar a geração; se as regras têm muitas cláusulas de exceção e limites de limiar, escolha o AutoThink e varra o limiar por conta própria. A premissa é que o lado da implantação consiga ler a probabilidade por opção. Critério verificável: medir a acurácia pareada em pares de controle próprios e, ao mesmo tempo, registrar a proporção de requisições que entram em raciocínio e a latência p95, varrendo o limiar de 0 a 1 para achar o trecho em que a acurácia para de subir enquanto os tokens continuam aumentando. Juízo dois: qual orçamento de comprimento de raciocínio definir. A mudança que o relatório permite usar é a penalidade de comprimento do RLCD² — a acurácia pareada do 4B cai de 60,4% para 52,9% quando a penalidade passa a valer a partir de 512 tokens, e volta a 59,9% se for afrouxada para 3072 tokens; remover a penalidade por completo dá 61,7%, mas nessa avaliação cerca de um terço dos raciocínios não termina sozinho dentro do limite de geração. A escolha é alinhar o orçamento suave ao limite superior da sua própria distribuição de comprimento de raciocínio, e não copiar o 3072. A premissa é conseguir registrar o comprimento da trajetória e se ela termina sozinha. Critério verificável: a proporção de terminações espontâneas e o consumo de tokens por questão, e não apenas a acurácia; se a proporção de terminações espontâneas for claramente baixa, verifique primeiro se não está comprimindo junto problemas que realmente precisam de cálculo longo. Juízo três: se a calibração de probabilidade precisa ser refeita conforme a estratégia. A mudança que o relatório permite usar é a calibração sensível à estratégia — em 184 configurações que cobrem best-of-N, portão de raciocínio, cascata e filtragem seguida de raciocínio, a diferença com sinal entre confiança e acurácia encolheu de −11,7 a +20,5 pontos percentuais para −2,7 a +2,1 pontos percentuais. A escolha é calibrar depois da filtragem ou do roteamento real, usando a predição que foi efetivamente retornada, em vez de calibrar um candidato isolado e reutilizar o resultado. A premissa é ter dados de calibração rotulados e conseguir registrar o número de candidatos, a pontuação média dos candidatos ou a confiança que disparou o roteamento. Critério verificável: comparar a confiança prevista com a acurácia real dentro de faixas fixas de confiança e medir a proporção de liberações erradas no limiar de execução automática que você definiu; se a estratégia mudar, o mapeamento de calibração e o limiar de aceitação precisam ser medidos de novo.
Limites e pontos a confirmar
O Instant e o AutoThink do StartLux-Decision (de 0,8B a 27B) não estão atualmente no catálogo de modelos do KimiSeek; a reportagem também não menciona API hospedada, e a disponibilidade de código e pesos depende do repositório GitHub do projeto e da página no Hugging Face, que são canais do próprio projeto e não deste site. A fonte não informa sob qual licença os pesos são publicados: poder baixar os pesos não é o mesmo que ter licença de código aberto, e o escopo permitido de uso comercial, redistribuição e modificação depende do model card e do arquivo de licença, não podendo ser inferido do fato de os pesos estarem disponíveis. Os números também têm limites. A parte pública do DI 0.3 corresponde a apenas 20% da pontuação do ranking completo, e o artigo explica que ele foi usado na receita de dados e na seleção de modelos deste estudo, não sendo um conjunto de teste independente; a pontuação do AutoThink nesse ranking não pode ser tratada como se ele tivesse entrado num ranking de predição única que exclui trajetórias de raciocínio. Em 2986 amostras reservadas, os intervalos de variação da acurácia final de decisão nas três escalas incluem o zero, e esse contraste sustenta melhor a melhoria na terminação do raciocínio e na eficiência de geração do que um aumento generalizado de acurácia. O próprio artigo alerta: 48,0% é o resultado do AutoThink com o raciocínio desligado e não pode ser misturado com os 75,4% do Instant; o mapeamento de calibração, ao migrar para conjuntos de dados não vistos, ainda deixa até cerca de 6,1 pontos percentuais de excesso de confiança residual; o limiar fixo de 0,9 não equivale à alocação ótima de cálculo por questão; os números de latência de uma única H200 com requisição única não se estendem a um serviço com concorrência; e a evidência de transferência entre famílias de tarefas ainda é limitada.