StartLux-Decision : le modèle décide seul s'il doit raisonner, mais ses probabilités se déforment après filtrage
Selon un reportage du média chinois Jiqizhixin daté du 4 novembre 2026, StartLux, avec l'Université de Hong Kong et l'Université des sciences et technologies du Sud, présente StartLux-Decision : les deux jeux de poids Instant et AutoThink partagent une même lecture des probabilités par option, AutoThink ne générant un raisonnement que lorsque la probabilité de l'option la plus haute descend sous 0,9 ; l'article décrit en outre l'entraînement RLCD² et l'évaluation DecisionPivot, et renvoie à un dépôt de code ainsi qu'à des poids sur Hugging Face.
Ce qui change
Ce n'est pas un modèle de chat. StartLux-Decision formule une requête comme « état d'entrée + question + options candidates » et lit, dans les logits de la dernière couche du modèle, les positions correspondant aux lettres A, B, C, etc. ; une mise à l'échelle par température suivie d'un softmax donne la probabilité de chaque option, sans ajouter de tête de classification. Instant ne réalise qu'une seule passe avant ; AutoThink effectue une lecture avant et une après le raisonnement. L'orientation de l'attention diffère entre les deux : Instant retire le masque causal dans les couches Full Attention, ce qui laisse les tokens du prompt interagir dans les deux sens, tout en conservant un calcul causal dans les couches Linear Attention ; AutoThink garde l'attention causale pour pouvoir générer une trace de raisonnement. L'article précise explicitement qu'il ne s'agit pas des mêmes poids publiés et que l'un ne peut pas remplacer l'autre. Selon la configuration d'évaluation par défaut décrite dans l'article, AutoThink calcule d'abord une distribution initiale p₀ : si la probabilité de l'option la plus haute atteint 0,9, la réponse est renvoyée directement ; en dessous de 0,9, une trace de raisonnement est générée et p₁ est lue à la fin de cette trace, la sortie finale penchant à environ 75 % vers la distribution post-raisonnement. L'entraînement se déroule en trois étapes : affinage supervisé de l'ensemble des paramètres, entraînement d'adaptateurs avec différenciation de l'orientation de l'attention, puis, pour AutoThink, supervision du raisonnement et apprentissage par renforcement RLCD². La récompense de RLCD² combine le gain de score de probabilité fourni par un modèle de notation gelé et une pénalité de longueur excessive, avec un budget de longueur souple de 3072 tokens et une limite de génération de 4096 tokens. L'évaluation associée, DecisionPivot, comprend 13 catégories de tâches générées par programme, 600 questions par catégorie, soit 7800 questions ; la plupart forment des paires de contrôle où un seul détail, suffisant pour changer la réponse, est modifié. L'indicateur central est la précision par paire, c'est-à-dire la proportion de paires dont les deux questions sont correctement traitées. L'article rapporte pour AutoThink 4B, 9B et 27B respectivement 59,9 %, 59,9 % et 86,9 %, contre 41,5 %, 47,5 % et 75,4 % pour les Instant correspondants ; dans le même tableau, Decision 3.0 d3 obtient 71,3 %, Perplexity Decider v1.1 70,1 % et GLM-5.3, avec une configuration de faible intensité de raisonnement activée, 82,2 %. Tous ces chiffres et réglages d'exécution sont rapportés par les auteurs eux-mêmes.
Conséquences pour les développeurs
L'effet sur les modalités d'intégration est plus direct que les scores. Premièrement, la sortie est une probabilité et non du texte : Instant ne fait pas de génération autorégressive et ne peut pas servir de modèle de chat ou de résumé ; si l'environnement de déploiement ne donne pas accès aux logits ou aux probabilités par option, l'interface centrale de ce modèle devient inutilisable. Deuxièmement, la latence devient bimodale : l'article mesure, sur un seul H200, en BF16, avec une invite de 256 tokens et une requête unique, une latence médiane de 24 à 52 millisecondes pour une lecture Instant, mais dès qu'AutoThink déclenche un raisonnement, le temps de bout en bout inclut la génération de la trace et une seconde lecture, et le p50 masque la longue traîne. Troisièmement, la sémantique des probabilités dépend de la stratégie en aval : en utilisant le 9B comme vérificateur, l'article constate que les réponses auxquelles une prédiction unique attribue 80 à 90 % de confiance sont réellement correctes dans 92 % des cas, mais qu'après sélection du meilleur score parmi 32 candidats, la même tranche de confiance tombe à 78 %, car l'opération de sélection modifie la distribution conditionnelle des prédictions renvoyées. Quatrièmement, le déploiement local a un seuil de mémoire : la version 27B en BF16 dépasse la mémoire disponible sur un M5 Pro doté de 64 Go de mémoire unifiée et nécessite une quantification 8 bits ou 4 bits pour fonctionner. Cinquièmement, les gains varient selon les tâches : pour les modèles 4B et 9B, les progrès se concentrent sur le filtrage, la vérification d'un état cible et les conflits de planification, tâches qui exigent un calcul point par point, alors que sur l'interprétation de politiques, les changements de clauses et la gestion des dépendances, un bon modèle à prédiction unique reste avantageux.
Intégration et évaluation
Ce qui suit est une analyse conditionnelle fondée sur les chiffres rapportés dans l'article, et non des recommandations formulées par les auteurs. Premier point : choisir Instant ou AutoThink, et où placer le seuil. Le changement sur lequel s'appuyer dans l'article est le déclenchement d'AutoThink selon la confiance : le 27B répond directement à environ 39 % des questions de DecisionPivot, avec une précision d'environ 96 % sur ces questions, et les quelque 61 % restants passent par le raisonnement, avec une précision qui monte d'environ 57 % à environ 93 %. Si votre charge consiste en des jugements à peu d'options et à contexte déjà complet, comme le routage de requêtes ou l'évaluation de résultats de recherche, l'intérêt d'Instant est d'éviter la génération ; si vos règles comportent souvent des clauses d'exception ou des seuils limites, mieux vaut choisir AutoThink et balayer vous-même le seuil. Cela suppose que le côté déploiement puisse lire les probabilités par option. Critère vérifiable : mesurer la précision par paire sur vos propres paires de contrôle, tout en relevant la part de requêtes déclenchant un raisonnement et la latence p95, en faisant varier le seuil de 0 à 1 pour repérer le segment où la précision ne progresse plus alors que le nombre de tokens continue d'augmenter. Deuxième point : quel budget de longueur de raisonnement fixer. Le changement sur lequel s'appuyer est la pénalité de longueur de RLCD² : pour le 4B, la précision par paire tombe de 60,4 % à 52,9 % lorsque la pénalité s'applique à partir de 512 tokens, et remonte à 59,9 % si on la desserre à 3072 tokens ; supprimer entièrement la pénalité donne 61,7 %, mais dans cette évaluation environ un tiers des raisonnements ne parviennent pas à se terminer d'eux-mêmes dans la limite de génération. Le choix consiste à aligner le budget souple sur le haut de votre propre distribution de longueurs de raisonnement, et non à reprendre 3072 tel quel. Cela suppose de pouvoir enregistrer la longueur des traces et si elles se terminent seules. Critère vérifiable : la proportion d'arrêts spontanés et la consommation de tokens par question, plutôt que la seule précision ; si la proportion d'arrêts spontanés est nettement faible, vérifiez d'abord si vous n'écrasez pas aussi des problèmes qui demandent réellement un long calcul. Troisième point : faut-il refaire la calibration des probabilités selon la stratégie. Le changement sur lequel s'appuyer est la calibration sensible à la stratégie : sur 184 configurations couvrant best-of-N, le déclenchement par le raisonnement, les cascades et le filtrage suivi de raisonnement, l'écart signé entre confiance et précision passe de −11,7 à +20,5 points de pourcentage à −2,7 à +2,1 points. Le choix consiste à ajuster la calibration après le filtrage ou le routage réel, sur la prédiction effectivement renvoyée, plutôt qu'à calibrer un candidat isolé puis à réutiliser ce résultat tel quel. Cela suppose de disposer de données de calibration étiquetées et de pouvoir enregistrer le nombre de candidats, le score moyen des candidats ou la confiance ayant déclenché le routage. Critère vérifiable : comparer, dans des tranches de confiance fixes, la confiance prédite et le taux de réussite réel, et mesurer la proportion de validations erronées au seuil d'exécution automatique que vous fixez ; dès que la stratégie change, la fonction de calibration et le seuil d'acceptation doivent être retestés.
Limites et points à confirmer
Instant et AutoThink de StartLux-Decision (de 0,8B à 27B) ne figurent actuellement pas dans le catalogue de modèles de KimiSeek ; l'article ne mentionne pas non plus d'API hébergée, et la disponibilité du code et des poids dépend du dépôt GitHub du projet et de sa page Hugging Face, canaux du projet et non de ce site. La source n'indique pas sous quelle licence les poids sont publiés : des poids téléchargeables ne signifient pas une licence open source, et l'étendue autorisée de l'usage commercial, de la redistribution et de la modification dépend de la carte du modèle et du fichier de licence ; on ne peut pas l'inférer du seul fait que « les poids sont disponibles ». Les chiffres eux-mêmes ont leurs limites. La partie publique de DI 0.3 ne correspond qu'à 20 % de la notation du classement complet ; l'article précise qu'elle a servi à la recette de données et à la sélection des modèles de cette étude, et non de jeu de test indépendant ; le score d'AutoThink sur ce classement ne peut donc pas être considéré comme une entrée dans un classement de prédiction unique excluant les traces de raisonnement. Sur 2986 échantillons réservés, l'intervalle de variation de la précision de décision finale des trois tailles contient zéro dans chaque cas ; ce que cette comparaison étaye le mieux est une amélioration de l'arrêt du raisonnement et de l'efficacité de génération, et non une hausse générale de la précision. L'article signale lui-même que 48,0 % est le résultat d'AutoThink avec raisonnement désactivé, à ne pas confondre avec les 75,4 % d'Instant ; que le transfert de la fonction de calibration vers des jeux de données non vus laisse subsister jusqu'à environ 6,1 points de pourcentage de surconfiance résiduelle ; qu'un seuil fixe de 0,9 n'équivaut pas à une allocation optimale du calcul question par question ; que les chiffres de latence mesurés sur un seul H200 avec une requête unique ne s'étendent pas à un service en concurrence ; et que les preuves de transfert entre familles de tâches restent limitées.