StartLux-Decision lässt Entscheidungsmodelle selbst über Reasoning entscheiden, doch nach dem Filtern verzerren sich die Wahrscheinlichkeiten
Laut einem Bericht von Jiqi Zhixin vom 4. November 2026 stellt StartLux gemeinsam mit der University of Hong Kong und der Southern University of Science and Technology StartLux-Decision vor: Die beiden Gewichtssätze Instant und AutoThink teilen sich das Auslesen der Optionswahrscheinlichkeiten; AutoThink erzeugt erst dann Reasoning, wenn die höchste Optionswahrscheinlichkeit unter 0,9 liegt. Das Paper beschreibt außerdem RLCD²-Training und die DecisionPivot-Evaluation und gibt Adressen für das Code-Repository und die Hugging-Face-Gewichte an.
Was sich geändert hat
Das ist kein Chat-Modell. StartLux-Decision formuliert eine Anfrage als „Eingabezustand + Frage + Kandidatenoptionen“, entnimmt den Logits der letzten Modellschicht die Positionen der Buchstaben A, B, C usw. und erhält über Temperaturskalierung und Softmax die Wahrscheinlichkeit jeder Option, ohne einen zusätzlichen Klassifikationskopf; Instant führt nur einen einzigen Vorwärtsdurchlauf aus, AutoThink liest je einmal vor und nach dem Reasoning. Die Aufmerksamkeitsrichtung unterscheidet sich: Bei Instant entfällt in den Full-Attention-Schichten die Kausalmaske, sodass Tokens innerhalb des Prompts bidirektional interagieren, während die Linear-Attention-Schichten weiterhin kausal rechnen; AutoThink behält die kausale Aufmerksamkeit bei, um Reasoning-Trajektorien generieren zu können. Das Paper stellt ausdrücklich klar, dass es sich nicht um denselben veröffentlichten Gewichtssatz handelt und dass sie sich nicht gegenseitig ersetzen können. Nach der Standard-Evaluationskonfiguration des Papers berechnet AutoThink zunächst die Anfangsverteilung p₀; erreicht die höchste Optionswahrscheinlichkeit 0,9, wird direkt zurückgegeben; erst unter 0,9 wird eine Reasoning-Trajektorie erzeugt, aus deren Ende p₁ gelesen wird, und die endgültige Ausgabe gewichtet die Verteilung nach dem Reasoning mit etwa 75 Prozent. Das Training läuft in drei Phasen: vollparametrisches überwachtes Feintuning, Adaptertraining mit Aufteilung der Aufmerksamkeitsrichtung und danach Reasoning-Überwachung sowie RLCD²-Verstärkungslernen für AutoThink. Die Belohnung von RLCD² besteht aus dem Zuwachs an Wahrscheinlichkeitspunkten eines eingefrorenen Bewertungsmodells und einer Strafe für übermäßige Länge, mit einem weichen Längenbudget von 3072 Token und einer Generierungsobergrenze von 4096 Token. Die begleitende Evaluation DecisionPivot umfasst 13 Kategorien programmatisch erzeugter Aufgaben mit je 600 Fragen, insgesamt 7800 Fragen; die meisten bestehen aus Kontrollpaaren, die nur ein Detail ändern, das ausreicht, um die Antwort zu verändern, und die Kernmetrik ist die paarweise Genauigkeit, bei der beide Fragen eines Paares richtig beantwortet werden. Das Paper berichtet für AutoThink mit 4B, 9B und 27B 59,9 Prozent, 59,9 Prozent und 86,9 Prozent, für das jeweilige Instant 41,5 Prozent, 47,5 Prozent und 75,4 Prozent; in derselben Tabelle erreicht Decision 3.0 d3 71,3 Prozent, Perplexity Decider v1.1 70,1 Prozent und GLM-5.3 mit aktivierter Konfiguration niedriger Reasoning-Intensität 82,2 Prozent. Dies sind durchweg vom Paper selbst berichtete Zahlen und Laufzeiteinstellungen.
Auswirkungen für Entwickler
Für die Anbindung ist der Effekt direkter als die Punktzahlen. Erstens ist die Ausgabe eine Wahrscheinlichkeit und kein Text: Instant erzeugt nicht autoregressiv und lässt sich nicht als Chat- oder Zusammenfassungsmodell nutzen; wenn die Deployment-Umgebung keine Logits oder Wahrscheinlichkeiten je Option erhalten kann, ist die zentrale Schnittstelle dieses Modells nicht nutzbar. Zweitens wird die Latenz bimodal: Das Paper misst unter Bedingungen von einer einzelnen H200, BF16, 256-Token-Prompt und einer einzelnen Anfrage für den einmaligen Auslesevorgang von Instant eine mediane Latenz von 24 bis 52 Millisekunden, doch sobald AutoThink Reasoning auslöst, kommen Ende-zu-Ende die Trajektoriengenerierung und ein zweites Auslesen hinzu, und p50 verdeckt den langen Ausläufer. Drittens hängt die Semantik der Wahrscheinlichkeiten von der nachgelagerten Strategie ab: Das Paper findet mit 9B als Verifier, dass Antworten, denen in einer Einzelvorhersage 80 bis 90 Prozent Konfidenz zugewiesen wurden, tatsächlich zu 92 Prozent korrekt waren; wählt man aus 32 Kandidaten den höchsten Score aus, sinkt dasselbe Konfidenzintervall auf 78 Prozent, weil die Auswahloperation die Konditionalverteilung der zurückgegebenen Vorhersage verändert. Viertens gibt es für den lokalen Betrieb eine Speicherhürde: Die 27B-Version in BF16 überschreitet auf einem M5 Pro mit 64 GB Unified Memory den verfügbaren Speicher und läuft erst mit 8-Bit- oder 4-Bit-Quantisierung. Fünftens fallen die Aufgabengewinne ungleich aus: Bei 4B und 9B konzentrieren sich die Verbesserungen auf Aufgaben, die punktuelles Rechnen erfordern, etwa Filterung, Prüfung von Zielzuständen und Schichtkonflikte, während bei Policy-Erklärungen, Klauseländerungen und Abhängigkeitsbehandlung starke Einzelvorhersagemodelle weiterhin überlegen sind.
Integration und Bewertung
Das Folgende ist eine bedingte Analyse auf Basis der Paper-Angaben und keine Empfehlung des Papers. Beurteilung eins: Instant oder AutoThink wählen und wo die Schwelle setzen. Die im Bericht angelegte Änderung ist die Konfidenz-Gating von AutoThink – 27B beantwortet auf DecisionPivot rund 39 Prozent der Fragen direkt mit etwa 96 Prozent Genauigkeit je Frage, die übrigen rund 61 Prozent gehen in Reasoning und steigern ihre Genauigkeit von etwa 57 auf etwa 93 Prozent. Wenn Ihre Last Anfrage-Routing oder die Beurteilung von Suchergebnissen ist, also wenige Optionen und vollständiger Kontext, liegt der Wert von Instant darin, die Generierung einzusparen; gibt es dagegen häufig Ausnahmeklauseln und Schwellengrenzen in den Regeln, sollte AutoThink gewählt und die Schwelle selbst durchgetestet werden. Voraussetzung ist, dass die Deployment-Seite Wahrscheinlichkeiten je Option lesen kann. Prüfbares Kriterium: paarweise Genauigkeit auf selbst gebauten Kontrollfragepaaren messen, zugleich Anteil der Reasoning-Anfragen und p95-Latenz erfassen und die Schwelle von 0 auf 1 durchlaufen, um den Bereich zu finden, in dem die Genauigkeit nicht mehr steigt, die Token aber weiter zunehmen. Beurteilung zwei: Wie hoch das Reasoning-Längenbudget sein sollte. Die im Bericht angelegte Änderung ist die Längenstrafe von RLCD² – die paarweise Genauigkeit von 4B fällt von 60,4 auf 52,9 Prozent, sobald die Strafe ab 512 Token wirkt, und kehrt bei Lockerung auf 3072 Token auf 59,9 Prozent zurück; ganz ohne Strafe ergeben sich 61,7 Prozent, doch in dieser Evaluation kann etwa ein Drittel des Reasonings innerhalb der Generierungsobergrenze nicht selbst enden. Die Wahl besteht darin, das weiche Budget an die Obergrenze Ihrer eigenen Reasoning-Längenverteilung anzupassen statt 3072 zu übernehmen. Voraussetzung ist, dass Trajektorienlänge und Selbstbeendigung erfasst werden können. Prüfbares Kriterium: Anteil selbst beendeter Läufe und Token-Verbrauch je Frage statt nur der Genauigkeit; ist der Anteil selbst beendeter Läufe deutlich niedrig, prüfen Sie zuerst, ob wirklich lang zu berechnende Fragen mit weggedrückt wurden. Beurteilung drei: Muss die Wahrscheinlichkeitskalibrierung je nach Strategie neu gemacht werden. Die im Bericht angelegte Änderung ist die strategiebewusste Kalibrierung – in 184 Einstellungen, die best-of-N, Reasoning-Gating, Kaskaden und erst Filtern dann Reasoning abdecken, schrumpfte die vorzeichenbehaftete Konfidenz-Genauigkeits-Lücke von −11,7 bis +20,5 Prozentpunkten auf −2,7 bis +2,1 Prozentpunkte. Die Wahl besteht darin, nach dem tatsächlichen Filtern oder Routing mit der zurückgegebenen Vorhersage zu kalibrieren statt einen einzelnen Kandidaten zu kalibrieren und das Ergebnis direkt zu übernehmen. Voraussetzung sind gelabelte Kalibrierdaten und die Möglichkeit, Kandidatenzahl, durchschnittlichen Kandidatenscore oder die das Routing auslösende Konfidenz zu erfassen. Prüfbares Kriterium: innerhalb fester Konfidenzintervalle die vorhergesagte Konfidenz mit der tatsächlichen Trefferquote vergleichen und den Anteil falsch durchgelassener Fälle an Ihrer automatischen Ausführungsschwelle erfassen; ändert sich die Strategie, müssen Kalibrierungsabbildung und Akzeptanzschwelle neu gemessen werden.
Grenzen und offene Fragen
StartLux-Decision mit Instant und AutoThink (0,8B bis 27B) ist derzeit nicht im Modellkatalog von KimiSeek; der Bericht nennt auch keine gehostete API, und die Verfügbarkeit von Code und Gewichten richtet sich nach dem GitHub-Repository und der Hugging-Face-Seite des Projekts, also nach Projektkanälen und nicht nach einem Angebot dieser Seite. Die Quelle lässt offen, unter welcher Lizenz die Gewichte veröffentlicht werden: herunterladbare Gewichte bedeuten keine Open-Source-Lizenz, und der erlaubte Umfang für kommerzielle Nutzung, Weitergabe und Veränderung ergibt sich aus Modellkarte und Lizenzdatei, nicht aus der bloßen Tatsache veröffentlichter Gewichte. Auch die Zahlen haben Grenzen. Der öffentliche Teil von DI 0.3 entspricht nur 20 Prozent der vollständigen Benchmark-Bewertung, und das Paper erklärt, dass er in dieser Arbeit für Datenrezept und Modellauswahl verwendet wurde und kein unabhängiger Testsatz ist; die Punktzahl von AutoThink auf dieser Liste darf nicht so gelesen werden, als sei es in die Einzelvorhersage-Liste aufgenommen, die Reasoning-Trajektorien ausschließt. Auf 2986 zurückgehaltenen Stichproben enthalten die Änderungsintervalle der endgültigen Entscheidungsgenauigkeit bei allen drei Größen die Null, und diese Gegenüberstellung stützt am ehesten Verbesserungen beim Reasoning-Abbruch und bei der Generierungseffizienz, nicht eine allgemeine Genauigkeitssteigerung. Das Paper weist zudem selbst darauf hin: 48,0 Prozent ist das Ergebnis von AutoThink mit abgeschaltetem Reasoning und darf nicht mit den 75,4 Prozent von Instant vermischt werden; die Übertragung der Kalibrierungsabbildung auf ungesehene Datensätze lässt noch bis zu etwa 6,1 Prozentpunkte Restüberkonfidenz bestehen; eine feste Schwelle von 0,9 ist nicht gleichbedeutend mit einer für jede Frage optimalen Rechenzuweisung; die Latenzzahlen einer einzelnen H200 bei einer einzelnen Anfrage lassen sich nicht auf nebenläufigen Betrieb übertragen; und die Evidenz für Transfer zwischen Aufgabenfamilien bleibt begrenzt.