NVIDIA öffnet Nemotron-Spezialisierungslösung: Goldmedaillen bei IOI und IMO, Gewichte und Rezept veröffentlicht
Laut dem offiziellen Blog von NVIDIA vom 7. Oktober 2026 hat das Team auf Basis von Nemotron 3 durch SFT, RL und einen Generate-Verify-Refine-Inferenzzyklus bei der IOI 2026 535,4/600 und bei der IMO 2026 30/42 erreicht; die Berichte überschreiten jeweils die Goldmedaillengrenze. Die zugehörigen Checkpoints, Datensätze und Evaluierungspipelines sind auf Hugging Face und in NeMo-Skills offen verfügbar.
Was sich geändert hat
Laut einem am 7. Oktober 2026 veröffentlichten offiziellen Blog des NVIDIA-Teams wurden auf Basis von Nemotron 3 zwei spezialisierte Systeme entwickelt: Im Bereich Wettbewerbsprogrammierung kombiniert Nemotron-3-Ultra-CC (550 Milliarden Gesamtparameter, 55 Milliarden aktiviert, nach SFT) mit der iterativen Generate-Evaluate-Refine-Strategie GenCorrect und erzielte in einem Live-, nicht offiziellen, nicht in die offizielle Rangliste eingerechneten Vorab-Durchlauf zur IOI 2026 535,4/600, was über der im Bericht genannten Goldmedaillengrenze von 361,12 und der menschlichen Höchstpunktzahl von 498,27 liegt. Das begleitende Nemotron-3-Nano-CC (30 Milliarden Gesamtparameter, 3 Milliarden aktiviert, nach SFT und RL) diente ebenfalls Vergleichsexperimenten; der Bericht erwähnt, dass Nano von 130 Punkten vor dem Post-Training auf 280 Punkte nach SFT, 291 Punkte nach RL und mit GenCorrect 468 Punkte stieg. Im Mathematikbereich bildet ein Generate-Verify-Refine-System aus den allgemeinen, SFT- und RL-Checkpoints von Nemotron 3 Ultra; der SFT-Korpus enthält 414.890 Beispiele und deckt 15.818 eindeutige Beweisaufgaben ab, das RL-Training nutzt 9.597 Aufgaben nahe der Fähigkeitsgrenze. Das System arbeitet vollständig in natürlicher Sprache, ohne formale Beweiser, externe Werkzeuge oder Internet, und erhielt schließlich von offiziellen IMO-Prüfern 30/42 Punkte. Der Blog gibt zudem an, dass die zugehörigen Modelle, zwei Trainingsdatensätze, Nemotron-IMO-Bench (200 Aufgaben auf Olympiadeniveau) sowie die Inferenzpipeline und Prompts in NeMo-Skills offen verfügbar sind.
Auswirkungen für Entwickler
Für Entwickler bedeutet dieses Ergebnis vor allem eine klarere Aufgabenteilung von „Basismodell plus Post-Training plus Inferenzzyklus“: Der Bericht zeigt, dass sich dasselbe Basismodell durch unterschiedliche Größen und Post-Training-Kombinationen an zwei anspruchsvolle Aufgabenklassen, Code und Beweise, anpassen lässt und die Verbesserung nicht allein durch Feintuning oder allein durch Sampling entsteht. Wenn ähnliche Rezepte später auf Unternehmensszenarien übertragen werden, verschiebt sich das Evaluierungsobjekt von der Ausgabe eines einzelnen Modells auf die gesamte Pipeline – Kandidatengenerierung, Bewertung, Kritik, Verfeinerung und finale Auswahl entscheiden gemeinsam über das Ergebnis. Zu unterscheiden sind offene Gewichte und Open-Source-Lizenz: Der Blog bezeichnet Modelle und Daten als auf Hugging Face offen und stellt eine reproduzierbare Pipeline bereit, doch die Quelle nennt keine konkreten Lizenzbedingungen; herunterladbar ist daher nicht gleich kommerziell frei nutzbar. Vor der Adoption müssen die Lizenz des Modells und die Datennutzungsbedingungen selbst geprüft werden. Zudem ist das IOI-Ergebnis ausdrücklich ein nicht offizieller, unbeaufsichtigter Benchmark-Lauf ohne Bezug zur offiziellen Rangliste, während die IMO-Angabe von offiziellen Prüfern bewertet wurde; die Vergleichbarkeit beider Ergebnisse ist unterschiedlich. Auf der Ressourcenebene deuten die Daten darauf hin, dass Nano mit SFT und RL und Ultra mit nur einer SFT-Epoche das vollständig nachtrainierte Nano übertreffen können, was nahelegt, dass das Rechenbudget für Spezialisierung nicht linear mit der Größe skaliert und Feintuning-Kosten und Inferenzkosten getrennt zu kalkulieren sind.
Integration und Bewertung
Empfehlung eins (bedingte Analyse, kein berichteter Fakt): Für Aufgaben, die strenge Ausgabeformate oder versteckte Testbestehensraten erfordern, kann zunächst geprüft werden, ob „Post-Training-Checkpoint plus Rückkopplungsschleife“ besser als reine Prompt-Lösungen ist. Die Grundlage liegt in der im Bericht genannten starken Verbesserung von Nano nach dem Post-Training und der weiteren Verbesserung mit GenCorrect, was zeigt, dass der Gewinn aus der Kombination von Feintuning und mehreren Verfeinerungsrunden stammt. Wenn sich für die eigene Aufgabe jedoch kein zuverlässiger automatischer Bewerter konstruieren lässt, entfällt die Voraussetzung für diesen Ansatz. Als Bewertungskriterium kann dienen: auf demselben Satz selbst erstellter versteckter Tests die Differenz der Bestehensraten zwischen Basismodell, einzelnem Post-Training-Checkpoint und nach drei Runden Generate-Evaluate-Refine sowie den Faktor der Inferenzzeit pro Aufgabe vergleichen. Empfehlung zwei: In Mathematik- oder langkettigen Inferenzszenarien sollten SFT- und RL-Checkpoints parallel vorgehalten und durch komplementäres Sampling genutzt werden, statt auf einem einzelnen Checkpoint die Sampling-Zahl zu erhöhen. Die Quelle nennt den SFT-Checkpoint als stärksten in der ersten Suchrunde und den RL-Checkpoint als insgesamt besten einzelnen; das endgültige System nutzt beide zusammen. Das erfordert eine Pipeline mit Multi-Modell-Routing und einheitlicher Bewertung. Als Bewertungskriterium kann dienen: bei festem Gesamtrechenbudget die Validierungsbestehensrate und den Anteil falsch als vollständig klassifizierter Beweise zwischen mehrfachem Sampling auf einem Checkpoint und komplementärem Sampling auf zwei Checkpoints auf einem selbst erstellten Beweisaufgabensatz vergleichen. Empfehlung drei: Bei Wiederverwendung der NeMo-Skills-Pipeline sollte zunächst geprüft werden, ob deren Abhängigkeiten und Prompts zur eigenen Modellversion passen, und es sollte Rechenbudget für das Ersetzen der finalen Auswahlphase eingeplant werden, da die Quelle angibt, dass diese Phase allein relativ viel Rechenleistung verbraucht. Als Bewertungskriterium kann dienen: auf derselben Hardware die Ende-zu-Ende-Latenz und die Kosten pro Aufgabe der gesamten Pipeline messen, um sicherzustellen, dass sie innerhalb der Geschäftsfristen abgeschlossen werden kann.
Grenzen und offene Fragen
Der Quell-Blog wurde am 7. Oktober 2026 veröffentlicht; die Wettbewerbsergebnisse wurden vom NVIDIA-Team selbst berichtet. Der IOI-Teil ist ausdrücklich ein nicht offizieller, unbeaufsichtigter Lauf ohne Einrechnung in die offizielle Rangliste. Der IMO-Teil wurde zwar laut Angabe von offiziellen Prüfern bewertet, doch dieser Artikel kann Punktzahlen, Aufgabenversionen oder Bewertungsdetails nicht unabhängig überprüfen. Die Quelle nennt keine konkreten Lizenzbedingungen für die Nemotron-3-Checkpoints; offene Gewichte und offene Lizenz sind nicht dasselbe und müssen vor kommerzieller Nutzung oder Weitergabe selbst geprüft werden. Für Versionen wie Nemotron-3-Ultra-CC gibt es derzeit keinen exakten Eintrag im Live-Katalog von KimiSeek, daher ist diese Version derzeit nicht auf KimiSeek gelistet; die im Bericht genannten offenen Zugangswege beziehen sich auf die Veröffentlichung des Herstellers selbst. Sollten später Drittanbieter-APIs oder Hosting-Dienste erscheinen, richten sich Preise und Verfügbarkeit nach den Preisseiten des jeweiligen Anbieters; dieser Artikel nennt keine konkreten Preisangaben. Die beiden Post-Training- und mehrstufigen Verfeinerungsansätze setzen domänenspezifische Aufgaben, qualitativ hochwertige Inferenzspuren und zuverlässige Bewerter voraus. Die Quelle macht keine Angabe, ob sie in allgemeinen Unternehmensszenarien ohne solche Daten ebenso wirksam sind. Trainings- und Inferenzaufwand werden als „nicht gering“ beschrieben, aber es werden keine wiederverwendbaren Kostendaten genannt.
Abbildungen aus dem Originalbericht
