Baidu gibt Gewichte von ERNIE 5.5 Flash Base frei: 280B-MoE-Basismodell mit Hürden bei Deployment und Lizenz
Laut einem Bericht von MarkTechPost vom 5. November 2026 hat Baidu die FP8- und BF16-Gewichte von ERNIE 5.5 Flash Base veröffentlicht: 280B Gesamtparameter, 14B pro Token aktiviert, Trainingskontext 128K, bei Inferenz erweiterbar auf 1M. Es handelt sich um ein Basismodell, das am Ende des Pretrainings steht, ohne Midtraining und Posttraining; der Lizenz zufolge soll die Nutzung bis 50 Millionen US-Dollar Jahresumsatz kostenlos sein, wobei die EU, das Vereinigte Königreich und Südkorea ausgeschlossen sind.
Was sich geändert hat
Dem Bericht zufolge hat Baidu auf Hugging Face und ModelScope die Gewichte von ERNIE 5.5 Flash Base bereitgestellt: ein reines Text-Basismodell mit sparse MoE, 43 Schichten, Hidden-Dimension 4096, 280B Gesamtparametern und 14B pro Token aktiviert. Es wurde mit dem Muon-Optimizer auf 33,5T Tokens von Grund auf vorab trainiert; die Gewichte stehen am Ende des Pretrainings, und Baidu positioniert das Modell als einheitlichen Ausgangspunkt für den direkten Vergleich von Fine-Tuning, Instruction-Tuning und Reinforcement-Learning-Methoden. Architektonisch nutzen 37 der 43 Schichten Heavy Compressed Attention (HCA), die pro 128 Tokens nur einen Eintrag zwischenspeichert; die übrigen 6 Schichten verwenden MLA plus sparse Attention, sodass jede siebte Schicht vollen Kontextzugriff behält. Jede MoE-Schicht hat 512 geroutete Experten (top-10) plus einen geteilten Experten und ersetzt einen einzelnen Router durch mehrere unabhängige Sigmoid-Router; ECHO nutzt die letzte Backbone-Schicht zur Vorhersage künftiger Tokens und dient zugleich als eingebautes Draft-Modell für spekulatives Dekodieren, wobei die zusätzlichen 0,36B Parameter nicht in die Hauptparameterzählung eingehen. Baidu meldet, in einem einheitlichen Verfahren bei 30 Basis-Benchmarks in 24 Fällen den Bestwert erzielt zu haben, darunter MMLU-Pro 78,4 (DeepSeek-V4-Flash-Base im selben Verfahren: 69,2), liegt aber bei HELMET-Rerank mit 56,2 hinter dessen 60,0 und gibt auch bei sechs weiteren Tests wie ChineseSimpleQA, INCLUDE-lite und InfiniteBench den ersten Platz ab. Für das Deployment nennt der Bericht als Referenzkonfiguration SGLang mit 4-Wege-Parallelität und für vLLM Version 0.32.0 plus das Plugin vLLM-ERNIE; beide akzeptieren bis zu 1.048.576 Tokens. Als Basismodell läuft es über den Completions-Endpunkt, nicht über Chat.
Auswirkungen für Entwickler
Für Entwickler ergeben sich mehrere Konsequenzen. Erstens handelt es sich um offene Gewichte, nicht um eine Open-Source-Lizenz im üblichen Sinn: Die Gewichte sind herunterladbar, die Lizenz ist jedoch eine eigene ERNIE 5.5 Flash Base License v1.0; laut Bericht ist die Nutzung unter 50 Millionen US-Dollar Jahresumsatz kostenlos, die EU, das Vereinigte Königreich und Südkorea sind ausgeschlossen. Maßgeblich sind die tatsächlichen Rechte im Lizenztext; die Tatsache, dass die Gewichte auf Hugging Face liegen, macht sie nicht automatisch zu einer gängigen Open-Source-Lizenz. Zweitens beantwortet das Modell die Frage „Wo beginne ich mit Posttraining?“, nicht „Wie binde ich direkt ein Chatmodell ein“: Ohne Posttraining gibt es keine Instruction-Following- und Dialogformate; für den Produkteinsatz muss man entweder selbst SFT- oder RL-Pipelines fahren oder auf ein bereits ausgerichtetes Modell wechseln – der Aufwand dieser beiden Wege unterscheidet sich erheblich. Drittens ist die Kostenstruktur für langen Kontext bewusst schlank gehalten: HCA speichert in 37 Schichten pro 128 Tokens nur einen Eintrag, was den KV-Cache theoretisch deutlich senkt, doch nur jede siebte Schicht behält den vollen Kontext; wie viel Gewinn beim Retrieval langer Texte und beim Verständnis auf Repository-Ebene tatsächlich entsteht, muss mit dem eigenen Dokumentbestand geprüft werden, statt selbst gemeldete Zahlen wie RepoQA 91,7 zu übernehmen. Viertens nennt der Bericht nur eine Referenzkonfiguration mit 4-Wege-Parallelität und keine GPU-Modelle oder Speichergrößen; ob ein einzelner Rechner das Modell bedienen kann und wie viele Karten nötig sind, lässt sich aus diesem Artikel nicht ableiten. Zudem sind die 0,36B Parameter von ECHO aus der Hauptparameterzählung ausgenommen, sodass eine Hardware-Schätzung anhand der Gesamtparameter zu optimistisch ausfällt.
Integration und Bewertung
Das Folgende sind bedingte Analysen und Empfehlungen, keine berichteten Fakten. Zu den Präzisionsversionen: Dem Bericht zufolge sind FP8- und BF16-Gewichte verfügbar, was zuerst die weitere Trainingsroute betrifft. Wer nur Inferenz betreibt, kann FP8 zuerst testen; wer auf diesem Checkpoint weiter vortrainieren oder vollständig feinjustieren will, startet besser mit BF16. Die Entscheidung hängt davon ab, ob die Hardware FP8-Berechnung unterstützt und ob ein vergleichbares Fine-Tuning-Budget vorhanden ist. Ein messbares Kriterium: mit festen Dekodierparametern auf dem eigenen Holdout-Set FP8 und BF16 getrennt laufen lassen und Aufgaben-Bestandsrate oder Exact Match vergleichen; fällt FP8 stärker als die vorgegebene Toleranz ab, zurück zu BF16 oder FP8 nur für risikoarme Anfragen einsetzen. Zum Serving-Stack: Der Bericht nennt für vLLM Version 0.32.0 plus offizielles Plugin, für SGLang eine Referenzkonfiguration mit 4-Wege-Tensorparallelität. Läuft im Cluster bereits vLLM und lässt sich die Version fixieren, sind die Migrationskosten über das Plugin gering; ist die Versionskontrolle streng oder will man Plugin-Abhängigkeiten zunächst vermeiden, ist die SGLang-Referenz einfacher. Die Entscheidung hängt davon ab, wie gut sich Versionen fixieren lassen und wie offen der Betrieb für Drittanbieter-Plugins ist. Messbar sind bei der Ziel-Kontextlänge die pro Karte mögliche Parallelität, der Spitzenspeicher und die dekodierten Tokens pro Sekunde; danach lässt sich entscheiden, ob sich zusätzliche Karten für längeren Kontext lohnen. Zur Frage, ob man mit diesem Basismodell startet: Der Bericht sagt klar, dass es über den Completions-Endpunkt läuft – das ist der Wendepunkt. Wer out-of-the-box Instruction-Following und Tool-Calling braucht, sollte zunächst ein bereits ausgerichtetes Modell nutzen; der Checkpoint hat nur dann Mehrwert, wenn man tatsächlich verschiedene Posttraining-Ansätze vom selben Checkpoint vergleichen will und die Ingenieursfähigkeiten für SFT oder RL mitbringt. Messbar ist das, indem man das selbst nachtrainierte Modell mit dem aktuell genutzten Modell auf demselben internen Aufgaben-Set vergleicht; gewinnt es nicht, nicht migrieren.
Grenzen und offene Fragen
Es bleiben viele Unbekannte. GPU-Modelle, Speichergröße und die auf einem Rechner bedienbare Modellgröße nennt der Bericht nicht; alle Benchmarks stammen von Baidu selbst, und die Konkurrenzzahlen im Baidu-Verfahren weichen leicht von den Herstellerangaben ab – so nennt DeepSeek selbst MMLU-Pro 68,3, Baidu misst 69,2; Tencent gibt für Hy3 65,76 an, Baidu 66,9. Das zeigt, dass diese Vergleiche nur relative Positionen taugen, nicht als herstellerübergreifendes Urteil. Die 1M Kontextlänge ist die vom Server akzeptierte Obergrenze; Qualitätsdaten für diese Länge fehlen im Bericht, und auch LongBench-v2 48,7 im Mittelfeld deutet darauf hin, dass die Langkontextfähigkeit nicht durchgehend führend ist – Entwickler müssen Speicher und Latenz bei der Ziel-Länge selbst messen. Die im Bericht wiedergegebenen Lizenzbedingungen, einschließlich Umsatzschwelle und Ausschluss von EU, Vereinigten Königreich und Südkorea, sind am Lizenztext zu prüfen. Bei der Katalogprüfung zum Stand 9. November 2026 findet sich im Online-Modellkatalog von KimiSeek kein Eintrag ERNIE 5.5 Flash Base; jede im Bericht erwähnte API-Verfügbarkeit bezieht sich auf Baidu, nicht auf diese Seite – für gehostete Aufrufe ist der offizielle Baidu-Kanal maßgeblich; für die Nutzung über diese Seite müsste zuerst ein exakt passender Katalogeintrag existieren. Auch die Beschleunigungszahlen des Trainingskernels FlashMask-4 für SM90 und SM100 sind Herstellerangaben, und dieselbe Veröffentlichung wurde am 5. November bereits in chinesischen Medien berichtet; ergänzt werden hier die Punkte, die Integrationsentscheidungen stärker betreffen: Architektur, Deployment-Voraussetzungen und Lizenzumfang.