← Toutes les actualités

Baidu ouvre les poids d'ERNIE 5.5 Flash Base : un modèle de base MoE 280B, avec des conditions de déploiement et de licence

Selon un article de MarkTechPost du 5 novembre 2026, Baidu a publié et ouvert les poids FP8 et BF16 d'ERNIE 5.5 Flash Base : 280B de paramètres au total, 14B activés par token, contexte d'entraînement de 128K, extensible à 1M en inférence. Il s'agit d'un modèle de base arrêté à la fin du pré-entraînement, sans entraînement moyen ni post-entraînement ; la licence serait conditionnée à un seuil de 50 millions de dollars de revenu annuel et exclurait l'Union européenne, le Royaume-Uni et la Corée du Sud.

Publication Mise à jour

Ce qui change

L'article indique que Baidu a mis en ligne sur Hugging Face et ModelScope les poids d'ERNIE 5.5 Flash Base : un modèle de base MoE creux texte uniquement, 43 couches, dimension cachée 4096, 280B de paramètres au total et 14B activés par token, pré-entraîné de zéro sur 33,5T de tokens avec l'optimiseur Muon. Les poids s'arrêtent à la fin du pré-entraînement ; Baidu le présente comme un point de départ unifié permettant de comparer directement les méthodes de fine-tuning, de fine-tuning d'instructions et d'apprentissage par renforcement. Côté architecture, 37 des 43 couches utilisent l'attention à recompression HCA, avec 1 entrée en cache tous les 128 tokens, les 6 autres couches utilisant MLA plus attention creuse, soit 1 couche sur 7 conservant un accès complet au contexte ; chaque couche MoE compte 512 experts routés (top-10) plus 1 expert partagé, et plusieurs routeurs sigmoïdes indépendants remplacent un routeur unique ; ECHO réutilise la dernière couche du backbone pour prédire les tokens futurs et sert en même temps de modèle de brouillon intégré pour le décodage spéculatif, ses 0,36B de paramètres supplémentaires n'étant pas comptés dans les paramètres principaux. Baidu déclare avoir obtenu le meilleur résultat sur 24 des 30 benchmarks de modèles de base dans un pipeline unifié, avec 78,4 sur MMLU-Pro (contre 69,2 pour DeepSeek-V4-Flash-Base dans le même pipeline), mais 56,2 sur HELMET-Rerank, derrière les 60,0 du concurrent, et cède aussi la première place sur 6 autres évaluations comme ChineseSimpleQA, INCLUDE-lite et InfiniteBench. Côté déploiement, la configuration de référence donnée par l'article est SGLang avec 4 voies de parallélisme, et vLLM nécessite la version 0.32.0 plus le plugin vLLM-ERNIE ; les deux acceptent jusqu'à 1 048 576 tokens. En tant que modèle de base, il fonctionne via le point de terminaison completions et non chat.

Conséquences pour les développeurs

Cela a plusieurs conséquences directes pour les développeurs. Premièrement, il s'agit de poids ouverts, pas d'une licence open source au sens courant : les poids sont téléchargeables, mais la licence est une ERNIE 5.5 Flash Base License v1.0 personnalisée, qui serait gratuite sous 50 millions de dollars de revenu annuel tout en excluant l'Union européenne, le Royaume-Uni et la Corée du Sud ; les droits réels dépendent du texte de la licence, et le fait que les poids soient sur Hugging Face ne suffit pas à les considérer comme couverts par une licence open source standard. Deuxièmement, il répond à la question « par où commencer le post-entraînement », pas à celle d'intégrer directement un modèle de chat : sans post-entraînement, il n'y a ni suivi d'instructions ni format de dialogue ; pour l'intégrer à un produit, il faut soit mener soi-même un processus SFT ou RL, soit passer à un modèle déjà aligné, et l'écart d'ingénierie entre ces deux voies est important. Troisièmement, la structure de coût du contexte long est volontairement allégée : HCA ne met en cache qu'une entrée tous les 128 tokens sur 37 couches, ce qui devrait réduire nettement le cache KV, mais seule 1 couche sur 7 conserve le contexte complet ; le gain réel en recherche dans de longs textes et en compréhension à l'échelle d'un dépôt doit être vérifié sur son propre corpus, sans reprendre tel quel des chiffres auto-déclarés comme RepoQA 91,7. Quatrièmement, l'article ne donne qu'une configuration de référence à 4 voies de parallélisme, sans préciser le modèle de GPU ni la mémoire ; des questions de capacité comme la possibilité de servir sur une seule machine ou le nombre de cartes nécessaires ne peuvent pas être tranchées à partir de cet article. Il faut aussi noter que les 0,36B de paramètres d'ECHO sont exclus du décompte principal, ce qui rend l'estimation du matériel à partir des paramètres totaux trop optimiste.

Intégration et évaluation

Les éléments suivants sont des analyses ou recommandations conditionnelles, pas des faits rapportés. Concernant les versions de précision : l'article indique que les poids FP8 et BF16 sont tous deux disponibles, ce qui influence d'abord la suite du parcours d'entraînement. Si vous ne faites que de l'inférence, vous pouvez essayer FP8 en priorité ; si vous prévoyez de poursuivre le pré-entraînement ou de faire un fine-tuning complet sur ce checkpoint, BF16 est un point de départ plus sûr. Ce choix dépend du support matériel du calcul FP8 et de votre budget de fine-tuning comparable. Critère mesurable : fixer les paramètres de décodage sur votre jeu de validation, exécuter FP8 et BF16 séparément, comparer le taux de réussite ou l'exact match ; si la baisse en FP8 dépasse votre seuil de tolérance, revenez à BF16 ou limitez FP8 aux requêtes à faible risque. Concernant la pile de service : l'article indique que vLLM nécessite la version 0.32.0 plus le plugin officiel, et que la configuration de référence SGLang est un parallélisme tensoriel à 4 voies. Si votre cluster fait déjà tourner vLLM avec une version que vous pouvez épingler, la migration via le plugin est moins coûteuse ; si les mises à jour de version sont contrôlées ou si vous préférez éviter une dépendance à un plugin, la configuration de référence SGLang est plus simple. Ce jugement dépend du degré d'épinglage des versions et de la tolérance des opérations aux plugins tiers. Critère mesurable : à la longueur de contexte cible, mesurer la concurrence possible par carte, le pic de mémoire et les tokens décodés par seconde, puis décider si cela vaut la peine d'ajouter des cartes pour un contexte plus long. Concernant l'opportunité de partir de ce modèle de base : l'article précise qu'il passe par le point de terminaison completions, c'est le point de bifurcation. Si votre tâche exige un suivi d'instructions et des appels d'outils prêts à l'emploi, utilisez d'abord un modèle aligné existant ; ce checkpoint n'a de valeur supplémentaire que si vous devez vraiment comparer différentes approches de post-entraînement à partir du même checkpoint et disposez des compétences d'ingénierie SFT ou RL. Mesure : comparer le taux de réussite de votre modèle post-entraîné et du modèle actuel sur le même ensemble de questions internes ; s'il ne gagne pas, ne migrez pas.

Limites et points à confirmer

Les inconnues sont nombreuses. Le modèle de GPU, la mémoire et l'échelle de service sur une seule machine ne sont pas précisés dans l'article ; tous les benchmarks sont auto-déclarés par Baidu, et les chiffres des concurrents dans son pipeline diffèrent légèrement de ceux publiés par chaque éditeur — par exemple DeepSeek annonce 68,3 sur MMLU-Pro contre 69,2 mesuré par Baidu, et Tencent annonce 65,76 pour Hy3 contre 66,9 mesuré par Baidu — ce qui montre que cette comparaison ne vaut que pour situer les positions relatives, pas comme verdict inter-éditeurs. Le contexte de 1M est une limite acceptée par le serveur ; l'article ne fournit pas de données de qualité à cette longueur, et le score de 48,7 sur LongBench-v2 en milieu de tableau suggère que ses capacités en contexte long ne sont pas globalement en tête ; les développeurs doivent mesurer eux-mêmes la mémoire et la latence à la longueur visée. Les clauses de licence relayées par l'article, dont le seuil de revenu et les exclusions de l'Union européenne, du Royaume-Uni et de la Corée du Sud, doivent être vérifiées dans le texte de la licence. À la vérification du catalogue au 9 novembre 2026, le catalogue de modèles en ligne de KimiSeek ne contient pas d'entrée ERNIE 5.5 Flash Base ; toute disponibilité d'API évoquée dans l'article concerne Baidu et non ce site ; pour un appel hébergé, référez-vous aux canaux officiels de Baidu ; pour utiliser ce site, il faudrait d'abord une entrée de catalogue correspondant exactement. Par ailleurs, les chiffres d'accélération des noyaux d'entraînement FlashMask-4 sur SM90 et SM100 sont également auto-déclarés par le constructeur, et cette annonce a déjà été couverte par des médias chinois le 5 novembre ; cet article ajoute les éléments qui pèsent davantage sur la décision d'intégration : architecture, prérequis de déploiement et périmètre de licence.

Trois minutes jusqu’au premier appel

Créez un compte et une clé API. Le coût des appels est déduit de votre solde. 30 % de réduction sur la première recharge. Rechargez ¥500, payez ¥350, recevez ¥500 de crédit. Rechargez ¥1000, payez ¥850, recevez ¥1000 de crédit Vous pouvez toujours commencer par une recharge d’essai de ¥10.

Sources et méthode éditoriale

百度发布 ERNIE 5.5 Flash Base:280B MoE 基础模型,激活参数 14B

L’IA a assisté l’analyse et la traduction des sources citées, suivies de contrôles automatiques. Les conseils ne sont pas des résultats de tests. Consultez le catalogue actuel pour les prix et la disponibilité.