Aleph Alpha veröffentlicht Offene-Gewichte-Modell Kolibri: 78B Gesamtparameter, 3B aktiviert, Deutsch 21,3% der Trainingsdaten
Laut einem Bericht von The Decoder vom 5. Oktober 2026 hat Aleph Alpha das deutsch-englische MoE-Modell Kolibri veröffentlicht: 78 Milliarden Gesamtparameter, etwa 3 Milliarden pro Token aktiviert, Deutsch macht 21,3% der Trainingsdaten aus, die Gewichte sind unter Apache 2.0 auf Hugging Face offen verfügbar, und es werden bis zu 1 Million Token Kontext unterstützt.
Was sich geändert hat
Laut einem Bericht von The Decoder vom 5. Oktober 2026 hat das deutsche Unternehmen Aleph Alpha das deutsch-englische Sprachmodell Kolibri veröffentlicht. Das Modell verwendet eine Mixture-of-Experts-Architektur mit 78 Milliarden Parametern insgesamt, aktiviert pro Token aber nur etwa 3 Milliarden Parameter, und bietet ein Kontextfenster von bis zu 1 Million Token. Dem Bericht zufolge macht Deutsch 21,3% der Trainingsdaten aus, wobei das Unternehmen für dieses Projekt eine eigene deutsche Datenpipeline aufgebaut hat; in den synthetischen Trainingsdaten wurden auch chinesische Modelle verwendet (der Bericht nennt kein konkretes Modell). Aleph Alpha gibt an, dass Kolibri in deutschen Benchmarks 71% erreicht und zugleich schneller dekodiert als vergleichbare Modelle wie die im Bericht genannten GPT OSS A5B, Qwen 3.6 A3B und Gemma 4 A4B, und dass es bei deutscher und englischer Sprache an der Pareto-Grenze von Qualität und Betriebskosten liegt. Dem technischen Bericht zufolge wurde das Modell in Deutschland und Finnland auf 768 B200 GPUs trainiert; der Entwicklungsprozess berücksichtigt den EU AI Act, und das Modell ist auf öffentliche Verwaltung, Luftfahrt und Industrie ausgerichtet. Die Gewichte sind auf Hugging Face unter der Apache-2.0-Lizenz offen verfügbar. Zu unterscheiden ist, dass offene Gewichte (open weights) und eine Open-Source-Lizenz nicht dasselbe sind: Hier nennt der Bericht ausdrücklich Apache 2.0 als konkrete Lizenz, doch der tatsächliche Anwendungsbereich der Lizenzbedingungen ist weiterhin anhand der Modellkarte und des Lizenztextes zu klären.
Auswirkungen für Entwickler
Die unmittelbaren Auswirkungen auf Entwickler konzentrieren sich auf drei Punkte. Erstens bedeutet die MoE-Struktur mit etwa 3 Milliarden aktivierten Parametern bei 78 Milliarden Gesamtparametern, dass der Rechenaufwand zur Inferenzzeit eher einem kleineren Modell entspricht, der Speicherbedarf dagegen eher einem großen Modell; die Kostenstruktur der Bereitstellung unterscheidet sich damit von einem dichten Modell gleicher Größe, und Details der Quantisierung und des Experten-Routings beeinflussen den Durchsatz erheblich. Zweitens ist das Kontextfenster von 1 Million Token eine Angabe zur Langkontextfähigkeit, doch der Bericht nennt keine Daten zu Retrieval-Genauigkeit, Latenz und Speicherbedarf bei langem Kontext; Szenarien mit langen Dokumenten müssen selbst validiert werden, und die Benchmark-Ergebnisse für kurzen Kontext lassen sich nicht ohne Weiteres übertragen. Drittens zeigen der deutsche Datenanteil von 21,3% und die spezielle deutsche Datenpipeline, dass das Modell bei deutschen Aufgaben voraussichtlich besser abschneidet als die meisten englisch dominierten Modelle mit offenen Gewichten; die im Bericht genannte deutsche Benchmark-Punktzahl von 71% ist jedoch eine Angabe des Anbieters, ohne Benchmark-Name, Evaluierungsversion oder Angabe, ob zero-shot getestet wurde, weshalb ein Quervergleich vorsichtig erfolgen sollte. Außerdem ist Apache 2.0 eine relativ permissive Lizenz, was für Teams, die kommerzielle Nutzung oder Selbsthosting planen, eine wichtige Information ist; die Lizenz deckt jedoch nicht die Konformität der Trainingsdaten ab, und die Compliance-Verantwortung im Zusammenhang mit dem EU AI Act liegt weiterhin beim Betreiber. Der Bericht erwähnt, dass bei den Trainingsdaten synthetische Daten chinesischer Modelle verwendet wurden; dies ist eine offengelegte Tatsache und sollte nicht als technische Abstammung von Kolibri zu irgendeinem chinesischen Modell interpretiert werden.
Integration und Bewertung
Im Folgenden handelt es sich um eine auf dem Bericht basierende empfehlende Analyse, nicht um verifizierte Fakten. Die erste Entscheidung betrifft die Modellauswahl: Wenn die Arbeitslast überwiegend deutsch ist und Selbsthosting benötigt wird, kann Kolibri als Kandidat gelistet werden; steht Chinesisch oder Englisch im Vordergrund, begründet der Vorteil der deutschen Datenpipeline keine Auswahl. Als Vorbereitung für die Bewertung sollte eine Reihe deutscher und englischer Aufgaben erstellt werden, die die Zielbranche abdeckt; als quantitatives Bewertungskriterium sollte bei gleicher Hardware und gleicher Quantisierungskonfiguration die Genauigkeit bei deutschen Aufgaben und die Ende-zu-Ende-Latenz pro tausend Token verglichen werden, statt nur die im Bericht genannte Einzelpunktzahl von 71% zu betrachten. Die zweite Entscheidung betrifft die Abwägung zwischen Kontext und Kosten: Der Bericht nennt bis zu 1 Million Token Unterstützung, liefert aber keine Leistungsdaten für diese Länge; empfohlen wird, zunächst mit mittleren Längen von 8K bis 32K eine Baseline zu bilden und dann schrittweise bis zur Ziel-Länge zu belasten. Bewertungskriterium ist, ob die Trefferquote kritischer Informationen bei langem Kontext mit der Länge deutlich abfällt und ob die Latenz bis zum ersten Token in einem akzeptablen Bereich liegt. Die dritte Entscheidung betrifft Lizenz- und Compliance-Pfad: Obwohl die Gewichte unter Apache 2.0 offen sind, richtet sich das Modell auf regulierte Branchen wie öffentliche Verwaltung und Luftfahrt; Betreiber sollten die konkreten Aussagen der Modellkarte zu Weitergabe, Fine-Tuning-Ergebnissen und Haftungsverteilung prüfen. Bewertungskriterium ist, ob eine juristische Prüfung im Lizenztext und in der Modellkarte eindeutige Klauseln findet, die den eigenen Nutzungsfall abdecken.
Grenzen und offene Fragen
Zunächst ist klarzustellen: Zum Zeitpunkt dieser Katalogprüfung erscheint diese Version Kolibri nicht im Echtzeit-Modellkatalog von KimiSeek; die im Bericht erwähnte Gewichtsverteilung und etwaige API-Verfügbarkeit beziehen sich auf Aleph Alpha und deren Hugging-Face-Seite und stehen in keiner Beziehung zu KimiSeek. Zweitens stammen die Aussagen im Bericht zur Pareto-Grenze, zur schnelleren Dekodiergeschwindigkeit als vergleichbare Modelle und zur deutschen Benchmark-Punktzahl von 71% aus Angaben von Aleph Alpha selbst; dieser Artikel gibt sie wieder, verifiziert sie aber nicht unabhängig. Benchmark-Name, Evaluierungsmethode, ob zero-shot, sowie die Konfiguration der Wettbewerber werden im Bericht nicht erläutert. Drittens liegen die konkreten Versionen und Veröffentlichungsdaten der im Bericht genannten Vergleichsmodelle GPT OSS A5B, Qwen 3.6 A3B und Gemma 4 A4B außerhalb des Rahmens dieser Prüfung, ihre Vergleichbarkeit kann nicht bestätigt werden. Viertens betrifft Apache 2.0 die Verteilungslizenz für Gewichte und Code und beinhaltet keine Compliance-Bestätigung für die Herkunft der Trainingsdaten; auch das im Bericht erwähnte Detail, dass für synthetische Daten ein chinesisches Modell verwendet wurde, nennt weder das konkrete Modell noch die Art der Generierung. Fünftens sind der Trainingsumfang von 768 B200 GPUs und die deutsch-englische Ausrichtung Herstellerangaben; Reproduktionskosten, der für Fine-Tuning benötigte Datenumfang und die tatsächliche Leistung in anderen Sprachen als Deutsch sind unbekannt.
Abbildungen aus dem Originalbericht
