Gradium open-sourcet On-Device-TTS-Modell Phonon: englische 31M-Version unter Apache 2.0, 64,5 MB, offline nutzbar
Laut einem Bericht von MarkTechPost vom 22. Oktober 2026 hat Gradium die On-Device-TTS-Familie Phonon als Open Source freigegeben, darunter das englischsprachige Phonon 31m mit 31M Parametern und 64,5 MB großen q8-Gewichten unter Apache-2.0-Lizenz. In einem vom Anbieter selbst durchgeführten Test mit schwierigen Sätzen lag die WER bei 1,70 %; auf der CPU eines MacBook Air M5 wurde das erste Audio nach 6,9 ms ausgegeben.
Was sich geändert hat
Laut einem Bericht von MarkTechPost vom 22. Oktober 2026 hat das Pariser Sprachunternehmen Gradium, eine Ausgründung aus Kyutai, die On-Device-Text-to-Speech-Modellfamilie Phonon als Open Source freigegeben. Die Familie umfasst drei Modelle: das nur englischsprachige Phonon 31m mit 31M Parametern (ohne Audio-Tokenizer), 64,5 MB q8 GGUF, 24-kHz-Monoausgabe und 37 integrierten Stimmen unter Apache-2.0-Lizenz; das nach Sprachen getrennte Phonon 40m (Englisch, Französisch, Deutsch, Spanisch, Portugiesisch) mit 74,6 MB; sowie das mehrsprachige Phonon 40m, das fünf Sprachen in einem einzigen Modell vereint und 102 Stimmen bietet. Die beiden letztgenannten stehen unter der nichtkommerziellen Lizenz CC BY-NC 4.0. Architektonisch nutzt Phonon einen kausalen Transformer als Backbone, kombiniert Text- und Sprechereinbettungen per Präfix-Konkatenation und verwendet einen SentencePiece-Tokenizer mit 4000 Vokabeleinträgen, der Rohtext direkt liest, ohne Phonem-Konvertierung. Das Backbone gibt alle 80 ms pro Frame einen latenten Vektor aus, ein Flow-Matching-Kopf wandelt ihn in einem einzigen Schritt in Audioeinbettungen um, und eine verkleinerte Variante des Kyutai-Mimi-Decoders erzeugt 24-kHz-PCM. Ein separater End-of-Speech-Kopf entscheidet über den Stopp. Phonon 31m hat 6 Schichten, Breite 512 und 8 Attention-Heads; das 40m-Modell hat 9 Schichten bei gleicher Breite. Beide wurden aus einem größeren Phonon-Lehrermodell destilliert; das Training erfolgte auf einem NVIDIA-H100-Cluster und baut auf Kyutais Forschung zu kontinuierlichen Audio-Sprachmodellen sowie auf Pocket TTS auf. Die vom Anbieter veröffentlichten Leistungszahlen umfassen: In einem Blindtest mit 1189 Bewertern und 17270 Stimmen erreichte das amerikanisch-englische Phonon 40m 2117 Elo, Phonon 31m 2098 und Kokoro 2043. Auf einem öffentlichen schwierigen Satzset (je 500 Sätze pro Sprache, mit Telefonnummern, E-Mail-Adressen und Postleitzahlen) lag die WER von Phonon 31m bei 1,70 %, die von Kokoro bei 3,50 % und die von NeuTTS Nano bei 8,71 %. Auf dem einfacheren Seed-TTS-Set schrumpfte der Abstand: Phonon 31m erreichte eine LLM-WER von 0,51 % und lag damit sogar leicht über Kokoros 0,45 %. Bei der Geschwindigkeit wurden auf der CPU eines MacBook Air M5 mit 4 Threads 6,9 ms bis zum ersten Audio und etwa 29,9-fache Echtzeit erreicht (mit Arm KleidiAI und Apple Accelerate bis zu 46,7-fach), auf einem Raspberry Pi 5 38 ms Startzeit und 3,7-fache Echtzeit, auf einem Snapdragon 8 Elite Gen 5 7,5 ms und 24-fache Echtzeit, auf einer NVIDIA L40S mit CUDA 5 ms und auf einer AMD-EPYC-7413-CPU 43 ms. Die Laufzeitumgebung steht unter MIT- oder Apache-2.0-Lizenz und deckt Rust, Python (pip install ptts), Swift, C, C++ sowie den Browser (phonon-tts) ab; außerdem werden ein OpenAI-kompatibler Server und ein WebSocket-Server bereitgestellt. Die Modelle lassen sich in Transformers, MLX-Audio, Ollama und LM Studio laden; Voice Cloning und Voice Design erfolgen in Gradium Studio und laufen anschließend lokal.
Auswirkungen für Entwickler
Für Entwickler liegt der praktische Wert dieser Meldung darin, englische TTS von einem zeichenbasiert abgerechneten Cloud-Aufruf in eine lokale Komponente zu verwandeln, die mit der Anwendung ausgeliefert werden kann. Die Größe von 31M Parametern und 64,5 MB q8-Gewichten bedeutet, dass sie zusammen mit dem Anwendungscode in ein mobiles Installationspaket oder in Browser-Ressourcen gepackt werden kann, ohne auf einen Netzwerk-Roundtrip angewiesen zu sein und ohne GPU-Budget zu belegen. Die Streaming-Fähigkeit mit erstem Audio im Bereich von 6,9 ms macht Szenarien wie Echtzeit-Dialoge oder interaktives Vorlesen, die empfindlich auf die Latenz des ersten Lauts reagieren, auf reiner CPU machbar. Drei Punkte sind jedoch zu beachten: Erstens deckt Apache 2.0 nur das englische Phonon 31m ab, während das 40m und das mehrsprachige 40m unter CC BY-NC 4.0 stehen. Kommerzielle Produkte dürfen die Mehrsprachigkeit nicht als kostenlose Erweiterung unter derselben Lizenz betrachten. Wer Französisch, Deutsch oder andere Sprachen benötigt, muss entweder eine separate Lizenz suchen oder bei anderen Lösungen bleiben. Zweitens stammen die berichteten Elo-, WER- und Geschwindigkeitszahlen aus Gradiums eigener Evaluierung; Testset und Vergleichsobjekte wurden vom Anbieter gewählt. Der Vorsprung von 1,70 % WER gegenüber Kokoros 3,50 % auf dem schwierigen Satzset wird vor allem der integrierten Textnormalisierung zugeschrieben, während Phonon 31m auf dem üblicheren Seed-TTS-Set sogar leicht hinter Kokoro zurückliegt. Das zeigt, dass der Vorteil auf strukturierten Texten wie Telefonnummern, E-Mail-Adressen und Postleitzahlen konzentriert ist und nicht als umfassende Überlegenheit verallgemeinert werden sollte. Drittens hängen quantisierte Größe, Multithread-Latenz und Durchsatz stark von konkreter Hardware, Thread-Anzahl und Laufzeit-Backend ab; dasselbe Modell kann auf verschiedenen CPUs und mit unterschiedlicher Thread-Bindung deutlich anders abschneiden. Die berichteten Einzelwerte taugen nur als Größenordnungsreferenz.
Integration und Bewertung
Empfohlen wird ein bedingtes Vorgehen entlang der folgenden Entscheidungen. Erstens: Wenn das Hauptziel eines Produkts englische Offline-Ansagen bei CPU- oder Handy-Deployment sind, sollte Phonon 31m direkt als Kandidat für die Ablösung von Cloud-TTS geprüft werden. Zuerst prüfen, ob der Lizenzumfang nur das englische 31m-Modell betrifft, dann auf dem Zielgerät mit q8-Gewichten testen. Als Bewertungskriterium kann gelten: Auf dem Zielgerät mit fester Thread-Anzahl eine Stichprobe echter Geschäftstexte verarbeiten, die P50- und P95-Latenz bis zum ersten Audio messen und mit der Ende-zu-Ende-Latenz der bestehenden Cloud-Lösung (inklusive Netzwerk) vergleichen. Wird der akzeptable Schwellenwert bei P95 nicht erreicht, zur Cloud-Lösung zurückkehren. Zweitens: Wenn das Produkt Mehrsprachigkeit benötigt, sollte das mehrsprachige 40m als nichtkommerzielle Option separat geplant werden; vor der Klärung, ob das Geschäftsmodell CC BY-NC zulässt, nur für interne Prototypen verwenden. Als Bewertungskriterium kann gelten: mehrsprachige Stichproben aus dem schwierigen Satzdatensatz nutzen, um WER und subjektive Natürlichkeitswerte der Stimmen je Sprache zu vergleichen und zugleich zu prüfen, ob die Lizenz die Verteilungsanforderungen erfüllt. Ist eines von beidem nicht erfüllt, beim bisherigen Anbieter bleiben. Drittens, unabhängig vom gewählten Weg: Zuerst einen kontrollierten Test zur Textnormalisierung durchführen. Strukturierte Texte wie Telefonnummern, E-Mail-Adressen, Postleitzahlen und Beträge in einen festen Testfallkatalog überführen und dieselbe Textmenge einmal mit Phonon inklusive integrierter Normalisierung und einmal mit einer Lösung mit eigener Vorverarbeitung verarbeiten, dann die Fehlerraten vergleichen, da der Bericht diesen Punkt ausdrücklich als Hauptursache des Unterschieds nennt. Ist die eigene Normalisierung bereits ausreichend gut, wird dieser Phonon-Vorteil eingeebnet, und die Auswahl sollte sich auf Latenz und Größe verlagern. Viertens sollte auch das Laufzeit-Backend als Variable in die Evaluierung aufgenommen werden: den normalen CPU-Pfad mit Versionen vergleichen, die Arm KleidiAI, Apple Accelerate oder ähnliche Beschleunigungsbibliotheken nutzen, und prüfen, ob sich auf dem Zielchip die berichtete Größenordnung des Durchsatzes reproduzieren lässt. Falls nicht, die Parallelkapazität konservativ planen und die Betriebskosten von WebSocket- und OpenAI-kompatiblen Servern im Selbsthosting frühzeitig bewerten. All dies sind Empfehlungen und Bedingungsanalysen auf Basis des Berichts, keine verifizierten Fakten.
Grenzen und offene Fragen
Die berichteten Elo-, WER- und Latenzzahlen stammen aus Gradiums eigener Evaluierung und Pressemitteilung; Testset, Vergleichsobjekte und Testbedingungen wurden vom Anbieter gewählt und nicht von Dritten unabhängig reproduziert. Dass Phonon 31m auf dem Seed-TTS-Set hinter Kokoro zurückliegt, zeigt ebenfalls, dass der Vorteil an Bedingungen geknüpft ist. Bei den Lizenzen ist nur bestätigt, dass das englische Phonon 31m unter Apache 2.0 steht, während das 40m und die mehrsprachige Version unter CC BY-NC 4.0 fallen. Offene Gewichte bedeuten nicht automatisch freie kommerzielle Nutzung; vor der Auswahl sollte der Originaltext der jeweiligen Modellkarte geprüft werden, statt aus der bloßen Downloadbarkeit der Gewichte auf Lizenzrechte zu schließen. Zudem erscheinen Phonon 31m und die gesamte Phonon-Familie derzeit nicht im Live-Modellkatalog von KimiSeek. Die hier zitierten Angaben zu Verfügbarkeit, Lizenz und Leistung stammen von Gradium und aus der Berichterstattung; sie stehen in keinem Zusammenhang mit der KimiSeek-Plattform und bedeuten nicht, dass diese Plattform das Modell oder zugehörige APIs anbietet. Preise und Lizenzbedingungen aller Seiten können sich mit der Zeit ändern; maßgeblich sind die aktuellen Seiten der Herausgeber und Plattformen.