Mistral Large 4 mit offenen Gewichten veröffentlicht: 1T Parameter, Reasoning nicht abschaltbar, vor dem Deployment Genauigkeit und Lizenz prüfen
Laut einem Hugging-Face-Blogbeitrag vom 29. Oktober 2026 wurde Mistral Large 4 (Le Chonk) mit offenen Gewichten veröffentlicht: rund 1T Gesamtparameter, 49B aktive Parameter, 1M Kontext sowie FP8-, NVFP4- und mehrere GGUF-Quantisierungen. Die Reasoning-Intensität ist standardmäßig high und lässt sich nicht abschalten; der NVFP4-Pfad in vLLM erfordert Blackwell-GPUs.

Was sich geändert hat
Laut einem am 29. Oktober 2026 veröffentlichten Blogbeitrag von Hugging Face hat Mistral die Gewichte von Mistral Large 4 (Codename Le Chonk) auf der Plattform bereitgestellt. Das mehrsprachige Mixture-of-Experts-Modell akzeptiert Text- und Bildeingaben und gibt ausschließlich Text aus: Gesamtparameter etwa 1T, pro Token 49B aktiv, Kontextfenster 1M Token. Offiziell gibt es FP8- und NVFP4-Varianten sowie GGUF-Quantisierungen, die von den Unsloth- und llama.cpp-Teams konvertiert wurden. Zu den im Blog genannten Architekturdetails gehören: ein Textdecoder mit 72 Schichten, versteckter Dimension 6144 und 64 Attention-Heads; der Attention-Block kombiniert Multi-Head Latent Attention mit einem DeepSeek Sparse Attention Indexer, wobei jede Query höchstens 2048 Key-Positionen auswählt; die Decoderschichten wechseln im Verhältnis 3:1 zwischen RoPE und NoPE und teilen KV-Zustände über Schichten hinweg; die erste Schicht ist ein dichtes Feedforward, die übrigen 71 sind MoE, und ein Softmax-Router wählt pro Token 4 aus 128 Experten plus einen stets aktiven Shared Expert. Auf der Bildseite steht ein 1.6B Pixtral-Encoder mit 30 Schichten, 16 Attention-Heads und 14×14-Patches. Die vom Anbieter selbst berichteten Ergebnisse umfassen: DeepSWE v1.1 61,7 %, SWE-Atlas-QnA 59,4 %, Terminal-Bench 4 28,3 % sowie einen Gesamtwert im Coding Agent Index von 49,8 %; laut Blog liegt dieser vor DeepSeek V4 Pro 0813 und Qwen3.8 Max. Im Bereich Cybersicherheit erzielt das Modell 82 % in einem Test, der das Nachstellen und Beheben echter Schwachstellen verlangt, löst 93 % der 40 Cybench-Herausforderungen und widersteht 93,3 % der Angriffe von Lakera B3. Stand 29. Oktober 2026 nennt der Blog Platz fünf unter den Open-Weight-Modellen im Artificial Analysis Intelligence Index. Diese Zahlen stammen vom Anbieter oder aus den von ihm zitierten Bewertungsmaßstäben; sie wurden für diesen Artikel nicht unabhängig reproduziert.
Auswirkungen für Entwickler
Der erste Effekt betrifft die Schätzung von Kosten und Latenz. Im Abschnitt zu Transformers schreibt der Blog, reasoning_effort könne low, medium oder high sein, Standard sei high, und Reasoning lasse sich nicht abschalten – selbst reasoning_effort: none werde als high ausgeführt. Wenn bestehende Pipelines Ausgabelänge und Time-to-first-token für einen Modus ohne Reasoning geschätzt haben, müssen sie nach der Integration neu gemessen werden; Hugging Face Inference Endpoints legt den Reasoning-Inhalt separat im Feld reasoning der Antwort ab, sodass auch die Client-Auswertung angepasst werden muss. Der zweite Punkt betrifft die Kontextangabe. Die Modellspezifikation nennt 1M Token, doch der im Blog gezeigte vLLM-Startbefehl setzt max-model-len auf 131072, und auch das Endpoint-Rezept spricht von „bis zu 131K Kontext“. Das ist kein Widerspruch, zeigt aber, dass 1M eher die Obergrenze der Gewichtsfähigkeit als eine sofort nutzbare Dienstkonfiguration beschreibt; wie lang tatsächlich gearbeitet werden kann, hängt auch von VRAM und Parallelitätseinstellungen ab. Die dritte Gabelung betrifft Hardware und Genauigkeit. Der NVFP4-Checkpoint benötigt NVIDIA Blackwell; das Endpoint-Rezept nutzt FP8 auf acht H200 mit Tensor- und Experten-Parallelität und bedient 131K Kontext bei bis zu 16 gleichzeitigen Anfragen. Der Blog nennt außerdem GGUF-Quantisierungen: Die 2-Bit-Version läuft auf einem einzelnen Apple-Silicon-System mit 512 GB Unified Memory, die übrigen Quantisierungen benötigen verteilte Inferenz und laufen auf mehreren NVIDIA- oder AMD-Grafikkarten. Die Durchsatzklassen dieser drei Pfade unterscheiden sich stark und lassen sich nicht gegenseitig extrapolieren. Die vierte Stelle ist die Lizenz. Die Gewichte werden unter der Mistral Ecosystem Open-Weight License vertrieben; laut Blog handelt es sich um eine abgeleitete MIT-Lizenz, die Model-as-a-Service einschränkt. Herunterladbare Gewichte bedeuten nicht, dass ein externer Inferenzdienst frei angeboten werden darf; die genauen Grenzen ergeben sich aus dem Lizenztext. Die fünfte Hürde ist Feintuning. Das TRL-LoRA-Beispiel im Blog läuft auf einem Node mit acht B300; das Trainingsskript verwendet FSDP plus Experten-Parallelität. Das ist keine Konfiguration, die sich auf einer einzelnen GPU reproduzieren lässt.
Integration und Bewertung
Die folgenden Hinweise sind bedingt und keine bereits verifizierten Ergebnisse. Entscheidung eins: Soll die standardmäßige Reasoning-Intensität gesenkt werden? Die berichtete Tatsache ist, dass Reasoning nicht abschaltbar ist und standardmäßig high verwendet wird. Die Option besteht darin, den Standard von high auf low oder medium zu senken. Voraussetzung ist, dass die eigene Last aus Extraktion oder Klassifikation mit kurzen Ausgaben und festem Format besteht; bei mehrstufiger Codereparatur oder dem Nachstellen von Schwachstellen wurden die Benchmarks im Blog ohnehin mit hoher Reasoning-Stufe gemessen, sodass eine Absenkung das getestete Objekt austauscht. Die Bewertung erfolgt, indem high und low auf derselben festen Stichprobe laufen und Ausgabe-Tokenzahl, Ende-zu-Ende-Latenz und Aufgaben-Erfolgsrate erfasst werden; der Standardwert wird nur geändert, wenn der Rückgang der Erfolgsrate akzeptabel ist und Tokenzahl sowie Latenz tatsächlich sinken. Entscheidung zwei: Welchen Deployment-Pfad wählen? Die berichtete Tatsache ist, dass es offiziell zwei Genauigkeitsvarianten gibt, FP8 und NVFP4, wobei nur FP8 ein öffentliches 8×H200-Deployment-Rezept hat und NVFP4 Blackwell erfordert; das heißt aber nicht, dass es für Nicht-Blackwell-Maschinen nur einen Weg gibt. Der Blog nennt zusätzlich GGUF-Quantisierungen für llama.cpp: 2 Bit laufen auf einem einzelnen Apple-Silicon-System mit 512 GB Unified Memory, die übrigen Quantisierungen benötigen verteilte Inferenz und laufen auf mehreren NVIDIA- oder AMD-Karten. Die Wahl besteht darin, auf vorhandener Hardware FP8, NVFP4 oder GGUF zu nehmen. Voraussetzung: Nur mit einer Maschine der Klasse acht H200 lässt sich das FP8-Rezept überhaupt nachbilden; nur mit Blackwell lohnt ein Versuch mit NVFP4 für geringeren VRAM-Verbrauch; mit einem einzelnen Rechner oder mehreren Consumer-GPUs bleibt nur eine GGUF-Quantisierung, verbunden mit Genauigkeitsverlusten. Die Bewertung erfolgt unter Ziel-Parallelität und mit der eigenen realen Prompt-Länge; erfasst werden Zeit bis zum ersten Token, Generierungsdurchsatz und VRAM-Verbrauch. Die im Blog genannten etwa 0,6 Sekunden bis zum ersten Token bei einer einzelnen Anfrage und etwa 4300 tok/s Prefill bei 16K-Prompt und vier parallelen Anfragen dienen als Größenordnungsreferenz, nicht als Abnahmegrenze. Entscheidung drei: Für 1M Kontext entwerfen? Die berichtete Tatsache ist: Modellspezifikation 1M, Dienstkonfiguration 131K, und im Langkontexttest des Blogs fällt IQ2_XXS bei 800K Kontext auf 3 tok/s Generierungsgeschwindigkeit. Die Wahl ist, einen separaten Pfad für Langkontext einzurichten oder Anfragen unter 131K zu halten und einheitlich zu bearbeiten. Voraussetzung ist, zuerst die p95-Länge realer Anfragen zu messen; liegt die p95 deutlich unter 131K, ist es nicht sinnvoll, Parallelität für ein ungenutztes Fenster zu opfern. Die Bewertung erstellt ein Testset an der p95-Länge und vergleicht „auf 131K kürzen“ mit „vollständige Eingabe“ bei Abschlussrate und Gesamtzeit auf derselben Aufgabenmenge. Entscheidung vier: Sicherheits-Workloads selbst betreiben oder weiter über eine Managed-API? Die berichtete Tatsache ist, dass der Blog Cybersicherheit als Schwerpunkt nennt und behauptet, die durchschnittliche Ablehnungsrate bei Cybersicherheits-Prompts in JailbreakBench, StrongREJECT und AgentHarm liege über der anderer Open-Weight-Modelle; außerdem hätten mehrere geschlossene Frontier-Modelle im selben Reproduktionstest wegen Ablehnungen nahezu null Punkte erzielt. Die Wahl ist Selbstbetrieb oder weiter eine geschlossene API. Voraussetzung: Selbstbetrieb lohnt nur, wenn Aufgaben tatsächlich durch Filter geschlossener Anbieter blockiert werden oder wenn der Zugriff mitten in der Incident-Bearbeitung ohne Unterbrechung erhalten bleiben muss; offene Gewichte legen Nutzungsrichtlinie und Deployment in die eigene Hand, ebenso aber Compliance und Missbrauchsschutz. Die Bewertung misst auf eigenen historischen Stichproben die Erfolgs- und Ablehnungsrate für „erst reproduzieren, dann patchen“ und vergleicht sie mit den entsprechenden Zahlen derselben Stichprobe über eine geschlossene Schnittstelle.
Grenzen und offene Fragen
Erstens ist Mistral Large 4 derzeit nicht im KimiSeek-Modellkatalog; die erwähnten Inference Endpoints, die serverlose Inferenz über Inference Providers und die Dell-Enterprise-Hub-Rezepte gehören zu den Kanälen von Mistral, Hugging Face und Dell. Ob diese Version und ihre API auf dieser Website angeboten werden und in welcher Form, muss anhand des Katalogs und der tatsächlichen Seiten dieser Website geprüft werden. Zweitens stammen die Benchmarks überwiegend vom Anbieter selbst oder aus von ihm zitierten Drittquellen. „Platz fünf unter den Open-Weight-Modellen“ gilt nur für den Stand 29. Oktober 2026; Aussagen zu Malware-Analyse, Priorisierung von Schwachstellen und Erzeugung von Erkennungsregeln stammen aus internen Mistral-Tests und wurden nicht unabhängig reproduziert. Drittens stammen die Durchsatzahlen von bestimmten Maschinen und bestimmten Quantisierungen; Ergebnisse auf M3 Ultra, vier RTX6000 Pro und acht H200 lassen sich nicht auf andere Cluster übertragen. Viertens hat der Blog den Zielkonflikt zwischen 1M-Spezifikation, 131K-Dienstkonfiguration und sinkendem Langkontext-Durchsatz nicht erklärt; das muss selbst getestet werden. Fünftens steht im multimodalen Anfragebeispiel von llama.cpp im Feld model ein anderer Modellname; wer das Beispiel kopiert, macht leicht Fehler. Der offizielle Repository-Name lautet 1T-A52B, während der Text 49B aktive Parameter beschreibt; ob beide dieselbe Zählweise verwenden, ist anhand der Modellkarte zu prüfen. Schließlich ist in der Lizenz anhand des Lizenztexts zu beurteilen, welche externe Dienstleistung als Model-as-a-Service gilt; dieser Artikel zieht keine rechtliche Schlussfolgerung.
Abbildungen aus dem Originalbericht



