← Alle Modellneuigkeiten

Qwen3.8 27B errät auf dem Laptop Spiele anhand der rohen Gewichte: drei richtig, eines falsch, langsamste Aufgabe 65 Minuten

Am 3. November 2026 reproduzierte Simon Willison das Rateexperiment aus dem Paper, bei dem allein die Gewichte als Eingabe dienen: Eine quantisierte Qwen3.8 27B auf einem Laptop beantwortete Pac-Man, Pong und Breakout richtig, Freeway falsch. Die drei erfolgreichen Aufgaben dauerten 46 Minuten 12 Sekunden bis 1 Stunde 4 Minuten 54 Sekunden; der Standardkontext von 8192 führte zu einem Fehler, und das Client-Timeout musste angehoben werden.

Veröffentlicht Aktualisiert

Was sich geändert hat

Am 3. November 2026 veröffentlichte Simon Willison in seinem Blog einen Reproduktionsbericht. Das einen Tag zuvor veröffentlichte Paper „Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights“ (Autoren: Rikiya Takehi, Jayden Teoh, Alex Zhang, Omar Khattab) behauptet, Frontier-Modelle könnten allein anhand roher Gleitkomma-Gewichte erkennen, wofür ein Netzwerk trainiert wurde, und die Gewichte ohne Trainingsschleife nativ verändern. Das Begleit-Repository enthält vier eigenständige Prompts, die bis auf die Gewichte wortgleich sind. Sie entsprechen Reinforcement-Learning-Policy-Netzwerken für Breakout, Pong, Pac-Man und Freeway auf einem vereinfachten 10x10-Raster; dabei darf das Modell keine Werkzeuge verwenden, nur einmal antworten und soll das Trainingsspiel nennen. Willison prüfte nur den Teil „ohne Werkzeuge“. Auf einem Laptop nutzte er die Q4_K_M-Quantisierung von Qwen3.8 27B (etwa 17 GB) mit LM Studio und dem llm-lmstudio-Plugin: Pac-Man richtig, vom Modell angegebene Konfidenz 72 %, Dauer 46 Minuten 12 Sekunden, 43.506 Reasoning-Token; Pong richtig (75 %, 1 Stunde 4 Minuten 54 Sekunden); Breakout richtig (88 %, 52 Minuten 25 Sekunden); Freeway falsch, als „vereinfachtes Pac-Man“ identifiziert. In den richtigen Beschreibungen war weiterhin von einem 8x8-Labyrinth die Rede, obwohl das Versuchsraster 10x10 groß ist; die Schlussfolgerung stimmte also, die Details waren ungenau. Mit denselben Prompts rief er über OpenRouter Kimi K3.1 Pro auf, der Breakout in 9 Minuten 41 Sekunden und mit 19.493 Reasoning-Token richtig beantwortete. Der Blog nennt zwei technische Details: Der Standardkontext von 8192 führte direkt zu einem Fehler, ein längeres Kontextfenster war nötig; das Client-Timeout musste über eine Umgebungsvariable erhöht werden. Die Aussagen des Papers zu GPT-6 Astra, der Gewichte nativ ändern soll, sowie zu einer Steigerung von Qwen3.5-0.8B bei MATH-500 von 7,9 % auf 48,1 % und einer Verdreifachung bei IFEval stammen aus dem Paper selbst; die Reproduktion befasste sich nicht damit.

Auswirkungen für Entwickler

Der Wert dieser Reproduktion liegt nicht in der Behauptung „Das Modell kann Gewichte lesen“, sondern darin, dass sie eine vage Fähigkeitsfrage in eine beobachtbare technische Form bringt: Eine Inferenz mit deaktivierten Werkzeugen und nur einer erlaubten Antwort wird durch den gesamten Gewichtstext zu einer langen Aufgabe mit Zehntausenden Reasoning-Token und Dutzenden Minuten. Pac-Man: 43.506 Reasoning-Token, 46 Minuten 12 Sekunden; Pong: 1 Stunde 4 Minuten 54 Sekunden; Breakout: 52 Minuten 25 Sekunden. Für die Bewertung solcher Aufgaben ist daher oft nicht die Genauigkeit die erste Einschränkung, sondern die tatsächliche Dauer und die Kontextkapazität: Der lokale Weg kostet Speicher für den langen Kontext und Wartezeit, der gehostete Weg kostet Abrechnung, die mit den Reasoning-Token wächst. Der Bericht nennt für Kimi K3.1 Pro bei Breakout 9 Minuten 41 Sekunden und 19.493 Reasoning-Token, doch das ist eine einzelne Aufgabe in einem einzelnen Lauf und lässt sich nicht zu einem Gesamtfaktor hochrechnen. Hinzu kommt die Prompt-Disziplin. Die vier Prompts sind außer in den Gewichten wortgleich und verbieten ausdrücklich die Ausführung von Code; nur eine Antwort ist erlaubt. Die Vergleichbarkeit stammt aus diesen beiden Einschränkungen, nicht aus dem Modell selbst. Wenn die Integrationsschicht automatisch Tool-Definitionen, System-Prompts oder Wiederholungslogik einfügt, wird nicht mehr das gemessen, was im Paper steht, und die Ergebnisse lassen sich mit keinen öffentlichen Zahlen vergleichen. Für API-Nutzer ist besonders relevant: Diese Fähigkeit erscheint derzeit nur in einem Paper und einer persönlichen Reproduktion; der Bericht zeigt nicht, dass sie in einer Produktschnittstelle verfügbar ist. Sie als Stresstest für Kontextlänge und Kapazitätsplanung zu behandeln, ist vorsichtiger, als sie als lieferbares Feature zu betrachten.

Integration und Bewertung

Die folgenden Punkte sind eine bedingte Analyse auf Basis des Berichts, keine verifizierten Schlussfolgerungen. Erstens: Vorab entscheiden, ob diese langen Inferenzen lokal oder gehostet laufen sollen. Der Bericht liefert den Vergleich: Die etwa 17 GB große Q4_K_M-Quantisierung von Qwen3.8 27B beantwortete auf einem Laptop drei von vier Aufgaben richtig, die drei erfolgreichen dauerten jeweils 46 Minuten 12 Sekunden bis 1 Stunde 4 Minuten 54 Sekunden; Kimi K3.1 Pro brauchte für die einzige getestete Aufgabe Breakout 9 Minuten 41 Sekunden. Wenn das Ziel darin besteht, für eine Schätzung der Erfolgsquote dutzende Wiederholungsläufe durchzuführen, wird die tatsächliche Dauer zuerst zum Engpass, und gehostet ist realistischer; bei Offline- oder Kein-Netzwerk-Anforderungen ist lokal die einzige Option. Als Kriterium empfiehlt es sich, die vier öffentlichen Prompts jeweils mehrfach laufen zu lassen und die Zahl der richtigen Antworten, p50 und p95 der Dauer pro Aufgabe sowie Timeouts und Fehler zu erfassen, statt aus einem Eindruck zu schließen. Bei gehostetem Betrieb die Kosten anhand der Preisseite des gewählten Anbieters berechnen und nicht aus einer erfolgreichen Laufzeit auf den Batch-Aufwand schließen. Zweitens: Kontextlänge und Client-Timeout als primäre Konfiguration behandeln, nicht erst nach einem Fehlschlag. Die direktesten Hindernisse in der Reproduktion waren der Fehler beim Standardkontext von 8192 und das über eine Umgebungsvariable zu erhöhende Client-Timeout. Ob ein Teil der Gewichte abgeschnitten werden muss, hängt davon ab, wie groß der Server den Kontext öffnen kann: Reicht er für den vollständigen Prompt, den ganzen Prompt senden, um mit dem Paper vergleichbar zu bleiben; reicht er nicht, muss gekürzt werden, und dann sind die Ergebnisse nicht mit den Zahlen des Papers vergleichbar. Ein prüfbares Kriterium ist, dass alle vier Prompts ohne Kürzung und ohne Client-Timeout zurückkommen und die tatsächlichen Reasoning-Token pro Lauf erfasst werden. Drittens: Die Einschränkungen „keine Werkzeuge, eine Antwort“ einhalten und die Eingabe nachvollziehbar prüfen. Für solche Evaluierungen Tool-Aufrufe und mehrstufige Rückfragen separat abschalten; außerdem prüfen, ob die vier Prompt-Vorlagen außer bei den Gewichten identisch sind, und für jeden Lauf den vollständigen Prompt-Hash aufbewahren. Zu beachten ist: Die vier Prompts unterscheiden sich ohnehin nur in den Gewichten, ein identischer Vorlagen-Hash ist daher zu erwarten und belegt nicht, dass die an das Modell gesendeten Gewichte unversehrt sind. Nur der Hash des vollständigen Prompts pro Lauf zeigt, dass die Eingabe nicht durch die Integrationsschicht verändert wurde. Kriterien: null Tool-Aufrufe im Gesprächsprotokoll, bestandene Prüfung der gewichtsunabhängigen Vorlage und archivierter Hash des vollständigen Prompts für jeden Lauf.

Grenzen und offene Fragen

Es bleiben viele Unbekannte. Dies ist die Beobachtung eines einzelnen Autors mit je einem Lauf pro Prompt, ohne wiederholte Stichproben; sie ist kein reproduzierbarer Benchmark. Die Angaben 72 %, 75 % und 88 % sind selbst gemeldete Konfidenzwerte des Modells und nicht kalibriert. Bei Freeway ist nur die falsche Antwort dokumentiert; der Blog nennt für diese Aufgabe keine Dauer, daher lässt sich nicht ableiten, dass alle vier Aufgaben zwischen 46 und 65 Minuten lagen. Die Aussagen des Papers zu GPT-6 Astra, der Gewichte nativ umschreiben soll, zur Steigerung von Qwen3.5-0.8B bei MATH-500 von 7,9 % auf 48,1 % und zur Verdreifachung bei IFEval sind Angaben des Papers selbst; die Reproduktion befasste sich nicht damit und verifizierte sie nicht unabhängig. Öffentliche Kritik an dem Paper richtet sich auf Rahmen und Methode: Der spaCy-Autor Matthew Honnibal meint, das Paper vermische „Gewichte ohne Werkzeuge lesen“ mit „das Modell mit Code ändern“; Sean Goedecke zerlegt den Fall der Gewichtsreparatur bei 0,8B in Schritte, die auch menschliche Forscher gehen würden. Zudem sind die Versuchsobjekte Policy-Netzwerke für vier Spiele auf kleinen Rastern und nicht mit dem Bearbeiten von Gewichten eines 27B-Modells vergleichbar. Der Blog nennt keine Lizenzbedingungen für die Gewichte von Qwen3.8 27B; herunterladbare Community-GGUF-Quantisierungen bedeuten nicht, dass eine Open-Source-Lizenz vorliegt, und eine kommerzielle Nutzung erfordert eine separate Prüfung. Es gibt auch keine Belege dafür, dass diese Fähigkeit in die API eines Produkts Eingang gefunden hat.

In drei Minuten zum ersten Aufruf

Erstelle ein Konto und einen API-Schlüssel. Aufrufe werden von deinem Guthaben abgebucht. 30 % Rabatt auf die erste Aufladung. ¥500 aufladen, ¥350 zahlen, ¥500 Guthaben erhalten. ¥1000 aufladen, ¥850 zahlen, ¥1000 Guthaben erhalten Die Mindestaufladung bleibt ¥10 und eignet sich zum Ausprobieren.

Quellen und redaktioneller Prozess

我的笔记本电脑上的 Qwen 3.8 27B 也能解读模型权重

KI unterstützte die Analyse und Übersetzung der genannten Quellen, gefolgt von automatischen Qualitätsprüfungen. Empfehlungen sind keine Testergebnisse. Verfügbarkeit und Preise stehen im aktuellen Katalog.