💬 NLP

Even GPT-5.2 Can't Count to Five: The Case for Zero-Error Horizons in Trustworthy LLMs

Dieses Paper führt die Zero-Error Horizon (ZEH)-Metrik ein, um den maximalen fehlerfreien Denkbereich von großen Sprachmodellen zu bewerten, wobei aufgezeigt wird, dass selbst hochmoderne Systeme wie GPT-5.2 bei grundlegenden Aufgaben versagen, während gleichzeitig der Nutzen von ZEH bei der Analyse algorithmischer Emergenz sowie die Vorschläge für effiziente Rechenmethoden zur Skalierung seiner Evaluierung dargelegt werden.

Ursprüngliche Autoren: Ryoma Sato

Veröffentlicht 2026-01-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Ryoma Sato

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie stellen einen brillanten, superintelligenten Assistenten ein, der Ihnen helfen soll, ein Kernkraftwerk zu steuern, eine Bank zu leiten oder eine Operation durchzuführen. Dieser Assistent kann komplexen Computercode schreiben, Quantenphysik erklären und eine Konversation über Kunst führen. Aber es gibt einen Haken: Dieser Assistent scheitert manchmal an Dingen, die ein 5-jähriges Kind bewältigen könnte.

Das Paper „Even GPT-5.2 Can't Count to Five“ führt eine neue Methode vor, um diese KI-Assistenten zu testen, namens Zero-Error Horizon (ZEH). Betrachten Sie ZEH nicht als Testergebnis, sondern als eine „Sicherheitszaun“.

Hier ist die Aufschlüsselung der Erkenntnisse des Papers unter Verwendung einfacher Analogien:

1. Das Konzept des „Sicherheitszauns“ (Was ist ZEH?)

Die meisten Menschen testen KI, indem sie ihr eine Mischung aus leichten und schweren Fragen geben und zählen, wie viele sie richtig beantwortet (wie eine Note von 95 %). Die Autoren sagen, dass dies für sicherheitskritische Aufgaben gefährlich ist. Wenn eine KI 99 % der Matheaufgaben richtig löst, aber bei einer spezifischen Zahl versagt, könnte dieser eine Fehler eine Katastrophe verursachen.

ZEH ist der „Zaun“ um die perfekte Zone der KI.

Innerhalb des Zauns: Die KI ist garantiert zu 100 % korrekt.
Außerhalb des Zauns: Die KI könnte einen Fehler machen.
Die Höhe des Zauns: Wenn eine KI einen ZEH von 10 für Multiplikation hat, bedeutet das, dass sie jede Zahl bis 10 perfekt multiplizieren kann. Aber in dem Moment, in dem man sie bittet, 11 zu multiplizieren, könnte sie scheitern.

2. Die schockierende Entdeckung (Die „törichten“ Fehler)

Die Autoren testeten ein sehr fortgeschrittenes Modell (GPT-5.2) und fanden heraus, dass sein „Zaun“ für einfache Aufgaben überraschend niedrig war.

Der Paritäts-Test: Kann die KI zählen, ob eine Folge von Zahlen wie 11000 eine ungerade oder gerade Anzahl von Einsen hat? Die KI scheiterte bei dieser 5-stelligen Folge. Ihr Zaun lag bei 4.
Der Klammer-Test: Kann die KI erkennen, ob ((((()))))) ausgewogene Klammern hat? Die KI sagte „Ja“, obwohl es eigentlich „Nein“ war.
Der Mathe-Test: Die KI konnte komplexe Physiksimulationen schreiben, aber die einfache Matheaufgabe 127 × 82 falsch berechnet.

Die Analogie: Stellen Sie sich einen Meisterkoch vor, der ein 10-Gänge-Gourmetmenü kreieren kann, aber versehentlich ein einzelnes Salzkorn auf den Boden fallen lässt, während er ein Sandwich macht. In einer normalen Küche würde man das Salzkorn ignorieren. In einem Kernreaktor oder einer Bank könnte dieses einzelne Salzkorn (oder eine falsche Ziffer) katastrophal sein.

3. Warum ZEH besser ist als ein „Zeugnis“

Das Paper argumentt, dass Standard-Genauigkeitswerte wie das „Cherry-Picking eines Menüs“ sind.

Die Falle: Ein Forscher könnte sagen: „Unsere neue KI ist großartig! Sie hat 99 % der Multiplikationsaufgaben richtig gelöst!“ Aber sie haben vielleicht nur Zahlen bis 20 getestet. Wenn man bis 100 testet, könnte die KI kläglich scheitern.
Die ZEH-Lösung: ZEH lässt Sie das Menü nicht auswählen. Es zwingt die KI zu beweisen, dass sie alles bis zu einem gewissen Punkt bewältigen kann. Wenn die KI bei der Zahl 13 scheitert, wird der Zaun bei 12 gesetzt. Egal wie hoch die „Durchschnittsnote“ ist, der Zaun sagt Ihnen genau, wo die Gefahrenzone beginnt.

4. Wie KI „lernt“ (Auswendiglernen vs. Verstehen)

Die Autoren untersuchten eine Familie von Modellen (Qwen2.5) unterschiedlicher Größe, um zu sehen, wie sie sich verbessern.

Kleine Modelle (Die Fotokopierer): Kleine KI-Modelle verlassen sich auf Auswendiglernen. Sie haben die Antwort 2 × 2 = 4 in ihren Trainingsdaten „gesehen“. Aber wenn sie 2 × 3 nicht gesehen haben, könnten sie falsch raten. Ihr „Zaun“ ist wackelig und voller Löcher.
Große Modelle (Die Mathematiker): Wenn die Modelle größer werden, hören sie auf, nur auswendig zu lernen, und beginnen, die Regeln zu lernen (Algorithmen).
- Der Hinweis: Die Autoren fanden heraus, dass größere Modelle „strukturierte“ Fehler machen. Wenn das Ergebnis zum Beispiel 986 ist, könnte ein großes Modell 1006 sagen. Die Differenz beträgt exakt 20. Dies sieht aus wie ein Mensch, der einen „Übertragungsfehler“ bei der schriftlichen Multiplikation macht.
- Das Ergebnis: Dies beweist, dass das große Modell tatsächlich die Mathematik betreibt und nicht nur rät. Weil es Regeln verwendet, wächst sein „Sicherheitszaun“ (ZEH) stetig und vorhersehbar.

5. Die Kosten der Zaun-Prüfung

Die Autoren geben zu, dass das Überprüfen dieses „Zauns“ teuer ist. Um den exakten Punkt zu finden, an dem die KI versagt, muss man jede einzelne Aufgabe testen, beginnend bei 1, 2, 3... bis hin zu dem Punkt, an dem sie scheitert.

Die Lösung: Sie entwickelten ein „Beschleunigungs-Toolkit“ (unter Verwendung von Baumstrukturen und intelligentem Caching), das diesen Testprozess um bis zu 10-mal schneller macht. Es ist wie ein Roboter, der jede Stufe einer Treppe in Sekunden prüfen kann, anstatt sie einzeln abzulaufen.

Zusammenfassung

Das Paper argumentiert, dass wir für sicherheitskritische Aufgaben (wie Finanzen oder Medizin) nicht nur fragen sollten: „Wie intelligent ist diese KI?“ Wir sollten fragen: „Wo genau liegt die Linie, an der diese KI aufhört, perfekt zu sein?“

Der Zero-Error Horizon ist diese Linie. Er offenbart, dass selbst die klügsten KIs bei überraschend einfachen Aufgaben „blinde Flecken“ haben, und er gibt uns einen konkreten, mathematischen Weg, um genau zu wissen, wie weit wir ihnen vertrauen können, bevor sie anfangen, Fehler zu machen.

Technisches Resümee: Nullfehler-Horizonte in vertrauenswürdigen LLMs

1. Problemstellung

Große Sprachmodelle (LLMs) werden zunehmend in sicherheitskritischen Bereichen wie dem Gesundheitswesen, dem Finanzwesen und nuklearen Systemen eingesetzt. Trotz ihrer scheinbaren Denkfähigkeiten weisen LLMs „Löcher“ in ihrer Kompetenz auf, was zu erklärbaren Fehlern bei einfachen Aufgaben führt (z. B. die Berechnung von $127 \times 82$ , die Bestimmung der Parität einer kurzen Binärzeichenfolge oder das Überprüfen von balancierten Klammern).

Derzeitige Evaluierungsmetriken, primär die Genauigkeit (Accuracy), sind für sicherheitskritische Anwendungen aus mehreren Gründen unzureichend:

Skalenarbitrarität: Die Genauigkeit hängt von der Wahl des Problembereichs durch den Evaluator ab (z. B. Testen der Multiplikation bis $50 \times 50$ vs. $99 \times 99$ ). Ein Modell kann in einem begrenzten Bereich eine hohe Genauigkeit aufweisen, während es bei etwas größeren Eingaben katastrophal versagt.
Mangel an Sicherheitsgarantien: Eine hohe durchschnittliche Genauigkeit schließt nicht die Existenz von „Löchern“ aus, in denen das Modell Fehler macht. In sicherheitskritischen Kontexten kann ein einziger Fehler fatal sein.
Sättigung: Feste Benchmarks sättigen schließlich mit der Verbesserung der Modelle und verlieren die Fähigkeit, die Leistungsfähigkeit des aktuellen Stands der Technik zu differenzieren.

Das Paper argumentiert, dass ein Bedarf an einer Metrik besteht, die eine garantierte sichere Grenze definiert, anstatt eines durchschnittlichen Leistungswerts.

2. Methodik: Nullfehler-Horizont (Zero-Error Horizon, ZEH)

Die Autoren schlagen den Zero-Error Horizon (ZEH) vor, eine Metrik, die die maximale Problemgröße $n$ darstellt, für die ein Modell alle Instanzen unter deterministischem Greedy-Decoding fehlerfrei lösen kann.

Definition

Gegeben ein festes Modell, ein Problemtyp und ein Prompt:

Sei $B_n$ die Menge der Probleme der Größe $n$ .
Sei $T_n = \bigcup_{i=1}^n B_i$ die Menge aller Probleme der Größe höchstens $n$ .
Sei $C$ die Menge der Probleme, die das Modell korrekt beantwortet.
ZEH ist definiert als:
$\text{ZEH} = \max \{ n \mid T_n \subseteq C \}$

Im Wesentlichen löst ein Modell mit $\text{ZEH} = k$ jede Instanz der Größen 1 bis $k$ korrekt, macht aber mindestens einen Fehler bei einer Instanz der Größe $k+1$ . Die spezifische Instanz der Größe $k+1$ , bei der das Modell zum ersten Mal versagt, wird als ZEH-Limiter bezeichnet.

Evaluierungsaufgaben

Die Autoren evaluieren ZEH anhand von vier Aufgaben:

Multiplikation: Ganzzahlige Multiplikation ( $a \times b$ ), wobei die Größe als $\max(a, b)$ definiert ist.
Parität: Bestimmung der Parität (gerade/ungerade Anzahl von 1en) von Binärzeichenfolgen, wobei die Größe die Stringlänge ist.
Balancierte Klammern: Bestimmung, ob eine Zeichenfolge von Klammern balanciert ist, wobei die Größe die Stringlänge ist.
Graphfärbung: Finden der chromatischen Zahl einfacher ungerichteter Graphen, wobei die Größe die Anzahl der Knoten ist.

Optimierung der Effizienz

Die Evaluierung von ZEH erfordert eine erschöpfende Verifizierung, was rechenintensiv ist. Das Paper schlägt vier Beschleunigungstechniken vor:

Teacher Forcing: Anstelle von autoregressiver Dekodierung wird dem Modell die vollständige Sequenz (z. B. $28 \times 43 = 1204$ ) mit einer kausalen Maske zugeführt, um die Korrektheit Token für Token parallel zu verifizieren.
Look-Ahead (Batching): Instanzen unterschiedlicher Größen werden für die parallele Verarbeitung gebatcht, um die GPU-Auslastung zu maximieren, anstatt sie Größe für Größe zu verarbeiten.
Prompt Prefilling: Gemeinsame Prompt-Präfixe werden einmalig verarbeitet, und deren Key-Value (KV)-Caches werden über alle Instanzen hinweg geteilt.
FlashTree: Ein baumstrukturierter Ansatz unter Verwendung eines Trie, um KV-Caches für gemeinsame Präfixe unter Instanzen (z. B. $1 \times 1$ , $1 \times 2$ , $1 \times 3$ ) zu teilen. Dies nutzt eine Online-Softmax-Implementierung (inspiriert von FlashAttention), um den $O(N^2)$ Attention-Mask-Bottleneck zu vermeiden, und erreicht eine bis zu 10-fach höhere Geschwindigkeit gegenüber naiver Autoregression.

3. Kernergebnisse

3.1 Überraschende Ausfälle in State-of-the-Art-Modellen

Die Evaluierung von GPT-5.2 (ein hypothetisches Modell im Kontext dieses Papers, datiert auf Januar 2026) offenbart signifikante Kompetenzlücken:

Parität: ZEH = 4. Das Modell versagt bei der 5-Zeichen-Zeichenfolge 11000.
Balancierte Klammern: ZEH = 10. Das Modell versagt bei der 11-Zeichen-Zeichenfolge ((((()))))).
Multiplikation: ZEH = 126. Das Modell versagt bei $127 \times 82$ .
Diese Ergebnisse zeigen, dass selbst Modelle, die zu komplexer Codegenerierung (z. B. Strömungsmechanik) fähig sind, bei elementaren Arithmetik- und Logikaufgaben versagen.

3.2 Analyse der Qwen2.5-Familie

Die Autoren analysierten die Qwen2.5-Serie (0.5B bis 72B) bezüglich der Multiplikation:

Korrelation mit der Genauigkeit: Während ZEH und Genauigkeit mit der Modellgröße generell zunehmen, korrelieren sie nicht eins zu eins. Beispielsweise beträgt die Genauigkeit des 72B-Modells bei $99 \times 99$ zwar 98,6 %, aber sein ZEH liegt nur bei 42.
Memorierung vs. algorithmisches Denken:
- Kleine Modelle (0.5B - 3B): Zeigen eine hohe Korrelation zwischen der Häufigkeit in den Trainingsdaten (C4-Korpus) und der Genauigkeit, was auf eine Abhängigkeit von Memorierung hindeutet. Ihr ZEH ist niedrig und stagniert, da die Memorierung stochastisch ist; zufällige „Löcher“ in den Trainingsdaten verhindern einen kontinuierlichen, fehlerfreien Horizont.
- Große Modelle (14B - 72B): Zeigen eine abnehmende Korrelation mit der Trainingshäufigkeit, was auf einen Übergang zu algorithmischem Denken hindeutet.
Strukturierte Fehler: Mit zunehmender Modellgröße werden die Fehler „strukturierter“. Bei großen Modellen ist die Differenz zwischen der vorhergesagten und der korrekten Antwort oft ein Vielfaches von 10 (z. B. Vorhersage von 1006 statt 986). Dies deutet darauf hin, dass das Modell den Multiplikationsalgorithmus versteht (z. B. die Einerstelle korrekt berechnet), aber Ausführungsfehler macht (z. B. Übertragungsfehler), anstatt zufällige Halluzinationen zu erzeugen.
Übertragungskänsligkeit (Carry Sensitivity): Eine logistische Regressionsanalyse zeigt, dass größere Modelle empfindlicher auf „Übertragungsoperationen“ (bei denen die Multiplikation der Ziffer $\ge 10$ ist) reagieren als kleinere Modelle. Dieses kontraintuitive Ergebnis stützt die Hypothese, dass größere Modelle versuchen, arithmetische Regeln auszuführen, anstatt memorierte Antworten abzurufen; folglich sind sie anfällig für die rechnerische Schwierigkeit der Regeln, die sie auszuführen versuchen.

3.3 Prompt-Stabilität

ZEH ist relativ robust gegenüber Variationen im Prompt. Für Qwen2.5-Modelle liegt die Standardabweichung des ZEH über verschiedene Prompt-Formulierungen hinweg bei etwa 3. Für sicherheitskritische Anwendungen empfehlen die Autoren jedoch, den niedrigsten beobachteten ZEH über mehrere Prompts hinweg zu verwenden.

4. Bedeutung und Ansprüche

Das Paper behauptet, dass ZEH deutliche Vorteile gegenüber traditionellen Genauigkeitsmetriken für vertrauenswürdige LLMs bietet:

Sicherheitsgarantien und Warnsignale: ZEH liefert eine klare Grenze: Probleme innerhalb des Horizonts sind „sicher“ (garantiert korrekt), während Probleme außerhalb dessen „gefährlich“ sind. Dies ist entscheidend für sicherheitskritische Bereiche, in denen Durchschnittsleistung unzureichend ist.
Konkrete Evidenz (ZEH-Limiter): Im Gegensatz zu abstrakten Genauigkeitswerten liefert ZEH spezifische, reproduzierbare Beispiele (Limiter), bei denen das Modell versagt. Dies erleichtert das Debugging und liefert unbestreitbare Beweise für Kompetenzlücken.
Objektive Metrik: ZEH eliminiert die „Skalenarbitrarität“ der Genauigkeit. Der Horizont wird durch die intrinsischen Fähigkeiten des Modells bestimmt, nicht durch die Wahl des Testbereichs durch einen Evaluator.
Einblick in Emergenz: ZEH ist ein sensibler Indikator für den Übergang von der Memorierung zum algorithmischen Denken. Das Wachstum des ZEH korreliert mit der Fähigkeit des Modells, Regeln zuverlässig auszuführen, selbst wenn die Gesamtgenauigkeit stagniert.
Zukunftssicherheit: Im Gegensatz zu festen Benchmarks, die sättigen, ist ZEH offen gestaltet und dient auch bei verbesserten Modellen weiterhin als Metrik.

Die Autoren kommen zu dem Schluss, dass ZEH zwar Rechenkosten verursacht, die vorgeschlagenen Optimierungstechniken (FlashTree etc.) dies jedoch praktikabel machen. Sie betonen, dass ZEH als ergänzende Metrik zur Genauigkeit verwendet werden sollte, insbesondere zur Verifizierung der Zuverlässigkeit in Hochrisikoanwendungen.