💬 NLP

Even GPT-5.2 Can't Count to Five: The Case for Zero-Error Horizons in Trustworthy LLMs

Dit artikel introduceert de Zero-Error Horizon (ZEH)-metriek om het maximale foutvrije redeneerbereik van grote taalmodellen te evalueren, waarbij wordt onthuld dat zelfs state-of-the-art systemen zoals GPT-5.2 falen op fundamentele taken, terwijl de bruikbaarheid van ZEH wordt aangetoond bij het analyseren van algoritmische emergentie en het voorstellen van efficiënte computationele methoden om de evaluatie ervan te schalen.

Oorspronkelijke auteurs: Ryoma Sato

Gepubliceerd 2026-01-23

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ryoma Sato

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een briljante, superintelligente assistent inhuurt om je te helpen bij het beheren van een kerncentrale, een bank of het uitvoeren van een operatie. Deze assistent kan complexe computercode schrijven, kwantumfysica uitleggen en een gesprek voeren over kunst. Maar er is een addertje onder het gras: deze assistent faalt soms bij dingen die een 5-jarige zou kunnen.

Het artikel "Even GPT-5.2 Can't Count to Five" introduceert een nieuwe manier om deze AI-assistenten te testen, genaamd Zero-Error Horizon (ZEH). Zie ZEH niet als een toetsuitslag, maar als een "veiligheidshek".

Hier is de uitsplitsing van de bevindingen uit het artikel met behulp van eenvoudige analogieën:

1. Het concept van het "Veiligheidshek" (Wat is ZEH?)

De meeste mensen testen AI door het een mix van makkelijke en moeilijke vragen te geven en te tellen hoeveel het er goed heeft (zoals een cijfer van 95%). De auteurs zeggen dat dit gevaarlijk is voor taken met een hoog veiligheidsrisico. Als een AI 99% van de wiskundeproblemen goed heeft, maar faalt op één specifiek getal, kan die ene fout een ramp veroorzaken.

ZEH is het "hek" rond de perfecte zone van de AI.

Binnen het hek: De AI is gegarandeerd 100% correct.
Buiten het hek: De AI kan een fout maken.
De hoogte van het hek: Als een AI een ZEH van 10 heeft voor vermenigvuldigen, betekent dit dat het elk getal tot en met 10 perfect kan vermenigvuldigen. Maar op het moment dat je het vraagt om 11 te vermenigvuldigen, kan het falen.

2. De schokkende ontdekking (De "domme" fouten)

De auteurs testten een zeer geavanceerd model (GPT-5.2) en vonden dat de "fence" verrassend laag was voor eenvoudige taken.

De Pariteitsgetest: Kan de AI tellen of een reeks getallen zoals 11000 een even of oneven aantal enen heeft? De AI faalde op deze 5-cijferige reeks. De fence lag op 4.
De Haakjesgetest: Kan de AI zien of ((((()))))) gebalanceerde haakjes heeft? De AI zei "Ja" terwijl het eigenlijk "Nee" was.
De Wiskundetest: De AI kon complexe natuurkundige simulaties schrijven, maar kreeg het eenvoudige wiskundeprobleem 127 × 82 fout.

De analogie: Stel je een meesterkok voor die een 10-gangen gastronomisch diner kan creëren, maar per ongeluk een enkel korreltje zout op de vloer laat vallen tijdens het maken van een boterham. In een normale keuken negeer je dat korreltje. In een kernreactor of een bank kan dat enkele korreltje zout (of een verkeerd cijfer) catastrofaal zijn.

3. Waarom ZEH beter is dan een "Rapportcijfer"

Het artikel betoogt dat standaard nauwkeurigheidsscores lijken op het selectief kiezen van een menu.

De valstrik: Een onderzoeker zou kunnen zeggen: "Onze nieuwe AI is geweldig! Hij heeft 99% van de vermenigvuldigingen goed!" Maar ze hebben misschien alleen getallen tot en met 20 getest. Als je tot 100 test, kan de AI dramatisch falen.
De ZEH-oplossing: ZEH laat je niet het menu kiezen. Het dwingt de AI om te bewijzen dat het alles tot een bepaald punt aankan. Als de AI faalt op het getal 13, wordt het hek op 12 geplaatst. Hoe hoog de "gemiddelde score" ook is, het hek vertelt je precies waar de gevarenzone begint.

4. Hoe AI "leert" (Memoriseren versus Begrijpen)

De auteurs bestudeerden een familie van modellen (Qwen2.5) van verschillende groottes om te zien hoe ze verbeteren.

Kleine Modellen (De Fotokopieermachines): Kleine AI-modellen vertrouwen op memoriseren. Ze hebben het antwoord 2 × 2 = 4 "gezien" in hun trainingsdata. Maar als ze 2 × 3 niet hebben gezien, kunnen ze fout raden. Hun "hek" is wankel en vol gaten.
Grote Modellen (De Wiskundigen): Naarmate de modellen groter worden, stoppen ze met alleen maar memoriseren en beginnen ze de regels te leren (algoritmen).
- De aanwijzing: De auteurs ontdekten dat grotere modellen "gestructureerde" fouten maken. Bijvoorbeeld, als het antwoord 986 is, kan een groot model 1006 zeggen. Het verschil is precies 20. Dit lijkt op een menselijke "overdrachtsfout" bij lang vermenigvuldigen.
- Het resultaat: Dit bewijst dat het grote model daadwerkelijk de wiskunde doet, en niet alleen maar gokt. Omdat het regels gebruikt, groeit zijn "veiligheidshek" (ZEH) gestaag en voorspelbaar.

5. De kosten van het controleren van het hek

De auteurs geven toe dat het controleren van dit "hek" duur is. Om het exacte punt te vinden waarop de AI faalt, moet je elke enkele opdracht testen vanaf 1, 2, 3... helemaal totdat hij faalt.

De oplossing: Ze hebben een "versnellings-toolkit" ontwikkeld (gebruikmakend van boomstructuren en slimme caching) die dit testproces tot wel 10 keer sneller maakt. Het is alsoal heb je een robot die elke trede van een trap in seconden kan controleren in plaats van de trap één voor één te lopen.

Samenvatting

Het artikel betoogt dat we voor taken met een hoog veiligheidsrisico (zoals financiën of geneeskunde) niet alleen moeten vragen: "Hoe slim is deze AI?" We moeten vragen: "Waar ligt de exacte lijn waar deze AI ophoudt perfect te zijn?"

De Zero-Error Horizon is die lijn. Het onthult dat zelfs de slimste AI's "blinde vlekken" hebben op verrassend eenvoudige taken, en het geeft ons een concrete, wiskundige manier om precies te weten hoe ver we ze kunnen vertrouwen voordat ze fouten gaan maken.

Technisch Overzicht: Zero-Error Horizons in Betrouwbare LLM's

1. Probleemstelling

Large Language Models (LLM's) worden steeds vaker ingezet in veiligheidskritische domeinen zoals de gezondheidszorg, financiële sector en nucleaire systemen. Ondanks hun schijnbare redeneervermogen vertonen LLM's "gaten" in hun competentie, waardoor ze onverklaarbare fouten maken bij eenvoudige taken (bijv. het berekenen van $127 \times 82$ , het bepalen van de pariteit van een korte binaire string, of het controleren van evenwichtige haakjes).

Huidige evaluatiemetrieken, primair nauwkeurigheid (accuracy), zijn onvoldoende voor veiligheidskritische toepassingen om verschillende redenen:

Schaalwillekeur: Nauwkeurigheid hangt af van de keuze van de evaluator voor het bereik van de problemen (bijv. testen van vermenigvuldiging tot $50 \times 50$ versus $99 \times 99$ ). Een model kan zeer nauwkeurig lijken binnen een beperkt bereik, terwijl het catastrofaal faalt op iets grotere inputs.
Gebrek aan Veiligheidsgaranties: Een hoge gemiddelde nauwkeurigheid sluit het bestaan van "gaten" niet uit waar het model faalt. In veiligheidskritische contexten kan één enkele fout fataal zijn.
Verzadiging: Benchmarks met een vaste omvang verzadigen uiteindelijk naarmate modellen verbeteren, waardoor ze het vermogen verliezen om state-of-the-art prestaties te differentiëren.

Het artikel betoogt dat er behoefte is aan een metriek die een gegarandeerde veilige grens definieert in plaats van een gemiddelde prestatiescore.

2. Methodologie: Zero-Error Horizon (ZEH)

De auteurs stellen Zero-Error Horizon (ZEH) voor, een metriek die de maximale probleemgrootte $n$ vertegenwoordigt waarvoor een model alle instanties zonder fouten kan oplossen onder deterministische greedy decoding.

Definitie

Gegeven een vast model, type probleem en prompt:

Laat $B_n$ de verzameling problemen van grootte $n$ zijn.
Laat $T_n = \bigcup_{i=1}^n B_i$ de verzameling van alle problemen van grootte maximaal $n$ zijn.
Laat $C$ de verzameling zijn van problemen die het model correct beantwoordt.
ZEH wordt gedefinieerd als:
$\text{ZEH} = \max \{ n \mid T_n \subseteq C \}$

In essentie is een model met $\text{ZEH} = k$ in staat om elke instantie van grootte $1$ tot $k$ correct op te lossen, maar maakt het ten minste één fout op een instantie van grootte $k+1$ . De specifieke instantie van grootte $k+1$ waar het model voor het eerst faalt, wordt een ZEH Limiter genoemd.

Evaluatietaken

De auteurs evalueren ZEH op vier taken:

Vermenigvuldiging: Gehele getalvermenigvuldiging ( $a \times b$ ), waarbij de grootte wordt gedefinieerd als $\max(a, b)$ .
Pariteit: Het bepalen van de pariteit (even/oneven aantal enen) van binaire strings, waarbij de grootte de stringlengte is.
Evenwichtige Haakjes: Bepalen of een string van haakjes in evenwicht is, waarbij de grootte de stringlenging is.
Grafiekkleuring: Het vinden van het chromosale getal van eenvoudige ongerichte grafieken, waarbij de grootte het aantal knopen is.

Optimalisatie voor Efficiëntie

Het evalueren van ZEH vereist exhaustieve verificatie, wat computationeel duur is. Het artikel stelt vier versnellings-technieken voor:

Teacher Forcing: In plaats van autoregressieve decoding, krijgt het model de volledere sequentie gevoerd (bijv. $28 \times 43 = 1204$ ) met een causale maskering om token-voor-token correctheid parallel te verifiëren.
Look-Ahead (Batching): Instanties van verschillende groottes worden samengevoegd in batches voor parallelle verwerking om GPU-benutting te maximalen, in plaats van per grootte te verwerken.
Prompt Prefilling: Gemeenschappelijke prompt-prefixes worden eenmalig verwerkt, en hun Key-Value (KV) caches worden gedeeld over alle instanties.
FlashTree: Een boomstructuur-aanpak met behulp van een Trie om KV-caches voor gedeelde prefixes tussen instanties te delen (bijv. $1 \times 1$ , $1 \times 2$ , $1 \times 3$ ). Dit maakt gebruik van een online softmax-implementatie (geïnspireerd door FlashAttention) om de $O(N^2)$ attention mask bottleneck te vermijden, wat een tot 10x versnelling oplevert ten opzichte van naïeve autoregressie.

3. Belangrijkste Resultaten

3.1 Verrassende Falen in State-of-the-Art Modellen

De evaluatie van GPT-5.2 (een hypothetisch model in de context van dit artikel, gedateerd januari 2026) onthult significante capaciteitsverschillen:

Pariteit: ZEH = 4. Het model faalt op de 5-karakter string 11000.
Evenwichtige Haakjes: ZEH = 10. Het model faalt op de 11-karakter string ((((()))))).
Vermenigvuldiging: ZEH = 126. Het model faalt op $127 \times 82$ .
Deze resultaten demonstreren dat zelfs modellen die complexe code-generatie kunnen uitvoeren (bijv. vloeistofdynamica), falen op elementaire rekenkundige en logische taken.

3.2 Analyse van de Qwen2.5 Familie

De auteurs analyseerden de Qwen2.5-serie (0.5B tot 72B) op vermenigvuldiging:

Correlatie met Nauwkeurigheid: Hoewel ZEH en nauwkeurigheid over het algemeen toenemen met de modelgrootte, correleren ze niet één-op-één. Bijvoorbeeld, de nauwkeurigheid voor het 72B-model op $99 \times 99$ is 98,6%, maar de ZEH is slechts 42.
Memorizatie versus Algoritmisch Redeneren:
- Kleine Modellen (0.5B - 3B): Tonen een hoge correlatie tussen de frequentie in de trainingsdata (C4 corpus) en nauwkeurigheid, wat wijst op een afhankelijkheid van memorizatie. Hun ZEH is laag en stabiel omdat memorizatie stochastisch is; willekeurige "gaten" in de trainingsdata voorkomen een continue foutvrije horizon.
- Grote Modellen (14B - 72B): Tonen een afnemende correlatie met trainingsfrequentie, wat duidt op een verschuiving naar algoritmisch redeneren.
Gestructureerde Fouten: Naarmate modellen groter worden, worden fouten meer "gestructureerd". Voor grote modellen is het verschil tussen het voorspelde en het correcte antwoord vaak een veelvoud van 10 (bijv. 1006 voorspellen in plaats van 986). Dit suggereert dat het model het vermenigvuldigingsalgoritme begrijpt (bijv. het juiste eenhedengetal krijgen) maar uitvoeringsfouten maakt (bijv. fouten in de overdracht/carry), in plaats van willekeurige hallucinaties.
Carry-gevoeligheid: Logistische regressieanalyse laat zien dat grotere modellen gevoeliger zijn voor "carry"-operaties (waar de cijfervermenigvuldiging $\ge 10$ is) dan kleinere modellen. Dit contra-intuïtieve resultaat ondersteunt de hypothese dat grotere modellen proberen de rekenkundige regels uit te voeren in plaats van de antwoorden te herinneren; hierdoor zijn ze vatbaar voor de computationele moeilijkheid van de regels die ze proberen uit te voeren.

3.3 Prompt Stabiliteit

ZEH is relatief robuust tegen variaties in de prompt. Voor Qwen2.5-modellen was de standaarddeviatie van ZEH over verschillende prompt-formuleringen ongeveer 3. Voor veiligheidskritische toepassingen raden de auteurs echter aan om de laagste geobserveerde ZEH over meerdere prompts te gebruiken.

4. Betekenis en Claims

Het artikel beweert dat ZEH duidelijke voordelen biedt ten opzien van traditionele nauwkeurigheidsmetrieken voor betrouwbare LLM's:

Veiligheidsgaranties en Waarschuwingssignalen: ZEH biedt een duidelijke grens: problemen binnen de horizon zijn "veilig" (gegarandeerd correct), terwijl problemen daarbuiten "gevaarlijk" zijn. Dit is cruciaal voor veiligheidskritische domeinen waar gemiddelde prestaties onvoldoende zijn.
Concreet Bewijs (ZEH Limiters): In tegen tegenstelling tot abstracte nauwkeurigheidsscores, levert ZEH specifieke, reproduceerbare voorbeelden (limiters) waar het model faalt. Dit vergemakkelijkt debugging en biedt onweerlegbaar bewijs van capaciteitsverschillen.
Objectieve Metriek: ZEH elimineert de "schaalwillekeur" van nauwkeurigheid. De horizon wordt bepaald door de intrinsieke capaciteiten van het model, niet door de keuze van een evaluator voor het testbereik.
Inzicht in Emergentie: ZEH is een gevoelige indicator voor de transitie van memorizatie naar algoritmisch redeneren. De groei van ZEH correleert met het vermogen van het model om regels betrouwbaar uit te voeren, zelfs als de algehele nauwkeurigheid een plateau bereikt.
Toekomstbestendigheid: In tegen tegenstelling tot vaste benchmarks die verzadigen, is ZEH open einde en blijft het dienen als een metriek naarmate modellen verbeteren.

De auteurs concluderen dat hoewel ZEH computationele kosten met zich meebrengt, de voorgestelde optimalisatietechnieken (FlashTree, etc.) het haalbaar maken. Ze benadrukken dat ZEH als een aanvullende metriek voor nauwkeurigheid moet worden gebruikt, met name voor het verifiëren van betrouwbaarheid in scenario's met hoge inzet.