ErrorMap and ErrorAtlas: Charting the Failure Landscape of Large Language Models

Probleemstelling

Huidige benchmarks voor Large Language Models (LLM's) bieden weliswaar een indicatie van wanneer modellen falen (via scores), maar ze geven geen inzicht in waarom ze falen. Een verkeerd antwoord op een redeneringsdataset kan bijvoorbeeld voortkomen uit opmaakfouten, rekenfouten, datasetruis of een misinterpretatie van de vraag, in plaats van een gebrek aan redeneervermogen. Zonder deze oorzaken te ontrafelen, blijven benchmarks onvolledig en kunnen ze ontwikkelaars niet betrouwbaar leiden bij het verbeteren van modellen. Bestaande diagnostische methoden richten zich vaak op de uitdagingen in de input (bijv. "het model faalt bij differentiaalvergelijkingen") in plaats van de oorzaken van de fout in het antwoord te analyseren.

Methodologie: ErrorMap

De auteurs introduceren ErrorMap, een methode om de bronnen van LLM-fouten systematisch in kaart te brengen. Het proces is onbeheerd (unsupervised) en bestaat uit twee hoofdfasen, die werken met elke taal en elk domein zolang er tekstuele output is:

1. Fase 1: Per-Instance Foutanalyse (Per-Instance Error Analysis)

   • Voor elke verkeerde voorspelling wordt een "analist-LLM" ingezet om een gedetailleerde, gestructureerde analyse uit te voeren.
   • De analist krijgt de originele input, het verkeerde antwoord, en indien beschikbaar, een referentieantwoord en meerdere Informative Correct Predictions (ICP's) (correcte antwoorden van andere modellen in de benchmark).
   • De taak is om de oplossing stap voor stap te ontleden, criteria te definiëren die nodig zijn voor een correct antwoord, en te evalueren welke criteria in het verkeerde antwoord ontbreken of slecht zijn uitgevoerd.
   • Het doel is het identificeren van de eerste grote fout die de redenering heeft doen mislukken, waarna een samenvatting en een korte, informatieve label (titel) wordt gegenereerd.

2. Fase 2: Opbouw van de Taxonomiehiërarchie (Taxonomy Hierarchy Building)

   • De gegenereerde foutlabels worden georganiseerd in een meerlagige taxonomie via een iteratief proces:
     • Categorisatie (2.a): Een LLM groepeert unieke foutlabels in bredere categorieën en genereert beschrijvingen. Dit proces doorloopt iteraties (generatie, iteratieve verfijning, finale review) om overlappingen te minimaliseren en consistentie te waarborgen.
     • Toewijzing (2.b): Alle individuele fouten worden toegewezen aan de meest geschikte categorie op basis van hun label.
   • Het resultaat is een gestructureerde boom van fouttypes, van hoog niveau (bijv. "Rekenfout") tot specifieke subtypes (bijv. "Foutieve toepassing van een formule").

Key Contributions

1. ErrorMap: Een flexibele, LLM-gebaseerde techniek om een specifieke taxonomie van fouten te genereren voor elke set modellen of datasets. Het verschuift de focus van "waar modellen slagen" naar "waarom ze falen".
2. ErrorAtlas: Een statische, uitgebreide taxonomie van huidige LLM-fouten, gegenereerd met behulp van ErrorMap. Deze is gebaseerd op 35 datasets en 83 modellen. Het dient als een gemeenschappelijke standaard voor vergelijkingen en herhaalbaarheid.
3. Gedetailleerde Analyse: Het paper onthult dat veel fouten die vaak worden toegeschreven aan "redeneringsproblemen", in werkelijkheid technische fouten zijn (zoals rekenfouten of het missen van vereiste details).
4. Open Source: De auteurs publiceren de code, de taxonomie en de bijbehorende data.

Resultaten en Bevindingen

Door ErrorMap toe te passen op 83 modellen en 35 datasets (waaronder MMLU-Pro, HELM, HumanEval, MedHELM), kwamen de auteurs tot de volgende inzichten:

• Onderbelichte Fouttypes: Er zijn veelvoorkomende fouten die in de huidige literatuur onderbelicht zijn. De meest voorkomende categorieën in ErrorAtlas zijn:
  • Missing Required Element (15,56%): Het weglaten van verplichte secties, velden of specifieke details die in de instructie werden gevraagd.
  • Specification Misinterpretation (11,5%): Het verkeerd interpreteren van taakeisen, outputtypes of context.
  • Logical Reasoning Error (9,09%) en Computation Error (8,45%).
• Model-specifieke Patronen: Verschillende modelfamilies vertonen unieke foutpatronen. Bijvoorbeeld, Gemini 2.0 Flash Lite maakt vaker fouten door onvolledige content, terwijl Mixtral vaker rekenfouten maakt.
• Discrepantie tussen Benchmark en Vaardigheid: In uitdagende benchmarks zoals MMLU-Pro en GPQA, blijkt dat ongeveer 44% van de fouten geen zwakke redenering betreft, maar eerder technische uitdagingen zoals rekenfouten, het missen van elementen of telfouten. Dit suggereert dat benchmarks soms meer meten op uitvoering dan op het beoogde cognitieve vermogen.
• Validatie: De taxonomie heeft een dekking (coverage) van 95,2% en een nauwkeurigheid (accuracy) van 92% bij het toewijzen van fouten aan de juiste categorieën.

Significantie en Toepassingen

ErrorMap en ErrorAtlas bieden een diepere evaluatielaag die wereldwijd toepasbaar is:

• Model Debugging: Ontwikkelaars kunnen versies van modellen vergelijken (bijv. Gemini 1.5 Flash vs. Pro) om te zien of specifieke verbeteringen (zoals minder rekenfouten) daadwerkelijk zijn doorgevoerd.
• Benchmark Curatie: Het helpt bij het valideren van datasets en het identificeren van onbedoelde foutpatronen in benchmarks zelf.
• Model Selectie: Gebruikers kunnen modellen selecteren op basis van hun specifieke zwaktes in een bepaald domein (bijv. een model kiezen dat minder hallucinaties maakt in medische toepassingen, zelfs als de algemene score lager is).
• Verantwoord Ontwikkeling: Door de "fail landscape" in kaart te brengen, kunnen ontwikkelaars gerichter werken aan de beperkingen van modellen, wat leidt tot robuustere en betrouwbaardere AI-systemen.

Kortom, dit werk verandert de manier waarop we LLM's evalueren: van een simpele score naar een gedetailleerd diagnostisch instrument dat de onderliggende oorzaken van falen blootlegt.