Technische Samenvatting: ProbeLLM – Automatisering van Principiële Diagnose van LLM-fouten

1. Probleemstelling

Naarmate Large Language Models (LLM's) snel evolueren, schieten statische evaluatiebenchmarks (bijv. MMLU, TruthfulQA) tekort; ze slagen er vaak niet in om opkomende zwakheden of verschuivende foutdistributies bloot te leggen. Bestaande geautomatiseerde evaluatiemethoden kampen met drie primaire beperkingen:

1. Gebrek aan Benchmark-agnosticisme: Veel pipelines vereisen handmatige ontwerp van dataconstructieprocedures die specifiek zijn afgestemd op bepaalde domeinen.
2. Ongeprincipiële Exploratie: Testgeneratie vertrouwt vaak op heuristieken zonder expliciete budgetallocatie, wat leidt tot redundante tests of gemiste foutregio's.
3. Casus-centrische Output: De meeste benaderingen accumuleren geïsoleerde foutgevallen in plaats van foutmodi te identificeren—terugkerende, gestructureerde patronen die verklaren hoe en waarom modellen falen over gerelateerde inputs heen. Bovendien vertrouwen geautomatiseerde pipelines frequent op niet-gevalideerde door modellen gegenereerde testgevallen, wat ruis introduceert waarbij generatie-artefacten worden aangezien voor werkelijke modelbeperkingen.

De kernuitdaging is het ontwikkelen van een geautomatiseerd proberingsframework dat opereert zonder vaste benchmarks, exploratiebudgetten efficiënt beheert en ontdekking verheft van individuele fouten naar interpreteerbare, gestructureerde foutmodi die gegrond zijn in verifieerbaar bewijs.

2. Methodologie: ProbeLLM Framework

ProbeLLM is een benchmark-agnostisch geautomatiseerd proberingsframework dat de ontdekking van fouten formuleert als een Hiërarchische Monte Carlo Tree Search (MCTS). Het integreert tool-augmented generatie, verifieerbare testen en gestructureerde modus-synthese.

2.1 Hiërarchische MCTS-formulering

Het framework maakt gebruik van een twee-niveau hiërarchie om een balans te vinden tussen globale exploratie en lokale verfijning:

• Macro Regime (Dekking): Streeft naar diversificatie van onderwerpen en het blootleggen van nieuwe foutregio's. Het stuurt de generatie naar onderbelichte onderwerpen door bestaande fout-embeddings te clusteren en de generator aan te sporen om inputs voor te stellen die verschillend zijn van de huidige centroids.
• Micro Regime (Verfijning): Richt zich op lokale exploratie rond een "seed" fout. Het genereert gerichte perturbaties (bijv. substitutie van entiteiten of attributen) om bewijslast binnen een vermoedelijke foutregio te verdichten, wat helpt bij het afbakenen van coherente foutpatronen.

De zoektocht maakt gebruik van een Upper Confidence Bound (UCB) strategie om knopen te selecteren voor expansie, waarbij een balans wordt gevonden tussen de exploitatie van knopen met een hoog foutpercentage en de exploratie van minder bezochte knopen.

2.2 Tool-Augmented Generatie en Verificatie

Om betrouwbaarheid te garanderen en spookfouten te verminderen, beperkt ProbeLLM de probering tot testgevallen met verifieerbare grondwaarheid-antwoorden.

• Generator ($G_s$): Een LLM uitgerust met tools (bijv. Python-executie, Web Search) construeert testgevallen.
  • Macro Generator: Gebruikt clustering om hiaten in onderwerpen te identificeren en genereert diverse vragen.
  • Micro Generator: Voert gecontroleerde perturbaties uit op bestaande seeds om robuustheid binnen een specifieke semantische buurt te testen.
• Verificatie: De output van het doelmodel wordt geverifieerd tegen een grondwaarheid-antwoord met behulp van een LLM-gebaseerde rechter (LLM-as-a-Judge) of deterministische tools (bijv. Python voor code/wiskunde). Alleen gevallen waar de verifieerder de output afwijst, worden als fouten geregistreerd.

2.3 Synthese van Foutmodi

Individuele fouten worden geconsolideerd in interpreteerbare foutmodi via een driestaps-proces:

1. Foutbewuste Embeddings: In tegenstelling tot standaard semantische embeddings, incorporeren deze de output van het model en de specifieke foutbeschrijving (de discrepantie tussen voorspelling en grondwaarheid). Dit zorgt ervoor dat nabijheid in de embedding-ruimte reflecteert op gedeelde foutmechanismen in plaats van enkel op onderwerp-gelijkenis.
2. Clustering: Fout-embeddings worden geclusterd met behulp van HDBSCAN om dichte regio's van terugkerende fouten te identificeren.
3. Grensbewuste Inductie: Voor elk cluster selecteert het systeem:
   • Centrale Fouten: Representatief voor het kernfoutpatroon.
   • Randfouten: Perifere fouten gekoppeld aan hun dichtstbijzijnde geverifieerde niet-fouten (contrafactuelen).
     Een LLM wordt vervolgens geprompt met deze centrale en contrastieve paren om een beknopte, natuurlijke taalbeschrijving van de foutmodus te induceren, waarbij de beslissingsgrens waar het model faalt, expliciet wordt gedefinieerd.

3. Belangrijkste Bijdragen

1. ProbeLLM Framework: Een benchmark-agnostische geautomatiseerde proberingsbenadering voor het ontdekken en karakteriseren van LLM-foutmodi.
2. Principiële Ontdekkingsmethodologie:
   • Formuleert probering als een hiërarchische MCTS om een balans te vinden tussen globale exploratie (Macro) en lokale verfijning (Micro).
   • Grond de identificatie van fouten in verifieerbare testgevallen met behulp van tool-augmented generatie.
   • Induceert interpreteerbare foutmodi via foutbewuste embeddings en grensbewuste inductie.
3. Empirische Validatie: Uitgebreide experimenten over 12 doelmodellen (zowel open-weight als propriëtair) en vijf diverse benchmarks (MMLU, SuperGLUE, MBPP, HellaSwag, TruthfulQA).

4. Experimentele Resultaten

• Foutontdekking: ProbeLLM legt consistent bredere en fijnmaziger foutlandschappen bloot dan statische benchmarks en eerdere geautomatiseerde methoden (bijv. AutoDetect, PAIR). Het bereikt hoge foutpercentages over alle geteste datasets, wat wijst op de ontdekking van intrinsieke modelzwakheden.
• Moduskwaliteit: Vergeleken met baselines produceert ProbeLLM foutmodi met aanzienlijk lagere ruispercentages en meer gebalanceerde clustergroottes (lagere standaarddeviatie), wat duidt op schonere ontdekkingen en beter gestructureerde patronen.
• Nieuwigheid: Cluster-overlap analyse laat zien dat ProbeLLM een substantiële set foutmodi ontdekt die niet aanwezig zijn in bestaande statische benchmarks, terwijl het nog steeds de meeste door hen geïdentificeerde modi dekt.
• Efficiëntie: Het framework behoudt lage computationele kosten (gemiddeld tokengebruik < 6K per dataset, kosten < $0,10 per hoog-fout geval) terwijl het hoge ontdekkingspercentages bereikt.
• Mitigatie: Foutgerichte training met door ProbeLLM ontdekte data verbetert de prestaties van het model op foutgevoelige evaluatiesets zonder de algemene benchmarkprestaties te verslechteren.
• Evolutieanalyse: Het framework slaagt erin de evolutie van foutmodi over modelgeneraties heen te traceren (bijv. de Mistral- en GPT-families), waarbij een verschuiving wordt onthuld van diffuse foutdistributies naar minder, compactere clusters, en een terugtrekking van zwakheden naar zeer gespecialiseerde, niche-domeinen.

5. Betekenis en Impact

Het artikel betoogt dat het louter automatiseren van testgeneratie onvoldoende is voor betrouwbare LLM-evaluatie. ProbeLLM verschuift het paradigma van casus-centrische evaluatie naar principiële ontdekking van zwakheden. Door geïsoleerde fouten te verheffen tot gestructureerde, interpreteerbare foutmodi, biedt het framework een systematisch mechanisme voor het debuggen en monitoren van evoluerende modellen.

De auteurs benadrukken het dual-use karakter van deze capaciteit: hoewel het de betrouwbaarheid en transparantie voor veilige implementatie verbetert, zou dezelfde geautomatiseerde probering en tool-ondersteunde generatie misbruikt kunnen worden om exploiteerbare gedragingen te identificeren. Daarom adviseert het artikel het gebruik te beperken tot geautoriseerde evaluatiesettings, het niet vrij te geven van prompts met een hoge impact op exploitatie, en gerichte menselijke review toe te passen om de correctheid te valideren.

Uiteindelijk demonstreert ProbeLLM dat dynamische, modus-centrische evaluatie noodzakelijk is om de verschuivende zwakheden van snel evoluerende LLM's betrouwbaar te karakteriseren, waarmee de beperkingen van statische momentopnames worden overstegen.