Technische Samenvatting: Kunnen we de logica van LLM's vertrouwen? Onzekerheid, coherentie en robuustheid kwantificeren via een graafgebaseerd framework

1. Probleemstelling

Large Language Models (LLM's) produceren vaak plausibele maar ongetrouwe redeneringen, ook wel "hallucinaties" genoemd, die met veel zelfvertrouwen onjuist zijn. Huidige decoderingstrategieën, met name Self-Consistency (SC), vertrouwen op meerderheidsstemmen over de uiteindelijke antwoorden om de nauwkeurigheid te verbeteren. SC evalueert echter alleen de overeenstemming van de uiteindelijke output, en negeert de logische geldigheid van tussenliggende stappen. Dit maakt "gelukkige gissingen" mogelijk — waarbij gebrekkige, onlogische of tegenstrijdige redeneerpaden toevallig convergeren op het juiste antwoord — wat de nauwkeurigheidsmetingen kunstmatig kan opblazen. In missiekritieke domeinen (bijv. geneeskunde, recht, financiën) vormt dit gebrek aan redeneertrouw een aanzienlijk risico.

Het artikel identificeert drie kernuitdagingen:

1. Onzekerheidskwantificatie (UQ): Hoe kwantificeer je betrouwbaar de onzekerheid in LLM-redeneerprocessen op een manier die structurele instorting en zelfverzekerde hallucinaties vastlegt, in plaats van alleen token-niveau waarschijnlijkheid.
2. Getrouwe Decodering: Of semantisch en structureel bewustzijn ongetrouwe "gelukkige gissingen" kan filteren die naïeve meerderheidsstemmen mist.
3. Robuustheid: Hoe robuust is de redeneertopologie onder adversariële omstandigheden, specifiek wanneer dominante redeneerpaden worden verwijderd.

2. Methodologie: GRAPHEVAL

De auteurs stellen GRAPHEVAL voor, een graafgebaseerd redeneerframework dat ruwe tekstgeneraties transformeert naar analyseerbare topologische structuren om de getrouwheid van redeneringen holistisch te evalueren. De pijplijn bestaat uit vijf stadia:

A. Causale Feit-decompositie en DAG-constructie

• Generatie: Een Generator LLM ($G_{LLM}$) produceert $N$ Chain-of-Thought (CoT) sporen bij een hoge temperatuur om redeneerdiversiteit te vangen.
• Annotatie: Elke stap wordt geannoteerd met directe causale afhankelijkheden (bijv. [depends_on: 0, 1]).
• Decompositie: Een afzonderlijke Decomposer LLM ($D_{LLM}$), werkend bij een deterministische temperatuur, breekt grove stappen af in granulaire Subject-Verb-Object atomaire feiten, terwijl de oorspronkelijke causale afhankelijkheden behouden blijven.
• Graafrepresentatie: De output wordt in kaart gebracht naar een Directed Acyclic Graph (DAG) $G = (V, E)$, waarbij knopen atomaire feiten zijn en randen causale afhankelijkheden vertegenwoordigen.

B. Semantisch-Structurele Afstandsberekening (SS-GED)

Om de consistentie over het redeneerlandschap te meten, berekent het framework paarwijze afstanden tussen alle DAG's met behulp van een uitgebreide Graph Edit Distance (GED).

• Optimalisatie: In plaats van een NP-harde A*-zoekopdracht, gebruiken de auteurs het Hongaarse algoritme ($O(m^3)$) voor efficiënte bipartiete matching.
• Kostfunctie: Substitutiekosten zijn gebaseerd op de cosinusafstand tussen knoop-/rand-embeddings.
• Verbeteringen:
  • Eerlijke Normalisatie: Schaalt edit-kosten door de gemiddelde graafgrootte te gebruiken om variërende lengtes op te vangen.
  • Semantisch-Structurele Versmelting: Combineert structurele gelijkenis met de semantische gelijkenis van terminale knopen (conclusies). De uiteindelijke gelijkenissscore $S(G_i, G_j)$ is een gewogen mengeling van de terminale knoop-cosinusgelijkenis en een Radial Basis Function (RBF) transformatie van de genormaliseerde edit-afstand.

C. Graph Reasoning Coherence Score (GRCS)

GRCS is een nieuwe UQ-metriek gedefinieerd als het inverse van de gemiddelde paarwijze afstand over het redeneerlandschap:
$$\text{GRCS} = \frac{1}{1 + \mu(D(q))}$$
waarbij $D(q)$ de verzameling van paarwijze afstanden is. GRCS kwantificeert semantisch-structurele consensus. Het is ontworend om mode collapse (repetitieve, gebrekkige shortcuts) en zelfverzekerde hallucinaties (gefabriceerde feiten die leiden tot losgekoppelde conclusies) te detecteren, welke de gemiddelde paarwijze afstand vergroten.

D. Graph Self-Consistency (GSC)

GSC is een decoderingsstrategie die de medoïde CoT selecteert — het pad dat het meest centraal staat en ondersteund wordt binnen het semantisch-structurele graaflandschap — in plaats van het meest frequente eindantwoord.

• Selectiecriteria: De medoïde $z^*$ maximaliseert een score die Structurele Centraliteit (totale gelijkenis met andere grafen) combineert met Graph-level Consensus (fractie van andere grafen die semantisch gelijkaardige knopen bevatten, zwaar gewogen voor terminale knopen).
• Doel: Om nominale nauwkeurigheid in te ruilen voor redeneertrouw, waarbij ongetrouwe paden worden gefilterd die toevallig wel het juiste antwoord opleveren.

E. Adversarial Medoid Ablatie

Om de robuustheid te testen, gebruikt het framework een prompt-poisoning aanval die expliciet verbiedt dat het model het door GSC geselecteerde medoïde pad hergebruikt. Dit dwingt het model om alternatieve redeneerpaden te genereren, waardoor de auteurs kunnen meten of de nauwkeurigheid daalt of dat "gelukkige gissingen" verschijnen wanneer het primaire "belastende" pad wordt verwijderd.

3. Belangrijkste Bijdragen

1. GRCS Metriek: Een distributionele onzekerheidsmetriek gebaseerd op SS-GED die consistent een negatieve correlatie vertoont met redeneertrouw over verschillende modelmaten, en effectief verborgen onzekerheid in gebrekkige redeneerpaden vangt waar traditionele metrieken (dispersie, entropie, Topo-UQ) falen.
2. GSC Decoderingsstrategie: Een structurele decoderingsmethode die "gelukkige gissingen" isoleert. Empirische resultaten tonen aan dat het significant de ongetrouwe redenering vermindert in kleinere modellen (bijv. Llama 3.1 8B), terwijl het de nauwkeurigheid behoudt of verbetert in meer capabele modellen (bijv. DeepSeek R1).
3. Adversariële Robuustheidsbevindingen: De studie demonstreert dat het door GSC geselecteerde medoïde fungeert als een "belastend pad" (load-bearing path). Het dwingen van modellen weg van dit pad leidt vaak tot een afname van de redeneertrouw, zelfs als de nauwkeurigheid tijdelijk wordt behouden via gebrekkige shortcuts.

4. Experimentele Resultaten

Het framework werd geëvalueerd over vijf datasets (GSM8K, BoolQ, StrategyQA, MedQA, GPQA) en drie modellen (Llama 3.1 8B, Phi-4, DeepSeek R1).

• Onzekerheidskwantificatie: GRCS was de enige metriek die in 93% (14/15) van de configuraties een negatieve correlatie met getrouwheid vertoonde. Baselines zoals dispersie en entropie vertoonden vaak positieve of zwakke correlaties, waarbij ze repetitieve gebrekkige redeneringen aanzagen voor zelfvertrouwen.
• Decoderingsprestaties:
  • Kleine Modellen (Llama 3.1 8B): GSC veroorzaakte significante nauwkeurigheidsdalingen (bijv. -7,6% op GSM8K, -9,0% op MedQA) vergeleken met SC. Dit geeft aan dat de hoge nauwkeurigheid van SC werd opgeblazen door ongetrouwe "gelukkige gissingen", die GSC succesvol eruit filterde.
  • Capabele Modellen (DeepSeek R1): GSC behield of verbeterde de nauwkeurigheid licht over alle datasets, wat suggereert dat voor grotere modellen het structureel centrale pad nauwer aansluit bij het juiste antwoord.
• Audit van Discrepanties: In gevallen waar SC en GSC verschilden, waren de door GSC geselecteerde antwoorden significant waarschijnlijker getrouw (79,5% vs. 57,6% voor SC).
• Adversariële Ablatie: Wanneer het medoïde pad werd geablateerd, vertoonden kleinere modellen een sterke negatieve correlatie tussen nauwkeurigheidswinst en de daling in getrouwheid, wat het "gelukkige gissing"-fenomeen empirisch bevestigt. Grotere modellen vertoonden minder correlatie, maar vertoonden nog steeds een degradatie in getrouwheid wanneer de nauwkeurigheid werd behouden.

5. Betekenis en Claims

Het artikel betoogt dat de betrouwbaarheid van LLM's niet enkel beoordeeld kan worden op basis van antwoordovereenstemming. Door gesamplede CoT's als DAG's te modelleren, laten de auteurs zien dat de redeneerstructuur cruciale signalen van onzekerheid en robuustheid onthult die de consensus over het eindantwoord maskeren.

• Paradigmaverschuiving: Het werk motiveert een verschuiving van het evalueren van de frequentie van de eindoutput naar analyse op redeneerniveau, met name voor missiekritieke settings waar fouten catastrofale gevolgen hebben.
• Rol van Medoïdes: De door GSC geselecteerde medoïde wordt geïdentificeerd, niet slechts als een statistisch gemiddelde, maar als een "belastende" structuur die essentieel is voor betrouwbare deductie.
• Beperkingen: De auteurs erkennen dat GRAPHEVAL een hogere computationele complexiteit ($O(N^2 \cdot m^3)$) heeft dan SC en dat de statistische kracht afneemt bij zeer grote, capabele modellen (zoals DeepSeek R1) die bredere, hoog-entropische redeneertopologieën vertonen. Het framework is momenteel geoptimaliseerd voor benchmarks met een korte horizon (3–6 stappen), en de schaalbaarheid naar taken met een lange context en hoge compositie blijft een open vraag.

Samenvattend biedt GRAPHEVAL een rigoureus, graafgebaseerd mechanisme om de getrouwheid van redeneringen te kwantificeren, en biedt het een betrouwbaarder alternatief voor standaard decoderingsstrategieën om de betrouwbare inzet van LLM's te waarborgen.