Technische Samenvatting: LLM's Vertonen Geen Tekenen van Geïndividualiseerde Metacognitie

Probleemstelling

Huidige strategieën voor evaluatie en implementatie van AI—zoals confidence-gewogen routing, selectieve abstentie en ensemble-gewichting—rusten op de aanname dat de door een model uitgedrukte zekerheid informatief is over zijn specifieke vermogen op een bepaald item. Dit veronderstelt functionele metacognitie: het vermogen van een model om zijn eigen capaciteiten te beoordelen zonder deze noodzakelijkerwijs te oefenen. Waar aggregate kalibratie (de afstemming van uitgedrukte zekerheid op de algehele nauwkeurigheid) goed bestudeerd is, blijft de onderliggende structuur van opgeroepen zekerheid over verschillende modellen heen slecht begrepen. Specifiek is het onduidelijk of zekerheidssignalen privé zijn voor elk model (geïndividualiseerd) of dat ze slechts een gedeeld begrip van taakmoeilijkheid weerspiegelen.

De auteurs definiëren geïndividualiseerde metacognitie als het vermogen van een model om zijn eigen capaciteiten op item-niveau te beoordelen op een manier die specifiek is voor dat model, verder dan wat wordt verklaard door een gedeeld signaal. Het onderzoek onderzoekt of geavanceerde Large Language Models (LLM's) dit vermogen bezitten of dat hun zekerheidsbeoordelingen slechts een weerspiegeling zijn van gedeelde schattingen van moeilijkheid en vertekeningen op basis van basispercentages.

Methodologie

De studie evalueert 20 geavanceerde LLM's (van aanbieders waaronder Anthropic, OpenAI, Google, DeepSeek, Meta, Mistral en Qwen) over zes diverse benchmarks: SQuAD (aangepast), MMLU-Pro, LegalBench, MathBench, Omni-MATH en SciCode. Deze benchmarks omvatten feitelijke recall, juridisch redeneren, wiskunde en wetenschappelijke codegeneratie.

Het experimentele ontwerp omvat:

1. Binaire Zekerheidsopvraging: Modellen wordt gevraagd een binaire (ja/nee) zekerheidsbeoordeling te geven over de vraag of ze een taak kunnen oplossen, hetzij prospectief (voordat ze het proberen) of contrafactueel (na het slagen, waarbij wordt beoordeeld of ze het zonder context hadden kunnen doen).
2. Tetrahore Factoranalyse: Om met het binaire karakter van de data om te gaan, gebruiken de auteurs tetrahore correlatiematrixen om zekerheidsbeoordelingen te ontleden. Deze methode modelleert binaire antwoorden als gethresholdde continue signalen, waardoor het extraheren van latente correlatiestructuren en eigenwaarden mogelijk is om de intrinsieke dimensionaliteit van zekerheidssignalen te bepalen.
3. Paarwijze Kalibratie: De auteurs meten de Kendall's $\tau$-b correlatie tussen het verschil in zekerheid en het verschil in prestaties over modelparen. Dit test of een model dat zekerder is dan een ander, op specifieke items daadwerkelijk beter presteert.
4. Controle voor Basispercentages: Om onderscheid te maken tussen echte metacognitie en artefacten van verschillende "ja-rates" (basispercentages), conditioneert de analyse op verschillen in prestatie-basispercentages en vergelijkt de resultaten met null-verdelingen waarbij itemidentiteiten worden gepermuteerd.
5. Analyse van Ongebruikte Informatie: Voor representatieve modellen trainen de auteurs een triviale logistische regressie-classificator op oppervlakkige kenmerken van de redeneringstekst van het model (de chain-of-thought gegenereerd voor de zekerheidsbeoordeling) om correctheid te voorspellen. Dit test of het model informatie genereert die het niet betrouwbaar benut in zijn uiteindelijke binaire zekerheidsoutput.

Belangrijkste Bevindingen

1. Zekerheid Reduceert tot een Gedeelde Moeilijkheidsas

Op benchmarks voor feitelijke recall en informatieretrieval (SQuAD, MMLU-Pro, LegalBench) is de cross-model zekerheidsmatrix ongeveer rang-één. Een enkele dominante factor vangt het grootste deel van de latente variantie.

• Modellen zijn grotendeels het eens over welke items moeilijk zijn.
• Verschillen tussen modellen zijn primair te wijten aan hun beslissingsdrempels langs deze gedeelde moeilijkheidsas, niet aan distincte, geïndividualiseerde zelfkennis.
• De factorladingen volgen een parabolisch verband met responsdrempels, wat aangeeft dat modellen met extreme basispercentages (zeer hoge of zeer lage "ja"-percentages) minder discriminerende informatie bijdragen.

2. Lage Correlatie tussen Zekerheids- en Prestatieassen

Hoewel zowel prestaties als zekerheid laag-rang zijn (ongeveer rang-één), zijn hun primaire assen niet uitgelijnd op omstreden items.

• De correlatie tussen de latente zekerheidsas en de latente prestatieas is hoog alleen op items waar alle modellen het eens zijn (triviale vloer- of plafonditems).
• Op items met inter-model onenigheid (de "omstreden" subset) daalt de correlatie aanzienlijk (bijvoorbeeld van $r=0,591$ naar $r=0,230$ op SQuAD).
• Dit suggereert dat zekerheidssignalen oppervlakkige cues volgen (lengte, vocabulaire) in plaats van de latente moeilijkheid die de daadwerkelijke prestatie bepaalt.

3. Paarwijze Kalibratie is Statistisch Niet Significant zonder Verschillen in Basispercentages

De verdeling van paarwijze kalibratie ($\tau$) tussen modellen is nauwelijks hoger dan de empirische null-verdeling.

• Bij controle voor verschillen in prestatie-basispercentages (het vergelijken van modellen met vergelijkbaar vermogen) verdwijnt het paarwijze kalibratiesignaal.
• Het kleine, statistisch significante signaal dat in aggregate wordt waargenomen, wordt bijna uitsluitend gedreven door verschillen in basispercentages (bijvoorbeeld een model dat weigert te antwoorden versus een model dat alles beantwoordt), niet door geïndividualiseerde zelfbeoordeling.
• Cruciaal is dat de zekerheid van een model geen betere voorspeller is van zijn eigen relatieve prestatie dan van de prestatie van een ander model.

4. De "Redenering"-Uitzondering is een Confound

Benchmarks voor wiskundig redeneren (MathBench, Omni-MATH) leken aanvankelijk een hogere geïndividualiseerde kalibratie te vertonen. Verdere stratificatie toonde echter aan dat dit een confound was:

• Het signaal was volledig geconcentreerd in paren bestaande uit één Redenering-getraind model en één Niet-Redenerend model.
• Redenering-getrainde modellen lossen het probleem vaak inline op tijdens het proces van zekerheidsopvraging (ze gebruiken hun chain-of-thought om het antwoord te berekenen voordat ze de zekerheid beoordelen).
• Wanneer beide modellen in een paar in staat zijn tot inline-oplossing, draagt het zekerheidsverschil geen statistisch significant signaal.
• Dit geeft aan dat het signaal voortkomt uit symbolische berekening (het oplossen van het probleem) in plaats van sub-symbolische metacognitie (introspectie over vermogen zonder op te lossen).

5. Modellen Genereren Ongebruikte Informatie

Een triviale logistische regressie-classificator getraind op oppervlakkige kenmerken van de eigen redeneringstekst van het model voor de zekerheidsbeoordeling (bijvoorbeeld verzachtende woorden, zelfcorrectiemerkers, lengte) verslaat of evenaart de eigen binaire zekerheidsbeoordeling van het model op drie van de zes benchmarks.

• Dit toont aan dat de informatie die nodig is voor nauwkeurige zelfbeoordeling aanwezig is in de generatietrace van het model, maar niet betrouwbaar wordt benut in de uiteindelijke binaire output.

Betekenis en Claims

De paper concludeert dat er geen bewijs is voor significante geïndividualiseerde metacognitie in enig getest domein onder binaire probes.

• Gedeeld Signaal: Variatie in zekerheid over geavanceerde modellen reduceert grotendeels tot een gedeelde schattingsas van moeilijkheid met model-specifieke drempels.
• Beleid versus Vermogen: De uitdrukking van zekerheid lijkt een model-niveau beleid te zijn dat kan worden hervormd door interventies (zoals Reinforcement Learning from Verifiable Rewards), in plaats van een emergente sub-symbolische capaciteit voor zelfmonitoring.
• Implicaties voor Routing: De aanname dat de uitgedrukte zekerheid van een model informatief is over zijn specifieke vermogen ten opzichte van andere modellen, is grotendeels ongegrond. Zekerheid-gewogen routingstrategieën die op deze aanname rusten, kunnen suboptimaal zijn, aangezien de zekerheid van een model vaak niet voorspellender is voor zijn eigen succes dan een generieke populatieconsensus.
• Redenerende Modellen: De ogenschijnlijke metacognitieve capaciteiten van redenering-getrainde modellen zijn grotendeels artefacten van het feit dat ze problemen inline oplossen om zekerheid te bepalen, in plaats van ware introspectie.

De auteurs benadrukken dat hoewel modellen kennis hebben van wat taalmodellen als klasse in staat zijn, ze weinig inzicht hebben in hun specifieke capaciteiten op item-niveau. De studie suggereert dat huidige LLM's het "noëtische" zelfbewustzijn missen dat vereist is voor functionele metacognitie zoals gedefinieerd in de cognitieve wetenschap.