RELIC: Evaluating Complex Reasoning via the Recognition of Languages In-Context

1. Probleemstelling

Grote Taalmodellen (LLMs) krijgen steeds vaker de taak om complexe problemen op te lossen waarbij het ophalen en samenstellen van meerdere stukken contextinformatie vereist is (bijvoorbeeld het analyseren van financiële staten of het volgen van meerstapsinstructies). Het evalueren van deze vaardigheden is echter moeilijk vanwege:

• Gebrek aan verifieerbaarheid: Real-world taken missen vaak een ground truth of precieze metrieken.
• Oncontroleerbare complexiteit: Het is moeilijk om taakmoeilijkheid systematisch te schalen om te observeren hoe de prestaties van modellen verslechteren.
• Datacontaminatie: Statische benchmarks lijden vaak onder het feit dat modellen vergelijkbare voorbeelden hebben gezien tijdens het vooraf trainen.

De auteurs stellen dat huidige modellen hun inferentie-rekenkracht (redeneerinspanning) niet op de juiste manier schalen naarmate de taakcomplexiteit toeneemt. Ze grijpen vaak terug op "stil ontsnemen" (quiet quitting) – het verschuiven van geldig algoritmisch redeneren naar gokken of oppervlakkige heuristieken wanneer taken moeilijk worden.

2. Methodologie: Het RELIC-kader

De auteurs introduceren RELIC (Recognition of Languages In-Context), een kader ontworpen om LLMs te evalueren op het herkennen van Context-Vrije Talen (CFL).

• Taakdefinitie: Een LLM krijgt een specifieke Context-Vrije Grammatica (CFG) en een string gepresenteerd. Het model moet bepalen of de string behoort tot de taal die door die grammatica wordt gegenereerd (Accepteren/Afwijzen).
• Synthetische benchmarkgeneratie (RELIC-500):
  • Om nieuwheid te waarborgen en datacontaminatie te voorkomen, worden grammatica's stochastisch gegenereerd in plaats van uit een vast dataset te worden gehaald.
  • Grammatica's worden geparametriseerd door vier waarden: aantal terminale symbolen ($n'_{term}$), niet-terminale symbolen ($n'_{nonterm}$), lexicaal regels ($n'_{lex}$) en niet-lexicale regels ($n'_{nonlex}$).
  • De benchmark bevat 200 grammatica's met parameters tot 500, die positieve (geldig) en negatieve (ongeldig) strings genereren met lengtes tot 50.
• Theoretische basis:
  • CFL-herkenning staat bekend als behorend tot de complexiteitsklasse AC1 en NC1-hard.
  • Theoretische analyse suggereert dat voor een Transformer om dit op te lossen, de lengte van zijn Chain-of-Thought (CoT) superlineair moet groeien met de stringlengte en lineair met de grammaticagrootte.
  • Dit biedt een theoretisch "ideaal" rekenbudget waartegen het daadwerkelijke modelgedrag kan worden vergeleken.

3. Experimentele Opstelling

• Geëvalueerde modellen: Acht LLMs werden getest, waaronder:
  • Propriëtair: De gpt-4.1-familie van OpenAI (nano, mini, full), o3 en o4-mini.
  • Open-weight: Google's Gemma 3 (1B en 4B) en een gedistilleerde versie van DeepSeek-R1.
• Evaluatieprotocol: Zero-shot prompting. Modellen werden gevraagd strings te classificeren uitsluitend op basis van de verstrekte grammaticaregels, zonder few-shot voorbeelden.
• Analysemetrieken:
  • Class-balanced nauwkeurigheid en Macro F1-scores.
  • Correlatie tussen prestaties en grammatica-complexiteit (grootte) en stringlengte.
  • Test-Time Compute (TTC): Meten van het aantal gegenereerde tokens tijdens het redeneren ten opzichte van taakmoeilijkheid.
  • Strategieclassificatie: Het gebruik van een LLM als rechter (en menselijke validatie) om redeneersporen te categoriseren als Regelgebaseerd (geldige afleiding) of Heuristisch/Gokkend.

4. Belangrijkste Resultaten

A. Prestatieverslechtering door complexiteit

• Kleine versus grote taken: Modellen presteren redelijk goed bij kleine grammatica's en korte strings. Echter, de prestaties dalen drastisch naarmate de grammaticagrootte (specifiek niet-lexicale producties) en de stringlengte toenemen.
• Toevalsprestaties: Zelfs de meest geavanceerde redeneermodellen (bijvoorbeeld o3, o4-mini) zakken naar bijna toevalsnauwkeurigheid (ongeveer 50%) bij grammatica's met ongeveer 500 regels, ondanks dat deze ordes van grootte kleiner zijn dan grammatica's voor echte programmeertalen.
• Bias: Modellen vertonen sterke class-bias (bijvoorbeeld "Ja" voorspellen voor lange strings en "Nee" voor korte) in plaats van de grammaticaregels te analyseren.

B. Het "Stil Ontsnemen" (Quiet Quitting) fenomeen

• Rekenkracht-mismatch: Theoretisch vereist het oplossen van moeilijkere instanties meer rekenkracht (langere CoT). Empirisch verminderen modellen hun rekenkrachtuitgaven naarmate taken moeilijker worden.
  • Relatieve Test-Time Compute (TTC) piekt vroeg (bij zeer korte stringlengtes) en neemt vervolgens af naarmate de stringlengte toeneemt.
  • Modellen stoppen met het verhogen van de inferentie-inspanning lang voordat ze hun tokenlimieten bereiken.
• Strategiewissel: Naarmate de complexiteit toeneemt, verschuiven modellen van Regelgebaseerde strategieën (het construeren van parsebomen) naar Heuristische strategieën (gokken op basis van stringlengte of aanwezigheid van symbolen).
• Gesloten-redeneermodellen: Zelfs modellen die hun redeneersporen verbergen (o3, o4-mini) tonen dezelfde daling in rekenkrachtuitgaven, wat impliceert dat ze ook "stil ontsnemen" door intern over te schakelen naar ongeldige strategieën.

C. Beperkingen van Fine-tuning

• De auteurs hebben Gemma 3-modellen direct gefine-tuned op de RELIC-taak (grammatica-string-label-paren).
• Resultaat: Fine-tuning leverde geen statistisch significante verbetering in prestaties op. Dit suggereert dat het falen niet te wijten is aan een gebrek aan taakvertrouwdheid, maar aan een fundamenteel onvermogen om de vereiste redeneerstrategieën op schaal uit te voeren.

D. Correlatie met algemeen redeneren

• Prestaties op RELIC correleren met prestaties op algemene redeneerbenchmarks (MMLU Pro, GPQA, IFEval). Dit geeft aan dat RELIC een geldige proxy is voor algemene complexe redeneervaardigheden, en niet slechts een niche taak voor formele talen.

5. Belangrijkste Bijdragen

1. RELIC-kader: Een schaalbaar, verifieerbaar en contaminatiebestendig benchmark voor het evalueren van complex in-context redeneren met behulp van formele taaltheorie.
2. Empirisch bewijs van "Stil Ontsnemen": Demonstreert dat state-of-the-art redeneermodellen hun rekenkrachtmiddelen niet evenredig schalen met taakmoeilijkheid, maar terugvallen op heuristieken.
3. Strategieanalyse: Kwantificeert de verschuiving van algoritmisch redeneren naar gokken als functie van complexiteit, en onthult een broosheid in huidige "redeneermodellen".
4. Theoretisch-praktische kloof: Benadrukt het verschil tussen de theoretische complexiteitseisen voor CFL-herkenning (die Transformers theoretisch zouden kunnen halen) en het empirische gedrag van huidige LLM's.

6. Betekenis en Implicaties

• Broosheid van redeneren: De bevindingen uitdagen het idee dat "redeneermodellen" (zoals o3 of o4-mini) robuuste, schaalbare redeneervaardigheden hebben. Ze lijken te vertrouwen op heuristieken die bezwijken onder complexiteit.
• Evaluatieparadigma: RELIC biedt een manier om "verborgen" redeneren in propriëtaire modellen te evalueren door hun rekenkrachtgedrag (tokengebruik) te observeren in plaats van alleen de uiteindelijke output.
• Toekomstige richtingen: Het paper suggereert dat het simpelweg vergroten van modelgrootte of trainingsdata onvoldoende is. Toekomstige verbeteringen kunnen vereisen:
  • Training op gestructureerde voltooiingen (geleide afleidingen).
  • Expliciete begeleiding over redeneerstrategieën.
  • Mechanismen om modellen te dwingen geldige redeneerstrategieën te handhaven, zelfs wanneer taken moeilijk worden, waardoor het "stil ontsnemen"-gedrag wordt voorkomen.

Kortom, het paper betoogt dat huidige LLM's niet echt "redeneren" in een schaalbaar, algoritmisch zin wanneer ze geconfronteerd worden met complexe, nieuwe in-context taken; in plaats daarvan optimaliseren ze voor een shortcut die faalt naarmate de probleemcomplexiteit groeit.