🤖 AI

In-Context Examples Suppress Scientific Knowledge Recall in LLMs

Dit artikel toont aan dat het toevoegen van voorbeelden in de context aan grote taalmodellen hun vermogen kan onderdrukken om latente wetenschappelijke kennis op te halen en toe te passen, waardoor ze in plaats daarvan vertrouwen op empirisch patroonpasseren, zelfs wanneer de voorbeelden zijn gegenereerd door de juiste onderliggende formules.

Oorspronkelijke auteurs: Chaemin Jang, Woojin Park, Hyeok Yun, Dongman Lee, Jihee Kim

Gepubliceerd 2026-05-01

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Chaemin Jang, Woojin Park, Hyeok Yun, Dongman Lee, Jihee Kim

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: Wanneer Voorbeelden Je Laten Vergeten Wat Je Weet

Stel je voor dat je een briljante student bent die de wetten van de natuurkunde, scheikunde en economie uit je hoofd hebt geleerd. Je weet precies hoe je een probleem moet oplossen met de juiste formules. Maar dan geeft je leraar je een toets met een draai: voordat je het probleem oplost, laat hij je 10 voorbeelden van vergelijkbare problemen zien met hun antwoorden.

Je zou kunnen denken: "Geweldig! Deze voorbeelden helpen me om de regels beter te onthouden."

Dit artikel ontdekte het tegenovergestelde. Wanneer de AI (Groot Taalmodel) die voorbeelden ziet, stopt hij er eigenlijk mee om zijn uit het hoofd geleerde wetenschappelijke wetten te gebruiken en begint hij te gokken op basis van patronen in de voorbeelden. Het is alsof een meesterkok, na het zien van een paar foto's van een gerecht, het recept vergeet en gewoon probeert de ingrediënten te raden door naar de foto's te kijken.

De auteurs noemen dit "Kennisverdringing". De voorbeelden versterken de kennis niet; ze duwen hem opzij.

De Twee Manieren waarop de AI Denkt

Het artikel beschrijft twee verschillende "modi" die de AI gebruikt om wetenschappelijke problemen op te lossen:

De "Leerboekmodus" (Kennisgedreven):
- Hoe het werkt: De AI ziet een probleem (bijvoorbeeld: "Hoe snel koelt dit object af?"), herkent de trefwoorden en haalt het juiste formule uit zijn geheugen (de afkoelingswet van Newton). Hij berekent het antwoord stap voor stap met wiskunde.
- Analogie: Dit is als een monteur die een vreemd motorgeluid hoort, precies weet welk onderdeel kapot is op basis van jarenlange training, en het repareert met het juiste gereedschap.
De "Patroonmodus" (Voorbeeldgedreven):
- Hoe het werkt: De AI negeert de formules. In plaats daarvan kijkt hij naar de 10 voorbeelden die in de prompt zijn gegeven en probeert hij een shortcut of een trend te vinden. Hij raadt het antwoord door te zeggen: "In de voorbeelden, toen het getal omhoog ging, ging het antwoord omlaag, dus ik doe hetzelfde."
- Analogie: Dit is als een monteur die nooit motoren heeft bestudeerd, maar kijkt naar 10 foto's van auto's met kapotte onderdelen. Hij raadt de oplossing door te zeggen: "In al deze foto's was de band leeg, dus ik ga gewoon gokken dat de band leeg is," zonder te begrijpen waarom het geluid van de motor komt.

De Ontdekking: Wanneer je de AI voorbeelden geeft (zelfs correcte), schakelt hij bijna altijd over van "Leerboekmodus" naar "Patroonmodus". Hij stopt met echte wetenschap en begint met "patroonherkenning".

De Verrassing: Soms Helpt Dit, Soms Doet Het Kwaad

De onderzoekers testten dit op 60 verschillende wetenschappelijke problemen over vijf gebieden: Economie, Scheikunde, Natuurkunde, Biologie en Geowetenschappen. Ze ontdekten dat hoewel de AI altijd overschakelde naar de "Patroonmodus", het resultaat op de eindscore verschillend was voor elk vak.

Hier is hoe het zich afspeelde:

De "Kwaad"-Geval (Economie & Scheikunde):
- Wat er gebeurde: De AI kende de formules perfect. Toen hij voorbeelden zag, stopte hij ermee om ze te gebruiken en begon hij patronen te raden.
- Resultaat: De score daalde aanzienlijk.
- Analogie: Stel je een wiskundig genie voor dat de vermenigvuldigingstabel perfect kent. Als je hem een paar voorbeelden laat zien van $2 \times 2 = 4$ , zou hij kunnen stoppen met denken "2 keer 2" en beginnen met gokken "misschien is het 5?" alleen omdat de voorbeelden er op een bepaalde manier uitzagen. Hij krijgt het antwoord verkeerd omdat hij de regel die hij al kende, is vergeten.
De "Help"-Geval (Geowetenschappen):
- Wat er gebeurde: De AI kende de formule, maar was slecht in het onthouden van de specifieke getallen (zoals de dichtheid van rotsen). Hij bleef de verkeerde getallen raden. Toen hij voorbeelden zag, stopte hij met proberen de getallen te herinneren en keek hij gewoon naar de patronen in de voorbeelden om het antwoord te raden.
- Resultaat: De score steeg.
- Analogie: Stel je een student voor die het recept voor een gerecht kent, maar altijd vergeet hoeveel zout erbij moet. Als je hem 10 foto's van het afgewerkte gerecht laat zien, zou hij kunnen stoppen met proberen de hoeveelheid zout te onthouden en gewoon de smaak kopiëren van de foto's. Hij krijgt een beter gerecht, maar hij heeft het recept niet echt geleerd; hij had gewoon geluk met het patroon.
De "Geen Verandering"-Geval (Natuurkunde & Biologie):
- Wat er gebeurde: De AI schakelde van modus, maar de "Patroonmodus" bleek toevallig net zo goed als de "Leerboekmodus" voor deze specifieke problemen.
- Resultaat: De score bleef hetzelfde.
- Analogie: Het is alsof je met een auto rijdt. Je kunt rijden met de GPS (Leerboekmodus) of door de auto van een vriend te volgen (Patroonmodus). Als je vriend perfect rijdt, kom je op hetzelfde moment aan. Maar je gebruikt de GPS toch niet meer.

Waarom Gebeurt Dit?

Het artikel vond dat de "Leerboekmodus" van de AI zeer fragiel is. Hij vertrouwt op trefwoorden.

Als het probleem zegt "Consumentenoverschot", denkt de AI "Economie-formule".
Als je de woorden verandert in "Alfagolf" (een nepnaam voor hetzelfde concept), vergeet de AI de formule volledig.

De "Patroonmodus" geeft echter niets om woorden. Hij kijkt gewoon naar de getallen. Dus, wanneer je de AI voorbeelden met getallen geeft, schakelt hij onmiddellijk over naar de patroonmodus omdat het makkelijker is, zelfs als de voorbeelden perfect consistent zijn met de regels die hij al kent.

De Belangrijkste Waarschuwing voor Gebruikers

Het artikel concludeert met een waarschuwing voor iedereen die AI gebruikt voor wetenschap:

Ga er niet van uit dat het geven van voorbeelden aan de AI zal helpen om zijn kennis te gebruiken.
In feite kan het het tegenovergestelde doen. Het kan de AI laten stoppen met denken als een wetenschapper en beginnen met denken als een gokker. Soms heeft deze gokker geluk en krijgt hij een betere score, maar vaak krijgt hij een slechtere score omdat hij de regels is vergeten die hij zou moeten kennen.

Kortom: De voorbeelden leerden de AI niets nieuws; ze zorgden er gewoon voor dat hij vergat wat hij al wist.

1. Probleemstelling

Het paper onderzoekt een tegen-intuïtief fenomeen in Large Language Models (LLMs) toegepast op wetenschappelijk redeneren: In-Context Learning (ICL) kan de vooraf getrainde wetenschappelijke kennis van een model onderdrukken, in plaats van deze te versterken.

Hoewel ICL wijdverbreid wordt gebruikt om prestaties te verbeteren door voorbeelden te verstrekken, veronderstellen de auteurs dat voor taken die herstel van latente structuren vereisen (het afleiden van verborgen parameters uit data voordat een domeinwet wordt toegepast), het toevoegen van voorbeelden de redeneerstrategie van het model verschuift. In plaats van de juiste wetenschappelijke formule uit zijn vooraf getrainde gewichten op te halen en toe te passen (kennis-gedreven afleiding), verschuift het model naar voorbeeld-gedreven fitting (het benaderen van invoer-uitvoer-mappingen via patroonherkenning).

Cruciaal is dat deze onderdrukking optreedt zelfs wanneer de in-context voorbeelden zijn gegenereerd door de exacte dezelfde wetenschappelijke formule die het model al kent, wat betekent dat er geen conflict is tussen de voorbeelden en de voorkennis van het model.

2. Methodologie

Bouw van de Benchmark

De auteurs construeerden een evenwichtige benchmark bestaande uit 60 taken voor herstel van latente structuren over vijf wetenschappelijke domeinen:

Domeinen: Biologie, Chemie, Economie, Fysica en Geowetenschappen (12 taken per domein).
Takenstructuur: Elke taak volgt een specifieke architectuur: $X \to \Theta \to Y$ $X \to Θ \to Y$ .
- $X$ (Observabelen): Ruwe data die aan het model wordt verstrekt.
- $\Theta$ (Latente Variabelen): Verborgen parameters (bijv. reactieconstanten, elastische moduli) die moeten worden afgeleid met behulp van domeinwetten.
- $Y$ (Doel): De uiteindelijke grootheid die moet worden berekend met de afgeleide parameters.
Complexiteit: Taken variëren in het aantal observabelen, latente variabelen en formules (lineair, niet-lineair, fractioneel, enz.) om ervoor te zorgen dat bevindingen geen artefacten zijn van specifieke formuletypen.

Experimentele Opstelling

Modellen: Experimenten werden uitgevoerd op vier modellen: GPT-5.2 (primair), Claude Sonnet 4.6, Llama 4 Maverick en DeepSeek V3.2.
Voorwaarden:
- Zero-Shot: Het model lost de taak op met alleen Chain-of-Thought (CoT) redenering zonder voorbeelden.
- 10-Shot: Het model krijgt 10 invoer-uitvoerparen te zien die zijn gegenereerd door dezelfde onderliggende formule als de testcase (geen tussenstappen in afleidingen verstrekt).
Strategieclassificatie: Een geautomatiseerde classifier (gevalideerd door menselijke annotatoren met 98% overeenstemming) categoriseert de CoT-trajectorie van het model in drie modi:
1. Parametrisch ( $S_{know}$ ): Haalt een benoemde formule op en leidt het antwoord algebraïsch af.
2. Empirisch ( $S_{emp}$ ): Past een patroon aan op de voorbeelden zonder domeinwetten in te roepen.
3. Hybride: Gebruikt een formule maar kalibreert coëfficiënten op basis van voorbeelden.

Aanvullende Analyses

Semantische Decoy: Vervanging van domeinspecifieke vocabulaire (bijv. "Consumentenoverschot" $\to$ "Gamma Rad") om te testen of kennisoproep afhankelijk is van oppervlakkige aanwijzingen.
Interne Representaties: Analyse van verborgen toestanden van open-source modellen (Qwen, Mistral, Llama) om verschuivingen in de representatieruimte waar te nemen.
Interventies: Getest op structurele prompttechnieken (bijv. het forceren van formuleverklaringen, negatieve prompts tegen fitting) om te zien of verdringing kan worden verzacht.

3. Belangrijkste Bijdragen

Ontdekking van Kennisverdringing: De auteurs demonstreren dat het toevoegen van consistente in-context voorbeelden consistent de berekening verschuift van kennis-gedreven afleiding ( $S_{know}$ ) naar voorbeeld-gedreven fitting ( $S_{emp}$ ) over alle domeinen heen.
Framework voor Strategieconcurrentie: Zij stellen een framework voor dat verklaart waarom de effecten op nauwkeurigheid variëren. De verschuiving is uniform, maar het gevolg hangt af van de kwaliteitskloof tussen de verdrongen strategie (vooraf getrainde kennis) en de vervangende strategie (empirische fitting).
Uitgebreide Benchmark: Een nieuwe benchmark van 60 taken, specifiek ontworpen om de concurrentie tussen wetenschappelijk redeneren en patroonfitting waarneembaar te maken, met dekking van diverse structurele complexiteiten.

4. Belangrijkste Resultaten

A. Uniforme Strategieverschuiving, Divergente Nauwkeurigheid

Het toevoegen van 10 voorbeelden verlaagde het aandeel Parametrische ( $S_{know}$ ) trajecten met 6–20 procentpunten over alle domeinen. De impact op de uiteindelijke nauwkeurigheid varieerde echter aanzienlijk:

Economie: De nauwkeurigheid daalde significant (−15,7pp). Hier was $S_{know}$ de superieure strategie (88,3% nauwkeurigheid). De verschuiving naar empirische fitting (41,7% nauwkeurigheid) veroorzaakte een enorme prestatieverlies.
Geowetenschappen: De nauwkeurigheid leek te verbeteren (+13,3pp). Hier was $S_{know}$ zwak (49,2% nauwkeurigheid) omdat het model vaak de juiste formule herinnerde maar verkeerde standaardparameters gebruikte. De verschuiving naar empirische fitting liet het model toe om correct te interpoleren vanuit voorbeelden, waardoor het verlies aan wetenschappelijk redeneren werd gemaskeerd.
Fysica & Biologie: De nauwkeurigheid bleef relatief vlak. In Fysica was de verschuiving klein; in Biologie presteerde de empirische strategie toevallig vergelijkbaar met de parametrische.

Conclusie: Het model geeft kennis niet selectief op waar het verkeerd is; het geeft het overal op, ongeacht of de nieuwe strategie beter of slechter is.

B. Mechanisme: Woordenschat-geactiveerde Oproep

Het Semantische Decoy-experiment onthulde dat $S_{know}$ wordt geactiveerd door oppervlakkige woordenschat (domeinwoorden) in plaats van diepe wiskundige analyse.

Toen domeintermen werden vervangen door pseudoniemen, stortte de Zero-Shot-nauwkeurigheid in (naar 3–14%).
De 10-Shot-prestatie herstelde zich echter gedeeltelijk (naar 22–40%), wat bewijst dat $S_{emp}$ werkt op numerieke patronen die onafhankelijk zijn van woordenschat.
Implicatie: De blote aanwezigheid van numerieke voorbeelden activeert het empirische pad, waardoor het woordenschat-geactiveerde kennispad wordt overstemd.

C. Convergentie van Interne Representaties

Analyse van verborgen toestanden toonde aan dat onder 10-shot-omstandigheden de representatieruimten van verschillende domeinen convergeren.

In Zero-Shot bezetten domeinen distincte gebieden (activering van specifieke domeincircuits).
In 10-Shot kwamen domeinen dichter bij elkaar te liggen, met name Geowetenschappen, die de sterkste verschuiving vertoonde. Dit suggereert dat het model overschakelt naar een domein-agnostisch patroonfitting-circuit wanneer voorbeelden aanwezig zijn.

D. Falen van Verzachting

Standaard prompt-interventies (bijv. het expliciet noemen van de formule, negatieve prompts tegen fitting) faalden om verdringing universeel te voorkomen. Wanneer de vooraf getrainde kennis de optimale strategie was (Economie), kon geen enkel bedrag aan consistente voorbeelden de prestatieverlies herstellen die werd veroorzaakt door de blote aanwezigheid van die voorbeelden.

5. Betekenis en Implicaties

Voorzichtigheid voor Beoefenaars: Het paper waarschuwt dat in wetenschappelijke toepassingen het verstrekken van in-context voorbeelden de zeer kennis kan verdringen die ze beogen te ondersteunen. Vertrouwen uitsluitend op end-to-end nauwkeurigheid is gevaarlijk, omdat dit het verlies aan wetenschappelijk redeneren kan maskeren (bijv. in Geowetenschappen kreeg het model het juiste antwoord om de verkeerde reden).
Aard van Wetenschappelijk Redeneren in LLMs: De studie suggereert dat wetenschappelijk redeneren van LLMs vaak herkenningsgebaseerd is (geactiveerd door trefwoorden) in plaats van redeneringsgebaseerd (wiskundige afleiding). Dit maakt het kwetsbaar en gemakkelijk te overrulen door de computationele shortcut van patroonmatching.
Breder Shortcut Learning: Dit fenomeen wordt gepresenteerd als een voorbeeld van "shortcut learning", waarbij modellen standaard kiezen voor de computatie-eenvoudigste beschikbare strategie (voorbeelden fit) in plaats van de meest principiële (afleiden uit wetten), zelfs wanneer de shortcut suboptimaal is.
Toekomstige Richtingen: De auteurs roepen op tot mechanistische studies (bijv. activatie-patching) om de specifieke circuits te identificeren die verantwoordelijk zijn voor deze concurrentie en tot nieuwe evaluatiemetrics die kunnen onderscheiden tussen "kennis-gedreven" en "voorbeeld-gedreven" succes.