Technische Samenvatting: Evidence-Informed LLM Beliefs voor Voortdurende Wetenschappelijke Ontdekking

Probleemstelling

Open-ended wetenschappelijke ontdekking met behulp van Large Language Models (LLMs) werkt vaak als een langdurige lus van hypothese-zoektocht en verificatie, gestuurd door een beloningssignaal. Een prominent voorbeeld is AutoDiscovery, dat "Bayesiaanse verrassing" — de verschuiving in het geloof van een LLM na het observeren van bewijs voor een hypothese — gebruikt als een metriek voor ontdekking en een beloning voor zoektocht.

De auteurs identificeren een kritieke foutmodus in deze aanpak: statische verrassing (static surprisal). AutoDiscovery behandelt de voorafgaande overtuigingen (priors) van de LLM als statisch en onvoorwaardelijk, waarbij elke nieuwe hypothese in isolatie wordt geëvalueerd tegen de parametrische kennis van het model. Dit creëert een mismatch met het menselijke wetenschappelijke redeneren, waarbij overtuigingen niet-stationair zijn en evolueren met ervaring. Als gevolg hiervan leidt statische verrassing tot:

1. Overschatting van progressie: Het telt afgeleide hypothesen (die worden geïmpliceerd door eerdere ontdekkingen) als nieuw en verrassend.
2. Verspilling van het zoekbudget: Het stuurt de agent herhaaldelijk naar verzadigde regio's in de hypotheseruimte, wat leidt tot redundante "herontdekkingen".

Studies door menselijke experts in de neurowetenschappen en sociale wetenschappen bevestigden deze mismatch, waarbij zij vaststelden dat ongeveer 29,54% en 25% van de hypothesen die door AutoDiscovery als verrassend werden beschouwd, substantieel werden geïmpliceerd door eerdere ontdekkingen in hun respectieve domeinen.

Methodologie

Het artikel stelt een raamwerk voor Evidence-Informed LLM Beliefs voor om niet-stationaire verrassing mogelijk te maken. De methodologie bestaat uit twee hoofdcomponenten: het bijwerken van belief-priors en het aanpassen van de zoekprocedure.

1. Niet-stationaire verrassing via In-Context Belief Updating

In plaats van een statische $P(\theta_H)$ gebruikt het systeem een niet-stationaire prior die geconditioneerd is op de geschiedenis van eerdere hypothesen en hun verificatieuitkomsten: $P(\theta_H | \{(H^{(i)}, V^{(i)}_D)\}_{i=1}^{t-1})$.

Om dit te implementeren, evalueerden de auteurs verschillende In-Context Learning (ICL) mechanismen voor het ophalen en integreren van eerdere bewijslast:

• Full Context ($C_{full}$): Het injecteren van alle eerdere ontdekkingen.
• Top-k Retrieval ($C_{top-k}$): Het ophalen van de $k$ meest semantisch gelijkaardige eerdere hypothesen met behulp van embeddings.
• Structured Memory ($C_{mem0}$): Het gebruik van een graafgebaseerd geheugensysteem (Mem0).

Bevindingen: Embedding-gebaseerde Top-k Retrieval (RAG) met $k=25$ bleek het meest effectief. Het anticipeerde het beste op de uiteindelijke posterior beliefs, waardoor het totaal aantal statische verrassingen met gemiddeld 37,43% werd verminderd ten opzichte van de statische baseline. Deze methode balanceert prestaties beter met de computationele kosten (tokengebruik) dan volledige context of complexe memorystructuren.

2. Evidence-Informed Search

Het simpelweg vervangen van de statische beloning door niet-stationaire verrassing bleek onvoldoende om de zoektrajectorie te veranderen; de agent stuurde nog steeds naar vergelijkbare hypothesen. Om dit aan te pakken, introduceerden de auteurs twee complementaire mechanismen in de stap van hypothese-selectie binnen het zoekalgoritme (MCTS met Progressive Widening):

• Belief-Update Filtering: Voordat een hypothese voor verificatie wordt geselecteerd, controleert het systeem of de hypothese al goed verklaard wordt door eerdere bewijslast. Het construeert een bewijs-geïnformeerde context en roept een bijgewerkte prior op. Als de absolute verschuiving tussen de statische prior en de bewijs-geïnformeerde prior een drempelwaarde overschrijdt ($\kappa = 0.2$), wordt de hypothese gefilterd. Dit voorkomt dat de agent budget verspilt aan hypothesen die niet langer verrassend zijn onder de bijgewerkte belief-status.
• Diversiteit Maximalisatie: Het systeem geeft expliciet prioriteit aan exploratie door kandidaten te selecteren met de laagste semantische gelijkenis aan eerder geverifieerde hypothesen. Dit wordt berekend met behulp van de gemiddelde cosinusafstand tot de top-$k$ dichtstbijzijnde eerdere hypothesen. Dit mechanisme zorgt ervoor dat de zoektocht nieuwe semantische regio's verkent in plaats van alleen directe duplicaten te vermijden.
• Online De-duplicatie: Een extra laag met behulp van hiërarchische agglomeratieve clustering (HAC) verwijdert kandidaten die semantisch redundant zijn met reeds geverifieerde hypothesen of andere kandidaten in de huidige node, om bijna-duplicaten in de exploratie te voorkomen.

Belangrijkste Resultaten

De voorgestelde methode werd geëvalueerd over vijf ontdekkingsdomeinen (NLS-SES, Archeologie, Evolutie Zoetwatervis, Fertiliteit, Hypotheek) met een zoekbudget van 500 experimenten per run.

• Geaccumuleerde Niet-Stationaire Verrassing: De volledige "Evidence-Informed Search" (combinatie van belief-update filtering, diversiteit maximalisatie en online de-duplicatie) verhoogde de geaccumuleerde niet-stationaire verrassing met gemiddeld 30,62% vergeleken met de oorspronkelijke statische zoekprocedure.
• Vergelijking met Baselines:
  • De methode presteerde beter dan standaard AutoDiscovery search met ~41 extra verrassingen (30,63% winst).
  • Het presteerde beter dan standaard zoektocht met enkel online de-duplicatie met ~21 extra verrassingen (13,37% winst), wat aantoont dat belief filtering en diversiteit maximalisatie waarde bieden bovenop eenvoudige de-duplicatie.
  • Het simpelweg vervangen van de beloning door niet-stationaire verrassing zonder de selectiemechanismen te wijzigen, leverde geen significante verbetering op, wat de noodzaak van expliciete zoekmodificaties onderstreept.
• Semantische Diversiteit: De voorgestelde methode genereerde hypothesen met een aanzienlijk lagere gemiddelde pairwise cosinusgelijkenis (0,448–0,452) vergeleken met standaard zoektocht (0,523–0,527), wat duidt op een bredere semantische dekking.
• Ablatiestudies: Het verwijderen van een component (diversiteit maximalisatie, belief-update filtering of online de-duplicatie) verslechterde de prestaties, wat bevestigt dat elk mechanisme een andere bron van redundantie aanpakt.

Betekenis en Claims

Het artikel claimt dat voortdurende wetenschappelijke ontdekking met LLM's niet alleen betere belief-meting vereist, maar ook zoekprocedures die actief redundantie beheren en diversiteit stimuleren.

De belangrijkste bijdragen zijn:

1. Identificatie van een Foutmodus: Het aantonen dat statische verrassing in voortdurende ontdekking leidt tot de spurieuze beloning van afgeleide hypothesen, gevalideerd door menselijke experts.
2. Niet-Stationaire Verrassing: Het introduceren van een methode om LLM-priors bij te werken met bewijs van eerdere hypothesen, waarbij wordt aangetoond dat embedding-gebaseerde RAG de resulterende posterior beliefs het beste benadert.
3. Evidence-Informed Search: Het voorstellen van een zoekstrategie die belief-update filtering en diversiteit maximalisatie combineert, wat succesvol de zoekbudgetten herverdeelt van verzadigde regio's naar werkelijk nieuwe hypothesen.

De auteurs concluderen dat voor effectieve langdurige LLM-ontdekkingssystemen de agent continu moet herzien wat als "verrassend" wordt beschouwd op basis van de cumulatieve epistemische staat, in plaats van te vertrouwen op een statisch model van de wereld.

Beperkingen

De auteurs erkennen enkele beperkingen:

• Kwaliteit van Elicitatie: Belief-schattingen hangen af van prompting-keuzes, sampling-variantie en het vermogen van de LLM om onzekerheid uit te drukken.
• Onderdrukking van Legitieme Herbezoeken: Het niet-stationaire doel kan hypothesen onderdrukken die legitiem de moeite waard zijn om opnieuw te bezoeken onder sterkere of conflicterende bewijslast.
• Schaalbaarheid: De huidige experimenten richten zich op gecontroleerde settings met eindige budgetten; het schalen naar open-ended workflows vereist betere verificatiemechanismen en langetermijngeheugensystemen die verder gaan dan de huidige context window.