Contemporary AI lacks the imagination to diverge or negate in science

Technische Samenvatting: Hedendaagse AI mist de verbeeldingskracht om te divergeren of te negeren in de wetenschap

Probleemstelling
Ondanks gedurfde projecties dat kunstmatige intelligentie (AI) wetenschappelijke ontdekkingen zal versnellen, ontbreekt het het vakgebied aan grootschalig bewijs met een "scientist-in-the-loop" om deze claims te valideren. Huidige geautomatiseerde benchmarks slagen er vaak niet in de nuances van deskundig oordeel te vangen, en er bestaat een risico dat vloeiende tekst een substituut wordt voor werkelijke inzichten. Het centrale probleem dat wordt aangepakt, is of huidige Large Language Models (LLM's) daadwerkelijk kunnen afwijken van gevestigde kennis om nieuwe, haalbare en waarschijnlijke wetenschappelijke hypothesen voor te stellen, of dat ze slechts bestaande patronen recombineren. Bovendien blijft het onduidelijk of geautomatiseerde evaluatoren (LLM-als-rechter, metrieken) betrouwbaar kunnen fungeren als vervanging voor menselijke expertbeoordeling bij het genereren van wetenschappelijke ideeën.

Methodologie
De auteurs voerden de grootste expert-audit van AI voor de wetenschap tot nu toe uit, waarbij gebruik werd gemaakt van een "human-in-the-loop" evaluatiepipeline:

1. Dataverzameling: De studie stelde 121.640 volledige empirische preprints samen die na 2023 zijn gepubliceerd op zes niet-arXiv platforms (BioRxiv, MedRxiv, ChemRxiv, SocArXiv, PsyArXiv, EdArXiv). arXiv werd doelbewust uitgesloten om datacontaminatie te voorkomen, aangezien de inhoud daarvan de trainingscorpora van LLM's domineert.
2. Contextextractie: Met behulp van het redeneermodel o3-mini extraheerden de auteurs het kernwetenschappelijke vraagstuk, de omringende feitelijke context en de eigen hypothesen van de auteurs uit elk artikel. Een op parafras gebaseerde lekdetectie zorgde ervoor dat de geëxtraheerde context de oorspronkelijke hypothesen van de auteurs niet bevatte (99,7% bevestigingspercentage door auteurs).
3. Hypothesegeneratie: 26 diverse LLM's (inclusief 19 niet-redenerende chatmodellen, 5 redenerende modellen en 2 agentic "deep research" systemen) werden geprompt om vervolghypothesen te genereren op basis uitsluitend van de geëxtraheerde context en het vraagstuk.
4. Expertbeoordeling: 6.749 wetenschappers (auteurs van de oorspronkelijke artikelen) beoordeelden 25.139 door AI gegenereerde hypothesen. Elke hypothese werd gescoord op vier dimensies: Conceptuele Nieuwheid, Empirische Haalbaarheid, Waarschijnlijkheid van Waarheid en Gunst voor Adoptie.
5. Geautomatiseerde Benchmarking: De studie evalueerde verschillende geautomatiseerde evaluatoren (LLM-als-rechter, n-gram nieuwheid, semantische afstand, perplexiteit en state-of-the-art reward modellen) tegen de menselijke grondwaarheid.
6. Training van Reward Model: Een Qwen3-14B model werd post-getraind op menselijke paarwijze voorkeuren met behulp van een Bradley-Terry objectief met een marge-term om vakspecifieke nuances te vangen.

Belangrijkste Resultaten

• Hypothete-ruimte en Divergentie: Niet-redenerende LLM's klappen ineen tot een smalle "hivemind", waarbij ze zeer vergelijkbare ideeën genereren (hoge paarwijze cosinus-gelijkenis). Redenerende modellen verkennen een bredere hypothete-ruimte, maar slagen er nog steeds niet in om spontaan nulhypothesen (claims van geen effect/relatie) voor te stellen. Hoewel mensen nulhypothesen zelden formuleren vanwege publicatiebias, formuleren LLM's ze nog minder vaak, wat wijst op een structurele onbekwaamheid om over afwezigheid of negatie te redeneren.
• Expertbeoordelingsbiases:
  • Zelf-gelijkenis: Wetenschappers geven sterk de voorkeur aan AI-ideeën die lijken op hun eigen werk (coëfficiënt = 1,28). Hoge gelijkenis correleert met een hogere waargenomen haalbaarheid en waarschijnlijkheid, maar een lagere waargenomen nieuwheid.
  • Senioriteit en Vakgebied: Senior wetenschappers zijn hardere critici van AI-ideeën, met name in de sociale wetenschappen. Sociale wetenschappers tolereren risico (lagere waarschijnlijkheid) gemakkelijker dan levenswetenschappers, die prioriteit geven aan haalbaarheid en waarschijnlijkheid vanwege de hoge kosten van mislukte experimenten.
  • Vakspecifieke Prestaties: AI-ideeën werden het laagst beoordeeld in de sociale wetenschappen over alle dimensies (nieuwheid, haalbaarheid, waarschijnlijkheid), waarschijnlijk omdat pluralistische velden met betwiste interpretaties moeilijk zijn voor modellen die geoptimaliseerd zijn om modale patronen te reproduceren.
• Falen van Geautomatiseerde Evaluatoren: Bestaande geautomatiseerde judges (inclusclusief SOTA-modellen en LLM-als-rechter) vertonen een zwakke correlatie met menselijke expertbeoordeling ($r < 0,35$). Ze vertonen een sterke centrale tendens, waarbij ze beoordelingen clusteren rond het midden van de schaal en falen in het toekennen van extreme scores. Standaard nieuwheidsmetrieken (semantische afstand, perplexiteit, n-grams) presteren nabij toeval.
• Succes van Reward Model: Een reward model dat is post-getraind op menselijke beoordelingen (Qwen3-14B) presteerde significant beter dan SOTA-baselines (tot 27% verbetering) en bereikte een paarwijze nauwkeurigheid (61–69%) die de consistentie van onafhankelijke menselijke peer reviewers (61,0% ± 0,1%) overtreft. Domeinspecifieke modellen presteerden beter dan algemene modellen wanneer voldoende in-domain data beschikbaar was.

Belangrijkste Bijdragen

1. Grootschalige Empirische Audit: Leverde de eerste grootschalige, scientist-in-the-loop evaluatie van door AI gegenereerde wetenschappelijke hypothesen over meerdere disciplines, bewegend voorbij kleinschalige of synthetische benchmarks.
2. Identificatie van Structurele Beperkingen: Toonde aan dat huidige AI niet beschikt over de capaciteit voor "subtractieve verandering" (negatie/nulhypothesen) en worstelt in pluralistische velden die contextbewuste interpretatie vereisen.
3. Evaluatie van Geautomatiseerde Judges: Toonde systematisch aan dat huidige geautomatiseerde evaluatiemethoden (LLM-als-rechter, metrieken) onvoldoende proxies zijn voor expert wetenschappelijk oordeel.
4. Distillatie van Expert-smaak: Slaagde erin een reward model te trainen dat de vakspecifieke "smaak" vastlegt en een consistentieniveau bereikt dat vergelijkbaar is met menselijke peer review, wat suggereert dat expertbeoordeling gedeeltelijk kan worden gedestilleerd in machines.

Betekenis en Claims
Het artikel betoogt dat hoewel AI de zoekruimte kan vergroten en kandidaat-richtingen kan aan het licht brengen, het momenteel de "verbeeldingskracht" mist om af te wijken van gevestigde patronen of bestaande kennis te negeren. De auteurs beweren dat:

• AI is een collaborator, geen vervanging: De huidige wetenschappelijke AI profiteert van menselijke fundering; het kan nog niet onafhankelijk vragen formuleren, betekenisvolle resultaten herkennen of categorieën betwisten.
• De "Null"-kloof is Structureel: Het onvermogen om nulhypothesen te genereren is geen kleine bug, maar een structureel kenmerk van hoe LLM's leren van corpora die gedomineerd worden door positieve claims en onderdrukte nulresultaten.
• Nieuwsgierigheid Ontbreekt: Huidige modellen zijn geoptimaliseerd om te voorspellen, niet om te verwonderen. Ware wetenschappelijke acceleratie vereist het coderen van "computationele nieuwsgierigheid"—een intrinsieke drang om anomalieën, tegenstrijdigheden en afwezigheden te onderzoeken.
• Evaluatiehervorming: Claims van AI-gestuurde acceleratie kunnen niet worden beoordeeld door louter vloeiendheid of geautomatiseerde benchmarks; ze vereisen validatie tegen domeinexperts die de bijdrage definiëren.

De studie concludeert dat totdat AI-systemen gericht worden op de schending van verwachtingen en actief de wereld in kunnen gaan om data te verzamelen over "wat niet werkt", zij beperkt blijven tot het recombineren van de gepubliceerde literatuur in plaats van deze uit te breiden.