🤖 AI

Position: The ML Community Must Build an AI-Augmented Peer-Review Ecosystem

Dit position paper betoogt dat de machine learning-gemeenschap dringend een door AI versterkt ecosysteem voor peer-review moet ontwikkelen, waarbij Large Language Models worden ingezet als collaboratieve instrumenten om de schaalcrisis aan te pakken, met een nadruk op de noodzaak van gestructureerde toegang tot data en een rigoureuze onderzoeksagenda om de wetenschappelijke integriteit te waarborgen.

Oorspronkelijke auteurs: Qiyao Wei, Samuel Holt, Jing Yang, Markus Wulfmeier, Mihaela van der Schaar

Gepubliceerd 2026-06-10

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Qiyao Wei, Samuel Holt, Jing Yang, Markus Wulfmeier, Mihaela van der Schaar

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: Een Bibliotheek die te groot is voor haar Bibliothecarissen

Stel je voor dat de wereld van Machine Learning (ML) een enorme bibliotheek is waar wetenschappers elke dag nieuwe boeken (onderzoeksartikelen) indienen. In 2014 ontving de bibliotheek ongeveer 1.600 boeken. Tegen 2024 was dat aantal geëxplodeerd naar bijna 17.500.

Het probleem? De "bibliothecarissen" (de deskundige beoordelaars die deze boeken controleren) zijn menselijk. Er zijn er slechts een beperkt aantal, en ze hebben een beperkte tijd. Ze verdrinken in het werk. Hierdoor lijdt de kwaliteit van de controle:

Vermoeidheid: Bibliothecarissen zijn moe en haasten zich, waardoor ze fouten kunnen missen.
Inconsistentie: De ene bibliothecaris kan een boek een "5-sterrenbeoordeling" geven, terwijl een ander hetzelfde boek een "2-sterrenbeoordeling" geeft, simpelweg omdat het verschillende mensen zijn.
Oppervlakkige controles: Omdat ze zo druk zijn, worden reviews soms generiek en missen ze de diepe, belangrijke details.

De Voorgestelde Oplossing: AI als een "Krachtige Assistent"

De auteurs stellen dat we niet snel genoeg meer menselijke bibliothecarissen kunnen inhuren. In plaats daarvan moeten we een samenwerking tussen mensen en Kunstmatige Intelligentie (AI) opbouwen.

Zie de AI niet als een robot die het werk van de bibliothecaris overneemt, maar als een high-tech co-piloot of een superintelligente stagiair die de mens helpt om zijn werk beter te doen.

Hier is hoe deze "AI Co-piloot" drie verschillende groepen zou helpen:

1. Helpen van de Auteurs (De Boekschrijvers)

De Analogie: Stel je een schrijfcoach voor die je concepttekst leest voordat je hem indient.
Wat de AI doet: Het controleert of je verhaal logisch is, of je belangrijke eerdere verhalen (citaten) bent vergeten te vermelden en of je schrijfstijl duidelijk is. Het fungeert als een "gesimuleerde beoordelaar" om je te vertellen: "Hé, deze paragraaf is verwarrend," of "Je bent een belangrijke referentie vergeten," zodat je dit kunt herstellen voordat de echte bibliothecarissen het zien.

2. Helpen van de Beoordelaars (De Bibliothecarissen)

De Analogie: Stel je voor dat een bibliothecaris een magische loep heeft die direct typefouten vindt, feiten controleert tegen een enorme encyclopedie en tegenstrijdigheden highlight.
Wat de AI doet:
- Feitencontrole: Het scant het boek snel om te zien of de beweringen van de auteur overeenkomen met bekende feiten.
- Codecontrole: Als het boek computercode bevat, kan de AI een "sanity check" uitvoeren om te zien of de code daadwerkelijk werkt zoals beschreven.
- Kwaliteitscontrole: Nadat een bibliothecaris een review heeft geschreven, kan de AI hen een "Rapportcijfer" geven. Het kan zeggen: "Je gaf een lage score, maar je hebt niet duidelijk uitgelegd waarom," of "Je hebt een grote fout in het experiment gemist." Dit helpt beoordelaars om betere, consistentere feedback te schrijven.

3. Helpen van de Area Chairs (De Hoofdbibliothecarissen)

De Analogie: Stel je een Hoofdbibliothecaris voor die 50 verschillende reviews voor één boek moet lezen om te beslissen of het gepubliceerd mag worden. Dat is overweldigend.
Wat de AI doet: Het fungeert als een samenvattingsassistent. Het leest alle 50 reviews en zegt: "Dit is het belangrijkste argument voor het accepteren van dit boek, dit is het belangrijkste argument voor het afwijzen ervan, en hier zijn de punten waar de beoordelaars van mening verschillen." Het helpt de Hoofdbibliothecaris om sneller een eerlijke beslissing te nemen, maar de Hoofdbibliothecaris neemt nog steeds de uiteindelijke beslissing.

Het Ontbrekende Ingrediënt: Betere Data

Het artikel maakt een cruciaal punt: Je kunt geen goede AI-assistent bouwen zonder goede trainingsdata.

Momenteel is de data die we hebben als een transcript van een gesprek waarbij we alleen de eindscores zien, maar niet de redenering.

Het Probleem: We weten dat een beoordelaar een score heeft veranderd van een 5 naar een 7, maar we weten niet welke zin in het antwoord van de auteur hen deed van gedachten veranderen.
De Oplossing: De auteurs willen dat de gemeenschap begint met het verzamelen van "rijkere" data. Ze willen het denkproces vastleggen: "Ik veranderde mijn score omdat de auteur punt X heeft verduidelijkt." Zonder deze gedetailleerde kaart van hoe mensen denken en argumenteren, kan de AI alleen de uitkomst raden, maar niet de logica leren.

Wat de Experimenten Lieten Zien

De auteurs hebben vroege versies van deze AI-tools getest op echte data van een belangrijke conferentie (ICLR).

Goed Nieuws: De AI was vrij goed in het vinden van de "Sterktes" van een paper en in het samenvatten van wat de auteur zei in zijn antwoord.
Slecht Nieuws: De AI had moeite met het vinden van de "Zwaktes" of het voorspellen van de exacte score die een mens zou geven. Het miste vaak diepe, subtiele gebreken die een menselijke expert wel zou opmerken.
De Les: De AI is een nuttig hulpmiddel, maar het is nog niet klaar om mensen te vervangen. Het heeft meer training en betere data nodig om slimmer te worden.

De Waarschuwingssignalen (Risico's)

De auteurs waarschuwen voorzichtig voor mogelijke gevaren:

Luie Bibliothecarissen: Als beoordelaars te veel op de AI vertrouwen, kunnen ze stoppen met kritisch nadenken (een proces dat "de-skilling" wordt genoemd).
Nepboeken: Auteurs kunnen proberen AI te gebruiken om het hele boek te schrijven en het systeem te misleiden.
Privacy: We moeten ervoor zorgen dat de data die gebruikt wordt om deze AI's te trainen anoniem en veilig is.

De Kernboodschap

Het artikel is een oproep tot actie. De Machine Learning-gemeenschap groeit te snel voor mensen om het alleen aan te kunnen. We moeten een AI-versterkt ecosysteem bouبden waarin AI het zware werk, de feitencontrole en de samenvattingen afhandelt, zodat mensen vrijkomen voor het diepe, kritische denken.

Maar om dit te laten werken, moeten we stoppen met peer review te behandelen als slechts een "black box" van scores en beginnen met het vastleggen van de redenering achter die scores. Pas dan kunnen we AI bouwen die echt begrijpt hoe we de wetenschappelijke waarheid kunnen valideren.

Technische Samenvatting: De ML-gemeenschap moet een door AI versterkt ecosysteem voor peer-review opbouwen

1. Probleemstelling

De machine learning (ML) gemeenschap staat voor een "schaalbaarheidscrisis" in peer-review. Het volume aan inzendingen naar vooraanstaande conferenties (bijv. NeurIPS, ICML, ICLR) is exponentieel gegroeid (bijv. de stijging van NeurIPS-inzendingen met 10,4× van 2014 tot 2024), wat het eindige aantal gekwalificeerde reviewers overtreft. Deze vloedgolf, verergerd door door LLM ondersteunde schrijfgereedschappen, heeft geleid tot:

Reviewer-moeheid en oppervlakkigheid: Reviews missen vaak diepgang of methodologische strengheid vanwege tijdgebrek.
Inconsistentie: Er bestaat een hoge inter-reviewer variantie, waarbij tot 23% van de acceptatiebeslissingen potentieel zou kunnen omslaan op basis van de toewijzing van de reviewer.
Ineffectieve rebuttals: Rebuttals van auteurs slagen er vaak niet in om de uiteindelijke beslissingen te beïnvloeden door desinteresse van de reviewer of tijdslimieten.
Systemisch risico: Het huidige handmatige model bedreigt de integriteit, tijdigheid en eerlijkheid van wetenschappelijke validatie.

Het artikel betoogt dat de gemeenschap de kwalitatieve peer-review niet kan volhouden zonder AI te integreren, niet als vervanging voor menselijk oordeel, maar als een geavanceerde collaborator binnen een uitgebreid ecosysteem.

2. Methodologie en Voorgesteld Raamwerk

Het artikel stelt een holistisch, door AI versterkt peer-review ecosysteem voor waarbij Large Language Models (LLMs) fungeren als "co-pilots" voor auteurs, reviewers en Area Chairs (ACs). De methodologie rust op twee pijlers: de ontwikkeling van specifieke AI-tools en de creatie van een rijkere datainfrastructuur.

2.1. Fundamentele AI-tools

Het ecosysteem vertrouwt op verschillende technische capaciteiten:

Retrieval Augmented Verification (RAV) & Grounding: Het verbinden van LLM's met gezaghebbende wetenschappelijke repositories (bijv. Semantic Scholar, arXiv) om claims te kruisverwijzen, citaties voor te stellen en feitelijke juistheid te waarborgen.
Code-analyse & Reproduceerbaarheid: Tools om methodologieën en broncode te parsen om veelvoorkomende fouten, ontbrekende dependencies of inconsistenties tussen code en tekst te identificeren.
Feedback op Reviewkwaliteit ("Report Cards"): LLM's die door mensen geschreven reviews analyseren tegen criteria (dekking, specificiteit, bewijs, toon) om gestructureerde feedback aan reviewers te geven.
Content Provenance & Authenticiteit: Methoden (bijv. statistische analyse van perplexiteit, watermarking) om door AI gegenereerde tekst te detecteren, hoewel het artikel erkent dat deze momenteel imperfect zijn en menselijk toezicht vereisen.
Besluitvormingsondersteuning voor AC's: Systemen die meerdere reviews synthetiseren, consensus/discrepantie benadrukken en onbeantwoorde zorgen signaleren om de voorbereiding van de meta-review te assisteren.

2.2. De Kritieke Datakloof

Het artikel stelt dat huidige publieke datasets onvoldoende zijn voor het trainen van geavanceerde AI-assistenten omdat ze een gebrek hebben aan gestructureerde deliberatie-traces. Huidige data leggen uitkomsten (scores) vast, maar niet het redeneren daarachter. De auteurs betogen dat het ontwikkelen van robuuste AI vereist:

Gestructureerd Redeneren van de Reviewer: Expliciete data over waarom scores veranderden na een rebuttal.
Interactie-traces: Semantische annotaties van dialooghandelingen (verduidelijking, toegeving) en links tussen de punten uit de rebuttal en specifieke secties van het manuscript.
AC Deliberatie-traces: Geanonimiseerde data over hoe AC's conflicterend bewijs wegen.
Voorgestelde Oplossing: Het artikel roept op tot "actieve elicitatie-interfaces" (bijv. laagdrempelige prompts die reviewers vragen om scorewijzigingen te rechtvaardigen) en een model met gelaagde toegang voor privacy-bewuste dataverzameling.

3. Illustratieve Experimenten en Resultaten

De auteurs voerden voorlopige experimenten uit op ICLR 2019–2025 corpora om het potentieel en de huidige beperkingen van LLM's aan te tonen.

3.1. Generatie van Reviewcomponenten

Taak: Met behulp van few-shot prompting genereerden LLM's sterktes, zwaktes en belangrijke punten uit de rebuttal vanuit papers en reviews.
Resultaten:
- Sterktes: Hoge recall (0.927 ± 0.060 voor ICLR 2025).
- Zwaktes: Lagere recall (0.632 ± 0.000 voor ICLR 2025), wat wijst op een "kritisch denk-kloof" waarbij modellen moeite hebben om niet-voor-de-hand liggende gebreken te identificeren.
- Rebuttals: Hande recall (0.911 ± 0.040).
Interpretatie: LLM's kunnen inhoud goed samenvatten, maar hebben moeite met diepe kritische evaluatie, wat de noodzaak voor menselijk toezicht bevestigt.

3.2. Voorspelling van Ratings

Taak: Gebruikmakend van In-Context Learning (ICL) met variërende aantallen voorbeelden ( $n=0$ tot $3$), voorspelden LLM's initiële ratings, finale ratings en scorewijzigingen.
Resultaten:
- Initiële Ratings: Hoge Mean Absolute Error (MAE $\approx$ 2.28 met $n=2$ ).
- Finale Ratings: Lagere MAE ( $\approx$ 0.67 met $n=1$ ), wat suggereert dat modellen beter presteren wanneer ze context uit de review krijgen.
- Voorspelling van Scorewijziging: Bleef moeilijk (MAE $\approx$ 0.73–0.93).
Interpretatie: De hoge foutmarges worden toegeschreven aan niet fundamentele LLM-beperkingen, maar aan het gebrek aan gestructureerde redeneerdata in huidige publieke datasets. Zonder expliciete traces van waarom een score veranderde, worden modellen gedwongen om uitkomsten te "raden" in plaats van de onderliggende oordeelslogica te leren.

4. Belangrijkste Bijdragen

Positioneel Argument: Het artikel stelt dat AI-ondersteunde peer-review een urgente infrastructurele prioriteit is om de schaalbaarheidscrisis aan te pakken, waarbij men verder kijkt dan geïsoleerde tools naar een samenhangend ecosysteem.
Ecosysteem Architectuur: Het definieert specifieke rollen voor AI op vier gebieden:
- Reviewers: Verbeteren van de feitelijke strengheid, het bieden van "Report Cards" voor zelfverbetering en het detecteren van AI-gegenereerde content.
- Auteurs: Bieden van feedback vóór indiening, het simuleren van diverse reviewer-persona's en hulp bij de constructie van de rebuttal.
- Area Chairs: Ondersteuning bij besluitvorming, het signaleren van conflicten en assistentie bij het opstellen van de meta-review.
- Proces: Het instrumenteren van de workflow om causale traces van wetenschappelijk oordeel te vangen.
Data Agenda: Het identificeert de "belangrijkste korte-termijn bottleneck" als het gebrek aan fijnmazige, ethisch verkregen procesdata (rationales, deliberatie-traces) in plaats van enkel modelarchitectuur alleen.
Experimentele Baseline: Het levert initieel empirisch bewijs voor de capaciteiten en beperkingen van LLM's bij peer-review taken, waarbij de kloof tussen huidige publieke data en de behoeften van geavanceerde AI wordt benadrukt.

5. Betekenis en Claims

Het artikel beweert dat de ML-gemeenschap uniek gepositioneerd is om dit probleem op te lossen omdat ML-onderzoek een "extreme case" is van inzending-volume en al zeer geïnstrumenteerd is (digitale platforms, code-artefacten).

Human-in-the-Loop: De kernclaim is dat AI het menselijk oordeel moet versterken, niet vervangen. Mensen moeten de "senior partners" blijven en de uiteindelijke arbiter van wetenschappelijke geldigheid en auteurschap.
Sociotechnische Uitdaging: Het artikel frameert het schalen van peer-review als een sociotechnisch probleem dat een principiële co-design van AI-tools en benchmark-infrastructuur vereist.
Integriteit en Schaalbaarheid: Het uiteindelijke doel is het bouwen van een systeem dat hoge standaarden van peer-review behoudt terwijl het schaalt om exponentiële groei aan te kunnen, om zo de voortdurende integriteit van wetenschappelijke validatie te waarborgen.
Beperkte Omvang: De auteurs verklaren expliciet dat zij geen gedeplyoed systeem voorstellen of beweren dat huidige modellen klaar zijn voor gatekeeping. In plaats daarvan roepen zij op tot een onderzoeksagenda om de nodige tools, data en ethische kaders te ontwikkelen om een dergelijk ecosysteem levensvatbaar te maken.