Technische Samenvatting: Mitigeren van LLM-gebaseerde p-hacking door te preregistreren voor de Volgende LLM

Probleemstelling

Large Language Models (LLM's) worden steeds vaker ingezet om data te genereren, te classificeren en te annoteren die ten grondslag ligt aan downstream hypothesetests. Echter, dit gebruik introduceert een ernstige kwetsbaarheid voor p-hacking. In tegenstelling tot traditioneel onderzoek, waarbij de dataverzameling een afzonderlijke fase is, maakt LLM-gebaseerd onderzoek het voor onderzoekers mogelijk om iteratief prompts, decoding-parameters (bijv. temperatuur, top-p) en outputformaten aan te passen totdat een gewenste statistische significantie wordt bereikt. Omdat LLM's altijd toegankelijk zijn, kunnen onderzoekers analyses herhaaldelijk inspecteren en herzien, waardoor ze effectief significantie fabriceren, zelfs wanneer er geen echt effect bestaat.

Dit probleem wordt verergerd door de opkomst van autonome AI-wetenschappers, die end-to-end onderzoek kunnen uitvoeren en zonder menselijke aanwijzing aan p-hacking kunnen doen. Traditionele preregistratie, waarbij onderzoekers zich committeren aan hypothesen en analyseplannen vóór de dataverzameling, faalt in deze context omdat de "data" (LLM-outputs) onmiddellijk na de toezegging gegenereerd en gemanipuleerd kunnen worden. De kernuitdaging is dat bestaande waarborgen niet overdraagbaar zijn naar LLM's, aangezien de flexibiliteit die LLM's krachtig maakt, ze ook gemakkelijk hackbaar maakt.

Methodologie: Het Voorgestelde Protocol

De auteurs stellen een protocol voor om p-hacking te mitigeren door gebruik te maken van twee belangrijke observaties:

1. Niet-overdraagbaarheid: Een prompt of decoding-configuratie die één LLM dwingt om een gewenst label te produceren, faalt vaak om dat te doen op een ander model.
2. Temporele Commitment: Onderzoekers kunnen zich committeren aan een analyseplan voordat het bevestigende model bestaat.

Het protocol bestaat uit vier stappen:

1. Procedure Finaliseren: De onderzoeker voert pilot-experimenten uit met momenteel beschikbare modellen om experimentele procedures, evaluatiecriteria en analyseplannen te bepalen.
2. Procedure Preregistreren: De onderzoeker preregistreert de gefinaliseerde procedures en het analyseplan.
3. In aanmerking komende Modellen Preregistreren: De onderzoeker preregistreert een brede set van toekomstige in aanmerking komende modellen (bijv. specifieke families van meerdere providers) en definieert precieze inclusie-/exclusiecriteria (bijv. prijs per token, benchmarkscores) om te bepalen welke toekomstige release kwalificeert.
4. Evalueren op het Volgende In aan Merkomende Model: Zodra de volgende in aanmerking komende LLM is uitgebracht, voert de onderzoeker de bevestigende analyse uit met de preregistreerde procedure op dit nieuwe model.

Cruciaal is dat het bevestigende model niet bestaat op het moment van de toezegging, wat de onderzoeker verhindert om ertegen te hacken. Het protocol bevat een gedetailleerde sjabloon voor preregistratie (bijv. op AsPredicted) die prompts, decoding-parameters, regels voor de geldigheid van de output en de selectielogica voor het in aan merkomende model specificeert.

Evaluatieontwerp

De auteurs evalueerden het protocol met twee taken waarbij het werkelijke effect door constructie nul is (waardoor zij succesvolle p-hacking konden identificeren):

• Review Classificatie: Het schatten van de proportie AI-gegenereerde tekst in een corpus van 2020 peer reviews (werkelijke prevalentie: 0%).
• Dieet Vergelijking: Het schatten of het tweede van twee opeenvolgende voedsellogs minder calorieën bevat dan het eerste (werkelijke ratio: 50%).

Experimentele Opzet:

• Modellen: 20 modellen van vier providers (OpenAI, Anthropic, Google, xAI).
• Configuraties: 11 verschillende configuraties variërend in promptstructuur, instructiekadering, batching en decoding-parameters.
• Fases:
  • Retrospectief: Evalueerde 14 modellen die werden uitgebracht vóór de preregistratiedatum (25 maart 2026).
  • Preregistratie: De auteurs preregistreerden het volledige protocol, de datasets en 11 configuraties.
  • Prospectief: Evalueerde het eerste in aan merkomende model dat na de preregistratie werd uitgebracht (Grok 4.20) en vijf daaropvolgende modellen.

Metrieken:

• Mitigatiegraad: Het deel van de gevallen waarin een configuratie erin slaagde een model te p-hacken, maar faalde om het volgende uitgebrachte model onder dezelfde configuratie te p-hacken.
• Detectiekracht: Het vermogen van het protocol om ware effecten te detecteren (getest door bekende effectgroottes in de dieet-taak te injecteren) vergeleken met een baseline van hermeting met hetzelfde model.

Belangrijkste Resultaten

• Effectiviteit van Mitigatie:
  • In de Review Classificatie taak zou het protocol de overdracht van p-hacking in 73,9% van de gevallen geblokkeerd hebben (17 van de 23 succesvolle hacks).
  • In de Dieet Vergelijking taak blokkeerde het protocol de overdracht in 72,7% van de gevallen (32 van de 44 succesvolle hacks).
  • In de eigen prospectieve experiment van de auteurs, faalden 6 van de 7 configuraties die de pre-preregistratie model hadden gehackt, in het hacken van het eerste in aan merkomende post-preregistratie model (85,7% mitigatie).
• Robuustheid tegen Strategie:
  • Zelfs wanneer een tegenstander strategisch de configuratie selecteert om te preregistreren (bijv. de configuratie met de hoogste target-label rate op het huidige model of de configuratie die in het verleden het meest gehackt is), bleef de mitigatiegraad boven de 60%.
  • Het beperken van de in aan merkomende set tot een enkele provider (bijv. alleen OpenAI of alleen Anthropic) leverde nog steeds een mitigatiegraad op van ten minste 50%, hoewel de resultaten heterogeen waren vanwege kleinere steekproeven.
• Detectiekracht: Het protocol behoudt het vermogen om echte effecten te detecteren. De detectiegraad voor ware effecten met het volgende model was vergelijkbaar met het hermeten met hetzelfde model, wat aangeeft dat er geen significante afname van de statistische power optreedt.
• Tijdskosten: De mediane wachttijd voor de release van het volgende in aan merkomende model in de studie was ongeveer 10,3 dagen, met een gemiddelde van 14,5 dagen.

Betekenis en Claims

Het artikel beweert dat preregistreren voor de volgende LLM een levensvatbaar en effectief mechanisme is om de geloofwaardigheid van LLM-gebaseerd onderzoek te waarborgen. Door zich te committeren aan een procedure en een set in aan merkomende toekomstige modellen voordat het bevestigende model wordt uitgebracht, nemen onderzoekers de mogelijkheid weg om iteratief te zoeken naar configuraties die gewenste resultaten produceren.

Belangrijke claims zijn onder meer:

• Haalbaarheid: Het protocol is praktisch, vereist slechts een korte wachttijd (mediaan ~10 dagen) en maakt gebruik van bestaande preregistratieplatforms.
• Generaliseerbaarheid: De aanpak werkt over verschillende modelproviders heen en is robuust, zelfs als onderzoekers proberen het systeem te manipuleren door specifieke configuraties of providers te selecteren.
• Vertrouwen: Het protocol verschuift LLM-gebaseerd onderzoek van een open zoektocht over "afsplitsende paden" naar een transparante toezegging, wat een verifieerbaar signaal geeft dat resultaten niet gezocht zijn.
• Autonome AI: Het protocol is bijzonder relevant voor autonome AI-wetenschappers, die geïntegreerd kunnen worden in onderzoekskaders om automatisch procedures vast te leggen voordat bevestigende modellen beschikbaar zijn.

De auteurs erkennen beperkingen en merken op dat het protocol p-hacking vermindert maar niet elimineert, aangezien sommige configuraties over modellen heen kunnen propageren. Bovendien richt de evaluatie zich op binaire classificatietaken; toekomstig werk is nodig om de effectiviteit te beoordelen op multi-class labeling, free-form generatie en regressie-achtige outputs. Het artikel concludeert dat hoewel de aanpak een bescheiden vertraging vereist, het een aantoonbaar betrouwbaar alternatief biedt voor onderzoek dat steunt op LLM-gegenereerde data.