A Vision for the Future of an AI-Integrated Research Ecosystem

Stel je de wereld van de wetenschap voor als een enorme, bruisende bibliotheek waar onderzoekers de auteurs, redacteuren en bibliothecarissen zijn. Lange tijd draaide deze bibliotheek volgens een eenvoudige regel: mensen schrijven de boeken, mensen controleren de feiten en mensen beslissen wat er gepubliceerd wordt. Maar onlangs is er een nieuw soort helper gearriveerd: Generatieve AI. Denk aan een supersnelle, superslimme robotassistent die concepten kan schrijven, feiten kan opzoeken en zelfs hele boeken in seconden kan samenvatten. Hoewel dit klinkt als een droom die uitkomt om dingen sneller af te krijgen, heeft het een lichte paniek in de bibliotheek veroorzaakt. Iedereen vraagt zich af: "Als een robot hielp bij het schrijven van het boek, wie is dan de echte auteur? Is het verhaal waar? En als robots ook de boeken gaan controleren, eindigen we dan met een bibliotheek vol onzin?" Dit artikel stapt in die chaos om een grotere vraag te stellen: in plaats van alleen te proberen mensen te betrappen op het gebruik van robots, hoe kunnen we de hele bibliotheek zo herontwerpen dat vertrouwen vanaf het begin is ingebouwd?

De auteurs, Ryan E. Dougherty en Natalie Kiesler, zijn niet alleen maar aan het gissen; ze kijken naar de barsten in het huidige systeem. Ze stellen dat de huidige focus op het "politiewerk" rondom AI — ervoor zorgen dat mensen toegeven wanneer ze het hebben gebruikt — is alsof je probek een lekkend dak probeert te repareren door alleen een emmer onder de druppel te zetten. Het is noodzakelijk, maar het stopt de regen niet. Ze suggereren dat het echte probleem is dat de hele manier waarop we wetenschap delen (artikelen, beoordelingen en beloningen) al worstelt, en AI de druk alleen maar verhoogt.

Om ons te helpen begrijngen waar we naartoe gaan, nodigen de auteurs ons uit op een reis naar het jaar 2036 om naar twee zeer verschillende toekomsten te kijken.

De Lichte Toekomst
Stel je een onderzoeker voor in 2036 die iets verbazingwekkends ontdekt over hoe je moet programmeren. In deze wereld besteedt hij geen jaar aan het vechten door de papierwinkel. In plaats daarvan fungeren AI-tools als een supergeorganiseerd team van assistenten. Ze controleren onmiddellijk de wiskunde, verifiëren de gegevens en verbinden de nieuwe ontdekking met alles wat we al weten. Een menselijke expert stapt vervolgens in om de grote vragen te stellen: "Is dit eigenlijk belangrijk? Is het logisch?" In deze toekomst is het "artikel" niet alleen een statisch document; het is een levend, ademend object dat verbonden is met de ruwe data en de code. Kennis stroomt sneller, is makkelijker te vinden en is betrouwbaarder omdat de AI het saaie, foutgevoelige werk afhandelt, waardoor mensen zich kunnen concentreren op het grote plaatje.

De Donkere Toekomst
Stel je nu een andere versie van 2036 voor. Hier verzuipt de bibliotheek. AI produceert elke dag miljoenen wetenschappelijke artikelen en beoordelingen. Geen mens kan ze allemaal lezen, dus ze vertrouwen op andere AI om de samenvattingen van de samenvattingen te maken. Het volume van de "wetenschap" is enorm, maar niemand weet wat echt is en wat nep. De druk om te publiceren is krankzinnig en het vertrouwen in het systeem is ingestort. In dit scenario is de uitdaging niet het doen van nieuwe ontdekkingen; het is uitzoeken welke je kunt geloven. De mensen zijn uitgeput, terwijl ze proberen het systeem bij elkaar te houden, maar het lawaai is te hard om de waarheid te horen.

De auteurs gebruiken deze twee verhalen om een fundamentele spanning te benadrukken: dezelfde technologie die de wetenschap transparant kan maken, kan het ook een puinhoop van leugens maken als we niet veranderen in hoe we de dingen doen. Ze beweren niet dat een van deze toekomsten gegarandeerd is; in plaats daarvan gebruiken ze ze om aan te tonen dat we nú een keuze moeten maken.

De Vier Grote Vragen
Om deze keuze te navigeren, suggereren de auteurs dat we vier hoofdzaken opnieuw moeten bedenken:

1. Zijn "artikelen" nog wel de juiste manier om ideeën te delen?
   Momenteel is een wetenschappelijk artikel als een gecomprimeerde snapshot van een project. Het gaat ervan uit dat de lezer de ruwe data of de code erachter niet kan zien. Maar vandaag de dag hebben we de middelen om alles te delen. De auteurs suggereren dat het "artikel" niet langer de hoofdrol moet spelen. In plaats daarvan zou het echte onderzoeksobject de data en de code zelf moeten zijn, die gemakkelijk te vinden en te hergebruiken moeten zijn (een concept dat zij "FAIR" noemen). Het artikel zou slechts één manier moeten zijn om het verhaal van die data te vertellen. Als we dit doen, wordt het duidelijk waar AI heeft geholpen en waar mensen het zware werk hebben gedaan.

2. Hoe zou een "beoordeling" eruit moeten zien?
   Op dit moment is peer review (waarbij experts een artikel controleren voordat het gepubliceerd wordt) kapot. Studies laten zien dat verschillende groepen beoordelaars vaak totaal van mening verschillen over dezelfde artikelen. Soms zijn beoordelingen slechts willekeurige gissingen. Bovendien zijn beoordelaars vaak anoniem en onbetaald, wat leidt tot slordige of zelfs door AI gegenereerde beoordelingen die erdoorheen glippen. De auteurs betogen dat een beoordeling niet alleen een oordeel moet zijn (geslaagd of gezakt); het moet op zichzelf een waardevolle bijdrage zijn. We moeten beoordelingen behandelen als echte wetenschappelijke arbeid: geef de beoordelaars krediet, controleer hun werk en zorg ervoor dat ze daadwerkelijk helpen, in plaats van alleen maar vinkjes te zetten.

3. Hebben we nog menselijke beoordelaars nodig?
   De auteurs suggereren dat AI geweldig is in de saaie delen van het beoordelen, zoals controleren of een citatie echt is of of de wiskunde klopt. Maar mensen zijn nodig voor de "ziel" van de beoordeling: oordelen of het idee belangrijk, eerlijk en creatief is. Als AI de verificatie doet, hebben we misschien minder mensen nodig die hetzelfde tedieuze werk doen. Echter, we hebben absoluut mensen nodig om vooroordelen te herkennen en te beslissen wat ertoe doet. Het gevaar is dat als we AI alles laten doen, we de menselijke oordeelsvorming kunnen verliezen die de wetenschap eerlijk houdt.

4. Wiens belangen dienen we?
   Iedereen in het systeem wil andere dingen: auteurs willen snel publiceren, beoordelaars willen minder werk en redacteuren willen artikelen van hoge kwaliteit. AI maakt het gemakkelijk om de vervelende delen van ieders werk te automatiseren, maar als we allemaal onze weg automatiseren om hard werk te vermijden, zal het hele systeem weliswaar versnellen, maar leert het niets. De auteurs betogen dat we de regels moeten veranderen zodat het doen van goede, eerlijke wetenschap wordt beloond, en niet alleen het snel uitvoeren van taken.

Drie Grote Uitdagingen
De auteurs concluderen dat we dit niet simpelweg met één enkel hulpmiddel kunnen "oplossen". Ze stellen drie grote uitdagingen voor die de gemeenschap samen moet aanpakken:

• Gecalibreerd Vertrouwen: We hebben een manier nodig om te meten hoe betrouwbaar AI-tools zijn. Op dit moment is zeggen "AI heeft geholpen" slechts een bewering. We hebben standaardtests nodig om te zien hoe vaak een AI feiten verzint of fouten mist, zodat we weten wanneer we het kunnen vertrouven.
• Herkomst (Het Papierspoor): We hebben systemen nodig die automatisch vastleggen welke tools precies zijn gebruikt en hoe. Stel je een digitaal bonnetje voor dat bij elk artikel komt, dat precies laat zien waar AI werd gebruikt en waar mensen de regie namen. Dit moet ingebouwd worden in de software die onderzoekers gebruiken.
• Integriteit in een Synthetische Wereld: Wanneer AI alles kan schrijven, kunnen we niet alleen vertrouwen op het "detecteren" van AI om misbruik te stoppen. Dat is een verloren strijd. In plaats daarvan moeten we een cultuur opbouwen waarin de waarde van het werk duidelijk is, ongeacht wie of wat het geschreven heeft.

De Weg Vooruit
Het artikel biedt geen toverstaf. In plaats daarvan suggereert het een verschuiving in de mindset. We moeten stoppen met het proberen te politien van AI en beginnen met het bouwen van de infrastructuur die betrouwbare wetenschap de standaard maakt. Dit betekent dat we data net zozeer moeten waarderen als artikelen, beoordelingen als echt werk moeten behandelen en nieuwe manieren moeten creëren om vertrouwen te meten.

De auteurs eindigen met een oproep tot actie voor de hele gemeenschap: laten we een groot gesprek voeren over wat we als wetenschappers eigenlijk waarderen. Willen we snelheid, of willen we waarheid? Willen we meer artikelen, of betere ideeën? De technologie zal ons in beide gevallen sneller maken, maar of het ons beter maakt, hangt af van de keuzes die we vandaag maken. De toekomst van de wetenschap gaat niet alleen over wat de robots kunnen doen; het gaat over wat wij, als mensen, besluiten ermee te bouwen.