AI-Augmented Science and the New Institutional Scarcities
Dit artikel betoogt dat, aangezien AI bekwame oordelen tegen bijna nihilale marginale kosten genereert, wetenschappelijke instellingen moeten overstappen van louter aanpassing aan AI naar het herontwerpen van hun certificeringsinfrastructuur om nieuwe schaarsten aan geverifieerd signaal, legitimiteit, authentieke herkomst en, het meest cruciaal, de integratiecapaciteit van de gemeenschap voor gedelegeerde cognitie aan te pakken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je de wereld van de wetenschap voor als een enorme fabriek met hoge inzet. Gedurende eeuwen was het waardevolste product van deze fabriek niet de grondstoffen (data) of de machines (computers); het was oordelen.
Wetenschappers en instellingen zoals universiteiten en tijdschriften waren de "kwaliteitscontroleurs". Hun taak was om een nieuw idee te bekijken, te beslissen of het waar was en het te stempelen met een "Gecertificeerd"-zegel. Dit was zwaar werk, en omdat menselijke aandacht beperkt is, was er van nature een tekort aan goede controleurs. Dit tekort hield het systeem soepel draaiende.
De AI-revolutie: De "nep"-controleur
Nu is AI aangekomen. Maar het heeft niet alleen de controleurs sneller gemaakt; het heeft een stroom van competent ogende controleurs gecreëerd die bijna niets kosten om te runnen.
Stel je het zo voor: Stel je een bakkerij voor waar de oude regel was: "We verkopen alleen brood als een meesterbakker het eerst heeft geproefd." Plotseling verschijnt er een robot die een miljoen broden per seconde kan proeven en zegt: "Dit ziet er heerlijk uit!" Het probleem is dat de robot alleen maar gokt op basis van patronen. Het kan een review schrijven die perfect klinkt, een nep-wetenschappelijke studie rangschikken of een subsidieaanvraag opstellen die eruitziet als briljant maar geen echte substantie heeft.
Het artikel stelt dat de oude economische regel ("AI maakt voorspellingen goedkoop, maar menselijk oordeel blijft duur") voor de wetenschap niet meer geldt. In de wetenschap is het "product" het oordeel zelf. Wanneer AI een miljoen nep-oordelen gratis kan produceren, stort het oude systeem in.
De vier nieuwe knelpunten
Wanneer iedereen direct "goed uitziende" wetenschap kan produceren, worden vier nieuwe dingen zeldzaam en kostbaar. Dit zijn de nieuwe knelpunten die de wetenschap moet oplossen:
Geverifieerd signaal (De "bewijs van leven"):
- De metafoor: Stel je een wereld voor waarin iedereen een nep $100-biljet kan printen dat perfect lijkt. Het enige wat nu telt, is het veiligheidskenmerk dat bewijst dat het echt is.
- De wetenschap: Een artikel dat door een mens is "ge-reviewd" is niet langer genoeg. De nieuwe gouden standaard is een artikel waarbij de resultaten zijn opnieuw uitgevoerd en geverifieerd door code. Het schaarse goed is niet langer de mening; het is het bewijs dat de wiskunde daadwerkelijk werkt.
Legitimiteit (De "vertrouwensbank"):
- De metafoor: Denk aan de reputatie van een bank. Als de bank begint nepcheques te accepteren, verliest het niet alleen geld; het verliest zijn licentie om te bestaan.
- De wetenschap: Wetenschappelijke tijdschriften en conferenties hebben een "reputatiebudget". Elke keer dat ze een artikel publiceren dat nep blijkt te zijn of niet reproduceerbaar, geven ze een beetje van dat budget uit. Als ze het helemaal opgebruiken, worden ze irrelevant. Het schaarse goed is de arbeid die nodig is om vertrouwen te behouden, niet alleen de daad van publiceren.
Authentieke herkomst (De "bon"):
- De metafoor: Als je een schilderij koopt, wil je weten wie het heeft geschilderd, welke verf ze gebruikten en wie het eerder bezat. Als het schilderij door een robot is gemaakt, heb je een digitale bon nodig die precies aangeeft welke robot en welke data het gebruikte.
- De wetenschap: Momenteel vertelt een wetenschappelijk artikel je niet of een AI het heeft geschreven, op welke data het is getraind of welke prompts zijn gebruikt. De nieuwe schaarste is een volledig, onbreekbaar verslag van hoe een wetenschappelijke claim tot stand is gekomen, van de code tot de menselijke bewerkingen.
Integratiecapaciteit (Het "vertrouwensplafond"):
- De metafoor: Stel je een stad voor waar mensen robots hun auto's laten besturen. In het begin is dat prima. Maar als 90% van de auto's door robots wordt bestuurd, kunnen mensen de wegen helemaal niet meer vertrouwen en stoppen ze helemaal met rijden. Er is een limiet aan hoeveel delegatie een gemeenschap kan hanteren voordat ze in paniek raken.
- De wetenschap: Dit is het meest kritieke knelpunt. Het is de tolerantie van de gemeenschap om AI het denken te laten doen. Als een tijdschrift te veel door AI gegenereerde artikelen accepteert, zullen lezers, artsen en beleidsmakers het niet meer vertrouwen. Je kunt dit niet kopen met betere software; het is een sociale limiet.
De oplossing: De fabriek opnieuw ontwerpen
Het artikel concludeert dat de oplossing niet ligt in het sneller maken van de AI of het automatiseren van het reviewproces nog meer. Dat zou alleen maar de chaos versnellen.
In plaats daarvan moeten we de fabriek opnieuw ontwerpen.
- Stop met het tellen van snelheid: Automatiseer niet alleen de wachtrij van artikelen die moeten worden gelezen.
- Begin met het tellen van bewijs: Creëer een systeem waarbij artikelen alleen worden geaccepteerd als ze een "geverifieerd" stempel (opnieuw uitgevoerde code) en een volledige "bon" (herkomst) hebben.
- Bouw een gedeeld veiligheidsnet: Creëer een door de gemeenschap bezit systeem (een "commons") waarbij het zware werk van het controleren van feiten wordt gedeeld, zodat kleinere of armere instellingen niet worden achtergelaten.
De kernboodschap
Het artikel waarschuwt dat de toekomst van de wetenschap niet zal toebehoren aan de tijdschriften die het grootste aantal artikelen het snelst kunnen verwerken. Het zal toebehoren aan diegenen die kunnen bewijzen dat hun artikelen echt zijn.
Het produceren van een "slim klinkende" wetenschappelijke claim is nu het goedkoopste deel van de wetenschap. Het produceren van een legitieme, betrouwbare claim wordt het duurste en belangrijkste deel. De AI/ML-gemeenschap is de eerste die met deze crisis wordt geconfronteerd, en zij moeten hun eigen huis op orde brengen voordat de rest van de wetenschap volgt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.