🔬 physics

The Evolutionary Dynamics of AI, Politicization, Contestation, and Trust in Science Funding

Dit artikel maakt gebruik van een evolutionair speltheoretisch model om aan te tonen dat de perceptie van politieke inmenging in wetenschappelijke financiering een cascade aan weerstand onder wetenschappers kan triggeren, wat leidt tot uiteenlopende institutionele uitkomsten waarbij operationele capaciteit en publieke legitimiteit worden beheerst door afzonderlijke, vaak ontkoppelde condities die zwaar worden beïnvloed door de publieke acceptatie van door AI ondersteunde beoordelingssystemen.

Oorspronkelijke auteurs: Animesh Ray

Gepubliceerd 2026-07-30

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Animesh Ray

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een gigantisch, hoogst spectaculair spel van "Laat zien en vertel" voor dat de motor van onze moderne wereld aandrijft. In dit spel bedenken briljante wetenschappers wilde ideeën voor nieuwe medicijnen, schonere energie en snellere computers. Om het geld te krijgen om deze ideeën te bouwen, moeten ze een panel van experts ervan overtuigen dat hun plannen goed zijn. Dit proces wordt peer review genoemd, en het is de poortwachter die beslist welke projecten financiering krijgen en welke met lege handen naar huis gaan. Voor dit systeem om te werken, moeten er twee dingen gebeuren: eerst moeten de experts daadwerkelijk het werk doen van het lezen van de voorstellen (capaciteit), en ten tweede moeten wij — het publiek — geloven dat het proces eerlijk is en niet gemanipuleerd door politici (legitimiteit). Als het publiek denkt dat het spel oneerlijk is, stoppen ze met het vertrouwen in de resultaten, en kan het hele systeem instorten, zelfs als de wetenschappers nog steeds hun werk doen.

Stel je nu voor dat de overheid besluit om de boel te versnellen door een super-snelle robotrechter (Artificiële Intelligentie) in te zetten om te helpen bij het lezen van de voorstellen, vooral als de menselijke experts beginnen te klagen dat het systeem oneerlijk is. Dit is waar een nieuw onderzoek van Animesh Ray om de hoek komt kijken. De auteur bouwde een complexe computersimulatie — een digitale zandbak — om te zien wat er gebeurt wanneer wetenschappers, het publiek en de financieringsinstantie allemaal op elkaar reageren in een chaotische, gepolitiseerde omgeving. De studie suggereert dat het simpelweg vervangen van mensen door robots het probleem niet oplost; het creëert in feite een "zombie"-versie van de financieringsinstantie die weliswaar beslissingen blijft uitspugen, maar al haar ziel en publiek vertrouwen heeft verloren.

De Digitale Zandbak: Een Spel van Strategie

In deze simulatie behandelt de auteur de wereld van financiering als een drie-weg touwtrekken waarbij Wetenschappers, het Publiek en de Financieringsinstantie betrokken zijn.

De Wetenschappers hebben een paar zetten. Ze kunnen zich netjes gedragen, het werk van hun collega's beoordelen en hun eigen voorstellen indienen. Maar als ze het gevoel hebben dat het systeem gemanipuleerd of oneerlijk is, kunnen ze een protest starten. Ze kunnen weigeren iemands werk te beoordelen, of ze kunnen proberen het systeem te "overstromen" door een enorm aantal voorstellen in te dienen, puur om de leidingen te verstoppen. Het is alsof een groep kinderen in een spel besluit om ofwel volgens de regels te spelen, ofwel, in een vlaag van ergernis, tegelijkert[?] duizend ballen naar de scheidsrechter te gooien.

Het Publiek kijkt nauwlettend toe. Ze willen weten of het spel eerlijk is. Als ze zien dat de instantie te veel op de robotrechter (AI) vertrouwt zonder een goede uitleg, of als ze zien dat wetenschappers ruzie maken, kunnen ze het vertrouwen in het geheel verliezen. Ze kunnen het nieuwe systeem accepteren, het afwijzen, of zelfs proberen te procederen (litigeren) om het te stoppen.

De Financieringsinstantie is de scheidsrechter die probeert het spel gaande te houden. Het heeft een beperkt budget en een groeiende stapel voorstellen. Wanneer de wetenschappers beginnen te protesteren, probeert de instantie dit op te lossen door twee dingen te doen: de menselijke beoordelaars meer geld te betalen om hen tevreden te houden, en het volume van de AI-robotrechter op te draaien om de achterstand sneller weg te werken.

De Grote Verrassing: De "Zombie"-instantie

De simulatie onthulde enkele opmerkelijke en contra-intuïtieve resultaten. De belangrijkste bevinding is dat operationele capaciteit (hoeveel voorstellen worden verwerkt) en institutionele legitimiteit (hoeveel het publiek het systeem vertrouwt) twee aparte zaken zijn die onafhankelijk van elkaar kunnen falen.

De studie suggereert dat een instantie succesvol AI kan gebruiken om een enorme achterstand aan voorstellen weg te werken, waardoor het geld blijft stromen en de robots op volle snelheid blijven werken. Echter, op exact hetzelfde moment kan het publiek het volledig vertrouwen in het systeem verliezen en de beslissingen als illegitiem beschouwen. De auteur noemt dit een "zombie"-toestand: de instelling is technisch gezien levend en in beweging, maar haar autoriteit is dood. Het is als een restaurant dat extreem snel eten serveert omdat een robot kookt, maar de klanten haten het eten en de chef, dus ze komen niet meer opdagen, ook al draait de keuken op 100% capaciteit.

De "Voorsteloverstroming" en de Budgetval

Een van de meest levendige scenario's die het artikel onderzoekt, is wat er gebeurt als wetenschappers boos worden. In plaats van alleen maar te weigeren te werken, kunnen ze besluiten het systeem te "overstromen" met duizenden extra voorstellen. De simulatie laat zien dat deze strategie ongelooflijk effectief is in het breken van het systeem. Zelfs als de AI-robot super-snel is, kan hij het niet bijhouden als de wetenschappers steeds meer en meer voorstellen op hem afvuren.

Hier komt de wending: de instantie probeert dit op te lossen door de menselijke beoordelaars meer geld te betalen om hen weer aan boord te krijgen. Maar de studie suggereft dat dit kan averwerken. Als het publiek ziet dat de instantie tijdens een crisis enorme "noodbetalingen" aan wetenschappers uitdeelt, kunnen ze dit zien als een omkoping. Die perceptie kan het laatste beetje vertrouwen dat er nog was, vernietigen, waardoor de situatie erger wordt. Bovendien zorgt het betalen van de mensen meer om de budgetten uit te putten, wat betekent dat er minder geld overblijft om de AI-robots te betalen, wat een vicieuze cirkel creëert waarin de instantie de middelen niet heeft om het probleem dat ze probeert op te lossen, op te lossen.

De Rol van Toeval en Timing

Het artikel benadrukt ook dat de uitkomst niet altijd voorspelbaar is. In de simulatie konden identieke startcondities tot totaal andere eindes leiden, simpelweg door kleine, willekeurige verschillen in hoe mensen in het begin reageerden. Soms kon een beetje extra vertrouwen aan het begin het systeem redden; andere keren kon een klein vonkje van wantrouwen leiden tot een totale instorting. De studie suggereelt dat zodra het systeem in een "zombie"-toestand of een totale instorting terechtkomt, het zeer moeilijk is om het weer terug te draaien.

Wat het Onderzoek Niet Zegt

Het is belangrijk om op te merken wat dit artikel niet beweert. Het zegt niet dat AI slecht is of dat we het nooit moeten gebruiken. De simulatie laat juist zien dat AI voorstellen effectief kan verwerken. Het probleem is niet de technologie zelf; het is het vertrouwen dat eromheen hangt. De studie zegt ook niet dat wetenschappers inherent slecht zijn of dat ze zeker het systeem zullen overstromen; het suggereert eerder dat als de politieke omgeving slecht genoeg wordt, de prikkel om het systeem te overstromen een rationele keuze voor hen wordt.

De Kernboodschap

In eenvoudige bewoordingen suggereert deze studie dat je een vertrouwenscrisis niet kunt afkopen met snellere robots of grotere salarissen. Als het publiek denkt dat het spel gemanipuleerd is, zal geen enkele hoeveelheid AI-efficiëntie het probleem oplossen. De instantie kan de lichten wel aanhouden en de voorstellen laten doorstromen, maar als de mensen die toekijken het vertrouwen verliezen, wordt het hele bedrijf een holle schil. De belangrijkste les is dat het oplossen van het "vertrouwen"-gedeelte van de vergelijking net zo belangrijk is als het oplossen van het "snelheid"-gedeelte, en dat dit twee verschillende problemen zijn die twee verschillende oplossingen vereisen. Als we geen aandacht besteden aan de menselijke gevoelens en de perceptie van eerlijkheid, riskeren we een wetenschappelijk financieringssysteem te bouwen dat perfect werkt op papier, maar faalt in de echte wereld.

Technische Samenvatting: De Evolutionaire Dynamiek van AI, Politisering, Contestatie en Vertrouwen in Wetenschapsfinanciering

Probleemstelling
Moderne democratische samenlevingen vertrouwen op publieke financiering voor wetenschappelijk onderzoek, een systeem dat gebaseerd is op de twee pijlers van operationele capaciteit (het verwerken van voorstellen) en institutionele legitimiteit (publiek vertrouwen in eerlijkheid). Dit systeem staat bloot aan een dubbele dreiging: de perceptie van politieke inmenging in financieringsbeslissingen en de potentiële vervanging van menselijke peer reviewers door Kunstmatige Intelligentie (AI). Het artikel adresseert een kritische kloof in het begrip van hoe deze factoren met elkaar interageren. Specifiek wordt onderzocht of de operationele efficiëntie die wordt gewonnen door de adoptie van AI, de erosie van institutionele legitimiteit die wordt veroorzaakt door waargenomen politieke bias en de verdringing van menselijke expertise, kan compenseren. De centrale vraag is of capaciteit en legitimiteit gekoppelde of onafhankelijke dynamieken zijn, en hoe zij evolueren wanneer wetenschappers het systeem weerstand bieden (via weigering om te beoordelen of het overstromen van voorstellen) en het publiek reageert op AI-adoptie.

Methodologie
De auteurs maken gebruik van een evolutionair speltheoretisch model om de co-evolutionaire dynamiek te simuleren van drie interagerende populaties:

Wetenschappers: Een populatie die kiest uit vier strategieën: normale participatie ( $N$ ), weigering om te beoordelen ( $R$ ), intensivering/overstroming van voorstellen ( $P$ ), of een combinatie van beide ( $B$ ).
Het Publiek: Een populatie die kiest tussen het accepteren van AI-ondersteunde beoordeling ( $A$ ), het publiekelijk afwijzen daarvan ( $J$ ), of procederen ( $S$ ).
De Financieringsinstantie: Gemodelleerd niet als een evoluerende strategische populatie, maar als een adaptieve controller. Zij past twee beleidsinstrumenten aan in reactie op de andere populaties: het niveau van AI-adoptie ( $\phi$ ) en de financiële vergoeding voor menselijke reviewers ( $\rho$ ), binnen de beperkingen van een eindig budget.

Het systeem wordt gedreven door pairwise-comparison imitation dynamics (Fermi-dynamica), waarbij agenten strategieën adopteren op basis van relatieve payoffs. De Instantie fungeert als een capaciteits-responsieve controller, die de AI-inzet verhoogt om het gat tussen de voorstelbelasting en de menselijke beoordelingscapaciteit te dichten, terwijl zij de vergoeding voor reviewers aanpast om participatie te stimuleren. Het model maakt onderscheid tussen operationele capaciteit (het vermogen om voorstellen te verwerken) en institutionele legitimiteit (publiek vertrouwen), en behandelt deze als aparte staatsvariabelen die onafhankelijk van elkaar kunnen falen.

Simulaties werden uitgevoerd met behulp van deterministische trajecten en eindige-populatie stochastische processen (Wright–Fisher resampling en individuele pairwise-vergelijking). De studie maakte gebruik van parameter sweeps, Latin-hypercube sampling en principal component analysis (PCA) om het regime-landschap in kaart te brengen en attractoren te identificeren.

Belangrijkste Bijdragen en Resultaten

Ontkoppeling van Capaciteit en Legitimiteit:
Het model toont aan dat operationele capaciteit en institutionele legitimiteit verschillende dynamieken volgen en onafhankelijk van elkaar kunnen falen.

Capaciteitsfalen: Zelfs met maximale AI-inzet kan het systeem er niet in slagen achterstanden weg te werken als wetenschappers zich bezighouden met "voorstel-intensivering" (het systeem overstromen met voorstellen terwijl zij weigeren te beoordelen). De beperkende factor is vaak het gedeelde budget: weerstand drijft de vergoeding voor reviewers op, wat het budget uitput, waardoor de Instantie minder in staat is om AI-operaties te financieren, ongeacht de technische AI-capaciteit.
Legitimiteitsfalen: Omgekeerd kan het systeem een volledige operationele herstel bereiken (het wegwerken van achterstanden) terwijl het publieke vertrouwen volledig instort, wat resulteert in een "zombie-instituut" dat technisch wel functioneert, maar geen autoriteit meer bezit.

Het "Voorstel-Overstromingsmechanisme":
In tegen tegen de intuïtie dat wetenschappers primair zouden protesteren door te weigeren te beoordelen, vindt het model dat voorstel-intensivering de dominante vergeldingstrategie is. Wetenschappers kunnen doorgaan met beoordelen (om directe carrière-sancties te vermijden), maar het systeem overstromen met voorstellen. Deze strategie overweldigt het systeem sneller dan AI kan opschalen, wat leidt tot aanhoudende congestie, zelfs wanneer de menselijke weigeringspercentages laag zijn.
Het "Bribe-Signal"-effect van Noodvergoedingen:
Het model identificeert een contra-intuïtieve dynamiek waarbij het verhogen van de vergoeding voor reviewers om samenwerking tijdens een crisis te verzekeren, kan averechts werken. Als het publiek de noodvergoeding waarneemt als een "omkopingspoging" om weerstand te sussen, versnelt dit de erosie van de institutionele legitimiteit. Dit effect is vooral actief in regimes met hoge weerstand waar de vergoeding hoog blijft; in regimes met lage weerstand keert de vergoeding terug naar het basisniveau, waardoor het "bribe-signal" inactief wordt.
Bistabiliteit en Gevoeligheid voor Initiële Condities:
Het systeem vertoont bistabiliteit met betrekking tot legitimiteit. De uiteindelijke staat (herstel versus instorting) wordt niet bepaald door de snelheid van institutioneel herstel of de omvang van de AI-adoptie, maar door de acceptatiedynamiek van het publiek en de initiële condities (bijv. de initiële zaadjes van weerstand).

Stochastische Uitkomsten: In eindige populaties kunnen identieke instituten zeer verschillende loten bereiken (bijv. gezamenlijk overleven, gezamenlijk falen, of legitimiteitsherstel zonder capaciteit) op basis van stochastische drift.
Algoritme-afhankelijkheid: De frequentie van specifieke uitkomsten (zoals de "zombie"-staat) hangt sterk af van het aangenomen ruisproces. Onder een Wright–Fisher resampling-laag komen "zombie"-staten frequent voor; onder een individueel niveau pairwise-vergelijking (Fermi) proces zijn ze afwezig, waarbij het systeem alleen bifurceert tussen "legitimiteitsherstel zonder capaciteit" en "gezamenlijk falen".

Drempelwaarden en Faseovergangen:

Weerstandsdrempel: Weerstands-cascades vlammen op wanneer de politisering boven een kritieke drempel komt in verhouding tot de carrièrekosten van weigering.
Legitimiteitsdrempel: De legitimiteit van AI-beoordeling volgt een scherpe binaire transitie. Het overleeft alleen als de snelheid van publieke acceptatiegroei groter is dan de gecombineerde erosie door afwijzing, procederen en weerstand.
Capaciteitsdrempel: Volledig operationeel herstel vereist dat het product van AI-productiviteit en de inzetplafond groter is dan de voorstel-belasting-multiplier ( $\beta_{AI} \cdot \phi_{max} > \chi$ ).

Betekenis en Claims
Het artikel claimt een rigoureus, kwantitatief kader te bieden voor het begrijpen van de structurele kwetsbaarheden van wetenschapsfinancieringssystemen in het tijdperk van AI en politieke polarisatie. De primaire betekenis ligt in het identificeren dat automatisering niet gelijk staat aan vertrouwen. Het model suggereert dat beleidsmakers niet kunnen vertrouwen op AI om capaciteitscrisissen op te lossen zonder tegelijkertijd de legitimiteitscrisis aan te pakken, aangezien deze twee door verschillende mechanismen worden beheerst.

Het werk benadrukt dat:

Operationele oplossingen (AI) lossen legitimiteitsproblemen niet op: Het herstellen van de doorvoer herstelt automatisch het publieke vertrouwen niet.
Legitimiteitsoplossingen lossen capaciteitsproblemen niet op: Het vergroten van de publieke acceptatie kan vertrouwen herstellen, zelfs terwijl het systeem operationeel verstopt blijft.
Vroege interventie is cruciaal: Omdat het systeem gevoelig is voor initiële condities en stochastische drift, kunnen vroege acties die de publieke acceptatie of de wetenschappelijke weerstand verschuiven, het langetermijnlot van de instantie bepalen.
Beleidsinstrumenten: De meest effectieve instrumenten voor beleid zijn niet noodzakelijkerwijs de snelheid van AI-adoptie of het niveau van de vergoeding voor reviewers, maar eerder het beheer van politisering, het verminderen van de carrièrekosten voor weerstand, en het ontwerp van transparante AI-uitrolprocessen die de winst in publieke acceptatie maximaliseren.

De auteurs concluderen dat de "AI-revolutie" een stresstest vormt voor het sociale contract van de wetenschapsfinanciering. Zonder een heronderhandeling van de vertrouwensmechanismen, riskeert de vervanging van menselijke expertise door geautomatiseerde systemen de institutionele legitimiteit van het gehele financieringsbedrijf te ontrafelen, wat potentieel leidt tot een staat waarin de pijplijn weliswaar blijft functioneren, maar de publieke autoriteit van de wetenschap instort. Het artikel roept expliciet op tot toekomstige empirische kalibratie van de parameters (bijv. de prijsgevoeligheid van experts, de snelheid van vertrouwenherstel) om deze theoretische voorspellingen te verfijnen.