🔬 physics

The Evolutionary Dynamics of AI, Politicization, Contestation, and Trust in Science Funding

Diese Arbeit verwendet ein evolutionäres spieltheoretisches Modell, um zu zeigen, dass die wahrgenommene politische Einflussnahme auf die Wissenschaftsfinanzierung einen kaskadenartigen Widerstand unter Wissenschaftlern auslösen kann, was zu divergierenden institutionellen Ergebnissen führt, bei denen die operative Kapazität und die öffentliche Legitimität durch getrennte, oft entkoppelte Bedingungen bestimmt werden, die stark von der Akzeptanz KI-gestützter Begutachtungssysteme durch die Öffentlichkeit beeinflusst werden.

Ursprüngliche Autoren: Animesh Ray

Veröffentlicht 2026-07-30

📖 7 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Animesh Ray

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich ein riesiges, hochkarätiges Spiel namens „Show and Tell“ vor, das den Motor unserer modernen Welt antreibt. In diesem Spiel kommen brillante Wissenschaftler mit wilden Ideen für neue Medikamente, sauberere Energie und schnellere Computer auf den Tisch. Um das Geld zu erhalten, um diese Ideen zu verwirklichen, müssen sie ein Gremium von Experten davon überzeugen, dass ihre Pläne gut sind. Dieser Prozess wird als Peer-Review bezeichnet, und er ist der Torwächter, der entscheidet, welche Projekte gefördert werden und welche leer ausgehen. Damit dieses System funktioniert, müssen zwei Dinge geschehen: Erstens müssen die Experten tatsächlich die Arbeit leisten, die Vorschläge zu lesen (Kapazität), und zweitens müssen der Rest von uns – die Öffentlichkeit – glauben, dass der Prozess fair und nicht von Politikern manipuliert ist (Legitimität). Wenn die Öffentlichkeit glaubt, dass das Spiel unfair ist, verliert sie das Vertrauen in die Ergebnisse, und das gesamte System kann zusammenbrechen, selbst wenn die Wissenschaftler immer noch ihre Arbeit machen.

Stellen Sie sich nun vor, die Regierung beschließt, die Dinge zu beschleunigen, indem sie einen superschnellen Roboter-Richter (Künstliche Intelligenz) herbeizieht, um beim Lesen der Vorschläge zu helfen – insbesondere, wenn die menschlichen Experten anfangen, sich über das System zu beschweren. Hier setzt eine neue Studie von Animesh Ray an. Der Autor baute eine komplexe Computersimulation – eine digitale Sandkiste – um zu sehen, was passiert, wenn Wissenschaftler, die Öffentlichkeit und die Förderorganisation alle miteinander in einer chaotischen, politisierten Umgebung interagieren. Die Studie legt nahe, dass der bloße Austausch von Menschen gegen Roboter das Problem nicht löst; vielmehr könnte dies eine „Zombie“-Version der Förderorganisation erschaffen, die zwar weiterhin Entscheidungen ausspuckt, aber jegliche Seele und das Vertrauen der Öffentlichkeit verloren hat.

Die digitale Sandkiste: Ein Strategiespiel

In dieser Simulation behandelt der Autor die Welt der Forschungsförderung wie ein dreiseitiges Tauziehen zwischen Wissenschaftlern, der Öffentlichkeit und der Förderorganisation.

Die Wissenschaftler haben einige Spielzüge. Sie können sich anständig verhalten, die Arbeit ihrer Kollegen begutachten und ihre eigenen Vorschläge einreichen. Aber wenn sie das Gefühl haben, dass das System manipuliert oder unfair ist, können sie zu Protesten aufrufen. Sie könnten sich weigern, die Arbeit anderer zu prüfen, oder sie könnten versuchen, das System zu „überfluten“, indem sie eine massive Anzahl an Vorschlägen einreichen, nur um die Leitungen zu verstopfen. Es ist wie eine Gruppe von Kindern in einem Spiel, die entscheiden, entweder nach den Regeln zu spielen oder, in einem Anfall von Trotz, tausend Bälle gleichzeitig auf den Schiedsrichter zu werfen.

Die Öffentlichkeit schaut genau zu. Sie möchte wissen, ob das Spiel fair ist. Wenn sie sehen, dass die Organisation sich zu sehr auf den Roboter-Richter (KI) verlässt, ohne eine gute Erklärung dafür zu liefern, oder wenn sie sehen, dass die Wissenschaftler streiten, könnten sie das Vertrauen in das Ganze verlieren. Sie können das neue System akzeptend annehmen, es ablehnen oder sogar versuchen, rechtlich dagegen vorzugezugehen (zu klagen), um es zu stoppen.

Die Förderorganisation ist der Schiedsrichter, der versucht, das Spiel am Laufen zu halten. Sie verfügt über ein begrenztes Budget und einen wachsenden Stapel an Vorschlägen. Wenn die Wissenschaftler zu protestieren beginnen, versucht die Organisation das Problem zu lösen, indem sie zwei Dinge tut: Sie zahlt den menschlichen Gutachtern mehr Geld, um sie bei Laune zu halten, und sie dreht die Lautstärke des KI-Roboter-Richters hoch, um den Rückstau schneller abzuarbeiten.

Die große Überraschung: Die „Zombie“-Organisation

Die Simulation offenbarte einige überraschende und kontraintuitive Ergebnisse. Die wichtigste Erkenntnis ist, dass operative Kapazität (wie viele Vorschläge bearbeitet werden) und institutionelle Legitimität (wie sehr die Öffentlichkeit dem System vertraut) zwei getrennte Dinge sind, die unabhängig voneinander versagen können.

Die Studie legt nahe, dass eine Organisation erfolgreich KI einsetzen kann, um einen massiven Rückstau an Vorschlägen abzuarbeiten, das Geld fließen zu lassen und die Roboter mit voller Geschwindigkeit arbeiten zu lassen. Gleichzeitig kann jedoch die Öffentlichkeit völlig das Vertrauen in das System verlieren und die Entscheidungen für illegitim halten. Der Autor nennt dies einen „Zombie“-Zustand: Die Institution ist technisch gesehen am Leben und bewegt sich, aber ihre Autorität ist tot. Es ist wie in einem Restaurant, in dem das Essen unglaublich schnell serviert wird, weil ein Roboter kocht, aber die Kunden das Essen und den Koch hassen und deshalb nicht mehr kommen, obwohl die Küche mit 100 % Kapazität läuft.

Die „Vorschlagsflut“ und die Budgetfalle

Eines der lebhaftesten Szenarien, das die Arbeit untersucht, ist die Frage, was passiert, wenn Wissenschaftler wütend werden. Anstatt einfach nur die Arbeit zu verweigern, könnten sie beschließen, das System mit tausenden zusätzlichen Vorschlägen zu „überfluten“. Die Simulation zeigt, dass diese Strategie äußerst effektiv darin ist, das System zu brechen. Selbst wenn der KI-Roboter superschnell ist, kann er nicht mithalten, wenn die Wissenschaftler immer mehr und mehr Vorschläge auf ihn abfeuern.

Hier kommt die Wendung: Die Organisation versucht, dies zu beheben, indem sie den menschlichen Gutachtern mehr Geld zahlt, um sie wieder ins Boot zu holen. Doch die Studie legt nahe, dass dies nach hinten losgehen kann. Wenn die Öffentlichkeit sieht, dass die Organisation während einer Krise enorme „Notzahlungen“ an Wissenschaftler auszahlt, könnte sie dies als Bestechung wahrnehmen. Diese Wahrnehmung kann das letzte verbliebene Vertrauen zerstören und die Situation verschlimmern. Zudem belastet das Bezahlen der Menschen das Budget, was bedeutet, dass weniger Geld übrig bleibt, um die KI-Roboter zu bezahlen, wodurch ein Teufelskreis entsteht, in dem die Organisation das Problem, das sie zu lösen versucht, nicht mehr finanzieren kann.

Die Rolle von Zufall und Timing

Die Arbeit hebt auch hervor, dass der Ausgang nicht immer vorhersehbar ist. In der Simulation konnten identische Ausgangsbedingungen zu völlig unterschiedlichen Enden führen, nur aufgrund kleiner, zufälliger Unterschiede in der Reaktion der Menschen zu Beginn. Manchmal konnte ein kleines bisschen zusätzliches Vertrauen zu Beginn das System retten; ein anderes Mal konnte ein winziger Funke des Misstrauens zum totalen Zusammenbruch führen. Die Studie deutet darauf an, dass es sehr schwer ist, das System wieder zurückzuholen, sobald es einmal in einen „Zombie“-Zustand oder einen totalen Kollaps gerutscht ist.

Was die Studie nicht sagt

Es ist wichtig anzumerken, was diese Arbeit nicht behauptet. Sie besagt nicht, dass KI schlecht ist oder dass wir sie niemals verwenden sollten. Die Simulation zeigt tatsächlich, dass KI Vorschläge effektiv bearbeiten kann. Das Problem ist nicht die Technologie selbst; es ist das Vertrauen, das mit ihr verbunden ist. Die Studie sagt auch nicht, dass Wissenschaftler von Natur aus schlecht sind oder dass sie das System definitiv überfluten werden; vielmehr legt sie nahe, dass, wenn das politische Umfeld schlecht genug wird, das „Anreizmodell“, das System zu überfluten, eine rationale Wahl für sie darstellt.

Das Fazendwort

Vereinfacht ausgedrückt legt diese Studie nahe, dass man eine Vertrauenskrise nicht einfach durch schnellere Roboter oder größere Gehaltsschecks „erkaufen“ kann. Wenn die Öffentlichkeit glaubt, dass das Spiel manipuliert ist, wird keine Menge an KI-Effizienz das Problem lösen. Die Organisation mag zwar das Licht anlassen und die Vorschläge bewegen, aber wenn die Menschen, die zusehen, das Vertrauen verlieren, wird das gesamte Unternehmen zu einer hohlen Hülle. Die zentrale Erkenntnis ist, dass die Lösung des „Vertrauens“-Teils der Gleichung genauso wichtig ist wie die Lösung des „Geschwindigkeits“-Teils, und dass dies zwei verschiedene Probleme sind, die zwei verschiedene Lösungen benötigen. Wenn wir nicht auf die menschlichen Gefühle und die Wahrnehmung von Fairness achten, riskieren wir, ein wissenschaftliches Fördersystem zu bauen, das auf dem Papier perfekt funktioniert, aber in der realen Welt versagt.

Technisches Resümee: Die evolutionäre Dynamik von KI, Politisierung, Kontestation und Vertrauen in die Wissenschaftsfinanzierung

Problemstellung
Moderne demokratische Gesellschaften verlassen sich auf die öffentliche Finanzierung der wissenschaftlichen Forschung – ein System, das auf den zwei Säulen der operativen Kapazität (Bearbeitung von Anträgen) und der institutionellen Legitimität (öffentliches Vertrauen in die Fairness) basiert. Dieses System sieht sich einer dualen Bedrohung gegenüber: der Wahrnehmung politischer Einflussnahme auf Finanzierungsentscheidungen und dem potenziellen Ersatz menschlicher Gutachter durch Künstliche Intelligenz (KI). Die vorliegende Arbeit adressiert eine kritische Lücke im Verständnis darüber, wie diese Faktoren interagieren. Konkret wird untersucht, ob die durch die Einführung von KI gewonnene operative Effizienz die Erosion der institutionellen Legitimität kompensieren kann, die durch wahrgenommene politische Voreingenommenheit und die Verdrängung menschlicher Expertise entsteht. Die zentrale Frage ist, ob Kapazität und Legitimität gekoppelte oder unabhängige Dynamiken sind und wie sie sich entwickeln, wenn Wissenschaftler das System bekämpfen (durch Verweigerung der Begutachtung oder Überflutung mit Anträgen) und die Öffentlichkeit auf die KI-Einführung reagiert.

Methodik
Die Autoren verwenden ein evolutionäres spieltheoretisches Modell, um die koevolutionären Dynamiken von drei interagierenden Populationen zu simulieren:

Wissenschaftler: Eine Population, die zwischen vier Strategien wählt: normale Teilnahme ( $N$ ), Verweigerung der Begutachtung ( $R$ ), Intensivierung/Überflutung von Anträgen ( $P$ ) oder eine Kombination aus beidem ( $B$ ).
Die Öffentlichkeit: Eine Population, die zwischen der Akzeptanz KI-gestützter Begutachtung ( $A$ ), der öffentlichen Ablehnung ( $J$ ) oder der Klage ( $S$ ) entscheidet.
Die Förderorganisation: Modelliert nicht als sich entwickelnde strategische Population, sondern als adaptiver Kontrolleur. Sie passt zwei politische Hebel in Reaktion auf die anderen Populationen an: das Niveau der KI-Adoption ( $\phi$ ) und die finanzielle Vergütung für menschliche Gutachter ( $\rho$ ), begrenzt durch ein endliches Budget.

Das System wird durch paarweiser Vergleichs-Imitationsdynamiken (Fermi-Dynamik) angetrieben, bei denen Agenten Strategien basator auf relativen Payoffs übernehmen. Die Organisation fungiert als kapazitätsreaktiver Kontrolleur, der die KI-Einsatzrate erhöht, um die Lücke zwischen der Antragslast und der menschlichen Begutachtungsleistung zu schließen, während sie gleichzeitig die Bezahlung der Gutachter anpasst, um die Beteiligung zu fördern. Das Modell unterscheidet zwischen operativer Kapazität (Fähigkeit zur Bearbeitung von Anträgen) und institutioneller Legitimität (öffentliches Vertrauen) und behandelt diese als separate Zustandsvariablen, die unabhängig voneinander versagen können.

Simulationen wurden mittels deterministischer Trajektorien und stochastischer Prozesse in endlichen Populationen (Wright–Fisher-Resampling und individueller paarweiser Vergleich) durchgeführt. Die Studie nutzte Parameter-Sweeps, Latin-Hypercube-Sampling und die Hauptkomponentenanalyse (PCA), um die Regime-Landschaft abzubilden und Attraktoren zu identifizieren.

Wesentliche Beiträge und Ergebnisse

Entkopplung von Kapazität und Legitimität:
Das Modell zeigt, dass die operative Kapazität und die institutionelle Legitimität getrennten Dynamiken unterliegen und unabhängig voneinander versagen können.

Kapazitätsversagen: Selbst bei maximalem KI-Einsatz kann das System scheitern, Rückstände abzubauen, wenn Wissenschaftler eine „Antragsintensivierung“ (Überflutung des Systems mit Anträgen bei gleichzeitiger Verweigerung der Begutachtung) betreiben. Die bindende Einschränkung ist oft das gemeinsame Budget: Der Widerstand treibt die Bezahlung der Gutachter in die Höhe, was wiederum das Budget erschöpft und somit die Fähigkeit der Organisation einschränkt, KI-Operationen zu finanzieren, ungeachtet der technischen KI-Kapazität.
Legitimitätsversagen: Umgekehrt kann das System eine vollständige operative Erholung erreichen (Abbau von Rückständen), während das öffentliche Vertrauen vollständig kollabiert, was zu einer „Zombie-Institution“ führt, die technisch zwar funktioniert, aber keine Autorität mehr besitzt.

Der Mechanismus der „Antragsüberflutung“:
Entgegen der Intuition, dass Wissenschaftler primär durch die Verweigerung der Begutachtung Widerstand leisten würden, findet das Modell heraus, dass die Antragsintensivierung die dominante Vergeltungsstrategie ist. Wissenschaftler führen möglicherweise weiterhin Begutachtungen durch (um direkte karrieretechnische Sanktionen zu vermeiden), überfluten die Organisation jedoch mit Anträgen. Diese Strategie überfordert das System schneller, als die KI skalieren kann, was zu anhaltenden Engpässen führt, selbst wenn die menschlichen Verweigerungsraten niedrig sind.
Der „Bestechungs-Signal“-Effekt von Notfallbezahlungen:
Das Modell identifiziert eine kontraintuitive Dynamik, bei der die Erhöhung der Gutachtervergütung zur Sicherung der Kooperation während einer Krise nach hinten losgehen kann. Wenn die Öffentlichkeit die Notfallbezahlung als „Bestechung“ wahrnimmt, um den Widerstand zu unterdrücken, beschleunigt dies die Erosion der institutionellen Legitimität. Dieser Effekt ist primär in Regimes mit hohem Widerstand aktiv, in denen die Bezahlung hoch bleibt; in Regimes mit geringem Widerstand kehrt die Bezahlung zum Basiswert zurück, wodurch das Bestechungs-Signal inaktiv wird.
Bistabilität und Sensitivität gegenüber Anfangsbedingungen:
Das System weist eine Bistabilität hinsichtlich der Legitimität auf. Der Endzustand (Erholung vs. Kollaps) wird nicht durch die Geschwindigkeit der institutionellen Reparatur oder das Ausmaß der KI-Adoption bestimmt, sondern durch die Akzeptanzdynamik der Öffentlichkeit und die Anfangsbedingungen (z. B. anfängliche Widerstandskeime).

Stochastische Ergebnisse: In endlichen Populationen können identische Institutionen aufgrund stochastischen Drifts sehr unterschiedliche Schicksale erleiden (gemeinsames Überleben, gemeinsamer Kollaps oder Legitimitätserholung ohne Kapazität).
Algorithmenabhängigkeit: Die Häufigkeit spezifischer Ergebnisse (wie des „Zombie“-Zustands) hängt stark vom angenommenen Rauschprozess ab. Unter einem Wright–Fisher-Resampling-Layer treten „Zombie“-Zustände häufig auf; unter einem individuellen paarweisen Vergleichsprozess (Fermi) sind sie hingegen nicht vorhanden, wobei das System nur zwischen „Legitimitätserholung ohne Kapazität“ und „gemeinsamem Versagen“ bifurkiert.

Schwellenwerte und Phasenübergänge:

Widerstandsschwelle: Widerstandskaskaden entzünden sich, wenn die Politisierungswerte im Verhältnis zu den Karrierem Verlusten der Verweigerung einen kritischen Schwellenwert überschreiten.
Legitimitätsschwelle: Die Legitimität der KI-Begutachtung folgt einem scharfen binären Übergang. Sie überlebt nur, wenn die Rate des öffentlichen Akzeptanzgewinns den kombinierten Erosionsfaktor aus Ablehnung, Klagen und Widerstand übersteigt.
Kapazitätsschwelle: Eine vollständige operative Erholung erfordert, dass das Produkt aus KI-Produktivität und dem Einsatz-Maximum den Antragslast-Multiplikator übersteigt ( $\beta_{AI} \cdot \phi_{max} > \chi$ ).

Bedeutung und Ansprüche
Das Paper beansprucht, einen rigorosen, quantitativen Rahmen für das Verständnis der strukturellen Schwachstellen von Wissenschaftsfinanzierungssystemen im Zeitalter der KI und der politischen Polarisierung zu bieten. Seine primäre Bedeutung liegt in der Identifizierung der Erkenntnis, dass Automatisierung nicht gleich Vertrauen bedeutet. Das Modell legt nahe, dass politische Entscheidungsträger sich nicht darauf verlassen können, KI zur Lösung von Kapazitätskrisen einzusetzen, ohne gleichzeitig die Legitimitätskrise zu adressieren, da beide durch unterschiedliche Mechanismen gesteuert werden.

Die Arbeit hebt hervor, dass:

Operative Lösungen (KI) Legitimitätsprobleme nicht lösen: Die Wiederherstellung des Durchsatzes stellt das öffentliche Vertrauen nicht automatisch wieder her.
Legitimitätslösungen keine Kapazitätsprobleme lösen: Eine Steigerung der öffentlichen Akzeptanz kann das Vertrauen wiederherstellen, selbst wenn das System operativ verstopft bleibt.
Frühzeitige Intervention entscheidend ist: Da das System empfindlich auf Anfangsbedingungen und stochastischen Drift reagiert, können frühe Maßnahmen, die die öffentliche Akzeptanz oder den wissenschaftlichen Widerstand verschieben, das langfristige Schicksal der Institution bestimmen.
Politische Hebel: Die effektivsten Hebel für die Politik sind nicht notwendigerweise die Geschwindigkeit der KI-Adoption oder das Niveau der Gutachtervergütung, sondern vielmehr das Management der Politisierung, die Reduzierung der Karrieremrisiken bei Widerstand sowie das Design transparenter KI-Rollouts, die den Gewinn an öffentlicher Akzeptanz maximieren.

Die Autoren kommen zu dem Schluss, dass die „KI-Revolution“ einen Stresstest für den Gesellschaftsvertrag der Wissenschaftsfinanzierung darstellt. Ohtlöse die Substitution menschlicher Expertise durch automatisierte Systeme ohne eine Neuverhandlung der Vertrauensmechanismen das Risiko, die institutionelle Legitimität des gesamten Finanzierungswesens zu untergraben, was potenziell zu einem Zustand führt, in dem der Prozess zwar weiterläuft, die öffentliche Autorität der Wissenschaft jedoch kollabiert. Das Paper fordert explizit eine zukünftige empirische Kalibrierung seiner Parameter (z. B. Preissensitivität von Experten, Raten der Vertrauenswiederherstellung), um diese theoretischen Vorhersagen zu verfeinern.