Stellen Sie sich eine Welt vor, in der die Werkzeuge, mit denen wir miteinander kommunizieren, so gut im Schreiben, Lesen und Organisieren werden, dass sie den Papierkram des täglichen Lebens für uns erledigen können. Dies ist das Versprechen von KI-Agenten: Software, die einer Person helfen kann, eine komplexe Regel zu verstehen, ein Formular auszufüllen oder einen Brief an eine Behörde zu schreiben. Jahrzehntelang wussten Experten, dass, wenn es einfacher wird, etwas zu verlangen, mehr Menschen dies auch tun werden. Wenn eine Regierung einen Antrag auf Leistungen leichter auffindbar und ausfüllbar macht, werden sich mehr berechtigte Personen bewerben. Dies ist ein grundlegendes Prinzip der Interaktion von Menschen mit öffentlichen Diensten. Doch nun ist eine neue Frage aufgetaucht. Was passiert, wenn die Werkzeuge, die diese Interaktionen erleichtern, so mächtig werden, dass sie in einer einzigen Sekunde Tausende von Anfragen generieren können? Die Sorge besteht nicht nur darin, dass sich mehr Menschen bewerben, sondern dass das schiere Volumen oder die Komplexität dieser Anfragen die Regierungsbehörden, die für deren Bearbeitung ausgelegt sind, überfordern könnte, was potenziell das System zusammenbrechen lässt oder Beamte dazu zwingt, den Prozess für alle schwieriger zu gestalten.

Ein Forscherteam setzte sich zum Ziel zu untersuchen, ob dieses Szenario bereits stattfindet. Sie prägten einen Begriff für das Phänomen: „agentic flooding“ (agentische Überflutung). Dies beschreibt einen plötzlichen Anstieg der Anzahl oder Komplexität von Anfragen an Regierungsdienste, der durch KI-Agenten verursacht wird und die Kapazität dieser Dienste belastet. Um das Ausmaß des Problems zu verstehen, verließen sich die Forscher nicht auf Spekulationen oder Computermodelle. Stattdessen suchten sie nach realen Belegen. Sie scannten Regierungsdienste in elf verschiedenen Ländern, darunter die USA, Deutschland, das Vereinigte Königreich und Australien. Sie suchten nach jedem Fall, in dem Beamte oder glaubwürdige Nachrichtenquellen auf einen Anstieg der Nachfrage hingewiesen und diesen explizit mit der Nutzung künstlicher Intelligenz verknüpft hatten.

Das Ergebnis war eine Sammlung von vierundachtzig spezifischen Fällen, in denen diese Verbindung hergestellt wurde. Die Forscher fanden heraus, dass dieses Phänomen bereits in einer Vielzahl von Regierungsbereichen auftritt. Das am häufigsten beobachtete Muster war überraschend einfach. In der überwiegenden Mehrheit der Fälle wurde der Anstieg nicht durch vollautonome Roboter verursacht, die eigenständig Websites navigieren. Stattdessen wurde er durch Large Language Models – fortschrittliche Textgenerierungswerkzeuge – angetrieben, die komplexe juristische oder administrative Texte erstellten, die Menschen dann einreichten. In einem Fall in Deutschland beispielsweise sahen Sozialgerichte einen massiven Anstieg von Klagen, bei denen die eingereichten Briefe tausende Seiten lang waren, generiert durch KI, aber von Menschen eingereicht. In einem anderen Fall in Australien stellten Beamte fest, dass es eine Welle von Informationsanfragen gab, die scheinbar von Maschinen geschrieben worden waren. Die Daten legen nahe, dass der primäre Mechanismus darin besteht, dass Menschen KI nutzen, um bessere, längere oder häufigere Anträge zu schreiben, die dann in das System gelangen und die Zeit der menschlichen Mitarbeiter beanspruchen.

Die Forscher fragten dann, welche Dienste am stärksten gefährdet sind. Durch die Analyse ihres Datensatzes identifizierten sie ein klares Muster. Die Dienste, die am anfälligsten für eine Überflutung sind, sind jene, die eine hohe finanzielle Belohnung bieten, aber historisch gesehen schwer zugänglich waren, weil der Antragsprozess komplex oder verwirrend ist. Wenn KI-Agenten die Kosten für die Navigation durch diese Komplexität senken, wird die verborgene Nachfrage freigesetzt. Steuererklärungen, Gerichtsverfahren und Anträge auf Erwerbsminderungsleistungen passen perfekt in diese Beschreibung. Dies sind Dienste, bei denen eine erfolgreiche Beantragung eine signifikante Auszahlung bedeuten kann, bei denen der Papierkram jedoch oft so einschüchternd ist, dass viele Menschen aufgeben. Die Studie legt nahe, dass mit der KI, die den Papierkram einfacher macht, die Zahl der Anträge für diese spezifischen Dienste wahrscheinlich sprunghaft ansteigen wird, was die Systeme, die sie bearbeiten, unter Druck setzt.

Um Regierungen bei der Vorbereitung zu helfen, entwickelten die Forscher eine Methode, um das Risiko für einen gegebenen Dienst zu bewerten. Sie erstellten ein Framework, das zwei Hauptaspekte betrachtet: wie einfach es für eine KI ist, mit dem Dienst zu interagieren, und wie schwierig es für die Regierung ist, das Ergebnis zu handhaben. Wenn ein Dienst lange, freie Texte akzeptiert und kaum Grenzen für die Häufigkeit der Anträge pro Person setzt, ist er hochgradig anfällig. Wenn die zuständige Behörde über ein starres Budget, einen langsamen manuellen Prozess oder eine rechtliche Verpflichtung verfügt, jedes einzelne Wort jeder Anwendung lesen zu müssen, wird die Auswirkung eines Anstiegs schwerwiegend sein. Die Studie deutet darauf hin, dass die derzeitige Belastung zwar handhabbar ist, das Risiko jedoch bei diesen finanziell attraktiven, komplexen Diensten am höchsten ist.

Das Paper untersucht auch, wie Regierungen auf solche Anstiege reagieren könnten. Historisch gesehen versuchen Beamte oft, die Nachfrage zu bremsen, wenn sie sprunghaft ansteigt, indem sie „Reibung“ hinzufügen. Dies könnte bedeuten, eine Gebühr für die Antragstellung zu erheben, einen persönlichen Besuch zu verlangen oder die Anzahl der Anträge, die eine Person senden kann, zu begrenzen. Die Forscher fanden heraus, dass diese Maßnahmen oft effektiv sind, um den Anstieg schnell zu stoppen. Sie bringen jedoch einen hohen Preis mit sich. Das Hinzufügen von Reibung macht den Dienst für alle schwieriger zu nutzen, nicht nur für die KI-Nutzer. Es kann ärmere Menschen oder diejenigen, die weniger technikaffin sind, unverhältnismäßig stark benachteiligen und eine unfaire Barriere zu wesentlichen Dienstleistungen schaffen. In einigen Fällen kann es sogar das Recht auf Zugang zur Justiz untergraben.

Die Autoren argumentieren, dass diese schnellen Lösungen zwar funktionieren, aber nicht die beste langfristige Lösung sind. Ein besserer Ansatz ist es, die Kapazität der Regierung zur Bewältigung der Nachfrage auszubauen. Dies könnte die Neugestaltung des Dienstes zu mehr Effizienz beinhalten, die Nutzung digitaler Identitäten zur Verifizierung der Antragsteller oder sogar den Einsatz von KI auf der Regierungsseite, um die Routineaufgaben zu unterstützen. Die Studie legt nahe, dass Regierungen eine Wahl haben: Sie können auf einen Anstieg reagieren, indem sie das Leben ihrer Bürger erschweren, oder sie können ihre Systeme proaktiv neu gestalten, um der neuen Realität gerecht zu werden. Die Forscher empfehlen drei unmittelbare Schritte. Erstens sollten Regierungen ihre Dienste prüfen, um zu sehen, welche am anfälligsten sind. Zweitens sollten sie digitale Identitätssysteme in die am stärksten exponierten Dienste integrieren, um die Verifizierung der Antragsteller zu erleichtern und Missbrauch einzuschränken. Drittens sollten sie die Gesetze rund um diese Maßnahmen klären, damit sie wissen, was sie tun dürfen, bevor eine Krise eintritt.

Die Studie kommt zu dem Schluss, dass die aktuelle Situation noch kein totaler Zusammenbruch der Regierungsdienste ist, der Trend jedoch klar ist. Die Ära der KI-Agenten, die die Interaktion mit der Regierung erleichtern, ist angebrochen, und mit ihr kommt das Risiko, überfordert zu werden. Die Forschung prognostiziert keine Zukunft, in der Maschinen die Regierung übernehmen, warnt aber davor, dass die derzeitige Art und Weise, wie viele Dienste gestaltet sind, fragil ist. Wenn Regierungen warten, bis die Anstiege unkontrollierbar werden, werden sie wahrscheinlich gezwungen sein, zwischen dem Zusammenbruch des Systems oder der Erschwerung des Zugangs zur Hilfe zu wählen. Das Paper legt nahe, dass Regierungen durch sofortiges Handeln zum Verständnis der Risiken und zur Neugestaltung der Systeme vermeiden können, diesen schwierigen Kompromiss eingehen zu müssen und sicherzustellen, dass die Vorteile der künstlichen Intelligenz allen zugutekommen, anstatt zur Last für die Schwächsten zu werden.