Administrative Law's Fourth Settlement: AI and the Scrutable State

Stellen Sie sich die Regierung als eine riesige, komplexe Maschine vor, die darauf ausgelegt ist, große Probleme zu lösen, wie etwa den Verkehr zu regeln, die Luft sauber zu halten oder Menschen zu helfen, wenn sie krank werden. Seit langem haben die Menschen, die diese Maschine steuern (die Experten in den Behörden), einen schwierigen Job. Sie müssen superintelligent sein und fortschrittliche Werkzeuge nutzen, um komplizierte Probleme zu lösen, aber wenn sie zu klug werden und Werkzeuge verwenden, die zu schwer zu verstehen sind, können normale Menschen und die Richter, die sie kontrollieren, nicht mehr sehen, was eigentlich passiert. Es ist wie bei einem Zauberer, der ein Kaninchen aus einem Hut zieht: Wenn der Trick zu komplex ist, beginnt das Publikum zu fragen: „Ist das echt? Ist das fair? Wer macht das eigentlich?“

Dieses Papier untersucht ein berühmtes Problem in der Regierung namens die „Kapazitäts-Rechenschafts-Falle“ (capability-accountability trap). „Kapazität“ bedeutet die Fähigkeit der Regierung, schwierige, technische Arbeit zu leisten. „Rechenschaftspflicht“ bedeutet die Fähchaft der Öffentlichkeit, diese Arbeit zu verstehen und zu überprüfen. Seit über einem Jahrhundert galt: Immer wenn die Regierung besser darin wurde, schwierige Arbeit zu leisten (wie etwa den Einsatz von Computern oder Statistiken), wurde es für normale Menschen schwieriger zu verstehen, wie sie arbeitete. Um dies zu beheben, begann die Regierung, viel Papierkram und Regeln (Verfahren) hinzuzufügen, um zu beweisen, dass sie ehrlich ist. Aber jetzt gibt es so viel Papierkram, dass die Regierung langsam, verwirrend und schwer zu korrigieren ist. Das Papier argumentiert, dass die Regierung derzeit versucht, sich selbst zu verkleinern, um leichter verständlich zu werden, aber das könnte sie zu schwach machen, um neue, beängstigende Probleme wie den Klimawandel oder Pandemien zu lösen. Die große Frage ist: Können wir ein neues Werkzeug namens Künstliche Intelligenz (KI) nutzen, um die Regierung gleichzeitig superintelligent und supertransparent zu machen?

---

Die Geschichte der Wachstumsschmerzen der Regierung

Dieses Papier erzählt die Geschichte davon, wie die amerikanische Regierung versucht hat, ihre eigene Gehirnleistung in den letzten 140 Jahren zu verwalten. Es argumentt, dass jedes Mal, wenn eine neue Technologie ankommt, die Regierung einen „Wachstumsschub“ in ihrer Fähigkeit, Dinge zu tun, erlebt, aber auch einen „Nebel“ bekommt, der es für normale Menschen schwierig macht, zu sehen, was vor sich geht.

Die ersten drei Abkommen (Die alten Wege)
Der Autor zeichnet drei bedeutende Momente in der Geschichte nach, in denen die Regierung sich anpassen musste:

1. Die Eisenbahn-Ära: Als die Züge zum ersten Mal durch das Land rasten, waren sie zu schnell und komplex für lokale Richter. Die Regierung schuf Expertenkommissionen (wie die ICC), um sie zu verwalten. Um diese Experten zu kontrollieren, hieß es im Gesetz: „Du musst Aufzeichnungen führen und deine Gründe erklären.“ Das funktionierte, leitete aber den Trend ein, immer mehr und mehr Regeln hinzuzufügen.
2. Die Große Depression: Als die Wirtschaft zusammenbrach, musste die Regierung Millionen von Menschen gleichzeitig helfen. Sie nutzten neue statistische Werkzeuge und Lochkartemaschinen, um die Sozialversicherung und andere Programme zu verwalten. Aber da diese Entscheidungen so viele Menschen betrafen, konnten normale Leute die Mathematik dahinter nicht verstehen. Die Lösung war der Administrative Procedure Act (APA), der besagte: „Solange du die richtigen Schritte befolgst und eine schriftliche Spur hinterlässt, bist du auf der sicheren Seite.“
3. Das Computerzeitalter: Als Computer ankamen, um Dinge wie Luftverschmutzung und nukleare Sicherheit zu handhaben, wurden die Probleme noch wissenschaftlicher. Die Regierung begann, komplexe Modelle zu verwenden. Die Gerichte, die erkannten, dass sie die Wissenschaft nicht verstehen konnten, entschieden sich stattdessen dafür, lediglich zu prüfen, ob die Regierung die Regeln befolgt. Dies führte zur berühmten Chevron-Entscheidung, die im Grunde besagte: „Wenn das Gesetz unklar ist, vertrauen wir den Experten, dass sie es herausfinden, solange sie eine gute Begründung haben.“

Die aktuelle Krise: Der „Sedimentzustand“
Jetzt befinden wir uns in einer seltsamen Situation. Die Regierung ertrinkt in Papierkram. Jedes Mal, wenn eine neue Regel hinzugefügt wurde, um die Dinge fair zu gestalten, stapelte sie sich auf die alten Regeln, wie Schichten von Sedimentgestein. Dieser „Sedimentzustand“ hat die Regierung langsam und verwirrend gemacht.

• Das Problem: Die Regierung ist so sehr in Regeln verstrickt, dass sie nicht schnell genug reagieren kann, um neue Probleme zu lösen.
• Die Gegenreaktion: In jüngster Zeit haben der Oberste Gerichtshof und der Präsident begonnen, diese Expertenbehörden abzubauen. Sie sagen: „Wir können nicht verstehen, was diese Experten tun, also werden wir sie auf eine Größe schrumpfen, die wir sehen können.“ Sie nehmen den unabhängigen Experten den Schutz weg und übertragen mehr Macht zurück an den Präsidenten oder die Gerichte.
• Das Risiko: Das Papier warnt, dass dies eine schlechte Idee ist. Indem wir die Regierung kleiner und einfacher machen, nur um sie „skrutinabel“ (leicht ersichtlich) zu machen, könnten wir die Fähigkeit verlieren, die massiven, komplexen Probleme zu lösen, vor denen wir heute stehen, wie den Klimawandel oder neue Krankheiten.

Die neue Lösung: Das „Vierte Abkommen“ mit KI

Der Autor schlägt vor, dass wir uns nicht zwischen einer smarten Regierung und einer transparenten Regierung entscheiden müssen. Wir könnten dank Künstlicher Intelligenz beides haben.

KI als „Übersetzer“ und „Taschenlampe“
Das Papier schlägt vor, dass KI als eine spezielle Art von Infrastruktur fungern kann, die die komplexe Arbeit der Regierung verständlich macht, ohne sie zu vereinfachen.

• Für die Öffentlichkeit: Stellen Sie sich einen Chatbot vor, der eine 200-seitige Regierungsregel über Luftverschmutzung lesen und sie Ihnen in einfachem Englisch erklären kann, indem er Ihnen genau sagt, wie sie Ihre Familie beeinflusst.
• Für die Richter: Stellen Sie sich ein Werkzeug vor, das tausende Kommentare zu einer Regel lesen und die wichtigsten Punkte zusammenfassen kann oder prüft, ob die Mathematik der Regierung tatsächlich aufgeht.
• Das Ziel: Anstatt nur zu prüfen, ob die Regierung eine Checkliste abgearbeitet hat (Verfahren), könnte KI uns helfen zu prüfen, ob die Regierung tatsächlich das Richtige tut (Substanz).

Die drei neuen Regeln für eine KI-Regierung
Um dies zu ermöglichen, schlägt das Papier drei neue Regeln vor, wie die Regierung KI einsetzen sollte:

1. Das „Modell- und System-Dossier“ (Der Ausweis): Jedes Mal, wenn eine Behörde ein KI-System einsetzt, muss sie einen detaillierten „Ausweis“ dafür führen. Dieses Dokument würde erklären, was die KI tun soll, wie sie getestet wurde, welche Fehler sie machen könnte und wer dafür verantwortlich ist. Es ist wie ein Nährwertetikett für einen Regierungsalgorithmus.
2. Der „Trigger für wesentliche Modelländerungen“ (Die Update-Warnung): KI-Systeme verändern sich und lernen mit der Zeit. Das Papier besagt, dass wenn ein KI-System sich so verändert, dass es seine Entscheidungen signifikant beeinflusst (wie etwa die Art und Weise, wie es Leistungen für Menschen mit Behinderungen genehmigt), die Regierung dies ankündigen und erklären muss. Es ist so, als ob der Motor eines Autos plötzlich anders laufen würde; man möchte es wissen, bevor man fährt.
3. Deferenz durch Audit (Die „Vertrauen-aber-verifizieren“-Regel): Anstatt dass Richter versuchen, die komplexe Mathematik hinter einer KI-Entscheidung zu verstehen, sollten sie prüfen, ob die Behörde unabhängige Experten mit einem „Audit“ der KI beauftragt hat. Wenn die Behörde nachweisen kann: „Wir haben dies gründlich getestet, und hier ist der Beweis, dass es fair funktioniert“, dann sollten die Gerichte dem vertrauen. Dies verschiebt den Fokus von „Haben Sie den Papierkram erledigt?“ zu „Haben Sie bewiesen, dass Ihr Werkzeug sicher und fair ist?“.

Warum das wichtig ist
Das Papier argumentiert, dass dieser Ansatz die „Falle“ brechen könnte, in der die Regierung seit einem Jahrhundert gefangen ist.

• Es legt nahe, dass KI die Kosten des Verstehens senken könnte. Momentan ist es schwer und teuer, eine komplexe Regierungsentscheidung zu verstehen. KI könnte dies billig und einfach machen.
• Es legt nahe, dass wir uns schließlich von der reinen Überprüfung von Papierkram wegbewegen und stattdessen prüfen könnten, ob die KI tatsächlich mit den Zielen der Öffentlichkeit übereinstimmt.
• Es warnt, dass dies kein magisches Heilmittel ist. Wenn die KI voreingenommen ist oder wenn die Regierung sie nutzt, um schlechte Entscheidungen zu verbergen (ein Problem, das „Value Laundering“ genannt wird), brauchen wir strenge Regeln, um das zu verhindern.

Was das Papier NICHT sagt
Das Papier ist vorsichtig damit, zu versprechen, dass KI alles über Nacht lösen wird.

• Es sagt nicht, dass KI menschliche Richter oder Politiker ersetzen wird. Menschen müssen weiterhin die endgültigen Entscheidungen über große, moralische Fragen treffen.
• Es behauptet nicht, dass die Technologie derzeit perfekt darin ist, sich selbst zu erklären. Die Technologie entwickelt sich noch weiter, und es gibt Risiken wie „Halluzinationen“ (wo die KI Fakten erfindet).
• Es argumentiert nicht, dass wir alle alten Regeln sofort stoppen sollten. Stattdessen schlägt es vor, KI zu nutzen, um die Regeln besser und weniger schmerzhaft zu machen.

Das große Ganze

Die Geschichte hier ist eine von Hoffnung gepaart mit Vorsicht. Die Regierung steckt derzeit in einem Kreislauf fest, in dem sie versucht, ihre Komplexität zu lösen, indem sie sich selbst kleiner macht, was uns gegenüber zukünftigen Krisen verwundbar machen könnte. Der Autor schlägt einen anderen Weg vor: Nutzen Sie Künstliche Intelligenz nicht nur, um die Arbeit zu erledigen, sondern um das Licht auf die Arbeit zu werfen. Indem wir einen neuen Satz Regeln schaffen, die Transparenz, Tests und die Prüfung von KI-Werkzeugen erfordern, könnten wir eine Regierung aufbauen, die klug genug ist, um die Zukunft zu bewältigen, aber klar genug, um für jeden verständlich zu sein. Es ist ein „Viertes Abkommen“, das versucht, beides zu haben: eine Regierung, die sowohl fähig als auch rechenschaftspflichtig ist.