From Democracies to Autocracies: How AI Systems Enable Authoritarianism by Design

Stellen Sie sich vor, Sie hätten einen Werkzeugkasten. Darin befinden sich Elektrowerkzeuge wie Bohrer und Sägen. Normalerweise betrachten wir diese Werkzeuge als neutral; ein Bohrer kann ein Haus bauen oder eine Tür aufbrechen, je nachdem, wer ihn hält und wie er verwendet wird.

Dieses Paper argumentiert, dass bei Künstlicher Intelligenz (KI) das „Werkzeug“ selbst mit einem spezifischen Design gebaut wird, das es viel einfacher macht, Türen aufzubrechen, und schwieriger macht, es zu stoppen – unabhängig davon, wer es in der Hand hält. Die Autoren, Forscher von Harvard und Oxford, haben sechs verschiedene KI-Systeme untersucht, die in Ländern von den USA und Großbritannien bis hin zu China und Russland eingesetzt werden. Sie wollten sehen, ob diese Werkzeuge nur in „schlechten“ Ländern (Autokratien) gefährlich sind oder ob sie auch ein „gutes“ Land (Demokratie) in einen Ort verwandeln können, an dem Menschen überwacht und kontrolliert werden.

Hier ist die Aufschlüsselung ihrer Ergebnisse unter Verwendung einfacher Analogien:

1. Die Kernentdeckung: Es geht nicht nur um die „Bösen“

Die größte Überraschung in dem Paper ist, dass Autoritarismus (die Praxis, Menschen durch Angst und Überwachung zu kontrollieren) nicht nur ein Merkmal von „bösen“ Diktaturen ist.

Denken Sie an ein rasendes Auto. Man könnte denken, dass nur ein rücksichtsloser Fahrer in einem gefährlichen Viertel rast. Aber dieses Paper zeigt, dass selbst ein vorsichtiger Fahrer in einem sicheren, wohlhabenden Vorort zu schnell fahren kann, wenn der Tempomat des Autos zu hoch eingestellt ist, die Bremsen schwach sind und die Geschwindigkeitsbegrenzungen ignoriert werden. Das Design des Autos (das KI-System) spielt eine ebenso große Rolle wie der Fahrer (die Regierung).

Die Autoren fanden heraus, dass dieselben „gefährlichen Merkmale“ sowohl in Demokratien (wie den USA und Großbritannien) als als auch in Autokratien (wie China und Russland) auftreten.

2. Die sechs „Gefahrenzonen“ (Wie KI Kontrolle ermöglicht)

Die Forscher identifizierten sechs Wege, wie diese KI-Systeme als „Kontroll-Werkzeugkasten“ fungieren. So funktionieren sie, mit Analogien:

• Zwangskapazität (Der große Stock):
  • Was es ist: Die Fähigkeit, Gewalt oder die Androhung von Gewalt leicht anzuwenden.
  • Die Analogie: Stellen Sie sich einen Sicherheitswachmann vor, der mit einem einzigen Knopfdruck ein SWAT-Team herbeirufen kann. Im Fall des Lavender-Systems (das vom israelischen Militär eingesetzt wird) hilft die KI dabei, Ziele für Luftangriffe zu identifizieren. Da das System mit Waffen integriert ist und eine hohe Fehlermarge aufweist, senkt es die „Schwelle“ für den Einsatz tödlicher Gewalt. Es macht Gewalt leichter auslösbar.
• Erosion der Rechenschaftspflicht (Die unsichtbare Hand):
  • Was es ist: Es schwierig zu machen, zu wissen, wer verantwortlich ist, wenn etwas schiefgeht.
  • Die Analogie: Stellen Sie sich ein Spiel „Heiße Kartoffel“ vor, bei dem die Kartoffel ein Fehler ist. Wenn ein Polizist im Vereinigten Königreich einen Live-Gesichtserkennungs-Van benutzt und fälschlicherweise jemanden anhält, kann der Beamte sagen: „Der Computer hat es mir gesagt“, und das Unternehmen kann sagen: „Wir haben nur die Software verkauft.“ Niemand übernimmt die Verantwortung. Das System ist so konzipiert, dass die Verantwortung im Chaos verloren geht.
• Symbolische Schutzmaßnahmen (Der falsche Sicherheitsgurt):
  • Was es ist: Regeln, die auf dem Papier gut aussehen, aber in der Realität nicht funktionieren.
  • Die Analogie: Es ist wie ein Auto, das einen Sicherheitsgurt hat, dessen Schnalle aber kaputt ist. Das Lavender-System hat die Regel, dass ein Mensch das Ziel vor einem Angriff prüfen muss. Berichte zeigen jedoch, dass Menschen nur 20 Sekunden lang prüfen – gerade genug, um ein Häkchen zu setzen. Die „Schutzmaßnahme“ existiert, aber sie ist ein Schwindel.
• Informationskontrolle (Der Einwegspiegel):
  • Was es ist: Die Regierung weiß alles über Sie, während Sie nichts über sie wissen.
  • Die Analogie: Stellen Sie sich eine riesige Bibliothek vor, in der der Bibliothekar jedes Buch lesen kann, das Sie jemals ausgeliehen haben, jede Notiz, die Sie geschrieben haben, und jedes Mal, wenn Sie die Toilette besucht haben, aber Sie können nicht sehen, was der Bibliothekar in sein Protokoll schreibt. Das IJOP-System in China macht dies, indem es Polizeidaten mit medizinischen Unterlagen, Stromrechnungen und sogar Daten aus dem Gebrauchtwagenverkauf kombiniert, um ein Gesamtbild eines Menschen zu erstellen.
• Präventive Repression (Die Kristallkugel):
  • Was es ist: Menschen zu bestrafen, bevor sie etwas Unrechtes tun, nur weil die KI denkt, dass sie es vielleicht tun könnten.
  • Die Analogie: Stellen Sie sich einen Türsteher in einem Club vor, der Sie rauswirft, weil Sie „verdächtig“ aussehen oder weil Sie kürzlich Ihre Telefonnummer geändert haben, obwohl Sie noch keine Regeln gebrochen haben. Das Sfera-System in Russland nutzt Gesichtserkennung, um Menschen bereits vor einem geplanten Protest festzunehmen, basierend auf der Annahme, dass sie vielleicht protestieren könnten.
• Grenzsteuerung (Die „Wir gegen Die“-Mauer):
  • Was es ist: Die Erstellung digitaler Kategorien, die bestimmte Gruppen von Menschen als weniger menschlich oder weniger sicher behandeln.
  • Die Analogie: Stellen Sie sich einen Filter in einer Foto-App vor, der automatisch Menschen mit einem bestimmten Akzent oder Hautton weichzeichnet und sie als „riskant“ markiert. Das IJOP-System zielt speziell auf Uiguren ab, und das SlimmeCheck-System in den Niederlanden wurde dabei gefunden, Nicht-Niederländer deutlich häufiger auf Sozialbetrug zu prüfen als Einheimische. Die KI lernt, bestimmte Gruppen als „den Feind“ zu sehen.

3. Die zwei Arten, wie das System versagt: Zentralisiert vs. Fragmentiert

Das Paper macht einen sehr wichtigen Punkt darüber, wie diese Systeme organisiert sind.

• Zentralisierte Systeme (Der große Boss):
  • Beispiel: Das IJOP in China oder Sfera in Russland.
  • Wie es funktioniert: Eine einzige große Autorität kontrolliert alles.
  • Das Risiko: Es ist wie ein einziger, massiver Damm. Wenn der Damm bricht, wird das ganze Tal überschwemmt. Da eine einzige Gruppe die gesamte Macht hält, gibt es weniger Menschen, die „Stopp“ sagen können.
• Fragmentierte Systeme (Der Schwarm):
  • Beispiel: FlockSafety in den USA.
  • Wie es funktioniert: Dies ist ein Netzwerk von Kennzeichenkameras, die sich Tausenden von verschiedenen Nachbarschaften, Unternehmen und Polizeibehörden gehören.
  • Das Risiko: Dies ist wie ein Bienenschwarm. Man kann nicht einfach eine Biene töten, um den Schwarm zu stoppen. Da das System weit verstreut ist, ist niemand allein verantwortlich. Wenn eine Nachbarschaftsvereinigung die Kamera missbraucht, ist es schwer zu regulieren, weil es keinen zentralen „Boss“ gibt, den man entlassen könnte. Das Paper argumentiert, dass dieser „Schwarm“ tatsächlich schwerer zu kontrollieren ist als der „große Boss“, weil die Verantwortung so stark verwässert ist.

4. Das „Lebenszyklus“-Problem

Die Autoren sagen, dass wir bei KI normalerweise fragen: „Ist die Mathematik klug genug?“ (Das Modell). Sie sagen, wir sollten stattdessen fragen: „Wie wurde dieses Werkzeug gebaut, verkauft und genutzt?“ (Der Lebenszyklus).

Sie verglichen die Systeme über 10 Phasen hinweg, von der ersten Idee bis zum heutigen Tag. Sie fanden heraus, dass die Gefahr nicht nur im Endprodukt liegt, sondern in den Entscheidungen, die entlang des Weges getroffen wurden:

• Wer hat es gekauft? (Oft private Unternehmen, die mit Regierungen kooperieren).
• Wie wurde es getestet? (Oft mangelhaft oder gar nicht).
• Wer überwacht die Überwacher? (Oft niemand).

5. Das Fazit

Das Paper kommt zu dem Schluss, dass KI-gestützter Autoritarismus eine Designentscheidung ist und kein unvermeidliches Ergebnis der Technologie.

Es ist nicht so, dass die KI von Natur aus „böse“ ist. Es ist so, dass Entwickler, Regierungen und Nutzer Entscheidungen getroffen haben, um:

1. Die KI mit zu vielen Daten zu verbinden.
2. Die Regeln, die Menschen schützen sollen, zu ignorieren.
3. Systeme zu bauen, die schwer zu stoppen sind, sobald sie einmal gestartet wurden.

Die Autoren warnen davor, dass dies nicht nur ein Problem für „schlechte“ Länder ist. Auch Demokratien sind gefährdet, insbesondere wenn sie diese Werkzeuge für „Effizienz“ oder „Sicherheit“ nutzen, ohne zu merken, dass sie langsam einen Käfig bauen. Sie fordern die Entwickler auf, „Bremsen“ in das System einzubauen, und die Regierungen, sicherzustellen, dass die „Sicherheitsgurte“ tatsächlich funktionieren, bevor sie das Auto fahren lassen.