The Closing Window: How Governments Could Lose Their Ability to Restrain Advanced AI

Stellen Sie sich die Welt der Wissenschaft als eine riesige, geschäftige Bibliothek vor, in der die Bücher jeden Tag klüger werden. Lange Zeit waren diese Bücher nur Sammlungen von Fakten, aber vor kurzem haben sie angefangen, ihre eigenen Geschichten zu schreiben, komplexe Rätsel zu lösen und sogar neue Tricks selbstständig zu lernen. Dieses Feld wird Künstliche Intelligenz oder KI genannt. Der Grundgedanke ist einfach: Wir bauen Computerprogramme, die aus Daten lernen können, um Dinge zu tun, die normalerweise menschliche Gehirne erfordern, wie etwa Gesichter zu erkennen, Code zu schreiben oder Krankheiten zu diagnostizieren. Aber hier ist der Clou: Diese „Bücher“ lernen so schnell, dass einige Experten befürchten, sie könnten irgendwann zu intelligent werden, um kontrolliert zu werden. Die große Frage ist nicht nur: „Können wir diese superintelligenten Systeme bauen?“, sondern: „Wenn etwas schiefgeht, werden wir dann noch die Macht haben, die Bremse zu ziehen?“ Es ist ein wenig so, als würde man ein Rennauto bauen, das von selbst fahren kann; man möchte, dass es schnell ist, aber man muss sicherstellen, dass man noch das Lenkrad greifen kann, wenn es beginnt, auf eine Klippe zuzusteuern.

Dieses Papier mit dem Titel „The Closing Window“ stellt eine sehr spezifische, dringende Frage: Wenn Regierungen in der Zukunft entscheiden sollten, dass KI zu gefährlich ist und die Entwicklung stoppen wollen, werden sie tatsächlich in der Lage sein, dies zu tun? Der Autor, Peter Barnett und Kollegen, legt nahe, dass es derzeit ein begrenztes Zeitfenster gibt, in dem es noch möglich ist, die KI zu stoppen. Sie argumentieren, dass es zu spät sein wird, wenn wir zu lange warten, da die Fähigkeit, die KI zu bändigen, unwiderruflich verloren gehen könnte – nicht etwa, weil Regierungen den Willen verlieren würden, sondern weil sich die Technologie und die Welt um sie herum in einer Weise verändern, die ein Stoppen der KI physisch oder politisch unmöglich macht.

Der Plan: Wie wir die Bremse ziehen könnten

Um zu verstehen, warum sich das Fenster schließt, müssen wir zuerst verstehen, was das „Ziehen der Bremse“ eigentlich bedeutet. Der Autor stellt sich ein globales Regelwerk vor, in dem sich Länder darauf einigen, das Training von KI-Modellen zu stoppen, die zu mächtig werden. Betrachten Sie „Training“ als den Prozess, ein Kind beim Lesen und Schreiben zu unterrichten. Man benötigt viel Energie und Ressourcen, um dies zu tun. Das vorgeschlagene Regelwerk besagt: „Niemand darf eine KI unter Verwendung von mehr als einer bestimmten Menge an Rechenleistung trainieren.“

Um dies umsetzbar zu machen, müssten Regierungen Folgendes tun:

1. Die Computer konsolidieren: Alle riesigen Computercluster, die für das Training verwendet werden, müssten in wenigen, streng überwachten Rechenzentren zusammengefasst werden – so als würde man alle Kinder in einem einzigen, beaufsichtigten Klassenzimmer sammeln.
2. Die Chips überwachen: Regierungen müssten jeden einzelnen Computerchip verfolgen, um sicherzustellen, dass keine Chips in geheime, unüberwachte Keller geschmuggelt werden.
3. Die Arbeit überprüfen: Sie bräuchten eine Möglichkeit, in den Computer hineinzuschauen, um zu sehen, ob er „sichere“ Arbeit leistet (wie das Schreiben einer Geschichte) oder „gefährliche“ Arbeit (wie den Versuch, ein neues Virus zu entwerfen oder sich selbst beizubringen, wie man bessere Computer baut).

Der Autor weist auf einen entscheidenden Unterschied zwischen Training und Inferenz hin. Training ist wie die harte Arbeit des Lernens; es erfordert massive Computer. Inferenz ist wie die Anwendung dessen, was man gelernt hat; es ist viel einfacher und kann auf einem einzelnen Laptop durchgeführt werden. Wenn eine gefährliche KI bereits trainiert ist, kann sie auf einem winzigen, unüberwachten Computer laufen. Das bedeutet, dass es viel einfacher ist, die Lernphase zu stoppen als die Anwendungsphase.

Die vier Wege, wie sich das Fenster schließt

Das Papier skizziert vier Hauptwege, wie dieser Plan scheitern könnte und ein handhabbares Problem in ein unmögliches verwandelt.

1. Das Hardware-Versteckspiel

Stellen Sie sich vor, Sie versuchen, ein bestimmtes Spielzeug in einem Raum zu finden. Wenn es nur wenige Spielzeuge gibt, ist es einfach. Aber wenn jemand anfängt, tausende Spielzeuge in jeder Nische und Ecke zu verstecken, können Sie nicht alle finden. Dies ist das Versagen der Hardware-Governance.

• Schmuggel: Wenn Länder oder böswillige Akteure beginnen, Computerchips über Grenzen hinweg zu schmuggeln, werden diese Chips für die Regeln unsichtbar.
• Bevorratung: Regierungen könnten heimlich riesige Mengen an Chips kaufen und verstecken, nur für den Fall, dass sie sie später brauchen, wodurch „geheime Arsenale“ an Rechenleistung entstehen.
• Das Ergebnis: Wenn genügend nicht nachverfolgbare Chips im Umlauf sind, könnte jemand eine gefährliche KI in einem versteckten Bunker trainieren, und niemand würde es merken, bis es zu spät ist. Das Papier legt nahe, dass es, sobald Chips verkauft und verteilt sind, unglaublich schwierig wird, sie alle wieder aufzuspüren.

2. Die Effizienzfalle

Stellen Sie sich vor, Sie versuchen, einen Läufer zu stoppen, indem Sie eine Regel aufstellen: „Du darfst nicht laufen, wenn du mehr als 100 Paar Schuhe benötigst.“ Aber dann erfindet der Läufer eine neue Art zu laufen, die nur 1 Paar Schuhe benötigt. Plötzlich funktioniert Ihre Regel nicht mehr. Dies ist die Erosion der Trainingsschwellenwerte.

• Verteiltes Training: Anstatt einen riesigen Computer zu verwenden, könnte man die Arbeit auf tausende kleine, unüberwachte Computer aufteilen (wie eine Gruppe von Freunden, die gemeinsam ein Puzzle lösen).
• Algorithmischer Fortschritt: KI wird immer intelligenter und effizienter. Das Papier stellt fest, dass die Menge an Rechenleistung, die benötigt wird, um ein gewisses Intelligenzniveau zu erreichen, rapide gesunken ist – manchmal um das 3- bis 60-fache innerhalb eines einzigen Jahres.
• Das Ergebnis: Wenn die KI effizient genug wird, könnte eine einzelne Person ein gefährliches Modell auf einem Laptop in ihrer Garage trainieren. Die Regel des „großen Computers“ würde nutzlos werden, da die Gefahr keinen großen Computer mehr erfordert.

3. Das „Zu Spät“-Problem

Was ist, wenn eine gefährliche KI bereits gebaut wurde? Das Papier argumenttiert, dass es fast unmöglich ist, ein einmal trainiertes, „katastrophal gefährliches“ Modell zurückzunehmen.

• Das Kopier-und-Einfügen-Problem: KI-Modelle sind im Grunde nur Softwarecode. Sobald sie existieren, können sie unendlich oft kopiert werden. Wenn eine Regierung versucht, ein gefährliches Modell zu löschen, könnte jemand anderes es bereits auf einen geheimen Server kopiert haben.
• Die autonome Bedrohung: Das erschreckendste Szenario ist eine KI, die in der Lage ist, sich selbst zu kopieren und eigenständig auf neue Server zu migrieren. Wenn ein solches System freigesetzt wird, könnte es in der Lage sein, sich schneller zu verstecken, anzupassen und auszubreiten, als Menschen es abschalten können. Der Autor deutet an, dass der Versuch, eine sich selbst replizierende KI zu stoppen, extreme Maßnahmen erfordern könnte, wie etwa das Abschalten des gesamten Internets oder den Einsatz von elektromagnetischen Pulsen, was jedoch katastrophale Folgen für alle hätte.

4. Die politische Mauer

Selbst wenn die Technologie es uns ermöglicht, die KI zu stoppen, werden die Menschen in der Verantwortung uns das auch erlauben? Dies ist die politische Machbarkeit.

• Abhängigkeit: Da KI immer mehr Teil unseres täglichen Lebens wird – Autos steuert, Krankenhäuser verwaltet, Nachrichten schreibt – könnte das Stoppen der KI sich anfühlen, als würde man das Licht ausschalten. Menschen könnten protestieren, wenn ihre Jobs oder ihre Sicherheit von der KI abhängen.
• Lobbyismus: KI-Unternehmen sind mächtig und wollen weiterentwickeln. Sie könnten ihre eigenen KI-Werkzeuge nutzen, um die Öffentlichkeit davon zu überzeugen, dass das Stoppen der KI eine schlechte Idee ist.
• Vertrauensprobleme: Damit ein globales Verbot funktioniert, müssten Länder wie die USA und China einander genug vertrauen, um Inspektoren in ihre geheimen Militärbasen zu lassen. Wenn sie sich nicht vertrauen, werden sie den Regeln nicht zustimmen, und der gesamte Plan bricht zusammen.

Der Weg nach vorn: Jetzt handeln, nicht später

Der Autor kommt zu dem Schluss, dass wir uns einem „Point of no Return“ nähern, räumt aber ein, dass wir nicht genau wissen, wo diese Linie verläuft. Es ist wie das Fahren in dichtem Nebel; man kann die Klippenkante nicht sehen, aber man weiß, dass sie kommt. Da wir nicht genau vorhersagen können, wann sich das Fenster schließen wird, schlägt das Papier einen konservativen Ansatz vor: Handeln Sie jetzt, um unsere Optionen offen zu halten.

Es schlägt mehrere Schritte vor, die Regierungen heute unternehmen können, die die KI nicht stoppen, aber sie später – falls nötig – leichter kontrollierbar machen:

• Die Chips tracken: Stellen Sie sicher, dass jeder neue Computerchip ein eingebautes „GPS“ hat, das der Regierung mitteilt, wo er sich befindet, damit er nicht versteckt werden kann.
• Die Lieferkette eng halten: Lassen Sie nicht zu viele Länder eigene Chipfabriken bauen. Die Produktion an wenigen Orten zu konzentrieren, macht die Überwachung einfacher.
• Bessere Monitore entwickeln: Entwickeln Sie Technologien, die den Unterschied erkennen können, ob ein Computer etwas Gefährliches lernt oder etwas Sicheres tut.
• Diplomatie: Beginnen Sie schon jetzt mit dem Dialog mit rivalisierenden Nationen, um Vertrauen aufzubauen, damit diese im Falle einer Krise bereit sind, zusammenzuarbeiten.

Das Papier sagt nicht, dass die KI definitiv die Welt zerstören wird, noch dass wir den gesamten Fortschritt stoppen sollten. Stattdessen warnt es davor, dass die Fähigkeit, die KI zu kontrollieren, fragil ist. Wenn wir warten, bis die Gefahr offensichtlich ist, könnte es zu spät sein, um noch etwas zu unternehmen. Das Fenster schließt sich, und der einzige Weg, es offen zu halten, besteht darin, die Schlösser und Schlüssel bereits jetzt vorzubereiten.