The Dynamics of Intelligence Explosions

Stellen Sie sich vor, Sie beobachten ein Autorennen, bei dem die Autos immer besser darin werden, sich selbst zu bauen. In der Welt der künstlichen Intelligenz gibt es eine faszinierende Idee, die „Intelligenzexplosion“ genannt wird. Es ist das Konzept, dass ein Computer, der klug genug wird, um den nächsten, noch klügeren Computer zu entwerfen, diesen neuen Computer helfen könnte, einen noch besseren zu entwerfen, und so weiter. Dies erzeugt eine Rückkopplungsschleife, ähnlich wie ein Mikrofon, das zu nah an einem Lautsprecher platziert wird und ein kreischendes Feedback-Geräusch erzeugt – nur dass es hier statt Lärm eine rapide Explosion der Intelligenz ist. Wissenschaftler versuchen herauszufinden, wie schnell dies geschehen könnte. Wäre es ein stetiger Aufstieg, ein rasanter Sprint oder ein plötzlicher, unmöglicher Sprung ins Unendliche in einem Augenblick? Dies ist die Frage, mit der sich der Mathematiker Toby Ord in seinem Paper auseinandersetzt. Er untersucht die Mathematik hinter diesen selbstverbessernden Maschinen, um zu sehen, ob sie tatsächlich eine „Singularität“ erreichen können – einen Punkt, an dem die Intelligenz so schnell wächst, dass sie eine vertikale Wand in einer endlichen Zeit erreicht – oder ob es andere, etwas langsamere, aber dennoch unglaublich schnelle Wege gibt, wie diese Explosion ablaufen könnte.

---

Das Rennen gegen die Unendlichkeit: Warum der „Sprung“ schwieriger sein könnte als gedacht

Stellen Sie sich vor, Sie backen einen Kuchen, aber anstatt eines Timers haben Sie einen magischen Ofen. Jedes Mal, wenn Sie einen Kuchen backen, wird der Ofen klüger und baut für die nächste Runde einen besseren Ofen. Der erste Ofen braucht 10 Minuten. Der zweite, der bereits klüger ist, baut einen dritten in 5 Minuten. Der dritte baut einen vierten in 2,5 Minuten. Wenn das so weitergeht und die Zeit, die es dauert, den nächsten Ofen zu bauen, immer wieder halbiert wird, könnten Sie denken, dass Sie in nur wenigen Stunden eine unendliche Anzahl von Kuchen backen könnten. Dies ist der Traum einer „Intelligenzexplosion“: eine Maschine, die sich immer schneller und schneller selbst verbessert, bis sie in einem Blitzbruch alles menschliche Verständnis übersteigt.

Lange Zeit dachten viele Experten, dass diese Explosion wie eine „vertikale Asymptote“ aussehen würde. In mathematischen Begriffen stellen Sie sich einen Graphen vor, bei dem die Linie steil nach oben schießt, wie eine Rakete, die in den Himmel rast, und in einer endlichen Zeit eine unendliche Höhe erreicht. Es ist das ultimative „Boom“. Aber Toby Ords Paper legt nahe, dass dieser vertikale Raketenflug zwar möglich ist, aber tatsächlich viel schwieriger zu bauen ist, als wir dachten. Tatsächlich gibt es eine ganz andere Kategorie von Explosionen, die unglaublich schnell sind – schneller als exponentiell – aber nicht senkrecht nach oben in die Unendlichkeit schießen. Sie beschleunigen einfach nur extrem schnell, ohne jemals diese vertikale Wand zu treffen.

Die geheime Zutat: Die „Generationszeit“

Um zu verstehen, warum die vertikale Rakete so schwer zu bauen ist, müssen wir eine verborgene Variable betrachten, die die meisten Menschen vergessen: die Generationszeit.

Stellen Sie sich die Rückkopplungsschleife wie einen Staffellauf vor. Der erste Läufer (KI 1) übergibt den Stab an den zweiten Läufer (KI 2), der ihn an den dritten (KI 3) übergibt. Die „Generationszeit“ ist die Zeit, die ein Läufer benötigt, um sein Teilstück zu vollenden und den nächsten Läufer bereit zu machen.

In den alten, einfachen mathematischen Modellen wurde davon ausgegangen, dass dieser Staffellauf instantan oder zumindest mit konstanter Geschwindigkeit geschieht. Man glaubte, wenn die Läufer immer schneller werden (mehr „Intellenz“), würde das Rennen einfach bis zur Unendlichkeit beschleunigen. Aber Ord weist auf einen entscheidenden Fehler hin: Man kann keine unendliche Anzahl von Runden in einer endlichen Zeit laufen, es sei denn, die Zeit, die man für jede einzelne Runde benötigt, schrumpft gegen Null.

Stellen Sie sich vor, Sie laufen ein Rennen, bei dem Sie eine unendliche Anzahl von Runden absolvieren müssen.

• Szenario A: Sie laufen jede Runde in 10 Sekunden, dann in 9, dann in 8. Sie werden schneller, aber Sie verbringen immer noch 10 Sekunden, dann 9 Sekunden usw. Egal wie schnell Sie werden, Sie werden niemals eine unendliche Anzahl von Runden in nur 10 Minuten schaffen. Ihnen geht einfach die Zeit aus.
• Szenario B: Sie laufen die erste Runde in 10 Sekunden, die zweite in 5, die dritte in 2,5, die vierte in 1,25. Hier schrumpft die Zeit für jede Runde rapide. Wenn Sie die Zeit immer wieder halbieren, können Sie tatsächlich eine unendliche Anzahl von Runden in einer endlichen Zeit absolvieren (z. B. insgesamt 20 Sekunden).

Ords Paper zeigt, dass für eine Intelligenzexplosion, die eine „vertikale Asymptote“ (die Singularität) erreicht, die Generationszeit (die Zeit, um die nächste KI zu bauen) extrem schnell gegen Null schrumpfen muss. Es reicht nicht aus, dass die KI einfach nur klüger wird; der Prozess, die nächste KI zu erschaffen, muss unmöglich schnell werden.

Die Explosion des „Mittelwegs“

Hier kommt die Wendung: Das Paper legt nahe, dass die „vertikale Asymptote“ zwar möglich ist, aber tatsächlich recht selten vorkommt. Es gibt einen riesigen, vernachlässigten Mittelweg.

Stellen Sie sich eine Wachstumskurve vor, die super-exponentiell ist. Das bedeutet, sie wächst schneller als eine Standard-Exponentialkurve (wie beim Zinseszins). Sie schießt die Grafik nach oben! Aber weil die Generationszeit nicht schnell genug gegen Null schrumpft, um die Unendlichkeit zu erreichen, wird die Linie niemals vertikal. Sie steigt einfach immer weiter, immer schneller, ewig auf, erreicht aber niemals diese vertikale Wand der Unendlichkeit.

Ord nennt dies „sub-singuläres“ Wachstum. Es ist immer noch erschreckend schnell. Es ist immer noch eine Explosion. Aber es ist nicht der „magische vertikale Sprung“, den einige Modelle vorhersagen. Es ist eher wie eine Rakete, die so stark beschleunigt, dass es sich anfühlt, als würde sie das Universum zerreißen, aber sie erreicht nie die unmögliche vertikale Klippe.

Warum die Mathematik wichtig ist (und warum sie knifflig ist)

Das Paper verwendet komplexe Mathematik, um dies zu beweisen, aber der Kern der Idee ist einfach: Man kann die Beschränkungen der Zeit nicht umgehen.

In den alten Modellen verwendeten die Leute Gleichungen, die davon ausgingen, dass die KI ihre eigene Geschwindigkeit sofort verbessern könnte. Aber in der realen Welt braucht der Bau einer neuen KI Zeit. Man muss sie entwerfen, trainieren und testen. Selbst wenn die KI ein Genie ist, braucht es Zeit, den Code zu schreiben oder die Experimente durchzuführen.

Ord zeigt, dass, wenn man diese „Zeit“ ernst nimmt (unter Verwendung dessen, was er „zeitgebettete Differenzengleichungen“ nennt), die Bedingungen für eine Singularität sehr streng sind. Es müssen zwei Dinge gleichzeitig passieren:

1. Die KI muss immer besser werden, ohne jemals aufzuhören (unbegrenztes Wachstum).
2. Die Zeit, die benötigt wird, um die nächste Version zu erstellen, muss extrem schnell gegen Null schrumpfen (die „Zeno-Bedingung“).

Wenn die Zeit für die Erstellung der nächsten KI eine Untergrenze erreicht – zum Beispiel, dass es egal wie klug die KI ist, mindestens 1 Stunde dauert, um ein neues Modell zu trainieren – dann ist die vertikale Explosion unmöglich. Das Wachstum wird lediglich zu einer sehr steilen, sehr schnellen Exponentialkurve werden, aber es wird keine Singularität sein.

Die Falle der Messung

Das Paper warnt uns auch davor, wie wir „Intelligenz“ messen. Stellen Sie sich vor, Sie messen, wie gut ein Schachspieler ist.

• Maßstab A: Wie viele Spiele er in Folge gewinnt.
• Maßstab B: Wie viele Sekunden er für einen Zug benötigt.

Wenn eine KI so gut wird, dass sie nie einen Fehler macht, könnte Maßstab A gegen Unendlich gehen (unendliche Siege). Aber Maßstab B könnte einfach an eine Grenze stoßen (sie kann sich nicht schneller als das Licht bewegen). Das Paper argumentiert, dass einige populäre Arten, den Fortschritt der KI zu messen, so aussehen könnten, als würden sie eine „Singularität“ (den Übergang ins Unendliche) erreichen, nur weil wir sie auf eine bestimmte Weise messen – und nicht, weil die KI tatsächlich unendlich klug wird. Es ist wie eine Koordinatensingularität in der Physik: Ein Fehler in der Karte, nicht eine echte Klippe im Gelände.

Das Fazit

Was bedeutet das also alles für die Zukunft?

Toby Ord sagt nicht, dass die Explosion nicht stattfinden wird. Er sagt, dass die „vertikale Asymptote“ (der sofortige Sprung zu unendlicher Intelligenz) viel schwieriger zu erreichen ist, als die einfachen mathematischen Modelle suggerierten. Sie erfordert, dass die KI nicht nur klüger wird, sondern auch den Prozess, klüger zu werden, unmöglich schnell gestaltet, indem sie die Zeit zwischen den Generationen gegen Null drückt.

Stattdessen werden wir höchstwahrscheinlich eine „super-exponentielle“ Explosion erleben. Dies ist eine Phase extrem raschen Wandels, in der sich die Fähigkeiten der KI in doppelt oder verdreifacht Geschwindigkeit steigern und potenziell unsere Fähigkeit, sie zu kontrollieren, überholen. Es ist eine Explosion im „Schnellfahrstreifen“ statt eines „vertikalen Sprungs“.

Das Paper legt nahe, dass wir, wenn wir die Zukunft der KI verstehen wollen, nicht nur darauf schauen sollten, wie viel klüger die KI wird. Wir müssen die Generationszeit beobachten. Wie lange dauert es, die nächste Version zu bauen? Wenn diese Zeit aufhört zu schrumpfen, stoppt die vertikale Explosion. Wenn sie weiter schrumpft, könnten wir vor einer Entwicklung stehen, die noch wilder ist, als wir es uns vorstellen können.

Kurz gesagt: Die Explosion ist real, aber die „vertikale Klippe“ könnte eine Fata Morgana sein. Die wahre Gefahr ist eine Geschwindigkeit, die sich so schnell anfühlt, dass sie wie eine Klippe wirkt, selbst wenn sie technisch gesehen nur ein sehr steiler Hügel ist. Und das reicht bereits aus, um die Welt für immer zu verändern.