Why do we need social singularity? A mechanism-based critique of gradual scenarios in AI existential-risk discourse

Die große KI-Achterbahn: Warum die Zukunft keine gerade Linie ist

Stellen Sie sich vor, Sie schauen einen Film über die Zukunft der Künstlichen Intelligenz (KI). Lange Zeit waren die populärsten Handlungsstränge zwei sehr unterschiedliche Arten von Katastrophen. Die erste ist der „plötzliche Absturz“: Ein superintelligenter Roboter wacht eines Morgens auf, entscheidet, dass Menschen überflüssig sind, und übernimmt blitzschnell die Weltherrschaft. Die zweite ist das „langsame Verblassen“: Wir bauen immer bessere Werkzeuge und übergeben ihnen langsam, ohne dass es jemand merkt, die gesamte Macht, bis wir nur noch Passagiere in unserem eigenen Leben sind. Beide Geschichten setzen voraus, dass wir, sobald wir diese Maschinen bauen, einfach weitermachen werden und die Gesellschaft einfach nur zuschaut, unfähig, den Zug zu stoppen.

Doch es gibt eine dritte Möglichkeit, die oft ignoriert wird: die Idee, dass die Geschichte der Zukunft die Zukunft selbst verändern könnte. Dieses Papier, geschrieben von Petr O. Jedlička, taucht in die chaotische, unvorhersehbare Welt der menschlichen Gesellschaft ein, um eine einfache Frage zu stellen: Was passiert, wenn Menschen Angst bekommen, wütend werden oder begeistert von KI sind, noch bevor sie überhaupt superintelligent wird? Der Autor argumentiert, dass wir die Technologie nicht einfach wie ein mathematisches Problem betrachten können. Wir müssen die Menschen betrachten. Genau wie eine Achterbahn nicht einfach nur der Schiene folgt, sondern davon abhängt, ob die Fahrgäste schreien, sich festhalten oder versuchen, abzuspringen. Wenn die Menschen auf der Fahrt Panik bekommen oder Widerstand leisten, könnte die Fahrt stoppen, die Richtung ändern oder abstürzen, lange bevor sie den Gipfel erreicht. Dieses Papier legt nahe, dass die größte Gefahr (oder die größte Hoffnung) vielleicht nicht von der KI selbst kommt, sondern von unserer Reaktion auf die Idee von ihr.

Die große Idee des Papers: Die „Soziale Singularität“

Das Papier beginnt mit einer Kritik an einer populären Gruppe von Erzählungen über das KI-Risiko, dem sogenannten „graduellen Machtverlust“ (gradual disempowerment). Diese Geschichten, geschrieben von Denkern wie Kasirzadeh und Kulveit, imaginieren eine Zukunft, in der die KI langsam unsere Jobs, unsere Regierungen und unsere Entscheidungen übernimmt. Sie zeichnen das Szenario eines „kochenden Frosches“: Das Wasser wird immer heißer, aber der Frosch (wir) springt nie heraus, bis es zu spät ist. Der Autor argumentet, dass diesen Geschichten ein entscheidendes Puzzleteil fehlt. Sie behandeln die Gesellschaft wie eine passive Leinwand, auf die der KI-Projektor sein Licht wirft, und ignorieren dabei, dass das Publikum Tomaten werfen, den Projektor ausschalten oder sogar die Bühne stürmen kann.

Der Autor nennt dieses fehlende Teil „technologischen Determinismus“. Es ist der Glaube, dass Technologie einen eigenen Geist hat und ungeachtet dessen voranschreitet. Das Papier schlägt vor, dass dies falsch ist. Die Geschichte zeigt uns, dass Menschen nicht einfach nur rumsitzen, wenn neue Erfindungen auftauchen. Sie streiten, sie organisieren sich, sie zerstören Maschinen (erinnern Sie sich an die Ludditen?) und sie machen neue Regeln. Das Papier schlägt vor, dass wir anstelle eines glatten Gleitens in eine robotergesteuerte Welt eher eine chaotische, holprige Fahrt voller Konflikte, Argumente und plötzlicher Stopps erleben werden.

Der Maschinenraum: Wie die Gesellschaft tatsächlich funktioniert

Um zu erklären, warum die Geschichte vom „langsamen Verblassen“ unwahrscheinlich ist, führt der Autor ein Werkzeugkasten an „sozialen Mechanismen“ ein. Betrachten Sie diese als die verborgenen Zahnräder, die die Gesellschaft bewegen, oft auf eine Weise, die uns überrascht.

1. Die Macht des Geschichtenerzählens (Interpretation und Performativität)
Stellen Sie sich vor, es verbreitet sich das Gerücht, dass eine Bank pleite ist. Selbst wenn die Bank reichlich Geld hat, wird sie tatsächlich pleitegehen, wenn alle glauben, dass sie pleite ist, und zur Auszahlung rennen. Der Glaube erschuf die Realität. Das Papier sagt, dass dies auch bei KI geschieht. Wenn Experten und die Öffentlichkeit Geschichten erzählen, dass „KI ein Monster ist“, werden die Menschen so handeln, als wäre sie es, was Gesetze und Proteste auslöst, die sie stoppen könnten. Wenn sie Geschichten erzählen, dass „KI ein Retter ist“, werden sie vielleicht eifrig daran bauen und die Gefahren ignorieren. Die Art und Weise, wie wir über KI sprechen, verändert das, was die KI tatsächlich tut.

2. Der große Kampf (Mobilisierung und Konflikt)
Das Papier weist darauf hin, dass Menschen nicht einfach aufgeben, wenn sie sich bedroht fühlen; sie kämpfen zurück. Genau wie Arbeiter in der Vergangenheit Maschinen zerstörten, um ihre Jobs zu retten, könnten wir heute „KI-Widerstandsbewegungen“ sehen. Auf der einen Seite könnten Sie „KI-Loyalisten“ haben – Unternehmen und Arbeiter, die die neue Technik lieben und mehr davon wollen. Auf der anderen Seite könnten Sie „Anti-KI-Radikale“ haben, die sich abgehängt oder verängstigt fühlen. Diese beiden Gruppen könnten aufeinanderprallen und einen politischen Sturm erzeugen, der den reibungslosen Rollout der KI stoppen könnte. Das Papier legt nahe, dass die Zukunft keine gerade Linie ist, sondern ein Schlachtfeld, auf dem verschiedene Gruppen darum kämpfen, in welche Richtung die Technologie geht.

3. Die verschiedenen Wege (Pfadabhängigkeit und Divergenz)
Stellen Sie sich eine Gruppe von Freunden vor, die versucht, zu einem Ziel zu wandern. Wenn sie sich alle auf die Karte einigen, gehen sie gemeinsam. Aber wenn sie sich in verschiedenen Ländern mit unterschiedlichen Regeln befinden, landen sie vielleicht auf völlig unterschiedlichen Pfaden. Das Papier stellt fest, dass die USA, China und Europa sehr unterschiedliche Gesetze, Kulturen und Volkswirtschaften haben. Die USA könnten mit einer wilden, unregulierten KI voranstürmen, während Europa vielleicht eine langsamere, sicherere, aber langweilige Version baut, und China eine Version entwickelt, die strengen Regierungsregeln folgt. Aufgrund dieser Unterschiede wird sich die KI nicht gleichmäßig in der Welt verbreiten. Es wird ein „Mehrgeschwindigkeit-Rennen“ sein, das eine chaotische Welt schafft, in der einige Orte voll von fortgeschrittener KI sind und andere gerade erst anfangen.

4. Herz und Seele (Sozialpsychologische Mechanismen)
Hier wird es persönlich. Das Papier untersucht, wie wir beginnen könnten, unsere KI-Freunde zu lieben oder zu hassen. Einige Menschen könnten tiefe emotionale Bindungen zu KI-Begleitern aufbauen und sie wie Familienmitglieder behandeln (ähnlich wie ein Kind, das sich an ein Roboter-Spielzeug bindet). Dies könnte dazu führen, dass sie die KI schützen wollen. Andere hingegen könnten das Gefühl haben, dass ihre Freiheit gestohlen wird. Wenn eine KI versucht, ihnen zu sagen, was sie tun sollen, könnten sie wütend werden und rebellieren (ein Gefühl, das als „Reaktanz“ bezeichnet wird). Dieses emotionale Tauziehen könnte die Gesellschaft in zwei Lager spalten: diejenigen, die die Roboter umarmen wollen, und diejenigen, die sie zertrümmern wollen.

Der große Twist: Die „Soziale Singularität“

Hier ist die spannendste Idee des Papers. Normalerweise spricht man von der „Technologischen Singularität“ – dem Moment, in dem die KI so intelligent wird, dass sie alles verändert. Aber der Autor schlägt vor, dass wir vielleicht zuerst eine andere Art von Singularität erleben könnten: die Soziale Singularität.

Stellen Sie es sich so vor: Die „Technologische Singularität“ ist der Moment, in dem die Rakete tatsächlich den Weltraum erreicht. Die „Soziale Singularität“ ist der Moment, in dem alle am Boden anfangen zu schreien: „Wartet! Wir sind noch nicht bereit!“ und versuchen, die Treibstoffleitungen zu kappen. Das Papier argumentiert, dass die Antizipation der KI-Explosion so mächtig ist, dass sie massive soziale Veränderungen auslösen wird, noch bevor die KI überhaupt superintelligent wird.

Wir könnten eine „Soziale Singularität“ erleben, in der die Gesellschaft so stark auf die Idee der KI reagiert, dass sie den Pfad der Technologie ändert. Vielleicht verbieten wir sie, vielleicht verlangsamen wir sie, oder vielleicht führen wir einen Krieg darüber. Das Papier legt nahe, dass das dramatischste Ereignis in unserer Zukunft vielleicht nicht die Übernahme durch die KI ist, sondern der Kampf der Menschen darüber, ob sie die Übernahme zulassen sollen.

Was das für die Zukunft bedeutet

Das Papier sagt nicht, dass KI nicht gefährlich sein wird. Es sagt nicht, dass wir sie definitiv stoppen werden. Stattdessen sagt es, dass die Zukunft viel komplizierter ist, als die Geschichten vom „langsamen Verblassen“ vermuten lassen. Es ist keine gerade Linie, auf der wir einfach nur die Kontrolle verlieren. Es ist ein verzweigter Baum mit vielen möglichen Pfaden.

• Es ist kein feststehendes Urteil: Die Zukunft steht nicht in Stein. Das Papier legt nahe, dass aufgrund menschlicher Konflikte, unterschiedlicher Gesetze in verschiedenen Ländern und unserer emotionalen Reaktionen der Pfad der KI voller Wendungen, Kurven und plötzlicher Stopps sein wird.
• Es ist chaotisch: Wir könnten eine Welt erleben, in der einige Orte fortschrittliche KI haben und andere nicht, oder in der KI in einigen Städten verboten ist, aber in anderen frei existiert.
• Es liegt an uns: Der wichtigste Faktor ist nicht nur der Code, den die Programmierer schreiben, sondern die Argumente, die Proteste, die Gesetze und die Gefühle der Menschen, die mit der Technologie leben.

Kurz gesagt: Das Papier fordelt uns auf, aufzuhören, die Zukunft als einen Film zu imaginieren, in dem die Roboter allein gewinnen oder verlieren. Stattdessen sollten wir sie uns als ein riesiges, chaotisches Tauziehen vorstellen, bei dem das Seil die Zukunft der KI ist und wir alle daran ziehen und versuchen zu entscheiden, in welche Richtung es geht. Die „Soziale Singularität“ ist der Moment, in dem das Spiel so intensiv wird, dass die ganze Welt sich verändert – nicht weil die Roboter klug wurden, sondern weil wir endlich beschlossen haben, zurückzukämpfen.