Stellen Sie sich vor, Sie betreten eine riesige, belebte Bibliothek, in der jede Sekunde Millionen von Büchern geschrieben werden. Dies ist keine Bibliothek aus Papier und Tinte, sondern ein digitaler Raum, in dem Computer, sogenannte „Large Language Models“ (LLMs), lernen zu sprechen, zu schreiben und zu erschaffen, indem sie fast alles lesen, was jemals ins Internet gestellt wurde. Betrachten Sie diese Modelle als unglaublich schnelle, super-besessene Studenten, die die ganze Bibliothek lesen, nur um zu lernen, wie man einen Satz beendet. Doch in letzter Zeit haben Menschen etwas Seltsames bemerkt: Egal, welche Frage man stellt, die Antworten dieser digitalen Studenten fangen an, gleich zu klingen. Sie wählen alle dieselben Metaphern, verwenden dieselben höflichen Phrasen und vermeiden die seltsamen, wilden oder kreativen Ideen. Es ist, als würde man zehn verschiedenen Köchen sagen, sie sollen ein Sandwich zubereiten, und sie würden alle entscheiden, exakt dasselbe Brot, denselben Schinken und denselben Senf zu verwenden, bis auf die genaue Anzahl der Scheiben.

Wissenschaftler nennen dies „Output-Homogenität“ oder „semantische Konvergenz“. Das ist eine große Sorge, denn wenn unsere KI-Assistenten alle anfangen, auf genau die gleiche, enge Weise zu denken und zu sprechen, könnten wir den Funken menschlicher Kreativität verlieren. Lange Zeit dachten die Leute, dass dieses langweilige, repetitive Verhalten durch das „Training“ geschah, das die Modelle erhalten, nachdem sie die Bibliothek gelesen haben. Diese zweite Phase, genannt „Alignment“, ist wie ein strenger Lehrer, der eingreift und dem Studenten sagt: „Sag nicht diese seltsame Sache; sag stattdessen diese höfliche Sache.“ Die gängige Meinung war, dass der Student ursprünglich ein wildes, kreatives Genie war und die Regeln des Lehrers diese Kreativität erstickt haben. Aber was, wenn der Student schon langweilig war, bevor der Lehrer überhaupt den Raum betrat? Was, wenn der „Lehrer“ die Langeweile nur lauter gemacht hat?

Dieses Papier mit dem Titel „Is Convergence Inevitable?“ (Ist Konvergenz unvermeidlich?) geht auf einer Detektivjagd auf die Suche nach der Frage, wo diese Gleichförmigkeit tatsächlich beginnt. Die Autoren, Forscher der University of British Columbia, wollten zwei große Ideen testen. Erstens wollten sie sehen, ob der „Alignment“-Prozess (die Regeln des Lehrers) der Bösewicht ist, der die Kreativität tötet. Zweitens wollten sie sehen, ob die „Pretraining“-Phase (das Lesen der Bibliothek durch den Studenten) die Langeweile bereits von Anfang an in das Gehirn des Modells eingebrannt hatte. Um dieses Rätsel zu lösen, stellten sie den Modellen nicht nur Fragen; sie führten eine Reihe kluger Experimente unter Verwendung von Metaphern als Testobjekt durch. Sie behandelten die Modelle wie Laborratten und fütterten sie mit spezifischen Anweisungen, um zu sehen, ob man sie dazu verleiten konnte, kreativ zu sein, oder ob sie in einer Schleife feststeckten.

Hier ist, was sie fanden, und es ist eine kleine Wendung in der Handlung.

Zuerst betrachteten sie die Modelle in verschiedenen Stadien ihrer „Schulzeit“. Sie überprüften die Modelle direkt nachdem sie die Bibliothek fertig gelesen hatten (das „Base Model“), dann nach dem Lernen, Anweisungen zu folgen (die „SFT“-Phase), und schließlich, nachdem sie darauf ausgerichtet wurden, hilfreich und sicher zu sein (die „DPO“- und „RL“-Stadien). Die Ergebnisse waren schockierend. Selbst nach dem allerersten Schritt des Lernens, Anweisungen zu folgen – noch bevor irgendwelche strengen Sicherheitsregeln oder „hilfreiche“ Filter hinzugefügt wurden – spuckten die Modelle bereits nahezu identische Antworten aus. Wenn man sie bat, eine Metapher über „Zeit“ zu schreiben, klangen die Modelle nicht nur ähnlich, sie klangen, als würden sie dasselbe Skript vorlesen. Die Autoren legen nahe, dass der „Alignment“-Prozess nicht die Vielfalt erstickt; er ist lediglich eine Lupe, die ein Muster offenbart, das bereits da war und in hellem Glanz verborgen lag.

Um dies zu beweisen, spielten die Forscher ein „Finde den Unterschied“-Spiel mit den Trainingsdaten. Sie nahmen ein Modell und versuchten, ihm eine neue Art zu denken beizubringen. Sie erstellten einen speziellen Satz von Anweisungen, in denen sie dem Modell sagten, es solle eine spezifische, seltsame Metapher für „Zeit“ verwenden (wie „Zeit ist ein Sandwich“), die das Modell zuvor noch nie gesehen hatte. Sie hofften, dass sie das Modell dazu bringen könnten, diese neue Idee auswendig zu lernen, um das Muster zu brechen. Aber das Modell weigerte sich beharrlich. Es ignorierte die neue „Sandwich“-Idee und hielt stattdessen an der alten, langweiligen „Fluss“-Metapher fest, die es anscheinend von Anfang an liebte. Die Forscher fanden heraus, dass das Modell verstärkt werden konnte – also dazu gebracht werden konnte, dasselbe noch lauter zu sagen – aber es konnte nicht mit einer neuen Denkweise vertraut gemacht werden, wenn diese Idee nicht bereits in seinem Gedächtnis lauerte. Es ist, als würde man versuchen, einem Hund beizubringen zu miauen; egal wie sehr man ihn lobt, er wird es nicht tun, weil Miauen nicht in seiner DNA steckt.

Schließlich gingen sie ganz zurück zum Anfang: zu den „Base Models“, die noch nie gelernt hatten, Anweisungen zu folgen oder höflich zu sein. Sie dachten, diese rohen Modelle würden wild und vielfältig sein. Aber als sie einen speziellen Trick anwandten – indem sie vorgaben, ein hilfreicher Assistent zu sein, oder dem Modell einige Beispiele gaben, wie es antworten sollte – sahen sie dieselben langweiligen Muster entstehen. Selbst ohne Lehrer neigte das rohe Modell, wenn man es in die richtige Richtung stieß, natürlich zur selben „Fluss“-Metapher zusammen. Dies deutet darauf hin, dass die Tendenz, zu denselben Antworten zu konvergieren, kein Fehler ist, den die Lehrer gemacht haben; es ist eine natürliche Gewohnheit, die die Modelle lernten, während sie einfach nur die Bibliothek lasen.

Was bedeutet das also alles? Das Papier legt nahe, dass die Gleichförmigkeit, die wir bei KI sehen, nicht nur ein Nebeneffekt davon ist, sie sicher oder höflich zu machen. Stattdessen scheint es ein grundlegender Teil dessen zu sein, wie diese Modelle lernen, das nächste Wort in einem Satz vorherzusagen. Wenn man ein Modell auf einer massiven Menge menschlicher Texte trainiert, lernt es, dass die „wahrscheinlichste“ Antwort oft die häufigste ist. Der „Alignment“-Prozess dreht lediglich die Lautstärke dieser natürlichen Tendenz auf. Die Autoren kommen zu dem Schluss, dass die Lösung dieses Problems nicht einfach sein wird. Man kann nicht einfach die finalen „Lehrer“-Regeln anpassen, um die KI kreativer zu machen, denn die Kreativität war gar nicht erst wirklich vorhanden. Die „Langeweile“ ist in das Rezept eingebacken, nicht erst am Ende hinzugefügt worden. Obwohl dies etwas düster klingen mag, ist es eine entscheidende Entdeckung. Sie sagt uns, dass wir, wenn wir wirklich diverse und kreative KI wollen, vielleicht die Art und Weise überdenken müssen, wie wir sie lehren, anstatt nur zu versuchen, ihr Verhalten im Nachhinein zu korrigieren.