Das Internet war lange Zeit eine riesige Bibliothek menschlichen Denkens, in der Millionen von Stimmen zu einem chaotischen, aber reichen Geflecht aus Informationen beitragen. In den letzten Jahren ist eine neue Art von Stimme zu diesem Chor gestoßen: künstliche Intelligenz. Große Sprachmodelle, die Motoren hinter modernen Chatbots, werden mit dieser digitalen Bibliothek trainiert und können nun Texte generieren, die menschliches Schreiben imitieren. Diese Systeme werden auch zunehmend dazu verwendet, die Artikel, Rezensionen und Listen zu schreiben, die das Web bevölkern. Dies schafft eine einzigartige Situation, in der die Werkzeuge, die wir nutzen, um Informationen zu finden, beginnen, genau die Dinge zu lesen, die sie selbst miterschaffen haben. Wissenschaftler haben bereits beobachtet, dass ein Modell in einen Zustand des „Modellkollapses“ (Model Collapse) geraten kann, wenn es wiederholt auf seinen eigenen Ausgaben trainiert wird, wobei seine Antworten repetitiv werden und die Reichhaltigkeit der ursprünglichen Daten verlieren. Doch eine neue Studie stellt eine unmittelbarere Frage: Was passiert, wenn diese Systeme ihre Suchwerkzeuge nutzen, um Antworten zu finden, und diese Suchergebnisse zufällig Artikel sind, die sie selbst geschrieben haben?

Forscher bei Graphite Growth wollten dieses Szenario durch eine Reihe umfassender Computersimulationen testen. Sie behandelten das Internet als ein lebendiges Ökosystem, in dem KI-generierte Inhalte ständig veröffentlicht und dann sofort von derselben Art von KI abgerufen werden, die sie geschrieben hat. Zu diesem Zweck nahmen sie über tausend verschiedene Fragen, die von „Wer sind die besten Twitch-Streamer?“ bis hin zu „Wie kann ich mein persönliches Branding verbessern?“ reichten. Sie begannen damit, echte Suchergebnisse für diese Fragen zu sammeln, die als der ursprüngliche Informationspool dienten. Dann baten sie eine KI, die Fragen basierend auf diesen Ergebnissen zu beantworten. Als Nächstes nahmen sie diese KI-Antworten, entwickelten sie zu vollständigen Artikeln weiter und fügten sie dem Pool der verfügbaren Suchergebnisse hinzu, wobei sie die ursprünglichen, von Menschen geschriebenen Quellen ersetzten. Sie wiederholten diesen Prozess immer und immer wieder und simulierten so einen Zyklus, in dem die KI ihre eigene frühere Arbeit liest, um neue Antworten zu generieren.

Die Ergebnisse waren frappierend und besorgniserregend. In fast achtzig Prozent der Simulationen kollabierte das System in einen Zustand extremer Uniformität. Anstatt eine Vielfalt an Perspektiven oder unterschiedliche Listen von Namen anzubieten, produzierte die KI jedes Mal exakt dieselbe Antwort. Dies geschah selbst dann, wenn die Forscher nur eines der ursprünglichen Suchergebnisse durch einen KI-generierten Artikel ersetzten. Überraschenderweise war die Anwesenheit einer einzigen selbst verfassten Referenz bereits ausreichend, um diesen Wandel auszulösen. Die KI behandelte ihr eigenes Schreiben nicht bloß als eine weitere Option; sie bevorzugte ihre eigenen Inhalte unverhältnismäßig stark und zitierte sie weitaus häufiger als die ursprünglichen Quellen, selbst wenn die ursprünglichen Quellen von gleicher oder höherer Qualität waren. Diese Voreingenommenheit führte dazu, dass die Vielfalt der Antworten rapide verschwand. In einem Experiment, das eine Liste der besten Videospiel-Streamer betraf, variierten die anfänglichen Antworten weitgehend und nannten unterschiedliche Personen in unterschiedlicher Reihenfolge. Nach nur fünf Runden dieser selbstreferenziellen Schleife listete jede einzelne Antwort exakt dieselben Streamer in exakt derselben Reihenfolge auf, wobei der Text fast wortwörtlich identisch wurde.

Die Studie schloss die Möglichkeit aus, dass dieser Kollaps lediglich darauf zurückzuführen sei, dass die KI minderwertige oder schlecht geschriebene Inhalte liest. Die Forscher überprüften die Qualität der Artikel und stellten fest, dass die KI-generierten oft in Bezug auf Organisation und Relevanz genauso gut oder sogar besser als die von Menschen geschriebenen waren. Dennoch bevorzugte die KI ihre eigenen Werke. Dies deutet auf ein Phänomen hin, das die Autoren als „Selbst-Bias“ (Self-Bias) bezeichnen, bei dem das Modell eine inhärente Präferenz für den Stil und die Struktur seiner eigenen vorangegangenen Generationen hat. Es ist nicht so, dass die KI nicht in der Lage wäre, andere Informationen zu finden; vielmehr scheint sie sich auf ihre eigenen Ausgaben festzulegen und diese zu verstärken, während sie die breitere Vielfalt des Internets ignoriert. Dieser Effekt wurde bei verschiedenen Arten von KI-Modellen beobachtet, einschließlich jener großer Technologieunternehmen, und er trat unabhängig davon auf, ob die Fragen über faktische Listen oder offene Ratschläge gestellt wurden.

Die Forscher fanden heraus, dass dieser Kollaps kein langsamer, gradueller Prozess ist, sondern fast unmittelbar eintreten kann. In Simulationen, in denen sie nur eine Referenz durch einen KI-generierten Artikel ersetzten, begannen die Antworten bereits innerhalb der ersten Runden zu konvergieren. Am Ende des Prozesses hatte das System die Fähigkeit verloren, die wahre Vielfalt der menschlichen Meinung widerzuspiegeln. Bei Fragen nach „Best“-Listen, wie etwa den besten Restaurants oder Filmen, hörte die KI auf, ein Spektrum an Optionen anzubieten, und konvergierte stattdessen auf eine einzige, enge Perspektive. Einige Entitäten, die anfangs häufig erwähnt wurden, verschwanden völlig aus den Antworten, während andere, die anfangs selten erwähnt wurden, in jeder einzelnen Antwort auftauchten. Dies deutet darauf hin, dass, wenn mehr KI-generierte Inhalte das Internet überschwemmen, die Suchwerkzeuge, auf die wir uns verlassen, uns möglicherweise nicht mehr das vollständige Bild des menschlichen Denkens zeigen, sondern stattdessen eine enge, sich selbst verstärkende Schleife eines maschinengenerierten Konsenses widerspiegeln.

Die Implikationen dieser Erkenntnis reichen über Chatbots hinaus. Die Studie hebt ein potenzielles Risiko für die Zukunft der Informationen im Web hervor. Wenn KI-Systeme zunehmend dazu eingesetzt werden, die Inhalte zu generieren, die andere KI-Systeme abrufen, könnte das Internet langsam seine Vielfalt des Denkens verlieren. Die Forscher merkten an, dass selbst eine geringe Anzahl von KI-generierten Artikeln eine massive Wirkung haben kann, indem sie einen Kollaps auslöst, der alternative Standpunkte eliminiert. Sie testeten verschiedene Wege, um dem entgegenzuwirken, wie etwa den Versuch, KI-generierte Inhalte herauszufiltern oder die Modelle zu mehr Diversität zu ermutigen, doch diese Lösungen sind in der realen Welt noch unbewiesen. Die Studie kommt zu dem Schluss, dass wir zwar nicht sicher wissen, ob dieser Kollaps bereits auf globaler Ebene stattfindet, die Simulationen jedoch zeigen, dass der Mechanismus real und wirkungsvoll ist. Das Internet, einst ein Spiegel der menschlichen Vielfalt, läuft Gefahr, ein Saal der Spiegel zu werden, in dem KI-Systeme nur noch sich selbst sehen.