Whose story gets told? ChatGPT, collective memory, and ethical narratives in the age of Artificial Intelligence
Dieses Papier argumentiert, dass KI-Werkzeuge wie ChatGPT zwar den Zugang zu historischem Wissen demokratisieren können, aber Gefahr laufen, das kollektive Gedächtnis durch algorithmische Verzerrungen und faktische Inkonsistenzen zu verzerren, was eine ethisch fundierte menschliche Aufsicht erforderlich macht, um sicherzustellen, dass historische Narrative Produkte kritischer Reflexion bleiben und nicht zu Produkten automatisierter Repräsentation werden.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Im digitalen Zeitalter ist unser Verständnis der Vergangenheit nicht mehr ausschließlich in staubigen Archiven oder den Erinnerungen der Älteren gespeichert. Es lebt in den riesigen, vernetzten Netzwerken des Internets, in denen Systeme der künstlichen Intelligenz als neue Torwächter fungieren. Diese Systeme, bekannt als große Sprachmodelle, werden auf enormen Sammlungen menschlicher Texte trainiert. Sie rufen nicht einfach nur Fakten ab; sie synthetisieren Informationen, um Geschichten und Antworten zu erschaffen. Dies wirft eine tiefgreifende Frage für Historiker und Soziologen auf: Wenn wir eine Maschine bitten, uns über einen Krieg oder einen Konflikt zu berichten, welche Version der Geschichte erhalten wir dann? Das Konzept des „kollektiven Gedächtnisses“ bezieht sich auf die gemeinsame Erzählung, die eine Gruppe sich selbst über ihre Vergangenheit erzählt – eine Geschichte, die prägt, wer sie sind. Wenn ein Algorithmus entscheidet, welche Details einbezogen, welche weggelassen oder wie eine Tragödie gerahmt wird, gestaltet er dieses geteilte Gedächtnis effektiv um. Die Sorge gilt dabei nicht nur der Tatsache, dass ein Datum falsch angegeben wird, sondern der Frage, ob diese Werkzeuge die rauen, schmerzhaften Kanten der Geschichte glätten könnten, indem sie komplexe menschliche Konflikte in neutrale, sanierte Zusammenfassungen verwandeln, die eher den Interessen der Schöpfer der Technologie als der Wahrheit dienen.
Ein Forscherteam setzte sich zum Ziel, genau zu testen, wie diese Werkzeuge der künstlichen Intelligenz mit der unordentlichen Realität der Geschichte umgehen. Sie konzentrierten sich auf eine spezifische, leistungsstarke Version der Technologie namens ChatGPT und baten es, die Geschichten von vier bedeutenden multinationalen Konflikten zu erzählen: den Kriegen nach dem Zerfall Jugoslawiens, dem langjährigen Konflikt zwischen Israel und Palästina, den Kolonialkriegen, die Portugal in Afrika führte, und dem Vietnamkrieg. Um zu sehen, ob die Maschine jedem dieselbe Geschichte erzählt, nutzten die Forscher nicht nur Englisch. Sie stellten dieselben Fragen in den Muttersprachen der an den jeweiligen Konflikten beteiligten Menschen, wie etwa Kroatisch, Serbisch, Arabisch, Hebräisch, Portugiesisch und Vietnamesisch. Sie behandelten den Chatbot nicht bloß als Suchmaschine, sondern als aktiven Teilnehmer eines Gesprächs und beobachteten genau, wie er seine Antworten konstruierte, was er sich zu merken schien und was er scheinbar vergaß.
Die Ergebnisse zeigten, dass die Maschine weit davon entfernt ist, ein neutraler Beobachter zu sein. Anstatt eine einzige, konsistente Version der Geschichte zu liefern, produzierte die KI unterschiedliche Narrative, je nachdem, welche Sprache verwendet wurde, um die Frage zu stellen. Wenn die Forscher in verschiedenen Sprachen nach demselben Ereignis fragten, widersprachen sich die Antworten oft in signifikanter Weise. Wenn beispielsweise gefragt wurde, welches das bedeutendste abschließende Ereignis der Kriege im ehemaligen Jugoslawien sei, verwies die englische Version auf ein Friedensabkommen in Nordmazedonien aus dem Jahr 2001. Die kroatische Version stoppte bei einem Friedensabkommen von 1995, während die serbische Version den Zeitstrahl bis zum Prozess gegen einen militärischen Führer im Jahr 2022 verlängerte. Dies waren nicht nur geringfügige Variationen in der Wortwahl; es handelte sich um grundlegend verschiedene Geschichten darüber, wann der Konflikt endete und was am wichtigsten war. Die Studie stellte fest, dass die KI oft die offiziellen nationalen Narrative der Sprache widerspiegelte, in der sie sprach, und damit effektiv die spezifischen politischen Perspektiven dieser Region verstärkte, anstatt eine ausgewogene, globale Sichtweise anzubieten.
Über diese Inkonsistenzen hinaus identifizierten die Forscher ein Muster von Fehlern und Auslassungen, die die historische Aufzeichnung verzerrten. Die KI gab häufig Daten und Namen falsch an, erfand mitunter Ereignisse, die nie stattgefunden hatten, oder brachte die Reihenfolge von Schlachten durcheinander. Noch besorgniserregender war, was die Maschine wegließ. In ihrem Bestreben, hilfreich zu sein, übersprang sie oft entscheidende Details, wie etwa die spezifischen Opfer von Gräueltaten, die Rolle bestimmter Militärmächte oder die komplexen Ursachen eines Krieges. In einem Fall beschrieb die KI die Kriege in den portugiesischen Kolonien als eine einzige, einfache Geschichte und verschmolz damit unterschiedliche Kämpfe in verschiedenen Ländern zu einem flachen Narrativ. Diese „Vereinfachung“ entzog den Konflikten ihre einzigartigen politischen und sozialen Realitäten. Die Studie stellte zudem eine Tendenz zur „Neutralisierung“ fest, bei der die KI vage Sprache verwendete, um Schuldfragen zu vermeiden. Sie beschrieb einen Genozid als ein „tragisches Ereignis“ oder ein „Verbrechen“, ohne die Täter beim Namen zu nennen, und wusch damit effektiv die spezifische Verantwortung der Beteiligten weg.
Die Forscher kamen zu dem Schluss, dass diese großen Sprachmodelle die Vergangenheit nicht nur widerspiegeln, sondern sie aktiv umgestalten. Da die KI aus den Daten lernt, die ihr eingespeist werden, erbt sie die Vorurteile und blinden Flecken dieser Daten. Wenn sie eine Geschichte über einen Krieg generiert, greift sie nicht auf ein perfektes, objektives Archiv zurück. Stattdessen sagt sie das nächste wahrscheinliche Wort basierend auf Mustern in ihren Trainingsdaten voraus und priorisiert dabei oft die häufigsten oder dominantesten Stimmen in ihrer Datenbank. Dies bedeutet, dass für Nutzer, die sich auf diese Werkzeuge für historisches Wissen verlassen, die Vergangenheit zu einem Produkt algorithmischer Logik statt kritischer Reflexion wird. Die Studie legt nahe, dass wir ohne menschliche Aufsicht und einen starken ethischen Rahmen Gefahr laufen, die Komplexität unserer gemeinsamen Geschichte an eine Maschine zu verlieren, die glatte, vereinfachte und manchmal widersprüchliche Geschichten bevorzugt. Die Macht darüber, welche Geschichten erzählt werden und wie sie erzählt werden, hat sich von Historikern und Gemeinschaften hin zum Code und den Daten verlagert, die diese digitalen Systeme antreiben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.