High-Risk Memories? Comparative audit of the representation of Second World War atrocities in Ukraine by generative AI applications
Diese Studie untersucht empirisch, wie generative KI-Anwendungen mit dem hochsensiblen kollektiven Gedächtnis an die Gräueltaten des Zweiten Weltkriegs in Ukraine umgehen, und identifiziert dabei Risiken wie Halluzinationen und eine inkonsistente moralische Bewertung der historischen Ereignisse.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Künstliche Intelligenz und die vergessene Geschichte: Ein Bericht über Lügen, Lücken und moralische Belehrungen
Stellen Sie sich vor, Sie haben einen sehr gut ausgebildeten, aber etwas verwirrten Bibliothekar. Dieser Bibliothekar hat Millionen von Büchern gelesen, kann aber nicht wirklich verstehen, was darin steht. Er kann nur sehr schnell Wörter kombinieren, die oft zusammengehören. Wenn Sie ihn nach einem historischen Ereignis fragen, antwortet er nicht mit Fakten aus einem Archiv, sondern mit dem, was statistisch am wahrscheinlichsten klingt.
Genau das ist das Problem, das Mykola Makhortykh und seine Kollegen in ihrer Studie untersucht haben. Sie haben geprüft, wie gut drei bekannte KI-Chatbots (ChatGPT, Bing Chat und Google Bard) über die schrecklichen Verbrechen des Zweiten Weltkriegs in der Ukraine berichten.
Hier ist die einfache Zusammenfassung ihrer Entdeckungen, gemischt mit ein paar bildhaften Vergleichen:
1. Der Bibliothekar, der sich Dinge ausdenkt (Halluzinationen)
Die Forscher haben den Chatbots 74 verschiedene Fragen gestellt, etwa: „Wie viele Menschen wurden in Babyn Jar getötet?" oder „Wer war für die Pogrome verantwortlich?".
Das Ergebnis war erschreckend: Nur etwa die Hälfte der Antworten war korrekt.
Stellen Sie sich vor, Sie fragen einen Koch nach einem Rezept, und er gibt Ihnen die Hälfte der Zeit das richtige Rezept, aber bei der anderen Hälfte erfindet er Zutaten, die es gar nicht gibt, oder verwechselt Salz mit Zucker.
Besonders schlimm war es bei den KI-Modellen von Google (Bard). Diese „erfanden" oft ganze Geschichten. Sie behaupteten zum Beispiel, ein ukrainischer Widerstandskämpfer (Stepan Bandera) habe die Nazis abgelehnt und sei dafür verhaftet worden – eine Lüge, die in den Trainingsdaten der KI nicht stand, die aber die KI trotzdem als Fakt ausspuckte. Das nennt man „Halluzinieren": Die KI ist so darauf trainiert, einen flüssigen Text zu produzieren, dass sie Fakten opfert, nur um den Satz zu beenden.
2. Der Sprach-Filter: Je nach Sprache eine andere Geschichte
Ein weiterer seltsamer Effekt war, dass die KI je nach Sprache, in der man sie fragte, völlig unterschiedliche Antworten gab.
- Die Analogie: Stellen Sie sich vor, Sie fragen einen Reiseführer in Deutsch über eine Stadt, und er gibt Ihnen eine genaue, historische Beschreibung. Wenn Sie denselben Reiseführer aber auf Russisch oder Ukrainisch fragen, erzählt er Ihnen plötzlich eine ganz andere Geschichte, mit anderen Fakten oder gar keine Antwort.
- Das Problem: Die KI war in den Sprachen, die weniger Daten im Internet haben (wie Ukrainisch oder Russisch), viel ungenauer als im Englischen. Das ist gefährlich, weil genau die Menschen, die vor Ort leben und die Geschichte kennen, oft in ihrer Muttersprache nachfragen und dann falsche Informationen erhalten.
3. Der moralische Prediger (Moralisierung)
Neben den Faktenlücken gab es noch ein zweites Problem: Die KI wollte oft „moralisieren".
- Die Analogie: Stellen Sie sich vor, Sie fragen einen Computer nach einem Unfall. Statt nur zu sagen, was passiert ist, fängt der Computer plötzlich an zu predigen: „Das war schrecklich! Wir müssen daraus lernen, damit so etwas nie wieder passiert! Hassen Sie die Täter!"
- Das Problem: Die KI (besonders ChatGPT) fühlte sich wie ein moralischer Richter. Aber das war inkonsistent. Manchmal war sie sehr streng und moralisch, manchmal gar nicht. Und das Schlimmste: Sie verurteilte manchmal ganze Gruppen von Menschen pauschal, obwohl die Geschichte viel komplexer ist. Sie sagte zum Beispiel: „Es ist wichtig, nicht eine ganze Nation für die Taten weniger zu verurteilen" – was zwar richtig klingt, aber in anderen Antworten wiederholte sie genau das Gegenteil oder verurteilte Gruppen pauschal.
4. Warum ist das so gefährlich?
Die Studie zeigt, dass KI wie ein Verstärker für Verwirrung wirkt.
- Wenn die Geschichte ohnehin schon umstritten ist (wie im Fall der Ukraine, wo verschiedene Gruppen unterschiedliche Opfer- und Tätergeschichten erzählen), nutzt die KI diese Unsicherheit aus.
- Sie nimmt die widersprüchlichen Informationen aus dem Internet und mixt sie zu einer neuen, oft falschen Version der Geschichte.
- Da KI nicht versteht, was „Wahrheit" oder „Ethik" wirklich bedeutet, sondern nur Wahrscheinlichkeiten berechnet, kann sie leicht von böswilligen Akteuren manipuliert werden oder einfach aus Unwissenheit die Geschichte verzerren.
Fazit: Was lernen wir daraus?
Die KI ist ein mächtiges Werkzeug, aber sie ist kein Geschichtsmeister.
Wenn wir KI nutzen, um über schmerzhafte historische Ereignisse wie den Holocaust oder Kriegsverbrechen zu lernen, müssen wir vorsichtig sein. Die KI kann Fakten erfinden, je nach Sprache lügen und sich als moralische Instanz aufspielen, ohne wirklich zu wissen, wovon sie spricht.
Die Forscher schlagen vor, dass KI-Systeme lernen sollten, einfach zu sagen: „Ich weiß das nicht sicher genug, um eine Antwort zu geben", anstatt sich etwas auszudenken. Denn bei Themen, die so viel Schmerz und politische Bedeutung haben, ist eine falsche Antwort schlimmer als gar keine Antwort.
Kurz gesagt: Vertrauen Sie der KI nicht blind, wenn es um die Geschichte geht. Sie ist wie ein sehr gut redender, aber oft verwirrter Schüler, der sich manchmal Dinge ausdenkt, nur um nicht schweigen zu müssen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.