High-Risk Memories? Comparative audit of the representation of Second World War atrocities in Ukraine by generative AI applications
Dit paper onderzoekt empirisch hoe generatieve AI-toepassingen omgaan met de representatie van hoog-risico herinneringen aan Tweede Wereldoorlog-gruweldaden in Oekraïne, met name om de risico's van historische misrepresentatie, zoals hallucinaties en inconsistente morele oordelen, te kwantificeren en de implicaties voor toekomstige herdenkingspraktijken te bespreken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Titel: De Digitale Vergetelheid: Waarom AI de Geschiedenis van Oorlogstijd in Oekraïne soms verdraait
Stel je voor dat je een zeer slimme, maar soms wat verwarde bibliothecaris hebt die alles over de wereldgeschiedenis weet. Je vraagt hem: "Wat is er gebeurd tijdens de Tweede Wereldoorlog in Oekraïne?" Hij pakt zijn boeken, denkt even na en geeft je een antwoord. Maar hier is het probleem: deze bibliothecaris leest niet echt wat er in de boeken staat. Hij raadt gewoon het volgende woord dat hij denkt dat je wilt horen, gebaseerd op wat hij eerder heeft gelezen.
Dit is precies wat er gebeurt met Generatieve Kunstmatige Intelligentie (genAI), zoals ChatGPT of Bing Chat. Een nieuw onderzoek van drie wetenschappers van de Universiteit van Bern kijkt naar hoe deze digitale bibliothecarissen omgaan met de gevoeligste en gevaarlijkste herinneringen: de gruweldaden van de Tweede Wereldoorlog in Oekraïne.
Hier is wat ze ontdekten, vertaald in simpele taal:
1. De "Halucinerende" Verteller
Soms vertelt de AI gewoon dingen die niet waar zijn, alsof hij droomt. Dit noemen ze hallucinaties.
- De analogie: Stel je voor dat je vraagt: "Hoeveel mensen stierven in dit dorp?" en de AI antwoordt: "Ongeveer 50.000, inclusief een getuige die heette Ivan en een brief die hij schreef." Het probleem? Er was geen Ivan en die brief bestaat niet. De AI heeft het gewoon verzonnen omdat het 'plausibel' klinkt.
- Het risico: Bij Oekraïense geschiedenis, vooral in het Oekraïens en Russisch, gebeurde dit heel vaak. De AI verzon soms zelfs dat een beroemde leider (Stepan Bandera) de nazi's had afgewezen, terwijl hij juist samwerkte. Het is alsof een verteller in een sprookje plotseling de slechterik tot een held maakt zonder dat het verhaal daar om vraagt.
2. De Taal-Valstrik
De kwaliteit van het antwoord hangt sterk af van de taal waarin je vraagt.
- De analogie: Het is alsof je dezelfde bibliothecaris vraagt om een verhaal te vertellen in het Engels, het Oekraïens en het Russisch. In het Engels is hij redelijk goed (ongeveer 50% van de antwoorden kloppen). Maar zodra je in het Oekraïens of Russisch vraagt, wordt hij veel slordiger.
- Het probleem: De AI is getraind op veel meer teksten in het Engels dan in het Oekraïens. Voor de minder bekende geschiedenis in Oekraïne heeft hij dus minder "boeken" om uit te putten. Het resultaat? In het Russisch of Oekraïens geven de AI's vaak onjuiste informatie, terwijl ze in het Engels iets beter presteren. Dit is gevaarlijk, omdat de mensen die het meest om deze geschiedenis geven, vaak in die talen spreken.
3. De "Morele Preker"
Naast het verdraaien van feiten, probeert de AI soms ook een morele les te geven.
- De analogie: Stel je voor dat je vraagt naar een vreselijke gebeurtenis. De AI begint niet alleen met de feiten, maar eindigt elke zin met: "Dit was vreselijk, we moeten het onthouden om nooit meer zo te doen!"
- Het gevaar: Dit klinkt misschien goed, maar het is onvoorspelbaar. Soms geeft de AI een zware morele les, en soms (bijvoorbeeld in een andere taal) zegt hij niets dergelijks. Het is alsof de AI soms een strenge leraar is en soms een neutrale verslaggever. Dit kan mensen in de war brengen over wat de "juiste" manier is om naar deze geschiedenis te kijken. Soms preest de AI zelfs onbedoeld dat bepaalde groepen mensen "slecht" waren, terwijl de geschiedenis veel complexer is.
4. Waarom is dit zo belangrijk?
De geschiedenis van de Tweede Wereldoorlog in Oekraïne is al heel gevoelig. Er zijn veel groepen (Joden, Polen, Oekraïners) die slachtoffer zijn geweest, en er is veel ruzie over wie wat heeft gedaan. Politieke groepen gebruiken deze herinneringen vaak als wapen.
- De analogie: Als je een kwetsbaar glaswerk (de herinnering) in een kamer zet en er een robot (de AI) in laat lopen die soms dingen verdraait en soms verzonnen verhalen toevoegt, dan is het glaswerk binnen no-time kapot.
- De AI kan per ongeluk (of door slechte training) de waarheid vervalsen, wat helpt bij het verspreiden van propaganda. Omdat de AI niet echt "begrijpt" wat waarheid is, maar alleen woorden voorspelt, kan hij onbedoeld leugens verspreiden die er heel geloofwaardig uitzien.
Conclusie: Wees voorzichtig met je digitale gids
De onderzoekers concluderen dat we niet blindelings moeten vertrouwen op AI voor geschiedenis, vooral niet voor gevoelige onderwerpen.
- De les: AI is een krachtig hulpmiddel, maar het is geen waarheidsmachine. Het is meer als een kind dat veel verhalen heeft gehoord, maar niet altijd weet wat echt is en wat niet.
- De oplossing: De auteurs suggereren dat AI-systemen misschien beter "nee" moeten zeggen als ze het niet zeker weten, in plaats van een verzonnen verhaal te vertellen. En we moeten een duidelijke regel opstellen over hoe AI met dergelijke zware geschiedenis moet omgaan, zodat het niet per ongeluk de waarheid vervalst.
Kortom: Als je de geschiedenis wilt leren, is de AI een interessante gids, maar neem hem niet als je enige bron. Houd altijd je eigen kritische blik en verifieer wat hij zegt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.