Whose story gets told? ChatGPT, collective memory, and ethical narratives in the age of Artificial Intelligence
Dit artikel betoogt dat hoewel AI-tools zoals ChatGPT de toegang tot historische kennis kunnen democratiseren, ze het risico lopen het collectieve geheugen te vervormen door algoritmische vooroordelen en feitelijke inconsistenties, wat ethisch gefundeerd menselijk toezicht noodzakelijk maakt om ervoor te zorgen dat historische narratieven producten blijven van kritische reflectie in plaats van geautomatiseerde representatie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In het digitale tijdperk wordt ons begrip van het verleden niet langer uitsluitend bewaard in stoffige archieven of in de herinneringen van ouderen. Het leeft in de enorme, onderling verbonden netwerken van het internet, waar systemen van kunstmatige intelligentie fungeren als nieuwe poortwachters. Deze systemen, bekend als grote taalmodellen, worden getraind op enorme collecties menselijke teksten. Ze halen niet simpelweg feiten op; ze synthetiseren informatie om verhalen en antwoorden te creëren. Dit roept een diepgaande vraag op voor historici en sociologen: wanneer we een machine vragen ons iets te vertellen over een oorlog of een conflict, welke versie van de geschiedenis krijgen we dan? Het concept van "collectief geheugen" verwijst naar het gedeelde verhaal dat een groep zichzelf vertelt over zijn verleden, een verhaal dat vormt wie zij zijn. Als een algoritme bepaalt welke details worden opgenomen, welke worden weggelaten, of hoe een tragedie wordt geframed, herschrijft het effectief dat gedeelde geheugen. De zorg gaat niet alleen over het foutief vermelden van een datum, maar over de vraag of deze instrumenten de ruwe, pijnlijke randen van de geschiedenis zouden kunnen gladstrijken, waardoor complexe menselijke conflicten worden veranderd in neutrale, gesaneerde samenvattingen die de belangen van de makers van de technologie dienen in plaats van de waarheid.
Een team van onderzoekers zette zich scharpe doelwitten voor om precies te testen hoe deze instrumenten van kunstmatige intelligentie omgaan met de rommelige realiteit van de geschiedenis. Ze richtten zich op een specifieke, krachtige versie van de technologie genaamd ChatGPT, waarbij ze de chatbot vroegen de verhalen te vertellen van vier grote multinationale conflicten: de oorlogen na het uiteenvallen van Joegoslavië, het langdurige conflict tussen Israël en Palestina, de koloniale oorlogen gevoerd door Portugal in Afrika, en de Vietnamoorlog. Om te zien of de machine iedereen hetzelfde verhaal vertelde, vroegen de onderzoekers de vragen niet alleen in het Engels. Ze stelden dezelfde vragen in de moedertalen van de mensen die betrokken waren bij elk conflict, zoals Kroatisch, Servisch, Arabisch, Hebreeuws, Portugees en Vietnamees. Ze behandelden de chatbot niet slechts als een zoekmachine, maar als een actieve deelnemer in een gesprek, waarbij ze nauwlettend observeerden hoe de chatbot zijn antwoorden construeerde, wat hij erbij koos te herinneren en wat hij leken te vergeten.
De resultaten onthulden dat de machine verre van een neutrale observator is. In plaats van één consistente versie van de geschiedenis te bieden, produceerde de AI verschillende narratieven afhankelijk van de taal waarin de vraag werd gesteld. Wanneer de onderzoekers over hetzelfde evenement vroegen in verschillende talen, bevatten de antwoorden vaak aanzienlijke tegenstrijdigheden. Bijvoorbeeld, wanneer gevraagd werd naar de meest significante laatste gebeurtenis van de oorlogen in het voormalige Joegoslavië, wees de Engelse versie naar een vredesakkoord in Noord-Macedonië in 2001. De Kroatische versie stopte bij een vredesakkoord in 1995, terwijl de Servische versie de tijdlijn uitbreidde tot het proces tegen een militaire leider in 2022. Dit waren niet slechts kleine variaties in bewoording; het waren fundamenteel verschillende verhalen over wanneer het conflict eindigde en wat het belangrijkst was. De studie vond dat de AI vaak de officiële nationale narratieven van de taal die het sprak weerspiegelde, waardoor het de specifieke politieke perspectieven van die regio effectief versterkte in plaats van een gebalanceerd, globaal beeld te bieden.
Naast deze inconsistenties identificeerden de onderzoekers een patroon van fouten en weglatingen die de historische verslaglegging vervormden. De AI maakte vaak fouten in datums en namen, verzonk soms gebeurtenissen die nooit hadden plaatsgevonden of haalde de volgorde van veldslagen door elkaar. Nog verontrustender was wat de machine wegliet. In haar pogingen om behulpzaam te zijn, sloeg de AI vaak cruciale details over, zoals de specifieven slachtoffers van gruwelijkheden, de rol van bepaalde militaire strijdkrachten, of de complexe oorzaken van een oorlog. In één instantie beschreef de AI de oorlogen in de Portugese koloniën als één enkel, eenvoudig verhaal, waarbij ze verschillende strijdpunten in verschillende landen samenvoegde tot één plat narratief. Deze "simplificatie" ontnam de unieke politieke en sociale realiteiten van elk conflict. De studie merkte ook een neiging naar "neutralisering" op, waarbij de AI vage taal gebruikte om schuldvermijding toe te passen. Het zou een genocide beschrijven als een "tragische gebeurtenis" of een "misdaad" zonder de daders te benoemen, waardoor de specifieke verantwoordelijkheid van de betrokken actoren effectief werd weggewassen.
De onderzoekers concludeerden dat deze grote taalmodellen de geschiedenis niet louter reflecteren; ze vormen deze actief om. Omdat de AI leert van de data die het gevoed krijgt, erft het de vooroordelen en blinde vlekken van die data. Wanneer het een verhaal over een oorlog genereert, put het niet uit een perfect, objectief verslag. In plaats daarvan voorspelt het de meest waarschijnlijke volgende woorden op basis van patronen in zijn trainingsdata, waarbij het vaak de meest voorkomende of dominante stemmen in zijn database prioriteit geeft. Dit betekent dat voor gebruikers die deze instrumenten vertrouwen voor historische kennis, het verleden een product wordt van algoritmische logica in plaats van kritische reflectie. De studie suggereert dat zonder menselijk toezicht en een sterk ethisch kader, we het risico lopen de complexiteit van onze gedeelde geschiedenis te verliezen aan een machine die de voorkeur geeft aan gladgestreken, vereenvoudigde en soms tegenstrijdige verhalen. De macht om te beslissen welke verhalen worden verteld, en hoe ze worden verteld, is verschoven van historici en gemeenschappen naar de code en data die deze digitale systemen aandrijven.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.