When AI Fails: Hallucination Exposure, Verification, and Critical AI Literacy
Gebruikmakend van enquêtegegevens van 314 respondenten, onthult deze studie dat hoewel de meeste gebruikers geconfronteerd zijn met AI-hallucinaties, slechts enkelen het concept begrijpen, maar zij die wel falen ervaren, eerder geneigd zijn informatie te verifiëren, wat de auteurs ertoe brengt om Kritische AI-geletterdheid te definiëren als een epistemische adaptatie die prioriteit geeft aan kritische afstand en verificatie boven louter technische vaardigheid.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne wereld zijn we eraan gewend geraakt om machines om antwoorden te vragen. Wanneer we een vraag typen in een computerprogramma, ontvangen we vaak een reactie die vloeit met de gemakkelijkheid van een menselijk gesprek, compleet met een zelfverzekerde toon en perfecte grammatica. Deze technologie, bekend als generatieve kunstmatige intelligentie, heeft veranderd hoe we informatie vinden, documenten schrijven en nieuwe dingen leren. Deze machines bezitten echter een merkwaardig gebrek: ze kunnen feiten verzinnen. Ze kunnen een historische gebeurtenis beschrijven die nooit heeft plaatsgevonden of een wetenschappelijke studie citeren die niet bestaat, terwijl ze allemaal volkomen zeker klinken. Dit fenomeen, dat onderzoekers een "hallucinatie" noemen, creëert een uniek probleem voor iedereen die probeert te leren of te werken. In tegenstelling tot een traditioneel boek of een nieuwsartikel, waarbij we de kwalificaties van de auteur kunnen controleren of naar de voetnoten kunnen kijken, bieden deze AI-systemen geen duidelijke manier om te zien waar hun informatie vandaan komt. De centrale vraag van onze tijd is niet alleen of deze machines fouten maken, maar hoe mensen reageren wanneer ze die fouten ontdekken. Stoppen we met het gebruik van de tool, of leren we het anders te gebruiken?
Een team van onderzoekers uit Polen en China zette zich in om deze reactie te begrijpen. Ze ondervroegen 314 mensen die deze AI-tools gebruiken, variërend van universiteitsstudenten tot professionals in diverse sectoren. Het doel was om te zien of het simpelweg voldoende vaak gebruiken van de technologie mensen slimmer maakt over de gebreken ervan, of dat er iets anders nodig is om een gezonde scepsis te ontwikkelen. De onderzoekers waren bijzonder geïnteresseerd in een concept dat zij "Kritische AI-geletterdheid" noemen. Dit gaat niet alleen over weten hoe je een commando typt of hoe je de machine een gedicht laat schrijven. In plaats daarvan is het het vermogen om te herkennen wanneer de machine liegt, te begrijpen dat een zelfverzekerde stem geen garantie is voor de waarheid, en te weten wanneer je de output niet meer moet vertrouwen en deze moet controleren aan de hand van andere bronnen.
De studie begon met de vraag aan de deelnemers of ze ooit informatie van een AI waren tegengekomen die niet klopte of verzonnen was. De resultaten lieten zien dat dergelijke ontmoetingen algemeen voorkomen. Meer dan acht op de tien mensen in de enquête zeiden dat ze ten minste af en toe onjuiste of gefabriceerde informatie van deze systemen hadden gezien. Toch, toen de onderzoekers vroegen of deze zelfde mensen de specifieke term voor dit probleem, "AI-hallucinatie", kenden, zei minder dan de helft dat ze ermee bekend waren. Deze kloof suggereert dat veel mensen de mislukking van de technologie hebben ervaren zonder er een naam voor te hebben of een volledige begrip van te hebben waarom het gebeurt. Ze weten dat er iets mis is, maar ze realiseren zich misschien niet dat het een fundamentele beperking is van hoe de machine werkt, in plaats van slechts een zeldzame storing.
Wat daarna gebeurde, was het meest onthullende deel van de studie. Wanneer mensen beseften dat de AI hen onjuiste informatie had gegeven, gooiden ze het hulpmiddel niet simpelweg weg. In plaats daarvan veranderden ze de manier waarop ze het gebruikten. De grote meerderheid van degenen die fouten hadden gezien, begon de antwoorden van de AI te controleren aan de hand van andere bronnen, zoals boeken of vertrouwde websites. Velen begonnen de AI alleen nog als een helper of een startpunt te gebruiken, in plaats van als de definitieve autoriteit over een onderwerp. Sommigen leerden zelfs de machine specifieke instructies te geven die ontworpen zijn om de kans te verkleinen dat het dingen verzint. De onderzoekers ontdekten dat de belangrijkste factor die voorspelde of iemand het werk van de AI zou controleren, niet was hoe vaak ze de tool gebruikten, noch hoe lang ze deze al gebruikten. Het enige dat mensen betrouwbaar voorzichtiger maakte, was de directe ervaring van het zien falen van de machine.
Deze bevinding daagt een algemene aanname uit dat het simpelweg een expertgebruiker worden van een technologie je een kritische denker maakt over die technologie. De gegevens suggereren dat je zeer vaardig kunt zijn in het bedienen van een AI-systeem en toch de output ervan te veel kunt vertrouwen, simpelweg omdat je het nog niet heeft zien liegen. Het is de ontmoeting met de fout die een gedragsverandering teweegbrengt. Zodra een persoon ziet dat de machine het mis kan hebben, begint diegene de zelfverzekerde antwoorden met een noodzakelijke afstand te behandelen. Ze leren dat vloeiendheid en zelfvertrouwen niet hetzelfde zijn als nauwkeurigheid. De studie geeft aan dat dit proces van leren verifiëren, het beperken van afhankelijkheid en het in twijfel trekken van de bron, is wat ware geletterdheid vormt in het tijdperk van kunstmatige intelligentie.
De onderzoekers merkten ook op dat deze gedragsverandering complicaties ondervindt door het feit dat deze machines vaak mysterieus zijn. Gebruikers kunnen de interne logica of de specifieke bronnen waar de AI uit put, niet zien. Dit gebrek aan transparantie maakt het moeilijker om de betrouwbaarheid van een antwoord te beoordelen voordat men het leest. Wanneer mensen het gevoel hebben dat het systeem opaak of onbegrijpelijk is, zijn ze eerder geneigd hun fouten als een ernstig probleem te zien. De studie maakt echter duidelijk dat de verantwoordelijkheid voor het beheersen van deze risico's niet volledig bij de individuele gebruiker ligt. Hoewel mensen kunnen leren informatie te verifiëren en hun vertrouwen aan te passen, moeten de makers van deze systemen en de instellingen die ze inzetten ook werken aan het transparanter en betrouwbaarder maken van de technologie.
Uiteindelijk schetst het onderzoek een beeld van een gebruikersgroep die zich aanpast. Mensen wijzen kunstmatige intelligentie niet af, maar accepteren het ook niet blindelings. Ze ontwikkelen een voorwaardelijke relatie met het, een waarbij het hulpmiddel nuttig is, maar de autoriteit ervan beperkt is. Deze aanpassing is een vorm van leren die verder gaat dan technische vaardigheid. Het houdt in dat men begrijpt dat de machine een probabilistische motor is die het volgende woord in een zin voorspelt, in plaats van een database die geverifieerde feiten ophaalt. Naarmate deze tools meer geïntegreerd raken in het onderwijs en het dagelijks leven, zal het vermogen om onderscheid te maken tussen een overtuigend verhaal en een geverifieerde waarheid een essentiële vaardigheid worden. De studie concludeert dat echte beheersing van deze systemen niet voortkomt uit weten hoe je ze laat werken, maar uit weten wanneer je ze niet meer moet vertrouwen en zelf de feiten moet gaan controleren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.