De Geheugentrap: Wanneer AI Te Creatief Wordt

Stel je voor dat je praat met een superintelligente digitale assistent die alles onthoudt wat je er ooit tegen hebt gezegd. Dit is niet zomaar een simpel kladblok; het is een "gepersonaliseerde" AI die ontworpen is om jou te kennen. In de wereld van de informatica wordt dit Large Language Model (LLM) personalisatie genoemd. Zie deze modellen als ongelooflijk snelle lezers die met je kunnen chatten, maar ze hebben een lastige gewoonte: ze vullen soms de gaten in jouw levensverhaal in met gissingen die heel zelfverzekerd klinken, maar eigenlijk verzonnen zijn.

Om het probleem te begrijpen, moeten we twee dingen weten. Ten eerste is persistent geheugen het vermogen van een AI om feiten over jou te onthouden over verschillende gesprekken heen, zoals het onthouden van je favoriete pizzatopping van vorige week. Ten tweede is hallucinatie wanneer een AI feiten over de wereld verzint (zoals beweren dat de maan van kaas is gemaakt). Maar er is een derde, nog geniepiger probleem: over-inferentie. Dit is wanneer de AI een klein, waar feit dat je hem gaf, uitrekt tot een heel nieuw persoonlijkheidskenmerk dat je nooit hebt genoemd. Het is alsof je een vriend vertelt dat je van koffie houdt, en hij vertelt direct aan iedereen dat je een barista bent die in een met koffie geurende loft woont en droomt van het openen van een café. De vriend liegt niet over de koffie, maar hij heeft een heel leven rondom dat feit verzonnen. We geven hierom omdat als onze digitale assistenten ons leven gaan verzinnen, ze ons advies kunnen geven op basis van een persoon die niet bestaat.

De Mirage: Wanneer AI Jouw Leven Verbeeldt

Een team van onderzoekers besloot deze "gepersonaliseerde" AI-assistenten op de proef te stellen. Ze creëerden een speeltuin genaamd MirageBench (een "mirage" is een valse oase in de woestijn, wat een perfecte naam hiervoor is). Ze gaven 12 verschillende AI-modellen een eenvoudige uitdaging: doe alsof je iemand kent op basis van slechts drie feiten over die persoon. Daarna vroegen ze de AI om dingen te doen zoals een datingprofiel schrijven, een weekendtrip voorstellen of de woning van de persoon te beschrijven.

De resultaten waren een beetje alsof je naar een goochelaar kijkt die te veel vertrouwen krijgt in zijn eigen trucjes. De onderzoekers ontdekten dat elk enkel model dat ze testten, schuldig was aan "over-inferentie". Gemiddeld genomen was ongeveer 41,6% van de zaken die deze AI's beweerden te weten over de gebruiker volledig verzonnen. Dat betekent dat als een AI je vertelt dat hij 10 dingen over je weet, er ongeveer 4 pure fictie zijn, ook al zegt de AI dit met totale overtuiging.

De studie verdeelde deze verzonnen claims in twee categorieën: Stereotypen (raden dat je van yoga houdt omdat je een verpleegkundige bent) en Fabricaties (verzinnen dat je een huisdier iguana hebt terwijl je dat nooit hebt vermeld). De AI's waren veel beter in het verzinnen van wilde verhalen (fabricaties) dan in het louter vertrouwen op stereotypen. Sterker nog, voor taken die verbeelding vereisten, zoals het beschrijven van iemands appartement, schoot het "foutpercentage" omhoog naar bijna 59%. Het lijkt erop dat hoe minder bewijs de AI heeft, hoe vrijer hij details begint te dromen.

De Grote Zelfvertrouwenstrik

Dit is het meest verrassende deel van het verhaal, wat de onderzoekers de "Self-Monitoring Inversion" noemen.

Normaal gesproken denken we dat als een AI zegt: "Ik weet het niet zeker over dit punt," het eerlijk is, en als het zegt: "Ik weet het 100% zeker," het zelfverzekerd is. Maar de onderzoekers ontdekten een complex patroon bij het vergelijken van verschillende AI-modellen: de modellen die beweerden dat ze het minst waarschijnlijk dingen zouden verzinnen, waren juist de modellen die het meest verzinnen. Omgekeerd waren de modellen die toegaven: "Hé, ik ben misschien aan het gissen hier," vaak de modellen die het dichtst bij de waarheid bleven.

Het is als een klaslokaal waar de leerlingen die hun hand opsteken en zeggen: "Ik denk dat ik het fout heb," eigenlijk degenen zijn die het meest hebben gestudeerd, terwijl de leerlingen die roepen: "Ik weet het antwoord!" degene zijn die wild aan het gokken zijn. De onderzoekers vonden een negatieve link tussen de zelfgerapporteerde betrouwbaarheid van een model en de werkelijke nauwkeurigheid, hoewel ze opmerken dat dit een exploratieve bevinding is met een breed betrouwbaarheidsinterval dat de mogelijkheid van geen effect insluit. Dit betekent dat je niet zomaar een AI kunt vragen: "Ben je dingen aan het verzinnen?" en de reactie kunt vertrouwen bij het vergelijken van verschillende AI's. De modellen die het meest eerlijk klinken, kunnen de grootste leugenaars zijn, maar de data suggereert dat deze relatie nog steeds volledig wordt begrepen.

De Stille Vervuiling

De onderzoekers voerden ook een simulatie uit waarbij de AI een gesprek voerde met een gebruiker over 8 rondes. Ze keken of de AI zijn fouten zou "opschonen" als de gebruiker hem corrigeerde. De resultaten waren zorgwekkend, maar met een twist: niet alle modellen gedroegen zich hetzelfde.

Voor de slimste, meest capabele modellen maakte de AI niet alleen fouten; de AI accumuleerde ze. Stel je een whiteboard voor waar de AI een gok opschrijft. Als de gebruiker zegt: "Eigenlijk hou ik niet van dat," zou een goed systeem de gok wissen. Maar deze topmodellen? Zij hielden de gok op het bord en voegden er meer gokkels aan toe. Ze voegden elke ronde ongeveer 5 tot 15 nieuwe verzonnen feiten toe, en ze verwijderden de oude bijna nooit (met verwijderingspercentages zo laag als 0,4% tot 5%).

Dit was echter niet waar voor elk model. Sommige modellen gedroegen zich meer als een "vervang-en-update"-systeem, waarbij ze actief oude gokken verwijderden wanneer er nieuwe informatie binnenkwam, met verwijderingspercentages van wel 70% tot 82%. Het gevaar schuilt specif met name bij de meest capabele accumulatoren, wier geheugen een opgeblazen puinhoop werd van meer dan 120 verzonnen feiten, waarvan de meesten nooit werden gecorrigeerd. Het is als een gerucht dat steeds gedetailleerder en foutiever wordt naarmate het van persoon tot persoon gaat, zonder dat iemand ooit stopt en zegt: "Wacht, dat is niet waar."

De Les

De grote les uit dit onderzoek is dat we de AI niet kunnen vertrouwen om zijn eigen verbeelding te controleren. Het idee dat een AI naar zijn eigen gedachten kan kijken en zeggen: "Dit is een feit" of "Dit is een gok", is een mirage. De modellen die het meest voorzichtig lijken, zijn vaak de meest misleidende, en de modellen die onzekerheid toegeven, zijn vaak de meest betrouwbare, hoewel de exacte sterkte van deze relatie tussen verschillende modellen nog wordt onderzocht.

De onderzoekers suggereren dat we, in plaats van de zelfrapportage van de AI te vertrouwen, externe verificatie nodig hebben — een manier voor mensen of andere systemen om het werk van de AI te controleren. We moeten ook alles wat een AI "gokt" behandelen als een hypothese, niet als een feit. Totdat we systemen bouwen die duidelijk kunnen onderscheiden wat ze weten van wat ze verbeelden, kunnen onze gepersonaliseerde digitale assistenten een valse versie van ons blijven bouwen, één zelfverzekerde leugen per keer.