On the Fundamental Impossibility of Hallucination Control in Large Language Models
Dit artikel betoogt dat hallucinatie in grote taalmodellen fundamenteel onvermijdelijk is vanwege inherente afwegingen bij het aggregeren van interne kennis, wat bewijst dat hoewel externe bewijslast de ondersteuning voor een antwoord kan verifiëren, geen enkel intern mechanisme de feitelijke waarheid kan garanderen of de semantische disbalansen kan oplossen die tot fabricage leiden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een enorme legpuzzel probeert op te lossen, maar in plaats van één persoon die het doet, heb je een team van experts rond een tafel zitten. Elke expert heeft slechts een paar stukjes van de afbeelding in zijn handen en kan het volledige plaatje niet zien. Om de puzzel op te lossen, moeten ze hun beste gokken naar buiten roepen over hoe de uiteindelijke afbeelding eruit zou moeten zien en vervolgens stemmen over het antwoord. Dit is in feite hoe moderne Kunstmatige Intelligentie, specifiek Large Language Models (LLM's), werkt. Deze modellen zijn als enorme teams van digitale "experts" (genaamd componenten of attention heads) die elk een klein fragment van kennis vasthouden. Wanneer je de AI een vraag stelt, strijden al deze fragmenten om de vorm van het antwoord te bepalen.
Al een tijdje proberen wetenschappers en ingenieurs een irritant probleem op te lossen: deze AI-teams verzinnen soms dingen. Ze kunnen je een nepfeit vertellen met totale zelfverzekerdheid, een glitch die bekend staat als "hallucinatie". Mensen hebben geprobeerd dit op te lossen door de AI betere training, meer data te geven, of door de AI zijn werk te laten controleren. Maar wat als het probleem niet alleen een bug is die gepatcht kan worden? Wat als de manier waarop de AI is gebouwd het onmogelijk maakt om tegelijkertijd perfect waarheidsgetrouw, perfect zelfverzekerd en perfect creatief te zijn? Dit is de grote vraag die Michal P. Karpowicz onderzoekt in een nieuw artikel. Het artikel suggereert dat hallucinatie niet alleen een fout is die gecorrigeerd kan worden, maar een fundamentele afweging, zoals proberen je taart te eten en hem tegelijkertijd te bewaren.
De Grote Ideeënveiling
Het artikel stelt zich de hersenen van de AI voor als een bruisende marktplaats, een "Veiling van Ideeën". In deze veiling is elk klein deel van de AI (zoals een specifieke attention head of een circuit) een bieder. Elke bieder houdt een geheim stukje kennis vast en probeert de groep te overtuigen dat hun versie van het antwoord de beste is. Ze "bieden" door signalen te sturen om de uiteindelijke output te beïnvloeden.
De auteur bewijst dat deze veiling soms tegen een muur aanloopt. Stel je voor dat twee bieders ruzie maken over hetzelfde feit. De een zegt: "De lucht is blauw," en de ander zegt: "De lucht is groen." Als de AI probeert deze twee tegenstrijdige opvattingen te combineren tot één enkel, zelfverzekerd antwoord, loopt hij tegen een wiskundige onmogelijkheid aan. Het artikel laat zien dat je niet een systeem kunt hebben dat vier dingen tegelijk doet:
- De waarheid spreekt (eerlijk rapporteert wat het weet).
- Informatie conserveert (geen nieuwe feiten uit het niets verzint).
- Iedereen laat deelnemen (gebruikt elke relevante stukje kennis die het heeft).
- Het beste antwoord geeft (optimaliseert voor de tevredenheid van de gebruiker).
Het artikel bewijst dat als de bieders strijden over hetzelfde feit, het systeem op een van deze doelen moet falen. Het is als een goocheltruc waarbij je niet drie konijnen uit een hoed kunt trekken als je er slechts twee hebt. Je moet kiezen: of de AI liegt (verzint een detail om het verhaal compleet te maken), of de AI wordt overdreven voorzichtig en geeft toe dat het het niet weet, of de AI negeert een deel van de kennis die het eigenlijk heeft. Er is geen "gratis lunch" waarbij de AI tegelijkertijd perfect eerlijk, perfect zelfverzekerd en perfect behulpzaam is.
De Zelfverzekerdheidsval
Het artikel gaat dieper in op waarom dit gebeurt met behulp van slimme wiskunde. Het kijkt naar hoe de AI de "stemmen" van zijn verschillende onderdelen combineert. Wanneer de AI deze stemmen bij elkaar optelt om tot een antwoord te komen, klinkt hij vaak zelfverzekerder dan welk individueel onderdeel ook daadwerkelijk is.
Denk aan een groep weersvoorspellers. Als Voorspeller A zegt dat er 50% kans op regen is, en Voorspeller B zegt dat er 50% kans op regen is, maar zij kijken naar verschillende wolken, dan kan de groep uiteindelijk zeggen: "Het gaat absoluut regenen!" De wiskunde laat zien dat het zelfvertrouwen van de groep "gemanufactureerd" is. Het is een extra laag van zekerheid die niet aanwezig was in de individuele delen. Dit is de "excessieve zelfverzekerdheid" die leidt tot hallucinaties. De AI liegt niet noodzakelijkerwijs met opzet; het is simpelweg zo dat de manier waarop de AI informatie combineert, van nature een kloof creëert tussen wat het weet en hoe zeker het klinkt.
Kunnen we het oplossen?
Het artikel is zeer duidelijk over wat het niet zegt. Het beweert niet dat AI altijd zal liegen, of dat we nooit een betrouwbare AI kunnen bouwen. In plaats daarvan stelt het dat hallucinatie een structurele limiet is, zoals de lichtsnelheid of de onzekerheid van een draaiende munt. Je kunt het niet zomaar "wegtrainen" als aan de voorwaarden van de veiling wordt voldaan.
Het artikel biedt echter wel een manier om het probleem te beheersen. Het suggereert dat we, in plaats van te proberen de AI perfect waarheidsgetrouw te maken (wat onmogelijk is onder deze omstandigheden), ons moeten richten op certificeerbare ondersteuning. Stel je voor dat de AI een advocaat is. We kunnen niet altijd bewijzen of het verhaal van de advocaat de absolute waarheid is, maar we kunnen wel controleren of het verhaal van de advocaat wordt ondersteund door het bewijs dat hij heeft gekregen.
Het artikel laat zien dat als we de AI een specifieke set "geautoriseerd bewijs" geven (zoals een vertrouwde database of een reeks documenten), we wiskundig kunnen bewijzen of het antwoord van de AI binnen de grenzen van dat bewijs blijft. Als de AI buiten die grenzen treedt, weten we dat hij hallucineert ten opzichte van het bewijs, zelfs als we de absolute waarheid niet weten. Dit verandert het probleem van "Is dit waar?" (wat moeilijk is) naar "Wordt dit ondersteund?" (wat controleerbaar is).
De Kern van het Verhaal
Dit artikel is een wake-up call voor de AI-wereld. Het vertelt ons dat de "hallucinatie" die we bij AI zien niet slechts een glitch is die opgelost kan worden met meer data of betere code. Het is een fundamenteel kenmerk van hoe deze systemen informatie aggregeren. Wanneer verschillende delen van de AI het oneens zijn of strijden over dezelfde feiten, moet het systeem een keuze maken: eerlijk en zwak zijn, of zelfverzekerd en potentieel onjuist zijn.
De auteur suggereert dat we moeten stoppen met proberen deze afweging te elimineren en moeten beginnen met het beheren ervan. Door te begrijpen dat het zelfvertrouwen van de AI soms "gemanufactureerd" wordt door de wiskunde van het combineren van ideeën, kunnen we betere systemen bouwen die hun grenzen kennen. We kunnen AI ontwerpen die eerlijk is over wat het weet en wat het slechts raadt, of we kunnen systemen bouwen die strikt gebonden zijn aan het bewijs dat we hen geven. Het artikel belooft geen perfecte AI, maar het geeft ons een duidelijke kaart van waar de muren staan, zodat we ophouden ons hoofd tegen de muren te stoten en in plaats daarvan betere deuren kunnen bouwen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.