A Grounded and Decomposed Framework for Relation-Level Hallucination Evaluation in Abstractive Summarization

Stel je voor dat je een verhaal leest dat geschreven is door een zeer getalenteerde, maar lichtelijk ondeugende robot. Deze robot is een expert in "abstractieve samenvatting", wat gewoon een chique manier is om te zeggen dat het een lang artikel leest en er een korte, krachtige versie van schrijft in zijn eigen woorden. Het is geweldig in het klinken van natuurlijk en vloeiend; de zinnen stromen als een rivier. Maar hier komt de adder onder het gras: soms, in zijn zoektocht om cool te klinken, verzint de robot dingen. Hij kan de namen van de mensen wel goed houden, maar de rollen omdraaien (wie deed wat aan wie). Het is alsof een nieuwsanker zegt: "De president heeft het verdrag ondertekend," terwijl het document eigenlijk zegt: "Het verdrag werd ondertekend door de minister." De woorden zijn er wel, maar de waarheid is verdraaid. Dit wordt een "hallucinatie" genoemd, en in de wereld van kunstmatige intelligentie is dit een groot probleem omdat we willen dat onze samenvattingen niet alleen mooi zijn, maar ook waar.

Lange tijd probeerden wetenschappers die deze leugende robots wilden betrappen, tools te gebruiken die leken op het controleren van een boodschappenlijstje. Ze telden hoeveel woorden de robot gebruikte die ook in het originele artikel voorkwamen. Als de robot het woord "appel" gebruikte en het origineel bevatte "appel", dan kreeg hij daar een punt voor. Maar dit is alsof je een chef beoordeelt op hoeveel ingrediënten hij heeft gebruikt, zonder de gerechten te proeven. Je zou een kom vol rauwe, ongekookte ingrediënten kunnen hebben die perfect overeenkomt met de lijst, maar het is nog steeds een verschrikkelijke maaltijd. De oude tools waren goed in het controleren of de robot de namen zich herinnerde, maar ze waren vreselijk in het controleren of de robot de relaties tussen die namen zich herinnerde. Ze konden het verschil niet zien tussen een robot die de waarheid sprak en een robot die een zeer overtuigende leugen vertelde.

Hier komt een team van onderzoekers van IIIT Bhubaneswar en enkele industriële partners met een nieuwe, scherpere bril aanzetten. Ze realiseerden zich dat je om een leugenaar te betrappen niet alleen woorden moet tellen; je moet de structuur van het verhaal begrijpen. Ze bouwden een nieuw framework om samenvattingen te evalueren dat werkt als een detective die op zoek is naar "relatie-niveau hallucinaties". In plaats van alleen te vragen: "Heb je de juiste woorden gebruikt?", vragen ze: "Heb je de juiste punten verbonden?"

De onderzoekers creëerden een nieuw scoresysteem genaamd de Relation Hallucination Index (RHI). Denk aan de originele tekst als een complex web van draden die verschillende personages en gebeurtenissen met elkaar verbinden. Een goede samenvatting moet die draden intact houden. Een hallucinerende samenvatting kan een draad doorknippen en deze aan de verkeerde persoon vastmaken. De oude tools zouden dit missen omdat de personages (de woorden) er nog steeds zijn. De nieuwe RHI is echter ontworpen om elke enkele draad te volgen. Het gebruikt een geavanceerd proces om de tekst af te breken in kleine bouwstenen genaamd "triples"—in essentie een Onderwerp (wie), een Werkwoord (deed wat) en een Object (aan wie).

Om ervoor te zorgen dat deze triples accuraat zijn, hebben het team niet alleen een basisscanner gebruikt. Ze bouwden een "dependency-aware" extractie-engine. Stel je deze engine voor als een zeer zorgvuldige redacteur die niet alleen de woorden leest, maar ook de grammatica diep van binnen begrijpt. De engine weet hoe hij om moet gaan met lastige zinnen waar het onderwerp verborgen is (zoals in de lijdende vorm, "De bal werd gegooid" wordt "Iemand gooide de bal"). De engine weet hoe hij woorden moet negeren die alleen taal rapporteren (zoals "Hij zei dat...") en zich moet concenteren op de feiten zelf. Het brengt de woorden zelfs op te schonen door ze om te zetten naar hun basisvorm (het veranderen van "rennend" naar "rennen") zodat het niet in de war raakt door verschillende tijden. Dit zorgt ervoor dat wanneer ze de samenvatting van de robot vergelijken met het origineel, ze appels met appels vergelijken, en niet appels met appelappeltaarten.

Het team testte dit nieuwe systeem op een enorme speeltuin van data. Ze gebruikten drie verschillende soorten nieuwsdatasets: XSUM (die zeer korte, zeer creatieve samenvattingen heeft), XLSUM (die nieuws bevat uit veel verschillende landen en talen) en de CNN/DailyMail dataset (die langere, meer gedetailleerde verhalen bevat). Ze vroegen vier beroemde AI-modellen—BART-large-CNN, PEGASUS, T5-large en GPT-3.5—om samenvattingen te schrijven van 800 verschillende nieuwsberichten. Ze voegden ook een "menselijke referentie"-samenvatting toe om te zien hoe dicht de robots bij een perfecte menselijke score konden komen.

De resultaten waren oogverblindend. Wanneer ze de oude, woord-tellende tools gebruikten, leek PEGASUS vaak de winnaar omdat het veel van dezelfde woorden als het origineel gebruikte. Maar wanneer de onderzoekers hun nieuwe RHI-score toepasten, veranderde het beeld. BART scoorde juist het hoogst in het behouden van de ware relaties tussen gebeurtenissen, ook al gebruikte het niet altijd exact dezelfde woorden. GPT-3.5, hoewel goed in sommige zaken, vertoonde veel "relation insertion variability", wat betekent dat het soms nieuwe verbindingen bedacht die er niet waren. De studie toonde aan dat de nieuwe RHI-score veel beter was in het opsporen van deze subtiele leugens dan de oude methoden.

Een van de meest interessante dingen dat ze ontdekten, is dat de nieuwe score "genormaliseerd" is. Dit betekent dat het redelijk goed werkt, of je nu kijkt naar een korte, snelle samenvatting of een lange, gedetailleerde tekst. Ze braken de fouten af in verschillende categorieën: dingen die het model goed deed, dingen die het erbij verzon, dingen die het miste en dingen die het fout deed. Door naar deze onderdelen te kijken, konden ze precies zien hoe een model faalde. Zo ontdekten ze bijvoorbeeld dat terwijl sommige modellen goed waren in het behouden van de hoofdfeiten, ze verschrikkelijk waren in het afhandelen van ontkennende uitspraken (zoals "Het bedrijf ging niet failliet").

De onderzoekers voerden statistische tests uit om er zeker van te zijn dat hun bevindingen niet toevallig waren. Ze ontdekten dat de verschillen in scores tussen de modellen significant waren, wat betekent dat de nieuwe RHI-score een betrouwbare manier is om een goede, waarheidsgetrouwe samenvatting te onderscheiden van een slechte, hallucinerende een. Ze toonden ook aan dat hun nieuwe methode beter is dan de oude "Entity Hallucination Index" (die alleen controleerde of namen klopten), omdat het de acties en verbindingen tussen die namen controleert.

Uiteindelijk suggereert dit artikel dat als we willen dat AI betrouwbaar is, we moeten stoppen met alleen woorden te tellen en moeten beginnen met het controleren van de logica van het verhaal. De nieuwe Relation Hallucination Index biedt een manier om precies dat te doen. Het vertelt ons niet alleen of een samenvatting goed klinkt; het vertelt ons of het verhaal dat het vertelt ook daadwerkelijk waar is. De auteurs hopen dat dit soort score in de toekomst gebruikt kan worden om AI-modellen te trainen om eerlijker te zijn, waardoor ze leren dat vloeiend zijn niet genoeg is—je moet ook trouw zijn aan de feiten.