Detecting Hallucinations in Authentic LLM-Human Interactions

Deze paper introduceert AuthenHallu, het eerste hallucinatie-detectiebenchmark dat volledig is opgebouwd uit authentieke LLM-menselijke interacties om de beperkingen van kunstmatige benchmarks te overwinnen en inzicht te geven in de frequentie en aard van hallucinaties in reële scenario's.

De kern

Stel je voor dat je een zeer slimme, maar soms wat dromerige assistent hebt. Hij kan alles voor je uitleggen, verhalen schrijven en zelfs wiskundige sommen oplossen. Maar soms, als hij even niet goed oplet, begint hij te fantaseren. Hij vertelt je dat de aarde plat is, of dat hij een recept heeft voor een taart die eigenlijk uit beton bestaat. In de wereld van kunstmatige intelligentie noemen we dit hallucineren.

De onderzoekers van dit paper (Yujie Ren en zijn team) hebben een probleem opgemerkt: tot nu toe hebben we deze "dromerige momenten" van AI's getest met nep-situaties. Het was alsof we de assistent dwongen om te liegen, of we stelden hem vragen die niemand in het echte leven zou stellen. Dat gaf ons een vertekend beeld.

Hier is wat ze hebben gedaan, vertaald in een simpel verhaal:

1. De Nieuwe Spelregels: Echte Conversaties

In plaats van de AI te dwingen om te liegen, hebben de onderzoekers gekeken naar echte gesprekken tussen mensen en AI's. Ze hebben duizenden echte chats opgehaald (uit een grote database genaamd LMSYS-Chat-1M) en daaruit de meest interessante gesprekken geselecteerd.

• De Analogie: Stel je voor dat je eerder alleen keek naar acteurs die op een toneelstuk oefenden (nep-gesprekken). Nu kijken ze naar mensen die echt in de supermarkt staan te praten met hun assistent (echte gesprekken). Dat geeft een veel eerlijker beeld van hoe de assistent zich echt gedraagt.

2. Het Nieuwe Speelveld: AuthenHallu

Ze hebben een nieuwe testbank gemaakt, genaamd AuthenHallu. Dit is een verzameling van 400 echte gesprekken (800 vragen en antwoorden) die handmatig zijn gecontroleerd door mensen.

Ze hebben gekeken naar drie soorten "dromen":

1. In conflict met de vraag: Je vraagt om een recept voor pizza, en de AI geeft je een recept voor een auto.
2. In conflict met zichzelf: In de eerste zin zegt de AI dat het regent, en in de tweede zin zegt hij dat de zon schijnt.
3. In conflict met de feiten: De AI zegt dat de aarde plat is, terwijl we weten dat dat niet waar is.

3. Wat Vonden Ze? (De Verbluffende Feiten)

Toen ze deze echte gesprekken analyseerden, zagen ze iets opvallends:

• Het gebeurt vaak: In ongeveer 31% van de antwoorden zat een hallucinatie. Dat is bijna één op de drie!
• Sommige onderwerpen zijn gevaarlijker: Bij wiskundige sommen of vragen over data en tijden (zoals "hoeveel dagen zijn er in februari 2024?") steeg het aantal fouten naar 60%.
  • De Analogie: Het is alsof de assistent heel goed kan koken, maar zodra je hem vraagt om een ingewikkelde wiskundige berekening te doen, begint hij te hallucineren alsof hij onder invloed is van een zware maaltijd.

4. Kan de AI Zelf zijn Eigen Fouten Vinden?

Een groot deel van het onderzoek ging over de vraag: "Kunnen we de AI zelf vragen om te zeggen of hij liegt?"

Ze hebben verschillende moderne AI-modellen getest om te zien of ze hun eigen fouten konden detecteren. Het resultaat? Niet echt goed.

• Zelfs de slimste modellen konden maar ongeveer de helft van de fouten vinden.
• Ze waren vaak te zelfverzekerd over hun eigen leugens.
• De Analogie: Het is alsof je een kind vraagt om te controleren of het zijn huiswerk goed heeft gemaakt. Het kind zegt: "Ja, alles klopt!", terwijl er eigenlijk een heel fout antwoord op staat. Ze vertrouwen te veel op zichzelf.

Waarom is dit belangrijk?

Vroeger dachten we dat we AI's konden testen met nep-situaties en dat dat genoeg was. Dit paper zegt: "Nee, dat werkt niet."

Als we AI's willen gebruiken voor belangrijke dingen (zoals in de geneeskunde of bij juridisch advies), moeten we weten hoe ze zich gedragen in de echte wereld, met echte, soms rare vragen van echte mensen. En tot nu toe zijn ze nog niet betrouwbaar genoeg om hun eigen fouten te zien.

Kortom: De onderzoekers hebben een nieuwe, eerlijke spiegel opgehangen aan AI's. De spiegel laat zien dat ze nog vaak fantaseren, vooral bij moeilijke vragen, en dat ze zichzelf nog niet goed kunnen controleren. We moeten dus nog even oppassen voordat we ze volledig het roer laten overnemen!

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "Detecting Hallucinations in Authentic LLM–Human Interactions" in het Nederlands.

Titel: Detecting Hallucinations in Authentic LLM–Human Interactions

Auteurs: Yujie Ren, Niklas Gruhlke, Anne Lauscher (Trustworthy AI Lab, Universiteit van Hamburg)

---

1. Het Probleem

Grote Taalmodellen (LLMs) worden steeds vaker ingezet in gevoelige domeinen zoals geneeskunde en recht, maar ze zijn vatbaar voor "hallucinaties" (het genereren van incorrecte of contextueel inconsistente informatie). Hoewel er reeds talloze benchmarks zijn ontwikkeld om hallucinatiedetectie te evalueren, vertonen deze een fundamenteel tekort:

• Onrealistische data: Bestaande benchmarks zijn grotendeels kunstmatig samengesteld, ofwel door het model expliciet te instrueren om te hallucineren (deliberately induced generation), ofwel door gesimuleerde interacties te gebruiken (simulated interactive generation).
• Gebrek aan ecologische validiteit: Deze methoden vangen niet de echte dynamiek van mens-LLM-interacties in de wereld. De hallucinaties die in deze kunstmatige setting ontstaan, verschillen vaak van die in real-world scenario's, wat de eerlijkheid en generaliseerbaarheid van evaluaties ondermijnt.

Er is een dringende behoefte aan een benchmark die volledig gebaseerd is op authentieke (natuurlijk voorkomende) interacties tussen mensen en LLMs.

2. Methodologie: De AuthenHallu Benchmark

De auteurs introduceren AuthenHallu, de eerste hallucinatiedetectie-benchmark die uitsluitend is opgebouwd uit authentieke LLM-menselijke dialogen.

Bouwproces:

1. Data Selectie:
   • De bron is het LMSYS-Chat-1M dataset (1 miljoen echte conversaties).
   • Filtering: Dialogen werden gefilterd op taal (alleen Engels), veiligheid (geen giftige/inhoud), lengte (3-156 woorden voor queries), en structuur (exact twee query-response paren per dialoog).
   • Clustering: Om representativiteit te garanderen, werden de queries geclusterd (gebruikmakend van K-means en TF-IDF voor kenmerkextractie). Dialogen werden vervolgens evenredig gesampled uit deze clusters om een diverse set van 400 dialogen te vormen.
2. Menselijke Annotatie:
   • Alle 400 dialogen (800 query-response paren) werden handmatig geannoteerd door drie ervaren annotatoren.
   • Annotatie-dimensies:
     • Voorkomen: Hallucination vs. No Hallucination.
     • Categorie: Input-conflicting (inconsistent met de query), Context-conflicting (inconsistent met eerdere dialoog), Fact-conflicting (inconsistent met wereldkennis).
   • Betrouwbaarheid: De inter-annotator overeenstemming (Fleiss's Kappa) was 0,591, wat wijst op een matige tot goede overeenstemming.

Statistieken van de dataset:

• Totaal: 400 dialogen, 800 query-response paren.
• Hallucinatierate: 31,4% van alle paren bevat hallucinaties.
• In uitdagende domeinen zoals "Wiskunde & Getallenproblemen" loopt dit op tot 60,0%.
• De meest voorkomende categorie is Fact-conflicting (62,5% van de hallucinaties).

3. Experimentele Opzet

De auteurs evalueerden de prestaties van "vanilla" LLMs (modellen zonder extra retrieval-mechanismen) als hallucinatiedetectoren op AuthenHallu.

• Modellen: Zes geavanceerde modellen (o.a. Mistral-7B, Gemma-3-27B, Qwen-3-32B, Llama-3.3-70B).
• Taken:
  1. Hallucinatiedetectie: Bepalen of een antwoord een hallucinatie bevat.
  2. Hallucinatiecategorisatie: Classificeren van het type hallucinatie.
• Settings:
  • Single-model: Eén model beoordeelt één paar.
  • Ensemble: Meerdere modellen stemmen (meerderheidsstemming).
  • In-context: Het model krijgt de volledige dialoog (twee paren) om context te gebruiken bij het beoordelen van het tweede paar.
• Metrieken: Precision, Recall en F1-score (zero-shot setting).

4. Belangrijkste Resultaten

A. Detectieprestaties:

• Onvoldoende prestaties: Zelfs de beste modellen (Qwen-3-32B) halen slechts een F1-score van 63,91%. De recall is vaak laag (bijv. Mistral-7B haalt slechts 27,89%), wat betekent dat veel hallucinaties worden gemist.
• Ensemble-methode: Het combineren van modellen leidt tot stabielere resultaten, maar verbetert de prestaties niet significant boven het beste enkele model. Dit suggereert dat modellen vergelijkbare fouten maken.
• Context: Het toevoegen van context (de eerste vraag-antwoord paar) helpt soms (bij Qwen-3-32B), maar leidt bij de meeste modellen juist tot prestatieverlies, waarschijnlijk door ruis.

B. Categorisatieprestaties:

• Modellen presteren het beste bij het detecteren van fact-conflicting hallucinaties (F1 > 70% voor Gemma-3-27B).
• Ze worstelen aanzienlijk met input-conflicting en context-conflicting hallucinaties (F1-scores vaak onder de 10-20% voor bepaalde modellen).
• Ook hier faalt de ensemble-methode om de zwaktes van individuele modellen te compenseren.

C. Statistische Inzichten:

• Hallucinaties komen frequent voor in real-world scenario's (31,4%).
• Domeinen met complexe redenering (wiskunde, data, tijdsrekening) vertonen de hoogste hallucinatierates.

5. Bijdragen en Significantie

Belangrijkste Bijdragen:

1. AuthenHallu: De eerste hallucinatiedetectie-benchmark die volledig is gebaseerd op authentieke, niet-gemanipuleerde mens-LLM-interacties.
2. Empirisch Bewijs: Een grondige statistische analyse van hallucinatiedynamiek in de echte wereld, die aantoont dat hallucinaties veel vaker voorkomen dan in kunstmatige benchmarks wordt gesuggereerd, vooral in specifieke domeinen.
3. Evaluatie van Detectoren: Een realistische evaluatie die aantoont dat huidige "vanilla" LLMs (zelfs de grootste) niet betrouwbaar genoeg zijn om als hallucinatiedetectoren te worden ingezet in high-stakes domeinen zonder menselijk toezicht of aanvullende mechanismen.

Significantie:
Dit paper benadrukt dat de huidige evaluatiemethoden voor hallucinatiedetectie mogelijk te optimistisch zijn omdat ze gebaseerd zijn op kunstmatige data. AuthenHallu biedt een ecologisch geldiger testomgeving. De bevindingen dat zelfs geavanceerde LLMs moeite hebben om hallucinaties in echte dialogen te detecteren, waarschuwen voor het directe inzetten van deze modellen als autonome bewakers in kritieke toepassingen (zoals juridisch advies of medische diagnose). Het paper pleit voor meer onderzoek naar detectiemethoden die specifiek zijn getraind op of getest met authentieke data.

Beschikbaarheid:
De data en code zijn openbaar beschikbaar via GitHub: https://github.com/TAI-HAMBURG/AuthenHallu.