Technische Samenvatting: Heroverweging van Evaluatie voor Hallucinatiedetectie bij LLM's

Probleemstelling

Grote Taalmodellen (LLM's) genereren frequent ontrouwe, gefabriceerde of inconsistente inhoud, bekend als hallucinaties. Hoewel aanzienlijke inspanningen zijn geleverd om deze hallucinaties te detecteren en benchmarkdatasets te creëren (Hallucination Detection Benchmarks of HDB's), identificeren de auteurs kritieke lacunes in de huidige literatuur. Specifiek falen bestaande benchmarks vaak om realistische gebruiksscenario's weer te geven, met name die welke Retrieval-Augmented Generation (RAG) met lange contexten omvatten. Bovendien vertrouwen veel benchmarks op niet-organische (geinjecteerde) hallucinaties of missen ze realistische labelruis, wat leidt tot een overschatting van de prestaties van detectoren en een falen om modellen te stress-testen tegen de ruisige data die prevalent is in real-world toepassingen.

Methodologie

1. Wensen voor HDB's

De auteurs stellen eerst een reeks van zeven wenselijke eigenschappen (wensen) vast die een effectieve hallucinatiedetectie-benchmark moet vertonen:

• D1. Organische Hallucinaties: Inhoud moet natuurlijk gegenereerd zijn door LLM's, niet handmatig geïntroduceerd of geprompt om te hallucineren.
• D2. Menselijk Geverifieerde Testlabels: Evaluatielabels moeten betrouwbaar zijn, bij voorkeur geverifieerd door meerdere expert-menselijke annotatoren.
• D3. Taken met Lange Context: Benchmarks moeten vraagstukken met hoge vraag en kennisintensieve taken (zoals RAG) bestrijken waar de context lang is en hallucinaties moeilijk voor mensen te identificeren zijn.
• D4. Realistische Trainingslabels: Trainingsdata moeten realistische labelruis bevatten (zowel steekproefafhankelijk als steekproefonafhankelijk) om zwakke supervisie of onvolmaakte menselijke annotatie weer te geven.
• D5. Omvattende Hallucinatietypes: Dekking van zowel intrinsieke (inconsistent met de context) als extrinsieke (niet verifieerbaar door de context) hallucinaties.
• D6. Diversiteit van LLM's: Generaties moeten afkomstig zijn van meerdere moderne LLM's om onbevooroordeelde voortgangsbewaking te waarborgen.
• D7. Meerdere Domeinen: Data moeten diverse domeinen bestrijken om generalisatie te testen.

2. Kritische Beoordeling van Bestaande Benchmarks

De auteurs analyseren 24 bestaande HDB's tegen deze wensen. Ze constateren dat geen enkele bestaande benchmark aan alle zeven eigenschappen voldoet. Belangrijke geïdentificeerde lacunes zijn:

• Een ernstig gebrek aan RAG-gebaseerde benchmarks met lange contexten.
• Het ontbreken van realistische labelruis in trainingssets, ondanks de prevalentie van ruisige labels in real-world supervised learning.
• Veel benchmarks vertrouwen op niet-organische hallucinaties (bijv. geprompte hallucinaties), die gemakkelijker te detecteren zijn dan organische.

3. De TRIVIA+ Benchmark

Om deze lacunes aan te pakken, introduceren de auteurs TRIVIA+, een nieuwe RAG-gebaseerde HDB.

• Dataconstructie: De dataset maakt gebruik van prompts uit gevestigde datasets (TRIVIAQA, NaturalQuestions, MS-MARCO, CovidQA, DROP). Een commerciële SOTA LLM (>150B parameters) en open-source modellen (Gemma-7b, Mixtral-8x7b) genereren antwoorden.
• Organische Filtering: Om het aandeel echte hallucinaties te verrijken zonder de organische aard van de tekst te veranderen, filteren de auteurs op lage ROUGE-overlapping (<0,1) tussen het gegenereerde antwoord en de grondwahrheid.
• Annotatieproces:
  • Labels: Annotatoren labelen zinnen als 'Ondersteund', 'Weersproken', 'Niet Vermeld' of 'Supplementair'. Deze corresponderen met binaire 'Trouw' of 'Ontrouw' labels.
  • Betrouwbaarheid: Een meerstaps stemproces (tot 6 annotatoren per steekproef) waarborgt hoge kwaliteit testlabels.
  • Ruisgeneratie: Voor training genereren de auteurs vier sets ruisige labels:
    1. Zwakke Supervisie (WS): Labels van een LLM als Rechter.
    2. Afwijkende Werknemer (DW): Het simuleren van gaten in annotatortraining door labels van specifieke afwijkende annotatoren te gebruiken.
    3. Afwijkend Label (DL): Het simuleren van onvolmaakte kwaliteitscontrole door labels willekeurig te vervangen door afwijkende labels.
    4. Willekeurige Flip (RF): Willekeurig labels omdraaien (steekproefonafhankelijke ruis).

4. Experimentele Opstelling

De auteurs evalueren populaire state-of-the-art detectoren op TRIVIA+ en andere RAG-gebaseerde HDB's (HaluEval, RAGTruth, Dolly).

• Geteste Detectoren:
  • Zelftoezicht: SelfCheckGPT (met GPT-4-mini en Claude-Sonnet-3.5), LLM als Rechter.
  • Supervised: Few-shot (FS), Prompt-geoptimaliseerd (PO) en Supervised Fine-Tuning (SFT) van Mistral-7B-Instruct.
• Ruisanalyse: Experimenten onderzoeken de impact van ruisige labels op zowel training (met behulp van ruisige trainingssets) als evaluatie (met behulp van ruisige testsets).

Belangrijkste Resultaten

1. Prestaties op Organische versus Niet-Organische Benchmarks

• Niet-Organisch (HaluEval): Detectoren presteren uitzonderlijk goed, waarbij SFT een F1-score bereikt van 0,996. De auteurs schrijven dit toe aan de scheidbaarheid van geprompte hallucinaties.
• Organisch (TRIVIA+, RAGTruth): De prestaties dalen aanzienlijk. Op TRIVIA+ is de beste F1-score 0,694 (LLM als Rechter), en SFT bereikt slechts 0,663. Dit wijst op een grote kloof tussen huidige capaciteiten en het prestatiedak voor organische, RAG-gebaseerde hallucinaties.

2. De Concurrentiekracht van LLM als Rechter

In tegenstelling tot eerdere literatuur die suggereert dat supervised methoden zero-shot-benaderingen overtreffen, vinden de auteurs dat een eenvoudige LLM als Rechter-baseline concurrerend presteert met, en soms beter dan, supervised fine-tuned modellen op organische benchmarks.

3. Impact van Labelruis

• Evaluatiebias: Wanneer detectoren worden geëvalueerd op ruisige testlabels (bijv. WS-labels), kunnen prestatie-indicatoren optimistisch vertekend zijn (bijv. SFT F1 lijkt 0,708 op WS-labels versus 0,663 op schone labels).
• Trainingbelemmering: Ruisige trainingslabels hinderen supervised detectoren aanzienlijk, met name die welke gebruikmaken van globale fine-tuning (SFT). De SFT-prestatie daalt van 0,663 (schoon) naar ongeveer 0,63–0,64 met ruisige labels. Daarentegen tonen lokale methoden zoals Few-Shot (FS) en Prompt-geoptimaliseerd (PO) grotere robuustheid tegen trainingsruis.
• Steekproefafhankelijke Ruis: Steekproefafhankelijke ruis (DW, DL) is schadelijker voor detectieprestaties dan willekeurige ruis (RF).

4. Uitdagingen met Lange Context

• Contextlengte: Detectoren degraderen scherp bij lange contexten (>5K karakters). Op TRIVIA+ dalen F1-scores met 0,09–0,23 voor lange contexten in vergelijking met korte.
• Structurele Beperkingen: Op attention gebaseerde detectoren (zoals ReDeEP) ondervinden geheugenbeperkingen; 14–22% van de TRIVIA+-steekproeven kon niet worden verwerkt vanwege limieten in sequentielengte op standaardhardware.

Betekenis en Claims

Het artikel beweert dat de bevindingen en de voorgestelde TRIVIA+-benchmark noodzakelijk onderzoek zullen motiveren en stimuleren in hallucinatiedetectie voor RAG-gebaseerde taken. De betekenis ligt in:

1. Blootleggen van de Kloof: Aantonen dat huidige detectoren "ruim voldoende ruimte" laten om prestatiedaken te bereiken op realistische, organische RAG-taken.
2. Benchmarkstandaarden: Leveren van een rigoureus kader (de zeven wensen) om toekomstige benchmarks te evalueren, waarbij wordt benadrukt dat bestaande benchmarks vaak essentiële criteria zoals organische generatie en menselijke verificatie niet halen.
3. Ruisbewustzijn: Vaststellen dat realistische labelruis een kritieke factor is die detectieprestaties hindert, en de gemeenschap op te roepen robuuste leertechnieken (Learning with Noisy Labels) voor dit domein toe te passen.
4. Realiteit van Lange Context: Benadrukken van de specifieke uitdagingen die lange-context RAG-taken met zich meebrengen, die momenteel ondervertegenwoordigd zijn in de literatuur maar centraal staan in de implementatie van moderne LLM's.

De auteurs concluderen dat toekomstig werk zich moet richten op het ontwikkelen van cross-domein generaliseerbare detectoren en benchmarks die zijn uitgerust met realistische ruis om de uitdagingen van het implementeren van LLM's in gevoelige, real-world domeinen beter weer te geven.