"I Don't Know" -- Towards Appropriate Trust with Certainty-Aware Retrieval Augmented Generation

Technische Samenvatting: "Ik weet het niet" – Op weg naar gepast vertrouwen met zekerheidsbewuste Retrieval Augmented Generation

Probleemstelling
Het artikel behandelt de uitdaging om "gepast vertrouwen" te vestigen in AI-systemen, specifiek Large Language Models (LLM's). Hoewel LLM's communicatie op menselijk niveau bieden, lijden ze aan hallucinaties (feitelijk onjuiste output) en "sycofantie" (overmatig aanpassen aan gebruikersvoorkeuren ten koste van nauwkeurigheid). Een kritiek punt is dat LLM's vaak overmatig vertrouwen uiten in hun antwoorden, zelfs wanneer de vraag niet-objectief is of de context ontoereikend. Dit oververtrouwen verhindert gebruikers om de waarheidsgetrouwheid van het systeem nauwkeurig te beoordelen. De auteurs betogen dat de menselijke waarde van welwillendheid – hier gedefinieerd als de behoefte aan eerlijkheid, betrouwbaarheid en afhankelijkheid – kan worden vervuld als een AI-systeem zijn eigen kennis kan monitoren, reflecteert op zijn onzekerheid en deze zelfreflectie communiceert aan de gebruiker.

Methodologie
De auteurs stellen CERTA (Certainty Enhanced RAG for Trustworthy Answers) voor, een gespecialiseerd Retrieval Augmented Generation (RAG)-systeem dat ontworpen is om zelfgerelateerde zekerheid op te nemen in zijn antwoorden.

1. RAG Triade Zekerheidsmodellering:
   In plaats van te vertrouwen op de LLM om zijn eigen vertrouwen te beoordelen (wat bevooroordeeld kan zijn), berekent CERTA onzekerheid op basis van de semantische gelijkenis tussen drie componenten van de RAG-pijplijn, bekend als de RAG Triade:

   • Vraag-Context Relevantie (QCR): Meet of de opgehaalde context semantisch is uitgelijnd met de vraag van de gebruiker.
   • Context-Antwoord Relevantie (CAR): Meet of het gegenereerde antwoord wordt ondersteund door de opgehaalde context (gegrondheid).
   • Antwoord-Vraag Relevantie (AQR): Meet of het gegenereerde antwoord de oorspronkelijke vraag semantisch beantwoordt.

   Deze scores worden berekend met cosinusgelijkenis op embeddings (OpenAI's text-embedding-3-small). Deze numerieke scores worden vervolgens vertaald naar tekstuele "zekerheidsinstructies" die aan de LLM-generator worden verstrekt.

2. Systeembenaderingen:
   Het artikel evalueert vier verschillende benaderingen met twee LLM's (OpenAI's GPT-4.1 en Mistral-Small-3.1):

   • RAG (Basislijn): Standaard RAG zonder specifieke instructies over zekerheid.
   • CERTA-0: Voegt een algemene instructie toe aan de prompt om eerlijk te zijn over de zekerheid van het antwoord.
   • CERTA-1: Integreert de QCR-score en instructie in de prompt, waardoor het model wordt ingelicht over de relevantie tussen de vraag en de opgehaalde context.
   • CERTA-2: Een meerstapsbenadering. Het genereert eerst een tussenantwoord, berekent alle drie de Triadescores (QCR, CAR, AQR) en vraagt het model vervolgens opnieuw met de vraag, context, tussenantwoord en alle drie de zekerheidsinstructies om een definitief, zelfreflecterend antwoord te produceren.

3. Zekerheidsbenchmark:
   Om deze methoden te evalueren, hebben de auteurs een dataset van 90 vraag-contextparen samengesteld die zijn afgeleid van de TrustLLM Benchmark. De dataset omvat vier categorieën:

   • Feitelijkheid: Feitelijke vragen (sommige onbeantwoordbaar).
   • Persoonlijke Voorkeur: Subjectieve vragen (bijv. "Wat is beter?").
   • Sycofantie: Vragen ontworpen om te testen of het model instemt met een door de gebruiker gesteld (potentieel gebrekkig) standpunt.
   • Morele Keuzes: Morele dilemma's.

   Elke vraag wordt gepaard met drie soorten contexten: relevant (bevat het antwoord), onvolledig (mist het specifieke antwoord) en irrelevant (bevat geen antwoord).

Belangrijkste Bijdragen

1. Het CERTA-systeem: Een nieuwe uitbreiding van RAG die de RAG Triade gebruikt om onzekerheid zowel numeriek als verbaal te berekenen en te communiceren. Het bevat een dashboard waarmee gebruikers gedrag kunnen selecteren voor scenario's met lage zekerheid (bijv. standaardantwoord, "Ik weet het niet", of terugvallen op LLM-kennis).
2. De Zekerheidsbenchmark: Een gecureerde dataset van 90 niet-objectieve vraag-contextparen over vier op waarden gebaseerde categorieën en drie contexttypen, specifiek ontworpen om het vermogen van een AI om gepast onzekerheid uit te drukken te testen.
3. Empirische Evaluatie: Een vergelijkende studie van basislijn RAG tegenover drie CERTA-configuraties met twee verschillende LLM's.

Resultaten
De experimenten geven aan dat CERTA het systeemgedrag succesvol verschuift naar gepaste onzekerheid:

• Frequentie "Ik weet het niet": CERTA-1 en CERTA-2 produceerden aanzienlijk meer "Ik weet het niet"-antwoorden in vergelijking met de basislijn RAG, vooral wanneer contexten onvolledig of irrelevant waren.
• Feitelijkheid: Met relevante contexten antwoordden systemen op gepaste wijze. Met irrelevante contexten hallucineerde basislijn RAG af en toe met interne kennis, terwijl CERTA-systemen strikt objectief bleven en onzekerheid uitten.
• Persoonlijke Voorkeur: Basislijn RAG gaf af en toe zelfverzekerde antwoorden op subjectieve vragen. CERTA-benaderingen identificeerden correct het gebrek aan objectieve antwoorden en kozen voor "Ik weet het niet".
• Sycofantie & Moraliteit: Hoewel zowel basislijn RAG als CERTA directe tegenstrijdigheden vermijden, waren CERTA-systemen minder geneigd om in te stemmen of te dissenten met tegenstrijdige standpunten, en kozen ze vaker voor "Ik weet het niet". CERTA toonde ook meer voorzichtigheid in morele oordelen, en vermijdt strikte moraliseren wanneer de context onvolledig was.
• Modelverschillen: Het open-source Mistral-model vertoonde meer inherente onzekerheid dan GPT-4.1, maar CERTA verbeterde beide.
• Consistentie: De toevoeging van zekerheidsinstructies veroorzaakte niet dat systemen correcte antwoorden veranderden in onjuiste; het verhoogde voornamelijk het percentage voorzichtige antwoorden waar dit gepast was.

Betekenis en Claims
Het artikel beweert dat het overbrengen van zelfgerelateerde zekerheid een levensvatbaar mechanisme is voor het opbouwen van gepast vertrouwen in AI, in lijn met de menselijke waarde van welwillendheid. De auteurs concluderen dat:

• CERTA-0 vaak voldoende is om basislijn RAG te verbeteren door basis eerlijkheid betreffende zekerheid in te voeren.
• CERTA-1 een voorzichtiger benadering biedt door expliciet gebruik te maken van de Vraag-Context Relevantie-score.
• De methode systemen in staat stelt om "risico-avers" te zijn in scenario's met hoge inzet door onzekerheid toe te geven in plaats van te hallucineren.
• De aanpak retriever-agnostisch is, waarbij alleen de kwaliteit van de verstrekte context wordt beoordeeld en niet het ophaalmechanisme zelf.

De auteurs blijven bescheiden over hun claims, met de opmerking dat het dashboard nog niet is gevalideerd met menselijke gebruikers om daadwerkelijke vertrouwenskalibratie te meten. Ze erkennen beperkingen, zoals het gebruik van meerkeuzeformaten die sycofantie kunstmatig kunnen mitigeren, en de afhankelijkheid van cosinusgelijkenis die neigt tot scores in het middenbereik (rond de 0,5) in plaats van extreme waarden. Toekomstig werk wordt voorgesteld om gebruikersstudies op te nemen en te testen met ruizigere databronnen.