Kestrel: Grounding Self-Refinement for LVLM Hallucination Mitigation

Kestrel is een trainingsvrij kader dat hallucinaties in grote visueel-taalmodellen vermindert door een agent voor visuele gronding te combineren met een mechanisme voor zelfverfijning op basis van bewijs, wat leidt tot aanzienlijk betere prestaties en transparante verificatietraces.

De kern

Stel je voor dat je een zeer slimme, maar soms wat dromerige kunstenaar hebt. Deze kunstenaar kan prachtige schilderijen zien en er gedetailleerde verhalen over vertellen. Maar soms, als hij naar een foto kijkt, begint hij te fantaseren. Hij ziet een kat waar er geen is, of hij zegt dat een auto rood is terwijl hij blauw is. Dit noemen onderzoekers "hallucinaties".

Deze kunstenaar is een LVLM (een groot visueel-taalmodel). Hij is geweldig, maar die droomtoestand is een groot probleem als je hem echt wilt gebruiken, bijvoorbeeld in een ziekenhuis of voor een veiligheidscontrole.

Het probleem is dat je deze kunstenaar niet zomaar kunt "herprogrammeren". Het kost te veel tijd, geld en energie om hem opnieuw te leren. Dus, wat kun je doen?

Hier komt Kestrel om de hoek kijken. Kestrel is geen nieuwe kunstenaar, maar een slimme assistent die naast de kunstenaar staat om hem te helpen de realiteit te blijven vasthouden, zonder dat je hem hoeft te herscholen.

Hoe werkt Kestrel? (De Analogie van de Detective en de Fotograaf)

Stel je voor dat de kunstenaar (het model) een verhaal vertelt over een foto. Kestrel is als een detective die niet blindelings gelooft wat de kunstenaar zegt, maar eerst bewijs verzamelt.

Het proces verloopt in vier stappen, alsof je een zaak oplost:

1. De Vraag Opsplitsen (De "Claim")
De kunstenaar zegt: "Er staat een rode fiets naast een grote boom."
Kestrel denkt: "Oké, laten we dat niet als één groot verhaal zien, maar als losse beweringen die we kunnen controleren."

• Bewering A: Is er een fiets?
• Bewering B: Is de fiets rood?
• Bewering C: Is er een boom?
• Bewering D: Staat de fiets naast de boom?

2. De Foto's Maken (De "Grounding Agent")
In plaats van alleen naar de originele foto te staren (wat de kunstelaar soms verkeerd interpreteert), roept Kestrel een fotograaf aan (een hulpmiddel genaamd SAM3).
Deze fotograaf doet iets heel specifieks:

• Hij zoomt in op de plek waar de fiets zou moeten zijn.
• Hij maakt een omtrek (een kader) om de boom.
• Hij snijdt een stukje van de foto uit om de kleur van de fiets van dichtbij te bekijken.
  Dit zijn geen zachte vermoedens meer, maar harde, visuele bewijzen.

3. De Bewijzen Vertalen (De "Vertaler")
De fotograaf geeft alleen plaatjes. Kestrel pakt die plaatjes en schrijft er een kort verslag bij:

• "Op de ingezoomde foto zie ik duidelijk een fiets."
• "De kleur is rood, zoals hier op de close-up te zien is."
• "De boom is er, maar de fiets staat er niet naast, maar er achter."

4. De Voorzichtige Correctie (De "Zelf-Verbetering")
Nu komt het slimme deel. De detective (Kestrel) vergelijkt het verhaal van de kunstenaar met het verslag van de fotograaf.

• Als het verslag zegt: "De fiets is blauw", dan corrigeert Kestrel de kunstenaar: "Je dacht rood, maar het is blauw."
• Maar hier is de truc: Kestrel is voorzichtig. Als de fotograaf niet 100% zeker is, of als het bewijs niet sterk genoeg is, laat Kestrel het antwoord van de kunstenaar zoals het is. Hij corrigeert niet zomaar iets omdat hij het "misschien" leuker vindt. Hij wacht tot het bewijs onweerlegbaar is.

Als de kunstenaar nog steeds twijfelt, doet Kestrel een nieuwe ronde: hij vraagt de fotograaf om nog een andere hoek te bekijken, totdat het antwoord zeker is.

Waarom is dit zo goed?

• Geen nieuwe school: Je hoeft de kunstenaar niet opnieuw te laten leren. Het werkt met elk bestaand model.
• Geen gissen: Veel andere methoden proberen het antwoord te raden door te kijken naar welke woorden het model kiest. Kestrel kijkt naar bewijs.
• Geen overcorrectie: Soms proberen slimme systemen een fout te herstellen, maar maken ze er een grotere fout van. Kestrel is conservatief: hij verandert alleen wat hij zeker weet.
• Transparantie: Je kunt precies zien waarom Kestrel iets veranderde. Hij laat de foto's en het verslag zien: "Ik heb dit veranderd omdat de close-up toont dat de auto blauw is."

Samenvattend

Kestrel is als een waakhond die een dromerige kunstenaar bij de hand houdt. Als de kunstenaar begint te fantaseren over een paard in de tuin, roept de waakhond: "Wacht even, ik heb een foto gemaakt van die plek. Daar staat alleen een struik."

Door deze samenwerking tussen de slimme kunstenaar en de bewijsverzamelende waakhond, krijgen we antwoorden die niet alleen creatief zijn, maar ook waarheidsgetrouw en betrouwbaar. Het is een manier om AI veiliger en eerlijker te maken zonder dat we de hele machine opnieuw hoeven te bouwen.

Technische samenvatting

Probleemstelling

Grote Vision-Language Modellen (LVLM's) hebben aanzienlijke vooruitgang geboekt in multimodale taken, maar ze blijven vatbaar voor hallucinaties. Dit betekent dat ze antwoorden genereren die niet overeenkomen met of slecht worden ondersteund door de invoerafbeelding (bijvoorbeeld het noemen van niet-bestaande objecten, verkeerde aantallen of foute kleuren).

Bestaande oplossingen vallen in twee categorieën:

1. Trainingsgebaseerde methoden: Deze vereisen vaak dure en uitgebreide datasets met hallucinatie-annotaties of extra berekeningskracht voor hertraining, wat ze onpraktisch maakt voor grote modellen.
2. Trainingsvrije methoden: Deze proberen hallucinaties tijdens de inferentie te corrigeren zonder het model aan te passen. Echter, bestaande methoden (zoals decoding-strategieën of tool-gebruik) hebben vaak beperkte winst, zijn niet robuust, of missen interpretbaarheid. Ze vertrouwen vaak op interne logica zonder expliciete visuele bewijslast, wat leidt tot onbetrouwbare correcties of "over-correction" (het corrigeren van een juist antwoord naar een fout antwoord).

Methodologie: Kestrel

Het paper introduceert Kestrel, een trainingsvrij framework dat hallucinaties mitigeert door een expliciete visuele grounding-agent te combineren met een evidence-gedreven iteratief zelfverbeteringsmechanisme. Het proces verloopt in vier fasen:

1. Initialisatie & Claim-decompositie:

   • Het LVLM geeft een eerste antwoord.
   • Kestrel splitst dit antwoord op in verifieerbare claims op claim-niveau (bijv. bestaan, kleur, aantal, positie) die gekoppeld zijn aan specifieke visuele entiteiten in de afbeelding.

2. Agent Grounding (Bewijsverzameling):

   • Een externe agent (gebaseerd op SAM3, een segmentatiemodel) wordt aangeroepen voor elke claim.
   • De agent verzamelt expliciete visuele bewijzen: segmentatie-overlay, bounding boxes, en "crop-and-zoom" weergaven.
   • Deze visuele data wordt omgezet in gestructureerde tekstuele bewijzen (bijv. "Er zijn 3 objecten gevonden" of "Het object is rood") met bijbehorende citatie-ID's. Dit maakt het bewijs auditabel.

3. Claim-level Verificatie:

   • Een LVLM fungeert als "rechter" (judge) om elke claim te verifiëren tegen het verzamelde bewijs.
   • De rechter geeft een oordeel (ondersteund/tegenstrijdig/onvoldoende), een betrouwbaarheidsscore en een korte redenering met verwijzing naar het bewijs.
   • Dit creëert een transparante audit trail.

4. Zelfverbetering (Self-Refinement) met Evidence-Gating:

   • Kestrel gebruikt een evidence-gated update-scheme. Een antwoord wordt alleen aangepast als de verificatie sterke signalen geeft (hoge betrouwbaarheid en voldoende bewijs).
   • Dit voorkomt over-correction. Als het bewijs onvoldoende is, blijft het huidige antwoord behouden.
   • Het proces is stateful: het houdt rekening met eerdere rondes van claims en bewijs.
   • Het proces herhaalt zich (maximaal 3 rondes) totdat het antwoord stabiel is of geen nieuw bewijs meer oplevert.

Belangrijkste Bijdragen

• Unificatie van Grounding en Zelfverbetering: Kestrel is het eerste framework dat een externe grounding-agent combineert met een conservatieve, iteratieve zelfverbetering op claim-niveau.
• Interpretabiliteit en Transparantie: In plaats van een "black box" correctie, biedt Kestrel een volledig traceerbaar bewijsproces (visuele en tekstuele citaties) dat laat zien waarom een hallucinatie werd gedetecteerd en gecorrigeerd.
• Trainingsvrij en Backbone-agnostisch: Het werkt zonder extra training en presteert goed op verschillende state-of-the-art LVLM-achtergronden (zoals Qwen3-VL en InternVL3.5).
• Voorkomen van Over-correction: Door de "evidence-gated" logica wordt voorkomen dat het model te agressief correcties doorvoert op basis van zwak bewijs.

Resultaten

Kestrel werd geëvalueerd op populaire benchmarks voor hallucinaties: POPE en MME-Hallucination.

• POPE (MS-COCO, A-OKVQA, GQA):

  • Met Qwen3-VL als backbone verbeterde Kestrel de nauwkeurigheid met gemiddeld +3,31% ten opzichte van de baseline.
  • Het presteerde beter dan bestaande trainingsvrije methoden zoals OPERA, VCD en Woodpecker.
  • Op de moeilijkere "Adversarial" en "Popular" splitsen was de verbetering het grootst, wat wijst op robuustheid.

• MME-Hallucination:

  • Kestrel boekte een enorme winst van +28,34 punten voor Qwen3-VL, wat een nieuwe state-of-the-art oplevert.
  • Het verbeterde specifiek de prestaties op object-gerelateerde fouten (aantal, bestaan) en attributen (positie, kleur).
  • Zelfs op een zeer sterke backbone (InternVL3.5) bleef Kestrel verbeteringen boeken (+20,01 punten), wat aantoont dat het framework effectief is zelfs bij modellen die al goed presteren.

• Human Study:

  • In een menselijke evaluatie (60 gevallen) werd Kestrel in 68,3% van de gevallen verkozen boven andere methoden (DeGF, Woodpecker, etc.), voornamelijk vanwege de betere feitelijkheid en interpretatie.

• Efficiëntie:

  • De methode introduceert wel extra latentie (gemiddeld ~18,75s vs 0,78s voor een enkele inferentie) door de iteratieve aard en het gebruik van externe tools, maar dit wordt gezien als een acceptabele trade-off voor de winst in betrouwbaarheid.

Betekenis

Kestrel markeert een belangrijke stap in de richting van betrouwbare AI-systemen. Het bewijst dat het combineren van expliciete visuele grounding met een conservatieve, iteratieve verificatiecyclus een effectieve manier is om hallucinaties te verminderen zonder de hoge kosten van hertraining. Door het proces transparant en auditabel te maken, biedt Kestrel niet alleen betere antwoorden, maar ook inzicht in waarom een antwoord betrouwbaar is, wat essentieel is voor de inzet van LVLM's in kritieke toepassingen.