💻 computer science

Witness Evidence Portfolios: Single-Prefill Risk Detection for Closed Multimodal Answers

Het artikel introduceert Witness Evidence Portfolios (WEP), een white-box, inference-time risicodetectiemethode die laag-voor-laag visuele bijdragen analyseert om interpreteerbare bewijsroutes te genereren, waardoor de betrouwbaarheid van gesloten multimodale antwoorden aanzienlijk wordt verbeterd zonder dat beeldperturbatie, backward passes of externe verifiers nodig zijn.

Oorspronkelijke auteurs: Fexiang Liu, Shiye Wang, Qiang Qiu, Zheng Wang

Gepubliceerd 2026-07-31

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Fexiang Liu, Shiye Wang, Qiang Qiu, Zheng Wang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer intelligente, zeer zelfverzekerde robot inhuurt om vragen over foto's te beantwoorden. Je laat het de robot een foto van een tuin zien en vraagt: "Zitten hier wortels?" De robot roept direct met 99% zekerheid: "Nee!" Maar wat als de robot eigenlijk naar het woord "tuin" in de hoek van de afbeelding kijkt, of naar een willekeurige wolk, en gewoon gokt? Dit is de ingewikkelde wereld van Multimodale Large Language Models (MLLM's). Dit zijn AI-systemen die afbeeldingen kunnen "zien" en tekst kunnen "lezen", waarbij ze deze combineren om vragen te beantwoorden. Het grote probleem is niet alleen het geven van het juiste antwoord; het is weten wanneer de AI met veel zelfvertrouwen fout zit. In de echte wereld moeten we weten of we een antwoord van een robot kunnen vertrouwen of dat we het dubbel moeten controleren. Dit artikel pakt de vraag aan: Hoe kunnen we bepalen of het zelfvertrouwen van een robot echt is, of gewoon een gelukkige gok gebaseerd op het verkeerde deel van de afbeelding?

Maak kennis met Witness Evidence Portfolios (WEP), een nieuwe methode ontwikkeld door Feixiang Liu en collega's om als een detective voor deze AI-robots te fungeren. Denk aan het brein van de AI als een enorme bibliotheek waar elke laag van zijn denkproces een spoor van kruimels achterlaat. Meestal kijken we alleen naar het uiteindelijke antwoord dat de robot geeft. WEP kijkt echter terug naar de "kruimels" die werden achtergelaten tijdens het fractie van een seconde dat de robot aan het nadenken was. Het stelt twee eenvoudige vragen: Waar keek de robot naar voor zijn bewijs, en hoe nauwkeurig was dat bewijs geconcentreerd?

Zo werkt WEP, met behulp van een speelse analogie. Stel je voor dat de robot een detective is die de "Wortelzaak" probeert op te lossen.

De Getuigenkaart: Eerst identificeert WEP de "getuigen". Als de vraag over wortels gaat, zijn de getuigen de delen van de afbeelding die daadwerkelijk op wortels lijken.
Het Bewijspoor: Terwijl de robot nadenkt, verzamelt hij "ondertekend bewijs". Dit is als een scorekaart waarbij positieve getallen betekenen "dit ondersteunt het antwoord" en negatieve getallen betekenen "dit spreekt het antwoord tegen". WEP volgt precies welke delen van de afbeelding bijdroegen aan de uiteindelijke "Nee" van de robot.
De Twee Controles:
- Provenance (De "Waar"-controle): Landde het positieve bewijs van de robot daadwerkelijk op de wortel-getuigen? Of landde het per ongeluk op een achtergrondhek of een grafiek titel? Als de robot zegt "geen wortels" maar het positieve bewijs zit vast op een hek, markeert WEP dit als riskant.
- Concentration (De "Focus"-controle): Is het bewijs van de robot compact geconcentreerd op de juiste plek, of is het verspreid over de hele afbeelding als een verward persoon? Als het bewijs overal verspreid is, suggereert dit dat de robot aan het gokken is in plaats van aan het kijken.

De onderzoekers testten deze "detectivekit" op drie verschillende AI-modellen (Qwen3-VL, LLaVA en InternVL) en vier verschillende sets lastige visuele vragen. Ze ontdekten dat WEP ongelooflijk goed is in het opsporen van de zelfverzekerde maar foutieve antwoorden. Sterker nog, over alle 12 combinaties van modellen en tests verbeterde WEP het vermogen om fouten te rangschikken met gemiddeld 0,134 (gemeten als Error Average Precision). Dit betekent dat als je een lijst met antwoorden hebt om te beoordelen, WEP je helpt de fouten veel sneller te vinden dan door alleen naar de zelfvertrouwen-score van de robot te kijken.

Wat dit bijzonder maakt, is dat WEP de robot niet hoeft te vragen om het opnieuw te proberen, de afbeelding te veranderen of een tweede robot te gebruiken om het werk te controleren. Het gebruikt exact hetzelfde "denkpad" dat de robot de eerste keer nam, door simpelweg in de interne aantekeningen te kijken die hij heeft achtergelaten. Het team bewees ook dat dit werkt omdat het bewijs daadwerkelijk overeenkomt met de vraag, en niet alleen omdat er een willekeurige wiskundige truc aan te pas komt. Wanneer ze het bewijs door elkaar haalden zodat het niet meer overeenkwam met de vraag, stopte het systeem met werken, wat aantoont dat de "waar" en de "hoe gefocust" van het bewijs er echt toe doen.

Kortom, WEP geeft ons een manier om onder de motorkap van AI-visie te kijken. Het verandert het antwoord van de robot niet, maar het geeft ons een "risicoscore" die zegt: "Hé, dit antwoord is zelfverzekerd, maar de robot keek naar het verkeerde ding." Dit stelt ons in staat om veiligere systemen te bouwen waarbij we de robot kunnen vertrouwen wanneer hij het goed heeft, en hem kunnen betrappen wanneer hij zelfverzekerd maar fout zit, allemaal zonder dat het de boel vertraagt of extra hulpmiddelen vereist. Het is alsoals een superobservante stagiair die stilletjes de aantekeningen van de detective controleert voordat het definitieve rapport wordt ingediend.

Technische Samenvatting: Witness Evidence Portfolios (WEP)

Probleemstelling
De betrouwbare inzet van Multimodale Grote Taalmodellen (MLLM's) vereist mechanismen om te bepalen of een zelfverzekend visueel antwoord vertrouwd, beoordeeld of naar een krachtiger systeem gerouteerd moet worden. Hoewel standaard vertrouwensscores (gebaseerd op kandidaat-marges) aangeven hoe ver een voorspeld antwoord verwijderd is van zijn concurrenten, onthullen ze niet de bron van de beslissing. Een model kan een hoog-vertrouwen "nee" produceren op een vraag als "Zitten er wortels in deze afbeelding?" zelfs wanneer de interne visuele uitdrachten die die beslissing ondersteunen geconcentreerd zijn op irrelevante regio's (bijv. grafiektitels of achtergronden) in plaats van op het werkelijke visuele bewijs. Bestaande methoden voor hallucinatie-detectie of risicobeoordeling vertrouwen vaak op generieke interne staten, vereisen beeldperturbaties, extra decoderingsrondes of externe verifieerders, waardoor er een gat ontstaat in het detecteren van ononderbouwde beslissingen met gebruikmaking van enkel het oorspronkelijke inferentiepad.

Methodologie: Witness Evidence Portfolios (WEP)
WEP is een white-box risicodetectiekader ontworpen voor closed-answer MLLM's. Het werkt tijdens een enkele prefill-pass, waarbij gebruik wordt gemaakt van hetzelfde voorwaartse pad dat het antwoord genereert, zonder dat er backward passes, beeldperturbaties of externe modellen nodig zijn.

Vraaggebonden Witness Maps:
De methode identificeert eerst "getuigen" (witnesses) in de visuele ruimte die gebonden zijn aan de vraag. Voor een vraagtoken $j$ wordt een bindingsdistributie $B_j(v)$ over visuele tokens $v$ berekend. Deze worden geaggregeerd tot een vraag-getuige kaart $P_Q(v)$ , gewogen door de belangrijkheid van het token voor de uiteindelijke beslissing. Dit onderscheidt vraag-relevante regio's van generieke saliente regio's. Een uniforme visuele referentie $U(v)$ wordt eveneens gedefinieerd om algemene visuele overlap te controleren.
Geschatte Gekleurde Beslissingsevidentie:
WEP schat de bijdrage van interne visuele tokens aan de voorspelde kandidaat-marge. Voor een kandidaat $y$ wordt een readout-richting $d_y$ gedefinieerd op basis van de unembedding-matrix en concurrent-logits. De bijdrage $C_{\ell,y}(s)$ van een brontoken $s$ op laag $\ell$ wordt berekend door de interne waarde-vectoren op deze richting te projecteren. Deze bijdragen worden teruggetransporteerd naar de visuele ruimte om gekleurde (signed) bewijskaarten $E_{\ell,y}(v)$ te vormen, waarbij positieve waarden de voorspelling ondersteunen en negatieve waarden deze tegenspreken.
Route Families:
WEP vat deze bewijskaarten samen in twee interpreteerbare route-families:
- Provenance Routes: Deze meten de overlap tussen de gekleurde bewijslast en de vraaggebonden getuigen ( $P_Q$ ) versus de uniforme referentie ( $U$ ). Ze volgen specifiek of het bewijs overeenkomt met de specifieke entiteiten die worden opgevraagd (bijv. "wortels") of generieke beeldregio's. Een residu-score legt de overtollige uitlijning met vraagspecifieke getuigen vast.
- Concentration Routes: Deze meten de ruimtelijke distributie van de gekleurde bewijslast. Ze berekenen genormaliseerde entropie om te bepalen of ondersteunend bewijs nauw geconcentreerd is (mogelijk leunend op een shortcut) of dat tegenstrijdig bewijs diffuus verdeeld is.
Geneste Validatie en Portfolio Fusie:
Om overfitting te voorkomen en het meest betrouwbare signaal te selecteren, gebruikt WEP een genest gegroepeerd validatieproces. Een binnenste vouw (inner fold) selecteert de superieure route-familie (Provenance of Concentration) op basis van fouten-ranking prestaties zonder toegang te hebben tot de labels van de buitenste vouw. Vervolgens wordt een ijle top- $k$ portfolio van routes uit de geselecteerde familie gefit op de kalibratieset. Ten slotte worden deze geselecteerde route-scores gestandaardiseerd en gefuseerd met de baseline kandidaat-marge vertrouwensscore om de uiteindelijke risicoscore te produceren.

Belangrijkste Bijdragen

Gekleurde Beslissingsevidentie-visie: Het artikel introduceert een nieuw perspectief op risicoranking dat evalueert of interne visuele bijdragen de huidige kandidaat-marge ondersteunen of tegenspreken, waarmee het verder gaat dan eenvoudige vertrouwensmetingen.
Complementaire Decompositie: Het stelt twee complementaire decomposities voor van gekleurde visuele bewijslast: provenance (vraagspecifieke uitlijning) en concentration (ruimtelijke distributie), gekoppeld aan een selector met lage capaciteit om de optimale familie te kiezen.
Efficiënte White-Box Detectie: WEP bereikt risicodetectie met slechts één geïnstrumenteerde prefill-pass met ijle read-row herberekening, zonder dat er beeldperturbaties, backward passes of externe verifieerders nodig zijn.

Resultaten
De methode werd geëvalueerd over drie MLLM-backbones (Qwen3-VL-8B, LLaVA-1.5-7B, InternVL3.5-8B) en vier binaire antwoord-benchmarks (AMBER-D, Causal-HalBench, VSR, HallusionBench).

Prestaties: WEP verbeterde de gemiddelde fout Average Precision (AP) met 0,134 over alle 12 model-dataset paren. Alle 12 paren vertoonden positieve winst, en 10 van de 12 image-cluster bootstrap-intervallen waren strikt positief.
Triage Nut: Bij lage review-budgetten (1%, 5%, 10%) verbeterde WEP de precisie van foutdetectie aanzienlijk vergeleken met confidence baselines, waardoor fouten effectief aan de top van de review-wachtrij werden geconcentreerd.
Ablaties:
- Ongekleurde bewijslast en uniforme route-averaging leverden minimale winst op.
- De Provenance en Concentration families presteerden afzonderlijk goed, maar werden overtroffen door de geneste selectiestrategie, die adaptief de beste familie koos voor elke context.
- Controles met extra paden (bijv. Visual Contrastive Decoding) presteerden slechter dan WEP op de strikte "same-prediction" subset, wat de efficiëntie van WEP benadrukt.
- Bewijs-shuffling controles bevestigden dat de winst afhangt van gematchte interne bewijslast in plaats van verschuivingen in de score-distributie.

Betekenis en Claims
Het artikel claimt dat WEP vraaggerelateerde visuele provenance vestigt als een praktisch en effectief signaal om te beslissen welke gesloten multimodale antwoorden een beoordeling of routering verdienen. Door de kandidaat-vertrouwen aan te vullen met gekleurde bewijs-provenance en concentratie, biedt WEP een inspecteerbaar, laag-overhead mechanisme voor betrouwbare MLLM-inzet. De auteurs benadrukken dat de methode de risicocontrole-laag van selectieve routering niet vervangt, maar deze aanvult met interpreteerbare, vraag-uitgelijnde signalen die rechtstreeks uit het bestaande inferentiepad van het model worden afgeleid. De resultaten suggereren dat het analyseren van de bron en distributie van interne visuele bewijslast een complementair beeld biedt aan vertrouwensscores voor het detecteren van ononderbouwde of hallucinerende antwoorden.

Technische Samenvatting: Witness Evidence Portfolios (WEP)

Meer zoals dit