Technische Samenvatting: Instruction Lens Score voor Detectie van Objecthallucinaties

Probleemstelling

Multimodale Grootte Taalmodellen (MLLM's) hebben aanzienlijke capaciteiten getoond in visueel begrip en redeneren. Een kritieke barrière voor hun betrouwbare implementatie is echter objecthallucinatie (OH), waarbij modellen beschrijvingen genereren van objecten die niet aanwezig zijn in de invoerafbeeldingen. Bestaande detectiemethoden ondervinden twee primaire beperkingen:

1. Afhankelijkheid van Auxiliaire Modellen: Methoden die vertrouwen op externe modellen (bijv. GPT-4) of dedicated hallucinatiedetectoren leiden tot aanzienlijke computerefficiëntie en vereisen extra training.
2. Kwetsbaarheid voor Misleidende Visuele Signalen: Visie-gebaseerde detectiescores (bijv. attention-weights, lokale gelijkenis) lijden vaak onder spuriële hoge zekerheid wanneer visuele encoders misleidende informatie introduceren of wanneer lokale visuele patronen van gehallucineerde objecten lijken op echte objecten (bijv. vergelijkbare texturen voor lepels en messen).

Methodologie: Instruction Lens Score (InsLen)

Het artikel stelt Instruction Lens Score (InsLen) voor, een trainingsvrije, plug-and-play detector die gebruikmaakt van interne embeddings van instructietokens om misleidende visuele informatie te filteren. De kerninzicht is dat instructie-embeddings impliciet visuele informatie coderen die geworteld is in de afbeelding, terwijl ze effectief foutieve aanwijzingen onderdrukken die door visuele embeddings worden geïntroduceerd.

De methode maakt gebruik van de Logit Lens-techniek om embeddings van tussenliggende lagen te projecteren naar de vocabulaire-ruimte om zekerheidsverdelingen te analyseren. InsLen bestaat uit twee complementaire componenten:

1. Gecalibreerde Lokale Score ($S_{cls}$)

Deze component adresseert het probleem van spuriële oververzekerdheid in visie-gebaseerde scores.

• Mechanisme: Het introduceert een Calibratie-Zekerheid ($S_{cafe}$) door de maximale zekerheid te meten die aan een objecttoken wordt toegekend over alle instructie-embeddings.
• Logica: Omdat instructie-embeddings misleidende visuele aanwijzingen filteren, ontvangen gehallucineerde objecten lagere zekerheid in deze projectie.
• Fusie: $S_{cafe}$ wordt multiplicatief gefuseerd met bestaande visie-gebaseerde scores (bijv. Lokale Gelijkenis Score, Interne Zekerheid) om lokale visuele bewijzen te kalibreren:
  $$S_{cls}(o) = S_{cafe}(o) \cdot S_{local}(o)$$

2. Context Consistentie Score ($S_{ccs}$)

Deze component adresseert de beperking van patch-niveau visuele embeddings, die mogelijk geen onderscheid kunnen maken tussen objecten met vergelijkbare lokale texturen.

• Mechanisme: Het aggregeert instructie-embeddings die een hoge waarschijnlijkheid toekennen aan het objecttoken om een globale contextuele representatie ($\bar{z}$) te vormen.
• Logica: Instructie-embeddings vangen globale objectcontext op. De consistentie tussen de gegenereerde objecttoken-embedding ($h_o$) en de geaggregeerde instructiecontext ($\bar{z}$) wordt gemeten met een genormaliseerde $\ell_2$-afstand.
• Weging: De consistentiescore wordt gewogen door de gemiddelde zekerheid van de geselecteerde instructie-embeddings om betrouwbaarheid te waarborgen:
  $$S_{ccs}(o) = S_{con}(o) \cdot p(o|\{\hat{z}_1, ..., \hat{z}_m\})$$

Eindscoring

De uiteindelijke InsLen-score is een gewogen combinatie van de Gecalibreerde Lokale Score en de Context Consistentie Score:
$$S_{Ins}(o) = \omega \cdot S_{cls}(o) + (1 - \omega) \cdot S_{ccs}(o)$$
waarbij $\omega$ een hyperparameter is.

Belangrijkste Bijdragen

1. Analyse van Instructie-Embeddings: De auteurs onthullen dat instructie-embeddings in MLLM's impliciet betrouwbare visuele semantics coderen en effectief misleidende informatie kunnen filteren die voortkomt uit visuele embeddings, een capaciteit die eerder over het hoofd werd gezien voor hallucinatiedetectie.
2. Voorgestelde Detector (InsLen): Een nieuwe, trainingsvrije detector die gecalibreerd visueel bewijs integreert met op instructies gebaseerde contextconsistentie zonder dat er auxiliaire modellen of extra training nodig zijn.
3. Uitgebreide Evaluatie: Uitgebreide experimenten over meerdere benchmarks (MSCOCO, Objects365, POPE, CLEVR) en diverse MLLM-architecturen (LLaVA-1.5, InstructBLIP, mPLUG-Owl3, Qwen3-VL, LLaVA-OneVision) tonen de effectiviteit van de methode aan.

Experimentele Resultaten

• Prestaties: InsLen presteert consequent beter dan bestaande state-of-the-art methoden (bijv. GLSIM, SVAR, Interne Zekerheid) over alle geteste benchmarks en modelarchitecturen.
  • Op de MSCOCO-benchmark met Qwen3-VL verbeterde InsLen de AUROC met 7,70% ten opzichte van de sterkste baseline (GLSIM).
  • Op de POPE-benchmark behaalde het tot 13,81% hogere AUROC dan baselines voor LLaVA-1.5.
  • Op de CLEVR-benchmark (die attributen- en relationele hallucinaties test) toonde InsLen superieure prestaties, met name op sterkere modellen zoals Qwen3-VL (77,72% AUROC versus 73,01% voor SVAR).
• Robuustheid: De methode blijft effectief op nagetrainde modellen (bijv. LLaVA-RLHF, LLaVA-RLAIF-V) en toont stabiliteit over verschillende invoer-instructielengtes en hyperparameter-instellingen ($\omega$, $m$, $\tau$).
• Efficiëntie: Hoewel het iets hogere computerkosten introduceert dan sommige baselines (bijv. ~104ms versus 95ms voor LLaVA-1.5), zijn deze kosten minimaal in vergelijking met antwoordgeneratie en aanzienlijk lager dan methoden die auxiliaire modellen of zeroing-operaties vereisen (bijv. EAZY).

Betekenis en Claims

Het artikel stelt dat Instruction Lens Score een waardevol en onderbelicht signaal biedt voor het verbeteren van de betrouwbaarheid van MLLM-generatie. Door aan te tonen dat instructie-embeddings misleidende visuele informatie effectief kunnen onderdrukken, biedt het werk een nieuw perspectief op hallucinatiedetectie dat niet afhankelijk is van externe bronnen of hertraining. De auteurs positioneren InsLen als een robuuste, plug-and-play oplossing die de betrouwbaarheid van MLLM's in real-world toepassingen verhoogt, waar objecthallucinaties aanzienlijke risico's met zich meebrengen.