Do Not Leave a Gap: Hallucination-Free Object Concealment in Vision-Language Models

Probleemstelling

Vision-Language Models (VLMs) hebben indrukwekkende vaardigheden ontwikkeld in visueel begrip en generatie, maar zijn kwetsbaar voor adversariale manipulaties. Bestaande methoden voor het verbergen van objecten (object concealment) in afbeeldingen vertrouwen voornamelijk op het onderdrukken of blokkeren van visuele representaties van specifieke gebieden (bijvoorbeeld door pixels te maskeren, patches te wissen of attention-weights te reduceren).

Hoewel deze methoden het doelwitobject effectief kunnen verbergen, creëren ze een semantische discontinuïteit (een "gat" in de representatie) binnen de visuele encoder. Het paper stelt dat dit gat de taaldecoder (language model) aanzet tot het invullen van ontbrekende informatie met plausibele maar onjuiste objecten of attributen. Dit fenomeen, bekend als hallucinatie, is een ongewenst neveneffect van traditionele aanvalsmethoden. De auteurs betogen dat hallucinatie niet het gevolg is van de afwezigheid van het object op zich, maar van de onderbreking in de semantische continuïteit die door onderdrukkingsaanvallen wordt geïntroduceerd.

Methodologie: Background-Consistent Re-encoding (BCR)

De auteurs introduceren een nieuwe aanvalsklasse genaamd Background-Consistent Re-encoding (BCR). In plaats van visuele informatie te verwijderen of te onderdrukken, herschrijft BCR de visuele representaties van het doelwitgebied (ROI - Region of Interest) zodat ze statistisch en semantisch consistent zijn met de omringende achtergrond.

De aanval werkt op pixel-niveau en optimaliseert een perturbatie ($\delta$) om een adversariale afbeelding te creëren, zonder de modelparameters aan te passen. De methode omvat een pixel-level optimalisatieframework dat drie kernbeperkingen oplegt over meerdere lagen van de Vision Transformer:

1. Statistische Alignering (Statistical Alignment): De eerste- en tweede-orde statistieken (gemiddelde en variantie) van de features van het ROI worden afgestemd op die van de achtergrond-features. Dit voorkomt dat er statistische anomalieën detecteerbaar zijn.
2. Dictionair Projectie (Dictionary Projection): De features van het ROI worden herschreven als convexe combinaties van de features van de achtergrond. Dit zorgt ervoor dat de ROI-features binnen het semantische bereik (manifold) van de achtergrond liggen, zonder token-structuren te verwijderen.
3. Behoud van Achtergrond (Background Preservation): Features buiten het doelwitgebied worden expliciet behouden om te voorkomen dat de globale semantiek van de scène vervormt.

Daarnaast wordt een Total Variation (TV) regularisator gebruikt om ervoor te zorgen dat de perturbaties ruimtelijk glad zijn en visueel onopvallend blijven.

Belangrijkste Bijdragen

• Nieuw Paradigma: Het introduceren van BCR, een aanvalsparadigma dat objecten verbergt door ze te "laten oplossen" in de achtergrond in plaats van ze te wissen, waardoor token-structuur en attention-flow behouden blijven.
• Principiële Optimalisatie: Een pixel-level framework dat visuele representaties consistent houdt met de achtergrond over meerdere lagen van de visuele encoder.
• Hallucinatie-bewuste Evaluatie: Het ontwerpen van nieuwe evaluatiemetrics die specifiek meten hoeveel "gegronde hallucinatie" (hallucinaties die niet visueel ondersteund zijn) er optreedt, in plaats van alleen te kijken naar caption-similairiteit.

Resultaten

De methode is uitgebreid getest op state-of-the-art VLMs (LLaVA-1.5, BLIP-2, en InstructBLIP) op datasets zoals ImageNet en COCO.

• Effectiviteit: BCR bereikt een vergelijkbaar succespercentage in het verbergen van objecten als bestaande methoden (zoals VIP), maar met een drastische reductie in hallucinaties.
• Hallucinatie-reductie: In vergelijking met attention-suppressie-methoden (zoals VIP) reduceert BCR de gegronde hallucinatie met tot 3x. Bijvoorbeeld, op InstructBLIP met ImageNet daalde de hallucinatie van 0,43 (VIP) naar 0,19 (BCR).
• Behoud van Scène: BCR behoudt tot 86% van de niet-doelwit objecten in de gegenereerde beschrijvingen, terwijl onderdrukkingsmethoden vaak leiden tot een verlies van globale semantiek (Global Preservation daalt vaak onder de 60% bij concurrenten).
• Visuele Kwaliteit: De gegenereerde adversariale afbeeldingen behouden een hoge visuele trouw (hoge SSIM, lage LPIPS) en vermijden de artefacten die vaak voorkomen bij maskering of vervaging.

Significantie en Conclusie

Het paper levert een fundamenteel inzicht in het gedrag van VLMs: hallucinatie wordt gedreven door representatieve discontinuïteit. Wanneer een model een "gat" ziet in de visuele input, probeert het dit te compenseren door te hallucineren. Door de continuïteit van de visuele representatie te behouden, zelfs terwijl het object verborgen is, wordt deze compensatiemechanisme geëlimineerd.

Dit werk introduceert een nieuwe richting voor de adversariale analyse van generatieve multimodale modellen en benadrukt dat voor privacy-bevorderende toepassingen (zoals het verbergen van gezichten of gevoelige objecten) het behoud van de semantische samenhang van de scène cruciaal is om onbetrouwbare AI-generaties te voorkomen.