How Do Inpainting Artifacts Propagate to Language?

Dit onderzoek analyseert hoe visuele artefacten veroorzaakt door inpainting de taalgeneratie in vision-language modellen beïnvloeden, en biedt een diagnostisch raamwerk om de relatie tussen reconstructiekwaliteit en de semantische en lexische kwaliteit van gegenereerde bijschriften te onderzoeken.

De kern

Stel je voor dat je een schilderij hebt dat een deel mist. Je vraagt een slimme kunstenaar (een AI) om dat gat in te vullen. De kunstenaar doet zijn best: hij gebruikt dezelfde kleuren en stijl, en het gat lijkt perfect opgevuld. Het oog ziet geen verschil.

Maar wat als die kunstenaar, terwijl hij het gat vult, per ongeluk een rode auto schildert in plaats van de blauwe auto die er oorspronkelijk stond? Of wat als hij een koe tekent waar eigenlijk een paard stond?

Voor een mens is het misschien nog net te zien, maar voor een andere AI die dit schilderij moet beschrijven, is het een ramp. Die tweede AI denkt: "O, ik zie een rode auto!" en schrijft dat op, terwijl het eigenlijk een blauwe auto was.

Dit is precies waar dit onderzoek over gaat. De auteurs van dit paper (van de Universiteit van San Diego) hebben onderzocht hoe foutjes in het "inpainten" (het invullen van ontbrekende delen van een afbeelding) doorwerken in de tekst die een computer gegenereerd.

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het Probleem: De "Onzichtbare Leugen"

In de wereld van kunstmatige intelligentie werken systemen vaak in twee stappen:

1. De Restaurator: Een AI kijkt naar een beschadigde foto en vult de gaten in met een nieuwe AI (die op "diffusie" werkt, een soort digitale verf).
2. De Verteller: Een tweede AI kijkt naar de gerestaureerde foto en schrijft een beschrijving (een bijschrift) erbij.

Het probleem is dat de "Restaurator" zo goed is in het maken van een plaatje dat er lekker uitziet, dat hij soms de betekenis verandert. Hij vervangt een object door iets anders dat er visueel op lijkt, maar semantisch (qua betekenis) totaal anders is. Omdat de "Verteller" niet weet dat er iets is ingevuld, gelooft hij wat hij ziet en schrijft hij een onjuiste beschrijving op.

De Analogie: Stel je voor dat je een brief leest die door een vertaler is vertaald, maar de vertaler heeft per ongeluk een woord veranderd in een synoniem dat in deze context de betekenis van de hele zin omkeert. De lezer denkt: "Wat een mooie zin!", terwijl de zin eigenlijk een leugen is.

2. Wat hebben ze ontdekt?

De onderzoekers hebben dit systematisch getest met verschillende foto's (van mensen, dieren, tot medische röntgenfoto's) en verschillende manieren om de gaten te vullen.

• Hoe beter de foto, hoe beter de tekst: Als de ingevulde foto er visueel perfect uitziet (minder ruis, scherpere lijnen), dan is de beschrijving die de AI schrijft ook veel nauwkeuriger.
• Niet alle meetlatjes werken: Er zijn verschillende manieren om de kwaliteit van een foto te meten. De onderzoekers ontdekten dat de standaardmaten voor "structuur" (hoeveel lijnen er overeenkomen) niet genoeg zijn. Wat echt telt, is de perceptuele kwaliteit: hoe "echt" voelt het voor het oog? Als dat goed is, is de tekst ook goed.
• De "Harde" randen zijn slecht: Als je een gat maakt met een harde, vierkante rand (alsof je een stuk papier hebt weggescheurd), maakt de AI meer fouten dan als je het gat zachtjes vervaagt (zoals een wazige vlek). De harde randen verwarren de AI meer.

3. Wat gebeurt er in het "brein" van de AI?

De onderzoekers keken ook naar hoe de AI intern denkt (de "aandachtspunten").

• De diepe lagen raken in de war: De AI heeft verschillende lagen in zijn netwerk (zoals lagen in een cake). De bovenste lagen (die de "hoofdgedachte" vormen) raken het meest in de war door de ingevulde fouten.
• Het is lokaal: De verwarring zit vooral in het gebied dat is ingevuld. De AI kijkt niet naar de hele foto, maar raakt specifiek in de war over het stukje dat is gereconstrueerd.

De Analogie: Stel je voor dat je een verhaal hoort waarbij iemand een stuk van de tekst voorleest dat hij zelf heeft verzonnen. Jij (de AI) luistert naar dat stukje en denkt: "Oh, dat is een leugen!" en je hele verhaal wordt daardoor gekleurd. De rest van de tekst is nog steeds waar, maar dat ene stukje verpest de hele samenvatting.

4. Waarom is dit belangrijk?

Vroeger dachten we: "Als de foto er goed uitziet, is de AI tevreden." Dit paper zegt: "Nee, dat is niet waar."

Zelfs als de foto er perfect uitziet voor een mens, kan de AI er toch een foute conclusie uit trekken. Dit is gevaarlijk in situaties waar precisie telt, zoals:

• Medische beeldvorming: Als een AI een röntgenfoto "herstelt" en een tumor verandert in een normale structuur, kan de diagnose volledig verkeerd zijn.
• Veiligheid: Als een camera een ongeluk "herstelt" en de auto verandert in een vrachtwagen, kan een zelfrijdende auto verkeerd reageren.

Conclusie

De boodschap van dit onderzoek is simpel maar krachtig: Kwaliteit van beeldherstel is direct gekoppeld aan de kwaliteit van taal.

Als je een AI wilt gebruiken om een beschrijving te geven van een foto, moet je eerst zorgen dat de foto niet "op de schop" is gegaan met een slechte AI. Anders gaat de AI een verhaal vertellen dat klinkt als een leugen, zelfs als het plaatje er mooi uitziet.

Het is alsof je een vertaler vraagt om een boek te vertalen, maar je geeft hem een boek waarvan de helft is weggeveegd en door een ander is ingevuld. Zelfs als de nieuwe tekst er mooi uitziet, is de vertaling die hij maakt waarschijnlijk onbetrouwbaar.

Technische samenvatting

Titel: Hoe Propageren Inpainting-artefacten naar Taal?

Auteurs: Pratham Yashwante, Davit Abrahamyan, Shresth Grover, Sukruth Rao (UC San Diego)

---

1. Probleemstelling

Visueel-taalmodellen (VLM's) worden steeds vaker ingezet in meerstaps-pijplijnen, waarbij visuele invoer wordt verwerkt of gereconstrueerd voordat deze door taalmodellen wordt verwerkt. Een veelvoorkomend voorbeeld is image inpainting (het invullen van ontbrekende of beschadigde beeldregio's) met behulp van diffusion-modellen.

Hoewel moderne diffusion-based inpainting-modellen visueel overtuigende reconstructies produceren die geoptimaliseerd zijn voor pixel-niveau realisme, kunnen ze subtiele maar semantisch betekenisvolle artefacten introduceren. Omdat captioning-modellen (modellen die beschrijvingen genereren) geen bewustzijn hebben van welke regio's gereconstrueerd zijn, behandelen ze deze gegenereerde inhoud als echte visuele bewijzen. Dit leidt tot een cruciale vraag: In welke mate beïnvloedt de kwaliteit van de reconstructie de correctheid en semantische verankering van de gegenereerde taal? Deze relatie is tot nu toe onderbelicht gebleven.

2. Methodologie

De auteurs introduceren een tweestaps diagnostisch raamwerk om dit probleem te analyseren zonder de modellen opnieuw te hoeven trainen:

1. Degradatie en Reconstructie:
   • Invoerbeelden worden synthetisch gedegradeerd in een gedefinieerd gebied (bijv. het midden) via drie strategieën: harde centrale masking, Gaussische blur, of laag-dimensionale compressie.
   • Deze gedegradeerde beelden worden gereconstrueerd met diffusion-based inpainting-modellen (Stable Diffusion 1.5, 2.0 en 3.0).
2. Captioning en Vergelijking:
   • Zowel de originele beelden als de gereconstrueerde beelden worden doorgegeven aan een bevroren (frozen) captioning-model (LLaVA, BLIP, of Qwen2.5-VL).
   • De gegenereerde bijschriften worden vergeleken met de grondwahrheid (ground truth) van de originele beelden.

Analyse-aspecten:

• Correlatie-analyse: Onderzoek naar de relatie tussen reconstructie-metrieken (pixel-niveau en perceptueel) en kwaliteit van de bijschriften (lexicaal en semantisch).
• Interne Representatie-analyse: Onderzoek naar hoe artefacten de interne werking van het visuele encoder (ViT-Base) beïnvloeden, specifiek door het meten van embeddingsimilariteit en attentie-drift (veranderingen in de aandachtspatronen van het model) tussen originele en gereconstrueerde invoer.

3. Belangrijkste Bijdragen

1. Model-agnostisch diagnostisch raamwerk: Een nieuwe methode om de effecten van reconstructie in visueel-taalpijplijnen te analyseren zonder model-fine-tuning.
2. Empirisch bewijs: Multidataset-analyses die een directe link aantonen tussen reconstructie-trouw en de kwaliteit van de gegenereerde bijschriften.
3. Interne mechanismen: Het aantonen dat inpainting-artefacten leiden tot laag-afhankelijke veranderingen in visuele encoders en dat deze drift ruimtelijk gelokaliseerd is bij de gereconstrueerde regio's.

4. Resultaten

A. Correlatie tussen Reconstructie en Taalkwaliteit

• Er is een consistente, positieve correlatie gevonden tussen reconstructie-trouw en bijschriftkwaliteit.
• Perceptuele metrieken (LPIPS) en pixel-fouten (MSE) zijn de sterkste voorspellers voor de kwaliteit van de taalgeneratie.
• SSIM (Structural Similarity Index) toont daarentegen zwakke of inconsistente correlaties, wat suggereert dat globale structurele gelijkenis niet voldoende is om semantische fouten te voorspellen.
• Dit patroon geldt voor diverse domeinen: natuurlijke afbeeldingen (Flickr, RefCOCOg), medische beelden (ROCOv2) en tijdreeksen (TRUCE).

B. Invloed van Maskeringstrategie

• Harde masking (plakken van zwarte pixels) veroorzaakt de grootste daling in semantische stabiliteit, omdat het objectidentiteit en relationele aanwijzingen abrupt onderbreekt.
• Zachtere degradaties (Gaussische blur, laag-dimensionale compressie) behouden de bijschriftkwaliteit beter, zelfs als de visuele reconstructie niet perfect is.

C. Interne Model-dynamiek (Attention Drift)

• Laag-afhankelijke drift: Artefacten veroorzaken een toename in attentie-drift (Total Variation Distance) die toeneemt naarmate het model dieper gaat. De eerste lagen blijven stabiel, maar de diepere lagen (waar semantische features worden gevormd) vertonen significante afwijkingen.
• Ruimtelijke lokalisatie: De drift is voornamelijk gelokaliseerd in de gereconstrueerde regio's. De aandacht van het model voor de niet-gemaskerde delen van het beeld blijft relatief stabiel.
• Globale verschuiving: UMAP-projecties van CLS-embeddings tonen aan dat gereconstrueerde beelden zich verder verwijderen van de oorspronkelijke verdeling dan bij zachtere maskeringstrategieën.

D. Uitzonderingen (Failure Cases)

• In datasets met beperkte taalkundige variabiliteit (zoals GTZAN voor muziekgenres en X-ray beelden met repetitieve rapporten), is er geen significante correlatie. Omdat de bijschriften vaak generiek zijn (bijv. alleen een genre-naam of algemene anatomische beschrijving), zijn ze ongevoelig voor visuele reconstructieverschillen. Dit bevestigt dat semantisch rijke bijschriften noodzakelijk zijn om de impact van visuele artefacten te meten.

5. Betekenis en Conclusie

De studie concludeert dat inpainting-artefacten niet alleen visuele onvolkomenheden zijn, maar semantische processen in multimodale systemen fundamenteel kunnen veranderen.

• Praktische implicatie: Bij het evalueren van de robuustheid van visueel-taalsystemen is het cruciaal om rekening te houden met de kwaliteit van de upstream visuele reconstructie.
• Diagnostiek: Pixel-niveau en perceptuele metrieken (zoals LPIPS en MSE) zijn betere indicatoren voor de betrouwbaarheid van downstream taalgeneratie dan globale structurele metrieken.
• Toekomst: Dit werk onderstreept de noodzaak van "reconstructie-bewuste" evaluaties, vooral in kritieke toepassingsgebieden zoals medische beeldvorming, waar semantische fouten door inpainting tot misdiagnoses kunnen leiden.

Kortom, de kwaliteit van de visuele invoer, zelfs na kunstmatige reconstructie, bepaalt direct de nauwkeurigheid en grondigheid van de taaloutput in moderne VLM-pijplijnen.