Technische Samenvatting: Diagnose en Correctie van Conceptweglating in Multimodale Diffusietransformatoren

Probleemstelling

Multimodale Diffusietransformatoren (MM-DiT), zoals FLUX en Stable Diffusion 3.5, hebben aanzienlijke vooruitgang geboekt in tekst-naar-afbeelding (T2I)-generatie. Ze lijden echter vaak aan conceptweglating, een faalmodus waarbij specifieke objecten die in de prompt worden gevraagd, volledig ontbreken in de gegenereerde afbeelding (objectweglating) of waarbij hun visuele eigenschappen worden genegeerd (eigendomsverwaarlozing). Bestaande oplossingen vereisen vaak extra modeltraining of brengen hoge rekenkosten met zich mee tijdens inferentie. Bovendien heeft eerdere interpretabiliteitsonderzoek zich grotendeels gericht op visuele embeddings, waardoor de rol van tekstembeddings bij het detecteren en corrigeren van deze weglatingen onderbelicht blijft.

Methodologie

1. Diagnose via Lineair Probing

De auteurs veronderstellen dat teksttoken-embeddings binnen MM-DiT informatie bevatten over de aanwezigheid of afwezigheid van het corresponderende concept tijdens het generatieproces. Om dit te verifiëren, maken ze gebruik van lineair probing:

• Datasetconstructie: Ze genereren afbeeldingen met prompts die twee objecten bevatten (gebaseerd op GenEval). Ze labelen de interne representaties op basis van of de objecten succesvol verschijnen in de finale afbeelding.
• Selectie van Representaties: Ze richten zich op de sleutelvectoren ($k$) van teksttokens, aangezien deze bekend staan om hun sterke invloed op afbeeldingsgeneratie in MM-DiT-architecturen.
• Temporele Filtering: Ze observeren dat de alignatie tussen interne representaties en finale generatie-uitkomsten slecht is in vroege en late tijdstappen. Bijgevolg beperken ze hun analyse tot intermediaire tijdstappen, waar de overeenstemming tussen voorspelde schone afbeeldingen ($\hat{x}_0$) en finale labels het hoogst is (0,965).
• Vondsten: Lineaire classifiers getraind op deze intermediaire representaties bereiken hoge nauwkeurigheid (tot 91,0%) in specifieke attention-heads, met name in de middelste lagen van het model. Dit bevestigt dat specifieke heads een distinct "weglatingsignaal" coderen dat onderscheid maakt tussen de aanwezigheid en afwezigheid van een concept.

2. Interventie op Weglatingsignaal (OSI)

Gebruikmakend van het geïdentificeerde weglatingsignaal, stellen de auteurs Omission Signal Intervention (OSI) voor, een trainingsvrije methode voor tijdens inferentie om conceptweglating te corrigeren:

• Richtingsextractie: Ze berekenen een stuurvector ($\delta$) die het verschil voorstelt tussen de gemiddelde sleutelvectoren van weggelaten concepten ($y=0$) en aanwezige concepten ($y=1$).
• Interventiemechanisme: Tijdens inferentie interveniëren ze op de sleutelvectoren van specifieke concepttokens door een geschaalde versie van deze richtingsvector toe te voegen:
  $$k^{(t,l,h)}_c \leftarrow k^{(t,l,h)}_c + \alpha \sigma^{(l,h)} \theta^{(l,h)}$$
  Waar $\theta$ de genormaliseerde richting is, $\sigma$ de standaardafwijking van projecties, en $\alpha$ een hyperparameter die de sterkte regelt.
• Doelstrategie: Om onbedoelde verstoringen te minimaliseren, wordt de interventie alleen toegepast op:
  1. De top-K attention-heads met de hoogste probing-nauwkeurigheid.
  2. Specifieke tijdsintervallen (de initiële stappen van het generatieproces, $t \in [t_{stop}, 1]$), waar conceptvorming voornamelijk plaatsvindt.

Belangrijkste Bijdragen

1. Empirische Verificatie: Het artikel demonstreert dat teksttokens in MM-DiT informatie over weglating vastleggen via gezamenlijke interactie met afbeeldingtokens, specifiek binnen bepaalde attention-heads op intermediaire tijdstappen.
2. OSI-methode: De introductie van Omission Signal Intervention, die het interne "weglatingsignaal" versterkt om het model bewust te maken van ontbrekende concepten, waardoor hun generatie wordt gekatalyseerd zonder hertraining.
3. Uitgebreide Validatie: De methode wordt gevalideerd over twee benchmarkcategorieën (objectweglating en eigendomsverwaarlozing) op twee state-of-the-art modellen (FLUX.1-Dev en SD3.5-Medium), waarbij significante verbeteringen worden getoond ten opzichte van sterke baselines zoals TACA en PLADIS.

Experimentele Resultaten

• Objectweglating: Op de GenEval-dataset (2–6 objecten) en T2I-CompBench presteert OSI aanzienlijk beter dan baselines. Bijvoorbeeld, op FLUX met prompts van 6 objecten bereikt OSI een nauwkeurigheid van 0,40, vergeleken met 0,18 voor het basismodel en 0,20 voor TACA/PLADIS.
• Eigendomsverwaarlozing: OSI verbetert de prestaties op eigendomsbindingstaken (kleur, vorm, textuur) voor beide modellen. Opvallend is dat het toepassen van de interventie op eigendomstokens (naast objecttokens) verdere winst oplevert, wat suggereert dat het signaal verder reikt dan objecttokens.
• Ablatiestudies:
  • Richting: Het omkeren van de richting of het gebruik van willekeurige vectoren verslechtert de prestaties of levert marginale winst op, wat de semantische alignatie van de geleerde richting bevestigt.
  • Head-selectie: Interveniëren op heads met lage nauwkeurigheid of willekeurige heads faalt om de prestaties van het selecteren van top-K heads te evenaren.
  • Tokenspecificiteit: Interveniëren alleen op weggelaten tokens verhoogt hun generatiekans en nauwkeurigheid aanzienlijk, terwijl interveniëren op reeds aanwezige tokens een verwaarloosbaar effect heeft.
  • Hyperparameters: De methode is robuust over een reeks schaalcoëfficiënten ($\alpha$) en head-aantallen ($K$), waarbij optimale instellingen balans vinden tussen alignatie en afbeeldingskwaliteit (gemeten met MANIQA).

Betekenis en Claims

Het artikel beweert dat OSI een nieuw perspectief biedt op het mechanisme van tekst-naar-afbeelding-generatie door te identificeren dat het model een interne, detecteerbare bewustheid bezit van ontbrekende concepten. Door dit signaal te versterken, kan het model worden gestuurd om de ontbrekende elementen intentioneel te "hallucineren".

De auteurs positioneren OSI als een trainingsvrije, rekenkundig efficiënte oplossing die conceptweglating verlicht zonder de noodzaak van fine-tuning of complexe constraint-optimalisatie. Ze benadrukken dat de methode, hoewel ze de controleerbaarheid verbetert, geen nieuwe kennis in het model introduceert, maar eerder bestaande representaties stuurt. Het werk suggereert dat het begrijpen en manipuleren van interne "weglatingsignalen" een levensvatbare weg is om de fideliteit van multimodale diffusiemodellen te verbeteren.