Technische Samenvatting: Het Veiligheidsgat Dichten: Chirurgische Conceptverwijdering in Visuele Autoregressieve Modellen

Probleemstelling

De snelle vooruitgang van Visuele Autoregressieve (VAR) modellen, zoals Infinity, heeft de kwaliteit en snelheid van tekst-naar-afbeelding generatie aanzienlijk verbeterd door visuele tokens op progressief grotere schalen te voorspellen. Deze modellen missen echter effectieve veiligheidsmechanismen, waardoor ze vatbaar zijn voor het genereren van onveilige inhoud (bijv. NSFW-afbeeldingen, geweld of auteursrechtelijk beschermd materiaal) als reactie op ongepaste prompts.

Bestaande Concept Erasure (CE) technieken, primair ontworopt voor diffusiemodellen (bijv. U-Net of FLUX-architecturen), slagen er niet in te generaliseren naar VAR-modellen vanwege fundamentele architecturale verschillen:

1. Voorspellingsparadigma: Diffusiemodellen voorspellen ruis in een continue ruimte, terwijl VAR-modellen discrete visuele tokens voorspellen op een hiërarchische, autoregressieve wijze.
2. Foutaccumulatie: Het naïef toepassen van op diffusie gebaseerde CE-methoden (die voorspellingen op individuele schalen afstemmen) op VAR's leidt tot cumulatieve fouten over de schalen heen. Omdat VAR-generatie sterk autoregressief is (elke token hangt af van voorgaande grove-schaal tokens), veroorzaakt onafhankelijke afstemming ernstige ineenstorting van de beeldkwaliteit en semantische vervorming.
3. Optimalisatiemismatch: Standaard regressieverliezen (bijv. Mean Squared Error) die worden gebruikt bij diffusie-erasure, zijn minder geschikt voor de discrete waarschijnlijkheidsruimte van tokenvoorspelling in VAR's, wat leidt tot instabiele optimalisatie.

Methodologie

De auteurs stellen een tweestaps-framework voor om deze uitdagingen aan te pakken: VARErasure (een fundamenteel framework) en S-VARE (een chirurgische erasure-methode).

1. VARErasure Framework: Hulsvisuele Tokens

Om de accumulatie van fouten over schalen heen te voorkomen, introduceren de auteurs een framework dat gebruikmaakt van hulsvisuele tokens (auxiliary visual tokens).

• Mechanisme: In plaats van het model te trainen om tokens vanaf nul te genereren op basis van een neutrale prompt, voorziet het framework de visuele transformer van hulsvisuele tokens gegenereerd uit het originele model (met behulp van ofwel de doel-prompt $c^*$ of een neutrale prompt $c$) als aanvullende inputs.
• Effect: Dit stelt het gefinetunede model in staat om zich te concentreren op het aanpassen van de cross-attention responsen om rekening te houden met het doelconcept, terwijl het algemene generatiegedrag (structuur en semantiek) grotendeels intact blijft. Dit verzacht de "ineenstorting" die wordt gezien bij naïeve fine-tuning.

2. S-VARE: Chirurgische Conceptverwijdering

Bouwend op VARE, introduceren de auteurs S-VARE, die standaard regressieverliezen vervangt door een aangepaste verliesfunctie die is afgestemd op discrete tokenvoorspelling.

• Filtered Cross-Entropy Loss ($L_{FCE}$):

  • In erkenning van het feit dat VAR-modellen (zoals Infinity) Binary Spherical Quantization (BSQ) gebruiken om voorspellingen te projecteren in een waarschijnlijkheidsruimte, vervangen de auteurs MSE door Cross-Entropy.
  • Filterstrategie: Om over-optimalisatie te voorkomen (waarbij het model zelfs correcte tokens verslechtert), wordt een tweeledige filterstrategie toegepast:
    1. Bit-niveau: Gebruikt een drempelwaarde $\gamma$ gebaseerd op binaire classificatienauwkeurigheid.
    2. Token-niveau: Sluit tokens uit van de verliesberekening als het percentage onjuiste bits onder een drempelwaarde $\alpha$ ligt (gesteld op 25%, consistent met het zelfcorrectiebereik van het model).
  • Dit zorgt ervoor dat alleen tokens met significante semantische discrepanties bijdragen aan de gradiënt, wat een "chirurgische" verwijdering van onveilige concepten mogelijk maakt.

• Preservation Loss ($L_{Pre}$):

  • Om bijwerkingen van fine-tuning zoals taaldrift en verminderde diversiteit tegen te gaan, wordt een preservatieverlies geïntroduceerd.
  • Mechanisme: Het stemt de output van het gefinetunede model (met behulp van een neutrale prompt $c$) af met de output van het originele pre-trained model met behulp van Kullback-Leibler divergentie.
  • Doel: Dit zorgt ervoor dat het gefinetunede model de generatieve capaciteiten en diversiteit van het originele model behoudt voor concepten die niet gerelateerd zijn aan het verwijderde doel.

Belangrijkste Bijdragen

1. Systematische Analyse: Het paper is de eerste die de beperkingen systematisch analyseert van het toepassen van op diffusie gebaseerde CE-methoden op VAR-modellen, waarbij foutaccumulatie en optimalisatiemismatches als primaire faalpunten worden geïdentificeerd.
2. VARE Framework: Stelt een nieuw framework voor dat gebruikmaakt van hulsvisuele tokens om generatie te stabiliseren en de optimalisatiezoekruimte te verkleinen, wat ineenstorting van de beeldkwaliteit voorkomt.
3. S-VARE Methode: Introduceert een chirurgische verwijderingsmethode met:
   • Een Filtered Cross-Entropy Loss ($L_{FCE}$) die specifiek onveilige tokens target terwijl de discrete aard van VAR-voorspellingen wordt gerespecteerd.
   • Een Preservation Loss ($L_{Pre}$) die semantische getrouwheid en outputdiversiteit behoudt.
4. Empirische Validatie: Demonstreert dat de aanpak een hoge erasure rate bereikt (97% van de gevoelige concepten) met minimale degradatie van de generatiekwaliteit (minder dan 2% daling in CLIP score).

Experimentele Resultaten

De auteurs evalueerden S-VARE op het Infinity-2B model over drie verwijderingscategorieën: NSFW (naaktheid), Object (bijv. "kerk") en Stijl (bijv. "Van Gogh").

• NSFW Erasure: De methode bereikte bijna volledige verwijdering van naaktheidsconcepten (het significant verminderen van detectie van gevoelige inhoud) terwijl het genereren van normale lichaamsdelen behouden bleef. Het presteerde beter dan baselines zoals ESD, UCE en FMN, die ofwel niet effectief verwijderden of de beeldkwaliteit ernstig verslechterden.
• Object & Stijl Erasure: De methode verwijderde succesvol doelobjecten en stijlen, terwijl een hoge classificatienauwkeurigheid voor irrelevante klassen werd behouden en het vermogen van het model om diverse, hoogwaardige afbeeldingen te genereren werd bewaard.
• Robuustheid: Getest tegen adversariële prompt-datasets (Ring-A-Bell, MMA, I2P) die naaktheid induceren, verminderde S-VARE de Adversarial Success Rate (ASR) aanzienlijk vergeleken met het originele model en andere baselines.
• Ablatie-studies: Bevestigden dat de Filtered Cross-Entropy loss cruciaal is voor de effectiviteit van de verwijdering, terwijl de Preservation loss essentieel is voor het behoud van generatiekwaliteit en instructietrouw.

Betekenis en Claims

Het paper claimt het veiligheidsgat te dichten in autoregressieve tekst-naar-afbeelding generatie. Hoewel voorgaande methoden effectief waren voor diffusiemodellen, waren ze onbruikbaar voor de opkomende klasse van VAR-modellen. Door VARE en S-VARE te introduceren, bieden de auteurs de eerste effectieve, chirurgische conceptverwijderingsoplossing voor VAR's.

Het werk demonstreert dat het mogelijk is om ongewenste concepten te verwijderen uit grootschalige autoregressieve modellen zonder de onpraktische computationele last van het opnieuw trainen vanaf nul of de ernstige kwaliteitsdegradatie die geassocieerd wordt met naïeve fine-tuning. Dit faciliteert de veilige en schaalbare inzet van VAR-gebaseerde generatiesystemen in real-world applicaties.