Technische Samenvatting: ScaleErasure

Probleemstelling

Het artikel behandelt de uitdaging van conceptverwijdering (concept erasure) in next-scale autoregressieve (AR) beeldgeneratie, een paradigma dat verschilt van de dominante diffusiemodellen. Hoewel conceptverwijdering tot doel heeft om modellen te voorkomen dat ze onveilige inhoud genereren (bijv. naaktheid, auteursrechtelijk beschermde personages) terwijl de algemene generatieve capaciteit behouden blijft, zijn bestaande methoden primair ontworpen voor diffusiemodellen en laten ze zich niet direct vertalen naar next-scale AR.

De kern van de moeilijkheid in het next-scale AR-paradigma ligt in de ernstige semantische verstrengeling (semantic entanglement). In tegenstelling tot diffusiemodellen die op vaste resoluties genereren, genereren next-scale AR-modellen beelden van grof naar fijn, beginnend bij extreem lage resoluties (bijv. 1×1 of 2×2 tokens). Op deze vroege schalen is semantische informatie sterk gecomprimeerd in een beperkt aantal tokens. Bijgevolg codeert een enkel token vaak zowel onveilige semantiek (bijv. "naaktheid") als ongerelateerde veilige semantiek (bijv. "achtergrond" of "lucht"). Deze verstrengeling maakt het moeilijk om onveilige concepten precies te selecteren en te verwijderen zonder de algehele beeldstructuur te verslechteren of ongerelateerde inhoud te verwijderen.

Methodologie: ScaleErasure

De auteurs stellen ScaleErasure voor, een methode voor conceptverwijdering tijdens de inferentie die minimale interventie uitvoert door voorspelde logits selectief te sturen. De methode werkt zonder de modelparameters aan te passen, maar moduleert in plaats daarvan het generatieproces tijdens de inferentie.

Kernmechanisme

ScaleErasure identificeert de logits die het meest relevant zijn voor een onveilig concept en stuurt deze naar een overeenkomstig veilig concept. Dit wordt bereikt door twee extra forward passes die geconditioneerd zijn op het onveilige concept en een veilig concept. De uiteindelijke gestuurde logits ($\ell^\star_k$) zijn een combinatie van de standaard Classifier-Free Guidance (CFG) logits en de nieuwe Safe Guidance (SG) logits, bepaald door een binaire masker ($M_k$):
$$\ell^\star_k = M_k \cdot \ell^{SG}_k + ( - M_k) \cdot \ell^{CFG}_k$$

Om precieze en minimale interventie te garanderen, vindt de selectie van logits en de toepassing van guidance plaats over drie orthogonale dimensies:

1. Selectie op Schaalniveau (Scale-Level Selection):

   • Rationale: Vroege schalen (1×1, 2×2) leggen de globale structuur vast en zijn te gevoelig voor interventie; late schalen verfijnen primair hoogfrequente details waar de onveilige inhoud al is vastgelegd.
   • Strategie: Guidance wordt beperkt tot een begrensde tussenliggende range van schalen (bijv. schalen 3 tot 8). Dit maakt ook een early-stop strategie mogelijk voor de extra forward passes, wat de computationele overhead aanzienlijk vermindert vergeleken met het sturen van alle schalen.

2. Selectie op Tokenniveau (Token-Level Selection):

   • Rationale: Om verstoring van ongerelateerde regio's (bijv. de lucht of achtergrond) binnen een tokenmap te voorkomen.
   • Strategie: De methode maakt gebruik van het interne cross-attention mechanisme van het model. Het berekent gelijkenisscores tussen visuele queries en concept-keys (onveilig vs. ongerelateerde concepten zoals "achtergrond"). Tokens met een hoge relevantie voor het onveilige concept (boven een drempelwaarde $\tau_{token}$) worden geselecteerd voor interventie, terwijl anderen worden behouden.

3. Selectie op Bit-Kanaalniveau (Bit-Channel-Level Selection):

   • Rationale: Next-scale AR-modellen (specifiek die welke Binary Spherical Quantization gebruiken) representeren tokens via meerdere onafhankelijke bit-kanalen. Een enkel token kan zowel onveilige als veilige bits bevatten.
   • Strategie: De methode vergelijkt de logits vectoren van de prompt-geconditioneerde pass en de onveilig-geconditioneerde pass. Bit-kanalen met lage absolute verschillen (onder drempelwaarde $\tau_{bit}$) worden als irrelevant voor het onveilige concept beschouwd en uitgesloten van guidance. Dit maakt een fijnmazige ontwarring van semantiek binnen een enkel token mogelijk.

Formule voor Safe Guidance

Voor geselecteerde logits vervangt de methode de prompt-geconditioneerde logits door een safe-guided versie. De guidance-formule bevat een strafterm om resterende onveilige activaties te onderdrukken:
$$\ell^{SG}_k = \ell^{uc}_k + \beta_{CFG}(\ell^{sa}_k - \ell^{us}_k)$$
waarbij $\ell^{sa}_k$ en $\ell^{us}_k$ respectievelijk de logits zijn die geconditioneerd zijn op veilige en onveilige concepten.

Belangrijkste Bijdragen

1. ScaleErasure Framework: Een nieuwe methode voor conceptverwijdering tijdens de inferentie, specifiek afgestemd op het next-scale AR-paradigma, die het unieke probleem van semantische verstrengeling bij lage resoluties aanpakt.
2. Selectieve Logits-Guidance Strategie: Een driedimensionaal selectiemechanisme (schalen, tokens en bit-kanalen) dat precieze verwijdering van onveilige concepten mogelijk maakt terwijl nevenschade aan de algemene generatieve capaciteit wordt geminimaliseerd.
3. Efficiëntie-optimalisatie: De introductie van een early-stop strategie voor de extra forward passes, wat de computationele kosten en de inferentielatentie aanzienlijk vermindert terwijl de veiligheidsprestaties behouden blijven.

Experimentele Resultaten

De methode werd geëvalueerd op het Infinity-2B model over twee domeinen: naaktheidsverwijdering (met de I2P benchmark) en copyrightverwijdering (Pikachu en SpongeBob).

• Naaktheidsverwijdering: ScaleErasure behaalde de laagste totale naaktheidscount op I2P (182 vs. 296 voor de op één na beste baseline, ESD-u) terwijl het een superieure algemene generatieve capaciteit behield (laagste FID van 2.91 en hoogste CLIP Score van 30.68 op MS-COCO).
• Copyrightverwijdering: De methode behaalde de beste gemiddelde $H_a$ (een metriek die suppressie en behoud balanceert) voor beide personages, wat de consistente effectiviteit aantoont.
• Kwalitatieve Prestaties: Visuele vergelijkingen toonden aan dat ScaleErasure erin slaagde onveilige inhoud te verwijderen terwijl de globale structuur en achtergronddetails behouden bleven, terwijl baselines vaak artefacten, vervormingen introduceerden of er niet in slaagden het concept volledig te verwijderen.
• Efficiëntie: Door de early-stop strategie toe te passen, veroorzaakte ScaleErasure slechts een latentieverhoging van ongeveer 9% ten opzichte van het basismodel, vergeleken met een toename van ongeveer 35% als guidance over alle schalen zou worden toegepast.

Betekenis en Claims

Het artikel beweert dat ScaleErasure een belangrijke stap voorwaarts is in het beveiligen van next-scale autoregressieve modellen, een paradigma dat grotendeels onverkend is wat betreft veiligheidsmechanismen. De auteurs benadrukken dat hun aanpak precieze conceptverwijdering bereikt onder condities van ernstige semantische verstrengeling, een probleem waarbij eerdere methoden moeite hebben.

De betekenis van het werk ligt in het vermogen om onveilige inhoud (zoals naaktheid of auteursrechtelijk beschermd materiaal) te onderdrukken zonder de modelparameters permanent te wijzigen of de algemene generatieve getrouwheid van het model significant te verslechteren. Door tijdens de inferentie met minimale interventie te opereren, biedt de methode een flexibele, omkeerbare en inzetbare oplossing voor veiligheid in opkomende AR-gebaseerde beeldgeneratiesystemen. De auteurs merken op dat hoewel de methode de veiligheid verbetert, deze opereert binnen de beperkingen van het specifieke paradigma en niet beweert alle veiligheidsuitdagingen in generatieve AI op te lossen.