Technische Samenvatting: Memorizatie in Stable Diffusion wordt Onverwacht Gedreven door CLIP-Embeddings

Probleemstelling

Tekst-naar-beeld diffusiemodellen, met name Stable Diffusion, vertonen een kritiek privacyrisico dat bekendstaat als memorizatie, waarbij het model specifieke afbeeldingen uit zijn trainingsset reproduceert als reactie op bepaalde prompts. Dit roept aanzienlijke zorgen op over auteursrechtenschendingen en het lekken van privégegevens. Hoewel eerdere onderzoek memorizatie heeft onderzocht via dataset-duplicatie, trigger-tokens en cross-attention patronen, blijft de rol van de tekst-embeddingsruimte – specifiek hoe verschillende componenten van de embedding-volgorde bijdragen aan memorizatie – onderbelicht. Dit artikel stelt dat de oorzaak van memorizatie in Stable Diffusion v1.4 niet enkel ligt in de tokens zelf, maar in een structurele misalignatie tussen de trainingsdynamiek van de CLIP-tekstencoder en de inferentiemechanismen van het diffusiemodel.

Methodologie

De auteurs voeren een gedetailleerd onderzoek uit naar de embeddingvectoren van Stable Diffusion, waarbij invoertokens worden gecategoriseerd in vier types: <startoftext> ($v_{sot}$), <prompt>-tokens ($v_{pr}$), <endoftext> ($v_{eot}$) en <pad>-tokens ($v_{pad}$).

1. Empirische Analyse van Embedding-bijdragen

De studie maakt gebruik van gecontroleerde interventies tijdens de inferentie om de invloed van elke embeddingcomponent op gememoriseerde prompts te kwantificeren. De experimenten omvatten:

• Maskeren en Vervangen: Systematisch maskeren of vervangen van specifieke embeddingvectoren (bijvoorbeeld het instellen van $v_{pr}$ of $v_{pad}$ op nulvectoren, of het vervangen ervan door $v_{eot}$).
• Metrische Evaluatie: Het gebruik van SSCD (Self-Supervised Contrastive Distance) om memorizatie te meten (gelijkenis met de originele trainingsafbeelding), CLIPScore voor tekst-beeld uitlijning, en Aesthetic Score voor visuele kwaliteit.
• Datasetcursatie: De auteurs hebben een robuuste set van 458 "Matching Verbatim" (MV) prompts samengesteld uit Webster [35] en Membench [13], waarbij onstabiele of gedegradeerde gevallen werden gefilterd om een betrouwbare analyse te waarborgen.

2. Comparatieve Analyse (v1.4 vs. v2.1)

Het artikel vergelijkt Stable Diffusion v1.4 (dat de originele CLIP-tekstencoder gebruikt) met v2.1 (dat OpenCLIP gebruikt). De auteurs hypotheseren dat verschillen in de manier waarop deze modellen omgaan met padding-tokens de variatie in memorizatiepercentages tussen de versies verklaren.

3. Mitigatiestrategieën

Op basis van de bevindingen worden twee mitigatiestrategieën tijdens de inferentie voorgesteld:

1. Tokenizer-niveau Fix: Vervang de standaard <pad>-token (die <eot> is in v1.4) door een semantisch neutrale token (bijvoorbeeld !) vóór het embedden, en maskeren de enkele $v_{eot}$.
2. Gedeeltelijk Maskeren: Deel van de $v_{pad}$-embeddings maskeren (specifiek 70%) om redundantie te verminderen zonder de generatiekwaliteit te laten instorten.

Belangrijkste Bevindingen en Bijdragen

1. De Dominantie van Padding-Embeddings

In tegenstelling tot de aanname dat prompt-tokens ($v_{pr}$) de primaire drijvers van generatie zijn, vinden de auteurs dat $v_{pr}$ minimaal bijdragen aan memorizatie. Sterker nog, het maskeren van $v_{pr}$ of het vervangen ervan door $v_{eot}$ behoudt de gegenereerde afbeeldingsstructuur. Omgekeerd spelen padding-embeddings ($v_{pad}$) een dominante rol. Wanneer $v_{pad}$ wordt gemaskeerd, stort de generatie in, wat aangeeft dat ze cruciaal zijn voor het reproduceren van gememoriseerde inhoud.

2. Structurele Duplicatie van $v_{eot}$

Het geïdentificeerde kernmechanisme is de structurele duplicatie van de <endoftext>-embedding.

• In Stable Diffusion v1.4 worden prompts korter dan de vaste lengte (77 tokens) opgevuld door het <eot>-token te herhalen.
• Aangezien CLIP via contrastief leren is getraind om $v_{eot}$ te optimaliseren als vertegenwoordiger van zinsniveau-semantiek, resulteren de herhaalde <eot>-tokens in meerdere bijna-identieke $v_{eot}$-vectoren (als $v_{pad}$).
• Deze onbedoelde duplicatie versterkt de invloed van $v_{eot}$ tijdens het diffusieproces, waardoor het model overmatig afhankelijk wordt van deze specifieke embedding en dit leidt tot memorizatie.

3. Verklaring van het Gedrag van Stable Diffusion v2.1

Het artikel merkt op dat Stable Diffusion v2.1 aanzienlijk lagere memorizatiepercentages vertoont. De auteurs schrijven dit niet toe aan dataset-de-duplicatie, maar aan het gebruik van OpenCLIP, dat een neutrale !-token gebruikt voor padding in plaats van <eot> te dupliceren. Deze structurele wijziging verwijdert de versterking van $v_{eot}$, waardoor memorizatie wordt verminderd.

4. Voorgestelde Mitigatiestrategieën

De auteurs stellen twee effectieve, plug-and-play strategieën voor die geen hertraining van het model vereisen:

• Strategie 1: Vervang de standaard <pad> van de tokenizer door een neutrale token (!) en maskeren de originele $v_{eot}$. Dit ontkoppelt $v_{pad}$ van $v_{eot}$.
• Strategie 2: Deel van de $v_{pad}$-embeddings maskeren (70%).
  Beide methoden verminderen de SSCD-scores aanzienlijk (wat wijst op verminderde memorizatie) terwijl ze een hoge CLIPScore en Aesthetic Score behouden, waardoor de diversiteit over willekeurige seeds effectief wordt hersteld.

Resultaten

• Onderdrukking van Memorizatie: De voorgestelde methoden verminderen SSCD-scores van ~0,5 (wat memorizatie aangeeft) naar ~0,08–0,10, waardoor de reproductie van trainingsafbeeldingen effectief wordt voorkomen.
• Behoud van Kwaliteit: In tegenstelling tot eerdere methoden (bijvoorbeeld Ren et al. [24], Wen et al. [36]) die vaak de visuele kwaliteit degraderen of memorizatie niet consistent onderdrukken, behouden de voorgestelde strategieën de prompt-uitlijning en beeldkwaliteit.
• Efficiëntie: De mitigatie voegt verwaarloosbare rekenkosten toe, met inferentietijden die bijna identiek zijn aan standaardgeneratie.
• Robuustheid: De methoden presteren consistent over gememoriseerde en niet-gemoriseerde prompts, zonder significante degradatie in de algemene generatiekwaliteit.

Betekenis en Claims

Het artikel beweert het perspectief op memorizatie te verschuiven van modelinterne aspecten (bijvoorbeeld cross-attention patronen) naar de structurele eigenschappen van tekst-embeddings. Het stelt dat het mismatch tussen het trainingsdoel van CLIP (alleen $v_{eot}$ optimaliseren) en de inferentie van het diffusiemodel (conditioneren op de volledige sequentie inclusief gedupliceerde $v_{eot}$) een structurele bias creëert die memorizatie aandrijft.

De betekenis ligt in het identificeren van een eerder over het hoofd gezien mechanisme: de onbedoelde versterking van de <endoftext>-embedding door het ontwerp van de tokenizer. Door deze structurele fout aan te pakken, bieden de auteurs eenvoudige, effectieve en inzetbare oplossingen die memorizatie mitigeren zonder datasetfiltering, prompttuning of modelhertraining. De bevindingen suggereren dat toekomstige diffusiemodellen zorgvuldig moeten nadenken over padding-tokenstrategieën om vergelijkbare structurele biases te voorkomen.