Résumé Technique : SACE : Effacement de Concept à la Singularité Sémantique dans les Modèles Autoregressifs Visuels

1. Énoncé du Problème

L'émergence rapide des modèles Visuels Autoregressifs (VAR), tels qu'Infinity, a ouvert une nouvelle frontière pour la synthèse d'images texte-vers-image de haute fidélité, surpassant les modèles de diffusion en termes de scalabilité et de qualité de génération. Cependant, ces modèles héritent de vulnérabilités de sécurité significatives, notamment la génération de contenus inappropriés, biaisés ou protégés par le droit d'auteur.

Les techniques d'effacement de concept existantes, principalement conçues pour les modèles de diffusion, échouent lorsqu'elles sont appliquées naïvement aux architectures VAR. L'effacement par diffusion repose sur la nature homogène des étapes de débruitage temporel, alors que les modèles VAR opèrent via un paradigme autoregressif « échelle suivante » où les images sont générées d'une résolution grossière vers une résolution fine. L'application directe de pertes d'effacement uniformes sur toutes les échelles dans les modèles VAR entraîne :

• Effondrement Sémantique Catastrophique : Le modèle perd sa capacité à générer des images cohérentes.
• Artefacts Visuels : Flou sévère, textures chaotiques et désintégration structurelle.
• Inefficacité : Un entraînement indiscriminé sur toutes les échelles induit un surcoût computationnel exponentiel sans garantir un effacement efficace.

Les tentatives actuelles spécifiques aux VAR (par exemple, S-VARE, EAR) présentent une efficacité sous-optimale et des coûts d'entraînement élevés, principalement parce qu'elles traitent le processus de génération multi-échelle comme une tâche séquentielle homogène, échouant à saisir la nature hiérarchique spatiale intrinsèque de ces modèles.

2. Méthodologie

Le cadre proposé SACE (Scale-Aware Concept Erasure) répond à ces défis via une approche en trois volets : axiomatisation théorique, analyse diagnostique et optimisation ciblée.

A. L'Axiome de la Singularité Sémantique

La contribution théorique centrale est l'Axiome de la Singularité Sémantique, qui postule que tout concept sémantique cible ancré dans un prompt est irrévocablement verrouillé à l'échelle générative fondamentale (Échelle-0).

• Mécanisme : La condition textuelle globale initie une « cascade d'accumulateurs visuels ». Le point d'engagement sémantique est établi à l'Échelle-0 (un jeton latent de $1 \times 1$) et se propage structurellement à toutes les échelles de plus haute fréquence.
• Implication : Les échelles suivantes ($s > 0$) n'injectent pas de nouveaux concepts sémantiques ; elles effectuent simplement un verrouillage structurel de haute fréquence et un raffinement de la texture basés sur les priors établis à l'Échelle-0. Par conséquent, les interventions d'effacement sur toutes les échelles sont redondantes et structurellement préjudiciables.

B. Analyse de la Saillance Sémantique Incrémentielle (ISSA)

Pour valider l'axiome, les auteurs proposent l'ISSA, un cadre de diagnostic qui isole l'information sémantique nouvellement injectée à chaque échelle de résolution.

• Processus : L'ISSA intercepte les probabilités d'attention croisée pendant l'inférence, les agrège à travers les couches, et calcule le Résidu d'Attention ($\Delta A_k$) en soustrayant l'attention suréchantillonnée de l'échelle précédente de l'échelle actuelle.
• Résultats : L'analyse visuelle révèle que la masse d'attention pour des concepts spécifiques culmine à l'Échelle-0 et subit une décroissance exponentielle dans les échelles suivantes. Les échelles supérieures contribuent de manière négligeable à un nouveau focus sémantique, agissant uniquement comme des raffineurs de texture. Cela fournit une preuve visuelle rigoureuse que l'intervention aux échelles $s > 0$ est à la fois inutile et nuisible.

C. Le Cadre d'Optimisation SACE

Guidé par l'axiome, SACE confine toutes les interventions d'effacement strictement à l'Échelle-0, employant une stratégie d'optimisation à double objectif :

1. Objectif d'Effacement Régularisé par l'Entropie ($\mathcal{L}_{ER}$) :

   • Problème : Le déplacement forcé des représentations latentes dans les modèles autoregressifs aplatit les logits de sortie, menant à une entropie pathologiquement élevée et à une sélection de jetons quasi aléatoire (dégénérescence).
   • Solution : $\mathcal{L}_{ER}$ couple un mécanisme de déflation générative (repoussant le concept cible) avec une contrainte de netteté informationnelle dynamique. Il garantit que le modèle efface le concept sans faire s'effondrer la distribution catégorielle en un bruit à haute entropie.
   • Formule : $\mathcal{L}_{ER} = \mathcal{L}_{naive} + \lambda_{ent}\mathcal{L}_{ent}$, où $\mathcal{L}_{ent}$ pénalise l'entropie dépassant un seuil maximal ($H_{max}$).

2. Perte de Préservation Restauratrice ($\mathcal{L}_{pre}$) :

   • Problème : L'ablation du concept cible peut endommager les dépendances fines entre jetons nécessaires à une synthèse de haute fidélité, causant des « dommages collatéraux » aux priors bénins (ex: anatomie déformée).
   • Solution : $\mathcal{L}_{pre}$ ancre l'intégrité des priors bénins entrelacés en minimisant la distance entre la sortie du modèle effacé et la sortie du modèle original sur des prompts non-cibles, spécifiquement sur les échelles $s \ge 1$.
   • Rôle : Cela agit comme un « scalpel chirurgical », forçant le modèle à effectuer un désenchevêtrement orthogonal à l'Échelle-0 tout en préservant les gradients structurels de haute fréquence des échelles supérieures.

3. Contributions Clés

1. Axiome de la Singularité Sémantique : La première formalisation démontrant que l'injection sémantique dans les modèles autoregressifs à échelle suivante est dominée par l'échelle initiale, simplifiant l'effacement multi-échelle en une intervention ciblée au niveau de la racine sémantique.
2. Analyse de la Saillance Sémantique Incrémentielle (ISSA) : Un outil de diagnostic en « boîte blanche » qui isole l'information sémantique incrémentielle, offrant à la communauté la première méthode pour inspecter de manière transparente le processus de génération de grossier à fin des modèles VAR.
3. Cadre d'Effacement Sensible à l'Échelle : Le premier cadre capable de migrer les stratégies matures d'effacement basées sur la diffusion vers le paradigme VAR en exploitant l'Axiome de la Singularité Sémantique. Il combine une intervention à la première échelle et une optimisation bi-niveau.
4. Précision Chirurgicale : La méthode atteint des performances d'effacement de l'état de l'art (SOTA) avec un surcoût d'entraînement minimal, équilibrant efficacement la suppression du concept et la préservation de la fidélité générative générale.

4. Résultats Expérimentaux

Les auteurs ont évalué SACE sur le modèle Infinity-8B contre des bases de référence incluant ESD, FMN, UCE et VARE (reproduit).

• Effacement NSFW (« Nude ») :

  • SACE a réduit le Taux de Nudité jugé par l'humain (HNR) de 97,7 % (baseline) à 17,5 %.
  • Contrairement aux bases agressives (ex: ESD-x) qui atteignaient un HNR faible (7,2 %) mais détruisaient la qualité d'image (FID 52,18), SACE maintient un FID compétitif de 23,5 et un score CLIP de 31,3, presque indiscernable du modèle original.
  • SACE a obtenu le score de sensibilité le plus bas (71) sur les détections anatomiques tout en maintenant une complexité élevée (375), indiquant une richesse générative préservée.

• Effacement de Style (« Van Gogh ») :

  • SACE a réduit la présence du style à 8 % de précision, surpassant les bases de référence (18–28 %).
  • Crucialement, SACE a maintenu un FID de 23,8, alors que l'ESD-u souffrait d'une dégradation catastrophique de l'utilité (FID 88,1).

• Effacement d'Objet (« Church ») :

  • SACE est la seule méthode à avoir perturbé de manière significative la génération d'objets concrets, réduisant la précision de 97,0 % à 65,0 %. Les bases de référence n'ont pas fourni d'effacement significatif (88–98 %).

• Robustesse :

  • SACE a démontré une forte robustesse contre les attaques adverses (jeux de données Ring-A-Bell et I2P), atteignant le taux de succès d'attaque (ASR) le plus bas sur R-A-B (44,56 %) et le deuxième meilleur sur I2P.

• Études d'Ablation :

  • Échelle : Intervenir sur toutes les échelles a dégradé l'efficacité de l'effacement (l'ASR est remonté à 55,79 %) en raison de conflits d'objectifs entre l'effacement et la préservation.
    • Entropie : Le retrait de la régularisation de l'entropie a conduit à un effacement sous-optimal (ASR 54,04 %) dû à l'aplatissement des logits.
  • Préservation : Sans $\mathcal{L}_{pre}$, la qualité générative s'est effondrée (FID 27,4). Un ancrage fort ($\lambda_{pre}=2,0$) était nécessaire pour forcer un désenchevêtrement précis.

5. Signification et Revendications

Le papier affirme fournir le premier cadre d'effacement de concept sensible à l'échelle spécifiquement conçu pour les modèles Visuels Autoregressifs. Sa signification réside dans :

1. Insight Fondamental : Il redéfinit fondamentalement la manière dont les interventions de sécurité doivent être abordées pour les modèles VAR, passant d'une approche « taille unique » des modèles de diffusion à une stratégie spécifique à l'échelle.
2. Efficacité et Sécurité : En restreignant les interventions à l'Échelle-0, la méthode réduit considérablement les coûts de calcul tout en garantissant mathématiquement que les détails structurels de haute fréquence restent intacts.
3. Pont entre Paradigmes : Elle offre une méthodologie systématique pour adapter la recherche de sécurité de l'ère de la diffusion à la prochaine génération de modèles AR, en tirant parti des années de recherche préalable pour résoudre les vulnérabilités de sécurité émergentes.
4. Précision Chirurgicale : Le cadre atteint un équilibre délicat, supprimant les concepts sensibles sans les « dommages collatéraux » du flou ou de la destruction des capacités génératives générales du modèle, une exigence critique pour le déploiement dans le monde réel.

Les auteurs concluent que leur approche résout de manière « opportune et élégante » les vulnérabilités de sécurité critiques inhérentes aux architectures VAR émergentes, offrant une voie robuste vers le déploiement sûr de ces modèles génératifs de haute fidélité.