💻 computer science

Modular Energy Steering for Safe Text-to-Image Generation with Foundation Models

Ce papier propose un cadre d'orientation inférentiel sans entraînement qui exploite les rétroactions de modèles fondationnels gelés pour assurer une génération d'images sûre et de haute qualité tout en préservant la modularité et l'évolutivité.

Auteurs originaux : Yaoteng Tan, Zikui Cai, M. Salman Asif

Publié 2026-04-03

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Yaoteng Tan, Zikui Cai, M. Salman Asif

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un robot artiste très talentueux, capable de dessiner n'importe quoi à partir d'une simple phrase écrite. C'est ce qu'on appelle un modèle de "Text-to-Image" (texte vers image). Le problème, c'est que ce robot est parfois un peu trop créatif : si vous lui demandez de dessiner quelque chose de dangereux, illégal ou inapproprié (comme des images nues ou des célébrités sans leur accord), il le fait, car il a appris à partir d'internet où tout est mélangé.

Jusqu'à présent, pour l'empêcher de faire des bêtises, les développeurs devaient soit :

Rééduquer le robot (ce qui est long, coûteux et peut le rendre moins talentueux pour les dessins normaux).
Mettre un garde du corps devant lui pour filtrer les demandes (ce qui est souvent contourné par des astuces).

Les auteurs de cet article proposent une troisième voie, plus intelligente et plus souple. Voici comment ils expliquent leur méthode, Modular Energy Steering, avec des analogies simples :

1. L'Idée de Base : Le "GPS de Sécurité"

Imaginez que le robot artiste est un conducteur qui conduit une voiture dans le brouillard (c'est le processus de création de l'image, étape par étape). Habituellement, il suit une carte (le modèle) pour arriver à destination.

L'idée des auteurs est d'ajouter un GPS de sécurité à bord. Ce GPS ne conduit pas la voiture, il ne modifie pas le moteur, et il ne change pas la carte. Il se contente de regarder la route en temps réel et de dire : "Hé, attention ! On s'approche d'une zone dangereuse (comme une zone de nudité ou une célébrité interdite). Tourne un peu à gauche !".

2. Qui est ce GPS ? (Les Modèles Fondationnels)

Le génie de cette méthode, c'est qu'ils n'ont pas besoin de construire un nouveau GPS. Ils utilisent des modèles existants qui sont déjà très intelligents, comme CLIP ou des VLM (modèles vision-langage).

L'analogie : Imaginez que vous avez un expert en art (CLIP) et un expert en sécurité (VLM) assis à côté du conducteur. Ces experts ont vu des millions d'images et savent parfaitement reconnaître ce qui est "nude", "violence" ou "cette personne précise".
Au lieu de réapprendre au robot à dessiner, on lui demande simplement de demander l'avis de ces experts à chaque étape de la création de l'image.

3. Comment ça marche ? (L'Énergie et le "Frein")

Le processus de création d'une image se fait par petites étapes, comme si on passait d'un brouillard épais à une image nette.

L'observation : À chaque étape, le robot regarde l'image "brouillonne" qu'il est en train de dessiner.
La question : Il montre cette image brouillonne à l'expert (CLIP ou VLM) et demande : "Est-ce que tu vois quelque chose d'interdit ici ?"
La réponse (L'Énergie) : Si l'expert dit "Oui, je vois de la nudité", cela crée une sorte de répulsion magnétique (ou une "énergie négative").
L'action : Le robot ajuste alors son tracé pour s'éloigner de cette zone interdite, comme un aimant qui repousse un autre aimant. Il continue de dessiner, mais en évitant soigneusement le sujet interdit.

4. Les Avantages Majeurs

Cette méthode est comme un kit de sécurité modulaire :

Pas de réapprentissage : On ne touche pas au cerveau du robot. Il reste aussi talentueux pour dessiner des paysages magnifiques ou des chats mignons. On ne le "casse" pas pour le rendre plus sûr.
Facile à changer : Si demain, une nouvelle célébrité veut être protégée, ou si une nouvelle loi interdit un nouveau concept, on n'a pas besoin de rééduquer le robot. On suffit de dire au GPS : "À partir de maintenant, si tu vois 'X', freine !". C'est instantané.
Efficace contre les pirates : Même si quelqu'un essaie de tromper le robot avec des phrases bizarres ou des codes secrets (des "prompts adversariaux"), le GPS (l'expert) regarde l'image en cours de création et dit : "Non, je vois bien ce que tu essaies de faire, on ne va pas là".

En Résumé

Au lieu de construire un mur autour du robot pour l'empêcher de sortir, ou de le forcer à oublier des choses, les auteurs ont simplement attaché un guide de sécurité très intelligent à son bras. Ce guide surveille le dessin en temps réel et donne de petits coups de coude pour éviter les zones dangereuses, tout en laissant le robot libre de créer des merveilles pour tout le reste.

C'est une solution propre, flexible et puissante pour rendre l'art généré par l'IA plus sûr pour tout le monde, sans sacrifier la qualité des images.

1. Problématique

Les modèles de génération d'images à partir de texte (T2I), tels que les modèles de diffusion et les modèles d'appariement de flux (flow-matching), posent des défis majeurs en matière de sécurité. Ils peuvent générer du contenu explicite (NSFW), reproduire du matériel protégé par le droit d'auteur ou synthétiser des images de personnes réelles sans consentement.

Les approches de sécurité existantes souffrent de limitations importantes :

Filtres d'entrée/sortie : Souvent vulnérables aux attaques par prompts adversariaux et générant un taux élevé de faux positifs.
Ajustement fin (Fine-tuning) ou "Oubli" (Unlearning) : Nécessite des jeux de données soigneusement curatés et des mises à jour de poids, ce qui peut dégrader la qualité de génération globale et la capacité du modèle à généraliser.
Guidage au moment de l'inférence (Inference-time steering) : Les méthodes actuelles se limitent souvent à l'affinement des embeddings de prompts ou dépendent de jeux de données d'images spécifiques, ce qui limite leur évolutivité et leur efficacité.

L'objectif est de développer un mécanisme de sécurité modulaire, sans entraînement (training-free) et sans jeu de données dédié, capable de guider la génération vers des résultats sûrs tout en préservant la qualité des images bénignes.

2. Méthodologie : "Modular Energy Steering"

Les auteurs proposent un cadre de guidage basé sur l'énergie qui exploite les modèles de fondation (Foundation Models) vision-langage pré-entraînés (comme CLIP ou les VLM) comme estimateurs de sécurité en temps réel, sans modifier les poids du générateur.

A. Formulation par Énergie (Energy-Based Formulation)

Le problème est formulé comme un échantillonnage basé sur l'énergie. Au lieu de modifier le modèle générateur, on introduit un terme de guidage de sécurité qui pénalise la présence de concepts indésirables ( $y^*$ ).
La distribution de probabilité est réajustée comme suit :
$p_{safe}(x) \propto p(x | c) \exp(-\lambda E_{safety}(x))$
Où $E_{safety}(x) = \log p(y^* | x)$ représente l'énergie de sécurité (la probabilité qu'une image contienne un concept interdit) et $\lambda$ contrôle la force du guidage.

B. Estimation de l'Énergie via Modèles de Fondation

L'idée clé est d'utiliser des modèles pré-entraînés (CLIP ou VLM) comme classificateurs binaires pour estimer cette énergie à chaque étape de l'échantillonnage (sur l'estimation "propre" $\hat{x}_{0|t}$ du latent).

Avec CLIP (Vision-Language Model) :
- On définit un ensemble de concepts positifs ( $Y^+$ , la "liste noire" : ex. "nudité", "célébrité X") et un ensemble de concepts négatifs/bénins ( $Y^-$ , ex. "homme", "chat").
- On utilise une fonction Log-Mean-Exponential (LME) pour agréger les scores de similarité entre l'image et les textes.
- Le gradient de guidage est obtenu en rétropropageant la différence entre les scores positifs et négatifs : $\nabla_x (L^+ - L^-)$ .
Avec les VLM (Vision-Language Models) :
- La vérification est formulée comme une tâche de prédiction du prochain token.
- On pose une question binaire à l'image générée : "Cette image contient-elle [concept cible] ? Réponse : Oui/Non".
- Les logits des tokens "Oui" et "Non" sont utilisés pour calculer un score de classification et le gradient correspondant.

C. Processus d'Échantillonnage Guidé

L'algorithme (Algorithm 1) s'exécute à chaque étape de diffusion/flow-matching :

Estimation de l'image propre $\hat{x}_{0|t}$ à partir du latent bruité.
Passage de cette estimation dans le modèle de fondation (CLIP/VLM) pour obtenir le score de sécurité.
Si le score indique un risque, un gradient de sécurité est calculé et appliqué au latent pour le repousser hors de la région "dangereuse".
Le processus continue sans toucher aux poids du générateur T2I.

3. Contributions Clés

Formulation par Énergie de la Sécurité : Transformation du contrôle de sécurité en un problème d'échantillonnage basé sur l'énergie, permettant un guidage mathématiquement fondé et modulaire.
Modèles de Fondation comme Estimateurs d'Énergie : Démonstration que des modèles pré-entraînés (CLIP, VLM) peuvent servir d'estimateurs d'énergie sémantique efficaces sans aucun entraînement supplémentaire ni données spécifiques.
Sécurité sans Données et Évolutivité : La méthode ne nécessite qu'une liste noire textuelle définie par l'utilisateur. Elle s'adapte naturellement à la suppression de multiples concepts simultanément et fonctionne avec différents types de générateurs (Diffusion et Flow-Matching).

4. Résultats Expérimentaux

Les expériences ont été menées sur Stable Diffusion v1.4 et Stable Diffusion v3 (Flow-Matching).

Robustesse NSFW : Sur des benchmarks de "red-teaming" (P4D, Ring-A-Bell, MMA-Diffusion, UnlearnDiffAttack), la méthode atteint des taux de réussite d'attaque (ASR) très faibles, surpassant ou égalant les méthodes de l'état de l'art (SAFREE, CURE, SafeDenoiser). Elle bloque efficacement le contenu explicite, même avec des prompts adversariaux.
Qualité de Génération : Sur le jeu de données COCO-30K (prompts bénins), la méthode préserve la qualité de génération (mesurée par FID et CLIP Score) presque à l'identique du modèle original, contrairement aux méthodes de fine-tuning qui dégradent souvent la qualité.
Contrôle d'Identité (ID) : La méthode permet de supprimer spécifiquement la génération de certaines célébrités (ex. Elon Musk, Taylor Swift) tout en préservant la génération d'autres personnalités non ciblées. Les matrices de confusion montrent une suppression précise des cibles et une conservation des non-cibles.
Évolutivité Multi-Cibles : Le système peut gérer la suppression simultanée de plusieurs concepts (jusqu'à 18 identités dans les tests annexes) sans reentraînement, simplement en étendant la liste de requêtes ou d'hypothèses positives.
Compatibilité Architecturale : La méthode fonctionne aussi bien sur les modèles UNet classiques (SD-v1.4) que sur les architectures DiT basées sur Flow-Matching (SD-v3).

5. Signification et Impact

Ce travail propose une approche principale et pratique pour la sécurité des modèles génératifs :

Déploiement Facile : Élimine le besoin de collecter des datasets massifs ou de réentraîner des modèles coûteux. Il suffit d'une liste de mots-clés.
Modularité : Peut être ajouté comme un module "plug-and-play" à n'importe quel générateur T2I existant.
Compromis Coût/Efficacité : Bien qu'il ajoute une légère latence (environ 2,7 secondes par image avec CLIP, plus avec les VLM), ce coût est jugé acceptable par rapport à l'amélioration significative de la sécurité et à l'économie de ressources de calcul liées au fine-tuning.
Avenir : Ouvre la voie à l'utilisation de modèles de fondation non seulement comme générateurs, mais comme "juges" ou "estimateurs d'énergie" pour guider d'autres modèles, offrant une solution évolutive aux problèmes de sécurité éthique et légale.

En résumé, cette méthode transforme les modèles de fondation vision-langage en gardiens de sécurité dynamiques et intelligents, assurant une génération d'images responsable sans sacrifier la créativité ou la qualité.