🤖 machine learning

Signed Rectified Flow: Negativity-Controlled Generation

Ce document introduit le Flux Rectifié Signé (Signed Rectified Flow), un cadre de modélisation générative qui étend le Flux Rectifié pour traiter les mesures signées, permettant l'incorporation de principes d'informations négatives afin de supprimer le contenu indésirable (tel que la nudité ou les données mémorisées) tout en préservant la qualité et la diversité des images.

Auteurs originaux : Runlong Liao, Baiyu Su, Lizhang Chen, Qiang Liu

Publié 2026-07-22

📖 8 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Runlong Liao, Baiyu Su, Lizhang Chen, Qiang Liu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous appreniez à un robot à peindre. Vous lui montrez des milliers de photos de magnifiques couchers de soleil, et il apprend à en créer ses propres. Mais que se passerait-il si vous vouliez aussi lui apprendre ce qu'il ne doit pas peindre ? Peut-être ne voulez-vous pas qu'il dessine de vilains gribouillis, ou peut-être voulez-vous qu'il évite de copier un personnage spécifique protégé par le droit d'auteur comme Mickey Mouse. Dans le monde de l'intelligence artificielle, c'est un casse-tête complexe. Habituellement, les modèles d'IA apprennent en étant montrés ce qu'ils doivent faire, mais ils ont du mal quand on leur dit simplement : « Ne fais pas ça. » C'est comme essayer de dire à un chien de ne pas poursuivre un écureuil en restant simplement immobile ; le chien ne sait pas quoi faire de son énergie.

Ce document explore un recoin spécifique de l'IA appelé « modélisation générative », où les ordinateurs créent de nouvelles images, des sons ou des trajectoires à partir de rien. Les auteurs s'appuient sur une technique appelée « Rectified Flow » (flux rectifié), qui est comme une autoroute ultra-efficace pour transformer un bruit aléatoire en une image claire. Considérez cela comme une voie ferrée droite et rapide qui guide un nuage de poussière chaotique vers une statue parfaite. La grande question qu'ils abordent est la suivante : comment construire une voie ferrée qui non seulement guide la poussière vers la statue, mais qui repousse aussi activement la poussière loin d'un tas de déchets que nous ne voulons pas ?

Les auteurs introduisent une nouvelle méthode ingénieuse appelée Signed Rectified Flow (Flux rectifié signé). Au lieu de simplement essayer de détourner l'IA des mauvaises choses, ils traitent mathématiquement les « mauvaises » choses comme ayant une « masse négative ». Imaginez l'espace créatif de l'IA comme un paysage. Habituellement, l'IA est attirée par les hauteurs (les bonnes images). Cette nouvelle méthode crée une zone de « gravité négative » au-dessus des mauvaises images. C'est comme placer un aimant géant et invisible qui repousse l'énergie créative de l'IA, la forçant à contourner les zones interdites et à se stabiliser uniquement dans les zones sûres et magnifiques. Ils ont testé cela sur tout, de cartes 2D à des images complexes, et les résultats suggèrent que c'est un moyen puissant de rendre l'IA plus sûre et plus obéissante sans ruiner la qualité de son art.

La magie de la gravité « négative »

Pour comprendre comment cela fonctionne, imaginons le voyage de l'IA comme une rivière coulant d'une source de montagne bruyante (statique aléatoire) vers un lac calme (l'image finale). Dans une IA standard, nous construisons simplement un canal pour guider l'eau vers le lac. Mais que se passerait-il s'il y avait un marécage au milieu que nous voulons éviter ?

Les auteurs proposent une idée fascinante : traiter le marécage comme s'il contenait de l'eau négative. Dans le monde réel, l'eau négative n'existe pas, mais en mathématiques, elle existe. Ils créent une carte « signée » où les zones bonnes ont de l'eau positive et les zones mauvaises ont de l'eau négative. Lorsque l'IA tente de couler à travers cette carte, l'eau négative agit comme une force de répulsion. Elle ne se contente pas de rester là ; elle repousse la rivière.

Voici la partie intéressante : l'IA ne coule pas réellement à travers le marécage négatif. À la place, les mathématiques créent une « région fantôme » ou une barrière. La rivière courbe naturellement autour de la zone négative, trouvant un chemin qui reste entièrement dans les zones positives et sûres. C'est comme si l'IA était un randonneur capable de ressentir une attraction magnétique s'éloignant du bord d'une falaise. Le randonneur ne tombe jamais parce que le sol lui-même semble s'incliner à l'opposé du danger.

L'analogie de la « particule chargée »

Les auteurs expliquent cela en utilisant une analogie physique amusante : les particules chargées. Imaginez que les points de données de l'IA sont de minuscules particules. Les bonnes données (comme la photo d'un chat) ont une charge positive, et les mauvaises données (comme la photo d'un chien alors que vous vouliez un chat) ont une charge négative.

Lorsque l'IA génère une nouvelle image, c'est comme de relâcher une particule positive au début d'un voyage. À mesure qu'elle avance, elle ressent une forte répulsion de la part des charges négatives. Si elle s'approche trop près de la zone « mauvaise », la répulsion devient si forte qu'elle agit comme un mur, renvoyant la particule vers le bon côté. Le papier montre que cela crée une « région atteignable » où l'IA peut explorer en toute sécurité, tandis que la « région négative » reste totalement intacte. L'IA ne marche jamais accidentellement dans la zone interdite car la mathématique du flux rend physiquement impossible pour la particule de franchir cette limite.

Ce qu'ils ont trouvé en laboratoire

L'équipe n'a pas seulement rêvé de cela ; ils l'ont testé de plusieurs manières, et les résultats semblent prometteurs.

1. Les cartes de jouets en 2D
D'abord, ils ont joué avec des cartes 2D simples. Imaginez une carte avec une île « bonne » et un marécage « mauvais ». Lorsqu'ils utilisaient les anciennes méthodes, l'IA soit restait coincée dans le marécage, soit était poussée si loin qu'elle finissait dans un désert stérile. Avec le Signed Rectified Flow, l'IA est restée parfaitement sur la bonne île, évitant le marécage tout en couvrant l'ensemble de l'île. C'était comme un GPS parfait qui savait exactement où ne pas aller.

2. Le test de l'« anti-mémorisation »
L'une des plus grandes inquiétudes concernant l'IA est qu'elle puisse simplement faire du copier-coller d'images issues de ses données d'entraînement (mémorisation). Les auteurs ont utilisé leur méthode pour dire à l'IA : « Ne copie pas les images exactes que tu as vues pendant l'entraînement. » Ils ont traité les données d'entraînement comme la zone « négative ».

Le résultat : Lorsqu'ils ont demandé à l'IA de dessiner une race de chien spécifique, l'IA standard copiait parfois la photo exacte de son ensemble d'entraînement, incluant des artefacts étranges comme des filigranes ou des bordures. L'IA du Signed Rectified Flow, cependant, a dessiné un nouveau chien unique qui ressemblait à la race, mais n'a pas copié la photo spécifique de l'entraînement. Elle a réussi à repousser les images générées loin du « marécage des données d'entraînement » tout en gardant le chien ressemblant à un chien.
Les chiffres : Dans leurs tests, ils ont constaté que l'utilisation de cette méthode réduisait considérablement la similitude avec les images d'entraînement. Par exemple, avec un réglage spécifique, ils ont réduit le « taux de réussite de l'attaque » (la fréquence à laquelle l'IA échouait à éviter le mauvais contenu) de 15,19 % à 6,33 % lors des tests de sécurité, tout en maintenant les scores de qualité d'image (scores CLIP et esthétique) presque identiques.

3. Sécurité et suppression de concepts
Ils ont également testé s'ils pouvaient empêcher l'IA de dessiner du contenu inapproprié ou des personnages protégés par le droit d'auteur.

Le test Mickey Mouse : Ils ont dit à l'IA de dessiner une « souris de dessin animé avec des oreilles noires rondes et un short rouge », mais ont explicitement dit : « Ne dessinez pas Mickey Mouse. » L'IA standard dessinait souvent Mickey Mouse malgré tout. L'IA du Signed Rectified Flow a dessiné une souris qui possédait tous les attributs demandés (oreilles, short, chaussures) mais qui paraissait suffisamment distincte pour éviter l'identité protégée.
Le test de la nudité : Sur un benchmark appelé « Ring-A-Bell », qui tente de piéger l'IA pour qu'elle dessine de la nudité, la nouvelle méthode a réduit le taux d'échec de 15,19 % à 6,33 %. Cela signifie qu'elle était bien meilleure pour suivre la règle du « ne fais pas ceci » sans rendre les images floues ou brisées.

Pourquoi cela importe

La beauté de cette approche est qu'il ne s'agit pas d'un simple « hack » ou d'un simple filtre. C'est un changement fondamental dans la façon dont l'IA se déplace dans son espace créatif. En utilisant le concept de « masse négative », les auteurs ont créé un système où l'IA évite naturellement les mauvaises choses parce que la mathématique de son voyage la repousse.

Ils ont montré que cela fonctionne, que vous guidiez un robot à travers un labyrinthe, que vous génériez de nouvelles images de chiens ou que vous essayiez de vous assurer qu'une IA ne copie pas ses données d'entraînement. La méthode est flexible : vous pouvez augmenter ou diminuer la « répulsion » (en utilisant un paramètre appelé $\alpha$ ) pour décider avec quelle rigueur l'IA doit éviter les mauvaises choses.

Le papier suggère que c'est une manière fondée sur des principes et mathématiquement solide de gérer les instructions négatives. Il ne s'agit pas seulement de dire « non » ; il s'agit de construire un monde où le « non » est une barrière physique que l'IA ne peut pas franchir. Bien que les auteurs notent que leur méthode nécessite un peu plus de puissance de calcul (environ 10 % de temps et de mémoire en plus) pour calculer ces forces de répulsion, l'échange semble valoir la peine pour la sécurité et le contrôle supplémentaires qu'elle apporte.

En résumé, le Signed Rectified Flow donne à l'IA un nouveau genre de bon sens : la capacité non seulement de savoir quoi faire, mais de comprendre véritablement ce qu'il ne faut pas faire, tout en préservant son étincelle créative.

Résumé Technique : Flux Rectifié Signé (Signed RF)

Énoncé du Problème

De nombreuses tâches de modélisation générative nécessitent non seulement de promouvoir une distribution desirable ( $\pi_+$ ), mais aussi de supprimer explicitement une distribution indésirable ( $\pi_-$ ). Cela se produit dans la génération conditionnelle (correspondre aux cibles tout en évitant les incohérences), l'alignement de sécurité (générer des sorties conformes aux valeurs tout en excluant les contenus nuisibles) et l'apprentissage de préférences.

Les approches actuelles, particulièrement pour les modèles de flux et de diffusion, reposent sur un guidage heuristique au moment de l'échantillonnage (par exemple, le Classifier-Free Guidance). Ces méthodes extrapolent entre les champs positifs et négatifs en utilisant des échelles fixes ou ajustées manuellement. Cependant, les distributions d'échantillonnage induites sont mal comprises, ce qui rend difficile de savoir quelles régions de l'espace de données sont effectivement promues ou supprimées. De plus, le guidage standard est confronté au problème des « données négatives manquantes », où l'absence d'exemples négatifs lors de l'entraînement n'empêche pas intrinsèquement le modèle de les générer.

Méthodologie : Flux Rectifié Signé (Signed Rectified Flow)

Les auteurs proposent le Signed Rectified Flow (Signed RF), un cadre rigoureux qui généralise le Rectified Flow (RF) pour gérer les mesures signées.

1. La Cible Signée

Au lieu d'une distribution de probabilité standard, le Signed RF définit une mesure cible signée :
$\pi_{\text{sign}} = (1 + \alpha)\pi_+ - \alpha\pi_-$
où $\alpha > 0$ . Ici, $\pi_+$ représente la distribution à promouvoir, et $\pi_-$ représente la distribution à supprimer. Bien que $\pi_{\text{sign}}$ ne soit pas une distribution de probabilité valide (elle peut prendre des valeurs négatives et ne s'intègre pas à 1 au sens standard), elle sert d'objet intermédiaire pour encoder des contraintes d'exclusion explicites.

2. Dynamique et Champ de Vélocité

Le Signed RF étend la formule de vélocité du RF à cette cible signée. Étant donné les distributions marginales $\pi^+_t$ et $\pi^-_t$ ainsi que leurs champs de vélocité respectifs $v^+_t$ et $v^-_t$ induits par une interpolation linéaire à partir d'une distribution source $\pi_0$ , le champ de vélocité du Signed RF est dérivé comme suit :
$v^{\text{signRF}}_t(x) = \frac{(1 + \alpha)\pi^+_t(x)v^+_t(x) - \alpha\pi^-_t(x)v^-_t(x)}{(1 + \alpha)\pi^+_t(x) - \alpha\pi^-_t(x)}$
Ceci peut être réécrit sous une forme de type guidage :
$v^{\text{signRF}}_t(x) = v^+_t(x) + \lambda^\alpha_t(x) \Delta v_t(x)$
où $\Delta v_t(x) = v^+_t(x) - v^-_t(x)$ et la force de guidage $\lambda^\alpha_t(x)$ est déterminée par le rapport de densité $r_t(x) = \pi^-_t(x)/\pi^+_t(x)$ :
$\lambda^\alpha_t(x) = \frac{\alpha r_t(x)}{(1 + \alpha) - \alpha r_t(x)}$

3. Garanties Théoriques : Régions Atteignables et Fantômes

L'article analyse le comportement des trajectoires initialisées par la source ( $Z_0 \sim \pi_0$ ) sous cette dynamique :

Préservation de la Région Positive : Les trajectoires restent strictement dans la région positive $\Omega^+_t = \{x : \pi_{\text{sign}}_t(x) > 0\}$ et ne traversent jamais la région négative $\Omega^-_t$ .
L'Ensemble Zéro comme Barrière : L'ensemble où $\pi_{\text{sign}}_t(x) = 0$ agit comme une barrière répulsive. Le champ de vélocité devient singulier à cette frontière, empêchant toute pénétration.
Régions Atteignables vs Fantômes : La loi d'échantillonnage $\pi^{\text{signRF}}_t$ coïncide exactement avec la marginale signée $\pi_{\text{sign}}_t$ sur une région atteignable $\Omega^r_t \subseteq \Omega^+_t$ . La partie restante de la région positive est appelée la région fantôme ( $\Omega^g_t$ ). La masse positive dans la région fantôme équilibre exactement la masse négative exclue de la loi d'échantillonnage.
Interprétation : Les auteurs fournissent une interprétation de « particule chargée » où les particules positives et négatives s'annihilent à la frontière zéro, créant une séparation structurelle entre les trajectoires échantillonnées et les régions négatives.

4. Implémentation Pratique

Pour implémenter le Signed RF, le rapport de densité $r_t(x)$ doit être estimé. L'article propose deux méthodes :

Basée sur un classificateur : Entraîner un classificateur binaire sur des états bruités provenant des branches positives et négatives pour estimer le rapport des cotes (odds ratio).
Suivi de Ratio en Ligne : Suivre le rapport de log-densité $u_t = \log r_t(z_t)$ le long de la trajectoire en intégrant une ODE dérivée de l'équation de continuité et des fonctions de score. Cela évite l'entraînement d'un classificateur auxiliaire.

Contributions Clés et Résultats

1. Cadre Théorique

L'article établit que le Signed RF rectifie une marginale signée en une loi de probabilité valide en préservant la densité signée sur la région atteignable et en assignant une densité nulle ailleurs. Cela fournit une base rigoureuse pour incorporer des informations négatives, prouvant que le flux induit évite naturellement les régions négatives sans nécessiter de contraintes ad hoc.

2. Applications Empiriques

Les auteurs démontrent le Signed RF à travers plusieurs domaines :

Exemples de Jouets 2D & PointMaze : Le Signed RF sépare avec succès les modes positifs et négatifs et navigue à travers des obstacles (problème des données négatives manquantes) là où le guidage constant échoue (soit en échouant à repousser, soit en repoussant trop fortement).
Génération Conditionnelle de Classe sur ImageNet : En utilisant un modèle de Rectified Flow pré-entraîné, le Signed RF améliore le compromis fidélité–diversité. À 16 NFE (Nombre d'Évaluations de la Fonction), il réduit le FID de 2,38 (CFG) à 1,82 tout en maintenant un rappel plus élevé pour une précision comparable.
Anti-Mémorisation : En modélisant l'ensemble d'entraînement comme une distribution négative, le Signed RF (appelé « Data Repulsive Flow ») réduit la réplication des données d'entraînement. Sur des graines à haut risque, il supprime les artefacts spécifiques au jeu de données (filigranes, bordures) et augmente les distances de plus proches voisins par rapport à l'ensemble d'entraînement tout en préservant la qualité de génération (FID 2,03 contre 7,41 pour SPELL-50).
Suppression de Concepts & Sécurité : Appliqué à Stable Diffusion 3.5, le Signed RF réduit le taux de réussite d'attaque (ASR) pour la génération de nudité de 15,19 % à 6,33 % et réduit les taux de toxicité, tout en préservant les scores CLIP et esthétiques. Il supprime également efficacement des concepts spécifiques (par exemple, des identités de personnages sous copyright comme Mickey Mouse ou Spider-Man) tout en conservant les attributs visuels souhaités.

Signification et Revendications

L'article affirme que le Signed Rectified Flow offre un cadre principled et pratique pour incorporer des distributions négatives explicites dans les flux génératifs. Contra� fait contrairement aux méthodes de guidage heuristiques qui reposent sur des échelles fixes, le Signed RF dérive une force de guidage dépendante de l'état à partir du rapport de densité locale entre les branches positives et négatives.

Les revendications clés incluent :

Rigueur Théorique : Il fournit un mécanisme mathématiquement fondé pour l'exclusion, prouvant que les flux initialisés par la source évitent naturellement les régions négatives via une barrière de répulsion à l'ensemble zéro signé.
Résolution des Données Négatives Manquantes : Il répond à la limitation des données d'entraînement manquant d'exemples négatifs explicites en permettant à l'utilisateur de définir une distribution négative (par exemple, l'ensemble d'entraînement lui-même ou un concept spécifique) à supprimer.
Optimisation du Compromis : Empiriquement, il atteint de meilleurs compromis fidélité–diversité et une suppression de concept plus efficace que les lignes de base existantes (CFG, SPELL, SAFREE) sans augmentation significative du coût computationnel (environ 10 % d'augmentation du temps d'exécution et de la mémoire).

Ce travail positionne le Signed RF comme une extension générale du Rectified Flow qui unifie la gestion de la promotion et de la suppression au sein d'un système dynamique unique, allant au-delà de l'extrapolation heuristique pour atteindre une loi d'échantillonnage théoriquement justifiée.