🤖 machine learning

Adversarial Learning of Classifier-Free Guidance Schedules

Cet article propose un cadre d'apprentissage adversarial qui optimise dynamiquement les calendriers de guidage sans classeur (classifier-free guidance) en tant que fonction du temps de diffusion, du conditionnement et des échantillons bruités, en formulant le problème comme une estimation de rapport de densité, surpassant ainsi les méthodes statiques et heuristiques dans la génération de texte-vers-image.

Auteurs originaux : Ashwini Pokle, Alexandre Galashov, Arnaud Doucet, Mauricio Delbracio, Valentin De Bortoli

Publié 2026-08-17

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ashwini Pokle, Alexandre Galashov, Arnaud Doucet, Mauricio Delbracio, Valentin De Bortoli

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'apprendre à un robot à peindre des tableaux en fonction de vos descriptions orales. Vous lui dites : « Dessine un chien noir dormant sur une carte », et il commence avec une toile vierge qui ressemble à de la neige statique de télévision. Le robot nettoie ensuite lentement le bruit, étape par étape, transformant cette neige en une image claire. C'est ainsi que fonctionnent les modèles de « diffusion » modernes. Mais voici la partie délicate : le robot a besoin d'une petite poussée pour s'assurer qu'il écoute vos mots et ne se contente pas de dessiner un chien aléatoire ou une carte aléatoire. Cette poussée est appelée « guidage ». Considérez cela comme un guide touristique tenant une laisse. Si le guide tire trop doucement, le robot s'égare et ignore vos instructions. S'il tire trop fort, le robot est confus, l'image devient sursaturée et bizarre, ou elle commence à ressembler à une version de la réalité en mode dessin animé.

Pendant longtemps, les scientifiques ont utilisé une approche « taille unique » : ils fixaient la force de traction du guide à un nombre unique et fixe pour l'ensemble du processus de peinture. C'était comme dire au guide touristique de tirer avec exactement la même force du premier instant de la marche jusqu'au dernier. Bien que cela fonctionne assez bien, cela menait souvent à des résultats désordonnés car différentes étapes de la peinture nécessitent des aides différentes. Certaines parties de l'image ont besoin d'une légère poussée, tandis que d'autres ont besoin d'une main ferme. La grande question dans ce domaine a été : peut-on apprendre au guide à changer sa force de traction de manière dynamique, en fonction de ce que le robot fait précisément à ce moment spécifique ?

Cet article propose une nouvelle façon ingénieuse d'apprendre au guide du robot comment tirer. Au lieu qu'un humain conçoive manuellement un calendrier pour savoir quand tirer fort ou doucement, les auteurs laissent le robot l'apprendre à travers un jeu de « devine la chose réelle ». Ils ont mis en place un système où un « discriminateur » (un juge intelligent) essaie de faire la différence entre une vraie photo et celle que le robot est actuellement en train de peindre. Le guide du robot apprend alors à ajuster sa force de traction afin que la peinture du robot ressemble tellement à une vraie photo que le juge ne puisse pas les distinguer. En jouant à ce jeu, le guide apprend exactement comment tirer à chaque étape du processus, adapté à l'image spécifique et aux mots spécifiques que vous avez donnés. Les résultats suggèrent que cette méthode crée des images qui sont non seulement plus réalistes, mais qui respectent aussi beaucoup mieux votre description originale que les anciennes méthodes fixes.

Le problème de la laisse « taille unique »

Imaginez que vous promenez un chien dans un parc. Parfois, le chien est calme, et vous pouvez marcher avec une laisse lâche. D'autres fois, le chien repère un écureuil et nécessite une prise ferme pour l'empêcher de s'enfuir. Si vous gardez la laisse avec la même tension tout le temps, vous risquez soit de laisser le chien courir dans la circulation (trop lâche), soit d'étrangler le chien (trop serré).

Dans le monde de la génération d'images par IA, cette « laisse » est le poids de guidage (souvent appelé $\omega$ ). Pendant des années, les chercheurs ont utilisé une valeur constante, généralement autour de 7,5, pour toute la durée de la création d'une image. Cela fonctionne, mais ce n'est pas parfait. Parfois, l'IA devient trop enthousiaste et les couleurs deviennent néon et sursaturées ; d'autres fois, elle ignore les détails de votre consigne.

Les scientifiques ont tenté de corriger cela en créant des « calendriers » — des règles manuelles qui disent : « Tirez fort au début, puis tirez doucement au milieu ». Mais ces règles sont comme une carte générique : elles ne savent pas si votre chien spécifique est un Chihuahua ou un Grand Danois. Elles appliquent la même règle à chaque image, quel que soit le degré de complexité de la consigne textuelle ou l'aspect actuel de l'image.

La nouvelle stratégie : Un jeu de « Réel contre Faux »

Les auteurs de cet article ont décidé d'arrêter de deviner les règles et de laisser l'IA les apprendre à travers un jeu. Ils ont utilisé un concept appelé apprentissage antagoniste, qui est comme un jeu du chat et de la souris entre deux réseaux :

Le Générateur (L'Artiste) : C'est la partie qui crée l'image et décide de la force avec laquelle elle tire la laisse (le poids de guidage) à chaque étape.
Le Discriminateur (Le Juge) : C'est un critique intelligent entraîné pour regarder une image et dire : « Est-ce une vraie photo issue du jeu de données, ou est-ce la tentative actuelle de l'IA ? »

Voici le tour de magie : les auteurs veulent que l'image « guidée » de l'IA corresponde parfaitement à la distribution des vraies photos à chaque instant précis. Ils appellent cela la cohérence marginale.

Pour enseigner à l'Artiste, ils ont mis en place une boucle :

Le Juge regarde une vraie photo et la photo « guidée » actuelle de l'IA.
Le Juge essaie de les distinguer.
L'Artiste essaie d'ajuster son poids de guidage pour tromper le Juge.
Si le Juge ne peut pas faire la différence, l'Artiste fait du bon travail.

En jouant à ce jeu, l'Artiste apprend un calendrier dynamique. Il apprend que pour une consigne simple comme « un chat », il peut avoir besoin d'une traction légère, mais pour une consigne complexe comme « un chien noir dormant sur une carte », il doit tirer différemment selon que le pelage du chien ou les détails de la carte sont en train de se former.

Ce qu'ils ont trouvé

L'équipe a testé cette nouvelle méthode sur un ensemble de données standard de tâches de texte-vers-image (MS-COCO) en utilisant des modèles de différentes tailles. Ils ont comparé leur « guide apprenant » contre l'ancienne laisse constante et les calendriers manuels.

Les résultats étaient prometteurs. Leur méthode, qu'ils appellent GAN + MC (Réseau Antagoniste Génératif avec Cohérence Marginale), a systématiquement produit des images que les humains préféraient. Plus précisément :

Meilleur alignement : Les images correspondent mieux aux consignes textuelles. Par exemple, lorsqu'on demande de dessiner « un chien noir allongé sur un livre de cartes », l'IA utilisant leur méthode dessine réellement le chien en interaction avec le livre, alors que d'autres méthodes manquent parfois le détail ou rendent le chien générique.
Scores esthétiques plus élevés : Les images paraissaient plus belles et plus naturelles pour les évaluateurs humains.
Le compromis : Il y avait un petit bémol. Le score « FID » (une métrique qui mesure à quel point les statistiques de l'image sont proches des vraies photos) était légèrement plus élevé (moins bon) pour leur méthode par rapport à certaines bases de référence. Les auteurs expliquent que c'est un effet secondaire connu de l'entraînement antagoniste et des signaux de récompense ; le modèle donne la priorité à l'aspect « cool » et à la correspondance avec la consigne plutôt qu'à la correspondance avec l'empreinte statistique exacte des données d'entraînement. Cependant, en ce qui concerne ce que les humains aiment réellement voir, leur méthode a gagné.

Pourquoi cela importe

Cet article suggère que nous n'avons pas besoin d'être ceux qui conçoivent manuellement les règles de la façon dont l'IA doit peindre. Au lieu de cela, nous pouvons mettre en place un système où l'IA apprend la « tension de laisse » parfaite pour chaque moment de la création.

Les auteurs notent que bien que cela fonctionne très bien, cela présente certaines limites. Le « guide » qu'ils ont entraîné est spécifique au type de modèle d'IA sur lequel il a été entraîné ; vous ne pouvez pas simplement prendre ce guide et l'utiliser sur un robot complètement différent sans le réentraîner. De plus, le processus d'entraînement est complexe et nécessite un équilibrage minutieux. Mais pour l'instant, cela suggère que laisser l'IA apprendre son propre calendrier de guidage à travers un jeu de « réel contre faux » est un moyen puissant de rendre l'art de l'IA plus obéissant à nos mots et plus beau à nos yeux.

Résumé Technique : Apprentissage Adversaire de Séquences de Guidage sans Classificateur (Classifier-Free Guidance)

Énoncé du Problème
Les modèles modernes de diffusion et de flux de correspondance (flow matching) pour la génération d'images à partir de texte (T2I) reposent largement sur le guidage sans classificateur (Classifier-Free Guidance - CFG) pour atteindre une haute fidélité d'image et un alignement avec le prompt. La pratique standard utilise un poids de guidage global et statique ( $\omega \approx 7,5$ ) à travers tous les pas de temps, tous les échantillons et toutes les entrées de conditionnement. Les auteurs soutiennent que cette approche statique est sous-optimale ; différents états le long de la trajectoire de diffusion peuvent bénéficier de niveaux de guidage variables, et un poids élevé constant introduit souvent des artefacts tels qu'une sursaturation. Bien que des séquences variant dans le temps existent, elles sont généralement conçues à la main, dépendantes de l'application et agnostiques à la complexité spécifique du prompt textuel ou de l'échantillon bruité actuel. Les tentatives précédentes d'apprentissage de guidage dynamique (ex. Galashov et al., 2026) ont eu du mal à équilibrer la qualité de l'échantillon (FID) avec l'alignement textuel, échouant souvent à surpasser le CFG constant sur les métriques d'alignement en raison de la haute variance de leurs objectifs.

Méthodologie
Le papier propose d'apprendre une séquence de guidage en fonction du temps de diffusion ( $t$ ), du conditionnement ( $c$ ) et de l'échantillon bruité actuel ( $x_s$ ). Le changement théorique central consiste à passer d'une stricte auto-cohérence à une condition plus faible de cohérence marginale. L'objectif est de s'assurer que la distribution marginale des particules guidées ( $p_{s,\omega}^t$ ) correspond à la véritable distribution de données ( $p_t$ ) à chaque pas de temps $t$ le long de la trajectoire d'échantillonnage.

Pour ce faire, les auteurs cadrent le problème comme une tâche d'estimation de rapport de densité au sein d'un cadre de Réseau Antagoniste Génératif (GAN) :

Objectif Adversaire :
- Discriminateur ( $d_\phi$ ) : Entraîné pour distinguer les échantillons marginaux "réels" (tirés directement de la distribution de données au temps $t$ ) des échantillons guidés "faux" (générés en effectuant un pas guidé de $s$ à $t$ en utilisant les poids de guidage actuels). Le discriminateur estime le rapport de log-densité $\log(p_t(x_t) / p_{s,\omega}^t(x_t))$ .
- Générateur (Réseau de Guidage $\omega_\psi$ ) : Un perceptron multicouche (MLP) léger qui prédit le poids de guidage optimal $\omega$ . Il est entraîné pour maximiser la sortie du discriminateur (minimisant la divergence KL estimée), apprenant ainsi à produire des échantillons qui correspondent à la distribution marginale réelle.
Paramétrage du Réseau :
- Pour garantir l'efficacité computationnelle et la robustesse, le réseau de guidage ne prend pas en entrée des latents bruts de haute dimension. Au lieu de cela, il utilise des statistiques géométriques invariantes par coordonnées, incluant le log-norme de la vélocité conditionnelle, la direction du CFG, la similitude cosinus entre le latent et la direction de guidage, et les distances logarithmiques aux variétés de données.
- Le réseau incorpore également des plongements de Fourier des pas de temps pour faciliter l'interpolation fluide vers les tailles de pas plus petites utilisées lors de l'inférence.
Fonctions de Perte :
- Perte du Discriminateur : Entropie croisée binaire standard avec une pénalité de gradient R1 pour assurer une estimation de rapport fluide.
- Perte du Générateur : Composée de trois termes :
  - Perte Adversaire : Minimisation de la capacité du discriminateur à distinguer les échantillons générés.
  - Régularisation : Une pénalité $L_2$ sur le poids de guidage pour éviter l'explosion ou la sur-correction.
  - Perte de Récompense : L'espérance négative d'une fonction de récompense (ex. score CLIP) pour pousser explicitement vers un meilleur alignement textuel.
Stratégie d'Entraînement :
- L'entraînement suit un paradigme adversaire utilisant la règle de mise à jour à deux échelles de temps (Two-Time-Scale Update Rule - TTUR).
- Crucialement, la méthode utilise des paires de conditionnement d'image indépendantes pour les chemins "réels" et "faux" pendant l'entraînement. Cela force le discriminateur à évaluer si la distribution des particules guidées correspond à la distribution globale des données, plutôt que d'apprendre à identifier des motifs de bruit spécifiques dans une seule trajectoire.

Contributions Clés

Formulation de Cohérence Marginale : Les auteurs proposent d'apprendre des séquences de guidage basées sur la condition de cohérence marginale, encourageant la distribution guidée à correspondre à la véritable distribution de données à chaque pas de temps, plutôt que d'imposer une auto-cohérence plus stricte.
Cadre Adversaire pour le Guidage : Ils introduisent une approche basée sur les GAN où un discriminateur estime les rapports de densité pour entraîner un générateur léger qui prédit des échelles de guidage dynamiques et dépendantes de l'état.
Supériorité Empirique : La méthode est démontrée comme surpassant le guidage constant, les séquences dynamiques heuristiques (comme le Limited Interval Guidance et le Clamp-linear) et les méthodes de guidage appris antérieures (basées sur MMD) sur les benchmarks T2I.

Résultats
Évalué sur le jeu de données MS-COCO 2014 (512x512) en utilisant les backbones MMDiT-XS (740M) et MMDiT-S (1.05B) :

Alignement et Qualité : La méthode proposée "GAN + MC" atteint systématiquement des scores supérieurs en CLIP (alignement textuel), Aesthetic, HPSv2 (Human Preference Score) et PickScore par rapport au CFG constant et aux bases de référence heuristiques.
Compromis FID : La méthode entraîne une augmentation marginale du FID (Fréchet Inception Distance) par rapport à certaines bases de référence. Les auteurs attribuent cela au désalignement connu entre les statistiques d'Inception-v3 et les préférences esthétiques humaines dans les régimes de guidage élevé, notant que leur méthode privilégie les caractéristiques sémantiques et le "pop" visuel.
Améliorations Qualitatives : Les résultats visuels démontrent un meilleur respect des prompts complexes, capturant des détails nuancés (ex. interactions spécifiques entre objets) que les méthodes de base simplifient ou omettent souvent.
Ablations : L'ajout de l'échantillon bruité actuel ( $x_s$ ) comme entrée au réseau de guidage améliore les métriques d'alignement mais augmente le FID, suggérant un compromis entre l'alignement sémantique et la fidélité statistique de bas niveau.

Signification et Limites
L'article affirme que l'apprentissage d'une séquence dynamique dépendant du conditionnement via la cohérence marginale permet aux modèles de mieux naviguer dans le compromis entre réalisme de l'image et respect du prompt. L'approche s'adapte efficacement à la capacité du modèle et offre un signal de guidage plus fiable qu'un séquencement conçu manuellement.

Cependant, les auteurs reconnaissent plusieurs limites :

Complexité de l'Entraînement : La procédure d'entraînement adversaire est complexe et nécessite des stratégies d'optimisation soigneuses (ex. TTUR).
Spécificité du Backbone : Le planificateur appris est spécifique aux statistiques géométriques locales du modèle de correspondance de flux pré-entraîné (ex. MMDiT) et ne peut pas être transféré en zéro-shot à d'autres architectures sans réentraînement.
Signal de Récompense : L'implémentation actuelle repose sur CLIP pour le terme de récompense, et les auteurs notent que l'exploration de signaux de récompense alternatifs pour surmonter les limitations de CLIP est une direction pour les travaux futurs.

Le problème de la laisse « taille unique »

La nouvelle stratégie : Un jeu de « Réel contre Faux »

Ce qu'ils ont trouvé

Pourquoi cela importe

Articles similaires