Résumé technique : Échantillonnage sensible à la netteté pour l'appariement de flux

Énoncé du problème

Les modèles d'appariement de flux génèrent des échantillons en intégrant numériquement un champ de vitesse appris pour transporter des échantillons d'une distribution de bruit vers une distribution de données. Dans des contextes pratiques, en particulier pour la génération d'images et de vidéos de haute dimension, le coût de l'échantillonnage est dominé par le nombre d'évaluations du réseau de neurones (NFE). Par conséquent, le goulot d'étranglement principal n'est pas la précision asymptotique du solveur, mais la qualité des échantillons générés dans le cadre d'un budget d'évaluation fixe et réduit.

Bien que l'analyse numérique classique suggère d'utiliser des solveurs d'ordre supérieur ou adaptatifs pour améliorer la précision, ces approches entraînent souvent des frais généraux significatifs ou nécessitent des évaluations supplémentaires du modèle à chaque étape. Les échantillonneurs pratiques reposent généralement sur des méthodes simples à budget fixe, comme le solveur d'Euler explicite. La question centrale abordée par ce travail est la suivante : Étant donné un budget fixe $B$ d'étapes d'Euler, où l'échantillonneur doit-il allouer ces étapes pour maximiser la qualité des échantillons ?

Les stratégies existantes, telles que les calendriers uniformes ou les reparamétrisations informationnelles (par exemple, les planificateurs de temps entropiques), ne tiennent pas explicitement compte des dynamiques spécifiques du champ de vitesse appris. Cet article postule que l'allocation optimale dépend de l'endroit où le champ vectoriel appris change le plus rapidement (c'est-à-dire là où la trajectoire est « nette »).

Méthodologie : SharpEuler

Les auteurs proposent SharpEuler, une méthode sans entraînement et consciente du solveur pour construire des calendriers de pas de temps pour des modèles d'appariement de flux pré-entraînés. La méthode opère en deux étapes :

1. Étape de calibration hors ligne

Au lieu d'adapter les tailles de pas en ligne pendant l'échantillonnage (ce qui augmenterait le coût), SharpEuler profile le modèle hors ligne en utilisant un petit ensemble de trajectoires de calibration représentatives.

• Estimation du signal : La méthode exécute des trajectoires d'Euler fines sur un ensemble de calibration et calcule les différences finies des évaluations de vitesse consécutives. Cela sert de proxy pour l'accélération de la trajectoire $\ddot{x}(t)$, qui contrôle l'erreur de troncature locale de l'intégration d'Euler.
• Construction du profil : Les estimations d'accélération sont moyennées sur l'ensemble de calibration, lissées à l'aide d'un noyau gaussien pour réduire le bruit, et élevées à une puissance $\gamma$ pour former un profil de netteté $I_\gamma(t)$.
• Génération de la grille : Ce profil est normalisé et converti en une grille de temps monotone via une transformée de quantile (inverse de la fonction de répartition cumulative). Cette grille est fixée avant le début de l'inférence.

2. Étape d'échantillonnage en ligne

Au moment de l'inférence, l'échantillonneur effectue une intégration standard d'Euler explicite sur la grille pré-calibrée.

• Coût : Le nombre d'évaluations du modèle reste exactement $B$, identique à un échantillonneur d'Euler uniforme.
• Mécanisme : La seule différence réside dans le placement des pas de temps. Les régions identifiées comme « nettes » (forte accélération) reçoivent une densité plus élevée de pas de temps, tandis que les régions lisses en reçoivent moins.
• Conscience du solveur : La méthode est spécifiquement conçue pour le solveur d'Euler, exploitant le fait que l'erreur de troncature locale d'Euler est proportionnelle au carré de la taille du pas et à l'accélération de la trajectoire.

Justification théorique

L'article justifie SharpEuler à travers trois principes distincts :

1. Principe numérique (Troncature locale et erreur rétrograde) :

   • L'analyse de l'erreur de troncature locale de la méthode d'Euler révèle que le terme d'erreur dominant est proportionnel à $h^2 \|\ddot{x}(t)\|$.
   • L'analyse de l'erreur rétrograde confirme que le biais dominant dans l'équation modifiée résolue par Euler est également piloté par l'accélération de la trajectoire $\ddot{x}(t)$.
   • Par conséquent, allouer plus d'étapes aux régions de forte accélération minimise l'erreur de discrétisation dominante.

2. Principe variationnel (Allocation optimale) :

   • Les auteurs formulent l'allocation des pas de temps comme un problème variationnel. La minimisation d'un objectif de risque basé sur le proxy d'erreur d'Euler conduit à une densité de loi de puissance pour le calendrier des pas de temps.
   • Plus précisément, la minimisation du risque d'Euler accumulé produit une densité $\rho(t) \propto \|\ddot{x}(t)\|^{1/2}$. Cela correspond au cas de la racine carrée ($\gamma = 0.5$) dans la formulation de SharpEuler.

3. Principe statistique (Stabilité) :

   • L'article fournit une garantie de stabilité statistique montrant que le calendrier calibré empiriquement converge vers le calendrier « oracle » optimal (basé sur le profil d'accélération de la population) à mesure que le nombre de trajectoires de calibration augmente.
   • La borne d'erreur sépare l'erreur d'échantillonnage numérique (s'échelonnant comme $O(1/B)$) de l'erreur de calibration limitée, démontrant que la méthode reste stable même avec un ensemble de calibration restreint.

Contributions clés

• Algorithme SharpEuler : Une méthode de planification sans entraînement et consciente du solveur qui améliore l'échantillonnage d'Euler à budget fixe en réallouant les étapes sur la base d'estimations hors ligne de la netteté du champ de vitesse.
• Cadre théorique : Une justification unifiée combinant l'analyse numérique (erreur d'Euler), le calcul variationnel (dérivation de la densité optimale) et la théorie de l'apprentissage statistique (garanties de convergence).
• Validation empirique : Des démonstrations sur des distributions synthétiques et un modèle texte-vers-image à grande échelle (FLUX.1-dev) montrant une amélioration de la qualité des échantillons sans augmentation du coût computationnel.

Résultats expérimentaux

Les auteurs évaluent SharpEuler sur deux fronts :

1. Distributions synthétiques (2D) :

   • Ensembles de données : Variété ramifiée (testant la résolution de structures minces et courbes) et Grille tournée (testant la couverture des modes sans fuite inter-modes).
   • Constats : À des budgets faibles (par exemple, $B=8$), les bases de référence uniformes et le planificateur de temps entropique (ETS) souffrent d'un manque de résolution et de fuites de modes. SharpEuler améliore considérablement la Couverture (couverture du support) et la Densité (fidélité des échantillons).
   • Réglage de l'exposant : L'exposant $\gamma$ contrôle le compromis. $\gamma=0.5$ (dérivé de la minimisation du risque d'Euler) fournit la meilleure correspondance globale de la distribution (distance de Wasserstein la plus faible). Des valeurs plus élevées (par exemple, $\gamma=1.0$) concentrent les étapes de manière plus agressive, améliorant la fidélité locale mais réduisant potentiellement la couverture.

2. Génération texte-vers-image (FLUX.1-dev) :

   • Configuration : Un transformateur de flux rectifié de 12 milliards de paramètres à une résolution de 1024x1024. SharpEuler a été calibré sur 64 invites et testé sur 80 invites retenues.
   • Métriques : Comparé au pipeline FLUX par défaut et à un calendrier décalé, en utilisant RMSE, FID, scores CLIP et un juge visuel GPT-5.5.
   • Constats : SharpEuler ($\gamma=0.5$) surpasse systématiquement les bases de référence sur tous les budgets ($B \in \{8, 12, 16, 20\}$).
     • RMSE/FID : Réductions significatives de la déviation au niveau des pixels et de la divergence distributionnelle par rapport à la référence en 50 étapes. Par exemple, à $B=12$, le FID est passé de 104,77 (Uniforme) à 48,65 (SharpEuler).
     • Qualité perceptuelle : Un juge visuel a préféré les images SharpEuler par rapport au pipeline par défaut dans 100 % des comparaisons par paires à $B=16$, citant une meilleure préservation de la composition de la scène, de la structure des objets et des détails fins.

Importance et revendications

L'article affirme que l'échantillonnage de flux efficace dépend non seulement du choix du solveur, mais de manière critique de la manière dont les évaluations sont placées. SharpEuler démontre qu'un échantillonneur d'Euler à coût fixe peut atteindre des performances quasi optimales en adaptant son placement d'étapes aux dynamiques apprises, sans nécessiter :

• De réentraînement du modèle.
• D'étapes de solveur supplémentaires.
• D'augmentation du coût computationnel pendant l'inférence.

Les auteurs positionnent SharpEuler comme une approche complémentaire aux méthodes existantes qui se concentrent sur l'ordre du solveur ou la régularisation du chemin pendant l'entraînement. En déplaçant l'adaptativité vers une étape de calibration hors ligne peu coûteuse, SharpEuler offre une amélioration pratique, plug-and-play, pour les tâches génératives de haute dimension, en particulier dans le régime à faible budget où les calendriers uniformes standards échouent à résoudre les dynamiques de trajectoire complexes.

Limitations notées par les auteurs :

• La méthode suppose que le modèle pré-entraîné peut être échantillonné avec précision sur des grilles différentes de sa grille d'entraînement ou de déploiement par défaut (cela peut ne pas s'appliquer aux modèles fortement distillés).
• Elle est spécifique au solveur, optimisée pour la mise à jour d'Euler explicite ; les solveurs d'ordre supérieur peuvent nécessiter des indicateurs d'erreur différents.