📊 statistics

Metropolis-Adjusted Diffusion Models

Cet article introduit des correcteurs de Langevin ajustés par Metropolis pour les modèles de diffusion qui utilisent des probabilités d'acceptation basées sur le score et un nouvel algorithme de fabrique de Bernoulli pour éliminer le biais d'échantillonnage, améliorant ainsi considérablement la qualité des échantillons et réduisant les scores de la distance Fréchet Inception.

Auteurs originaux : Kevin H. Lam, Tyler Farghly, Christopher Williams, Jun Yang, Yee Whye Teh, Arnaud Doucet

Publié 2026-05-12

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Kevin H. Lam, Tyler Farghly, Christopher Williams, Jun Yang, Yee Whye Teh, Arnaud Doucet

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez de recréer un tableau chef-d'œuvre, mais que vous ne disposiez que d'une version floue et bruitée pour commencer. Les Modèles de Diffusion sont comme un restaurateur d'art magique qui retire lentement le bruit, étape par étape, pour révéler l'image claire qui se cache en dessous.

Cependant, il y a un piège. Comme le restaurateur doit travailler par minuscules étapes discrètes (comme prendre une photo chaque seconde au lieu de regarder une vidéo fluide), l'image finale se retrouve souvent légèrement déformée ou « hors cible ». C'est comme essayer de marcher en ligne droite en faisant de gigantesques pas maladroits ; vous risquez de dévier de votre trajectoire.

Dans l'état de l'art actuel, les artistes utilisent un processus en deux étapes pour corriger cette dérive :

Le Prédictor : Un grand bond en avant pour se rapprocher de la cible.
Le Corrector : Un petit pas chancelant pour ajuster finement la position.

Le problème est que ce « pas chancelant » (appelé ULA dans l'article) est lui aussi imparfait. Il introduit ses propres minuscules erreurs. L'article demande : Et si nous pouvions rendre ce pas parfaitement juste ?

La Solution : Modèles de Diffusion Ajustés par Metropolis (MADM)

Les auteurs proposent une nouvelle méthode appelée MADM. Imaginez-y l'ajout d'un « Inspecteur de Contrôle Qualité » au processus de restauration d'art.

Voici comment cela fonctionne, en utilisant une analogie simple :

1. Le Problème : Le Ratio « Fantôme »

Pour corriger parfaitement le pas chancelant, l'inspecteur doit connaître la différence exacte entre le « point actuel désordonné » et le « nouveau point proposé ». En termes mathématiques, il s'agit d'un ratio de probabilités.

Le Piège : Dans ces modèles, la densité de l'image « parfaite » est un fantôme. Nous ne pouvons pas la voir directement ; nous n'avons qu'un « score » (une aiguille de boussole) qui pointe vers l'image propre. Nous ne pouvons pas calculer le ratio car nous n'avons pas la carte complète.

2. L'Innovation : L'« Intégrale de la Boussole »

La grande percée de l'article est de réaliser que, même si nous ne pouvons pas voir toute la carte, nous pouvons calculer la distance entre deux points en marchant le long du chemin et en additionnant les lectures de la boussole (le score) le long du trajet.

Analogie : Imaginez que vous voulez connaître la différence d'altitude entre deux collines, mais que vous n'avez pas de carte topographique. Vous avez simplement un appareil qui vous indique la pente à chaque pas. Si vous marchez d'une colline à l'autre et que vous additionnez toutes les pentes, vous savez exactement de combien l'une est plus haute que l'autre.

3. Les Deux Méthodes

Les auteurs proposent deux façons d'utiliser cette « somme des pentes » pour décider si une étape est bonne ou mauvaise :

Méthode A : La « Pièce Magique » (Méthode Exacte)
C'est la solution mathématiquement parfaite. Puisque nous ne pouvons pas calculer le ratio exact, les auteurs utilisent un astucieux tour de passe-passe appelé Usine à Bernoulli (ou algorithme « Deux Pièces »).

Analogie : Imaginez que vous avez une pièce de monnaie d'un poids mystérieux (le ratio inconnu). Vous ne pouvez pas la peser, mais vous avez une machine qui lance cette pièce d'une manière très spécifique et randomisée. En la lançant suffisamment de fois, la machine peut vous dire, avec 100 % de certitude, s'il faut accepter la nouvelle étape ou la rejeter, sans jamais avoir besoin de connaître le poids exact de la pièce.
Résultat : Cela crée un échantillon parfaitement sans biais. Pas de dérive. Pas de distorsion.
Inconvénient : C'est coûteux en calculs. La machine pourrait devoir lancer la pièce des milliers de fois pour prendre une décision, ce qui ralentit le processus.

Méthode B : Le « Pari Intelligent » (Approximation)
C'est la solution pratique, du quotidien. Au lieu de lancer la pièce mystérieuse des milliers de fois, les auteurs utilisent une astuce mathématique appelée Règle de Simpson.

Analogie : Au lieu de parcourir tout le chemin pour mesurer la pente, vous vérifiez simplement la pente au début, au milieu et à la fin, et vous utilisez une formule pour deviner le changement total.
Résultat : C'est incroyablement rapide (coût presque nul) et étonnamment précis. Bien que ce ne soit pas « parfait » comme la Pièce Magique, cela corrige presque toutes les erreurs.
Avantage : L'article montre que cette méthode améliore considérablement la qualité des images générées sans ralentir beaucoup le processus.

Qu'ont-ils Découvert ?

Les auteurs ont testé cela sur deux types de « tableaux » :

Formes Simples (Données Synthétiques) : Ils ont montré que l'ancienne méthode (ULA) laissait souvent des « valeurs aberrantes » — des points qui ne appartenaient pas à l'image. La nouvelle méthode MADM ramenait ces points dans la forme correcte, rendant l'image beaucoup plus propre.
Images Réelles (CIFAR-10, ImageNet, etc.) : Ils ont appliqué cela à des ensembles de données d'images célèbres.
- Ils ont constaté que l'ajout d'une seule de ces étapes de « Contrôle Qualité » au processus standard améliorait systématiquement la qualité de l'image.
- Ils ont mesuré cela à l'aide d'une métrique appelée FID (Distance d'Inception de Fréchet), qui est comme un « score de critique » pour évaluer le réalisme d'une image. Plus c'est bas, mieux c'est.
- Le Résultat : MADM a systématiquement abaissé le score FID, ce qui signifie que les images semblaient plus nettes et plus réalistes qu'auparavant, même en utilisant le même modèle d'IA sous-jacent.

Résumé

L'article introduit un moyen de rendre les générateurs d'images par IA plus précis en ajoutant une étape de « vérification ».

Ancienne façon : Faire un pas, faire un petit pas chancelant, espérer ne pas avoir dérivé.
Nouvelle façon (MADM) : Faire un pas, faire un petit pas chancelant, puis utiliser une « Intégrale de Boussole » pour vérifier en double si vous êtes resté sur la bonne voie.
Résultat : Vous obtenez des images plus propres et plus réalistes avec moins d'erreurs, en utilisant soit une méthode mathématiquement parfaite (mais lente), soit un raccourci très rapide et hautement précis.

Résumé technique : Modèles de diffusion ajustés par Metropolis (MADM)

Énoncé du problème

L'échantillonnage à partir de modèles de diffusion basés sur le score engendre intrinsèquement un biais provenant de deux sources : l'erreur d'approximation de la fonction de score apprise et l'erreur de discrétisation temporelle introduite par les intégrateurs numériques. Dans le cadre standard Prédicteur-Correcteur, une étape de prédictor (souvent une équation différentielle ordinaire de flot de probabilité) déplace un échantillon entre différents niveaux de bruit, suivie d'une étape de correcteur (généralement l'algorithme de Langevin non ajusté, ULA) pour affiner l'échantillon au niveau de bruit actuel.

Bien que l'ULA utilise la fonction de score pour proposer des déplacements, il est lui-même un échantillonneur biaisé car il discrétise un processus de diffusion de Langevin continu. Par conséquent, le « correcteur » dans le schéma Prédicteur-Correcteur introduit son propre biais de discrétisation, échouant à laisser la distribution marginale cible invariante. Les mécanismes standards d'acceptation-rejet de Metropolis-Hastings (MH) ou de Barker, qui corrigent un tel biais dans les chaînes de Markov Monte Carlo (MCMC), ne peuvent pas être appliqués directement aux modèles de diffusion. En effet, MH nécessite l'évaluation du rapport des densités cibles, $p_t(\tilde{x})/p_t(x)$ , ce qui est intraitable dans les modèles de diffusion où seule la fonction de score $s_\phi(x, t) \approx \nabla_x \log p_t(x)$ est disponible.

Méthodologie

Les auteurs proposent les Modèles de diffusion ajustés par Metropolis (MADM), un cadre qui remplace les correcteurs ULA biaisés par des étapes de Langevin corrigées par acceptation-rejet. L'innovation centrale réside dans une méthode permettant de calculer la probabilité d'acceptation nécessaire en utilisant uniquement la fonction de score, contournant ainsi le besoin du rapport de densité intraitable.

1. Identité du rapport de densité

Les auteurs établissent que le logarithme du rapport de densité cible peut être exprimé comme une intégrale de ligne de la fonction de score le long du chemin reliant l'état actuel $x$ à la proposition $\tilde{x}$ :
$\log \left( \frac{p_t(\tilde{x})}{p_t(x)} \right) = \int_0^1 \langle s(x + u(\tilde{x} - x), t), \tilde{x} - x \rangle \, du$
Cette identité permet d'estimer le rapport de densité en utilisant uniquement des évaluations de la fonction de score.

2. Correction exacte via usine de Bernoulli

Pour obtenir une correction exacte sans évaluer la densité, les auteurs proposent un algorithme basé sur une usine de Bernoulli à deux pièces (Gonçalves et al., 2017).

Hypothèse : Une borne $C(x, \tilde{x})$ existe telle que la valeur absolue de l'intégrande dans l'intégrale de ligne est bornée par $C$ .
Mécanisme : L'algorithme construit un estimateur sans biais $W$ de l'exponentielle de l'intégrale (mise à l'échelle par la borne) en utilisant une série de puissances tronquée par un processus de Poisson.
Procédure : L'algorithme utilise une procédure « à deux pièces » pour simuler une décision d'acceptation-rejet de Barker. Il rejette d'abord avec une probabilité fixe $\alpha'$ , et si le rejet ne se produit pas, il lance une pièce avec une probabilité $W$ . Si la pièce tombe sur « face », la proposition est acceptée ; sinon, le tour redémarre.
Résultat : Cette procédure produit un correcteur de Langevin ajusté par Barker exact qui laisse la distribution cible $p_t$ invariante, à condition que le score soit exact et que l'hypothèse de borne soit vérifiée.

3. Approximation efficace via la règle de Simpson

Reconnaissant que la méthode exacte de l'usine de Bernoulli nécessite un nombre aléatoire et potentiellement élevé d'évaluations de score, les auteurs proposent une approximation évolutive.

Méthode : L'intégrale de ligne est approchée de manière déterministe en utilisant la règle des 1/3 de Simpson (une règle de quadrature de Newton-Cotes). Cela nécessite d'évaluer le score à l'état actuel, à la proposition et au point milieu.
Acceptation : L'estimation résultante est intégrée dans la probabilité d'acceptation standard de Metropolis-Hastings.
Propriétés : Bien que cela introduise un faible biais dû à la troncature de la quadrature, l'approximation atteint une précision d'ordre $O(h^{5/2})$ en fonction de la taille de pas $h$ . Elle est peu coûteuse en calcul, ne nécessitant qu'une évaluation de score supplémentaire au point milieu par proposition.

Contributions clés

Cadre MADM : Introduction d'un cadre de correcteur ajusté par Metropolis pour les modèles de diffusion qui remplace systématiquement les étapes ULA biaisées.
Méthode exacte : La première méthode exacte pour ajuster les corrections de Langevin dans les modèles de diffusion en utilisant une usine de Bernoulli à deux pièces, ne nécessitant que la fonction de score et une borne sur l'intégrale de ligne.
Approximation évolutive : Une approximation pratique par la règle de Simpson qui atteint une précision d'ordre élevé ( $O(h^{5/2})$ ) avec un coût marginal quasi nul (une évaluation de score supplémentaire).
Validation empirique : Démonstration d'une amélioration de la qualité des échantillons sur des ensembles de données synthétiques et d'images.

Résultats

Les auteurs évaluent MADM sur des ensembles de données synthétiques 2D et des benchmarks d'images standards (CIFAR-10, FFHQ, AFHQv2, ImageNet-64) en utilisant des modèles pré-entraînés de Karras et al. (2022).

Ensembles de données synthétiques : Sur des ensembles de données 2D (spirale, entonnoir, triangle de Sierpinski, moulin à vent), l'échantillonneur ancestral standard (équivalent à un prédictor avec un correcteur ULA) a produit des échantillons avec des valeurs aberrantes significatives en dehors du support de la distribution de données réelle. Les étapes de correcteur MADM ont réussi à ramener ces échantillons vers le support des données, éliminant les valeurs aberrantes.
Ensembles de données d'images :
- Pour les modèles non conditionnels (CIFAR-10, FFHQ, AFHQv2), l'application d'une étape de correcteur MADM par étape de prédictor a produit des améliorations constantes, bien que modestes, de la distance Fréchet Inception (FID) par rapport aux bases de référence déterministes (solveurs d'ODE Heun et Euler).
- Pour le modèle conditionnel par classe ImageNet-64, les gains ont été plus marqués. L'utilisation de MADM avec un prédictor Euler a produit des améliorations de FID plus importantes que l'utilisation d'un prédictor Heun d'ordre supérieur sans correction. Cela suggère que les ajustements MH sont plus efficaces pour atténuer les erreurs de discrétisation que l'augmentation simple de l'ordre du solveur d'ODE lorsque le nombre d'étapes est élevé.
Coût computationnel : La méthode exacte (Algorithme 2) s'est révélée coûteuse en calcul en raison du nombre aléatoire d'évaluations de score requis. Par conséquent, les expériences ont principalement utilisé l'approximation par la règle de Simpson (Algorithme 3), qui a fourni des gains constants avec une surcharge gérable.

Importance et affirmations

L'article affirme fournir la première méthode exacte pour ajuster les corrections de Langevin dans les modèles de diffusion, s'attaquant au biais inhérent des correcteurs ULA. En exploitant la fonction de score pour estimer les rapports de densité via des intégrales de ligne, MADM permet l'utilisation de critères d'acceptation MCMC rigoureux dans la modélisation générative sans nécessiter l'accès à la densité de données intraitable.

Les auteurs positionnent MADM comme une extension naturelle du cadre Prédicteur-Correcteur qui améliore la qualité des échantillons. Ils notent que si la méthode exacte est théoriquement significative, l'approximation par la règle de Simpson offre une solution pratique et évolutive qui améliore constamment le FID sur les benchmarks d'images. Le travail suppose une estimation parfaite du score, reconnaissant cela comme une limitation inhérente aux modèles de diffusion plutôt que comme un défaut spécifique de leur méthode. Des travaux futurs sont suggérés pour se concentrer sur le développement de variantes efficaces de la méthode exacte ou de ses sous-routines.