Memorization to Generalization: Emergence of Diffusion Models from Associative Memory

1. Problématique

Les modèles de diffusion (DM) ont révolutionné la génération d'images, mais leur comportement interne lors de la transition entre la mémorisation (répétition exacte des données d'entraînement) et la généralisation (création de nouvelles données) reste mal compris.

• Le défi : Il existe une préoccupation croissante concernant la capacité des DM à mémoriser et à révéler les données d'entraînement (problèmes de vie privée et de sécurité).
• Le vide théorique : La littérature actuelle traite souvent la mémorisation comme un effet secondaire négatif à éliminer en augmentant la taille des données, sans explorer suffisamment la phase intermédiaire de transition.
• L'hypothèse centrale : Les auteurs proposent d'analyser les DMs à travers le prisme des Mémoires Associatives Denses (DenseAMs). Dans ce cadre, la génération est vue comme un processus de récupération de mémoire. Lorsque la quantité de données dépasse la capacité de stockage critique d'une mémoire associative, des états "spuriaux" (artefacts) émergent. Historiquement considérés comme nuisibles dans les réseaux de Hopfield, ces états pourraient être la signature de l'émergence de la créativité dans les DMs.

2. Méthodologie

Les auteurs établissent un lien théorique et empirique entre les DMs et les DenseAMs en utilisant une approche basée sur l'énergie.

A. Cadre Théorique : Lien Énergie-Mémoire

• Équivalence des Énergies : En utilisant l'équation de diffusion à variance explosive (VE-SDE), les auteurs montrent que la fonction de score apprise par un DM correspond au gradient d'une fonction d'énergie.
• Formulation : L'énergie d'un DM ($E_{DM}$) est mathématiquement isomorphe à l'énergie d'une DenseAM ($E_{AM}$).
  • Les points de données $\xi_\mu$ agissent comme des mémoires.
  • La variance du bruit ajouté lors du processus direct joue le rôle de l'inverse de la température ($\beta^{-1}$).
  • Le processus de débruitage (génération) correspond à la dynamique de convergence vers les minima d'énergie (récupération de mémoire).
• Prédiction : Selon la théorie des DenseAMs, lorsque le nombre de données d'entraînement $K$ augmente, le système passe d'un régime de mémorisation (minima locaux correspondant aux données) à un régime de généralisation (variété continue), en passant par une phase critique où émergent des états spuriaux (nouveaux minima locaux non présents dans les données d'entraînement).

B. Méthodologie Empirique

Pour valider cette hypothèse, les auteurs ont entraîné des modèles de diffusion (DDPM) sur plusieurs jeux de données (MNIST, Fashion-MNIST, CIFAR10, LSUN-CHURCH) en faisant varier la taille de l'ensemble d'entraînement ($K$).

1. Définition des trois classes d'échantillons :

   • Mémorisés : Présents dans l'ensemble d'entraînement ET dans l'ensemble synthétique (doublons exacts).
   • Spuriaux : Absents de l'entraînement, mais présents en doublon dans l'ensemble synthétique (indiquant un bassin d'attraction stable).
   • Généralisés : Absents des deux ensembles (créations uniques, pas de doublons).

2. Métriques de Détection :

   • Utilisation de distances (LPIPS pour les images complexes, L2 pour les images simples) pour identifier les doublons entre l'ensemble synthétique et l'entraînement.
   • Définition de seuils ($\delta_m$ et $\delta_s$) basés sur la bimodalité des histogrammes de distance pour classifier les échantillons.

3. Analyse Géométrique :

   • Volume des bassins d'attraction : Calculé via le temps critique $t_c$ nécessaire pour qu'un bruit perturbé revienne à l'état original.
   • Courbure de l'énergie : Analyse spectrale de la matrice Jacobienne de la fonction de score (valeurs singulières) pour mesurer la "raideur" des minima.

3. Contributions Clés

1. Théorisation de la transition : Identification explicite d'une phase intermédiaire critique (les états spuriaux) dans la transition mémorisation-généralisation des DMs, prédite par la théorie des mémoires associatives mais jamais observée empiriquement dans ce contexte.
2. Reconceptualisation des états spuriaux : Démonstration que, contrairement aux réseaux de Hopfield classiques où ces états sont des artefacts nuisibles, dans les modèles génératifs, ils sont des signaux positifs de l'émergence de la capacité de généralisation (créativité).
3. Caractérisation géométrique : Établissement d'une hiérarchie claire entre les trois types d'états basée sur la géométrie de l'espace latent :
   • Mémorisés : Fortes courbures, grands bassins d'attraction.
   • Spuriaux : Courbures intermédiaires, bassins d'attraction bien définis mais plus petits.
   • Généralisés : Faibles courbures (variété plate), bassins d'attraction quasi nuls.
4. Validation à grande échelle : Application de ces concepts à des modèles industriels comme Stable Diffusion, montrant que ces états spuriaux persistent même sur des modèles entraînés sur des millions d'images (LAION).

4. Résultats Principaux

• Courbe de Transition (Fig. 4A) :
  • Pour de petits $K$ : Dominance des échantillons mémorisés.
  • À un $K$ critique : Apparition d'un pic d'échantillons spuriaux. C'est le moment où le modèle commence à "inventer" des structures stables qui ne sont pas dans les données d'origine.
  • Pour de grands $K$ : Les échantillons généralisés deviennent dominants, tandis que la fraction d'échantillons mémorisés et spuriaux diminue.
• Volume des Bassins d'Attraction (Fig. 4B) :
  • Les échantillons mémorisés ont les plus grands volumes de bassins.
  • Les échantillons spuriaux ont des volumes intermédiaires (signifiant qu'ils sont stables mais moins "profonds" que les mémoires pures).
  • Les échantillons généralisés ont des volumes proches de zéro (ils résident sur une variété continue et plate).
• Courbure de l'Énergie (Fig. 5A) :
  • L'analyse des valeurs singulières du Jacobien confirme la hiérarchie : les états mémorisés et spuriaux présentent une courbure élevée (minima aigus), tandis que les états généralisés présentent une courbure faible (variété lisse).
• Cas Stable Diffusion : L'analyse de modèles pré-entraînés montre que même à grande échelle, on peut identifier des échantillons spuriaux (ex: un vêtement avec une manche unique inexistant dans les données d'entraînement mais généré de manière stable), confirmant la validité de la théorie au-delà des petits jeux de données.

5. Signification et Impact

• Nouveau Paradigme de Compréhension : Ce travail offre un cadre unifié reliant les modèles génératifs modernes (DMs) aux concepts classiques des mémoires associatives (Hopfield/DenseAM). Il transforme la compréhension de la "créativité" des IA : elle n'est pas un mystère, mais l'émergence prévisible d'états spuriaux lors du dépassement de la capacité de stockage.
• Implications pour la Sécurité et la Vie Privée : La détection des états spuriaux permet de mieux comprendre quand un modèle commence à généraliser plutôt qu'à mémoriser. Cela pourrait aider à développer des méthodes pour atténuer la mémorisation indésirable tout en préservant la capacité générative.
• Guide pour l'Entraînement : La caractérisation de la phase de transition (le pic d'états spuriaux) fournit une métrique pour évaluer l'état de maturité d'un modèle génératif et optimiser la taille des jeux de données nécessaires pour atteindre une généralisation robuste.

En résumé, l'article démontre que la "créativité" des modèles de diffusion émerge mécaniquement de la physique des mémoires associatives, où les états spuriaux servent de pont indispensable entre la simple répétition des données et la création de nouvelles variétés.