Stochastic Thermodynamics of Score Matching in Diffusion Models
Cet article établit un cadre de thermodynamique stochastique pour les modèles de diffusion, démontrant que la production d'entropie moyenne par asymétrie temporelle est proportionnelle à l'objectif de score-matching et que ses fluctuations quantifient la diversité de l'échantillonnage, révélant ainsi les mécanismes entropiques sous-jacents à la performance supérieure et à la généralisation de l'IA générative basée sur la diffusion.