The Loss Floor of Denoising Score Matching: Fisher Geometry from Schrödinger Bridges
Diese Arbeit stellt fest, dass die irreduzible Trainingsverlustuntergrenze beim Denoising Score Matching exakt der integrierten Spur der Fisher-Rao-Metrik der bedingten Endpunktfamilie entspricht, die über ein Schrödinger-Brücke-Variationsprinzip abgeleitet wurde, wodurch aufgezeigt wird, dass Informationsgeometrie eine intrinsische Komponente des Trainings von Diffusionsmodellen ist und erklärt wird, warum rohe Verlustwerte Modelle über verschiedene Rausch-Zeitpläne hinweg nicht konsistent ranken können.