The Loss Floor of Denoising Score Matching: Fisher Geometry from Schrödinger Bridges
Questo articolo stabilisce che il limite inferiore irreversibile della perdita di addestramento nel denoising score matching è esattamente la traccia integrata della metrica di Fisher–Rao della famiglia dei terminali condizionali, derivata tramite un principio variazionale di Schrödinger bridge, rivelando così che la geometria dell'informazione è una componente intrinseca dell'addestramento dei modelli di diffusione e spiegando perché i valori grezzi della perdita possano non classificare costantemente i modelli attraverso diversi programmi di rumore.