The Loss Floor of Denoising Score Matching: Fisher Geometry from Schrödinger Bridges

In den letzten Jahren ist eine neue Art von künstlicher Intelligenz entstanden, die in der Lage ist, aus einfachen Textbeschreibungen atemberaubend realistische Bilder, Videos und Klänge zu erschaffen. Diese Systeme, bekannt als Diffusionsmodelle, arbeiten, indem sie einen Prozess der graduellen Zerstörung umkehren lernen. Stellen Sie sich vor, man nimmt ein klares Foto und fügt langsam statisches Rauschen hinzu, bis das Bild nur noch ein körniges, unerkennbares Chaos ist. Ein Diffusionsmodell lernt das Umgekehrte: Aus reinem Rauschen ausgehend lernt es, wie es das Rauschen Schritt für Schritt schrittweise entfernt, bis ein klares Bild wieder erscheint. Um dies zu tun, wird das Modell darauf trainiert, vorherzusagen, wie es ein verrauschtes Bild wieder in Richtung Klarheit lenken kann. Dieser Trainingsprozess stützt sich auf ein mathematisches Ziel, das als „Score“ bezeichnet wird, welches im Wesentlichen die Richtung zur sauberen Datenstruktur angibt. Jahrelang haben Forscher ein Standardverfahren verwendet, um dem Modell diese Fähigkeit beizubringen, unter der Annahme, dass es die Aufgabe des Generierens neuer Bilder schließlich meistern wird, wenn es lernt, die Richtung im Durchschnitt korrekt vorherzusagen.

Eine neue Studie zeigt jedoch auf, dass diese Standard-Trainingsmethode einen verborgenen, unvermeidbaren Preis enthält, der bisher übersehen wurde. Die Forscher fanden heraus, dass das Ziel, das das Modell zu lernen versucht, keine einzelne, feste Richtung ist, sondern eine Zufallsvariable, die sich jedes Mal ändert, wenn das Modell ein verrauschtes Bild betrachtet. Da das Modell gezwungen ist, dieses schwankende Ziel zu erraten, beinhaltet der Trainingsprozess immer einen Basisanteil an Fehler, den keine Menge an besserem Lernen oder leistungsstärkerer Hardware jemals eliminieren kann. Dieser Fehler ist kein Makel im Design des Modells; er ist eine intrinsische Eigenschaft der Mathematik, die es lehrt. Die Studie identifiziert diesen unvermeidbaren Fehler als den Trace der Fisher–Rao-Metrik der Daten, ein Maß dafür, wie viel Information über das ursprüngliche Bild verloren geht, während Rauschen hinzugefügt wird. Durch die Isolierung dieser verborgenen Kosten hat die Studie gezeigt, dass der Vergleich der rohen Trainings-Scores verschiedener Modelle irreführend sein kann, da der Score stark davon abhängt, wie das Rauschen hinzugefügt wurde, und nicht nur davon, wie gut das Modell tatsächlich ist.

Der Kern dieser Entdeckung liegt im Verständnis des Unterschieds zwischen dem, was das Modell wissen muss, und dem, was es tatsächlich lernen soll. Das ideale Ziel für das Modell ist es, die durchschnittliche Richtung zu lernen, die zu allen möglichen sauberen Bildern führt, die einen spezifischen verrauschten Zustand hätten erzeugen können. Diese durchschnittliche Richtung ist der wahre „Score“ der Datenverteilung. In der Praxis ist die Berechnung dieses Durchschnitts jedoch unmöglich. Stattdessen verlangt der Trainingsprozess vom Modell, die Richtung basierend auf einem einzigen, zufälligen sauberen Bild zu erraten, das verwendet wurde, um das Rauschen zu erzeugen. Während dieser Schätzwert im Durchschnitt über viele Versuche hinweg korrekt ist, ist jeder einzelne Schätzwert verrauscht und unsicher. Die Studie beweist, dass der zusätzliche Fehler, der durch die Verwendung dieser zufälligen Schätzungen eingeführt wird, exakt dem Trace der Fisher–Rao-Metrik der bedingten Endpunktfamilie entspricht. In einfachen Worten ausgedrückt: Dies ist ein Maß dafür, wie viel das verrauschte Bild uns über das spezifische saubere Bild verrät, aus dem es stammt. Wenn das Rauschen zunimmt, schwindet diese Information, und die Studie zeigt, dass sich der gesamte Trainingsfehler genau in der Rate akkumuliert, mit der diese Information verloren geht.

Dieser Befund verändert die Art und Weise, wie wir das Training dieser leistungsstarken KI-Systeme betrachten sollten. Die Forscher haben demonstriert, dass der während des Trainings gemeldete Gesamtfehler tatsächlich die Summe aus zwei distinkten Teilen ist: dem Fehler, den das Modell durch besseres Lernen tatsächlich beheben kann, und dem irreversiblen Fehler, der durch die Zufälligkeit des Trainingsziels verursacht wird. Dieser irreversible Teil, den sie als „Loss Floor“ (Fehlerboden) bezeichnen, hängt ausschließlich von den Daten und dem während des Trainings verwendeten Rauschschema ab, nicht vom Modell selbst. Folglich können die Roh-Trainings-Scores zweier Modelle, die mit unterschiedlichen Rauschschemata oder unterschiedlichen Rauschbereichen trainiert wurden, nicht direkt miteinander verglichen werden. Ein Modell, das mit einem breiteren Bereich an Rauschen trainiert wurde, könnte aufgrund eines höheren „Floor“-Kostenanteils einen höheren Fehler aufweisen, selbst wenn es eigentlich ein besseres Modell ist. Die Studie bietet einen Weg, diese verborgenen Kosten abzuziehen, um die wahre Leistung des Modells zu offenbaren. In Tests korrigierte das Abziehen dieses Bodens die Rangfolge der Modelle und zeigte, dass das bessere Modell tatsächlich besser war – ein Fakt, der zuvor durch das mathematische Rauschen des Trainingsprozesses verschleiert worden war.

Die Forschung verbindet diesen Trainingsfehler auch mit der fundamentalen Geometrie der Daten. Die Studie zeigt, dass der irreversible Fehler mit der Form des Raumes zusammenhängt, in dem die Daten existieren. Wenn beispielsweise die Daten aus Bildern bestehen, die auf einer niederdimensionalen Oberfläche innerhalb eines hochdimensionalen Raumes liegen, offenbart die Rate, mit der der Fehler bei Zugabe von Rauschen wächst, die Dimensionalität dieser Oberfläche. Dies bedeutet, dass der Trainingsprozess selbst eine eingebaute Messung der Komplexität der Daten enthält. Darüber hinaus klärt die Studie, dass die Art und Weise, wie wir das Rauschen planen – wie schnell wir es hinzufügen und wie sehr wir verschiedene Stadien des Prozesses gewichten –, die Gesamtmenge dieses irreversiblen Fehlers nicht verändert. Es verändert lediglich, wo entlang des Pfades der Fehler auftritt. Dies legt nahe, dass wir den Trainingsprozess zwar effizienter gestalten können, den grundlegenden Preis des Lernens aus verrauschten Daten jedoch nicht eliminieren können.

Einer der praktischsten Aspekte dieser Arbeit ist eine neue Möglichkeit, verschiedene KI-Modelle zu bewerten und zu vergleichen. Die Autoren zeigen, dass Forscher durch die Berechnung und Subtraktion dieses verborgenen Bodens ein wahres Maß dafür erhalten, wie gut ein Modell lernt. Sie testeten dies an synthetischen Daten, bei denen die Qualität der Modelle bereits bekannt war. Beim Blick auf die rohen Trainingszahlen war die Rangfolge der Modelle manchmal invertiert, was ein schlechteres Modell aufgrund des verwendeten Rauschschemas besser erscheinen ließ als ein gutes Modell. Sobend der Boden abgezogen wurde, wurde die korrekte Rangfolge wiederhergestellt. Dies deutet darauf hin, dass der aktuelle Standard für die Berichterstattung über den Trainingsfortschritt unvollständig ist und dass zukünftige Vergleiche die geometrischen Kosten berücksichtigen sollten. Die Studie schlägt keinen neuen Trainingsalgorithmus oder eine neue Methode zur Generierung von Bildern vor, sondern vielmehr ein klareres Verständnis der bestehenden Methoden. Sie legt eine verborgene Ebene des Trainingsprozesses offen, die schon immer da war und nur darauf wartete, gemessen zu werden.

Die Forscher untersuchten auch, wie dieses Konzept auf andere Arten von Daten anwendbar ist, wie etwa Text, bei dem der Prozess das Maskieren von Wörtern anstelle des Hinzufügens von Gaußschem Rauschen umfasst. Sie fanden heraus, dass dort ebenfalls eine ähnliche verborgene Kostenstruktur existiert, die mit der Entropie, also der Unsicherheit, der Daten verknüpft ist. Dies deutet darauf hin, dass das Prinzip universell für verschiedene Arten generativer Modelle ist. Die Studie kommt zu dem Schluss, dass die Geometrie der Daten, der Informationsfluss und das Trainingsziel allesamt unterschiedliche Beschreibungen derselben zugrunde liegenden Realität sind. Der „Loss Floor“ ist kein Bug, der behoben werden muss, sondern ein Merkmal des Universums der Information, das anerkannt werden muss. Indem wir die Lernfähigkeit des Modells von den unvermeidbaren Kosten der Trainingsmethode trennen, gewinnen wir ein ehrlicheres und präziseres Bild dessen, was diese künstlichen Intelligenzsysteme tatsächlich leisten können.