Accelerating Visual On-Policy Distillation with Batched Speculative Jacobi Rollouts
Dieses Paper führt HB-SJD ein, ein gebatchtes Speculative Jacobi Decoding Backend, das die visuelle On-Policy-Distillation durch die Ermöglichung von paralleler Multi-Token-Verarbeitung und adaptiven Ausführungsmodi beschleunigt und dabei die Trainingszeit signifikant reduziert, ohne die Qualität der Generierung zu beeinträchtigen oder das Distillations-Framework zu verändern.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der Welt der künstlichen Intelligenz gibt es ein ständiges Tauziehen zwischen der Erstellung von Modellen, die intelligent genug sind, um atemberaubende Bilder zu erzeugen, und dem Ziel, sie klein genug zu halten, damit sie schnell laufen. Große Systeme, die oft als „Lehrer“ bezeichnet werden, können unglaublich detaillierte Bilder erzeugen, indem sie immer nur ein winziges Stück des Bildes nach dem anderen vorhersagen und so das gesamte Bild von einem einzigen Ausgangspunkt aus aufbauen. Dieser schrittweise Prozess ist jedoch langsam und teuer. Um diese Systeme schneller zu machen, nutzen Forscher eine Technik namens Knowledge Distillation, bei der ein kleineres, einfacheres „Schüler“-Modell lernt, den Lehrer nachzuahmen. Eine neuere, effektivere Version dieses Prozesses, bekannt als On-Policy-Distillation, fordert den Schüler auf, durch das Erstellen eigener Trainingsbeispiele in Echtzeit zu üben. Dies stellt sicher, dass der Schüler genau lernt, wie er sich verhalten wird, wenn er tatsächlich Kunst erschafft, anstatt nur alte Beispiele auswendig zu lernen. Das Problem dabei ist, dass diese Übungssitzung quälend langsam ist; der Schüler muss seine Bilder immer noch Stück für Stück aufbauen, was einen Engpass schafft, der den gesamten Lernprozess verlangsamt.
Ein Forscherteam aus Shenzhen hat einen Weg gefunden, diesen Engpass zu durchbrechen, ohne die grundlegenden Regeln zu ändern, nach denen der Schüler lernt. Sie führten eine neue Methode namens HB-SJD ein, die als schnellerer Motor für die Übungssitzungen des Schülers fungiert. Anstatt den Schüler zu zwingen, ein Bild Token für Token, oder winziges visuelles Element für visuelles Element, aufzubauen, ermöglicht dieses neue System dem Modell, mehrere zukünftige Teile des Bildes gleichzeitig vorzuschlagen und dann zu prüfen, ob diese Vermutungen korrekt sind. Stellen Sie sich das wie einen Schüler vor, der eine Prüfung schreibt: Anstatt eine Antwort zu schreiben, auf die Korrektur durch den Lehrer zu warten und dann die nächste zu schreiben, schreibt der Schüler eine ganze Seite voller Antworten auf einmal, und der Lehrer markiert schnell, welche davon richtig sind. Der Schüler behält dann die richtigen Antworten und schreibt nur diejenigen um, die falsch waren, wodurch er viel schneller vorankommt.
Die Forscher entdeckten, dass es nicht ausreichte, diese schnellere Methode einfach auf einer Gruppe von Bildern gleichzeitig anzuwenden. In einem Standardaufbau müsste ein Bild, das seine Generierung schnell abgeschlossen hat, warten, bis das langsamste Bild in der Gruppe fertig ist, bevor das System zum nächsten Schritt übergehen kann. Diese Wartezeit verschwendete wertvolle Rechenleistung. Um dies zu lösen, entwarf das Team sein System so, dass jedes Bild mit seiner eigenen Geschwindigkeit voranschreiten kann. Wenn ein Bild fertig ist, tritt es beiseite, und das System arbeitet ohne Pause an den verbleibenden Bildern weiter. Darüber hinaus fanden sie heraus, dass sich die beste Art und Weise, das System zu betreiben, ändert, wenn sich die Anzahl der aktiven Bilder verringert. Wenn viele Bilder gleichzeitig verarbeitet werden, arbeitet das System am besten, indem es die gesamte Gruppe aktiv hält. Aber wenn die Bilder fertig werden und die Gruppe kleiner wird, wechselt das System in einen schlankeren Modus, der nur die verbleibenden aktiven Bilder verarbeitet, um den Overhead durch das Verwalten leerer Plätze zu vermeiden.
Bei Tests mit Bildgenerationsmodellen erwies sich dieser neue Ansatz als äußerst effektiv. Die Forscher fanden heraus, dass er die Zeit, die der Schüler für die Erstellung seiner Trainingsbilder benötigt, um fast die Hälfte reduzieren konnte, mit Beschleunigungen zwischen dem 1,4-fachen und 1,6-fachen der traditionellen Methode. Entscheidend war, dass diese Geschwindigkeit nicht zu Lasten der Qualität ging. Die Bilder, die von den Schüler-Modellen erzeugt wurden, die mit dieser neuen Methode trainiert wurden, waren genauso scharf und realistisch wie jene, die mit der langsameren, alten Methode trainiert wurden. Das System funktionierte konsistent gut, unabhängig davon, ob die Bilder kurz oder lang waren, ob die Gruppe der verarbeiteten Bilder klein oder groß war und in verschiedenen Stadien des Trainingsprozesses. Durch den Ersatz lediglich des Motors, der die Trainingsdaten generiert, gelang es den Forschern, den gesamten Lernprozess signifikant zu beschleunigen, und sie bewiesen, dass man das Training künstlicher Intelligenz beschleunigen kann, ohne die Qualität des Endergebnisses zu beeinträchtigen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.