Poly-OPD: Heterogeneous Multi-Teacher On-Policy Distillation for Capability-Selectable Flow Models
Poly-OPD is een heterogeen multi-teacher on-policy distillatieframework dat complementaire sterktes van incompatibele tekst-naar-afbeelding-modellen consolideert in een enkele compacte flow-matching student door latente ruimtes te overbruggen via pixel-niveau hercodering en DINOv2-supervisie, terwijl het gradiënt-compatibele adapters en een gat-bewuste curriculum gebruikt om superieure prestaties te bereiken in zowel compositorische instructie-opvolging als esthetische afstemming.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin kunst wordt gemaakt door machines die leren door te raden en te corrigeren, een vakgebied dat bekend staat als text-to-image generatie. In deze digitale kunststudio zijn de "leraren" enorme, complexe modellen die woorden in plaatjes veranderen. Maar hier is de crux: net als menselijke experts hebben deze machines verschillende specialisaties. Sommigen zijn meesterververs die verbluffend mooie, realistische scènes creëren, maar misschien kleine details missen zoals "drie katten" of "een rode bal aan de linkerkant". Anderen zijn strikte accountants die instructies perfect opvolgen, maar misschien afbeeldingen produceren die een beetje plat of vreemd ogen. Het grote probleem is dat deze experts verschillende "talen" intern spreken; ze gebruiken verschillende blauwdrukken en wiskunde om hun plaatjes te bouwen, dus kun je ze niet zomaar vragen om aantekeningen uit te wisselen of hun hersenen te combineren. Als je een afbeelding wilt die zowel prachtig áls perfect accuraat is, moet je meestal twee gigantische, dure computers tegelijkertijd draaien, wat traag en verspillend is. Wetenschappers proberen al een tijdje uit te vogelen hoe je deze verschillende experts kunt samenvoegen in één kleiner, slimmer model dat beide taken kan uitvoeren zonder in de war te raken.
Dit artikel introduceert een slimme nieuwe methode genaamd Poly-OPD die fungeert als een meestervertaler en coach, die erin slaagt om twee zeer verschillende AI-leraren samen te voegen tot één compact studentmodel. De onderzoekers namen een "mooie" leraar (FLUX.1-dev) en een "precieze" leraar (Z-Image) en leerden een kleiner studentmodel (een versie van SD3.5 met 2,5 miljard parameters) om beide te zijn. De magische truc is dat, in plaats van de student te dwingen om de interne gedachten van de leraren te kopiëren (die in incompatibele talen zijn), het systeem de student een plaatje laat tekenen, die tekening omzet in een gemeenschappelijke "pixel"-taal die iedereen begrijpt, en vervolgens de leraar vraagt om het te corrigeren. De leraar zegt niet alleen "goed gedaan"; de leraar tekent de afbeelding daadwerkelijk opnieuw om fouten te herstellen, en de student leert van die correctie. Om ervoor te zorgen dat de student niet in de war raakt door tegelijkertijd twee verschillende stijlen te leren, gebruikt het systeem speciale "schakelbare" onderdelen in zijn brein. Het deelt de onderdelen die algemene aandacht behandelen (zoals het kijken naar de hele scène) maar houdt aparte onderdelen voor specifieke taken (zoals tellen of kleuren). Bovendien is het systeem slim over wat het oefent: het merkt op welke vaardigheden de student nog slecht beheerst en besteedt daar meer tijd aan trainen, in plaats van tijd te verspillen aan zaken die de student al weet.
De resultaten zijn zeer indrukwekkend. Door deze methode te gebruiken, leerde het kleine studentmodel niet alleen gemiddeld te worden; het werd zelfs beter dan beide gigantische leraren bij specifieke taken. Op een test genaamd GenEval, die controleert of een model complexe instructies opvolgt zoals "een kat aan de rechterkant van een tennisracket", sprong de score van de student van 67,3 naar 73,3, waarmee het zowel de 12 miljard parameters tellende leraar als de 6 miljard parameters tellende leraar versloeg. Op een test voor visuele schoonheid en menselijke voorkeur (HPSv3) steeg de score van 9,34 naar 11,35. Het artikel suggereert dat dit succes komt door de "on-policy" aanpak, waarbij de student leert van zijn eigen fouten gecorrigeerd door de leraar, in plaats van alleen maar de perfecte tekeningen van de leraar te memoriseren. De onderzoekers ontdekten dat als ze probeerden de student direct van de interne data van de leraar te laten leren, dit mislukte omdat de "talen" niet overeenkwamen. Ze ontdekten ook dat als ze de speciale schakelbare onderdelen niet gebruikten, de vaardigheden met elkaar zouden botsen en het model slechter zou worden. Uiteindelijk laat Poly-OPD zien dat je een enkel, klein, schakelbaar model kunt bouwen dat kan schakelen tussen een prachtige kunstenaar en een precieze architect, waardoor het beste van beide werelden wordt gecombineerd zonder dat je twee enorme computers hoeft te draaien.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.