Poly-OPD: Heterogeneous Multi-Teacher On-Policy Distillation for Capability-Selectable Flow Models
Poly-OPD est un cadre de distillation on-policy multi-enseignants hétérogène qui consolide les forces complémentaires de modèles texte-image incompatibles en un seul étudiant de flux de correspondance (flow-matching) compact, en jetant un pont entre les espaces latents via un ré-encodage au niveau des pixels et une supervision DINOv2, tout en employant des adaptateurs compatibles avec le gradient et un curriculum sensible aux écarts pour atteindre une performance supérieure tant dans le respect des instructions compositionnelles que dans l'alignement esthétique.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un monde où l'art est créé par des machines qui apprennent en devinant et en corrigeant, un domaine connu sous le nom de génération de texte en image. Dans ce studio d'art numérique, les « enseignants » sont des modèles massifs et complexes qui transforment les mots en images. Mais voici le hic : tout comme les experts humains, ces machines ont des spécialités différentes. Certaines sont des maîtres peintres qui créent des scènes magnifiques et réalistes mais peuvent manquer de petits détails comme « trois chats » ou « une balle rouge sur la gauche ». D'autres sont des comptables rigoureux qui suivent parfaitement les instructions mais peuvent produire des images qui semblent un peu plates ou étranges. Le gros problème est que ces experts parlent des « langues » internes différentes ; ils utilisent des plans et des mathématiques différents pour construire leurs images, de sorte que vous ne pouvez pas simplement leur demander d'échanger des notes ou de combiner leurs cerveaux facilement. Si vous voulez une image qui soit à la fois belle et parfaitement précise, vous devez généralement faire fonctionner deux ordinateurs géants et coûteux en même temps, ce qui est lent et gaspille des ressources. Les scientifiques ont tenté de comprendre comment fusionner ces différents experts en un seul modèle plus petit et plus intelligent capable de faire les deux tâches sans s'embrouiller.
Ce document présente une nouvelle méthode ingénieuse appelée Poly-OPD qui agit comme un maître traducteur et un coach, fusionnant avec succès deux enseignants IA très différents en un seul modèle étudiant compact. Les chercheurs ont pris un enseignant « beau » (FLUX.1-dev) et un enseignant « précis » (Z-Image) et ont appris à un modèle étudiant plus petit (une version de 2,5 milliards de paramètres de SD3.5) à être les deux. Le tour de magie réside dans le fait qu'au lieu de forcer l'étudiant à copier les pensées internes des enseignants (qui sont dans des langues incompatibles), le système permet à l'étudiant de dessiner une image, de convertir ce dessin en un langage de « pixels » commun que tout le monde comprend, puis de demander à l'enseignant de la corriger. L'enseignant ne se contente pas de dire « bon travail » ; il redessine réellement l'image pour corriger les erreurs, et l'étudiant apprend de cette correction. Pour s'assurer que l'étudiant ne s'embrouille pas en essayant d'apprendre deux styles différents à la fois, le système utilise des parties « commutables » spéciales dans son cerveau. Il partage les parties qui gèrent l'attention générale (comme regarder l'ensemble de la scène) mais conserve des parties distinctes pour des tâches spécifiques (comme compter ou colorier). De plus, le système est intelligent dans sa façon de s'exercer : il remarque les compétences dans lesquelles l'étudiant est encore mauvais et passe plus de temps à s'entraîner sur celles-ci, plutôt que de perdre du temps sur des choses que l'étudiant sait déjà faire.
Les résultats sont assez impressionnants. En utilisant cette méthode, le petit modèle étudiant n'a pas seulement appris à être moyen ; il est devenu meilleur que ses deux géants enseignants sur des tâches spécifiques. Sur un test appelé GenEval, qui vérifie si un modèle suit des instructions complexes comme « un chat à droite d'une raquette de tennis », le score de l'étudiant est passé de 67,3 à 73,3, battant à la fois l'enseignant de 12 milliards de paramètres et l'enseignant de 6 milliards de paramètres. Sur un test de beauté visuelle et de préférence humaine (HPSv3), le score est passé de 9,34 à 11,35. Le document suggère que ce succès provient de l'approche « on-policy », où l'étudiant apprend de ses propres erreurs corrigées par l'enseignant, plutôt que de simplement mémoriser les dessins parfaits de l'enseignant. Les chercheurs ont découvert que s'ils essayaient de forcer l'étudiant à apprendre directement à partir des données internes de l'enseignant, cela échouait car les « langues » ne correspondaient pas. Ils ont également découvert que si l'on n'utilisait pas les parties commutables spéciales, les compétences entreraient en conflit et le modèle deviendrait moins performant. En fin de compte, Poly-OPD montre que l'on peut construire un modèle unique, petit et commutable, capable de basculer entre être un artiste magnifique et un architecte précis, combinant le meilleur des deux mondes sans avoir besoin de faire fonctionner deux ordinateurs massifs.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.