Accelerating Visual On-Policy Distillation with Batched Speculative Jacobi Rollouts
Ce document introduit HB-SJD, un backend de décodage Jacobi spéculatif par lots qui accélère la distillation visuelle on-policy en permettant le traitement parallèle de multi-tokens et des modes d'exécution adaptatifs, réduisant considérablement le temps d'entraînement tout en maintenant la qualité de génération sans modifier le cadre de distillation.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde de l'intelligence artificielle, il existe un tiraillement constant entre la création de modèles assez intelligents pour produire des images éblouissantes et le maintien de leur taille suffisamment réduite pour qu'ils fonctionnent rapidement. Les grands systèmes, souvent appelés « enseignants », peuvent générer des images incroyablement détaillées en prédisant un minuscule fragment de l'image à la fois, construisant l'image entière à partir d'un point de départ unique. Cependant, ce processus étape par étape est lent et coûteux. Pour rendre ces systèmes plus rapides, les chercheurs utilisent une technique appelée distillation de connaissances, où un modèle « étudiant », plus petit et plus simple, apprend à imiter l'enseignant. Une version plus récente et plus efficace de ce processus, connue sous le nom de distillation « on-policy », demande à l'étudiant de s'entraîner en générant ses propres exemples d'entraînement en temps réel. Cela garantit que l'étudiant apprend exactement comment il se comportera lorsqu'il créera réellement de l'art, plutôt que de simplement mémoriser d'anciens exemples. Le problème est que cette session d'entraînement est douloureusement lente ; l'étudiant doit toujours construire ses images un minuscule fragment à la fois, ce qui crée un goulot d'étranglement qui ralentit l'ensemble du processus d'apprentissage.
Une équipe de chercheurs de Shenzhen a trouvé un moyen de briser ce goulot d'étranglement sans changer les règles fondamentales de la façon dont l'étudiant apprend. Ils ont introduit une nouvelle méthode appelée HB-SJD, qui agit comme un moteur plus rapide pour les sessions d'entraînement de l'étudiant. Au lieu de forcer l'étudiant à construire une image un jeton (ou une minuscule unité visuelle) à la fois, ce nouveau système permet au modèle de proposer simultanément plusieurs morceaux futurs de l'image, puis de vérifier si ces suppositions sont correctes. Imaginez cela comme un étudiant passant un examen : au lieu d'écrire une réponse, d'attendre qu'un professeur la corrige, puis d'écrire la suivante, l'étudiant écrit une page entière de réponses d'un coup, et le professeur marque rapidement lesquelles sont correctes. L'étudiant conserve ensuite les bonnes réponses et ne réécrit que celles qui étaient fausses, progressant ainsi beaucoup plus vite.
Les chercheurs ont découvert que le simple fait d'exécuter cette méthode plus rapide sur un groupe d'images en même temps ne suffisait pas. Dans une configuration standard, si une image termine sa génération rapidement, elle devrait attendre la plus lente des images du groupe avant que le système ne puisse passer à l'étape suivante. Cette période d'attente gaspillait une puissance de calcul précieuse. Pour résoudre cela, l'équipe a conçu son système de sorte que chaque image puisse progresser à sa propre vitesse. Si une image est terminée, elle s'écarte, et le système continue de travailler sur les images restantes sans faire de pause. De plus, ils ont découvert que la meilleure façon de faire fonctionner le système change à mesure que le nombre d'images actives diminue. Lorsque de nombreuses images sont en cours de traitement, le système fonctionne mieux en maintenant le groupe complet actif. Mais à mesure que les images se terminent et que le groupe rétrécit, le système passe à un mode plus léger qui ne traite que les images actives restantes, évitant ainsi la surcharge liée à la gestion des emplacements vides.
Lors des tests sur des modèles de génération d'images, cette nouvelle approche s'est avérée très efficace. Les chercheurs ont constaté qu'elle pouvait réduire de près de moitié le temps nécessaire à l'étudiant pour générer ses images d'entraînement, avec des accélérations allant de 1,4 à 1,6 fois plus rapides que la méthode traditionnelle. Crucialement, cette vitesse ne s'est pas faite au détriment de la qualité. Les images produites par les modèles étudiants entraînés avec cette nouvelle méthode étaient tout aussi nettes et réalistes que celles entraînées avec l'ancienne méthode plus lente. Le système fonctionnait de manière constante, que les images soient courtes ou longues, que le groupe d'images traitées soit petit ou grand, et à différents stades du processus d'entraînement. En remplaçant uniquement le moteur qui génère les données d'entraînement, les chercheurs ont réussi à rendre l'ensemble du processus d'apprentissage nettement plus rapide, prouvant que l'on peut accélérer l'entraînement de l'intelligence artificielle sans compromettre la qualité du résultat final.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.