Poly-OPD: Heterogeneous Multi-Teacher On-Policy Distillation for Capability-Selectable Flow Models
O Poly-OPD é um framework de destilação on-policy de múltiplos professores heterogêneos que consolida forças complementares de modelos de texto-para-imagem incompatíveis em um único estudante de fluxo de correspondência (flow-matching) compacto, ao unir espaços latentes via reencodificação de nível de pixel e supervisão DINOv2, enquanto emprega adaptadores compatíveis com gradiente e um currículo consciente de lacunas para alcançar desempenho superior tanto no seguimento de instruções composicionais quanto no alinhamento estético.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um mundo onde a arte é criada por máquinas que aprendem através de tentativas e erros, um campo conhecido como geração de texto para imagem. Neste estúdio de arte digital, os "professores" são modelos massivos e complexos que transformam palavras em imagens. Mas aqui está o detalhe: assim como os especialistas humanos, essas máquinas têm diferentes especialidades. Alguns são mestres pintores que criam cenas deslumbrantes e realistas, mas podem deixar passar pequenos detalhes como "três gatos" ou "uma bola vermelha à esquerda". Outros são contadores rigorosos que seguem instruções perfeitamente, mas podem produzir imagens que parecem um pouco sem vida ou estranhas. O grande problema é que esses especialistas falam "línguas" internas diferentes; eles usam diferentes projetos e matemática para construir suas imagens, então você não pode simplesmente pedir que troquem notas ou combinem seus cérebros facilmente. Se você quiser uma imagem que seja ao mesmo tempo bela e perfeitamente precisa, geralmente precisa rodar dois computadores gigantes e caros ao mesmo tempo, o que é lento e um desperdício. Cientistas têm tentado descobrir como fundir esses diferentes especialistas em um único modelo menor e mais inteligente que possa fazer ambos os trabalhos sem se confundir.
Este artigo apresenta um novo método inteligente chamado Poly-OPD que atua como um mestre tradutor e treinador, fundindo com sucesso dois professores de IA muito diferentes em um único modelo estudante compacto. Os pesquisadores pegaram um professor "belo" (FLUX.1-dev) e um professor "preciso" (Z-Image) e ensinaram um modelo estudante menor (uma versão de 2,5 bilhões de parâmetros do SD3.5) a ser ambos. O truque de mágica é que, em vez de forçar o estudante a copiar os pensamentos internos dos professores (que estão em línguas incompatíveis), o sistema permite que o estudante faça um desenho, converta esse desenho em uma linguagem comum de "pixels" que todos entendem e, então, peça ao professor para corrigi-lo. O professor não diz apenas "bom trabalho"; ele realmente redesenha a imagem para corrigir erros, e o estudante aprende com essa correção. Para garantir que o estudante não se confunda ao tentar aprender dois estilos diferentes ao mesmo tempo, o sistema utiliza partes "alternáveis" em seu cérebro. Ele compartilha as partes que lidam com a atenção geral (como observar a cena como um todo), mas mantém partes separadas para tarefas específicas (como contar ou colorir). Além disso, o sistema é inteligente sobre o que praticar: ele percebe quais habilidades o estudante ainda domina mal e dedica mais tempo treinando nessas áreas, em vez de perder tempo com coisas que o estudante já sabe.
Os resultados são bastante impressionantes. Ao usar este método, o pequeno modelo estudante não apenas aprendeu a ser mediano; ele na verdade tornou-se melhor do que ambos os seus gigantes professores em tarefas específicas. Em um teste chamado GenEval, que verifica se um modelo segue instruções complexas como "um gato à direita de uma raquete de tênis", a pontuação do estudante saltou de 67,3 para 73,3, superando tanto o professor de 12 bilhões de parâmetros quanto o professor de 6 bilhões de parâmetros. Em um teste para beleza visual e preferência humana (HPSv3), a pontuação subiu de 9,34 para 11,35. O artigo sugere que este sucesso vem da abordagem "on-policy", onde o estudante aprende com seus próprios erros corrigidos pelo professor, em vez de apenas memorizar os desenhos perfeitos do professor. Os pesquisadores descobriram que, se tentassem forçar o estudante a aprender diretamente dos dados internos do professor, ele falharia porque as "línguas" não coincidiam. Eles também descobriram que, se não utilizassem as partes alternáveis especiais, as habilidades entrariam em conflito e o modelo pioraria. Em última análise, o Poly-OPD mostra que você pode construir um único modelo pequeno e alternável que pode oscilar entre ser um artista belo e um arquiteto preciso, combinando o melhor dos dois mundos sem a necessidade de rodar dois computadores massivos.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.