Resumo Técnico: Stable-Layers

Declaração do Problema

A decomposição de camadas de imagem — a tarefa de separar uma única imagem RGB em um pequeno conjunto de camadas RGBA editáveis cuja composição reconstitui a original — é um primitivo fundamental para edição profissional. Embora a tarefa seja conceitualmente simples, é inerentemente difícil de supervisionar. Uma única imagem admite muitas decomposições plausíveis, e a qualidade é determinada pela usabilidade a jusante (separação semântica, máscaras alfa limpas, redundância mínima e tratamento fiel de conteúdo ocluído) em vez de similaridade a um único alvo de verdade fundamental.

Os métodos existentes geralmente dependem de conjuntos de dados sintéticos em camadas ou supervisão pareada (por exemplo, arquivos PSD do Photoshop). No entanto, tais abordagens impõem uma limitação: quando múltiplas decomposições são igualmente válidas, a regressão em direção a um único alvo penaliza soluções alternativas, igualmente plausíveis. Além disso, imagens naturais carecem de anotações de camadas de verdade fundamental pareadas, criando uma lacuna de supervisão para treinar modelos de decomposição robustos em dados do mundo real.

Metodologia

Os autores propõem o Stable-Layers, um framework de aprendizado por reforço (RL) que ajusta finamente um modelo pré-treinado de decomposição de camadas usando apenas imagens não rotuladas e feedback de um Modelo Visão-Linguagem (VLM), eliminando a necessidade de supervisão pareada ou alvos sintéticos.

Framework Central

O método baseia-se no Flow-GRPO (Otimização de Política Relativa de Grupo para Correspondência de Fluxo) e no modelo base Qwen-Image-Layered. O loop de treinamento opera em três fases:

1. Geração: Para uma imagem de entrada dada, a política amostra $G$ decomposições candidatas via correspondência de fluxo aumentada por SDE.
2. Pontuação: Um juiz VLM avalia os candidatos usando um protocolo de recompensa especializado em duas fases.
3. Otimização: A política é atualizada usando GRPO, otimizando para vantagens relativas ao grupo derivadas das pontuações do VLM.

Inovações Técnicas Chave

1. Protocolo de Recompensa VLM em Duas Fases
O principal desafio na aplicação de feedback de VLM como juiz é que os VLMs tendem a comprimir seus julgamentos em uma faixa de pontuação estreita ao avaliar amostras isoladamente, resultando em baixa variância dentro do grupo que enfraquece o sinal de aprendizado do GRPO. Para abordar isso, o Stable-Layers emprega um pipeline de avaliação em duas etapas:

• Fase 1 (Pontuação Individual Estruturada): Cada candidato é pontuado independentemente em uma escala de 0 a 5 em cinco critérios centrados na edição: separação semântica, limpeza alfa, inpainting de fundo, distribuição de características e validade de conteúdo. Rubricas ancoradas garantem avaliação consistente de falhas categóricas.
• Fase 2 (Calibração Relativa em Grade): Para restaurar a variância, todos os $G$ candidatos são dispostos em uma grade de comparação rotulada. O VLM reavalia os candidatos relativamente uns aos outros dentro desta grade. Esta etapa espalha as pontuações comprimidas, fornecendo a discriminação relativa de alto nível necessária para uma normalização de vantagem eficaz no GRPO.

2. Adaptação para Latentes Empacotados (Reformulação RatioNorm)
O GRPO-Guard padrão estabiliza o treinamento normalizando a razão de importância dos log-probabilidades. No entanto, o modelo Qwen-Image-Layered empacota $N$ camadas RGBA em uma única sequência latente de alta dimensão, inflando a dimensionalidade efetiva $D$ em aproximadamente 5×. Isso faz com que a média espacial padrão do log-ratio colapse em direção a zero, suprimindo o sinal de aprendizado.
Os autores introduzem uma modificação de soma e reescala: em vez de tomar uma média espacial, eles somam as log-probabilidades sobre as dimensões espaciais e normalizam por $\sqrt{D}$ antes de aplicar o centramento por etapa. Isso restaura magnitudes de razão $O(1)$ enquanto retém as propriedades de estabilização de variância do GRPO-Guard.

3. Estratégia de Dados
O modelo é treinado inteiramente no Fine-T2I, um subconjunto esteticamente filtrado de imagens não rotuladas. Nenhuma anotação de camada, exemplos pareados ou alvos de decomposição sintéticos são utilizados. O número de camadas de saída é amostrado uniformemente (tipicamente 2–5) durante o treinamento para expor o modelo a complexidade variável de decomposição.

Contribuições Principais

1. Um Protocolo de Recompensa VLM em Duas Fases: Um método para aliviar a compressão de pontuação no aprendizado por reforço dentro do grupo, combinando pontuação absoluta estruturada com calibração relativa em grade, permitindo atribuição de crédito mais rica sobre pilhas de camadas.
2. Reformulação RatioNorm: Uma modificação adaptada para representações latentes empacotadas em RL de correspondência de fluxo, garantindo otimização estável para modelos que geram múltiplas camadas simultaneamente.
3. Qualidade de Decomposição Aprimorada: Uma demonstração de que o ajuste fino com RL usando juízes VLM pode melhorar significativamente a separação de camadas, reduzir artefatos e aprimorar o inpainting de fundo além do que é alcançável apenas com treinamento supervisionado.

Resultados

A avaliação no conjunto de dados Crello e em imagens LAION-Aesthetics retidas demonstra melhorias substanciais sobre o modelo base Qwen-Image-Layered:

• Métricas Quantitativas: O Stable-Layers alcança menor erro de reconstrução RGB L1 por camada em todas as contagens de camadas testadas (2, 3 e 4). Ele reduz significativamente a ocorrência de camadas "ruins" (em branco ou com muitos artefatos) de ~1,65 para ~0,4 por decomposição.
• Melhorias Qualitativas:
  • Inpainting de Fundo: O modelo base frequentemente produz fundos degenerados (por exemplo, preenchimento preto sólido ou plano). O Stable-Layers gera conclusões de cena plausíveis onde objetos de primeiro plano são removidos.
  • Separação Semântica: O modelo base tende a duplicar a imagem composta em camadas de primeiro plano. O modelo ajustado isola elementos semânticos distintos (por exemplo, separar uma pessoa de um corrimão de ponte) em camadas separadas com máscaras alfa mais limpas.
  • Distribuição de Características: O conteúdo é distribuído mais uniformemente entre as camadas em vez de estar concentrado em uma única camada.
• Estudos de Ablação:
  • Calibração em Grade: Remover a Fase 2 (calibração em grade) resulta em menor qualidade da Camada 0 (plausibilidade de inpainting) e nitidez de borda, confirmando que a calibração relativa é essencial para melhorias de alto nível.
  • Condicionamento por Texto: Usar um prompt detalhado espelhando a rubrica de recompensa na verdade degradou o desempenho em comparação com um prompt básico, sugerindo que o condicionamento explícito por prompt pode entrar em conflito com os eixos de avaliação do juiz VLM.

Significado e Alegações

O artigo posiciona o Stable-Layers como uma receita geral para treinar geradores orientados à edição usando feedback de juiz em vez de alvos de verdade fundamental. Os autores afirmam que sua abordagem converte com sucesso julgamentos de VLM de caixa-preta em sinais de aprendizado que impulsionam melhorias de alto nível na separação de camadas e validade de conteúdo sem exigir treinamento de recompensa específico para a tarefa ou anotação humana.

O trabalho destaca que, embora os VLMs sejam juízes poderosos, sua pontuação bruta requer calibração específica (via comparação em grade) para ser eficaz em configurações de RL onde a variância dentro do grupo é crítica. O método proposto oferece um caminho para melhorar modelos generativos para tarefas de edição (como transferência de estilo, inpainting ou reorganização de cena) onde dados de verdade fundamental pareados estão indisponíveis ou onde múltiplas saídas válidas existem.

Limitações: Os autores observam que o método depende de um VLM proprietário (Gemini-3-flash-preview), introduzindo custos de API e possível desvio na distribuição de pontuação entre versões do modelo. A avaliação depende de métricas automatizadas e inspeção qualitativa em vez de estudos com humanos. Além disso, o treinamento foi limitado a cinco camadas por amostra devido a restrições de computação, deixando o comportamento em decomposições com alta contagem de camadas (suportado pelo modelo base até 20) não avaliado.