Resumo Técnico: Acoplamento Estruturado para Flow Matching (SCFM)

Declaração do Problema

O flow matching (FM) padrão emergiu como um framework altamente eficaz para o treinamento de fluxos normalizadores contínuos, oferecendo otimização escalável e alta fidelidade na qualidade das amostras. No entanto, ele geralmente depende de uma distribuição fonte fixa e não estruturada (por exemplo, uma Gaussiana isotrópica). Consequentemente, o mapa de transporte aprendido não encoraja explicitamente o surgimento de estruturas latentes interpretáveis, úteis para agrupamento, desentrelaçamento ou tarefas downstream.

Por outro lado, modelos de variáveis latentes, como Autoencoders Variacionais (VAEs), destacam-se na aprendizagem de representações estruturadas e frequentemente interpretáveis por meio de inferência amortizada. Contudo, sua qualidade generativa é frequentemente limitada por famílias de decodificadores restritivas ou aproximações de posterior, resultando frequentemente em fidelidade de amostra inferior em comparação com modelos baseados em difusão ou fluxo.

Existe uma lacuna entre métodos que aprendem estruturas latentes úteis e métodos que produzem amostras de alta fidelidade dentro de um único framework unificado.

Metodologia: Acoplamento Estruturado para Flow Matching (SCFM)

Os autores propõem o Acoplamento Estruturado para Flow Matching (SCFM), um framework cooperativo que aprimora o flow matching com a aprendizagem de representação latente estruturada. O SCFM opera dentro de uma formulação de interpolante estocástico, substituindo a fonte fixa padrão por uma variável aumentada $x_0 = (z, \epsilon)$, onde:

• $z$ é uma variável latente estrutural seguindo uma prior estruturada aprendível $p_\psi(z)$ (por exemplo, um Modelo de Mistura Gaussiana).
• $\epsilon$ é ruído exógeno que fornece graus de liberdade de transporte, seguindo uma prior fixa $p(\epsilon)$.

Mecanismos Principais

1. Acoplamento Induzido pelo Codificador: Em vez de um acoplamento independente entre fonte e dados, o SCFM utiliza um codificador $q_\phi(z|x_1)$ para induzir um acoplamento $\Gamma_{enc}(x_0, x_1) = p_{data}(x_1) q_\phi(z|x_1) p(\epsilon)$. Isso torna a representação latente uma parte intrínseca do problema de transporte, em vez de um componente auxiliar.
2. Rede de Reconhecimento Compartilhada: Uma única rede dependente do tempo serve a dois propósitos:
   • Tempos intermediários ($t < 1$): Atua como um estimador de média posterior para o flow matching variacional, aproximando o campo de velocidade marginal necessário para o treinamento do fluxo.
   • Ponto final ($t = 1$): Funciona como o codificador variacional para o modelo de variável latente, parametrizando a posterior aproximada $q_\phi(z|x_1)$.
3. Objetivo Conjunto: O framework otimiza conjuntamente uma perda de flow matching (minimizando a distância entre o campo vetorial induzido e a velocidade marginal) e uma perda de ponto final estilo VAE (minimizando o Limite Inferior da Evidência, ELBO). A perda de ponto final alinha a posterior agregada do acoplamento de treinamento com a prior aprendível $p_\psi(z)$, garantindo que o fluxo seja treinado e amostrado a partir da mesma distribuição estruturada.

Modos de Amostragem

O SCFM suporta duas estratégias de amostragem:

• Integração Completa de EDO: Geração incondicional amostrando $z \sim p_\psi(z)$ e $\epsilon \sim p(\epsilon)$, e depois integrando a EDO de $t=0$ até $t=1$.
• Refinamento Inicializado pelo Decodificador: Para melhorar o trade-off qualidade-computação, o decodificador $p_\theta(x_1|z)$ pode gerar uma proposta inicial $\hat{x}_1$. O fluxo é então inicializado em um tempo intermediário $t_0$ usando essa proposta e integrado apenas até $t=1$, exigindo menos avaliações de EDO.

Contribuições Principais

1. Framework Unificado: Introdução do SCFM, que aprende conjuntamente uma prior latente e um mapa de transporte contínuo. A inovação central é o uso de uma variável fonte aumentada $x_0 = (z, \epsilon)$ acoplada via um codificador, separando a estrutura semântica da flexibilidade de transporte.
2. Treinamento Cooperativo: Demonstração de que uma rede de reconhecimento dependente do tempo compartilhada e um objetivo de ponto final estilo VAE podem alinhar o acoplamento de treinamento com a prior de amostragem. Isso integra o flow matching e o treinamento de VAE sem exigir treinamento em duas etapas ou independente dos componentes da rede.
3. Validação Empírica: Evidências de que o SCFM aprende representações latentes estruturais eficazes para agrupamento, desentrelaçamento e classificação downstream, mantendo uma qualidade de geração de amostras competitiva com o flow matching padrão.

Resultados Experimentais

Os autores avaliaram o SCFM em MNIST, CIFAR-10, Cars3D, Shapes3D e ImageNet-128.

• Representações Estruturadas:
  • Agrupamento em MNIST: O SCFM (com perda de ponto final $\beta$-VAE) alcançou precisão de agrupamento superior (90,4%) e Informação Mútua Normalizada (87,8%) em comparação com as bases VaDE e MFCVAE.
  • CIFAR-10 e ImageNet-128: Representações latentes congeladas do SCFM produziram maior precisão em sondas lineares e não lineares do que VAEs padrão e resultados competitivos contra outras bases de aprendizagem de representação (por exemplo, DIM), indicando a retenção de informações relevantes para a classe sem supervisão de rótulos.
• Desentrelaçamento: Em Cars3D e Shapes3D, o SCFM alcançou pontuações competitivas de FactorVAE e DCI, demonstrando a capacidade de aprender estruturas latentes sensíveis a fatores em um cenário não supervisionado.
• Qualidade da Amostra:
  • CIFAR-10: O SCFM alcançou uma Distância Fréchet Inception (FID) de 2,117, essencialmente igualando a base padrão de Flow Matching (2,137).
  • ImageNet-128: O SCFM atingiu um FID de 17,180, superando ligeiramente uma base SiT-XL/2 condicional à classe (17,243) e superando substancialmente sua contraparte incondicional (26,349).
• Eficiência: O modo de refinamento inicializado pelo decodificador melhorou o trade-off qualidade-computação, aproximando-se do FID de fluxo completo com significativamente menos avaliações de função (FLOPs).

Significado e Alegações

O artigo afirma que o SCFM conecta com sucesso a lacuna entre a aprendizagem de representação e a modelagem generativa de alta fidelidade. Ao tornar a distribuição fonte aprendível e estruturada, o SCFM permite que o flow matching aprenda estruturas latentes significativas (para agrupamento e desentrelaçamento) sem sacrificar a fidelidade generativa.

Os autores enfatizam que a variável latente $z$ adquire significado semântico de maneira não supervisionada, fornecendo controle estrutural implícito através da distribuição fonte aprendida, em vez de exigir condicionamento explícito (por exemplo, rótulos ou prompts) no momento da amostragem. Embora reconheçam que o SCFM introduz sobrecarga computacional adicional (parâmetros e FLOPs aumentados) e depende da qualidade do modelo latente de ponto final para refinamento, o trabalho demonstra que uma fonte estruturada pode ser aprendida para aprimorar a utilidade dos modelos de fluxo como aprendizes de representação, preservando ao mesmo tempo suas principais forças generativas.