Resumo Técnico: Expansão de Fluxo Ativa para Descoberta Fora da Distribuição

Declaração do Problema

Modelos generativos padrão, incluindo modelos de fluxo e de difusão, são tipicamente pré-treinados via correspondência de distribuição de dados (data distribution matching). Este objetivo força o modelo a aproximar a distribuição dos dados de treinamento disponíveis ($p_{data}$), que frequentemente cobrem apenas uma pequena fração do espaço de design válido ($\Omega^*$). Embora eficaz para tarefas como clonagem comportamental ou reprodução de exemplos observados, esta abordagem é fundamentalmente limitada para a descoberta fora da distribuição (OOD - out-of-distribution). Na descoberta científica (por exemplo, projetar moléculas ou proteínas novas para a natureza), o objetivo é amostrar designs válidos que possuem probabilidade negligenciável sob a distribuição de dados observada e que estão arbitrariamente distantes de exemplos existentes. Modelos pré-treinados padrão falham em acessar essas regiões porque seu "conjunto generável" — a região que eles podem amostrar com probabilidade não-negligenciável — está estritamente contido dentro da distribuição de dados observada.

Metodologia: Expansão de Fluxo Ativa (ACTFLOW)

Os autores propõem a Expansão de Fluxo Ativa (ACTFLOW), um framework de pré-treinamento contínuo projetado para expandir o conjunto generável de um modelo para cobrir uma porção maior do espaço de design válido. O método se afasta da correspondência passiva de distribuição de dados e, em vez disso, trata o modelo generativo como um aproximador do espaço de design válido.

Conceitos Centrais

1. Conjunto Generável ($\Omega^\tau_\theta$): Definido como a região do espaço de design onde a densidade terminal do modelo $p^\theta_1(x)$ excede um limiar $\tau$. O pré-treinamento padrão resulta em $\Omega^\tau_{\theta_{pre}} \subset \Omega^*$ com $\text{Vol}(\Omega^\tau_{\theta_{pre}}) \ll \text{Vol}(\Omega^*)$.
2. Expansão do Conjunto Generável: O novo princípio de aprendizado visa aprender parâmetros $\theta$ tais que $\Omega^\tau_\theta \approx \Omega^*$, efetivamente expandindo a cobertura do modelo para regiões OOD válidas.

Fluxo Algorítmico

O ACTFLOW opera através de um loop iterativo de exploração ativa e adaptação do modelo:

• Exploração Ativa na Representação Aprendida: Em vez de amostrar a partir dos modos dominantes do modelo atual, o ACTFLOW realiza a exploração ativa na representação de fluxo aprendida $Z_s$ (extraída da rede de velocidade em um nível de ruído intermediário $s \in (0,1)$).
• Amostragem com Inclinação de Incerteza (Uncertainty-Tilted Sampling): O método direciona a amostragem para regiões de alta incerteza do verificador. Ele resolve um problema de otimização (Eq. 9) que maximiza a incerteza esperada do verificador $\sigma_t(\phi_s(x))$ enquanto regulariza a busca para permanecer próximo à densidade atual do modelo via um termo de divergência KL. Isso equilibra a exploração de novas fronteiras válidas com o conhecimento prévio do modelo.
• Feedback do Verificador: Um verificador de caixa-preta $\tilde{v}$ (por exemplo, verificadores de validade molecular ou preditores de dobrabilidade de proteínas) avalia as amostras geradas, fornecendo rótulos binários (válido/inválido).
• Atualização Baseada em Replay Assinado: O modelo é atualizado usando uma função de perda assinada. Amostras aceitas (válidas) contribuem com um gradiente positivo (atraindo o modelo), enquanto amostras rejeitadas (inválidas) contribuem com um gradiente negativo (repelindo o modelo). Isso é formulado como um objetivo de replay assinado: $L_{signed} = L_{accepted} - \alpha_t L_{rejected}$, que pode ser visto como uma forma de desaprendizado de dados (data unlearning) para regiões inválidas.

Estrutura Teórica

O artigo estabelece garantias de aprendizado estatístico para modelagem de fluxo OOD, enquadrando o processo como um problema de alcançabilidade local-para-global:

• Modelagem do Verificador: O verificador é modelado como um mecanismo de feedback de bandit logístico sobre o espaço de representação aprendido, onde a validade é determinada por um score latente desconhecido $g(z)$.
• Operador de Alcançabilidade: Os autores definem um operador de alcançabilidade de um passo $R_\epsilon(S)$, representando o conjunto de pontos cuja validade pode ser certificada a partir de um conjunto seguro conhecido $S$ dentro de uma certa margem de erro.
• Teorema Principal: Sob suposições de um verificador bem especificado e amostragem de incerteza aproximada, o ACTFLOW garante que, após $T^*$ amostras verificadas, o conjunto generável do modelo cobrirá a expansão recursiva $H$-vezes do conjunto semente inicial válido ($R^H_\epsilon(S_0) \subseteq \Omega^\tau_{T^*}$). Isso fornece a primeira garantia teórica para a expansão de conjuntos generáveis em modelagem de fluxo OOD.

Principais Contribuições

1. Expansão do Conjunto Generável: Introdução de um framework matemático rigoroso para modelagem de fluxo OOD baseada na expansão do conjunto generável do modelo, em vez de correspondência de distribuições de dados.
2. Algoritmo ACTFLOW: Um método de pré-treinamento contínuo prático e agnóstico à tarefa que emprega feedback de verificador e exploração ativa em representações de ruído intermediárias para descobrir novas regiões válidas.
3. Garantias Teóricas: As primeiras garantias de aprendizado estatístico para modelagem de fluxo OOD, provando que o ACTFLOW expande o conjunto generável para cobrir regiões válidas alcançáveis via um processo local-para-global.
4. Validação Empírica: Avaliação abrangente em diversos domínios (pequenas moléculas, moléculas de aspecto farmacológico, peptídeos terapêuticos e sequências de proteínas) demonstrando desempenho superior sobre baselines de autogeração recursiva.

Resultados Experimentais

Os autores avaliaram o ACTFLOW contra dois baselines amplamente adotados:

• REC-NF: Pré-treinamento contínuo em amostras não filtradas do modelo.
• REC-F: Pré-treinamento contínuo em amostras filtradas pelo verificador (apenas amostras válidas).

Métricas de Desempenho: Cobertura (número de clusters válidos), Diversidade (escore Vendi) e Validade (porcentagem de amostras válidas).

• Moléculas Orgânicas Pequenas (QM9): O ACTFLOW expandiu a cobertura válida para 88,40 clusters (vs. 45,40 para REC-F e 42,80 para REC-NF) mantendo alta validade (95,90%). O REC-NF sofreu uma queda severa na validade (12,26%).
• Moléculas de Aspecto Farmacológico (GEOM-Drugs): O ACTFLOW alcançou 144,3 clusters válidos, superando significativamente o REC-F (89,33) e o REC-NF (44,67). Também melhorou a validade em relação ao baseline pré-treinado (56,6% vs. 39,31%).
• Peptídeos Terapêuticos: O ACTFLOW aumentou a cobertura de 61 para 358 clusters e alcançou a maior diversidade (escore Vendi de 58,87). Em contraste, o REC-NF colapsou para 0% de validade.
• Sequências de Proteínas: O ACTFLOW aumentou a cobertura de 66,50 para 102,75 clusters e a diversidade (42,14 Vendi), enquanto melhorou a validade para 83,74%. O REC-F alcançou maior validade (88,12%), mas colapsou em cobertura e diversidade.

Em todas as tarefas, o ACTFLOW superou significativamente os baselines no equilíbrio entre cobertura, diversidade e validade, expandindo com sucesso para novas regiões válidas que os baselines recursivos não conseguiram alcançar.

Significância e Alegações

O artigo afirma fornecer uma abordagem teórica e prática inédita para modelagem generativa fora da distribuição. Ao mudar o paradigma de "correspondência de distribuição" para "expansão de conjunto generável", o ACTFLOW permite que modelos pré-treinados acessem espaços de design válidos que são inacessíveis à amostragem padrão ou ao simples ajuste fino (fine-tuning). Os autores enfatizam que seu método preenche a lacuna entre a teoria de exploração segura e a modelagem generativa, oferecendo garantias prováveis para a descoberta de designs novos para a natureza.

O trabalho é modesto em seu escopo quanto à descoberta no mundo real: embora o framework permita a expansão agnóstica à tarefa em direção a regiões válidas anteriormente inacessíveis, os autores observam que trabalhos futuros serão necessários para avaliar se essa exploração produz descobertas científicas concretas em aplicações específicas do mundo real. A principal contribuição é a base algorítmica e teórica para possibilitar tal descoberta.