Resumo Técnico: FloDR – Um Método de Redução de Dimensionalidade Invertível Baseado em um Fluxo de Normalização

1. Definição do Problema

Dados de alta dimensão são frequentemente visualizados usando embeddings bidimensionais (ex: t-SNE, UMAP). No entanto, esses métodos frequentemente forçam os leitores a interpretar os mapas resultantes além de seu suporte estatístico. Distâncias entre clusters, a significância de espaços vazios e a quantidade de estrutura oculta em pontos específicos são geralmente invisíveis porque os processos de otimização dos métodos padrão descartam a informação necessária para sustentar tais interpretações. Além disso, os métodos existentes enfrentam um compromisso (trade-off): embeddings de vizinhança preservam a estrutura local, mas distorcem a geometria global, enquanto métodos lineares (como o PCA) preservam a estrutura global, mas borram as vizinhanças locais. Adicionalmente, abordagens paramétricas que permitem o embedding fora da amostra (out-of-sample) dependem de pares codificador-decodificador separados e aproximados que não são inversos verdadeiros, misturando erros do modelo nas explicações.

2. Metodologia

O FloDR (Redução de Dimensionalidade Baseada em Fluxo) aborda essas questões através do uso de um fluxo de normalização invertível (uma bijeção $f_\theta: \mathbb{R}^D \to \mathbb{R}^D$) em vez de uma projeção não invertível.

Arquitetura

• Mapeamento: O núcleo é uma composição de $L=4$ camadas de acoplamento afim (estilo RealNVP) sem camadas de mistura (mixing layers). A entrada é primeiro branqueada (whitened) e rotacionada via uma transformação linear fixa para inicializar o layout nos dois primeiros componentes principais.
• Embedding vs. Resíduo: O modelo produz $D$ coordenadas. As duas primeiras coordenadas ($y \in \mathbb{R}^2$) servem como o embedding 2D. As $D-2$ coordenadas restantes ($r \in \mathbb{R}^{D-2}$) são retidas como um resíduo, em vez de serem descartadas.
• Invertibilidade: Como o mapa é uma bijeção, qualquer par $(y, r)$ mapeia de volta para um dado de entrada $x$ (até o limite do erro de ponto flutuante) através da inversa exata $f^{-1}_\theta$. Isso permite a estimativa exata de densidade via fórmula de mudança de variáveis.

Objetivo de Treinamento

O layout é treinado usando uma função de perda composta aplicada apenas às coordenadas 2D $y$:

1. Estrutura Local: Segue o UMAP ao construir um grafo difuso de $k$-vizinhos mais próximos ($k=15$) com termos de atração e repulsão.
2. Estrutura Global:
   • Um termo de atração de amplitude limitada para neutralizar a repulsão.
   • Termo Ordinal: Um termo de MDS não métrico que otimiza o sinal das comparações de distância entre pares de pontos no espaço de entrada versus o espaço de embedding. Este termo é controlado por um peso $w$ ajustável pelo usuário.
3. Termo de Densidade: Um termo de log-verossimilhança negativa é opcionalmente introduzido durante o treinamento para evitar que o mapa inverso estique excessivamente as coordenadas residuais.

Posicionamento Fora da Amostra (Out-of-Sample)

Novos pontos de dados são embedidos via uma única passagem direta ($y' = f_\theta(x')_{1:2}$). Embora isso preserve a estrutura global, pode falhar em preservar vizinhanças locais. Para resolver isso, o FloDR oferece uma etapa de posicionamento opcional (semelhante ao transform do UMAP), onde a posição de um novo ponto é otimizada por 200 passos contra o termo de atração dos vizinhos de treinamento, enquanto o mapa treinado permanece congelado.

3. Contribuições Principais: Diagnósticos Certificados

A principal inovação do FloDR é a capacidade de gerar campos diagnósticos que são propriedades da distribuição dos inputs projetados para uma determinada posição 2D, em vez de artefatos de um modelo auxiliar. Esses campos são derivados da inversa exata e da distribuição residual $p(r|y)$.

Dois Campos Diagnósticos

1. Dispersão Condicional ($\sigma(y)$):

   • Definição: $\sigma(y) = \sqrt{\text{trace}(\text{Cov}(x | y))}$.
   • Significado: Mede o quanto do dado de entrada original permanece indeterminado em uma posição de embedding $y$ específica. Valores altos indicam que o layout fundiu inputs que eram distintos no espaço de alta dimensão original.
   • Estimativa: Computada desenhando resíduos da $p(r|y)$ ajustada e mapeando-os de volta através da inversa exata.

2. Contraste Oculto ($h(y)$):

   • Definição: $h(y) = I(G; R | Y=y)$, a informação mútua entre um contraste rotulado $G$ (ex: tipo celular) e o resíduo $R$, dado a posição de embedding $Y$.
   • Significado: Mede quanta informação sobre um grupo rotulado é descartada pelas duas coordenadas plotadas. Valores altos indicam que pontos desenhados próximos pertencem a grupos diferentes que o resíduo ainda consegue distinguir.
   • Estimativa: Calculada usando classificadores de capacidade correspondente para estimar $p(G|y)$ e $p(G|y, r)$.

Processo de Certificação

Para evitar a sobreinterpretação, cada campo passa por um processo de certificação com dados retidos (held-out):

• Os campos são ajustados em um conjunto de treinamento e validados em um conjunto de teste (held-out).
• A validação envolve o agrupamento (binning) do espaço de embedding e a regressão da previsão do campo contra a medição real do conjunto de teste.
• Critérios: Um campo é "certificado" se ele rastreia o alvo de validação com uma inclinação $b \in [0.7, 1.3]$ e $R^2 \geq 0.6$.
• Teste de Nulidade: Para o contraste oculto, o campo é comparado contra uma hipótese nula onde os rótulos são embaralhados dentro dos grupos (bins).
• Resultado: Campos que falham nesses testes são explicitamente marcados como "recusados" na visualização, garantindo que os usuários não confiem em diagnósticos não confiáveis.

4. Resultados

Os autores avaliaram o FloDR em quatro conjuntos de dados de referência (MNIST, Fashion-MNIST, progenitores mieloides Paul15, dados de reação de Schneider) e três atlas de célula única (medula óssea fetal humana, cerebelo de camundongo, sementes de Arabidopsis).

• Compromisso Global vs. Local: O FloDR atinge uma curva de compromisso quase vertical. Ao ajustar o peso ordinal $w$, a preservação da estrutura global (medida pela correlação de Spearman de distâncias pareadas, CPD) aumenta substancialmente (ex: de 0.337 para 0.562 no MNIST) com perda negligenciável na recuperação de vizinhança local.
• Comparação com Baselines:
  • vs. UMAP: O FloDR supera o UMAP tanto nos eixos global quanto local em todos os quatro benchmarks.
  • vs. openTSNE: O openTSNE retém ligeiramente melhor a estrutura local, mas com um custo significativo na estrutura global.
  • vs. PCA: O PCA preserva bem a estrutura global, mas falha nas vizinhanças locais. O FloDR iguala ou supera o desempenho global do PCA enquanto mantém a estrutura local.
  • vs. SQuadMDS: Embora o SQuadMDS alcance um CPD global mais alto nos atlas de célula única, ele retém quase nenhuma informação de vizinhança local (recall $\approx 0$).
• Desempenho Fora da Amostra: A passagem direta do FloDR preserva a estrutura global de forma eficaz. Quando o passo de posicionamento opcional é usado, a fidelidade local é recuperada para níveis comparáveis ao openTSNE nos benchmarks.
• Eficiência: O FloDR é computacionalmente eficiente, completando embeddings de $10^6$ pontos em 222 segundos em uma GPU, sendo mais rápido que o UMAP (403s) e o t-SNE (273s).

5. Significância e Alegações

O artigo afirma que o FloDR representa uma mudança na forma como a redução de dimensionalidade é interpretada:

• Consistência de Objeto Único: Diferente de métodos que usam codificadores e decodificadores separados, o layout, a inversa e a densidade do FloDR são propriedades de uma única bijeção treinada. Isso garante que as visualizações diagnósticas sejam derivadas da inversa exata do modelo que gerou o layout, e não de uma rede auxiliar aproximada.
• Alegações Mensuráveis: O método vai além de apenas "ler" um mapa para fazer alegações mensuráveis sobre ele. Ao introduzir os campos de dispersão condicional e contraste oculto, o FloDR quantifica o que está oculto na projeção 2D.
• Falseabilidade: A inclusão de um processo de certificação significa que os campos diagnósticos não são apenas sobreposições visuais, mas são empiricamente validados. Se um campo falha no teste de dados retidos, ele é recusado, impedindo que o usuário tire conclusões não fundamentadas.
• Escopo Modesto: Os autores afirmam explicitamente que não pretendem alegar uma qualidade de reconstrução superior (decodificadores superariam a inversa) nem alegar domínio sobre um único eixo (local ou global) sobre todos os outros métodos. Em vez disso, o FloDR é apresentado como um método que é altamente competitivo em ambos os eixos simultaneamente e fornece um framework rigoroso para interpretar as limitações do mapa 2D resultante.