Local Neighborhood Instability in Parametric Projections: Quantitative and Visual Analysis

1. Problema e Motivação

A redução de dimensionalidade (DR) é essencial para a visualização de dados de alta dimensão. Métodos paramétricos, como redes neurais (MLPs) treinadas para aproximar projeções não paramétricas (ex: UMAP, t-SNE), oferecem vantagens significativas: permitem a projeção de novos dados em tempo real sem recalcular o embedding global.

No entanto, o artigo identifica uma lacuna crítica: a instabilidade local dessas projeções paramétricas. Embora métodos tradicionais sejam avaliados com base na preservação de vizinhança (ex: Confiabilidade e Continuidade), eles não avaliam como pequenas variações nos dados de entrada (ruído de medição, drift de dados) afetam a saída. Uma projeção pode preservar a estrutura global, mas ser altamente sensível a pequenas perturbações, resultando em deslocamentos imprevisíveis no espaço 2D, o que compromete a confiança do analista em padrões espaciais observados.

2. Metodologia: Framework de Avaliação de Estabilidade

Os autores propõem um framework para avaliar a estabilidade local de projeções paramétricas (MLPs) através de perturbações controladas. O processo segue cinco etapas:

1. Projeção Baseline: Cálculo de uma projeção de referência (ex: UMAP ou t-SNE) para obter coordenadas embutidas.
2. Seleção de Âncoras: Escolha de pontos âncora representativos (baseados em centróides de classes) para evitar outliers.
3. Perturbação: Adição de ruído gaussiano isotrópico aos dados de entrada ao redor de cada âncora. O raio do ruído ($r$) é definido como uma pequena fração da distância média entre pares de dados (percentil 0,25), garantindo que as perturbações sejam realistas e visualmente reconhecíveis.
4. Projeção Perturbada: Os dados ruidosos são projetados pela rede neural treinada.
5. Avaliação Quantitativa e Visual: Análise de como os vizinhos locais se deformam no espaço 2D.

Métricas Quantitativas Propostas

O artigo introduz três métricas para medir a estabilidade:

• Deslocamento Médio ($D_{dev}$): Mede a magnitude típica do deslocamento dos pontos projetados em relação à âncora original devido ao ruído.
• Viés de Deslocamento ($D_{bias}$): Mede o deslocamento sistemático da média dos pontos perturbados em relação à âncora. Indica se a projeção "puxa" os dados em uma direção específica (anisotropia).
• Erro de Atribuição ao Âncora Mais Próxima ($E_{NA}$): Calcula a probabilidade de um ponto perturbado sair da região de Voronoi de sua âncora original e ser atribuído erroneamente a outra âncora vizinha.

Diagnósticos Visuais

Para complementar as métricas, são propostas três visualizações:

• Linhas de Âncora: Vetores que conectam a âncora aos pontos perturbados, revelando direcionalidade e coerência do ruído.
• PCA Local: Elipses geradas a partir da Análise de Componentes Principais local, mostrando como o ruído é amplificado ou atenuado em diferentes direções.
• Atribuição de Voronoi: Visualização das regiões de Voronoi para identificar onde pontos perturbados cruzam fronteiras, indicando áreas de baixa robustez.

3. Contribuições Principais

1. Novas Métricas de Estabilidade: Três medidas quantitativas ($D_{dev}$, $D_{bias}$, $E_{NA}$) focadas especificamente na sensibilidade a perturbações de entrada em projeções paramétricas.
2. Ferramentas Visuais: Um conjunto de visualizações que mapeiam essas métricas para alterações geométricas locais no embedding.
3. Análise Empírica Comparativa: Avaliação de projetores neurais baseados em UMAP e t-SNE com diferentes tamanhos de rede e estratégias de regularização.
4. Validação de Regularização de Jacobiano: Demonstração de que a regularização de Jacobiano (penalizando a norma de Frobenius do Jacobiano da saída em relação à entrada) é uma estratégia eficaz para aumentar a robustez.
5. Reprodutibilidade: Disponibilização de código, dados e resultados no OSF e GitHub.

4. Resultados Experimentais

Os experimentos foram realizados nos conjuntos de dados MNIST e Fashion-MNIST, comparando MLPs pequenos e grandes, com e sem regularização de Jacobiano (+J).

• Ineficácia das Métricas Tradicionais: As métricas de qualidade padrão (Confiabilidade e Continuidade) permaneceram quase constantes entre todos os modelos (variação < 1%), falhando em capturar as grandes diferenças de estabilidade.
• Impacto da Regularização de Jacobiano:
  • A adição de regularização de Jacobiano reduziu drasticamente o deslocamento médio. No MNIST (UMAP), o modelo MLP-small+J reduziu o deslocamento de 1,80 para 0,265 (redução de 85%).
  • O erro de atribuição ($E_{NA}$) caiu para quase zero em muitos cenários com regularização, indicando que os pontos perturbados permanecem dentro de suas regiões de classe originais.
  • A regularização foi mais eficaz do que simplesmente aumentar a capacidade da rede (MLP-large vs. MLP-small).
• Compensação (Trade-off): Não houve uma troca negativa significativa entre estabilidade e fidelidade de reconstrução (MSE). Em alguns casos, a regularização melhorou tanto a estabilidade quanto a precisão de reconstrução.
• Viés Sistemático: Modelos não regularizados exibiram um alto viés de deslocamento ($D_{bias} \approx D_{dev}$), indicando que o ruído não se espalha isotropicamente, mas causa um desvio sistemático na projeção.

5. Significado e Conclusão

O trabalho demonstra que projeções paramétricas podem ser instáveis localmente, mesmo quando apresentam métricas de preservação de vizinhança excelentes. Isso representa um risco para a análise visual, pois analistas podem confiar em padrões espaciais que são, na verdade, artefatos de sensibilidade ao ruído.

Conclusões Práticas:

• Métricas tradicionais de DR são insuficientes para garantir a robustez de modelos paramétricos em cenários com ruído.
• A regularização de Jacobiano é uma técnica simples e altamente eficaz para mitigar essa instabilidade, superando o simples aumento da capacidade da rede.
• Antes de implantar projeções paramétricas em ambientes interativos ou de streaming (onde novos dados chegam continuamente), é crucial validar a estabilidade local e aplicar restrições de suavidade.

O artigo estabelece um novo padrão para a avaliação de métodos de DR paramétricos, enfatizando que a "suavidade" do mapeamento é tão importante quanto a precisão da reconstrução.