Resumo Técnico: FILTR: Extração de Características Topológicas a partir de Modelos 3D Pré-treinados

Declaração do Problema

Avanços recentes no pré-treinamento auto-supervisionado para codificadores de nuvens de pontos 3D (por exemplo, Point-BERT, Point-MAE) produziram modelos poderosos com fortes capacidades de generalização em tarefas geométricas e semânticas. No entanto, as propriedades estruturais e o poder expressivo das características aprendidas por esses codificadores permanecem pouco compreendidos, particularmente no que diz respeito à informação topológica. Enquanto invariantes topológicos (como o número de componentes conectados e o gênero) e descritores multiescala (diagramas de persistência) são críticos em áreas como ciência dos materiais, análise de proteínas e geociências, os métodos existentes para extrair essas características geralmente dependem de algoritmos de estimação clássicos e desacoplados, em vez de aprendizado end-to-end.

Este artigo aborda duas questões principais:

1. Os codificadores de nuvens de pontos 3D pré-treinados capturam implicitamente informações topológicas em suas representações aprendidas?
2. Essa informação pode ser extraída eficientemente para prever diagramas de persistência diretamente a partir das características do codificador de maneira feed-forward?

Metodologia

Os autores propõem uma abordagem em três etapas para investigar essas questões:

1. Avaliação com DONUT

Para avaliar a compreensão topológica, os autores introduzem o DONUT (Dataset Of maNifold strUcTures), um benchmark sintético de 29.517 malhas de variedades. Diferentemente de conjuntos de dados existentes (por exemplo, ShapeNet, ModelNet), que são principalmente semânticos ou carecem de diversidade topológica, o DONUT apresenta variações controladas em:

• Número de componentes conectados ($\beta_0$): Variando de 1 a 6.
• Gênero total ($g$): Variando de 0 a 10.
  O conjunto de dados garante uma distribuição equilibrada de rótulos e aplica transformações geométricas para evitar soluções triviais baseadas em recuperação.

2. Análise de Sondagem e Alinhamento

Os autores avaliam quatro codificadores pré-treinados de última geração (Point-BERT, Point-MAE, PointGPT, PCP-MAE) usando dois protocolos:

• Sondagem: Decodificadores lineares treináveis são acoplados às características congeladas de cada bloco do transformador para prever $\beta_0$ e o gênero. Isso testa se os sinais topológicos são acessíveis linearmente.
• Alinhamento de Características: Usando o Alinhamento de Kernel Centralizado (CKA), os autores medem a similaridade entre as características do codificador e diagramas de persistência vetorizados (usando métodos como ATOL, Top 128, Landscapes, etc.). Isso avalia a presença de informações topológicas multiescala sem treinar um preditor.

3. FILTR (Filtration Transformer)

Para avançar além da análise até a extração, os autores propõem o FILTR, um framework que prevê diagramas de persistência diretamente a partir de características de codificadores 3D pré-treinados congelados.

• Arquitetura: O FILTR adapta a arquitetura DETR (DEtection TRansformer). Ele trata diagramas de persistência como conjuntos desordenados de pontos.
• Entrada: Características de um codificador 3D congelado (seja o bloco final ou uma combinação de todos os blocos) são alimentadas em um decodificador transformador via atenção cruzada.
• Saída: O decodificador prevê um conjunto de pares de persistência $(b_i, d_i)$ e suas probabilidades de existência.
• Função de Perda: O modelo é treinado com um objetivo de previsão de conjunto composto por:
  • Correspondência Húngara: Para alinhar pares previstos e reais.
  • Perda de Reconstrução (MSE): Para pares correspondentes.
  • Perda de Existência: Uma entropia cruzada binária para distinguir pares válidos de slots "sem par".
  • Regularizador Diagonal: Força previsões não correspondentes em direção à diagonal ($b=d$), reduzindo a necessidade de thresholding agressivo durante a inferência.

Principais Contribuições

1. Benchmark DONUT: A introdução do primeiro conjunto de dados explicitamente projetado com anotações topológicas equilibradas e confiáveis (componentes conectados e gênero) para avaliação de codificadores 3D.
2. Primeira Análise Topológica de Codificadores 3D: O primeiro estudo sistemático quantificando o quão bem os codificadores modernos de nuvens de pontos 3D capturam informações topológicas. O estudo revela que, embora os codificadores mostrem capacidade limitada de prever linearmente a topologia global (baixa precisão de sondagem), eles retêm informações estruturais multiescala significativas alinhadas com diagramas de persistência (altas pontuações CKA).
3. Framework FILTR: O primeiro modelo a prever diagramas de persistência diretamente a partir de características de codificadores 3D pré-treinados e congelados de maneira feed-forward. Ele demonstra que descritores topológicos podem ser extraídos sem retreinar a base ou codificar rigidamente priores algorítmicos na rede.

Resultados

• Desempenho de Sondagem: Os codificadores pré-treinados performam mal em tarefas de sondagem direta para gênero e componentes conectados (por exemplo, o token CLS do Point-BERT alcança ~57% de precisão em componentes, ~26% em gênero), sugerindo que eles não codificam explicitamente a topologia global de forma linearmente separável.
• Alinhamento: Apesar dos resultados pobres de sondagem, a análise CKA mostra alinhamento consistente entre as características do codificador e diagramas de persistência vetorizados, particularmente em modelos baseados em MAE (Point-MAE, PCP-MAE). Isso indica que sinais topológicos estão presentes, mas distribuídos de forma não linear.
• Desempenho do FILTR:
  • O FILTR aproxima com sucesso diagramas de persistência a partir de codificadores congelados, frequentemente igualando ou superando baselines treinadas end-to-end (como PointNet++ ou DGCNN) em conjuntos de dados fora da distribuição (ModelNet40, ABC).
  • O modelo generaliza para distribuições de dados não vistas, embora o desempenho varie conforme o conjunto de dados (por exemplo, erros maiores no ABC comparado ao ModelNet40).
  • O FILTR é computacionalmente eficiente, exigindo significativamente menos parâmetros treináveis (5,7M) em comparação com baselines end-to-end (8M+), pois o codificador pesado permanece congelado.
  • Estudos de ablação confirmam a necessidade da perda de existência e do regularizador diagonal para treinamento estável e reconstrução precisa do diagrama.

Significado e Afirmações

O artigo afirma que, embora as estratégias atuais de pré-treinamento 3D (focadas em reconstrução geométrica ou alinhamento semântico) não otimizem explicitamente invariantes topológicos, os espaços de características resultantes retêm informações estruturais suficientes para permitir a extração topológica orientada por dados.

• Insight Teórico: O trabalho sugere que codificadores 3D aprendem implicitamente estruturas geométricas locais que correlacionam com a topologia, mesmo que falhem em representar invariantes topológicos globais de forma linear.
• Utilidade Prática: O FILTR oferece uma alternativa computacionalmente eficiente e feed-forward aos pipelines topológicos clássicos (que são frequentemente lentos e desacoplados do aprendizado). Ele permite a extração de diagramas de persistência a partir de nuvens de pontos brutas usando modelos fundacionais existentes.
• Limitações: Os autores notam modestamente que a abordagem é limitada pela qualidade e disponibilidade de codificadores pré-treinados. Em domínios que carecem de codificadores 3D de propósito geral robustos (por exemplo, aprendizado em grafos), essas conclusões podem não se transferir. Além disso, prever as características topológicas mais persistentes (dominantes) permanece desafiador, pois estas exigem uma compreensão geométrica global que modelos pré-treinados lutam para capturar.

Os autores concluem que seu trabalho fornece uma base para compreender a competência topológica de extratores de características 3D e desenvolver abordagens totalmente orientadas por dados para extração de descritores topológicos.