XSPLAIN: XAI-enabling Splat-based Prototype Learning for Attribute-aware INterpretability

Resumo Técnico: XSPLAIN

1. O Problema (Contexto e Motivação)

Com a ascensão do 3D Gaussian Splatting (3DGS) como um padrão para reconstrução 3D de alta fidelidade, surgiu a necessidade de aplicar modelos de aprendizado profundo para tarefas discriminativas, como a classificação de objetos. No entanto, esses modelos operam como "caixas-pretas", carecendo de interpretabilidade.

Os métodos atuais de Inteligência Artificial Explicável (XAI) enfrentam dois problemas principais no domínio 3D:

• Métodos Post-hoc (ex: Grad-CAM, SHAP): Geram mapas de saliência que costumam ser ruidosos, dispersos e falham em capturar a coerência volumétrica e estrutural inerente aos Gaussianos.
• Falta de Semântica: As explicações muitas vezes não explicam por que um objeto pertence a uma classe, apenas onde o modelo olhou, sem fornecer uma base comparativa intuitiva para humanos.

2. Metodologia (A Abordagem XSPLAIN)

O XSPLAIN é um framework de interpretabilidade ante-hoc (projetado para ser interpretável por natureza) baseado em protótipos. O objetivo é permitir um raciocínio do tipo "isso se parece com aquilo".

A arquitetura é dividida em três componentes principais e um processo de treinamento em duas etapas:

A. Arquitetura do Backbone:

• Utiliza uma rede inspirada em PointNet, mas com uma modificação crucial: um módulo de agregação por voxels. Em vez de um global max-pooling que colapsa toda a informação espacial, o modelo particiona o espaço em uma grade de voxels. Isso preserva a estrutura espacial, permitindo que as explicações sejam ancoradas em regiões geométricas reais do objeto.
• Regularização de Densidade: Introduz uma perda baseada na divergência KL para garantir que o modelo foque em regiões densamente povoadas de Gaussianos (estruturas geométricas coerentes) em vez de ruídos ou outliers isolados.

B. Desentranhamento de Características (Feature Disentanglement):

• Após treinar o classificador, o backbone é congelado. Introduz-se uma matriz de transformação ortogonal parametrizada ($U$).
• Esta matriz rotaciona o espaço de características para "desentranhar" os canais, de modo que cada canal passe a representar um atributo semântico ou geométrico distinto.
• Compensação do Classificador: Para garantir que a interpretabilidade não altere a precisão da classificação, os pesos da camada final são ajustados matematicamente ($W'_{cls} = W_{cls}U^T$), preservando exatamente as fronteiras de decisão originais.

C. Mecanismo de Protótipos:

• Para cada canal desentranhado, o sistema identifica "protótipos": exemplos do conjunto de treinamento que ativam aquele canal de forma máxima.
• A explicação é gerada localizando o voxel mais ativo e recuperando os fragmentos de Gaussianos correspondentes, comparando-os visualmente com os protótipos.

3. Principais Contribuições

1. Primeiro Framework Ante-hoc para 3DGS: É o primeiro método de interpretabilidade baseado em protótipos desenhado especificamente para classificação de Gaussian Splatting.
2. Estratégia de Treinamento em Duas Etapas: Separa a otimização da acurácia (classificação) da otimização da interpretabilidade (pureza dos canais), evitando a degradação do desempenho preditivo.
3. Transformação Ortogonal Invertível: Garante que a explicação seja fiel ao modelo original, sem alterar suas decisões.
4. Explicações Espacialmente Coerentes: Ao contrário de mapas de calor ruidosos, o XSPLAIN fornece subconjuntos de Gaussianos que representam partes semânticas do objeto (ex: a asa de um avião ou o aro de um fone de ouvido).

4. Resultados e Avaliação

• Desempenho de Classificação: O XSPLAIN mantém uma acurácia competitiva, comparável aos modelos de nuvem de pontos tradicionais (PointNet, PointNeXt), provando que a interpretabilidade não sacrifica a eficácia.
• Estudo de Usuário (N=51): Em testes comparativos com métodos post-hoc (LIME e PointSHAP), os participantes preferiram as explicações do XSPLAIN em 48,4% das vezes, demonstrando uma confiança significativamente maior na transparência do modelo ($p < 0.001$).
• Fidelidade (Teste de Deleção): Ao remover os voxels identificados como mais importantes, observou-se uma queda mensurável na acurácia (até 6,82%), confirmando que as explicações são fiéis ao processo de decisão real do modelo.
• Generalização: O método demonstrou eficácia não apenas em 3DGS, mas também em nuvens de pontos padrão (ShapeNet), capturando estruturas semânticas puramente através da geometria.

5. Significância

O XSPLAIN representa um avanço crucial para a adoção de tecnologias de reconstrução 3D em domínios críticos (como medicina, robótica e direção autônoma). Ao transformar modelos de reconstrução complexos em sistemas que podem "explicar" suas decisões através de comparações visuais intuitivas, o framework aumenta a confiança do usuário e a transparência algorítmica em aplicações de visão computacional 3D.