Beyond a Single Signal: SPECTREG2, A Unified MultiExpert Anomaly Detector for Unknown Unknowns

1. O Problema: A Limitação dos Sinais Únicos e os "Desconhecidos Desconhecidos"

O artigo aborda um desafio crítico na inteligência artificial: a inteligência epistêmica, que é a capacidade de um sistema de reconhecer os limites do seu próprio conhecimento e agir com segurança sob incerteza severa.

• O Desafio dos "Desconhecidos Desconhecidos": Em cenários do mundo real (como condução autónoma ou diagnóstico médico), os modelos enfrentam anomalias estruturais que violam as premissas do modelo treinado. Estas são chamadas de "desconhecidos desconhecidos" (ex: variáveis não observadas, mudanças nos mecanismos causais, interações não vistas).
• Limitação das Abordagens Atuais: A maioria dos métodos existentes de quantificação de incerteza e detecção de anomalias baseia-se em um único sinal (como confiança, densidade, erro de reconstrução ou entropia). O artigo argumenta que nenhum sinal único consegue capturar a totalidade das violações estruturais. Por exemplo, uma mudança causal sutil pode não alterar a densidade marginal dos dados, enganando detectores baseados apenas em densidade.

2. Metodologia: Arquitetura SPECTRE-G2

O authors propõem o SPECTRE-G2 (Spectral Ensemble with Per-anomaly Top-k Residual Experts – Gaussianization 2nd version), um detector de anomalias unificado que combina múltiplos sinais complementares.

A. Arquitetura de Duplo Backone (Dual-Backbone)

O sistema utiliza duas redes neurais paralelas para extrair características distintas:

1. GaussEnc (Encoder com Normalização Espectral): Uma rede com normalização espectral em todas as camadas lineares e uma perda auxiliar de Gaussianização. Esta perda força as características da penúltima camada a seguirem uma distribuição Gaussiana padrão ($\mathcal{N}(0, I)$). Isso estabiliza os gradientes e torna os sinais baseados em densidade mais sensíveis a anomalias estruturais.
2. PlainNet (MLP Simples): Uma rede MLP sem normalização espectral, treinada apenas com perda de entropia cruzada. Ela preserva a geometria original do espaço de características, sendo essencial para sinais baseados em distância (como Mahalanobis).

B. Os Oito Sinais Complementares

A partir do ensemble de 5 modelos GaussEnc e do PlainNet, o sistema extrai oito sinais distintos:

1. GaussScore: Log-verossimilhança média das características sob uma distribuição normal (baseado no GaussEnc).
2. FtMahaP: Distância de Mahalanobis negativa no espaço de características do PlainNet (preserva geometria).
3. InMaha: Distância de Mahalanobis calculada diretamente nas características de entrada padronizadas.
4. Energy: Pontuação de energia baseada nos logits do ensemble.
5. Entropy: Entropia das probabilidades médias do softmax do ensemble.
6. MI (Mutual Information): Estimativa de incerteza epistêmica baseada na informação mútua do ensemble (mede a discordância entre os membros).
7. ODIN: Confiança ajustada por escalonamento de temperatura e perturbação de entrada.
8. USD (Unknown Sensitive Detector): Probabilidade de saída de um classificador binário treinado para distinguir dados in-distribution de ruído sintético.
   • Sinal Adicional (Tabular): Para dados tabulares, inclui-se um sinal Causal, que mede o erro de previsão residual ao tentar prever cada variável a partir das outras, verificando a consistência estrutural.

C. Normalização e Fusão Adaptativa (Top-k)

• Normalização: Cada sinal é normalizado usando percentis (1º e 99º) do conjunto de validação.
• Correção de Direção: Um conjunto de "pseudo-OOD" (gerado sinteticamente misturando amostras de treino) é usado para garantir que a direção do sinal (o que indica anomalia) seja consistente.
• Fusão Top-k Adaptativa: Em vez de uma média ponderada fixa ou uma rede de gate complexa, o sistema seleciona os top-k sinais mais discriminativos para cada conjunto de teste, baseando-se no AUROC de validação.
  • Se o melhor sinal tiver AUROC $\ge 0.72$, usa-se $k=1$.
  • Caso contrário, usa-se $k=2$ (média dos dois melhores).
  • A pontuação final é a média normalizada desses sinais selecionados.

3. Contribuições Principais

1. Framework Multi-Sinal: Introdução de um framework que integra densidade, geometria, incerteza epistêmica e consistência causal em uma única pontuação de anomalia.
2. Design de Duplo Backbone: Resolução do compromisso entre estabilidade do espaço de características (via normalização espectral) e preservação da geometria (via MLP simples), permitindo que sinais baseados em densidade e distância sejam eficazes simultaneamente.
3. Desempenho SOTA: Demonstração de que a fusão de múltiplos sinais supera abordagens de sinal único em uma ampla gama de tarefas e tipos de anomalias.

4. Resultados Experimentais

O modelo foi avaliado em quatro conjuntos de dados diversos: Synthetic Causal (com gráfico causal conhecido), Adult (tabular), CIFAR-10 (imagens) e Gridworld (aprendizado por reforço). Foram comparados com 12 baselines fortes (Ensembles, Bayesian, Evidential, Conformal, etc.).

• Desempenho Geral: O SPECTRE-G2 alcançou o maior AUROC médio em 11 dos 12 tipos de anomalia testados.
• Métricas Adicionais: Superou as baselines na maioria das métricas de AUPR (10/12), FPR95 (9/12) e taxa de erro confiante.
• Robustez: O modelo demonstrou estabilidade através de diferentes sementes aleatórias (desvio padrão baixo).
• Estudo de Ablação:
  • Remover qualquer sinal individual causou uma queda mínima de desempenho (máximo de 0.0018 no AUROC), confirmando que os sinais são altamente complementares.
  • Remover a fusão (usar apenas o melhor sinal único) causou uma queda significativa (0.0044), provando que a combinação é essencial.
  • A perda de Gaussianização, embora cause uma queda pequena ao ser removida, atua como um regularizador crucial para melhorar a qualidade do espaço de características em dados de baixa dimensão.

5. Significado e Conclusão

O SPECTRE-G2 representa um avanço significativo rumo à inteligência epistêmica prática. Ao demonstrar que nenhuma métrica única é suficiente para detectar "desconhecidos desconhecidos", o trabalho valida a hipótese de que a fusão adaptativa de múltiplas perspectivas de incerteza (densidade, geometria, causalidade e discordância de ensemble) é a chave para sistemas de IA seguros em ambientes abertos.

O sistema oferece uma solução robusta e modular que não depende de garantias teóricas absolutas, mas sim de uma engenharia empírica bem fundamentada, permitindo que sistemas de ML detectem violações estruturais sutis e atuem com segurança mesmo quando encontram cenários não vistos durante o treinamento.