🤖 machine learning

GEODE: Angle-Adaptive OOD Detection with Universal Scorer Compatibility

GEODE é um método de detecção de OOD que preserva a geometria e utiliza uma função de perda de norma adaptativa ao ângulo para replicar sinteticamente os benefícios de calibração de fronteira do Outlier Exposure, alcançando desempenho robusto em todos os sete classificadores padrão sem exigir dados auxiliares curados.

Autores originais: Bruno Abrahao

Publicado 2026-05-05

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Bruno Abrahao

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um guarda de segurança muito inteligente (um programa de computador) treinado para reconhecer pessoas específicas, como seus amigos e familiares (estes são os dados "In-Distribution" ou ID). O problema surge quando estranhos se aproximam do portão. Alguns são claramente estranhos de um país diferente (Far-OOD), mas outros parecem suspeitamente com seus amigos — podem estar usando roupas semelhantes ou terem cabelos parecidos (Near-OOD).

O objetivo da detecção OOD (Out-of-Distribution) é garantir que o guarda consiga identificar qualquer pessoa que não esteja na lista aprovada, não importa como ela se pareça.

O Problema: A Falha do "Tamanho Único"

Por muito tempo, pesquisadores tentaram treinar guardas para identificar estranhos usando dois truques principais:

O Guarda "Logit": Observa a pontuação de confiança interna do guarda. "Quão certo estou de que esta é minha amiga?"
O Guarda "Feature": Observa a distância física em um mapa de características. "Quão longe esta pessoa está do grupo dos meus amigos?"

O artigo aponta um compromisso frustrante: se você treina o guarda para ser excelente em verificar pontuações de confiança, ele frequentemente se torna terrível em verificar distâncias físicas, e vice-versa. É como treinar um guarda para ser especialista em ler documentos de identidade, mas torná-lo cego para características faciais.

A Solução Antiga: "Exposição a Outliers" (OE)

O melhor método anterior era chamado de Exposição a Outliers (OE). Imagine que você contrata um instrutor para mostrar ao guarda fotos de estranhos aleatórios (como pessoas de uma cidade diferente) para que eles aprendam como é "não ser meu amigo".

O Problema: Você precisa de um álbum enorme e cuidadosamente curado dessas fotos de "estranhos". Se os estranhos que você mostrar não corresponderem aos estranhos que realmente aparecerem no portão, o treinamento falha.
O Segredo: Os autores descobriram por que o OE funciona. Não é porque o guarda memorizou cada estranho. É porque o treinamento acidentalmente empurrou as fotos de "estranhos" para sentar exatamente na fronteira entre "amigo" e "estranho". É como pintar uma linha de "Não Ultrapassar" bem na borda da zona dos amigos.

A Nova Solução: GEODE

Os autores criaram o GEODE (DEtecção que Preserva a GEOmetria). Em vez de precisar de um álbum real de estranhos, o GEODE cria estranhos falsos sob demanda e usa uma regra inteligente e adaptativa para treinar o guarda.

Aqui está a analogia de como o GEODE funciona:

1. O Estranho "Mudador de Forma"

Em vez de apenas mostrar fotos aleatórias ao guarda, o GEODE pega as características dos seus amigos e as embaralha (como misturar os pixels de um rosto). Isso cria um "estranho falso" que parece estranho, mas não é uma pessoa real.

2. A "Régua Inteligente" (Norma Adaptativa de Ângulo)

Esta é a inovação central. Imagine que o guarda tem uma régua para medir o quão "fora do comum" uma pessoa está do centro do grupo de amigos.

Método Antigo: "Empurre todo estranho até a borda do universo!" (Isso torna fácil identificá-los por confiança, mas destrói o mapa para verificações baseadas em distância).
Método GEODE: "Use uma Régua Inteligente."
- Se um estranho falso estiver parado perto do grupo de um amigo específico (alta similaridade), a régua diz: "Fique um pouco afastado, mas não vá muito longe." Isso preserva a forma local do mapa para que detectores baseados em distância (como KNN) ainda funcionem.
- Se um estranho falso estiver parado longe de qualquer grupo de amigos (baixa similaridade), a régua diz: "Corra até o centro!" Isso torna muito fácil identificá-los por detectores baseados em confiança.

Essa "Régua Inteligente" ajusta o alvo de treinamento para cada estranho falso individual com base em onde eles estão parados. É como um instrutor de dança que diz aos dançarinos perto do centro para permanecerem próximos ao grupo, mas diz aos dançarinos no fundo para irem para a frente, garantindo que todos permaneçam em uma formação fácil de monitorar de todos os ângulos.

Por Que Isso Importa

Compatibilidade Universal: A maioria dos métodos quebra um tipo de detector para consertar outro. O GEODE é o primeiro a dizer: "Posso fazer o guarda ser bom em ambos ler pontuações de confiança e verificar distâncias físicas". Funciona com todas as sete maneiras padrão de verificar estranhos sem derrubar nenhuma delas.
Nenhum Dado Extra Necessário: Você não precisa sair para encontrar um conjunto de dados de "estranhos" para treinar. O GEODE cria o próprio sinal de treinamento embaralhando os dados que já possui.
A Armadilha do "Espaço Nulo": O artigo alerta contra outros métodos (como PFS) que tentam empurrar estranhos para um "ponto cego" (espaço nulo) onde o guarda não consegue vê-los. Embora isso faça o guarda ser ótimo em pontuações de confiança, torna-o completamente cego para verificações baseadas em distância (como um guarda que pode ler documentos de identidade, mas está vendado). O GEODE evita essa armadilha mantendo os "estranhos" visíveis nos lugares certos.

A Conclusão

O GEODE é uma nova técnica de treinamento que ensina um modelo de computador a identificar estranhos criando estranhos falsos inteligentes e adaptativos sob demanda. Em vez de forçar todos os estranhos para uma única zona "ruim", ele os coloca em um padrão geométrico que mantém as fronteiras entre "amigo" e "estranho" claras para cada tipo de método de detecção.

Isso é alcançado sem necessidade de dados extras, e evita a armadilha comum de consertar um problema enquanto quebra outro. Em resumo, torna o guarda de segurança robusto, versátil e pronto para qualquer tipo de estranho que possa aparecer.

Resumo Técnico: GEODE - Detecção OOD Adaptativa ao Ângulo com Compatibilidade Universal de Classificadores

1. Declaração do Problema

A detecção de Distribuição Fora de Treinamento (OOD) visa sinalizar entradas para as quais um classificador implantado não foi treinado. As abordagens atuais enfrentam uma tensão fundamental entre pontuação pós-treino (aplicada a modelos congelados) e métodos baseados em treinamento (que remodelam características ou logits).

O Compromisso: Métodos de treinamento que melhoram classificadores baseados em logits (por exemplo, MSP, Energy) frequentemente degradam classificadores baseados em espaço de características (por exemplo, KNN), e vice-versa. Nenhum método existente alcança detecção robusta em todos os classificadores padrão e simultaneamente nos regimes de OOD próximo e OOD distante.
Limitações da Exposição a Outliers (OE): Embora a OE seja uma abordagem baseada em treinamento dominante que utiliza dados OOD auxiliares reais, ela sofre de dois problemas:
1. Dependência do Classificador: Apresenta compromissos onde é forte em alguns classificadores, mas fraca em outros.
2. Dependência de Dados: Requer dados auxiliares curados que devem corresponder à verdadeira distribuição OOD no momento do teste, um requisito que é trabalhoso e frágil.
A Falha do Espaço Nulo: Métodos recentes, como o PFS, tentam empurrar características OOD para o espaço nulo do classificador para aumentar as pontuações de logits. No entanto, isso destrói catastroficamente a geometria do espaço de características, fazendo com que a detecção baseada em KNN falhe (desempenhando pior do que o acaso).

A questão central abordada é: Qual propriedade geométrica torna a OE eficaz e pode isso ser replicado sinteticamente sem dados OOD reais para alcançar compatibilidade universal com classificadores?

2. Metodologia: GEODE

Os autores propõem o GEODE (DEtection preservando GEOmetria), um método baseado em treinamento que sintetiza sinais OOD para calibrar a fronteira de decisão enquanto preserva a geometria das características.

2.1 Análise Geométrica da OE

Através de análise geométrica na camada penúltima de uma rede base treinada (ResNet-18), os autores descobriram que:

A OE é Calibração de Fronteira, não Cobertura: As características da OE são geometricamente indistinguíveis de dados reais de OOD próximo. Especificamente, elas coincidem na razão de norma, na similaridade cosseno máxima em relação às médias das classes e na projeção em subespaço.
O Efeito do Quartil: O "quartil adjacente à fronteira" dos dados de OE (amostras com alta similaridade cosseno em relação às médias das classes ID, $>0,85$ ) impulsiona quase todo o ganho de desempenho da OE. Exemplos distantes da fronteira contribuem pouco.
Conclusão: O mecanismo eficaz é calibrar a região da fronteira, não cobrir todo o espaço OOD.

2.2 O Mecanismo GEODE

O GEODE replica essa calibração sinteticamente usando embaralhamento de características (permutando dimensões através de um lote) e uma perda de norma adaptativa ao ângulo.

Geração Sintética de OOD: Em vez de usar dados auxiliares, o GEODE cria características OOD sintéticas ( $h_{ood}$ ) permutando independentemente as dimensões das características através de um lote de características ID. Isso quebra as correlações inter-dimensionais enquanto preserva as estatísticas marginais.
Alvo Adaptativo ao Ângulo: A inovação central é uma norma alvo $t$ $t$ que escala por amostra com base na similaridade cosseno ( $s$ $s$ ) da característica sintética em relação à média da classe mais próxima ( $\mu_c$ $μ_{c}$ ):
$s = \max_c \cos(h_{ood}, \mu_c)$
$t = s^2 \cdot \alpha \cdot r_{id}$
Onde $r_{id}$ $r_{i d}$ é a norma média da característica ID e $\alpha$ $α$ é um parâmetro de relaxamento.
- Próximo às Médias das Classes ( $s \approx 1$ ): A norma alvo é grande ( $t \approx \alpha \cdot r_{id}$ ). Isso preserva a geometria local das características exigida por classificadores baseados em distância, como KNN.
- Longe das Classes ( $s \approx 0$ ): A norma alvo é pequena ( $t \approx 0$ ). Isso empurra as características em direção à origem, aguçando a separação para classificadores baseados em logits, como MSP e Energy.
Margem Contrastiva ID: Para ampliar a margem de ambos os lados, um termo contrastivo incentiva as características ID a terem normas ligeiramente maiores que $r_{id}$ (penalizando características ID apenas quando $\|h\| < r_{id}$ ).
Função de Perda: A perda total combina Entropia Cruzada, a penalidade de norma OOD adaptativa e a margem contrastiva ID.

2.3 Justificativa Teórica

O design é fundamentado na teoria do Colapso Neural (NC), onde as médias das classes convergem para uma Estrutura Rígida Equiangular Simples (ETF).

Teorema 1: Caracteridades embaralhadas concentram-se na média global, justificando a necessidade de direcionamento adaptativo baseado nos ângulos individuais das amostras.
Teorema 2 e 3: O alvo adaptativo preserva distâncias pareadas locais próximas às fronteiras das classes (crucial para KNN) melhor do que uma penalidade de norma uniforme.
Teorema 4: Empurrar características OOD para o espaço nulo (como o PFS faz) elimina a variação de distância condicional à classe, causando a falha do KNN. O GEODE evita isso mantendo as características OOD dentro do subespaço do classificador.

3. Contribuições Principais

Enquadramento Geométrico: O artigo fornece a primeira caracterização geométrica de por que a OE funciona (calibração de fronteira) e diagnostica a falha catastrófica de métodos de espaço nulo (PFS) no KNN.
Design do Método: O GEODE introduz uma perda de norma adaptativa ao ângulo que sintetiza sinais OOD sem dados auxiliares, preservando a geometria necessária tanto para classificadores baseados em logits quanto para classificadores baseados em espaço de características.
Universalidade Empírica: O GEODE alcança AUROC competitivo em todos os sete classificadores padrão (MSP, Energy, ODIN, ReAct, Scale, ASH, KNN) em CIFAR-10 e CIFAR-100, sem falha catastrófica em nenhum classificador único.
Composabilidade: O GEODE é ortogonal à OE. A combinação deles produz resultados state-of-the-art (por exemplo, 95,0 MSP / 94,8 KNN no CIFAR-10), superando a OE sozinha em todos os classificadores.

4. Resultados Experimentais

Avaliado nos benchmarks OpenOOD v1.5 (CIFAR-10, CIFAR-100, ImageNet-200) usando ResNet-18 e WRN-28-10:

CIFAR-10 (OOD Próximo): O GEODE alcança 92,30 AUROC (EBO) e varia de 89,0 a 92,3 em todos os sete classificadores. Evita a "falha catastrófica" vista em outros métodos (por exemplo, o PFS reduz o KNN para 14,38; o GEODE mantém 89,04, um compromisso deliberado de 1,6 pontos para ganhos massivos em logits).
CIFAR-100: O GEODE supera a CE (Cross-Entropy) simples em contagens de épocas correspondidas e supera a OE em todos os três classificadores (MSP, Energy, KNN) quando combinada.
ImageNet-200: O GEODE não apresenta falhas catastróficas entre os classificadores (faixa 77,93–83,48), enquanto o LogitNorm falha catastroficamente no Energy (29,67) e no ReAct (26,53).
Dinâmicas de Treinamento: O GEODE supera a CE simples à medida que o treinamento progride (até 400 épocas), beneficiando-se da convergência do Colapso Neural. Em contraste, o LogitNorm degrada-se com treinamentos mais longos porque interfere na convergência do NC.

5. Significado e Alegações

O artigo afirma que o GEODE resolve o compromisso de longa data entre detecção OOD baseada em logits e baseada em espaço de características. Ao reconhecer que a detecção OOD eficaz depende da calibração de fronteira e não da cobertura total do OOD, o GEODE sintetiza um sinal de treinamento que respeita o locus geométrico da fronteira de decisão.

Compatibilidade Universal: Diferentemente de métodos anteriores que otimizam para uma família específica de classificadores às custas de outros, o GEODE funciona em todos os classificadores padrão sem falha catastrófica.
Eficiência de Dados: Alcança esses resultados sem exigir conjuntos de dados OOD auxiliares curados, confiando em vez disso no embaralhamento sintético de características.
Alinhamento Teórico: O método é projetado para ser compatível com a convergência natural do Colapso Neural, ao contrário de métodos que modificam logits e perturbam essa convergência.

Os autores notam modestamente limitações: o componente de margem contrastiva não se generaliza bem para o CIFAR-100 (devido à geometria ETF frágil de 100 classes), e o GEODE não melhora sobre o ViT-B/16 simples em pequenos conjuntos de dados (provavelmente devido ao LayerNorm apagando variações de norma e o modelo não atingir o regime de NC). Trabalhos futuros são sugeridos para variantes amigáveis a Transformers e benchmarks em maior escala.