📊 statistics

Medix: Out-of-Distribution Detection from Unlabeled Wild Data via Robust Gradient Statistics

O artigo apresenta o Medix, um novo framework que aproveita estatísticas de gradiente robustas baseadas em mediana para identificar outliers de dados não rotulados de origem selvagem, permitindo o treinamento de um classificador fora da distribuição de alto desempenho que supera os métodos existentes em cenários de mundo aberto.

Autores originais: Momin Abbas, Ali Falahati, Hossein Goli, Mohammad Mohammadi Amiri

Publicado 2026-07-08

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Momin Abbas, Ali Falahati, Hossein Goli, Mohammad Mohammadi Amiri

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um segurança de um clube muito exclusivo (o modelo de IA). Seu trabalho é deixar entrar apenas pessoas que pertencem ao grupo específico do clube (dados In-Distribution ou de Distribuição Interna) e barrar qualquer um que não pertença (dados Out-of-Distribution ou OOD - Fora de Distribuição).

O problema é que, no mundo real, você não tem uma lista perfeita de "membros do clube" para comparar com todos os outros. Pior ainda, você muitas vezes tem que lidar com uma multidão enorme e bagunçada (dados selvagens não rotulados), onde você não sabe quem pertence e quem não pertence — alguns são membros, alguns são estranhos, e todos estão misturados.

Os métodos tradicionais tentam adivinhar quem é quem, mas costumam se confundir com o ruído. Este artigo apresenta um novo sistema chamado Medix, que atua como um filtro superinteligente e cancelador de ruído para resolver esse problema.

Aqui está como o Medix funciona, explicado através de analogias simples:

1. O Problema: A "Multidão Ruidosa"

Imagine que você está tentando encontrar a altura média de um grupo específico de pessoas (os membros do clube). Mas você está parado em uma multidão gigante e caótica, onde membros do clube estão misturados com estranhos, gigantes e anões. Se você apenas tirar a média da altura de todos nessa multidão, os gigantes e os anões vão distorcer o resultado, tornando sua "média" errada.

Em termos de IA, se você tentar treinar um modelo usando essa mistura bagunçada de dados sem saber quem é quem, os "estranhos" (outliers/valores atípicos) estragam a compreensão do modelo sobre o que é uma entrada "normal".

2. A Solução: O Filtro da "Mediana"

O Medix usa um truque inteligente chamado Mediana.

A Média (Mean): Se você tem 9 pessoas com 1,5 metro de altura e 1 gigante com 3 metros, a altura média sobe para cerca de 1,65 metro. O gigante puxa a média para cima.
A Mediana (Median): Se você enfileirar todos do mais baixo para o mais alto, a mediana é a pessoa que está bem no meio. Mesmo com esse único gigante, a mediana permanece em 1,5 metro. O gigante é ignorado porque é um valor extremo (outlier).

O Medix usa essa lógica do "meio-termo" para encontrar o centro verdadeiro dos dados, ignorando os estranhos ruidosos.

3. Como o Medix Funciona (Os Três Passos)

Passo 1: Aprendendo a "Vibe" Normal
Primeiro, o Medix observa um grupo limpo e rotulado de membros do clube (dados In-Distribution) para aprender como é a "vibe" deles. Em termos técnicos, ele calcula um Gradiente de Referência. Pense nisso como tirar uma fotografia perfeita do comportamento médio dos membros do clube.

Passo 2: O "Aperto" (Filtrando a Multidão)
Agora, o Medix observa a multidão bagunçada e não rotulada. Ele calcula a "vibe" (gradiente) de cada pessoa nessa multidão.

Ele pergunta: "Se eu remover esta pessoa específica, a vibe média da multidão fica mais próxima da 'vibe' normal que aprendemos no Passo 1?"
Se remover uma pessoa faz com que a multidão pareça mais com os membros normais do clube, essa pessoa era provavelmente um estranho (um outlier) atrapalhando as coisas.
O Medix faz isso de forma iterativa, como um jogo de dança das cadeiras onde ele continua expulsando as pessoas que estão afastando a "vibe" do grupo da verdade. Ele usa a Mediana para garantir que alguns poucos outliers barulhentos não enganem o sistema.

Passo 3: Treinando o Segurança
Uma vez que o Medix filtrou os estranhos e identificou os "suspeitos" (os outliers que ele encontrou com sucesso), ele pega esses suspeitos e os membros originais do clube para treinar um novo segurança superinteligente (o detector de OOD).

Ele ensina ao segurança: "Estas pessoas são membros. Estas pessoas que encontramos na multidão são definitivamente NÃO membros."
Como os "suspeitos" foram encontrados usando um método robusto e resistente ao ruído, o novo segurança será muito melhor em detectar estranhos no futuro.

4. Por que é Melhor que Outros

O artigo afirma que outros métodos são como tentar encontrar uma agulha em um palheiro olhando para a média do feno. Se o feno estiver molhado ou sujo, a média é prejudicada.

O Medix é como usar um ímã que só pega o metal (o sinal verdadeiro) e ignora a sujeira e o ruído.

Robustez: Mesmo que 50% da multidão seja de estranhos, o Medix ainda consegue encontrar o centro verdadeiro dos membros do clube porque a Mediana é obstinada e não se importa com valores extremos.
Não Precisa de Listas Perfeitas: Ao contrário de alguns outros métodos que exigem uma lista limpa de "vilões" para treinamento, o Medix consegue encontrar os vilões dentro de uma pilha de dados bagunçada e não rotulada.

Os Resultados

Os autores testaram o Medix em vários conjuntos de dados de imagens (como CIFAR-10 e CIFAR-100). Eles descobriram que o Medix é significativamente melhor em detectar "estranhos" do que outros 20 métodos populares.

Ele reduziu a taxa de erro (Taxa de Falsos Positivos) por uma margem enorme em comparação ao segundo melhor método.
Provou matematicamente que essa abordagem de "Mediana" é confiável e não falhará, mesmo quando os dados forem muito ruidosos.

Em resumo: O Medix é um filtro inteligente que usa o "meio-termo" (Mediana) para ignorar o ruído em uma multidão bagunçada, permitindo que uma IA aprenda exatamente o que pertence e o que não pertence, mesmo quando não lhe foi dada uma lista perfeita de regras.

Resumo Técnico: Medix – Detecção de Fora da Distribuição a partir de Dados Não Rotulados do Mundo Real via Estatísticas de Gradiente Robustas

Declaração do Problema

A implantação de modelos de aprendizado de máquina em ambientes do mundo real expõe-nos a entradas Fora da Distribuição (OOD — Out-of-Distribution) — dados de categorias desconhecidas que o modelo não foi treinado para reconhecer. Embora as redes neurais sejam inerentemente vulneráveis a tais entradas, a detecção delas durante a inferência é um desafio porque os modelos não são expostos a distribuições desconhecidas durante o treinamento.

Abordagens recentes tentaram utilizar dados não rotulados "do mundo real" (in-the-wild) para melhorar a detecção de OOD. No entanto, um obstáculo significativo permanece: os dados do mundo real são uma mistura complexa de amostras da Distribuição Interna (InD — In-Distribution) e OOD. Diferente de métodos que assumem o acesso a um conjunto auxiliar limpo de dados OOD (ex: Exposição de Outliers), os dados do mundo real carecem de rótulos distintos. A ausência de um conjunto limpo de amostras OOD complica o treinamento de um classificador OOD ideal, pois o modelo deve distinguir entre amostras InD e OOD dentro de uma distribuição contaminada sem supervisão explícita.

Metodologia: O Framework Medix

Os autores propõem o Medix, um novo framework projetado para identificar potenciais outliers de um conjunto de dados selvagens não rotulados utilizando estatísticas de gradiente robustas de mediana elemento a elemento (EWM — element-wise median). O framework opera em duas etapas principais:

1. Extração de Outliers (Filtragem)

A inovação central do Medix reside na sua capacidade de filtrar amostras candidatas a OOD de um conjunto de dados selvagens mistos ( $S_{wild}$ ) sem conhecimento prévio de seus rótulos.

Estimativa de Gradiente de Referência: Primeiro, um classificador InD ( $f_\phi$ ) é treinado exclusivamente em dados InD rotulados ( $S_{in}$ ). O gradiente médio ( $\bar{\nabla}_{in}$ ) da função de perda em relação aos parâmetros do modelo é computado sobre $S_{in}$ . Este serve como o gradiente de referência.
Filtragem Robusta via EWM: O método hipotetiza que a presença de amostras OOD nos dados do mundo real causa um desvio entre o gradiente médio InD e a tendência central dos gradientes dos dados selvagens. Para identificar esta tendência central de forma robusta, o Medix utiliza a mediana elemento a elemento dos gradientes em vez da média. A mediana é escolhida por sua estabilidade contra ruído e outliers.
Remoção Gananciosa Iterativa: O framework formula um problema de otimização para encontrar um subconjunto dos dados selvagens que minimize a distância entre seu EWM e o gradiente de referência $\bar{\nabla}_{in}$ $\overset{ˉ}{\nabla}_{in}$ . Como resolver isso exatamente é intratável, o Medix utiliza uma abordagem gananciosa, iterativa de "deixar um de fora" (leave-one-out) (Algoritmo 1):
1. Computar o EWM do conjunto selvagem atual.
2. Identificar amostras cuja remoção resulta na maior redução na distância L2 entre o novo EWM e $\bar{\nabla}_{in}$ .
3. Remover o top- $k$ dessas amostras como candidatos a outliers.
4. Repetir até que a redução na distância caia abaixo de um limiar $\epsilon$ .
Resultado: Este processo isola um conjunto de candidatos a outliers ( $\hat{S}_{out}$ ) e retém um conjunto mais limpo de amostras do tipo InD.

2. Treinamento do Detector

Uma vez extraídos os candidatos a outliers, o framework treina um detector binário de OOD ( $g_\theta$ ).

O detector é treinado usando os dados InD originais rotulados ( $S_{in}$ ) como exemplos positivos e os candidatos a outliers extraídos ( $\hat{S}_{out}$ ) como exemplos negativos.
O objetivo é maximizar a separabilidade entre esses dois grupos, impondo uma fronteira de decisão onde as amostras InD geram saídas positivas e os outliers geram saídas negativas.

Análise Teórica

O artigo fornece garantias teóricas formais para a etapa de filtragem sob o modelo de contaminação de Huber, onde os dados do mundo real são uma mistura de distribuições InD e OOD com uma razão de contaminação $\pi$ .

Limite de Classificação Errada de Inliers: Os autores derivam um limite superior para a fração de amostras InD verdadeiras descartadas incorretamente como outliers. Este limite depende da razão de contaminação e da concentração dos gradientes InD (assumidos como sub-Gaussianos).
Limite de Classificação Errada de Outliers: Inversamente, eles limitam a fração de amostras OOD verdadeiras retidas incorretamente como InD. Este limite baseia-se na separação entre a média do gradiente OOD e o gradiente de referência InD, bem como na natureza sub-Gaussiana dos gradientes OOD.
Insight Chave: A análise demonstra que a filtragem baseada em mediana alcança uma separação robusta mesmo quando os samples OOD constituem uma parte significativa da mistura (até 50%), desde que as distribuições sejam suficientemente separadas.

Resultados Experimentais

O Medix foi avaliado em onze pares de conjuntos de dados InD-OOD, utilizando primariamente o CIFAR-10 e CIFAR-100 como InD e vários conjuntos de dados (SVHN, PLACES365, LSUN, TEXTURES) como fontes OOD. O método foi comparado com 20 baselines competitivos, incluindo:

Métodos apenas com InD: MSP, ODIN, Mahalanobis, Energy, ReAct, DICE, KNN, ASH, CSI, KNN+.
Métodos com dados do mundo real (wild-data): Outlier Exposure (OE), Energy-regularization, WOODS, CONJ, DRL.

Principais Descobertas:

Desempenho Superior: O Medix superou todos os baselines em todas as frentes. No CIFAR-100, ele reduziu a Taxa de Falso Positivo média em 95% de Taxa de Verdadeiro Positivo (FPR95) em 40,98% em comparação com o forte baseline KNN+ e em 1,32% em relação ao anterior estado da arte em métodos de dados selvagens, o WOODS.
Robustez à Contaminação: O método manteve alto desempenho mesmo quando os dados do mundo real continham uma mistura de 50% de amostras OOD.
Escalabilidade: Experimentos em arquiteturas maiores (ResNet-50) e conjuntos de dados de larga escala (ImageNet-1k) confirmaram que o sinal de filtragem baseado em L2 permanece robusto em espaços de gradiente de alta dimensão.
Estudos de Ablação: Os autores demonstraram que os ganhos de desempenho advêm especificamente da precisão da filtragem baseada em mediana, e não apenas do pipeline de duas etapas. Substituir o filtro de mediana por um filtro de Máxima Probabilidade de Softmax (MSP) ingênuo resultou em um colapso significativo de desempenho.

Significância e Alegações

O artigo afirma que o Medix aborda uma lacuna crítica na detecção de OOD: a capacidade de aproveitar dados não rotulados e misturados do "mundo real" sem exigir conjuntos auxiliares de OOD limpos ou suposições distributivas fortes.

Mecanismo Novel: Ao aproveitar a robustez da mediana elemento a elemento, o Medx fornece um mecanismo teoricamente fundamentado para filtrar outliers de dados mistos, uma tarefa anteriormente considerada difícil devido à falta de rótulos OOD distintos.
Fundamentação Teórica: O trabalho estabelece limites de erro prováveis tanto para a classificação errada de inliers quanto de outliers, oferecendo uma base teórica formal para o cenário "in-the-wild", uma área onde tais fundamentos eram escassos anteriormente.
Impacto Prático: O método oferece maior flexibilidade para implantação no mundo real, onde modelos devem operar em ambientes dinâmicos com distribuições de dados desconhecidas. Os resultados empíricos sugerem que o Medix pode aumentar significativamente a segurança e a confiabilidade de sistemas de aprendizado de máquina ao identificar e lidar efetivamente com entradas OOD usando dados não rotulados prontamente disponíveis.

Os autores concluem que o Medix representa um passo significativo no aprendizado em mundo aberto (open-world learning), demonstrando que estatísticas de gradiente robustas podem converter efetivamente dados não rotulados do mundo real em supervisão útil para a detecção de OOD.