🤖 machine learning

Debiased Negative Mining Improves Out-of-distribution Detection with Pre-trained Vision-Language Models

Este artigo propõe um método inovador para detecção de distribuição fora do padrão utilizando modelos pré-treinados de visão e linguagem que aborda o problema de falsos negativos na mineração de rótulos negativos ao introduzir um quadro teórico para amostragem desviada, o qual é implementado na prática como amostragem de Monte-Carlo para alcançar desempenho de última geração.

Autores originais: Bo Peng, Jie Lu, Guangquan Zhang, Zhen Fang

Publicado 2026-05-25

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Bo Peng, Jie Lu, Guangquan Zhang, Zhen Fang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

A Visão Geral: O Problema do "Perigo Estranho" para a IA

Imagine que você tem um guarda de segurança muito inteligente (um modelo de IA) que foi treinado para reconhecer 1.000 animais específicos (como gatos, cães e águias). Este guarda é excelente em identificar esses animais. No entanto, no mundo real, o guarda pode encontrar um animal completamente novo que nunca viu antes, como um ornitorrinco ou um cão robô.

Se o guarda for muito confiante, ele pode tentar forçar o ornitorrinco na categoria de "pato" ou "castor", o que é um erro. Isso é chamado de erro de Fora da Distribuição (OOD). O objetivo deste artigo é ensinar o guarda a dizer: "Não sei o que é isso", em vez de chutar errado.

A Solução Atual: A "Lista de Não-Isto"

Para ajudar o guarda a identificar estranhos, os pesquisadores começaram a usar uma ferramenta especial chamada Modelo Visão-Linguagem (VLM). Pense nesta ferramenta como um guarda que não apenas vê o animal, mas também conhece os nomes de milhares de outros animais.

O método popular atual funciona assim:

O guarda olha para o animal desconhecido.
Ele compara o animal com os 1.000 animais conhecidos (Dentro da Distribuição ou ID).
Ele também compara o animal com uma longa lista de animais aleatórios que escolheu de um dicionário (Rótulos Negativos).
Se o animal desconhecido parecer mais com a "lista aleatória" do que com a "lista conhecida", o guarda o marca como um estranho.

O Problema: O método atual escolhe esses "animais aleatórios" (rótulos negativos) usando uma regra simples: "Escolha palavras que soem ou pareçam diferentes dos animais conhecidos".

A Falha: Isso é como tentar encontrar um "não-cão" escolhendo palavras que não sejam "cão". Você pode acidentalmente escolher "lobo" ou "raposa". Para a IA, um lobo parece muito com um cão. Então, a IA fica confusa. Ela pensa: "Bem, este novo animal parece um lobo, e um lobo está na minha lista de 'não-cão', então isso deve ser um cão!"
O Resultado: A IA comete erros porque sua "lista de estranhos" está contaminada com coisas que realmente se parecem com as coisas que ela deveria conhecer. Isso é chamado de Viés de Mineração Negativa.

A Solução do Artigo: O Detetive "Deviado"

Os autores deste artigo dizem: "Precisamos de uma maneira melhor de escolher nossa lista de 'estranhos' sem acidentalmente escolher coisas que se parecem com nossos amigos."

Eles desenvolveram um truque matemático para corrigir esse viés sem precisar que um humano verifique cada palavra na lista. Veja como eles fazem isso, usando uma analogia:

A Analogia: A Estação de Rádio Barulhenta

Imagine que você está tentando ouvir uma música específica (o sinal do "Verdadeiro Estranho"), mas seu rádio está captando estática e outras músicas (o "Corpus Selvagem" ou dados não rotulados).

Método Antigo: Você apenas aumenta o volume na estática, esperando que a música que você quer seja alta o suficiente para se destacar. Às vezes, a estática abafa a música, ou você confunde uma música com som semelhante com a que você quer.
Novo Método (Mineração Negativa Deviada): Os autores perceberam que a "estática" (os dados selvagens) é na verdade uma mistura de duas coisas:
1. Coisas que são semelhantes aos seus amigos conhecidos (Ruído Positivo).
2. Coisas que são verdadeiramente estranhas (Ruído Negativo).

Em vez de adivinhar qual é qual, eles usam um truque de subtração matemática.

Eles estimam quanto ruído "semelhante a amigo" existe na mistura.
Eles subtraem matematicamente esse ruído "semelhante a amigo" da estática total.
O que sobra é um sinal muito mais limpo do que um "verdadeiro estranho" realmente parece.

Em termos técnicos, eles usam uma técnica chamada Amostragem por Importância. Eles pegam os dados bagunçados e não rotulados e corrigem matematicamente o fato de que parte deles se parece demais com as classes conhecidas. Isso cria uma pontuação "Deviada".

Como Eles Fazem (Os 3 Passos)

O artigo descreve um processo prático de três etapas para construir esse melhor "detector de estranhos":

Escolher os Melhores "Estranhos": Eles pegam um enorme e bagunçado dicionário de palavras (o corpus selvagem). Em vez de escolhê-los aleatoriamente, eles escolhem as palavras que são mais "densas" ou agrupadas juntas. Pense nisso como escolher os exemplos mais representativos de "estranheza", em vez de outliers aleatórios.
Simular os "Amigos": Como eles não têm uma lista de "verdadeiros amigos" para subtrair, eles criam uma lista falsa. Eles pegam os nomes dos animais conhecidos (por exemplo, "Gato") e adicionam um pouquinho de "ruído" (aleatoriedade) a eles na memória do computador. Isso simula como um "amigo" se parece nos dados bagunçados.
A Magia Matemática: Eles inserem essas duas listas em sua fórmula. Eles calculam a pontuação para o animal desconhecido e, em seguida, subtraem a pontuação simulada de "amigo" da pontuação bagunçada de "estranho". Isso cancela a confusão.

Os Resultados: Por Que Isso Importa

Os autores testaram esse novo método contra os antigos usando conjuntos de dados de imagens famosos (como ImageNet).

O Resultado: Seu método consistentemente superou os melhores métodos anteriores.
A Prova: Nos testes, sua IA foi muito melhor em dizer "Não sei" quando mostrada uma imagem estranha, e muito menos propensa a chutar o animal errado com confiança.
Robustez: Funcionou bem mesmo quando os animais "conhecidos" eram ligeiramente diferentes (por exemplo, desenhos em vez de fotos) ou quando usavam diferentes tipos de cérebros de IA.

Resumo

Este artigo corrige uma falha específica na forma como a IA aprende a identificar "desconhecidos". O jeito antigo era como tentar encontrar uma agulha num palheiro ignorando o palha, mas acidentalmente pegando outras agulhas que pareciam semelhantes. O novo jeito usa um filtro matemático para remover essas "agulhas falsas", dando à IA uma visão muito mais clara do que é verdadeiramente desconhecido. Isso torna a IA mais segura e confiável quando encontra coisas que nunca viu antes.

Resumo Técnico: Mineração Negativa Desviciada Melhora a Detecção de Dados Fora da Distribuição com Modelos Visão-Linguagem Pré-treinados

Declaração do Problema
A detecção de dados Fora da Distribuição (OOD) é crítica para garantir a confiabilidade de modelos de aprendizado de máquina em cenários de mundo aberto, onde os dados de teste podem conter classes não vistas. Embora Modelos Visão-Linguagem (VLMs) pré-treinados, como o CLIP, tenham mostrado promessa na detecção OOD post-hoc ao explorar afinidades semânticas entre rótulos Dentro da Distribuição (ID) e rótulos "negativos" (semanticamente distintos dos ID), as abordagens existentes enfrentam uma limitação teórica significativa. Métodos atuais, como o NegLabel, dependem de regras heurísticas (por exemplo, similaridade de cosseno) para minerar rótulos negativos de dados não rotulados de "corpus selvagem" (por exemplo, WordNet). Os autores argumentam que essas regras heurísticas carecem de garantias teóricas para capturar a verdadeira dissimilaridade semântica, levando a um "viés de mineração negativa". Esse viés ocorre porque o conjunto negativo minerado é inevitavelmente contaminado com "falsos negativos" (rótulos que são, na verdade, semanticamente similares às classes ID), resultando em funções de pontuação OOD subótimas. O desafio central abordado é como mitigar esse viés de amostragem sem exigir informações de similaridade verdadeiras ou feedback humano adicional sobre o corpus selvagem.

Metodologia
O método proposto, Mineração Negativa Desviciada, introduz um quadro teórico para corrigir o viés de amostragem de rótulos negativos ao aproximar indiretamente a distribuição verdadeira dos rótulos negativos. A abordagem fundamenta-se nos seguintes passos:

Modelagem de Distribuição: Os autores modelam a distribuição de dados selvagens não rotulados ( $Q_Y$ ) como uma mistura de rótulos positivos verdadeiros ( $P^+_Y$ ) e rótulos negativos verdadeiros ( $P^-_Y$ ) usando o modelo de contaminação de Huber: $Q_Y = \tau \cdot P^+_Y + (1-\tau) \cdot P^-_Y$ , onde $\tau$ é uma probabilidade a priori tratada como um hiperparâmetro.
Derivação Teórica: Ao reorganizar o modelo de mistura, a distribuição negativa verdadeira é expressa como $P^-_Y = (Q_Y - \tau \cdot P^+_Y) / (1-\tau)$ . Os autores derivam uma função de pontuação OOD não viciada baseada nessa relação.
Aproximação Assintótica: Para evitar estimativas computacionalmente caras, o método utiliza o teorema da convergência dominada para mostrar que, à medida que o número de rótulos negativos tende ao infinito, a função de pontuação converge para uma forma dependente das expectativas da distribuição selvagem e da distribuição positiva.
Amostragem por Importância Monte-Carlo: A função de pontuação desviciada final é implementada como um estimador Monte-Carlo. Ela requer:
- Amostragem de Corpus Selvagem ( $u_i$ ): Seleção de amostras representativas do corpus selvagem baseada em densidade local (usando $\alpha$ -vizinhos mais próximos) para aproximar a expectativa sobre $Q_Y$ .
- Síntese de Rótulos Positivos ( $v_i$ ): Como os rótulos positivos verdadeiros do corpus selvagem são desconhecidos, o método sintetiza características positivas aplicando uma transformação que preserva a semântica (adicionando ruído gaussiano e normalizando) aos embeddings de rótulos ID conhecidos.
- Pontuação: A pontuação OOD final é computada combinando as afinidades dos rótulos ID com a diferença ponderada entre a expectativa do corpus selvagem e a expectativa positiva sintetizada, cancelando efetivamente a contaminação de falsos negativos.

Principais Contribuições

Quadro Teórico: O artigo desenvolve um quadro teórico inovador que corrige o viés de amostragem de rótulos negativos sem exigir informações de similaridade ou dissimilaridade verdadeiras, abordando o problema de "falsos negativos" inerente à mineração heurística.
Implementação Prática: Os autores implementam essa correção como uma estratégia eficiente de amostragem por importância que depende exclusivamente do acesso a exemplos positivos (rótulos ID) e dados selvagens não rotulados, evitando a necessidade de supervisão adicional.
Desempenho Estado da Arte: Experimentos extensivos demonstram que o método estabelece novos resultados de estado da arte em diversos benchmarks de detecção OOD, diferentes arquiteturas CLIP (ViT-B/32, ViT-L/14, ResNet-50) e diferentes resoluções de entrada.
Robustez: O método demonstra forte generalização e robustez em cenários com deslocamento de domínio (por exemplo, ImageNet-A, ImageNet-R, ImageNetV2), superando métodos zero-shot existentes.

Resultados Experimentais
O método foi avaliado no benchmark ImageNet-1K com rótulos ID, testado contra conjuntos de dados OOD incluindo iNaturalist, SUN, Places365 e Textures.

Desempenho: O método proposto alcançou uma AUROC média de 94,52% e um FPR95 de 22,37%, superando o melhor método zero-shot anterior, NegLabel (94,21% de AUROC, 25,40% de FPR95).
Ablação: O método superou consistentemente o NegLabel em diferentes backbones visuais (ViT-B/32, ViT-L/14, ResNet-50) e resoluções de entrada (224x224 vs. 336x336).
Sensibilidade do Corpus: O método demonstrou desempenho superior ao NegLabel quando testado com diferentes fontes de corpus (Common-20K e Tags de Classe Gramatical), indicando flexibilidade na escolha de dados selvagens.
Hiperparâmetros: O método mostrou-se estável em uma ampla gama de hiperparâmetros, incluindo a probabilidade a priori $\tau$ , a intensidade do ruído $\sigma$ e o número de rótulos amostrados $L$ .

Significância
O artigo afirma que, embora a mineração de rótulos negativos tenha sido uma heurística bem-sucedida, seu poder não foi totalmente desbloqueado devido à questão não resolvida dos falsos negativos. Ao fornecer uma correção teórica para esse viés, o trabalho "desbloqueia" o potencial dos VLMs para detecção OOD. Os autores enfatizam que sua abordagem alcança esses ganhos sem exigir dados de treinamento adicionais ou feedback humano sobre o corpus selvagem, tornando-a uma solução prática e robusta para detecção OOD zero-shot. O trabalho sugere que direções futuras poderiam envolver a incorporação de Modelos de Linguagem Grandes Multimodais pré-treinados, mas a contribuição atual foca no refinamento do processo de mineração negativa dentro de quadros VLMs existentes.