Revisiting Unknowns: Towards Effective and Efficient Open-Set Active Learning

O artigo propõe o E²OAL, um quadro unificado e sem detectores para aprendizado ativo em conjunto aberto que elimina a sobrecarga de treinamento ao explorar rótulos de classes desconhecidas para melhorar a discriminação de classes conhecidas e a calibração, superando consistentemente os métodos mais avançados em precisão e eficiência.

O essencial

Imagine que você é um professor de história tentando ensinar seus alunos sobre a história da Europa. Você tem um monte de livros (os dados) na biblioteca, mas apenas alguns estão marcados com capítulos claros (os dados rotulados). O resto é uma bagunça de livros sem capa.

O problema é que, entre esses livros sem capa, existem alguns que falam sobre a história da Europa (o que você quer aprender) e outros que falam sobre culinária de Marte ou sobre jogos de xadrez (coisas que você não conhece e não quer aprender agora).

Se você pedir para um aluno escolher os melhores livros para ler, ele pode ficar confuso. Livros sobre "Culinária de Marte" são muito estranhos e diferentes dos livros de história. O aluno pode pensar: "Uau, isso é tão diferente que deve ser super importante para eu aprender história!", e acaba escolhendo esses livros inúteis. Isso é o que acontece na Aprendizagem Ativa de Conjunto Aberto (OSAL): o computador tenta aprender, mas acaba gastando tempo e dinheiro (que são os rótulos humanos) em coisas que não fazem parte da lição.

A maioria dos métodos antigos tenta resolver isso usando um "detetive separado" para identificar os livros de Marte. Mas treinar esse detetive custa muito caro e, pior, eles ignoram que, às vezes, os livros de "Culinária de Marte" já estão na mesa com um rótulo de "Desconhecido". Eles jogam esses livros fora em vez de usá-los para ajudar a entender melhor a história da Europa.

A Solução: E2OAL (O Professor Esperto)

Os autores deste artigo criaram um novo método chamado E2OAL. Pense nele como um professor muito esperto que não precisa de um detetive separado e sabe usar tudo o que tem na mesa.

Aqui está como ele funciona, passo a passo, com analogias simples:

1. Organizando a Bagunça (Agrupamento Inteligente)

Imagine que você tem uma pilha de livros desconhecidos. Em vez de jogá-los na lixeira, o E2OAL olha para eles e diz: "Ei, esses dois livros parecem falar sobre culinária italiana, e aqueles três sobre culinária japonesa".
Ele usa uma técnica mágica (chamada de clustering em um espaço de características congelado) para agrupar os "desconhecidos" em categorias naturais. Ele descobre que, mesmo sem saber o nome exato, os livros desconhecidos têm uma estrutura interna. Isso ajuda o professor a entender melhor o que é "história da Europa" ao ver o que não é.

2. A Calibração da Confiança (O Termômetro de Verdade)

Os computadores antigos são muito confiantes e arrogantes. Mesmo quando veem um livro sobre Marte, eles dizem: "Tenho 99% de certeza que isso é história da Europa!". Isso é perigoso.
O E2OAL usa uma "calibração Dirichlet". Pense nisso como um termômetro que ajusta a temperatura. Se o computador não tem certeza, ele diz: "Tenho apenas 40% de certeza". Isso evita que ele se engane e escolha os livros errados. Ele aprende a ser humilde e preciso.

3. A Seleção de Livros (O Filtro Duplo)

Agora, o professor precisa escolher quais livros pedir para o aluno ler (rotular). Ele usa um sistema de duas etapas:

• Etapa 1 (Pureza): Ele cria uma lista de "candidatos" que têm muita chance de serem sobre história da Europa. Ele usa um filtro para garantir que a lista não esteja cheia de livros de Marte.
• Etapa 2 (Informação): Desses bons candidatos, ele escolhe os que são os mais interessantes. Ele não quer os livros óbvios (que todo mundo já sabe) nem os livros confusos demais. Ele quer os que estão "no meio do caminho", que vão ensinar algo novo.

Por que isso é genial?

1. Sem Detetive Extra: A maioria dos métodos precisa treinar um modelo extra só para detectar o que é "estranho". O E2OAL faz tudo isso com o próprio modelo de aprendizado, economizando tempo e dinheiro.
2. Usa o "Desconhecido": Em vez de ignorar os livros que ele sabe que são "desconhecidos", ele os usa como um espelho para entender melhor o que ele já conhece. É como dizer: "Olhando para o que não é história, eu entendo melhor o que é história".
3. Precisão Automática: O sistema se ajusta sozinho. Se ele percebeu que escolheu muitos livros de Marte na rodada anterior, ele ajusta o filtro para a próxima, sem que o humano precise ficar mexendo em botões complicados.

O Resultado

Nos testes, esse "Professor Esperto" (E2OAL) aprendeu mais rápido, com menos erros e gastou menos tempo do que os outros métodos. Ele conseguiu separar o trigo do joio (história de Marte) com muita eficiência, mesmo em cenários onde a bagunça era grande.

Em resumo: O E2OAL é uma maneira mais inteligente, barata e eficiente de ensinar computadores a aprenderem em um mundo cheio de coisas desconhecidas, transformando o "desconhecido" em um aliado, e não em um inimigo.

Resumo técnico

Título: Revisiting Unknowns: Towards Effective and Efficient Open-Set Active Learning (E2OAL)

Autores: Chen-Chen Zong, Yu-Qi Chi, Xie-Yang Wang, Yan Cui, Sheng-Jun Huang (Universidade de Aeronáutica e Astronáutica de Nanquim).

1. O Problema: Aprendizado Ativo em Cenários de Conjunto Aberto (OSAL)

O Aprendizado Ativo (AL) visa reduzir custos de anotação selecionando iterativamente as amostras mais informativas para rotulagem. No entanto, a maioria dos métodos tradicionais assume um cenário de conjunto fechado, onde todos os dados não rotulados pertencem a classes conhecidas.

Em cenários do mundo real (como direção autônoma ou diagnóstico médico), os dados não rotulados frequentemente contêm classes desconhecidas (fora da distribuição ou out-of-distribution - OOD). Isso caracteriza o Aprendizado Ativo de Conjunto Aberto (OSAL).

• Desafios Atuais:
  • Estratégias convencionais tendem a selecionar excessivamente amostras de classes desconhecidas devido à sua alta incerteza, degradando o aprendizado das classes conhecidas.
  • Métodos existentes de OSAL geralmente dependem de detectores de OOD separados, o que aumenta significativamente o custo computacional e a complexidade.
  • A maioria ignora o valor supervisionado das amostras de classes desconhecidas que já foram rotuladas (como "desconhecidas"), não aproveitando sua estrutura latente para melhorar a discriminação das classes conhecidas.

2. Metodologia: O Framework E2OAL

Os autores propõem o E2OAL (Effective and Efficient Open-set Active Learning), um framework unificado e livre de detectores (detector-free). O método opera em duas etapas principais a cada rodada de aprendizado ativo:

A. Estimativa Adaptativa de Classes e Treinamento

1. Descoberta de Estrutura Latente: Em vez de tratar todas as amostras desconhecidas como uma única classe genérica, o E2OAL utiliza um espaço de representação pré-treinado por contraste (ex: CLIP) para realizar agrupamento (clustering) guiado por rótulos nas amostras já rotuladas (conhecidas + desconhecidas).
2. Otimização de F1-Product: O número ideal de clusters desconhecidos ($\hat{u}$) é determinado dinamicamente através de uma busca ternária que maximiza um objetivo baseado no produto dos escores F1, alinhando os clusters com os rótulos verdadeiros.
3. Cabeça Auxiliar Calibrada (Dirichlet): O modelo utiliza uma cabeça de classificação principal (para classes conhecidas) e uma cabeça auxiliar treinada conjuntamente. Esta cabeça auxiliar emprega uma calibração baseada em Dirichlet (Evidential Deep Learning).
   • Isso substitui o softmax padrão, que tende a ser excessivamente confiante, por uma distribuição de Dirichlet que modela a evidência.
   • Permite uma melhor discriminação entre classes conhecidas e desconhecidas e fornece estimativas de confiança mais confiáveis.

B. Estratégia de Consulta em Duas Etapas

Para selecionar quais amostras solicitar anotação, o E2OAL equilibra pureza (probabilidade de ser uma classe conhecida) e informatividade:

1. Seleção de Candidatos de Alta Pureza:
   • Calcula-se um escore de pureza baseado na margem de logits ($S_{purity}$) da cabeça auxiliar.
   • Um Modelo de Mistura Gaussiana (GMM) é ajustado aos escores de pureza para separar amostras prováveis de classes conhecidas, desconhecidas e ambíguas.
   • Um pool de candidatos é construído dinamicamente para atender a uma precisão de consulta alvo ($p^*$), ajustando-se automaticamente sem necessidade de tuning manual de hiperparâmetros.
2. Seleção Baseada em Informatividade:
   • Dentro do pool de alta pureza, as amostras são ranqueadas por uma métrica de informatividade específica para conjunto aberto.
   • Esta métrica utiliza a Divergência Jensen-Shannon (JS) para favorecer amostras com incerteza moderada (nem totalmente aleatórias, nem excessivamente confiantes), evitando outliers.

3. Principais Contribuições

• Framework Unificado e Livre de Detectores: Elimina a necessidade de treinar redes separadas para detecção de OOD, reduzindo o custo computacional.
• Aproveitamento de "Desconhecidos" Rotulados: Demonstra que manter a estrutura latente das classes desconhecidas (através de clustering) e usá-las no treinamento melhora significativamente a discriminação das classes conhecidas.
• Calibração de Dirichlet: Introduz uma cabeça auxiliar calibrada que melhora a estimativa de confiança e a separação de classes em cenários abertos.
• Estratégia de Consulta Adaptativa: Um esquema de duas etapas que ajusta dinamicamente o tamanho do pool de candidatos para manter uma precisão de consulta fixa, sem hiperparâmetros adicionais.
• Métrica de Informatividade Robusta: Uma métrica que prioriza amostras ambíguas, mas confiáveis, sob condições de conjunto aberto.

4. Resultados Experimentais

O E2OAL foi avaliado em benchmarks padrão de classificação de imagens (CIFAR-10, CIFAR-100 e Tiny-ImageNet) com diferentes taxas de desajuste (proporção de classes desconhecidas).

• Desempenho: O E2OAL superou consistentemente os métodos state-of-the-art (como EAOA, BUAL, EOAL, MQNet) em acurácia de teste, eficiência de consulta e precisão de consulta.
• Eficiência: O método alcançou alta precisão com tempo de treinamento comparável a métodos leves (como Random ou Uncertainty), pois não requer detectores adicionais.
• Análise de Ablação:
  • A remoção do uso de rótulos de desconhecidos (treinamento independente) resultou em queda de desempenho, validando a importância de explorar a estrutura latente dos desconhecidos.
  • A calibração baseada em Dirichlet demonstrou ser crucial para aumentar a pureza das amostras selecionadas.
  • O método mostrou-se robusto à escolha do extrator de características (funcionando bem tanto com CLIP quanto com MoCo).

5. Significado e Impacto

Este trabalho é significativo porque redefine como o aprendizado ativo lida com o mundo aberto. Ao rejeitar a dependência de detectores externos e, em vez disso, transformar os dados de classes desconhecidas em um sinal de supervisão valioso, o E2OAL oferece uma solução mais eficiente, precisa e prática para aplicações críticas onde a presença de dados não vistos é inevitável. O código é disponibilizado publicamente, facilitando a adoção e reprodução dos resultados.