A Review of Pseudo-Labeling for Computer Vision

1. O Problema

Os modelos de redes neurais profundas alcançaram o estado da arte em diversas tarefas de visão computacional, mas dependem criticamente de grandes conjuntos de dados rotulados para generalizar eficazmente. A obtenção de tais rótulos é frequentemente laboriosa, cara e requer especialistas, especialmente em domínios de nicho (como ciências).
O Aprendizado Semi-Supervisionado (SSL) tenta mitigar isso utilizando grandes quantidades de dados não rotulados. No entanto, a definição e aplicação de "pseudo-rótulos" (rótulos atribuídos pelo modelo a dados não rotulados) foram tradicionalmente tratadas de forma fragmentada entre o SSL, o Aprendizado Não Supervisionado (UL) e o Aprendizado Auto-Supervisionado. O artigo identifica a necessidade de unificar essas áreas sob uma definição comum de pseudo-rótulos para identificar sinergias e novas direções de pesquisa.

2. Metodologia e Definição Unificada

Os autores propõem uma definição formal e unificada de Pseudo-Rótulos baseada na teoria de Conjuntos Fuzzy (Fuzzy Sets) e Partições Fuzzy:

• Definição Formal: Um pseudo-rótulo é definido como um vetor estocástico (distribuição de probabilidade sobre as classes) gerado por uma partição fuzzy inferida a partir de um modelo treinado.
• Unificação: Esta definição abrange não apenas o SSL tradicional (onde o modelo gera rótulos para dados não rotulados), mas também técnicas de Aprendizado Auto-Supervisionado (onde rótulos são atribuídos a clusters ou transformações de dados) e Distilação de Conhecimento (onde um modelo "professor" gera rótulos para um modelo "aluno").
• Características Comuns: O artigo classifica as técnicas de pseudo-rótulos com base em três características principais:
  1. Auto-afiamento (Self-sharpening): Um único modelo gera rótulos a partir de uma única visão dos dados.
  2. Aprendizado Multi-Visão: Amostras são representadas de múltiplas formas (via aumento de dados) para promover padrões generalizáveis.
  3. Aprendizado Multi-Modelo: Múltiplos modelos são usados (ex: configurações professor-aluno ou co-training) para gerar rótulos mais robustos.

3. Principais Contribuições

O artigo oferece uma revisão abrangente e uma taxonomia detalhada (ilustrada na Figura 1 do texto) que conecta diferentes subcampos:

• Taxonomia Unificada: Mapeia métodos de SSL (como FixMatch, MixMatch, FlexMatch), técnicas de UL/Auto-Supervisionado (como DINO, SwAV, BYOL) e Distilação de Conhecimento sob o mesmo guarda-chuva conceitual de pseudo-rótulos.
• Revisão de Regimes Semi-Supervisionados:
  • Agendamento de Amostras (Sample Scheduling): Discute seleção aleatória, seleção baseada em confiança (ex: FixMatch) e Aprendizado de Currículo (ex: FlexMatch), onde exemplos "fáceis" são rotulados primeiro.
  • Supervisão Fraca e Ruído de Rótulo: Aborda métodos que lidam com rótulos incorretos ou incertos (ex: PENCIL, UPS), modelando o ruído explicitamente.
  • Regularização de Consistência: Explica como métodos como UDA e VAT usam pseudo-rótulos para garantir que aumentos de dados produzam previsões consistentes.
  • Abordagens Multi-Modelo: Analisa Co-training, Tri-training e otimização em dois níveis (ex: Meta Pseudo Label - MPL), onde a atribuição de rótulos é otimizada conjuntamente com o treinamento do modelo.
• Revisão de Regimes Não Supervisionados e Auto-Supervisionados: Demonstra como métodos como DINO e DeepCluster utilizam a atribuição de rótulos a clusters (sem significado semântico prévio) como uma tarefa pretext para aprendizado de representações, funcionando essencialmente como pseudo-rótulos.
• Análise de Similaridades: Identifica cinco pilares comuns entre as técnicas:
  1. Filtragem de dados (subconjuntos de dados limpos).
  2. Estabelecimento de currículos de aprendizado.
  3. Estratégias de aumento de dados (Data Augmentation).
  4. Uso de Rótulos Suaves (Soft) vs. Rígidos (Hard).
  5. Estratégias de atualização do modelo "professor".

4. Resultados e Desempenho

O artigo apresenta uma tabela comparativa (Tabela 1) de desempenho em tarefas de classificação semi-supervisionada (CIFAR-10 e ImageNet):

• SSL: Métodos modernos como BLOPL, RLGSSL e FlexMatch alcançam acurácias superiores a 96% no CIFAR-10 com apenas 4k exemplos rotulados, superando significativamente métodos mais antigos como Mean Teacher ou Π-Model.
• Auto-Supervisionado: Métodos como DINOv2, BYOL e SwAV demonstram que a aprendizagem de representações via pseudo-rótulos (sem rótulos reais) permite um desempenho competitivo quando transferidos para tarefas com poucos rótulos.
• Observação: O artigo destaca que métodos baseados em otimização em dois níveis (como MPL) podem oferecer melhorias marginais, mas frequentemente a um custo computacional proibitivo (tempo de treinamento muito longo).

5. Significado e Direções Futuras

A principal contribuição do trabalho é a ponte teórica estabelecida entre SSL, Auto-Supervisionado e Distilação. Ao unificar a definição de pseudo-rótulos, os autores sugerem que avanços em uma área podem beneficiar diretamente as outras.

Direções Futuras Identificadas:

1. Filtragem de Conjuntos de Dados: Aplicar técnicas de filtragem inteligente (comuns em grandes modelos de linguagem) para curar dados não rotulados em SSL, mitigando viés de distribuição e desequilíbrio de classes.
2. Currículos de Aprendizado Robustos: Desenvolver currículos baseados em estimativas de incerteza calibrada, superando a dependência de confiança bruta do modelo.
3. Inicialização Direta: Utilizar modelos fundacionais pré-treinados e técnicas de compressão para inicializar modelos alunos, reduzindo custos.
4. Regularização Auto-Supervisionada em SSL: Incorporar perdas auto-supervisionadas (como NT-Xent ou BYOL) no treinamento semi-supervisionado para evitar o colapso de representações.
5. Meta-Aprendizado e RL: Aplicar meta-aprendizado e aprendizado por reforço para otimizar a política de atribuição de pseudo-rótulos, especialmente em contextos de distilação e auto-supervisionado.

Em suma, o artigo serve como um guia fundamental para pesquisadores, demonstrando que o pseudo-rótulo não é apenas uma técnica de SSL, mas um mecanismo central que permeia o aprendizado de máquina moderno, oferecendo um caminho claro para integrar avanços de diferentes subcampos.