Resumo Técnico: Recuperação Relacional para Descoberta Generalizada de Categorias

Definição do Problema

O artigo aborda a Descoberta Generalizada de Categorias (GCD), uma tarefa que estende a classificação tradicional para cenários de mundo aberto. O objetivo é reconhecer conjuntamente classes conhecidas usando dados rotulados ($D_L$) e descobrir novas categorias dentro de dados não rotulados ($D_U$). Um desafio crítico nas abordagens existentes de GCD é que elas tipicamente tratam dados rotulados e não rotulados como fluxos de aprendizado separados: os dados rotulados passam por aprendizado supervisionado, enquanto os dados não rotulados dependem de sinais auto-supervisionados. Essa separação leva a duas limitações primárias identificadas pelos autores:

1. Desperdício de Conhecimento Semântico: Amostras não rotuladas pertencentes a classes conhecidas dependem exclusivamente de auto-supervisão, ignorando as características altamente discriminativas já capturadas por amostras rotuladas das mesmas classes.
2. Descoberta Ineficaz: A descoberta de categorias frequentemente procede sem considerar padrões relacionais. Amostras da mesma nova categoria, embora distintas das classes conhecidas, mantêm relações consistentes com protótipos de classes conhecidas, um sinal frequentemente negligenciado em favor de pseudo-rotulagem não confiável.

Metodologia: Consistência de Padrão Relacional (RPC)

O framework proposto, Consistência de Padrão Relacional (RPC), acopla explicitamente dados rotulados e não rotulados através de transferência de conhecimento bidirecional. O método baseia-se na linha de base SimGCD para aprendizado de representações e incorpora a decomposição Um-contra-Todos (OVA) do DebGCD para identificar se amostras não rotuladas pertencem a classes conhecidas (ID) ou novas (OOD).

O núcleo do RPC consiste em dois mecanismos:

1. Preservação de Classes Conhecidas via Transferência Semântica

Para prevenir a perda da estrutura semântica em amostras não rotuladas de classes conhecidas, o RPC transfere padrões robustos de dados rotulados para dados não rotulados.

• Decomposição Soft ID/OOD: Classificadores OVA geram pesos suaves ($w_{old}$ e $w_{new}$) para estimar a probabilidade de uma amostra pertencer a classes conhecidas ou novas.
• Fusão de Embedding Ponderada por Confiança: Para lotes contendo tanto amostras rotuladas quanto amostras não rotuladas de alta confiança (ID), o modelo constrói uma matriz de fusão. Esta matriz realiza uma rotação circular para injetar informações de amostras rotuladas em suas contrapartes não rotuladas emparelhadas. A fusão é ponderada por $w_{old}$, garantindo que apenas amostras ID de alta confiança sejam significativamente influenciadas.
• Alinhamento Comportamental: O framework impõe consistência entre as mudanças comportamentais induzidas por aumento ($\Delta$) de amostras rotuladas e suas contrapartes não rotuladas fundidas. Isso garante que amostras não rotuladas de classes conhecidas herdem representações robustas dos dados rotulados.

2. Descoberta de Categorias via Correspondência Relacional

Para a descoberta de novas categorias, o RPC vai além do agrupamento mal-posto ao alavancar a consistência relacional.

• Assinaturas Relacionais: O método postula que amostras da mesma nova categoria exibem relações invariantes com protótipos de classes conhecidas. Especificamente, duas amostras da mesma nova classe devem ter distâncias similares (padrões de similaridade) a todos os protótipos de classes conhecidas.
• Correspondência de Padrões: Cada amostra é codificada como um vetor de similaridades com protótipos de classes conhecidas ($r(x)$). O modelo então minimiza a distância entre essas assinaturas relacionais para amostras com características similares, ponderadas por suas pontuações de novidade ($w_{new}$). Isso transforma a tarefa de descoberta em um problema de correspondência de padrões bem definido dentro do quadro de referência das classes conhecidas.

O objetivo de treinamento total combina as perdas da linha de base (representação e classificador) com a nova perda de alinhamento ($L_{align}$) e a perda de descoberta de novidades ($L_{new}$).

Contribuições Principais

Os autores delineiam três contribuições primárias:

1. Acoplamento Bidirecional: O RPC é o primeiro framework de GCD a acoplar explicitamente dados rotulados e não rotulados através de transferência de conhecimento bidirecional, utilizando decomposição soft ID/OOD para permitir interações direcionadas em vez de manter fluxos de aprendizado disjuntos.
2. Mecanismos Novos:
   • Introdução de fusão de embedding ponderada por confiança com alinhamento comportamental para preservar semânticas de classes conhecidas.
   • Desenvolvimento de aprendizado de consistência relacional, que descobre novas categorias com base em suas relações invariantes com protótipos de classes conhecidas, evitando a dependência de pseudo-rotulagens não confiáveis.
3. Desempenho State-of-the-Art: Experimentos extensivos demonstram que o RPC alcança desempenho superior em benchmarks genéricos e de alta granularidade, com melhorias consistentes tanto na precisão de classes conhecidas (Old) quanto de novas (New).

Resultados Experimentais

O método foi avaliado em seis benchmarks: três conjuntos de dados de alta granularidade (CUB, Stanford Cars, FGVC-Aircraft) e três conjuntos de dados gerais (CIFAR-10, CIFAR-100, ImageNet-100).

• Desempenho: O RPC alcançou resultados state-of-the-Art na maioria dos benchmarks. Notavelmente, no conjunto de dados CUB, melhorou a precisão "All" para 67,1% (vs. 66,3% para o melhor anterior, DebGCD), com ganhos significativos na precisão "Old" (73,2% vs. 71,8%) e na precisão "New" (64,8% vs. 63,5%).
• Estudos de Ablação: A remoção da fusão de embedding ou da perda de alinhamento ($L_{align}$) resultou em uma queda de aproximadamente 3% na precisão de classes conhecidas no CUB. A remoção da perda de descoberta relacional ($L_{new}$) causou uma queda de 3,3% na precisão de classes novas, confirmando a necessidade de ambos os componentes.
• Eficiência: O método introduz sobrecarga computacional mínima, adicionando apenas 1,40% à contagem de parâmetros e 1,82% aos FLOPs em comparação com a linha de base SimGCD.
• Visualização: Visualizações t-SNE indicam que o RPC produz um espaço latente mais estruturado com agrupamento intra-classe mais apertado e limites inter-classe mais claros em comparação com métodos de base, reduzindo efetivamente o emaranhamento semântico entre categorias vizinhas.

Significado e Alegações

O artigo alega que o RPC muda fundamentalmente o paradigma da GCD de aprendizado paralelo (onde dados rotulados e não rotulados são processados separadamente) para melhoria mútua. Ao alavancar as interações estruturadas entre dados conhecidos e novos, o framework permite que dados rotulados guiem o aprendizado de representação de classes conhecidas não rotuladas, enquanto simultaneamente usa as assinaturas relacionais coletivas de dados não rotulados para descobrir novas categorias. Os autores afirmam que essa abordagem valida a hipótese de que dados rotulados e não rotulados podem se melhorar mutuamente através de interações estruturadas, levando a representações de características mais robustas e descoberta de categorias mais precisa em configurações de mundo aberto.