Resumen Técnico: Recuperación Relacional para el Descubrimiento Generalizado de Categorías

Definición del Problema

El artículo aborda el Descubrimiento Generalizado de Categorías (GCD), una tarea que extiende la clasificación tradicional a escenarios de mundo abierto. El objetivo es reconocer conjuntamente clases conocidas utilizando datos etiquetados ($D_L$) y descubrir categorías novedosas dentro de datos no etiquetados ($D_U$). Un desafío crítico en los enfoques de GCD existentes es que típicamente tratan los datos etiquetados y no etiquetados como flujos de aprendizaje separados: los datos etiquetados sufren aprendizaje supervisado, mientras que los datos no etiquetados dependen de señales auto-supervisadas. Esta separación conduce a dos limitaciones principales identificadas por los autores:

1. Desperdicio de Conocimiento Semántico: Las muestras no etiquetadas que pertenecen a clases conocidas dependen exclusivamente de la auto-supervisión, ignorando las características altamente discriminativas ya capturadas por las muestras etiquetadas de las mismas clases.
2. Descubrimiento Ineficaz: El descubrimiento de categorías a menudo procede sin considerar patrones relacionales. Las muestras de una misma categoría novedosa, aunque distintas de las clases conocidas, mantienen relaciones consistentes con los prototipos de clases conocidas, una señal a menudo pasada por alto en favor del etiquetado pseudo no confiable.

Metodología: Consistencia de Patrones Relacionales (RPC)

El marco propuesto, Consistencia de Patrones Relacionales (RPC), acopla explícitamente los datos etiquetados y no etiquetados mediante transferencia de conocimiento bidireccional. El método se basa en la línea base SimGCD para el aprendizaje de representaciones e incorpora la descomposición Uno contra Todos (OVA) de DebGCD para identificar si las muestras no etiquetadas pertenecen a clases conocidas (ID) o novedosas (OOD).

El núcleo de RPC consiste en dos mecanismos:

1. Preservación de Clases Conocidas mediante Transferencia Semántica

Para prevenir la pérdida de la estructura semántica en las muestras no etiquetadas de clases conocidas, RPC transfiere patrones robustos desde los datos etiquetados hacia los no etiquetados.

• Descomposición Suave ID/OOD: Los clasificadores OVA generan pesos suaves ($w_{old}$ y $w_{new}$) para estimar la probabilidad de que una muestra pertenezca a clases conocidas o novedosas.
• Fusión de Incrustaciones Ponderada por Confianza: Para lotes que contienen tanto muestras etiquetadas como muestras no etiquetadas de alta confianza (ID), el modelo construye una matriz de fusión. Esta matriz realiza un desplazamiento circular para inyectar información desde las muestras etiquetadas hacia sus contrapartes no etiquetadas emparejadas. La fusión se pondera por $w_{old}$, asegurando que solo las muestras ID de alta confianza sean influenciadas significativamente.
• Alineación Conductual: El marco impone consistencia entre los cambios conductuales inducidos por la augmentación ($\Delta$) de las muestras etiquetadas y sus contrapartes no etiquetadas fusionadas. Esto asegura que las muestras no etiquetadas de clases conocidas hereden representaciones robustas de los datos etiquetados.

2. Descubrimiento de Categorías mediante Correspondencia Relacional

Para el descubrimiento de categorías novedosas, RPC va más allá del agrupamiento mal planteado aprovechando la consistencia relacional.

• Firmas Relacionales: El método postula que las muestras de una misma categoría novedosa exhiben relaciones invariantes con los prototipos de clases conocidas. Específicamente, dos muestras de la misma clase novedosa deberían tener distancias similares (patrones de similitud) a todos los prototipos de clases conocidas.
• Correspondencia de Patrones: Cada muestra se codifica como un vector de similitudes con los prototipos de clases conocidas ($r(x)$). El modelo luego minimiza la distancia entre estas firmas relacionales para muestras con características similares, ponderadas por sus puntuaciones de novedad ($w_{new}$). Esto transforma la tarea de descubrimiento en un problema de correspondencia de patrones bien definido dentro del marco de referencia de las clases conocidas.

El objetivo de entrenamiento total combina las pérdidas de la línea base (representación y clasificador) con la nueva pérdida de alineación ($L_{align}$) y la pérdida de descubrimiento novedoso ($L_{new}$).

Contribuciones Clave

Los autores delinean tres contribuciones principales:

1. Acoplamiento Bidireccional: RPC es el primer marco de GCD que acopla explícitamente datos etiquetados y no etiquetados mediante transferencia de conocimiento bidireccional, utilizando descomposición suave ID/OOD para permitir interacciones dirigidas en lugar de mantener flujos de aprendizaje disjuntos.
2. Mecanismos Novedosos:
   • Introducción de fusión de incrustaciones ponderada por confianza con alineación conductual para preservar la semántica de clases conocidas.
   • Desarrollo de aprendizaje de consistencia relacional, que descubre categorías novedosas basándose en sus relaciones invariantes con prototipos de clases conocidas, evitando la dependencia de etiquetas pseudo no confiables.
3. Rendimiento de Vanguardia: Experimentos extensivos demuestran que RPC logra un rendimiento superior en tanto en benchmarks genéricos como de granos finos, con mejoras consistentes en la precisión de clases conocidas (Antiguas) y novedosas (Nuevas).

Resultados Experimentales

El método fue evaluado en seis benchmarks: tres conjuntos de datos de granos finos (CUB, Stanford Cars, FGVC-Aircraft) y tres conjuntos de datos generales (CIFAR-10, CIFAR-100, ImageNet-100).

• Rendimiento: RPC logró resultados de vanguardia en la mayoría de los benchmarks. Notablemente, en el conjunto de datos CUB, mejoró la precisión "Total" al 67.1% (vs. 66.3% para el mejor anterior, DebGCD), con ganancias significativas en precisión "Antigua" (73.2% vs. 71.8%) y "Nueva" (64.8% vs. 63.5%).
• Estudios de Ablación: Eliminar la fusión de incrustaciones o la pérdida de alineación ($L_{align}$) resultó en una caída de aproximadamente 3% en la precisión de clases conocidas en CUB. Eliminar la pérdida de descubrimiento relacional ($L_{new}$) causó una caída del 3.3% en la precisión de clases novedosas, confirmando la necesidad de ambos componentes.
• Eficiencia: El método introduce una sobrecarga computacional mínima, añadiendo solo un 1.40% al recuento de parámetros y un 1.82% a los FLOPs en comparación con la línea base SimGCD.
• Visualización: Las visualizaciones t-SNE indican que RPC produce un espacio latente más estructurado con agrupación intra-clase más estrecha y límites inter-clase más claros en comparación con los métodos de línea base, reduciendo efectivamente el entrelazamiento semántico entre categorías vecinas.

Significado y Afirmaciones

El artículo afirma que RPC cambia fundamentalmente el paradigma de GCD desde el aprendizaje paralelo (donde los datos etiquetados y no etiquetados se procesan por separado) hacia la mejora mutua. Al aprovechar las interacciones estructuradas entre datos conocidos y novedosos, el marco permite que los datos etiquetados guíen el aprendizaje de representaciones de las clases conocidas no etiquetadas, mientras que simultáneamente utiliza las firmas relacionales colectivas de los datos no etiquetados para descubrir categorías novedosas. Los autores afirman que este enfoque valida la hipótesis de que los datos etiquetados y no etiquetados pueden potenciarse mutuamente a través de interacciones estructuradas, conduciendo a representaciones de características más robustas y a un descubrimiento de categorías más preciso en entornos de mundo abierto.