FOCUS: Bridging Fine-Grained Recognition and Open-World Discovery across Domains

Resumen Técnico: FOCUS

1. El Problema: FG-DG-GCD

El artículo aborda un desafío de reconocimiento visual no resuelto previamente: la Descubrimiento de Categorías Generalizado de Dominio Generalizado de Alta Granularidad (FG-DG-GCD). Este problema combina tres dificultades fundamentales:

• Reconocimiento de Alta Granularidad (Fine-Grained): Distinguir clases que difieren por atributos locales sutiles (ej. forma del pico de un ave, detalles de un motor de avión) en lugar de cues semánticos gruesos.
• Generalización de Dominio (Domain Generalization - DG): El modelo se entrena únicamente con datos etiquetados de un dominio fuente, pero debe operar en un dominio objetivo no visto con una distribución de datos diferente (ej. de fotos reales a bocetos o pinturas).
• Descubrimiento de Categorías en Mundo Abierto (Open-World Discovery): El modelo debe no solo reconocer las clases conocidas del dominio fuente, sino también descubrir y agrupar nuevas categorías desconocidas en el dominio objetivo, sin tener acceso a etiquetas de estas nuevas clases ni a los datos del objetivo durante el entrenamiento.

Desafío Principal: En escenarios de alta granularidad, los cambios de dominio (textura, iluminación, estilo) suelen enmascarar las diferencias sutiles entre clases, mientras que la variabilidad intra-clase es alta. Los métodos existentes de DG o de descubrimiento de categorías (GCD) fallan porque o bien asumen distribuciones idénticas entre fuente y destino, o bien dependen de cues dependientes del estilo (color, textura) que no se generalizan, provocando el colapso de las nuevas clases en las manifiestaciones de las clases conocidas.

2. Metodología: El Marco FOCUS

Los autores proponen FOCUS (Fine-grained Open-world Category discovery with Uncertainty and partS), un marco unificado de una sola etapa que no requiere síntesis de datos costosa ni entrenamiento episódico. Se basa en dos módulos complementarios:

A. Descubrimiento de Partes Consistentes con el Dominio (DCPD)

• Objetivo: Extraer representaciones estables basadas en la geometría en lugar de la textura.
• Mecanismo:
  • Utiliza un encoder ViT preentrenado (DINO) para obtener características de parches.
  • Introduce consultas de partes condicionadas por la imagen (image-conditioned part queries). A diferencia de métodos anteriores que usan consultas globales compartidas (propensas a sesgos de textura del dominio fuente), DCPD adapta dinámicamente las consultas basándose en la estructura geométrica intrínseca de cada imagen (derivada de mapas de atención auto-atención).
  • Emplea un mecanismo de asignación de parches a partes diferenciable (Gumbel-Softmax) para asegurar que las partes descubiertas sean exclusivas y espacialmente coherentes.
  • Fusión Dual: Combina las características de partes locales ($f_{part}$) con el token global [CLS] ($f_{cls}$). Esto evita la "miopía" de centrarse solo en partes y pierde el contexto global, asegurando que la representación final sea robusta incluso si las partes locales se distorsionan.

B. Aumento de Características Consciente de la Incertidumbre (UFA)

• Objetivo: Regularizar el espacio de características para evitar que las muestras de nuevas clases sean absorbidas erróneamente por las regiones de confianza de las clases conocidas (sobreconfianza).
• Mecanismo:
  • Modela la incertidumbre directamente en el espacio de incrustaciones (embedding) sin generar nuevas imágenes.
  • Utiliza estadísticas de clase (media y covarianza) actualizadas mediante Promedio Móvil Exponencial (EMA) para sintetizar tres tipos de muestras sintéticas de "Out-of-Distribution" (OOD):
    1. Muestreo de Cola (Tail-Variation): Muestras cerca de la frontera de las clases conocidas (variaciones raras).
    2. Mezcla de Ambigüedad Inter-clase: Muestras en las zonas de transición entre centroides de clases.
    3. Muestreo Lejano (Far-OOD): Muestras en regiones vacías del espacio hipersférico.
  • Regularización: Aplica una pérdida de energía (Energy-Based Outlier Exposure) y una maximización de entropía sobre estas muestras sintéticas para forzar al clasificador a mantener alta incertidumbre en regiones abiertas, mejorando la calibración.

3. Contribuciones Clave

1. Formalización del Problema: Definen y formalizan FG-DG-GCD como un nuevo escenario de investigación que une la discriminación fina, la generalización de dominio y el descubrimiento de nuevas clases.
2. Nuevos Benchmarks: Crean los primeros conjuntos de datos de evaluación para este problema. Generan dominios sintéticos de pintura y boceto para tres datasets estándar de alta granularidad (CUB-200-2011, Stanford Cars, FGVC-Aircraft) utilizando un pipeline controlado con SDXL (Stable Diffusion XL) y adaptadores T2I. Estos dominios preservan la identidad geométrica y semántica mientras alteran drásticamente el estilo, permitiendo una evaluación rigurosa.
3. Marco FOCUS: Presentan un marco unificado, libre de síntesis de imágenes (no genera imágenes nuevas para entrenar) y libre de episodios, que supera a los métodos actuales con una eficiencia computacional significativamente mayor (hasta 300 veces más ligero que métodos basados en síntesis episódica).

4. Resultados Experimentales

• Rendimiento en Alta Granularidad: FOCUS supera a los baselines más fuertes (GCD, FG-GCD, DG-GCD) en los nuevos benchmarks.
  • Mejora la precisión de agrupamiento (clustering accuracy) en un 3.28% sobre GCD, 9.68% sobre FG-GCD y 2.07% sobre DG-GCD.
  • Logra una precisión de 38.01% (All Accuracy) en promedio, superando al siguiente mejor método en +1.17%.
  • Destaca especialmente en la descubrimiento de nuevas clases (New Accuracy: 40.63%).
• Eficiencia: Es 3-6 veces más eficiente en FLOPs que HIDISC y casi 300 veces más ligero que DG2CD-Net, al no depender de la síntesis de dominios masiva ni de entrenamiento episódico complejo.
• Generalización a Baja Granularidad: Aunque diseñado para alta granularidad, FOCUS también obtiene resultados competitivos (y a veces superiores) en benchmarks de baja granularidad (PACS, Office-Home, DomainNet), demostrando la robustez de sus componentes.
• Análisis de Calibración: Las visualizaciones t-SNE y las métricas AUROC muestran que FOCUS logra una separación mucho más clara entre clases conocidas y desconocidas, reduciendo significativamente la sobreconfianza en comparación con métodos anteriores.

5. Significado e Impacto

Este trabajo es fundamental porque cierra la brecha entre la investigación teórica de reconocimiento visual y las aplicaciones del mundo real, donde los sistemas deben operar en condiciones de dominio cambiante y con categorías nunca antes vistas.

• Viabilidad Práctica: Al eliminar la necesidad de síntesis de datos costosa y entrenamiento episódico, FOCUS hace viable la implementación de sistemas de reconocimiento robustos en entornos críticos como monitoreo de biodiversidad, inspección industrial y análisis de tráfico, donde los datos de entrenamiento y prueba pueden diferir drásticamente.
• Innovación en Representación: Demuestra que priorizar la geometría estable sobre la textura y regularizar la incertidumbre en el espacio de características son estrategias superiores para el aprendizaje de representaciones en escenarios de mundo abierto y dominio generalizado.

En resumen, FOCUS establece un nuevo estado del arte al proporcionar un marco eficiente, robusto y unificado para el reconocimiento visual en condiciones realistas y complejas.