Energy-Based Open-Set Active Learning for Object Classification

Resumen Técnico: EB-OSAL

1. Planteamiento del Problema

El Aprendizaje Activo (AL) tradicional busca minimizar los costos de etiquetado seleccionando las muestras más valiosas de un conjunto de datos no etiquetado. Sin embargo, la mayoría de los métodos actuales operan bajo una suposición de conjunto cerrado, asumiendo que todas las clases en los datos no etiquetados son conocidas y están presentes en el conjunto de entrenamiento.

En escenarios del mundo real, esta suposición falla, dando lugar a un problema de Conjunto Abierto (Open-Set). En estas condiciones, los datos no etiquetados contienen tanto clases conocidas como clases desconocidas (no vistas durante el entrenamiento).

• El desafío: Los métodos de AL tradicionales suelen seleccionar muestras basándose en la incertidumbre. En un entorno de conjunto abierto, las muestras de clases desconocidas a menudo generan predicciones ambiguas con alta incertidumbre. Esto lleva a que los algoritmos tradicionales gasten su presupuesto de anotación en muestras irrelevantes (desconocidas), degradando el rendimiento del modelo y desperdiciando recursos.
• Objetivo: Desarrollar un marco de AL que pueda distinguir eficazmente entre clases conocidas y desconocidas, filtrando estas últimas para centrarse únicamente en la selección de muestras informativas de las clases de interés.

2. Metodología: EB-OSAL

Los autores proponen EB-OSAL (Energy-Based Open-Set Active Learning), un marco innovador de dos etapas basado en Modelos Basados en Energía (EBMs). La premisa central es utilizar el "paisaje de energía" para asignar valores bajos a las muestras conocidas y valores altos a las desconocidas.

El sistema consta de dos componentes especializados:

A. Separador Conocido/Desconocido Basado en Energía (EKUS)

• Función: Filtrar el conjunto de datos no etiquetado para eliminar muestras que probablemente pertenezcan a clases desconocidas.
• Mecanismo: Entrena un EBM para que las muestras de clases conocidas ocupen regiones de baja energía, mientras que las desconocidas obtienen alta energía.
• Estrategia de Entrenamiento:
  • Utiliza un enfoque de aprendizaje negativo y fijación de energía (energy anchoring).
  • Identifica un subconjunto de "pseudo-desconocidos" (las muestras con mayor energía en el conjunto no etiquetado) para reforzar la separación mediante una pérdida de margen (hinge loss) y pérdida contrastiva.
  • En cada ciclo de AL, las muestras con energía superior a un umbral ($\delta_k$) se descartan como desconocidas.

B. Puntuador de Muestras Basado en Energía (ESS)

• Función: Evaluar la informatividad de las muestras que han pasado el filtro de EKUS (las "probablemente conocidas").
• Mecanismo: Combina la incertidumbre predictiva (entropía) con la puntuación de energía relativa a los límites de decisión de las clases conocidas.
• Fórmula de Puntuación:
  $$S_{ESS}(x) = U(x) + \beta \cdot E_{ESS}(x)$$
  Donde $U(x)$ es la entropía y $E_{ESS}(x)$ es la energía. Esto asegura que se seleccionen muestras que no solo son inciertas (cerca de los límites de decisión), sino que también tienen una energía baja (confirmando que pertenecen a la distribución conocida).
• Entrenamiento: Se enfoca en refinar los límites de decisión entre clases conocidas mediante una pérdida de entropía cruzada regularizada para mantener la energía baja en muestras bien clasificadas.

Flujo de Trabajo:

1. Entrenar EKUS para separar conocidos de desconocidos.
2. Filtrar el conjunto no etiquetado, reteniendo solo muestras de baja energía.
3. Entrenar ESS en las muestras retenidas.
4. Calcular puntuaciones de informatividad y seleccionar las mejores muestras para anotación.
5. Actualizar el conjunto etiquetado y repetir el ciclo.

3. Contribuciones Clave

1. Marco Dual-Etapa: Propuesta de una arquitectura novedosa que integra la separación de clases desconocidas y la selección de muestras informativas en un solo flujo de trabajo basado en energía.
2. Componente EKUS: Un módulo eficaz que filtra muestras desconocidas, permitiendo al modelo concentrarse en datos relevantes y evitando el desperdicio de presupuesto de anotación.
3. Componente ESS: Un mecanismo de puntuación que prioriza las muestras conocidas más valiosas, combinando incertidumbre y energía para maximizar el impacto del aprendizaje.
4. Extensión a 3D: Por primera vez, se aplica el AL de conjunto abierto a la clasificación de objetos 3D (nubes de puntos), un dominio subexplorado donde los costos de anotación son significativamente más altos debido a la complejidad geométrica.
5. Nuevos Resultados de Referencia: Establecimiento de benchmarks en conjuntos de datos 2D (CIFAR-10, CIFAR-100, TinyImageNet) y 3D (ModelNet40) con diferentes ratios de desajuste (mismatch ratios).

4. Resultados Experimentales

Los experimentos se realizaron en múltiples conjuntos de datos con ratios de desajuste (porcentaje de clases desconocidas) del 20%, 30% y 40%.

• Rendimiento 2D (CIFAR, TinyImageNet): EB-OSAL superó consistentemente a todos los métodos de línea base, incluyendo AL tradicional (Entropía, Incertidumbre), métodos de conjunto abierto anteriores (MQ-Net, LfOSA, BUAL, EOAL) y selección aleatoria.
  • Hallazgo crítico: Los métodos tradicionales de AL a menudo performaron peor que la selección aleatoria en escenarios de conjunto abierto, ya que tendían a seleccionar excesivamente muestras desconocidas debido a su alta incertidumbre.
• Rendimiento 3D (ModelNet40): El marco demostró su versatilidad al adaptarse a nubes de puntos utilizando PointNet como backbone. EB-OSAL logró una precisión de clasificación superior a las líneas base adaptadas, validando la eficacia del enfoque basado en energía en datos de alta dimensión y estructurados espacialmente.
• Eficiencia de Anotación: El método logró alcanzar una precisión de clasificación más alta con menos muestras etiquetadas en comparación con las técnicas existentes, demostrando una mayor eficiencia en el uso del presupuesto de anotación.

5. Significado e Impacto

Este trabajo es significativo por varias razones:

• Superación de la Limitación de Conjunto Cerrado: Aborda directamente una de las mayores debilidades del AL actual: la incapacidad de manejar datos no vistos, lo cual es crucial para aplicaciones en el mundo real.
• Innovación en 3D: Llena un vacío importante al introducir y validar técnicas de AL de conjunto abierto para la clasificación de objetos 3D, un área donde la anotación es costosa y compleja.
• Robustez del Modelo Basado en Energía: Demuestra que los EBMs son herramientas superiores para la detección de valores atípicos (outliers) y la estimación de incertidumbre en comparación con las funciones de activación softmax tradicionales, proporcionando un paisaje de energía más robusto para distinguir entre lo conocido y lo desconocido.
• Aplicabilidad Práctica: Proporciona una solución viable para sistemas de visión por computadora que deben operar en entornos dinámicos donde pueden aparecer nuevas categorías de objetos no previstas.

En conclusión, EB-OSAL establece un nuevo estado del arte para el aprendizaje activo en condiciones de conjunto abierto, ofreciendo un enfoque robusto y eficiente tanto para datos 2D como 3D.