Resumen Técnico: Aprendizaje Activo Corpóreo bajo Presupuesto Limitado de Anotación y Navegación para la Detección de Objetos

Planteamiento del Problema

Los sistemas robóticos de detección de objetos (OD) suelen tener dificultades al ser desplegados en entornos novedosos y no vistos debido a cambios de dominio, variaciones de iluminación y clases de objetos subrepresentadas. Aunque los modelos fundacionales ofrecen potentes conocimientos previos, son computacionalmente costosos para el despliegue robótico en tiempo real e imperfectos para objetos específicos, raros o de dominio particular. Además, el ajuste fino (fine-tuning) de los detectores es prohibitivamente caro debido a la dependencia de la anotación humana.

Este artículo aborda el desafío de adaptar un detector de objetos de visión por computador a un entorno desconocido bajo dobles restricciones:

1. Presupuesto de Navegación Limitado: El robot tiene un número restringido de pasos para explorar el entorno y recolectar imágenes candidatas.
2. Presupuesto de Anotación Limitado: El robot solo puede solicitar etiquetas humanas (o de un oráculo) para un pequeño subconjunto de las imágenes recolectadas.

Las preguntas de investigación centrales son: ¿Cómo puede un robot adaptar su modelo de visión bajo estas restricciones? ¿Qué método de puntuación identifica las imágenes más informativas sin supervisión externa? Y ¿qué estrategia de navegación localiza los objetos más difíciles de detectar?

Metodología

Los autores proponen un marco de Aprendizaje Activo Corpóreo (Embodied Active Learning) formulado como una variante de aprendizaje activo por lotes (batch active learning). El proceso opera en rondas iterativas, cada una compuesta por cuatro fases: recolección, selección, reentrenamiento y evaluación opcional.

1. Discrepancia de Predicción ($\Delta$)

La innovación central es una métrica de puntuación heurística llamada Discrepancia de Predicción. En lugar de depender de la entropía o la disponibilidad de la verdad de campo (ground-truth), esta métrica estima la incertidumbre del modelo midiendo el desacuerdo entre predicciones consecutivas.

• Mecanismo: Cuando un agente se mueve de un estado $s$ a un $s'$, el método calcula la diferencia simétrica entre los conjuntos de clases predichas en la región de traslape de ambos fotogramas.
• Cálculo: $\Delta = |C_s \cup C_{s'}| - |C_s \cap C_{s'}|$, donde $C$ representa la lista de clases restringida a la región de traslape.
• Significado: Un $\Delta$ alto indica que la predicción del modelo cambia significativamente entre puntos de vista (por ejemplo, detectar un objeto en un fotograma pero omitirlo en el siguiente), lo que señala un posible caso de fallo sin requerir etiquetas de verdad de campo.

2. Agente de Navegación Adaptativo

Para maximizar la recolección de muestras informativas bajo un presupuesto de navegación limitado, los autores emplean un algoritmo de optimización en línea utilizando Optimización Bayesiana (BO) sensible a la trayectoria.

• Modelo Sustituto: Un regresor de Random Forest estima la Discrepancia de Predicción para estados no visitados basándose en el búfer de recolección.
• Función de Adquisición: El agente utiliza una estrategia de Límite de Confianza Superior (UCB) para equilibrar la exploración y la explotación. Selecciona un destino que maximiza la estimación optimista promedio de $\Delta$ a lo largo de la ruta más corta (calculada mediante A* ponderado).
• Pesos de Trayectoria: Los pesos de las aristas en el grafo de planificación están diseñados para incentivar el movimiento hacia áreas de alta incertidumbre, penalizando al mismo tiempo el re-visitar ubicaciones ya exploradas.

3. Estrategia de Selección de Datos

El proceso de selección sigue un enfoque de dos etapas adaptado de PPAL [36]:

1. Muestreo de Dificultad: Del búfer recolectado, se seleccionan las $3 \times A$ muestras con la mayor Discrepancia de Predicción.
2. Muestreo de Diversidad: Estos candidatos se agrupan mediante Similitud de Coincidencia Condicionada por Clase (CCMS). Se seleccionan los centroides de $A$ grupos para la anotación.

• Gestión de Restricciones: La selección asegura la diversidad y evita explícitamente la re-selección de muestras demasiado similares a los datos previamente anotados.

4. Oráculo y Reentrenamiento

Las imágenes seleccionadas son anotadas por un "oráculo". En simulaciones, este es la verdad de campo; en experimentos del mundo real, es un flujo de trabajo semiautomático que utiliza un modelo fundacional de visión y lenguaje (OWLv2) seguido de corrección humana. El detector se reentrena sobre el búfer anotado acumulado, y las predicciones en el búfer de recolección se actualizan para reflejar el nuevo estado del modelo.

Principales Contribuciones

1. Formulación del Problema: Los autores definen la adaptación del modelo de visión como un problema de aprendizaje activo por lotes corpóreo con límites estrictos tanto en recursos de navegación como de anotación.
2. Puntuación de Discrepancia de Predicción: Introducen un novedoso método de puntuación no supervisado que aprovecha la consistencia espacial (o la falta de ella) para identificar casos de fallo del modelo y guiar tanto la navegación como el muestreo de imágenes.
3. Política de Navegación Adaptativa: Desarrollan una estrategia de optimización bayesiana sensible a la trayectoria que dirige al robot hacia regiones de alta discrepancia de predicción, actuando efectivamente como una señal de curiosidad intrínseca.
4. Validación Empírica: El enfoque se evalúa en dos entornos:
   • Simulación: Utilizando el conjunto de datos AI2-THOR/ProcTHOR con modelos YOLOv5 de varios tamaños.
   • Mundo Real: Utilizando un robot Boston Dynamics Spot en un entorno interior con un flujo de trabajo de etiquetado semiautomático.

Resultados Experimentales

Simulación (AI2-THOR)

• Métodos de Puntuación: El método de Discrepancia de Predicción superó consistentemente a las líneas base (Entropía, Conteo, Aleatorio) en términos de precisión media promedio (mAP50) en todos los tamaños de modelo (S, M, L). Se acercó al rendimiento de una línea base de "Oráculo" (que utiliza la verdad de campo para seleccionar clases difíciles), pero sin requerir la verdad de campo durante la fase de selección.
• Características de los Datos: Las muestras seleccionadas por la Discrepancia de Predicción fueron más desafiantes para el modelo (menor F1 en muestras anotadas) y exhibieron una mayor entropía en la distribución de clases, lo que indica una mejor cobertura de diversas clases de objetos en comparación con otros métodos.
• Navegación: El agente de navegación adaptativo guiado por la Discrepancia de Predicción logró un progreso de aprendizaje significativamente mejor a lo largo del tiempo en comparación con las líneas base de Exploración Basada en Fronteras (FBE), Barrido (Sweep) y Paseo Aleatorio (Random walk).

Mundo Real (Boston Dynamics Spot)

• Rendimiento: En un entorno interior real, la Discrepancia de Predicción también superó a las líneas base de Entropía, Conteo y Aleatorio.
• Eficiencia: El método priorizó muestras difíciles requiriendo menos anotaciones totales de objetos en comparación con los métodos basados en Conteo y Entropía.
• Análisis de Brecha: La brecha de rendimiento entre el método propuesto y la selección Aleatoria fue menor en el entorno del mundo real que en la simulación, atribuido a la configuración de habitación única más simple y al presupuesto menor, aunque la ventaja se mantuvo constante.

Significado y Reivindicaciones

El artículo sostiene que la inconsistencia espacial sirve como una señal robusta y no supervisada para guiar a los agentes corpóreos. Al aprovechar la Discrepancia de Predicción, el sistema puede identificar y atacar autónomamente sus propios casos de fallo, logrando la mayor precisión de detección bajo las mismas restricciones de recursos que otros métodos.

Los autores enfatizan que este enfoque cierra la brección entre el aprendizaje activo no interactivo y el aprendizaje activo corpóreo. Demuestra que los robots pueden adaptarse autónomamente a sus modelos de visión en nuevos entornos mediante la interacción, reduciendo la dependencia de conjuntos de datos pre-recolectados costosos o de una extensa anotación manual. El trabajo sugiere que la supervisión explícita no es estrictamente necesaria para identificar muestras informativas si el agente puede explotar la consistencia temporal y espacial de sus propias predicciones.

Los autores mantienen la modestia respecto al trabajo futuro, señalando que la estimación explícita de la dificultad de clase y el progreso del aprendizaje podría mejorar aún más la priorización, y que futuras iteraciones podrían explorar el preentrenamiento agnóstico al dominio y la adaptación autosupervisada para reducir aún más la dependencia de los anotadores oráculo.