Resumen Técnico: Transformer Destilado de Doble Rama para Seguimiento Eficiente de UAV Asimétrico (EATrack)

1. Planteamiento del Problema

El seguimiento de Vehículos Aéreos No Tripulados (UAV) enfrenta un compromiso crítico entre la eficiencia computacional y la robustez del seguimiento. Si bien los Transformadores de Visión (ViT) ofrecen capacidades de modelado global superiores en comparación con las Redes Neuronales Convolucionales (CNN) y los Filtros de Correlación Discriminativos (DCF), su alto costo computacional los hace poco prácticos para las plataformas a bordo de UAV con recursos limitados.

Los enfoques ligeros existentes intentan resolver esto simplificando las arquitecturas de red (por ejemplo, podando capas, eliminando tokens o mediante computación adaptativa). Sin embargo, el artículo argumenta que tales simplificaciones estructurales a menudo debilitan la capacidad discriminativa de las representaciones del objetivo, lo que conduce a una degradación del rendimiento en escenarios complejos que involucran movimiento rápido, oclusión y variaciones de apariencia. Además, los métodos previos de destilación de conocimiento en seguimiento suelen operar a nivel global, sin aprovechar explícitamente los priores espaciales ni centrar la supervisión en la región del objetivo, lo que puede resultar en que el modelo estudiante pierda el enfoque en el objetivo o sufra una localización degradada.

2. Metodología

Los autores proponen EATrack, un marco de seguimiento de UAV eficiente y asimétrico centrado en una estrategia de destilación de doble rama guiada por un profesor. La filosofía central es transferir las representaciones de características ricas y las capacidades de localización precisas de un ViT "Profesor" a escala completa a un ViT "Estudiante" ligero durante el entrenamiento, sin incurrir en costos computacionales adicionales durante la inferencia.

2.1. Arquitectura

• Modelo Profesor: Un Transformador de Visión a escala completa (12 capas) que sirve como fuente de conocimiento.
• Modelo Estudiante: Un ViT ligero y asimétrico (8 capas) diseñado para inferencia en tiempo real. Procesa los fotogramas de plantilla y de búsqueda de forma independiente en la primera etapa (Etapa 1) y los fusiona en la segunda etapa (Etapa 2).
• Pipeline de Inferencia: El estudiante opera de forma independiente. Para manejar las variaciones temporales, un Almacén de Objetivos acumula características fiables del objetivo. Periódicamente, se muestrean incrustaciones representativas de este almacén para actualizar la plantilla, permitiendo una adaptación temporal con una sobrecarga mínima.

2.2. Estrategia de Destilación de Doble Rama

El proceso de entrenamiento emplea dos ramas de destilación complementarias para guiar al modelo estudiante:

1. Destilación a Nivel de Características con Enfoque Espacial:

   • Objetivo: Compensar las representaciones de características debilitadas causadas por el podado.
   • Mecanismo: Una máscara de peso espacial, derivada del cuadro delimitador de verdad fundamental, se aplica tanto a las características del profesor como a las del estudiante. Esto obliga a la pérdida de destilación (Error Cuadrático Medio) a concentrarse en la región del objetivo mientras suprime el ruido de fondo.
   • Efecto: Mejora la capacidad del estudiante para aprender representaciones de objetivos fuertes y detalladas, y mejora la robustez frente al desorden del fondo.

2. Destilación a Nivel de Predicción:

   • Objetivo: Mejorar la precisión de la localización espacial.
   • Mecanismo: Una pérdida de divergencia Kullback–Leibler (KL) enmascarada alinea las distribuciones de confianza del estudiante y del profesor específicamente dentro de la región del objetivo.
   • Efecto: Guía al estudiante para replicar el comportamiento de localización preciso y la consistencia de los límites del profesor.

2.3. Entrenamiento y Función de Pérdida

La pérdida total de entrenamiento combina objetivos estándar de seguimiento con los términos de destilación:
$$L = L_{cls} + \lambda_1 L_1 + \lambda_2 L_{GIoU} + \lambda_3 L_{feat} + \lambda_4 L_{pred}$$
Donde $L_{feat}$ y $L_{pred}$ son las pérdidas de destilación a nivel de características y a nivel de predicción, respectivamente. Crucialmente, el modelo profesor y las pérdidas de destilación se descartan después del entrenamiento; el modelo estudiante no incurre en computación extra durante la inferencia.

3. Contribuciones Clave

El artículo describe tres contribuciones principales:

1. Marco de Destilación de Doble Rama: Un diseño novedoso que transfiere selectivamente conocimiento específico del objetivo mediante supervisión de características ponderada espacialmente y alineación a nivel de predicción enmascarada. Esto aborda las limitaciones de la destilación solo global concentrando la supervisión dentro de la región del objetivo.
2. Entrenamiento Consciente del Objetivo de Alta Granularidad: Una estrategia que guía explícitamente al modelo para capturar variaciones de apariencia al centrar la supervisión en el primer plano. Esto mejora la robustez frente a cambios sutiles y dinámicos sin aumentar la latencia de inferencia.
3. Marco Ligero Asimétrico: La integración de una columna vertebral asimétrica con un mecanismo de mejora temporal (Almacén de Objetivos) crea un marco que equilibra la precisión del seguimiento y la eficiencia computacional, permitiendo que los transformadores podados mantengan una precisión competitiva.

4. Resultados Experimentales

Los autores evaluaron EATrack en cinco conjuntos de datos de referencia para UAV: DTB70, UAVDT, VisDrone2018, UAV123 y UAV123@10fps.

• Rendimiento: EATrack-DeiT (utilizando una columna vertebral DeiT-tiny) logró resultados de última generación (SOTA) en los cinco conjuntos de datos, superando a rastreadores ligeros anteriores como Aba-ViTrack y SGLATrack. Por ejemplo, en UAV123, logró una tasa de éxito del 68.1%, superando al mejor anterior por un margen significativo.
• Eficiencia: El modelo se ejecuta a 33.6 FPS en una plataforma NVIDIA Jetson TX2 integrada sin herramientas de aceleración (por ejemplo, TensorRT), demostrando capacidad en tiempo real. En una GPU de gama alta (A100), alcanza 241.9 FPS.
• Estudios de Ablación:
  • Destilación: Eliminar la destilación resultó en una caída del 1.4% en precisión y del 1.1% en la tasa de éxito en UAV123. Se demostró que ambas ramas, a nivel de características y a nivel de predicción, son complementarias.
  • Pistas Temporales: Incorporar pistas temporales mejoró el rendimiento significativamente en conjuntos de datos dinámicos (por ejemplo, +3.2% en DTB70, +5.8% en VisDrone), confirmando el valor del modelado temporal en escenarios de movimiento complejo.
  • Análisis de Profundidad: El estudio identificó un equilibrio óptimo entre la profundidad de las capas y la eficiencia, seleccionando una configuración que maximiza el rendimiento mientras mantiene el objetivo ligero.

5. Significado y Afirmaciones

El artículo afirma que EATrack cierra efectivamente la brecha entre la eficiencia y la precisión en el seguimiento de UAV. Al aprovechar una estrategia de destilación guiada por un profesor y consciente del objetivo, el método permite que los transformadores estructuralmente podados preserven las capacidades discriminativas y de localización de modelos más grandes sin la sobrecarga de inferencia asociada.

Los autores enfatizan que su enfoque se distingue de los rastreadores basados en destilación existentes al:

• Ir más allá de la guía global hacia una supervisión de alta granularidad y consciente del objetivo.
• Combinar la guía a nivel de características y a nivel de predicción para abordar simultáneamente la calidad de la representación y la precisión de la localización.
• Lograr robustez frente a variaciones de apariencia mediante un mecanismo de adaptación temporal que opera a un costo ultra bajo.

Los resultados sugieren que EATrack es una solución viable para aplicaciones aéreas en tiempo real donde se requieren tanto alta precisión de seguimiento como restricciones computacionales estrictas.