Resumen Técnico: Detección de Buques mediante SAR Ligero vía Destilación Contrastiva (SURGE)

Declaración del Problema

Los detectores profundos basados en convoluciones o transformadores (p. ej., Faster R-CNN, RetinaNet, DETR) logran una alta precisión en la detección de buques mediante Radar de Apertura Sintética (SAR), pero suelen ser computacionalmente prohibitivos para el despliegue en tiempo real o a bordo debido a las restricciones de memoria y latencia. Si bien los modelos ligeros ofrecen una mayor eficiencia, frecuentemente luchan por capturar las complejas relaciones estructurales y las pistas geométricas inherentes a la retrodispersión de SAR, lo que conduce a una pérdida de poder discriminativo frente al ruido (clutter).

Los enfoques de destilación de conocimiento (KD) existentes para SAR se basan principalmente en el emparejamiento de mapas de características o la alineación de logits. Estos métodos imponen una similitud de activación localizada, pero no logran modelar explícitamente la geometría relacional que rige cómo un detector profesor organiza las representaciones de objetos en el espacio de características. En consecuencia, los modelos estudiante aprenden respuestas locales en lugar del razonamiento estructural crítico para distinguir objetivos en imágenes de SAR. Además, existe una falta de marcos unificados que puedan manejar arquitecturas de detectores heterogéneas (dos etapas, una etapa y basadas en transformadores) sin modificar sus diseños centrales.

Metodología: Marco de Trabajo SURGE

Los autores proponen SURGE (Structured Unified Relational knowledGE distillation), un marco diseñado para transferir la geometría relacional de un profesor potente a un estudiante compacto utilizando un objetivo contrastivo InfoNCE dentro de un espacio de incrustación de proyección compartido.

Mecanismos Centrales

1. Generación de Regiones Agnóstica a la Arquitectura:
   El marco convierte las predicciones de familias de detectores heterogéneas en regiones candidatas alineadas:

   • Detectores de dos etapas: Las regiones se derivan de la Red de Propuesta de Regiones (RPN).
   • Detectores de una etapa: Las predicciones densas de alta confianza se decodifican en cajas delimitadoras (bounding boxes) y se tratan como pseudo-propuestas.
   • Transformers (DETR): Se utilizan las cajas delimitadoras de alta confianza predichas por el decodificador.
     Estas regiones se alinean espacialmente con el espacio de la imagen del estudiante para compensar las diferencias de preprocesamiento.

2. Alineación de Características entre Detectores:
   Las regiones derivadas del profesor se mapean de nuevo al sistema de coordenadas de la verdad de campo (ground-truth) y se transforman al espacio de la imagen del estudiante. Las características a nivel de región se extraen mediante RoIAlign tanto de las redes del profesor como del estudiante.

3. Objetivo de Destilación Consciente de la Relación:
   Las características se agrupan globalmente (globally pooled) y se proyectan en un espacio de incrustación compartido ($z^T_i$ y $z^S_i$) y se normalizan mediante L2. La destilación se formula como un objetivo InfoNCE (Information Noise-Contrastive Estimation) anclado al estudiante:

   • Pares Positivos: Definidos por regiones que comparten la misma etiqueta semántica y un IoU alto ($\ge \tau_{pos}$) con la verdad de campo.
   • Pares Negativos: Definidos por regiones con un IoU bajo ($\le \tau_{neg}$).
   • Función de Pérdida: El objetivo fomenta que la incrustación del estudiante preserve la estructura de vecindad relativa inducida por las pistas semánticas y de localización del profesor, en lugar de realizar una regresión de características directa uno a uno.

4. Estrategia de Entrenamiento Unificada:

   • Para los detectores convolucionales (Faster R-CNN, RetinaNet), la pérdida total combina la pérdida de detección estándar, la destilación de salida convencional (logits/cajas) y la propuesta pérdida relacional.
   • Para los detectores basados en transformadores (DETR), se omite la destilación a nivel de salida porque las predicciones de conjuntos no ordenados conducen a una correspondencia inestable entre profesor y estudiante. En su lugar, DETR depende exclusivamente de la destilación relacional a nivel de región.

Principales Contribuciones

El artículo describe cuatro contribuciones primarias:

1. Marco SURGE: Un marco de KD unificado y consciente de la relación para la detección de buques en SAR. Su novedad reside en convertir las predicciones heterogéneas en regiones candidatas alineadas para transferir la geometría relacional entre las incrustaciones a nivel de objeto, en lugar de introducir una nueva función de pérdida de propósito general.
2. Interfaz Unificada: Una interfaz de destilación a nivel de región aplicable a detectores de dos etapas, una etapa y basados en transformadores sin modificar sus arquitecturas centrales.
3. Primer KD de SAR basado en Transformadores: Hasta donde los autores saben, este es el primer marco que demuestra una transferencia relacional efectiva para detectores de buques SAR basados en transformadores sin depender de la supervisión por consulta (query-level supervision).
4. Ganancias de Rendimiento: Los experimentos en los bancos de pruebas SSDD y HRSID muestran mejoras sustanciales para detectores de dos etapas ligeros (ganancias de hasta 6.2 mAP y 8.0 AP75) mientras se logra una reducción de parámetros de más del 50%.

Resultados Experimentales

El marco fue evaluado en los bancos de pruebas SSDD y HRSID utilizando Faster R-CNN (dos etapas), RetinaNet (una etapa) y DETR (transformador).

• Detectores de Dos Etapas (Faster R-CNN): El método produjo las mejoras más significativas. En SSDD, el estudiante ResNet-18 mejoró de 62.87 mAP a 68.03 mAP (+5.16 mAP sobre el estudiante no destilado). Notablemente, el estudiante destilado superó al profesor ResNet-101 por +1.33 mAP utilizando aproximadamente un 51% menos de parámetros. En HRSID, las ganancias fueron de +6.03 mAP y +7.71 AP75.
• Detectores de Una Etapa (RetinaNet): Los resultados fueron mixtos. En SSDD, el método propuesto mostró un rendimiento dentro del margen de variabilidad estadística comparado con el estudiante base y la KD convencional. Sin embargo, en el conjunto de datos más complejo HRSID, proporcionó ganancias consistentes (+0.65 mAP, +1.10 AP75).
• Detectores de Transformadores (DETR): El método proporcionó ganancias consistentes, aunque menores (+0.33 mAP en SSDD). Los autores señalan que no se reportó un baseline de destilación de salida convencional para DETR ya que degradaba el rendimiento debido a las correspondencias inestables.
• Estudios de Ablación: Combinar la destilación relacional con la destilación convencional (vanilla KD) produjo los mejores resultados, indicando que la supervisión relacional complementa en lugar de reemplazar la destilación convencional.
• Eficiencia: Dado que el marco es solo para el entrenamiento, la latencia de despliegue y el uso de memoria permanecen idénticos a los modelos estudiante base.

Significado y Reivindicaciones

El artículo afirma que SURGE establece la destilación consciente de la relación como una estrategia de principio y escalable para la detección eficiente de buques en SAR bajo restricciones de recursos.

• Razonamiento Estructural: Los autores enfatizan que el éxito del método proviene de la transferencia de la "organización estructural" del espacio de representación del profesor, lo cual es crítico para las imágenes de SAR donde las pistas contextuales y geométricas son vitales.
• Agnosticismo de Arquitectura: El marco logra cerrar la brecha entre diferentes paradigmas de detectores (dos etapas, una etapa, transformadores) utilizando una interfaz unificada a nivel de región.
• Rendimiento que Supera al Profesor: En el caso de Faster R-CNN, el estudiante destilado no solo superó al estudiante no destilado, sino que también excedió el rendimiento del modelo profesor más grande, demostando que la transferencia de la geometría relacional puede compensar la reducción de la capacidad del modelo.
• Modestia en el Alcance: Los autores reconocen que las ganancias para los detectores de una etapa y de transformadores son más modestas en comparación con los de dos etapas, atribuyendo esto a la ausencia de propuestas de región explícitas en esas arquitecturas. Posicionan el trabajo como un paso hacia la detección eficiente, con trabajos futuros planeados para la detección multiclase y la destilación transmodal.