Distilled Edge Intelligence for Bolt Defect Detection in Communication Towers

Resumen Técnico: Inteligencia de Borde Destilada para la Detección de Defectos en Pernos de Torres de Comunicación

Planteamiento del Problema
El artículo aborda el desafío de desplegar modelos de aprendizaje profundo de alta precisión para la detección de defectos en pernos (específicamente aflojamiento y corrosión) en dispositivos de borde con recursos limitados en los sitios de torres de comunicación. Existe un compromiso fundamental entre la precisión y la eficiencia: los modelos en la nube ofrecen una detección fiable pero incurren en costos prohibitivos de latencia de transmisión y ancho de banda, mientras que los modelos ligeros en el borde reducen el consumo de recursos pero suelen sufrir de una baja recuperación (recall) en las clases minoritarias (pernos flojos y corroídos), las cuales son críticas para la seguridad. Además, los conjuntos de datos recolectados en campo exhiben un desequilibrio de clases extremo (dominados por muestras normales), y los defectos presentan patrones visualmente heterogéneos (deformación geométrica para el aflojamiento frente a cambios de textura para la corrosión) que son difíciles de capturar con una única modalidad de imagen.

Metodología
Los autores proponen un Marco de Inteligencia de Borde Destilada que integra la percepción de alta precisión en la nube con la inferencia ligera en el borde a través de tres componentes principales:

1. Modelo Maestro de Doble Flujo Heterogéneo:

   • Un modelo maestro en la nube ($M_t$) utiliza una arquitectura de doble flujo que fusiona la textura RGB y la geometría de profundidad monocular. Los mapas de profundidad se generan a partir de imágenes RGB individuales utilizando un modelo fundacional preentrenado (Depth Anything), evitando la necesidad de sensores de profundidad dedicados.
   • Para manejar el desequilibrio de clases extremo, el maestro es entrenado con una pérdida focal consciente de los defectos (defect-aware focal loss) que amplifica el peso de la clase "Flojo" (Loose) y emplea umbrales de decisión específicos por clase.

2. Estrategia de Entrenamiento de Dos Fases para el Modelo Estudiante:

   • Fase 0 (Selección de Arquitectura): Se selecciona una arquitectura de estudiante ligera ($M_s$) de una familia de candidatos (por ejemplo, variantes de MobileNetV2) basada en presupuestos estrictos de recursos (parámetros, FLOPs y almacenamiento) antes de comenzar el entrenamiento. En los experimentos, se seleccionó MobileNetV2-0.5× para ajustarse a un nodo de borde que solo cuenta con CPU.
   • Fase 1 (Destilación de Conocimiento): El estudiante es entrenado utilizando destilación de conocimiento basada en logits (a nivel de respuesta) en lugar de destilación a nivel de características. Los autores encontraron empíricamente que la destilación a nivel de características degradaba la recuperación de las clases minoritarias porque las características intermedias del maestro estaban dominadas por la clase mayoritaria "Normal", reforzando el sesgo. En su lugar, el estudiante aprende de las predicciones de logits suavizadas del maestro (escaladas por $T^2$) combinadas con una pérdida focal, recuperando efectivamente la capacidad de reconocimiento de defectos del maestro con una fracción de su costo computacional.

3. Inferencia Colaborativa Borde-Nube Consciente de la Confianza:

   • El sistema emplea una política de descarga (offloading) asimétrica. El modelo en el borde actúa como un "filtro conservador de muestras normales".
   • Procesamiento Local: Si el modelo en el borde predice "Normal" con alta confianza (por encima de un umbral $\tau$), la muestra se resuelve localmente.
   • Descarga a la Nube: Si la predicción es "Flojo" o "Corroído", o si la confianza para "Normal" es baja, la muestra se transfiere a la nube para su verificación por parte del modelo maestro.
   • Este mecanismo se rige por un proceso de selección de umbral restringido por riesgo que optimiza la latencia mientras impone una restricción estricta de recuperación mínima de defectos ($R_{min}$).

Contribuciones Clave

1. Integración de Marco: Un marco unificado que combina la percepción de alta precisión en la nube con la inferencia ligera en el borde, específicamente para la inspección de pernos en torres de comunicación.
2. Entrenamiento de Dos Fases: Una estrategia que desacopla la satisfacción de la restricción estructural de recursos (selección de arquitectura) de la optimización del rendimiento (destilación de conocimiento), utilizando la destilación basada en logits para mejorar la recuperación de clases minoritarias sin alineación a nivel de características.
3. Colaboración Sensible al Riesgo: Un mecanismo de inferencia consciente de la confianza que trata al modelo en el borde como un filtro para muestras normales, descargando a la nube solo las muestras inciertas o potencialmente defectuosas para equilibrar el uso de ancho de banda con la confiabilidad de detección crítica para la seguridad.

Resultados Experimentales
Los experimentos se realizaron en un conjunto de datos recolectado en campo de 3,886 imágenes (75% Normal, 9.5% Flojo, 13.5% Corroído).

• Desempeño del Maestro: El maestro de doble flujo logró una precisión balanceada de 0.9308 y una recuperación de corrosión de 0.988, manejando eficazmente el desequilibrio de clases.
• Eficacia de la Destilación: La destilación basada en logits mejoró significamente al modelo estudiante. La recuperación de "Flojo" aumentó de 0.365 (estudiante sin destilar) a 0.692 (+32.7 puntos porcentuales), y la precisión balanceada subió de 0.618 a 0.735.
• Eficiencia del Borde: El modelo estudiante destilado (MobileNetV2-0.5×) alcanzó 56.8 FPS en un nodo de borde basado únicamente en CPU (incluyendo la estimación de profundidad), satisfaciendo los requisitos de tiempo real.
• Desempeño Colaborativo:
  • En un punto operativo balanceado ($\tau=0.75$), el sistema logró una precisión balanceada de 0.923 (solo 0.8 pp por debajo de la opción exclusiva de la nube) reduciendo la tasa de carga a la nube al 80.8% y la latencia a 48.48 ms.
  • En un punto priorizado por la seguridad ($\tau=0.90$), el sistema logró cero fuga de defectos local (sin falsos negativos resueltos en el borde) con una tasa de carga del 98.7%, igualando casi el desempeño de la opción exclusiva de la nube.

Significancia y Reivindicaciones
El artículo afirma que el marco propuesto navega eficazmente el compromiso entre precisión, latencia y ancho de banda inherente a la inspección de torres en el borde. Al utilizar un modelo destilado ligero como un filtro conservador, el sistema logra una precisión de detección cercana a la de la nube, reduciendo significativamente la transmisión innecesaria de datos. Los autores enfatizan que este enfoque es particularmente adecuado para tareas críticas de seguridad donde los falsos negativos son inaceptables, demostrando que combinar la destilación de conocimiento con la colaboración borde-nube consciente de la confianza es una solución viable para desplegar inspección visual de alta precisión en dispositivos de borde con recursos limitados. El estudio no pretende resolver todos los desafíos de la computación de borde, sino que apunta específicamente a la brecha de precisión-eficiencia en el monitoreo de la salud estructural bajo un desequilibrio de clases extremo.