Resumen Técnico: RAMS – Cambio de Modelo Adaptativo a los Recursos y Condicionado por la Detección para la Percepción en el Borde Integrado (Embedded Edge)

1. Planteamiento del Problema

El despliegue de detección de objetos en hardware embebido enfrenta una tensión fundamental entre la latencia de inferencia y la calidad de la detección que está ausente en los entornos de la nube. Mientras que la latencia de inferencia en la nube está limitada principalmente por la complejidad del modelo y el tiempo de ida y vuelta de la red, los dispositivos embebidos comparten recursos de CPU y memoria con el SO anfitrión, servicios en segundo plano y tuberías de sensores. A medida que la utilización del sistema aumenta, la latencia de inferencia para un modelo fijo se degrada sustancialmente (por ejemplo, una inferencia de YOLOv8-MEDIUM en un Intel i7-1165G7 puede degradarse de 448 ms en reposo a más de 1500 ms bajo una carga de ráfaga).

El compromiso estándar —degradar a un modelo más ligero para reducir la latencia— introduce un costo asimétrico. Una inferencia de 320 px en una carretera vacía incurre en la misma penalización de precisión que una que contiene a un peatón cercano, pero omitir a un peatero conlleva un riesgo de seguridad que no es capturado únicamente por las métricas de latencia. Además, los sistemas adaptativos existentes suelen depender de umbrales fijos que no se transfieren a través de hardware heterogéneo debido a las variaciones en las presiones de recursos en reposo, o requieren conectividad a la nube, la cual no está disponible en dispositivos de borde.

2. Metodología: El Sistema RAMS

RAMS (Cambio de Modelo Adaptativo a los Recursos y Condicionado por la Detección) es un controlador de tiempo de ejecución ligero diseñado para equilibrar la latencia y la seguridad sin la latencia de recarga de modelos. Opera enteramente en el dispositivo y consta de cuatro componentes:

A. Monitor de Presión de Recursos

Ejecutándose a 10 Hz, el monitor consulta señales a nivel de SO (utilización de CPU, presión de memoria virtual, temperatura y carga de batería) para calcular un índice de presión escalar $R(t) \in [0, 1]$.
$$R(t) = w_c c + w_m m + w_T \hat{T} + w_b (1 - b)$$
Los pesos reflejan la dominancia empírica de la utilización de la CPU en las cargas de trabajo embebidas. Si ciertos sensores no están disponibles, sus pesos se redistribuyen a la utilización de la CPU.

B. Calibración de Umbral Relativa al Reposo

Para asegurar la portabilidad entre dispositivos sin necesidad de un ajuste manual por dispositivo, RAMS emplea un procedimiento de calibración relativa al reposo. En lugar de usar umbrales fijos, el sistema perfila el dispositivo en reposo (sin carga de inferencia) para determinar una presión base $R_{idle}$. Los umbrales de cambio se establecen entonces como desplazamientos fijos de esta base:
$$\theta_\ell = R_{idle} + \delta_\ell, \quad \theta_h = R_{idle} + \delta_h$$
donde $\delta_\ell = 0.10$ y $\delta_h = 0.25$. Esto asegura que el significado semántico de los umbrales (por ejemplo, "carga moderada") permanezca consistente a través de plataformas con diferentes bases de reposo (por ejemplo, Raspberry Pi 5 frente a Jetson Orin).

C. Biblioteca de Modelos Calientes (Warm Model Library)

RAMS mantiene tres niveles de YOLOv8 (NANO a 320px, SMALL a 416px, MEDIUM a 640px) residentes en memoria simultáneamente. Este enfoque de "capas calientes" elimina la penalización de latencia asociada con la carga de modelos bajo demanda. La huella de memoria total es de aproximadamente 81 MB para modelos ONNX FP32 y 120–150 MB para motores TensorRT.

D. Políticas de Cambio

El controlador implementa cinco políticas que van desde el simple umbral hasta los reemplazos condicionados por la detección:

1. Política de Umbral: Utiliza histéresis para evitar la oscilación rápida entre niveles basada en $R(t)$.
2. Política Predictiva: Utiliza una Media Móvil Exponencialmente Ponderada (EWMA) para pronosticar la presión y activar degradaciones antes de que se crucen los umbrales.
3. Política Adaptativa: Auto-ajusta el factor de suavizado EWMA basándose en la varianza de las lecturas de presión recientes.
4. Política de Seguridad: Un reemplazo condicionado por la detección que evita la degradación al nivel NANO dentro de una ventana temporal ($\Delta t_w = 0.5$s) después de que se detecta un Usuario Vulnerable de la Vía (VRU).
5. Política de Seguridad de Dos Niveles (Safety2): Una versión mejorada que condiciona el nivel de reemplazo según el área de la caja delimitadora (bounding box) del VRU detectado. Las cajas grandes (objetos cercanos) activan un bloqueo en el nivel MEDIUM, mientras que las cajas pequeñas (objetos distantes) activan un bloqueo en el nivel SMALL.

3. Contribuciones Clave

1. Índice de Presión de Recursos Formal: Un método de calibración portátil y relativo al reposo ($R(t)$) que permite que las mismas ecuaciones del controlador operen a través de un rango de latencia de 37× en hardware heterogéneo sin ajuste por dispositivo.
2. Cambio Condicionado por la Detección: Cinco políticas formalmente especificadas, incluyendo dos variantes reactivas que retrasan las degradaciones basadas en detecciones recientes de VRU, abordando el costo asimétrico de omitir objetos críticos para la seguridad.
3. Métrica SWAS: La Puntuación de Precisión Ponderada por VRU (SWAS), una métrica escalar para la comparación de políticas fuera de línea en video no etiquetado. El artículo introduce una variante "limitada por el oráculo" ($SWAS^\star$) que utiliza etiquetas de verdad de campo (ground-truth) para separar los beneficios de la retención de nivel de la circularidad de usar la propia salida del detector (potencialmente imperfecta) para activar la política.
4. Evaluación Exhaustiva: Una evaluación de diez experimentos a través de cinco objetivos de hardware (Raspberry Pi 5, Intel i7-1165G7, i7-13700F, Jetson Orin ONNX, Jetson Orin TensorRT) cubriendo sensibilidad de carga, ajuste de histéresis y compromisos de seguridad-latencia.

4. Resultados

Los experimentos se realizaron utilizando niveles de YOLOv8 y el conjunto de datos KITTI. Los hallazgos clave incluyen:

• Compromiso entre Latencia y Precisión: En Jetson Orin con TensorRT bajo carga pesada, la política Safety2 logró una latencia media de 3.41 ms (5.6× más rápida que el nivel MEDIUM fijo) reteniendo el 74% de la precisión de aproximación. Logró esto operando principalmente en modo NANO pero bloqueándose selectivamente en SMALL o MEDIUM durante las ventanas positivas de VRU.
• Mejoras de SWAS: Bajo carga pesada, el cambio condicionado por la detección mejoró el SWAS en un 25.4% bajo la puntuación del oráculo (la estimación conservadora que considera la circularidad del detector) y un 47.3% bajo la puntuación derivada del detector en comparación con las políticas de solo umbral.
• Portabilidad entre Dispositivos: Las mismas ecuaciones del controlador rigieron la operación a través de un rango de latencia de 37× (desde 3.41 ms en Jetson TRT hasta 127.52 ms en Jetson ONNX). El sistema se adaptó con éxito la selección de nivel a las capacidades específicas del hardware sin ajuste manual de umbrales.
• Límites de Recall (Recuperación): El artículo cuantifica explícitamente un límite fundamental de los sistemas reactivos. Dado que el nivel NANO logra solo un 24.2% de recall de VRU en KITTI, el reemplazo de seguridad está inactivo durante el 76% de los cuadros donde hay presencia de VRU porque el detector base falló al activar la condición. Esto resalta que el cambio reactivo no puede compensar las limitaciones inherentes de recall del modelo de nivel más bajo.
• Respuesta Transitoria: El controlador se compromete con los cambios de nivel dentro de 3 muestras de monitoreo (0.3s) para las políticas de umbral y más rápido para las políticas predictivas/adaptativas. Las políticas de seguridad introducen un máximo de 5 ciclos adicionales en un nivel superior después de un evento de VRU antes de revertir.

5. Significado y Reivindicaciones

El artículo afirma que RAMS es el único sistema que combina cambio de niveles calientes, selección de nivel condicionada por la detección, calibración portátil entre dispositivos y operación completa en el dispositivo sin descarga a la nube.

Los autores enfatizan que la mejora del 25.4% en el SWAS del oráculo representa un beneficio genuino del cambio condicionado por la detección, distinto de las ganancias infladas de la puntuación derivada del detector causadas por la circularidad de usar un detector de bajo recall para activar los bloqueos de seguridad. El trabajo demuestra que es posible lograr una latencia cercana a NANO preservando una parte significativa de la precisión de los niveles más pesados durante ventanas de seguridad críticas.

Sin embargo, el artículo es modesto respecto a las limitaciones de este enfoque. Establece explícitamente que el reemplazo reactivo está limitado por el recall del detector base; si el nivel NANO pierde un VRU, el bloqueo de seguridad no puede dispararse. Los autores identifican esto como una restricción fundamental de cualquier sistema reactivo condicionado por la detección que opere por debajo de un detector imperfecto, sugiriendo que el trabajo futuro debe centrarse en detectores base ligeros más fuertes o clasificadores de VRU paralelos para cerrar esta breza. El sistema no pretende proporcionar garantías de seguridad formales (por ejemplo, ISO 26262), sino más bien un mecanismo para optimizar el compromiso entre latencia y precisión en entornos con recursos limitados.