Searching on a Budget: HW-NAS with 10 Latency Probes

Resumen Técnico: Búsqueda con Presupuesto Limitado: HW-NAS con 10 Sondeos de Latencia

Enunciado del Problema
La Búsqueda de Arquitecturas Neuronales Consciente del Hardware (HW-NAS) tiene como objetivo automatizar el diseño de Redes Neuronales Profundas (DNN) que equilibren el rendimiento de la tarea (por ejemplo, precisión) con las restricciones de hardware (por ejemplo, latencia) para dispositivos con recursos limitados. Los enfoques existentes enfrentan una compensación crítica:

1. Mediciones del mundo real: Compilar y evaluar directamente redes candidatas en dispositivos objetivo proporciona datos de latencia precisos, pero es computacionalmente costoso y consume mucho tiempo, especialmente cuando cambia el dispositivo objetivo.
2. Aproximaciones: Las tablas de búsqueda analíticas (LUT) o los predictores de latencia aprendidos reducen los costos de búsqueda pero introducen errores de estimación. En aplicaciones sensibles al riesgo (por ejemplo, robótica), estos errores pueden provocar violaciones de los límites de latencia, haciendo que los diseños sean poco fiables.

Además, la mayoría de los métodos HW-NAS están adaptados a un solo dispositivo objetivo, lo que requiere una búsqueda completa cada vez que cambia el hardware de implementación. Existe la necesidad de una estrategia HW-NAS multi-dispositivo que minimice la cantidad de sondeos de latencia del mundo real, costosos, evitando al mismo tiempo las imprecisiones de los modelos predictivos.

Metodología
Los autores proponen un marco de dos etapas que desplaza la complejidad de la fase de implementación a una fase de pre-entrenamiento, permitiendo la adaptación a hardware no visto con una interacción mínima.

1. Meta-Entrenamiento en Dispositivos Sintéticos (Etapa 1):

   • Objetivo: Entrenar un controlador de Aprendizaje por Refuerzo (RL) para generalizar a través de perfiles de hardware diversos sin acceder al dispositivo objetivo específico.
   • Aleatorización de Dominio: En lugar de entrenar en un solo dispositivo, el controlador se expone a una distribución de dispositivos "sintéticos". Estos se generan muestreando modelos de latencia gaussianos para cada operación basados en datos de 18 dispositivos diferentes en HW-NAS-Bench.
   • Proxies sin Entrenamiento: Para evitar el costo prohibitivo de entrenar redes completas durante el RL, el controlador se supervisa utilizando proxies de precisión sin entrenamiento (específicamente $p_{FreeREA}$, una combinación de NASWOT, LogSynflow y SkipScore).
   • Función de Recompensa: El agente maximiza una recompensa que combina el proxy de precisión sin entrenamiento y un término de latencia normalizado, permitiéndole aprender la compensación entre rendimiento y eficiencia a través de paisajes de latencia variables.

2. Implementación Zero-Shot con Sondeos Directos (Etapa 2):

   • Adaptación: El controlador pre-entrenado se congela y se implementa en un nuevo dispositivo objetivo no visto.
   • Medición Directa: El controlador interactúa con el dispositivo objetivo consultando un número muy pequeño de arquitecturas candidatas (por ejemplo, 10 sondeos). Para cada consulta, compila la red y mide la latencia real posterior a la compilación.
   • Historial de Estado: La latencia medida se normaliza y se agrega al historial de estado. El controlador utiliza esta retroalimentación para condicionar su siguiente acción (modificando la arquitectura), aprendiendo efectivamente el perfil de latencia específico del dispositivo objetivo mediante observación directa en lugar de predicción.
   • Selección: La arquitectura final se selecciona del conjunto de candidatos medidos basándose en la mejor compensación observada, sin requerir más entrenamiento ni ajuste de predicción.

Contribuciones Clave

• Entrenamiento RL Aleatorizado: Un procedimiento que produce un controlador capaz de interactuar directamente con dispositivos diversos en el momento de la prueba mediante el entrenamiento en una distribución de perfiles de latencia sintéticos.
• Eliminación de Predictores: El método descarta por completo las aproximaciones analíticas y los predictores de latencia aprendidos. En su lugar, se basa en mediciones directas en el dispositivo de tan solo 10 redes candidatas, lo cual es factible gracias al conocimiento previo transferido desde la fase de entrenamiento sintético.
• Evaluación sin Entrenamiento: La integración de métricas sin entrenamiento para NAS basado en RL, permitiendo una puntuación rápida de candidatos sin el costo del entrenamiento completo de la red.

Resultados Experimentales
El método se evaluó en el espacio de búsqueda NATS-Bench para CIFAR-10, utilizando datos de 18 dispositivos y validado en un iPhone 13 mini del mundo real.

• Rendimiento vs. Predictores: Bajo un presupuesto estricto de 10 mediciones en el dispositivo objetivo, el método propuesto logró un percentil de latencia mediana de 1.65, superando significativamente a la búsqueda aleatoria (30.16) y a una línea base de predictor de latencia estilo HELP (4.51).
• Validación en el Mundo Real: En un iPhone 13 mini, con un presupuesto total de 20 mediciones (divididas entre normalización y búsqueda), el controlador propuesto logró una latencia mediana de 0.2261 ms, en comparación con 0.2477 ms para la línea base HELP-EA. Esto representa una reducción del 8.7% en la latencia mediana medida.
• Análisis de Fallos del Predictor: El estudio destacó que los métodos basados en predictores (como HELP) a menudo seleccionaban arquitecturas que eran más lentas de lo predicho en la práctica (la latencia medida fue más lenta que la predicha en 9 de 10 semillas), mientras que la dependencia del método propuesto en la medición directa aseguraba que la latencia de la arquitectura seleccionada fuera conocida y verificada.
• Transferibilidad: El controlador se adaptó con éxito a dispositivos retenidos (por ejemplo, edgegpu, fpga, pixel3, raspi4) utilizando un protocolo de dejar-uno-dispositivo-afuera, demostrando una transferencia efectiva sin reentrenamiento.

Significado y Afirmaciones
El artículo argumenta que en escenarios donde el acceso al hardware objetivo es escaso pero las mediciones deben ser confiables (implementación aversa al riesgo), es preferible medir directamente unas pocas arquitecturas cuidadosamente elegidas en lugar de predecir muchas no medidas.

• Fiabilidad: Al evitar los predictores de latencia, el método elimina el riesgo de que los errores de estimación invaliden las garantías de latencia.
• Eficiencia: El enfoque reduce el costo total de implementación ($C$) limitando el número de sondeos de verdad fundamental ($|N|$) en lugar de reducir el costo por sondeo ($c$) mediante aproximación.
• Practicidad: Los resultados sugieren que un controlador RL pre-entrenado puede "aprender" efectivamente las características de latencia de un nuevo dispositivo mediante un puñado de sondeos directos, haciendo de la medición directa una alternativa viable y superior a la aproximación en escenarios HW-NAS de bajo presupuesto y alto riesgo.

Limitaciones
Los autores reconocen que el estudio está actualmente limitado al espacio de búsqueda de topologías NATS-Bench y que el diseño de la distribución de dispositivos sintéticos ($\Xi$) requiere mayor exploración para asegurar una transferencia óptima. Además, el enfoque actual se centra principalmente en la latencia; se necesita trabajo futuro para extender el marco a restricciones multi-objetivo que incluyan memoria y energía.