Resumen Técnico: SparsePixels: Convolución Eficiente para Datos Dispersos en FPGAs

1. Planteamiento del Problema

Las Redes Neuronales Convolucionales (CNN) estándar desplegadas en Matrices de Puertas Programables en Campo (FPGA) para experimentos de física de partículas suelen sufrir de una alta latencia de inferencia y largos intervalos de iniciación. Esta ineficiencia surge porque la convolución estándar requiere procesar densamente cada píxel de entrada, independientemente de si el píxel contiene información semántica. En muchas aplicaciones modernas de detectores, como el rastreo de muones en cámaras de gas o la identificación de neutrinos en Cámaras de Proyección Temporal de Argón Líquido (LArTPC), los datos de entrada son espacialmente dispersos. Por ejemplo, una traza de un muón puede ocupar menos del 0.3% de una imagen 2D, y las trazas de neutrinos en LArTPC pueden tener tan solo un 0.01% de píxeles no nulos.

Las implementaciones actuales de FPGA, como las que utilizan la biblioteca hls4ml, dependen típicamente de la transmisión de Entrada/Salida (I/O) para gestionar las restricciones de recursos. Si bien la transmisión reduce el uso de recursos, procesa los píxeles secuencialmente, lo que genera latencias que escalan linealmente con el tamaño de la imagen (por ejemplo, escaneando miles de píxeles vacíos). Esto hace que las CNN estándar sean inviables para los sistemas de disparadores (trigger) en tiempo real en experimentos de física de altas energías, que requieren latencias de decisión en el rango de microsegundos o sub-microsegundos para manejar tasas de colisión de 40 MHz.

Los métodos de convolución dispersa existentes para GPUs (por ejemplo, MinkowskiEngine, SpConv) a menudo permiten que el conjunto de píxeles activos se "dilate" a través de las capas, aumentando el costo computacional, o dependen de flujos de datos irregulares que resultan en tiempos de ejecución dependientes de la entrada. En sistemas con límites de latencia estrictos, el tiempo de ejecución variable es inaceptable.

2. Metodología: El Marco de Trabajo SparsePixels

Los autores presentan SparsePixels, un marco diseñado para implementar la convolución dispersa en FPGAs que mantiene un tiempo de ejecución constante e independiente de la entrada. La filosofía central es retener y computar selectivamente solo un subconjunto pequeño y preespecificado de píxeles activos mientras se ignoran los demás, asegurando que el conteo total de operaciones permanezca fijo para cada entrada.

2.1 Arquitectura Central

El marco consiste en cinco capas dispersas especializadas diseñadas para la Síntesis de Alto Nivel (HLS):

1. Reducción de Entrada Dispersa: La primera capa identifica los píxeles activos (aquellos que superan un umbral) y los extrae en arreglos compactos. Para evitar direcciones de escritura dependientes de los datos (que causan problemas de programación en HLS), los autores emplean un árbol de reducción binaria recursivo. Este esquema, eficiente en hardware, escanea la entrada en un patrón fijo para poblar dos arreglos: un arreglo de características (afeat) y un arreglo de hash de coordenadas (ahash). El número de píxeles retenidos se limita mediante un hiperparámetro, $N_{max}^{active}$.
2. Convolución Dispersa: Esta capa realiza una convolución que preserva la dispersión. Crucialmente, un píxel de salida se computa solo si el píxel de entrada correspondiente en esa misma ubicación está activo. Esto evita la "dilatación" del conjunto activo vista en otros métodos dispersos. El algoritmo itera sobre los arreglos de tamaño fijo en lugar de la cuadrícula completa de la imagen. El conteo de iteraciones depende de $N_{max}^{active}$, no del tamaño del núcleo $K$, ya que las posiciones del núcleo se determinan mediante verificaciones de desplazamiento en lugar de bucles explícitos sobre todas las $K^2$ posiciones.
3. Activación Dispersa: Aplica la no linealidad elemento a elemento al arreglo de características dispersas.
4. Agrupación (Pooling) Dispersa: Submuestrea la representación dispersa mapeando las coordenadas y acumulando las características para los píxeles que caen en el mismo grupo.
5. Aplanado Disperso (Flattening): Convierte la representación dispersa final de nuevo en un arreglo denso para la conexión con capas densas estándar (MLP).

2.2 Detalles de Implementación

• Tiempo de Ejecución Constante: Debido a que el sistema opera sobre arreglos de tamaño fijo ($N_{max}^{active}$), rellenos con banderas de invalidez si la entrada tiene menos píxeles activos, la latencia de inferencia es independiente de la dispersión real de la entrada.
• Entrenamiento: Se desarrolló una biblioteca de Python para entrenar estas CNN dispersas utilizando Entrenamiento con Concientización de Cuantización (QAT) con QKeras como backend. El entrenamiento imita el comportamiento de HLS, incluyendo la restricción de $N_{max}^{active}$ fijo.
• Objetivo de Hardware: El diseño apunta a FPGAs AMD/Xilinx Alveo (xcu250) utilizando Vitis HLS, operando a 200 MHz.

3. Contribuciones Clave

1. Método de Convolución Dispersa: Un enfoque novedoso para FPGAs que selecciona adaptativamente los píxeles activos pero impone un presupuesto de computación fijo ($N_{max}^{active}$), asegurando una latencia constante independientemente de la dispersión de la entrada.
2. Implementación de Prueba de Concepto: Una demostración de aceleraciones significativas de inferencia en FPGA con datos de imagen espacialmente dispersos, con un rendimiento de modelo comparable a las CNN estándar implementadas con I/O de transmisión.
3. Herramientas de Código Abierto: Una biblioteca de Python publicada para el entrenamiento de CNN dispersas y módulos C++ HLS para su despliegue, facilitando la adopción en la comunidad de física de partículas.

4. Resultados Experimentales

Los autores evaluaron SparsePixels en tres conjuntos de datos: una variante de MNIST dispersificada, detección de neutrinos MicroBooNE y clasificación de sabor de jets del LHC. Los modelos fueron compactos (~4k parámetros) y se compararon contra líneas base de CNN estándar implementadas con I/O de transmisión.

• Rendimiento vs. Latencia: En el conjunto de datos MicroBooNE (imágenes de 63×63, ~4k píxeles), una CNN estándar de 8 bits requirió 48.665 µs (9,733 ciclos de reloj) para la inferencia. La variante "sparse-large" de SparsePixels (computando sobre solo 20 píxeles activos, <1% de la entrada) logró un tiempo de inferencia de 0.665 µs (133 ciclos de reloj). Esto representa una aceleración de 73× con una pérdida de rendimiento insignificante (<2% de caída en el ROC AUC).
• Escalabilidad: Se observaron aceleraciones similares para MNIST (hasta 41×) y clasificación de jets del LHC (hasta 112×).
• Utilización de Recursos: Aunque las CNN dispersas utilizan más recursos (debido al desenrollado de bucles para paralelismo) que las CNN de transmisión estándar, el uso de recursos permanece bien dentro de los presupuestos en chip (por ejemplo, ~20% de las LUTs para los modelos más grandes).
• Intervalo de Iniciación (II): El II para las CNN dispersas está determinado únicamente por la capa de reducción de entrada dispersa (la primera capa), ya que las capas subsiguientes operan en paralelo sobre los arreglos dispersos de tamaño fijo.

5. Significado y Limitaciones

Significado:
El artículo afirma que SparsePixels permite el despliegue de CNN en regímenes de latencia ultra baja (sub-microsegundos) requeridos por los detectores modernos de partículas, donde las CNN estándar son actualmente inviables debido a la latencia. Al intercambiar una pequeña cantidad controlable de precisión por aceleraciones masivas, el marco permite algoritmos en línea más sofisticados en experimentos como el LHC de Alta Luminosidad.

Limitaciones y Trabajo Futuro:

• Restricciones de Paralelización: La implementación actual desenrolla completamente los bucles para minimizar la latencia, lo que limita el tamaño máximo de entrada y la complejidad del modelo debido al agotamiento de recursos de la FPGA. El trabajo futuro apunta a introducir un control flexible sobre la paralelización para intercambiar latencia por eficiencia de recursos.
• Ajuste de Hiperparámetros: La elección de $N_{max}^{active}$ es actualmente empírica. Los autores proponen hacer este parámetro (y potencialmente el umbral) entrenable en versiones futuras.
• Cuantización: El backend actual utiliza cuantización uniforme por capa. Las actualizaciones futuras planean adoptar Cuantización de Alta Granularidad (HGQ) para un control más fino.

Los autores concluyen que SparsePixels ofrece un camino viable para la lectura eficiente de datos en experimentos con requisitos de latencia a nivel de microsegundos, cerrando la brecha entre la necesidad de modelos de ML complejos y las estrictas restricciones de tiempo de los disparadores de hardware en tiempo real.