Resumen Técnico: FALO - Detección 3D de Objetos LiDAR Rápida y Precisa en Dispositivos con Recursos Limitados

1. Declaración del Problema

Los métodos existentes de detección 3D de objetos LiDAR enfrentan desafíos significativos al desplegarse en dispositivos periféricos con recursos limitados (por ejemplo, vehículos autónomos, robots móviles). Los principales cuellos de botella incluyen:

• Limitaciones de las Convoluciones Dispersas: La mayoría de los métodos del estado del arte (SOTA) dependen de convoluciones 3D dispersas. Aunque son eficientes en memoria, estas operaciones generan patrones irregulares de acceso a datos y memoria debido a la dispersión inherente de las nubes de puntos 3D. Esto dificulta su optimización para dispositivos embebidos compactos y complica la cuantización y el despliegue mediante frameworks como TensorRT.
• Ineficiencias de los Transformadores: Los enfoques recientes que utilizan Transformadores (por ejemplo, DSVT) evitan las convoluciones dispersas, pero sufren altos costos computacionales y de memoria, escalando cuadráticamente con el número de tokens de entrada (voxels no vacíos).
• Serialización Ineficiente: Los métodos basados en tokens existentes a menudo requieren reordenar los voxels múltiples veces a lo largo de la red (por ejemplo, alternando órdenes x/y, ordenamientos multiescala), lo que conduce a un movimiento de datos costoso y un uso del ancho de banda de memoria en dispositivos con ancho de banda limitado.
• Compensaciones Basadas en Pilares: Los métodos basados en pilares mejoran la eficiencia al proyectar datos 3D a 2D, pero a menudo se quedan atrás en precisión de detección en comparación con los métodos completos de voxels 3D y con frecuencia aún dependen de convoluciones 2D dispersas.

El artículo aborda la necesidad de un marco de detección que mantenga la precisión SOTA mientras ofrece velocidades de inferencia rápidas en hardware como la GPU NVIDIA Jetson Orin y la NPU Qualcomm Hexagon, sin depender de convoluciones dispersas ni de mecanismos de atención de complejidad cuadrática.

2. Metodología: FALO

El enfoque propuesto FALO (Detección 3D de Objetos LiDAR Rápida y Precisa) procesa nubes de puntos LiDAR a través de una pipeline sistemática y amigable con el hardware, diseñada para eliminar el acceso irregular a la memoria y la alta sobrecarga computacional.

2.1. Visión General del Sistema

La pipeline comienza con la voxelización estándar de la nube de puntos 3D de entrada. A diferencia de los métodos tradicionales que aplican convoluciones dispersas directamente, FALO extrae los voxels no vacíos y los organiza en una secuencia densa 1D de tokens. Estos tokens son procesados por una columna vertebral 3D que consta de capas de Agrupación de Voxels Implícita y ConvDotMix, antes de ser proyectados al espacio de Vista Aérea (BEV) para la detección final.

2.2. Serialización de Características 3D Dispersas

Para minimizar el movimiento de datos, FALO emplea un único paso de serialización inmediatamente después de la voxelización:

• Particionamiento de Ventana Local: El espacio 3D se divide en ventanas locales para preservar la localidad.
• Recorrido: Dentro de cada ventana, los voxels no vacíos se recorren (por ejemplo, en orden x o orden y) y se recopilan en una secuencia densa 1D.
• Estabilidad: A diferencia de otros métodos que reordenan los voxels en cada capa, FALO mantiene este orden de secuencia 1D a lo largo de toda la columna vertebral 3D, reduciendo significativamente el costoso movimiento de datos.

2.3. Agrupación de Voxels Implícita

Para abordar la ineficiencia de procesar secuencias 1D largas y desequilibradas (por ejemplo, $1 \times N \times D$) en hardware embebido, FALO introduce agrupación implícita:

• Reformulación: La secuencia se reformula para equilibrar las dimensiones de lote y token (por ejemplo, convirtiendo $1 \times 6000 \times 128$ en $10 \times 600 \times 128$).
• Tamaños de Grupo Variables: El tamaño del grupo aumenta a medida que la red se profundiza. Las capas superficiales utilizan grupos más pequeños para facilitar una inferencia más rápida y un aprendizaje local enfocado. Las capas más profundas utilizan grupos más grandes para acomodar el campo receptivo efectivo en crecimiento, permitiendo interacciones espaciales más amplias sin necesidad de reordenamiento explícito.

2.4. Operaciones ConvDotMix

La unidad de procesamiento central de la columna vertebral 3D es el bloque ConvDotMix, que reemplaza la autoatención y las convoluciones dispersas. Consiste en:

• Convoluciones de Gran Kernel: Aplicadas a la dimensión del token para mezclar características espaciales.
• Capas Lineales (MLP): Aplicadas a la dimensión de incrustación para la mezcla de canales.
• Producto de Hadamard: Una multiplicación elemento a elemento entre las características mezcladas espacialmente y las mezcladas por canal. Esto introduce interacciones no lineales de orden superior entre las características de los voxels, una capacidad típicamente proporcionada por la autoatención pero lograda aquí con complejidad computacional lineal.
• Conexiones Residuales: Se añaden conexiones de salto a la entrada para estabilizar el entrenamiento.

Todas las operaciones en ConvDotMix escalan linealmente con el número de tokens de entrada y dependen de multiplicaciones de matrices estándar, lo que las hace altamente paralelizables y eficientes en hardware de IA moderno.

3. Contribuciones Clave

1. Arquitectura FALO: Un enfoque sistemático para la detección 3D LiDAR que logra precisión SOTA en plataformas con recursos limitados sin utilizar convoluciones dispersas ni Transformadores.
2. Bloque ConvDotMix: Una operación novedosa que combina convoluciones de gran kernel, capas lineales y productos de Hadamard. Proporciona capacidades suficientes de mezcla espacial, por canal y no lineal de orden superior con solo costos computacionales y de memoria lineales.
3. Diseños Amigables con el Hardware:
   • Serialización Única: Los voxels se serializan en una secuencia 1D solo una vez, eliminando el movimiento repetido de datos.
   • Agrupación Implícita: Un mecanismo para equilibrar las dimensiones de los tensores para una inferencia más rápida, utilizando tamaños de grupo variables para alinearse con el campo receptivo en crecimiento.
   • Eliminación de Operaciones Costosas: El diseño elimina las convoluciones dispersas, la autoatención, el desplazamiento de ventanas y el reordenamiento de voxels.
4. Rendimiento: Velocidades de inferencia demostradas de 1.6$\times$ a 9.8$\times$ más rápidas que el último SOTA (DSVT) en NVIDIA Jetson Orin y Qualcomm Hexagon NPU, manteniendo al mismo tiempo una precisión de detección competitiva.

4. Resultados Experimentales

Los autores evaluaron FALO en los conjuntos de referencia nuScenes y Waymo Open Dataset.

• nuScenes:
  • En el conjunto de validación, FALO logró un NDS de 70.8 y un mAP de 65.7, comparable a DSVT (NDS 71.1, mAP 66.4) y SAFDNet, a pesar de no utilizar convoluciones dispersas ni autoatención.
  • En el conjunto de prueba, FALO logró un NDS de 70.9 y un mAP de 66.1, superando a la mayoría de los métodos basados en voxels y pilares que dependen de convoluciones dispersas.
• Waymo Open Dataset:
  • FALO logró resultados competitivos en las clases de Vehículo, Peatón y Ciclista. Por ejemplo, logró un L2 mAP de 73.6 y un mAPH de 70.6, comparable a DSVT-Pillar (73.2/71.0) y otros métodos SOTA.
• Latencia:
  • En la NPU Qualcomm Hexagon, FALO es 9.8$\times$ más rápido que DSVT.
  • En la GPU NVIDIA Jetson Orin, FALO es 1.6$\times$ más rápido que DSVT.
  • FALO logra 24–60 inferencias por segundo en el dispositivo, permitiendo una operación en tiempo real.

Estudios de Ablación

• Ordenamiento: El ordenamiento de ventana local propuesto mejoró el NDS en 1.1 puntos sobre el ordenamiento aleatorio/sin ordenamiento.
• Agrupación: Aumentar los tamaños de grupo en las capas más profundas produjo la mejor precisión (NDS 70.2) y la latencia más baja, mientras que disminuir los tamaños de grupo degradó el rendimiento.
• ConvDotMix vs. Transformador: Reemplazar las capas de Transformador en DSVT con ConvDotMix mejoró ligeramente la precisión (NDS 71.2 vs. 71.1) mientras reducía los FLOPs en un 28%.
• Tamaño del Kernel: Se demostró que los kernels más grandes (tamaño 11) son beneficiosos para el rendimiento en comparación con los kernels más pequeños.

5. Significado y Reivindicaciones

El artículo afirma que FALO representa un paso significativo hacia adelante en el despliegue de percepción 3D de alto rendimiento en dispositivos periféricos. Al eliminar sistemáticamente operaciones poco amigables con el hardware (convoluciones dispersas, atención cuadrática, reordenamiento repetido), FALO cierra la brecha entre los modelos de detección de alta precisión y las estrictas restricciones de latencia/memoria de los sistemas embebidos.

Los autores enfatizan que, aunque su enfoque en la eficiencia conduce a un diseño ligero, el método logra una precisión comparable a los pesados modelos SOTA. Sin embargo, reconocen modestamente una limitación: el diseño impulsado por la eficiencia puede conducir a una cierta degradación de la precisión para objetos pequeños o dispersos (por ejemplo, peatones y ciclistas) en comparación con enfoques más intensivos en memoria, aunque el rendimiento general sigue siendo competitivo.

El trabajo demuestra que es posible lograr una detección 3D de objetos LiDAR precisa y en tiempo real en plataformas como Snapdragon 8 Gen 3 (NPU Hexagon) y Jetson Orin sin sacrificar las capacidades de detección requeridas para la conducción autónoma y la robótica.