🤖 machine learning

Ariel-ML: Computing Parallelization with Embedded Rust for Neural Networks on Heterogeneous Multi-core Microcontrollers

Este artículo presenta Ariel-ML, un conjunto de herramientas de Rust embebido de código abierto que automatiza la inferencia paralela para modelos TinyML en microcontroladores multinúcleo heterogéneos, demostrando un rendimiento de latencia superior mientras mantiene huellas de memoria comparables a las soluciones tradicionales en C/C++.

Autores originales: Zhaolan Huang, Kaspar Schleiser, Gyungmin Myung, Emmanuel Baccelli

Publicado 2026-05-28

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Zhaolan Huang, Kaspar Schleiser, Gyungmin Myung, Emmanuel Baccelli

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un ordenador diminuto alimentado por batería (como los que hay dentro de un termostato inteligente o un rastreador de fitness). Durante años, estos dispositivos han sido como artistas en solitario: solo tienen una célula cerebral (un único núcleo de procesador) para realizar todo su pensamiento. Además, están escritos en un lenguaje de programación antiguo y ligeramente arriesgado llamado C/C++, que es como construir una casa con vigas de madera que pueden pudrirse si no tienes cuidado.

Ahora, están ocurriendo dos grandes cambios:

La actualización de hardware: Están llegando nuevos ordenadores diminutos con múltiples células cerebrales (procesadores multinúcleo), como un coro en lugar de un solista.
La actualización de seguridad: Los desarrolladores están cambiando a un nuevo lenguaje llamado Rust, que es como usar vigas de acero que son mucho más difíciles de romper o corromper.

¿El problema? Hasta ahora, no existía una manera fácil de enseñar a estos nuevos ordenadores de "coro" a trabajar juntos para resolver acertijos complejos (como reconocer una voz o identificar un gato en una foto) utilizando el nuevo lenguaje de "acero". Las herramientas existentes estaban atrapadas en el lenguaje antiguo o no podían indicar a las múltiples células cerebrales cómo compartir el trabajo.

Aquí entra Ariel-ML.

Piensa en Ariel-ML como un director de orquesta supereficiente para este nuevo coro. Así es como funciona, usando analogías sencillas:

1. El Traductor (La tubería de compilación)

Imagina que tienes una receta compleja escrita en el lenguaje elegante de un chef (como PyTorch o TensorFlow). Ariel-ML toma esta receta y la traduce a un conjunto específico de instrucciones que el ordenador diminuto entiende. Utiliza una herramienta llamada IREE (piensa en ella como una máquina de traducción de alta tecnología) para descomponer la receta grande en tareas pequeñas y manejables.

2. El Director de Orquesta (El planificador multinúcleo)

Esta es la mayor innovación del documento. Una vez que la receta se ha descompuesto, el "director" de Ariel-ML examina las múltiples células cerebrales (núcleos) del dispositivo.

Antigua manera: Una célula cerebral intenta hacerlo todo mientras las demás permanecen inactivas, esperando su turno.
Manera de Ariel-ML: El director reparte instantáneamente diferentes partes de la receta a diferentes células cerebrales. Si tienes dos células cerebrales, dividen el trabajo a la mitad y terminan el trabajo casi el doble de rápido. El documento llama a esto un "planificador codicioso", que es simplemente una forma elegante de decir que se apodera de cualquier célula cerebral libre y le asigna inmediatamente una tarea, asegurando que nadie esté nunca sentado sin hacer nada.

3. La Red de Seguridad (Rust)

Dado que Ariel-ML está construido enteramente en Rust, actúa como una red de seguridad. En los viejos tiempos (C/C++), si un programa intentaba usar memoria que no le pertenecía, todo el sistema podía colapsar. Rust previene que esto suceda por diseño. El documento afirma que esto hace que el software sea mucho más seguro y fiable, lo cual es crucial a medida que estos dispositivos se conectan más a Internet.

¿Qué demostraron?

Los autores probaron Ariel-ML en varios ordenadores diminutos del mundo real (como el Raspberry Pi Pico y los chips Nordic). Lo compararon con las herramientas antiguas:

Velocidad: En ordenadores con dos células cerebrales, Ariel-ML fue hasta 1,6 veces más rápido que las herramientas antiguas. Logró que el coro cantara en armonía.
Memoria: El documento admite que, como Rust y las nuevas herramientas de traducción son tan robustas, el programa final ocupa un poco más de espacio en la memoria del ordenador (como una mochila ligeramente más pesada). Sin embargo, demostraron que las ganancias de velocidad en dispositivos multinúcleo hacen que este peso extra valga la pena.
Precisión: Verificaron dos veces las matemáticas y confirmaron que Ariel-ML obtiene exactamente las mismas respuestas que las computadoras grandes y potentes utilizadas para entrenar los modelos.

La Conclusión

Ariel-ML es el primer conjunto de herramientas que permite a los desarrolladores tomar modelos de IA modernos y complejos, traducirlos al lenguaje seguro y moderno Rust, y dividir automáticamente el trabajo entre múltiples células cerebrales en dispositivos diminutos de bajo consumo. Cierra la brecha entre los dispositivos de un solo núcleo de la "vieja escuela" y el futuro multinúcleo de la "nueva escuela", permitiendo que estos pequeños gadgets piensen más rápido y con mayor seguridad sin necesidad de una actualización masiva de la batería.

Resumen Técnico: Ariel-ML

Enunciado del Problema
El artículo aborda una brecha crítica en el despliegue de TinyML (Tiny Machine Learning) en microcontroladores (MCU) modernos con recursos limitados. Si bien el panorama de hardware está evolucionando de arquitecturas de un solo núcleo a arquitecturas predominantemente multinúcleo (por ejemplo, Arm Cortex-M, RISC-V, ESP32), y el ecosistema de software embebido está adoptando cada vez más Rust por sus beneficios en seguridad de memoria y seguridad, ninguna solución existente une estas tendencias. Específicamente, no existía una plataforma de software embebido basada en Rust capaz de automatizar el cálculo de inferencia paralelo para modelos TinyML arbitrarios en MCUs multinúcleo heterogéneos. Los marcos existentes de ML en Rust (por ejemplo, Burn, Candle) no están diseñados para MCUs de bajo consumo, y las pipelines existentes de TinyML (por ejemplo, RIOT-ML, U-TOE) se basan principalmente en C/C++ y carecen de soporte nativo para paralelización multinúcleo.

Metodología
Los autores presentan Ariel-ML, un nuevo conjunto de herramientas diseñado para llenar esta brecha. El sistema combina una pipeline genérica de TinyML con una plataforma de software embebido en Rust (Ariel OS) para aprovechar las capacidades multinúcleo. La arquitectura consta de dos fases principales:

Pipeline de compilación en el lado del anfitrión:
- El sistema integra el compilador IREE (Intermediate Representation Execution Environment).
- Transpila modelos de marcos principales (TensorFlow, PyTorch, ONNX) a módulos IREE.
- Durante la compilación, IREE divide los cálculos de operadores (por ejemplo, convolución, multiplicación de matrices) en "elementos de trabajo" (baldosas) libres de contención.
- Se construyen metadatos sobre la cantidad de núcleos y los puntos de entrada, y se compilan junto con el código de la aplicación, el tiempo de ejecución de IREE y Ariel OS para producir una imagen de firmware.
Tiempo de ejecución en el lado del dispositivo:
- Núcleo de Ariel-ML: Escrito en Rust, este componente se vincula al tiempo de ejecución de IREE e incluye un planificador codicioso multinúcleo. Despacha elementos de trabajo desde una cola a los núcleos disponibles de manera sin bloqueo.
- Tiempo de ejecución de IREE: Una biblioteca basada en C responsable de orquestar la ejecución de operadores y habilitar el paralelismo dentro de los operadores.
- Ariel OS: Un sistema operativo de tiempo real (RTOS) basado en Rust que proporciona un entorno ligero y seguro en memoria para hardware heterogéneo.

La implementación se basa en IREE v3.8.0. El planificador limita la cantidad de elementos de trabajo para evitar la sobrecarga de cambio de contexto y establece un tamaño mínimo de elemento de trabajo para reducir los costos de comunicación entre procesadores.

Contribuciones Clave

Primero en Rust Toolkit Multinúcleo para TinyML: Ariel-ML se presenta como el primer conjunto de herramientas que soporta nativamente capacidades multinúcleo en microcontroladores para inferencia TinyML utilizando un tiempo de ejecución en Rust.
Implementación de Código Abierto: Los autores publicaron el código fuente completo, habilitando la compilación cruzada, la optimización automatizada multinúcleo y el despliegue en arquitecturas de 32 bits (Arm Cortex-M, RISC-V).
Evaluación Exhaustiva: El artículo proporciona benchmarks reproducibles que comparan Ariel-ML con trabajos anteriores (RIOT-ML y una variante personalizada RIOT+IREE) en hardware diverso (Nordic nRF52840, ESP32-C3, Raspberry Pi Pico 1 y 2).

Resultados Experimentales
Los autores evaluaron el sistema utilizando modelos LeNet-5 y MCUNet cuantizados en MCUs de un solo núcleo y de dos núcleos.

Latencia de Inferencia: Ariel-ML demostró aceleraciones significativas en hardware multinúcleo. En placas RP2040 y RP2350 de dos núcleos, logró una aceleración de hasta 1.6× en comparación con la ejecución de un solo núcleo, acercándose a los límites teóricos impuestos por la contención del bus. En comparación con RIOT-ML en el mismo hardware, las velocidades de inferencia mejoraron en más del 200%.
Huella de Memoria: La integración de IREE y el tiempo de ejecución en Rust introdujo sobrecarga. El uso de Flash aumentó aproximadamente entre 1.1 y 2.5 veces, y el uso de RAM aumentó al menos 1.2 veces en comparación con RIOT-ML basado en C. Sin embargo, los autores señalan que Ariel-ML logra huellas de memoria comparables a los conjuntos de herramientas C/C++ preexistentes al tener en cuenta las optimizaciones avanzadas proporcionadas por IREE, las cuales reducen el tamaño del artefacto del modelo en sí.
Corrección: La corrección numérica se validó frente a referencias de PyTorch y TensorFlow, con todas las desviaciones permaneciendo por debajo de $10^{-8}$ .

Significado y Afirmaciones
El artículo afirma que Ariel-ML proporciona una base necesaria para el futuro de TinyML en hardware moderno. Al automatizar la paralelización en MCUs multinúcleo utilizando un lenguaje seguro en memoria, permite a los profesionales:

Cerrar la Brecha Hardware-Software: Utilizar eficazmente el aumento en la cantidad de núcleos en las nuevas generaciones de MCU sin planificación manual y propensa a errores.
Mejorar la Seguridad: Ofrecer una alternativa más segura a C/C++ para software de sistemas críticos, alineándose con regulaciones emergentes como la Ley de Resiliencia Cibernética de la UE.
Facilitar el Despliegue: Proporcionar una base reutilizable para investigadores y desarrolladores para ajustar configuraciones de IoT y desplegar redes neuronales directamente en sistemas de sensores/actuadores.

Los autores reconocen modestamente que, si bien la implementación actual muestra promesa, la sobrecarga de memoria del tiempo de ejecución de IREE y la cadena de herramientas de Rust sigue siendo sustancial. Identifican trabajo futuro en la optimización del tiempo de ejecución para huellas más pequeñas y la extensión de la plataforma para soportar entrenamiento en el dispositivo y actualizaciones seguras por aire (OTA).