Resumen Técnico: MADAR – Un Procesador Libre de Direccionamiento

Planteamiento del Problema

Los procesadores modernos dedican la gran mayoría de su área y energía al direccionamiento en lugar de al cálculo aritmético. La maquinaria necesaria para mover operandos hacia y desde los archivos de registros y cachés —incluyendo arreglos de etiquetas (tags), colas de fallos, redes de bypass y archivos de registros multipuerto— representa más del 90% de la sobrecarga energética de un núcleo en ciertas cargas de trabajo, mientras que las unidades funcionales consumen menos del 6%. Esta sobrecarga surge de la tensión fundamental de la arquitectura von Neumann: el datapath transmite operandos, pero el sistema de memoria debe detener valores en ubicaciones fijas para asignarles direcciones para su recuperación bajo demanda.

Metodología y Arquitectura

El artículo propone MADAR (árabe para "órbita"), una arquitectura de procesador que abole el concepto de dirección por completo. En lugar de almacenamiento estático, MADAR se basa en la rotación. La arquitectura se define por cuatro propiedades conjuntas:

1. Almacenamiento Circulante: Todo el estado reside en anillos de ranuras ($R_0 \dots R_n$) que avanzan una posición por ciclo de reloj. Un valor se identifica no por una dirección, sino por una coordenada de $(anillo, fase)$. La implementación física utiliza registros de desplazamiento literales para anillos pequeños y rápidos, y bancos de SRAM de un solo puerto recorridos por un puntero rotativo para anillos grandes y lentos.
2. Co-circulación: Las instrucciones y los datos ocupan las mismas ranuras y circulan juntos. Se distinguen únicamente por un campo de "tipo" en la cabecera del paquete.
3. Ejecución por Colisión: Las estaciones de cómputo (ALU, multiplicador, etc.) están fijas en posiciones específicas en los anillos. Una instrucción se ejecuta cuando pasa por su estación. Los operandos se nombran por su desplazamiento rotacional (una posición dentro de una ventana fija, por ejemplo, $W=8$ ranuras por delante) en lugar de por dirección. La ejecución es estática y se programa en tiempo de compilación; no existe lógica de coincidencia dinámica, de scoreboarding o de despertar (wakeup).
4. Jerarquía de Periodos como Jerarquía de Memoria: Los anillos de periodos que aumentan geométricamente (por ejemplo, 16, 256, 4K, 64K ranuras) reemplazan la jerarquía de caché tradicional. Las transferencias entre anillos se programan en tiempo de compilación en lugar de ser disparadas por fallos de caché. La promoción a un anillo más corto actúa como un llenado de caché; la democión a un anillo más largo actúa como una expulsión (eviction).

Flujo de Control y Movimiento de Datos:

• Direccionamiento (Steering): El flujo de control se gestiona mediante estaciones de direccionamiento que evalúan predicados. Si se cumple una condición, la estación elimina (mata) paquetes de instrucción específicos del anillo, convirtiendo sus ranuras en burbujas.
• Transferencia: El movimiento de datos entre anillos es gestionado por estaciones de transferencia en fases programadas.
• Relés: Si un productor y un consumidor están separados por más del ancho de operando ($W$), el compilador inserta instrucciones explícitas de "relé de copia" para cerrar la brecha, consumiendo la capacidad del anillo.
• Rendezvous (Encuentro): Para accesos dependientes de datos donde la fase objetivo es desconocida en tiempo de compilación, una estación de rendezvous captura un valor cuando un contador de fase de carrera libre coincide con el valor solicitado, incurriendo en una penalización de latencia de aproximadamente media rotación.

Contribuciones Clave

El artículo realiza seis contribuciones específicas:

1. Definición del Modelo de Ejecución: Una definición precisa del modelo MADAR, incluyendo el invariante de direccionamiento que garantiza la corrección.
2. Contextualización: Una comparación detallada con arquitecturas previas de almacenamiento circulante, direccionamiento temporal y de flujo de datos (por ejemplo, Pilot ACE, Mill, Groq), demostrando que MADAR es la primera en combinar las cuatro propiedades definitorias.
3. Validación: Una implementación de nivel de transferencia de registros (RTL) precisa en ciclo, mediante SystemVerilog (simulada con Verilator), que valida la semántica de ejecución.
4. Programador Constructivo: Un compilador que genera automáticamente arreglos de asientos y esquemas de transferencia para kernels (código de línea recta y bucles contados) sin intervención manual. Cada programa emitido es contrastado contra el modelo RTL.
5. Modelo de Costo Energético: Un modelo de energía de primer orden que cuantifica la compensación entre el costo de la rotación y los ahorros derivados de la eliminación de la maquinaria de direccionamiento.
6. Estudio de Caso: Un análisis de la inferencia de IA por streaming, demostrando cómo la arquitectura gestiona el álgebra lineal densa.

Resultados

• Corrección: La implementación RTL confirmó que la rotación actúa como almacenamiento, la colisión actúa como ejecución y el direccionamiento (steering) reemplaza el salto (branching). Los programas asignados manualmente y los generados por el compilador produjeron resultados correctos (por ejemplo, un bucle de suma contada acumulando $0+1+\dots+(R-1)$).
• Punto de Cruce Energético: El modelo de energía identifica un "punto de cruce" donde MADAR es más eficiente que una línea base in-order simple (asumida en 70 pJ/instrucción).
  • Régimen Ganador: Los kernels que caben dentro de anillos pequeños (por ejemplo, un anillo de 16 ranuras) con pocos o ningún relé, tales como bucles de multiplicación-acumulación y tomas FIR, muestran puntos de cruce entre 26–63 pJ/instrucción, superando significativamente a la línea base.
  • Régimen Perdedor: Los kernels que requieren anillos grandes o muchos relés (por ejemplo, cadenas de acumulación profundas o polinomios de grado 5) sufren el costo energético de desplazar muchos paquetes vivos. Estos muestran puntos de cruce entre 126–205 pJ/instrucción, siendo menos eficientes que la línea base.
• Estudio de Caso de Inferencia de IA:
  • Reducciones Planas: Un árbol de producto punto plano es ineficiente porque el tamaño del anillo debe crecer con la longitud de la reducción, causando un exceso de energía de rotación.
  • Producto Interno por Streaming: Al transmitir operandos desde anillos largos a un anillo de cómputo de tamaño fijo mediante transferencias programadas, la energía por multiplicación-acumulación permanece constante independientemente de la longitud de la reducción.
  • Reutilización de Operandos: El flujo de datos más eficiente para la multiplicación de matrices enruta la reutilización de operandos a través de la jerarquía de periodos: promoviendo operandos compartidos desde anillos respaldados por SRAM hacia anillos de registros de desplazamiento pequeños. Este enfoque logró 86 pJ/multiplicación-acumulación para un producto matriz-vector de 8x8, superando tanto los enfoques de teselado fusionado como los de flujo único.

Significancia y Reivindicaciones

El artículo afirma que MADAR representa un nuevo punto de diseño para computaciones donde el movimiento de datos es conocido estáticamente antes de la ejecución. Su significancia radica en:

• Eliminación de la Sobrecarga de Direccionamiento: Al eliminar la necesidad de etiquetas, decodificadores de acceso aleatorio y registros de estado de fallo (miss-status), la arquitectura apunta a la principal fuente de desperdicio energético en los núcleos modernos.
• Tiempo Determinista: Debido a que el esquema es fijo en tiempo de compilación, no hay paradas reactivas ni fallos de caché, lo que hace que la arquitectura sea adecuada para tiempo real estricto y criptografía de tiempo constante.
• Eficiencia en Cargas de Trabajo de Streaming: El artículo argumenta que para la inferencia de IA y el DSP de streaming, la "jerarquía de memoria" es efectivamente reemplazada por una "jerarquía de periodos", donde la rotación de los datos realiza el trabajo de la caché.

Limitaciones y Alcance:
Los autores son modestos respecto al alcance. MADAR no es un reemplazo universal para las máquinas de acceso aleatorio. Es poco adecuado para el seguimiento de punteros (pointer-chasing), el recorrido de grafos irregulares o cargas de trabajo con dependencias de datos impredecibles, que incurren en una penalización de latencia significativa. Además, el programador actual maneja cadenas de línea recta y bucles, pero no árboles de reducción arbitrarios o reordenamientos complejos. Las afirmaciones de energía se basan en un modelo de primer orden; los autores reconocen que se requiere una comparación de síntesis completa para demostrar definitivamente la ventaja energética sobre programadores estáticos de vanguardia como Groq.

En conclusión, MADAR demuestra que, para una clase específica de cargas de trabajo de streaming estáticamente programables, el costo de rotar los datos puede ser menor que el costo de direccionar datos estáticos, ofreciendo un compromiso fundamentalmente diferente entre el movimiento y la quietud en el diseño de procesadores.