An RRAM-based Hardware Implementation of a Radial Basis Function Neuron for Edge Classifiers

Resumen Técnico: Implementación de Hardware basada en RRAM de una Neurona de Función de Base Radial para Clasificadores en el Borde (Edge)

Planteamiento del Problema
El despliegue de modelos modernos de Aprendizaje Automático (ML) en dispositivos de borde con recursos limitados enfrenta desafíos significativos, particularmente en cuanto a la eficiencia energética, la latencia y la capacidad de manejar valores atípicos o entradas fuera de la distribución (OOD) en tiempo real. Las Redes Neuronales Profundas (DNN) tradicionales suelen tener dificultades con el "desplazamiento de dominio" (domain shift), donde los cambios ambientales, el ruido de los sensores o la evolución de los patrones de datos degradan el rendimiento de los modelos preentrenados. Además, la pared de memoria de von Neumann crea cuellos de botella para operaciones computacionalmente costosas como los productos escalares requeridos para búsquedas de similitud. Las soluciones existentes carecen a menudo de la capacidad para una adaptación eficiente en el dispositivo (aprendizaje continuo) sin requerir recursos adicionales o anotación de datos, lo cual es crítico para aplicaciones de seguridad crítica como la navegación autónoma.

Metodología
Los autores proponen una solución nativa de hardware que aprovecha la RRAM de Óxido Metálico integrada con tecnología CMOS para crear un sistema de Memoria de Contenido Direccionable Analógica (ACAM). El núcleo de este diseño es una celda personalizada Template piXeL (TXL), que funciona como una neurona de Función de Base Radial (RBF) configurable.

• Arquitectura de la Celda TXL: La celda TXL utiliza dos inversores RRAM-CMOS con degeneración de fuente. Al programar la resistencia de los dispositivos RRAM ($R_M$ y $R_B$) en serie con las fuentes de los MOSFET, el circuito establece una "ventana de coincidencia" específica definida por umbrales de voltaje superior e inferior ($V_{TH}^{upper}$ y $V_{TH}^{lower}$). Esta ventana emula un campo receptivo donde la celda se activa solo cuando el voltaje de entrada cae dentro de un rango específico, calculando efectivamente una métrica de distancia.
• Organización de la Matriz: Las celdas TXL se organizan en matrices densas de $k \times n$. Cada fila representa un prototipo único de $k$ dimensiones (almacenado como atributos estadísticos: media $\mu$ y varianza $\sigma$ codificados en la conductancia de la RRAM), y cada columna corresponde a una característica de entrada.
• Computación en Memoria (IMC): El sistema realiza búsquedas de similitud en paralelo. Los vectores de entrada se aplican como señales analógicas a las líneas de bit (bitlines). A través de la Ley de Corrientes de Kirchhoff, las corrientes de las celdas TXL individuales se acumulan en la línea de coincidencia (matchline), computando naturalmente la puntuación de similitud agregada (distancia inversa) entre la consulta de entrada y el prototipo almacenado.
• Política de Adaptación: El sistema implementa una política de adaptación de tres niveles basada en la distancia ($d$) entre la entrada y el prototipo con mejor coincidencia:
  1. Distribución Intra-dominio Confiable ($d \le \tau_{IDO}$): No ocurre adaptación.
  2. Valor Atípico Intra-dominio ($\tau_{IDO} < d \le \tau_{OOD}$): El prototipo existente se adapta (se actualizan la media y la varianza) para incluir la nueva muestra, mitigando el desplazamiento gradual del dominio.
  3. Fuera de la Distribución ($d > \tau_{OOD}$): El sistema identifica una nueva clase. Se asigna un nuevo prototipo en una fila vacía de la matriz utilizando un esquema de aprendizaje de pocos disparos (few-shot learning), expandiendo las capacidades del clasificador sin sobrescribir el conocimiento existente.

Contribuciones Clave

• Neurona RBF Nativa de Hardware: El artículo introduce la celda TXL como una implementación física de una neurona RBF, capaz de realizar clasificación basada en métricas directamente en el dominio analógico.
• Búsqueda de Similitud Energéticamente Eficiente: Al utilizar ACAM basada en RRAM, el diseño logra una complejidad de $O(1)$ para la coincidencia de plantillas, evitando la pared de la memoria.
• Mecanismo de Adaptación en Línea: El sistema soporta aprendizaje "sobre la marcha" donde los parámetros del campo receptivo pueden ajustarse para rastrear desplazamientos de dominio o nuevas clases sin un reentrenamiento completo del modelo.
• Explicabilidad: A diferencia de las capas de alimentación hacia adelante (feed-forward) opacas, el proceso de toma de decisiones es explícitamente trazable a la proximidad de la entrada con los prototipos almacenados, ofreciendo una explicabilidad inherente.

Resultados

• Energía y Latencia: Las simulaciones a nivel de circuito (SPICE-Spectre) en un proceso CMOS de 180 nm con RRAM de TiN/HfON/TiN indican un consumo de energía de 185 fJ por celda por operación a 100 MHz. La latencia por búsqueda es de aproximadamente 100 ns.
• Precisión de Clasificación:
  • En un conjunto de datos de símbolos geométricos artificiales, el sistema alcanzó una precisión del 100% tanto para el entrenamiento inicial como tras la adaptación.
  • En el conjunto de datos MNIST (reducido a 7x7), el sistema logró un 89.1% de precisión pre-adaptación y un 85.5% post-adaptación. Los autores señalan que la ligera caída en la precisión se atribuye a la falta de capas de extracción de características y al submuestreo de la entrada, más que al mecanismo central de la TXL.
• Desempeño de la Adaptación: Las simulaciones SPICE demostraron la capacidad del sistema para adaptar exitosamente los prototipos existentes a muestras atípicas (remodelando el campo receptivo) y asignar nuevos prototipos para clases desconocidas (por ejemplo, introduciendo una clase "rectángulo" en un conjunto de datos de círculos, triángulos y cruces) manteniendo la integridad de los prototipos existentes.

Significancia
El artículo afirma que la arquitectura propuesta basada en TXL proporciona un camino viable hacia una computación de borde robusta y energéticamente eficiente para aplicaciones de seguridad crítica. Al permitir la adaptación in-situ, el sistema aborda el desafío del desplazamiento de dominio, permitiendo que los dispositivos de borde mantengan la fiabilidad cuando encuentran distribuciones de datos del mundo real que difieren de los datos de entrenamiento. Los autores posicionan esta tecnología como un paso hacia el aprendizaje continuo en el borde, donde los sistemas pueden expandir sus capacidades de clasificación y ajustarse a nuevos entornos sin olvido catastrófico o la necesidad de anotación de datos externa. El trabajo visualiza un despliegue futuro en monitoreo remoto, sensores vestibles (wearables) y navegación autónoma, siempre que se gestionen los desafíos relacionados con la variabilidad, retención y resistencia de la RRAM mediante calibración.