Scalable platform enabling reservoir computing with nanoporous oxide memristors for image recognition and time series prediction

Resumen Técnico: Plataforma Escalable que Habilita la Computación de Reservorio con Memristores de Óxido Nanoporoso

Planteamiento del Problema
Las implementaciones actuales de redes neuronales, particularmente aquellas que manejan señales espaciotemporales como series temporales y lenguaje, enfrentan desafíos significantes en cuanto a eficiencia energética, escalabilidad de hardware y la necesidad de conectividad a servidores en línea. Si bien la Computación de Reservorio (RC, por sus siglas en inglés) ofrece una alternativa prometedora al utilizar pesos aleatorios fijos en una capa oculta para procesar datos temporales con bajos costos de entrenamiento, las realizaciones físicas suelen sufrir de escalabilidad y complejidad estructural. Los enfoques existentes que utilizan arreglos magnéticos, fotónicos o de memristores estándar frecuentemente sufren de interconexiones limitadas, baja escalabilidad y la dificultad de crear estados internos verdaderamente aleatorios y de alta dimensión requeridos para tareas complejas. Además, muchas demostraciones físicas de RC no han sido rigurosamente evaluadas frente a la predicción de series temporales caóticas sin el reservorio, ni han explotado plenamente el potencial de la inhomogeneidad intrínseca del material para la computación "in materia".

Metodología
Los autores desarrollaron una plataforma de computación de reservorio físico de todos los óxidos, escalable, basada en memristores de óxido de niobio (NbOx) volátiles con inhomogeneidad estructural intrínseca.

• Fabricación del Dispositivo: El núcleo del sistema es un stack de dispositivo de película delgada que comprende un electrodo inferior de platino nanoporoso (np-Pt) de 20 nm, una capa de conmutación de NbOx dopada con nitrógeno de 80 nm, una capa de adhesión de Ti de 3 nm y electrodos superiores de Pt de 120 nm. La porosidad nanoporosa del electrodo inferior se creó mediante la pulverización catódica de magnetrón de DC de Pt en una mezcla de Ar:O₂ seguida de un recocido a alta temperatura. Este proceso induce una distribución aleatoria de nanoporos (radio promedio ~29 nm) que se propagan hacia la capa de NbOx, creando vías conductoras únicas y no idénticas para cada electrodo superior.
• Mecanismo de Reservorio Físico: El dispositivo opera como un memristor volátil donde la conmutación resistiva es impulsada por el calentamiento por efecto Joule. La nanoporosidad intrínseca crea vías de corriente aleatorias y no lineales, actuando efectivamente como un reservorio físico con pesos internos fijos y aleatorios y una memoria de desvanecimiento a corto plazo (histéresis).
• Tareas Experimentales:
  1. Tarea XOR: Entradas binarias lógicas se codificaron como pulsos de voltaje (0V o 1.75V) para probar la separabilidad no lineal.
  2. Reconocimiento de Imágenes: Imágenes binarias de dígitos 0–9 (5x3 píxeles) se convirtieron en secuencias de pulsos de voltaje para probar el reconocimiento de patrones.
  3. Predicción de Lorenz-63: El sistema tuvo la tarea de predecir y reconstruir la serie temporal caótica tridimensional de Lorenz-63 ($X(t), Y(t), Z(t)$). La serie temporal se convirtió en formas de onda de voltaje y se aplicó secuencialmente al reservorio.
• Lectura y Entrenamiento: Las respuestas de corriente de tres canales de salida activos se registraron simultáneamente. Estas corrientes, combinadas con el voltaje de entrada, formaron un vector concatenado utilizado para entrenar una capa de lectura lineal (Perceptrón Lineal Simple o Regresión Logística) mediante software externo. El estudio comparó el rendimiento con el reservorio (entradas de voltaje + corriente) contra una línea base sin el reservorio (solo voltaje).

Contribuciones Clave

1. Aleatoriedad Intrínseca vía Nanoporosidad: El artículo introduce un método para crear un reservorio físico donde la aleatoriedad es inherente a la estructura del material (nanoporos) en lugar de requerir un complejo cableado externo o arreglos de crossbar. Esto permite múltiples canales de salida distintos desde la huella de un solo dispositivo.
2. Computación In Materia: El sistema ejemplifica la computación "in materia", donde el propio material sirve como el medio computacional paralelo, contrastando con los enfoques que vinculan dispositivos discretos e idénticos.
3. Evaluación en Sistemas Caóticos: Los autores proporcionan una evaluación rigurosa de su reservorio físico frente al sistema caótico desafiante de Lorenz-63, comparando explícitamente el rendimiento con y sin el reservorio para demostrar la necesidad de la memoria física y la no linealidad.
4. Reconstrucción de Forma de Onda: El estudio demuestra la capacidad de reconstruir componentes faltantes de un sistema caótico (por ejemplo, prediciendo $Y(t)$ y $Z(t)$ a partir de $X(t)$) utilizando el reservorio físico, una tarea que falló o tuvo un desempeño pobre sin el reservorio.

Resultos

• Tarea XOR: Un Perceptrón de Capa Única (SLP) estándar falló en resolver el problema XOR (50% de precisión). Sin embargo, el sistema de RC físico logró un 100% de precisión tanto en el entrenamiento como en la prueba al proyectar la entrada en un espacio de mayor dimensión a través de las salidas de corriente del reservorio.
• Reconocimiento de Imágenes: El sistema logró un 100% de precisión en el reconocimiento de dígitos 0–9 tras 14 iteraciones de entrenamiento utilizando un solo canal de salida. Los dígitos con patrones de píxeles similares (por ejemplo, 3 y 5) mostraron menor certeza con menos iteraciones, pero se resolvieron con suficiente entrenamiento.
• Predicción de Lorenz-63:
  • El reservorio superó significativamente a la línea base sin reservorio. Los valores de la Raíz Cuadrada Media del Error Normalizado (NRMSE) fueron sustancialmente menores cuando se utilizaron los datos de corriente del reservorio.
  • Los mejores valores de NRMSE fueron $1.2 \times 10^{-2}$, $1.5 \times 10^{-2}$ y $1.4 \times 10^{-2}$ para $V_X(t)$, $V_Y(t)$ y $V_Z(t)$ respectivamente, con una ventana de predicción de 1 paso y una ventana pasada de 100 pasos.
  • Se identificaron los parámetros óptimos de conversión de voltaje como un desfase ($V_0$) de 0.5 V y un rango ($V_{Range}$) de 2.5 V, resaltando el concepto de "entrenamiento consciente de la física" (physics-aware training).
• Reconstrucción de Lorenz-63: El sistema reconstruyó exitosamente $V_Y(t)$ y $V_Z(t)$ a partir de $V_X(t)$ con alta precisión. La reconstrucción de $V_X(t)$ y $V_Y(t)$ a partir de $V_Z(t)$ falló, consistente con las propiedades matemáticas del sistema de Lorenz (problemas de simetría), validando la alineación del sistema físico con las restricciones teóricas.
• Comparación: Aunque un reservorio de 9 salidas modelado numéricamente en literatura previa reportó valores de NRMSE más bajos, los autores señalan que su sistema experimental de 3 salidas funcionó satisfactoriamente con menos salidas y menos iteración computacional, sugiriendo ganancias de eficiencia.

Significancia y Reivindicaciones
El artículo afirma demostrar una plataforma escalable y de bajo consumo de energía para la electrónica neuromórfica capaz de manejar tareas temporales complejas. Al aprovechar la inhomogeneidad estructural intrínseca de los memristores de óxido nanoporosos, los autores muestran que es posible crear un reservorio físico que imite la conectividad aleatoria de los cerebros biológicos sin la sobrecarga de hardware de los arreglos de crossbar tradicionales.

Los autores posicionan este trabajo como un paso hacia "dispositivos en chip accesibles para la industria", para aplicaciones tales como la predicción de series temporales relevantes para la industria o flujos atmosféricos complejos. Enfatizan que el sistema opera en un modo offline, ofreciendo ventajas en seguridad y latencia. El trabajo une los conceptos de RC basado en memristores de óxido y computación "in materia", probando que tales sistemas pueden alcanzar un rendimiento computacional comparable a otros sistemas de memristores de óxido mientras mantienen los beneficios de escalabilidad de la computación basada en materiales. Los autores sugieren modestamente que futuras mejoras en la precisión de la predicción podrían lograrse escalando el número de canales de entrada/salida mediante litografía, en lugar de reclamar una superioridad inmediata sobre todos los modelos numéricos existentes.