Polarization-coupled complete operators in sliding ferroelectric semiconductors for native in-memory attention computing
Este artículo presenta un hardware de computación en memoria basado en semiconductores ferroeléctricos deslizantes que acopla intrínsecamente operadores lineales y no lineales mediante la polarización para ejecutar primitivas completas de atención de Transformer, incluyendo Softmax nativo, con latencia y energía ultra bajas para la IA generativa en tiempo real.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
La inteligencia artificial moderna, particularmente los sistemas que escriben historias, traducen idiomas y generan imágenes, se basa en un proceso matemático llamado atención. Este proceso permite que la máquina decida qué partes de una oración o de una imagen son más importantes en las que enfocarse en un momento dado. Para tomar estas decisiones, la computadora debe realizar dos tipos distintos de cálculos simultáneamente: suma y multiplicación simples, que son directas, y funciones matemáticas complejas y curvas que actúan como un filtro para normalizar los resultados. Actualmente, los chips de computadora están construidos para manejar muy bien las matemáticas simples, pero tienen dificultades con el filtrado complejo. Deben mover datos de ida y vuelta entre la memoria, donde se almacena la información, y un procesador separado que maneja la matemática compleja. Este constante movimiento de datos ralentiza el sistema y consume enormes cantidades de energía, creando un cuello de botella que limita qué tan rápidos y eficientes pueden llegar a ser estos sistemas inteligentes.
Un equipo de investigadores de la Universidad de Nanjing y otras instituciones ha desarrollado un nuevo tipo de chip de computadora que resuelve este problema realizando tanto los cálculos simples como los complejos en el mismo lugar donde se almacenan los datos. Crearon un dispositivo diminuto hecho de un material especial llamado ReS2, un semiconductor de capas que puede deslizarse para cambiar sus propiedades eléctricas. Dentro de este único dispositivo, integraron dos vías diferentes para que la electricidad viaje. Una vía mueve la electricidad verticalmente a través del material, mientras que la otra la mueve lateralmente a lo largo de la superficie. Ambas vías están controladas por el mismo interruptor interno, conocido como polarización ferroeléctrica, que actúa como un ajuste de memoria permanente que puede voltearse de un lado a otro con un pequeño pulso eléctrico.
Cuando los investigadores aplican un voltaje para voltear este interruptor interno, cambian la facilidad con la que la electricidad fluye a través de ambas vías al mismo tiempo. La vía vertical responde en una línea recta y predecible, lo que la hace perfecta para las tareas de suma y multiplicación simples. La vía lateral, sin embargo, reacciona de una manera curva y exponencial, realizando naturalmente la matemática de filtrado complejo que usualmente requiere un procesador separado. Debido a que ambas vías están gobernadas por el mismo interruptor interno, el dispositivo puede ejecutar todo el proceso de atención en un solo paso sin mover ningún dato. Los investigadores construyeron una pequeña cuadrícula de estos dispositivos, dispuestos en un patrón específico, y demostraron que podía ejecutar con éxito la lógica central de un modelo de lenguaje moderno. El sistema funcionó con una velocidad increíble, completando operaciones en 600 picosegundos, lo que es menos de una mil millonésima de segundo, y utilizó una cantidad de energía asombrosamente pequeña, midiendo solo 320 attojoules por operación.
El equipo no se detuvo solo en la construcción del dispositivo; demostraron que podía aprender y adaptarse. Al ajustar el tamaño físico de las vías dentro del dispositivo, podían sintonizar qué tan sensible era la matemática compleja, permitiéndoles diseñar el chip para diferentes tipos de tareas. Probaron el sistema con una configuración de bucle cerrado donde el chip recibía entrada de texto y generaba una respuesta en tiempo real. Cuando se le instaba con la frase "Tengo hambre", el hardware computó instantáneamente los pesos de atención necesarios y generó la continuación "necesito pizza ahora". Esto demostró que el dispositivo podía manejar el ciclo completo de comprensión y generación de lenguaje sin ayuda externa. Además, los investigadores utilizaron el rendimiento medido de su diminuto dispositivo para simular un sistema mucho más grande. En estas simulaciones, el chip tradujo con éxito señales eléctricas del cerebro de un ratón, que representaban diferentes estados emocionales como miedo o excitación, en lenguaje escrito. La simulación mostró que este enfoque podía escalar para manejar tareas complejas del mundo real que involucran datos sensoriales y generación de lenguaje.
Este trabajo representa un cambio fundamental en la forma en que se diseña el hardware para la inteligencia artificial. En lugar de intentar que la matemática lineal existente sea más rápida, los investigadores integraron la matemática compleja faltante directamente en el material de la memoria. Al hacerlo, eliminaron la necesidad del movimiento de datos de alto consumo energético que ha plagado a las generaciones anteriores de chips. El dispositivo retiene sus configuraciones durante más de un año sin energía y puede reescribirse millones de veces, demostrando que es lo suficientemente estable para el uso práctico. El éxito de este experimento sugiere que el futuro de la inteligencia artificial eficiente puede no provenir de un mejor software o procesadores más rápidos, sino de materiales que puedan realizar de forma nativa el rango completo de operaciones matemáticas requeridas para pensar, todo dentro de una sola y diminuta unidad de memoria.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.