In Two Minds about Lifelong Learning: Exploring Hemispheric Redundancy and Specialisation in Neural Models

El cerebro humano es un maestro del aprendizaje. Puede adquirir una nueva habilidad, como tocar un acorde de guitarra, sin olvidar instantáneamente cómo montar en bicicleta. Esta capacidad de acumular conocimiento a lo largo de una vida se denomina aprendizaje continuo. En contraste, los sistemas de inteligencia artificial, que están construidos a partir de capas de conexiones matemáticas llamadas redes neuronales, luchan profundamente con esta misma tarea. Cuando estas máquinas aprenden un nuevo conjunto de información, a menudo sobrescriben lo antiguo, borrando lo que sabían previamente. Este fenómeno, conocido como olvido catastrófico, ocurre porque los ajustes internos de la máquina se adaptan para ajustarse a los nuevos datos, destruyendo accidentalmente los patrones necesarios para los datos antiguos. Para que los robots o el software sean verdaderamente persistentes y adaptables, deben resolver este problema, aprendiendo continuamente sin perder su pasado.

Para entender cómo solucionar esto, los investigadores suelen observar la biología. En el cerebro de los mamíferos, una estructura llamada hipocampo actúa como un área de retención temporal para los recuerdos nuevos, mientras que la neocorteza almacena el conocimiento a largo plazo. Cada noche, durante el sueño, el cerebro reproduce experiencias recientes, transfiriéndolas desde el área de retención temporal al almacenamiento a largo plazo. Además, el cerebro está dividido en dos hemisferios que a menudo funcionan de manera diferente: un lado tiende a manejar la información nueva y novedosa con flexibilidad, mientras que el otro gestiona las rutinas establecidas con estabilidad. Un equipo de investigadores de la Universidad de Monash y CSIRO Robotics ha tomado estos principios biológicos y ha construido una nueva arquitectura informática para ver si pueden evitar que la inteligencia artificial olvide.

Los investigadores crearon un sistema que llaman 4MAS, que significa 4 Módulos de Vigilia/Sueño (4 Module Awake/Sleep). En lugar de un cerebro único y monolítico, este sistema está construido con dos mitades distintas, o hemisferios, imitando los lados izquierdo y derecho de un cerebro biológico. Cada mitad contiene sus propios sistemas de memoria: un búfer a corto plazo que retiene algunos ejemplos recientes de lo que ha visto, y un generador a largo plazo que aprende la forma general de los datos. El sistema opera en un ciclo que alterna entre estar despierto y estar dormido. Durante la fase de vigilia, el sistema aprende una nueva tarea utilizando datos reales, mientras también revisa ejemplos de su memoria a corto plazo. Durante la fase de sueño, no se introduce nueva información. En su lugar, los dos hemisferios se comunican entre sí. Generan ejemplos sintéticos de lo que han aprendido y los utilizan para ajustarse mutuamente, reforzando el conocimiento antiguo mientras integran el nuevo.

Una innovación clave en este diseño es que los dos hemisferios no son idénticos. Los investigadores programaron los dos para que tuvieran personalidades diferentes. Un hemisferio está ajustado para ser estable y conservador, enfocándose en preservar lo que ya sabe. El otro está ajustado para ser plástico y exploratorio, ansioso por adaptarse a nuevos patrones. Esta división del trabajo permite al sistema equilibrar la necesidad de aprender cosas nuevas con la necesidad de recordar cosas viejas. Los investigadores probaron esta arquitectura en varios desafíos estándar de reconocimiento de imágenes donde la máquina tenía que aprender nuevas categorías de imágenes una tras otra sin volver a ver las anteriores.

Los resultados fueron sorprendentes. En un conjunto de datos simple de dígitos escritos a mano, el sistema logró una precisión del 98,3 por ciento, igualando casi el rendimiento de un modelo que había visto todos los datos a la vez. En un conjunto de datos más complejo de imágenes de ropa, alcanzó un 84,9 por ciento de precisión, superando significativamente a otros métodos que intentan prevenir el olvido. Incluso en un conjunto de datos muy difícil con 100 categorías diferentes de objetos, el sistema logró aprender continuamente, alcanzando un 29,29 por ciento de precisión, lo cual fue mejor que los mejores métodos anteriores. El estudio mostró que el sistema no solo memorizó los nuevos datos; retuvo los datos antiguos con una pérdida muy pequeña, una métrica que los investigadores llaman "deriva representacional". La capacidad del sistema para aferrarse al pasado mientras aprende el futuro estaba directamente vinculada a la fase de sueño. Cuando los investigadores eliminaron el ciclo de sueño, el rendimiento del sistema cayó y los dos hemisferios no lograron trabajar juntos de manera efectiva.

Los experimentos también revelaron que las diferencias específicas entre los dos hemisferios eran cruciales. Cuando ambos lados fueron hechos idénticos, el sistema funcionó peor. Fue solo cuando un lado se permitió ser flexible y el otro estable que el sistema prosperó. Esto sugiere que tener partes especializadas que realizan trabajos diferentes es más efectivo que tener una parte única y uniforme que intenta hacerlo todo. Los investigadores encontraron que el sistema funcionaba mejor cuando la tasa de aprendizaje del "sueño" se mantenía muy baja, permitiendo ajustes suaves en lugar de cambios drásticos. También descubrieron que el sistema necesitaba una pequeña cantidad de memoria para almacenar ejemplos recientes, pero una vez que esa memoria alcanzaba cierto tamaño, hacerla más grande no ayudaba mucho.

Este trabajo no pretende haber resuelto el problema de la inteligencia artificial para siempre, ni sugiere que las máquinas vayan a soñar pronto como los humanos. Los modelos utilizados fueron relativamente simples y funcionaron en conjuntos de datos específicos y controlados. Sin embargo, los hallazgos ofrecen un camino claro a seguir. Al copiar la estrategia biológica de dividir las tareas de memoria entre dos lados especializados y utilizar un periodo de descanso para consolidar el conocimiento, los ingenieros pueden construir máquinas que aprendan más como los seres vivos. El estudio demuestra que el dilema de la estabilidad-plasticidad, que ha plagado durante mucho tiempo a la inteligencia artificial, puede gestionarse no forzando a un solo sistema a hacerlo todo, sino creando un equipo de agentes especializados que se apoyan entre sí a través de ciclos de trabajo y descanso.