Metaplasticity as adaptive gradient preconditioning for incremental learning

El cerebro humano posee una capacidad notable para aprender continuamente. Un niño puede aprender a reconocer un perro, luego aprender a montar en bicicleta y después aprender un nuevo idioma, todo ello sin olvidar cómo identificar a un perro. Este flujo fluido de nuevo conocimiento no sobrescribe los recuerdos antiguos. En contraste, los sistemas de inteligencia artificial, que están construidos sobre modelos matemáticos inspirados en el cerebro, luchan profundamente con esta misma tarea. Cuando estos programas informáticos aprenden una nueva tarea, a menudo sufren de "olvido catastrófico", un fenómeno donde el nuevo aprendizaje borra violentamente lo antiguo. El sistema se vuelve inestable, incapaz de aferrarse a su pasado mientras intenta captar su presente. Los científicos han buscado durante mucho tiempo resolver este "dilema de estabilidad-plasticidad", intentando encontrar una forma de que las máquinas sean lo suficientemente flexibles para aprender cosas nuevas pero lo suficientemente estables para conservar lo que ya saben.

Durante décadas, los investigadores han intentado imitar la solución del cerebro añadiendo reglas adicionales o guardando datos antiguos para revisarlos más tarde. Sin embargo, estos enfoques a menudo requieren que la computadora sepa exactamente cuándo termina una tarea y comienza otra, o demandan cantidades masivas de memoria para almacenar ejemplos pasados. Estos requisitos se sienten artificiales y no reflejan cómo funciona realmente la inteligencia biológica. Un nuevo estudio de investigadores de la Universidad de Sídney propone un camino diferente. En lugar de obligar a la computadora a recordar datos antiguos o detenerse a calcular la importancia después de que una tarea ha terminado, sugieren que el sistema debería ajustar su propia velocidad de aprendizaje en tiempo real, momento a momento, tal como lo hace una sinapsis viva. Lo llaman el enfoque SynGAP, un método que trata el proceso de aprendizaje no como una serie de pasos distintos, sino como un río continuo y fluido donde la corriente moldea naturalmente las riberas.

La idea central se basa en un concepto biológico conocido como metaplasticidad. En el cerebro, una sinapsis no es solo un interruptor simple que se enciende o se apaga; tiene una historia. El estado de una sinapsis cambia según cuánto se haya utilizado en el pasado, haciendo que sea más o menos probable que cambie de nuevo. Esta es la "plasticidad de la plasticidad". Si una conexión se ha fortalecido durante un largo tiempo, el cerebro hace que sea más difícil de alterar, protegiendo ese recuerdo. Si una conexión es nueva o no se utiliza, permanece flexible. Los investigadores se dieron cuenta de que las redes neuronales artificiales podrían beneficiarse de este mismo principio. En lugar de esperar hasta que una tarea se complete para decidir qué partes de la red son importantes, su método permite que la red monitoree constantemente su propia historia. Mantiene un promedio móvil de cuánto ha contribuido cada parte de la red al aprendizaje pasado, creando efectivamente un recuerdo de importancia que se actualiza con cada nueva pieza de datos.

Para poner esto en práctica, el equipo desarrolló un sistema que actúa como una válvula dinámica para el proceso de aprendizaje. Cuando la computadora intenta aprender algo nuevo, calcula los ajustes estándar necesarios para mejorar su rendimiento. Sin embargo, antes de que estos ajustes se apliquen, pasan por un filtro. Este filtro verifica la historia de cada conexión. Si una conexión ha sido crítica para tareas pasadas, el filtro ralentiza suavemente el cambio, evitando que el nuevo aprendizaje destruya lo antiguo. Si la conexión no es crítica, el filtro permite que el cambio ocurra libremente. Crucialmente, esto sucede sin que la computadora necesite saber qué tarea está realizando actualmente, y sin necesidad de almacenar una gran biblioteca de ejemplos antiguos para volver a consultarlos. El sistema simplemente fluye hacia adelante, ajustando su propia sensibilidad basándose en lo que ya ha aprendido.

Los investigadores probaron este enfoque en dos evaluaciones desafiantes donde una computadora debe aprender a reconocer diferentes categorías de imágenes una tras otra. En una prueba, el sistema tuvo que aprender 100 clases diferentes de imágenes, divididas en diez grupos. Los métodos de aprendizaje estándar, que simplemente intentan minimizar los errores a medida que avanzan, olvidaron casi por completo los primeros grupos, reteniendo menos del 10% de precisión en las tareas antiguas. Los métodos que intentaban guardar datos antiguos o añadir penalizaciones adicionales al proceso de aprendizaje funcionaron mejor, pero aun así tuvieron dificultades, olvidando a menudo más de la mitad de lo que habían aprendido. El nuevo método SynGAP, sin embargo, logró un nivel de éxito significetivamente mayor. Retuvo una precisión promedio de casi el 27% en las tareas antiguas, lo que es más de cuatro veces mejor que el método de regularización estándar y casi un 10% mejor que el método que depende de guardar datos antiguos. También redujo la medida del olvido en más de un 10% en comparación con esas técnicas establecidas.

En una segunda prueba que involucraba un flujo continuo de reconocimiento de objetos, los resultados fueron igualmente sólidos. El nuevo método alcanzó una precisión de aproximadamente el 68%, superando a las mejores herramientas de aprendizaje estándar por alrededor de 10 puntos porcentuales. Quizás lo más importante es que el sistema no se volvió rígido. Algunos métodos que protegen demasiado bien los viejos recuerdos hacen que sea imposible que la computadora aprenda algo nuevo. Los investigadores encontraron que su enfoque lograba un delicado equilibrio: protegía el pasado sin congelar el futuro. El sistema permaneció lo suficientemente flexible para adaptarse a la nueva información mientras mantenía intacta la estructura central de su conocimiento previo.

El éxito de este enfoque reside en cómo cambia la naturaleza de la actualización del aprendizaje. Los métodos tradicionales a menudo intentan solucionar el problema añadiendo una penalización al objetivo final, diciéndole esencialmente a la computadora: "No te alejes demasiado de donde estabas". Esto puede distorsionar la ruta de aprendizaje y crear conflictos a medida que aumenta el número de tareas. El nuevo método, por el contrario, modifica el paso de aprendizaje mismo. Actúa como una guía geométrica, alejando a la computadora de direcciones que destruirían los viejos recuerdos mientras le permite moverse libremente en direcciones que no interfieren. Esto sucede de manera continua, impulsado por el flujo de los datos mismos, en lugar de por señales externas o recuerdos almacenados. Los investigadores demostraron que, al formalizar matemáticamente este proceso biológico, pudieron crear un sistema que es tanto robusto como eficiente, requiriendo muy poca memoria adicional para operar.

Aunque el sistema es altamente efectivo, los investigadores señalan que no es una solución perfecta para todos los escenarios posibles. Actualmente depende de una visión simplificada de la geometría interna de la red, la cual funciona bien para muchos casos pero podría necesitar refinamiento para problemas extremadamente complejos. También requiere una pequeña cantidad de datos almacenados para funcionar, aunque mucho menos que los métodos anteriores. A pesar de estas limitaciones, el trabajo representa un paso significativo hacia adelante. Demuestra que, al observar de cerca cómo los sistemas biológicos gestionan la tensión entre la estabilidad y el cambio, y al traducir esos principios en un proceso continuo y en tiempo real, podemos construir una inteligencia artificial que aprenda más como una mente viva. El estudio sugiere que la clave para prevenir el olvido catastrófico no es detener el aprendizaje o acaparar el pasado, sino dejar que la historia del aprendizaje dé forma a la manera en que se aprende el futuro.