In Two Minds about Lifelong Learning: Exploring Hemispheric Redundancy and Specialisation in Neural Models

Le cerveau humain est un maître de l'apprentissage. Il peut acquérir une nouvelle compétence, comme jouer un accord de guitare, sans oublier instantanément comment faire du vélo. Cette capacité à accumuler des connaissances tout au long d'une vie est appelée apprentissage continu. En revanche, les systèmes d'intelligence artificielle, qui sont construits à partir de couches de connexions mathématiques appelées réseaux de neurones, luttent profondément avec cette même tâche. Lorsque ces machines apprennent un nouvel ensemble d'informations, elles suppriment souvent les anciennes, effaçant ce qu'elles savaient auparavant. Ce phénomène, connu sous le nom d'oubli catastrophique, se produit parce que les paramètres internes de la machine sont ajustés pour s'adapter aux nouvelles données, détruisant accidentellement les schémas nécessaires aux anciennes données. Pour que les robots ou les logiciels deviennent véritablement persistants et adaptables, ils doivent résoudre ce problème, en apprenant continuellement sans perdre leur passé.

Pour comprendre comment réparer cela, les chercheurs se tournent souvent vers la biologie. Dans le cerveau des mammifères, une structure appelée hippocampe agit comme une zone de stockage temporaire pour les nouveaux souvenirs, tandis que le néocortex stocke les connaissances à long terme. Chaque nuit, pendant le sommeil, le cerveau rejoue les expériences récentes, les transférant de la zone de stockage temporaire vers le stockage à long terme. De plus, le cerveau est divisé en deux hémisphères qui fonctionnent souvent différemment : un côté a tendance à gérer les informations nouvelles et inédites avec flexibilité, tandis que l'autre gère les routines établies avec stabilité. Une équipe de chercheurs de l'Université Monash et de CSIRO Robotics a repris ces principes biologiques et a construit une nouvelle architecture informatique pour voir si elle pouvait empêcher l'intelligence artificielle d'oublier.

Les chercheurs ont créé un système qu'ils appellent 4MAS, qui signifie 4 Module Awake/Sleep (4 Modules Éveil/Sommeil). Au lieu d'un cerveau unique et monolithique, ce système est construit avec deux moitiés distinctes, ou hémisphères, imitant les côtés gauche et droit d'un cerveau biologique. Chaque moitié contient ses propres systèmes de mémoire : un tampon à court terme qui retient quelques exemples récents de ce qu'il a vu, et un générateur à long terme qui apprend la forme globale des données. Le système fonctionne selon un cycle qui alterne entre l'éveil et le sommeil. Pendant la phase d'éveil, le système apprend une nouvelle tâche à l'aide de données réelles, tout en passant en revue des exemples issus de sa mémoire à court terme. Pendant la phase de sommeil, aucune nouvelle donnée n'est introduite. Au lieu de cela, les deux hémisphères communiquent entre eux. Ils génèrent des exemples synthétiques de ce qu'ils ont appris et les utilisent pour s'affiner mutuellement, renforçant les connaissances anciennes tout en intégrant les nouvelles.

Une innovation clé dans cette conception est que les deux hémisphères ne sont pas identiques. Les chercheurs les ont programmés pour avoir des personnalités différentes. Un hémisphère est réglé pour être stable et conservateur, se concentrant sur la préservation de ce qu'il sait déjà. L'autre est réglé pour être plastique et explorateur, désireux de s'adapter à de nouveaux schémas. Cette division du travail permet au système de trouver l'équilibre entre le besoin d'apprendre de nouvelles choses et le besoin de se souvenir des anciennes. Les chercheurs ont testé cette architecture sur plusieurs défis de reconnaissance d'images standards où la machine devait apprendre de nouvelles catégories d'images les unes après les autres sans jamais revoir les anciennes.

Les résultats étaient frappants. Sur un ensemble de données simple de chiffres écrits à la main, le système a atteint une précision de 98,3 %, égalant presque la performance d'un modèle ayant vu toutes les données en même temps. Sur un ensemble de données plus complexe d'images de vêtements, il a atteint une précision de 84,9 %, surpassant nettement les autres méthodes qui tentent d'empêcher l'oubli. Même sur un ensemble de données très difficile comprenant 100 catégories d'objets différents, le système a réussi à apprendre de manière continue, atteignant une précision de 29,29 %, ce qui est supérieur aux meilleures méthodes précédentes. L'étude a montré que le système ne se contentait pas de mémoriser les nouvelles données ; il conservait les anciennes avec très peu de perte, une métrique que les chercheurs appellent « dérive représentationnelle ». La capacité du système à conserver le passé tout en apprenant le futur était directement liée à la phase de sommeil. Lorsque les chercheurs ont supprimé le cycle de sommeil, les performances du système ont chuté et les deux hémisphères n'ont pas réussi à travailler ensemble efficacement.

Les expériences ont également révélé que les différences spécifiques entre les deux hémisphères étaient cruciales. Lorsque les deux côtés étaient rendus identiques, le système performait moins bien. Ce n'est que lorsqu'un côté était autorisé à être flexible et l'autre stable que le système prospérait. Cela suggère que posséder des parties spécialisées qui accomplissent des tâches différentes est plus efficace que d'avoir une partie unique et uniforme essayant de tout faire. Les chercheurs ont constaté que le système fonctionnait mieux lorsque le taux d'apprentissage du « sommeil » était maintenu très bas, permettant des ajustements doux plutôt que des changements drastiques. Ils ont également découvert que le système avait besoin d'une petite quantité de mémoire pour stocker des exemples récents, mais qu'une fois que cette mémoire atteignait une certaine taille, l'agrandir n'apportait plus grand-chose.

Ce travail ne prétend pas avoir résolu le problème de l'intelligence artificielle pour toujours, ni suggère que les machines vont bientôt rêver comme les humains. Les modèles utilisés étaient relativement simples et fonctionnaient sur des ensembles de données spécifiques et contrôlés. Cependant, les conclusions offrent une voie claire à suivre. En copiant la stratégie biologique consistant à répartir les tâches de mémoire entre deux côtés spécialisés et en utilisant une période de repos pour consolider les connaissances, les ingénieurs peuvent construire des machines qui apprennent davantage comme des êtres vivants. L'étude démontre que le dilemme stabilité-plasticité, qui tourmente l'intelligence artificielle depuis longtemps, peut être géré non pas en forçant un système unique à tout faire, mais en créant une équipe d'agents spécialisés qui se soutiennent mutuellement à travers des cycles de travail et de repos.