Résumé Technique : Les contrôles de la dimensionnalité lorsque la modularité aide l'apprentissage continu

Énoncé du problème

L'apprentissage continu est confronté au dilemme fondamental « stabilité-plasticité » : un système doit acquérir de nouvelles connaissances (plasticité) tout en préservant les représentations précédemment apprises (stabilité). Cette tension est exacerbée lorsque les tâches partagent une structure, créant un risque d'interférence où l'apprentissage de nouvelles données perturbe les connaissances antérieures. Bien que les architectures modulaires soient souvent proposées pour atténuer l'interférence en isolant les calculs spécifiques à chaque tâche, il reste incertain si de tels biais structurels sont fonctionnellement bénéfiques ou s'ils sont redondants. Plus précisément, l'article examine si l'utilité de la modularité dépend du régime de représentation — les propriétés géométriques des représentations apprises, en particulier leur dimensionnalité effective.

Méthodologie

Paradigme Expérimental

L'étude utilise un paradigme séquentiel A–B–A transfert–interférence (inspiré de Holton et al., 2026).

• Phase A1 : Le réseau apprend la Tâche A (cartographier des indices végétaux vers des positions de cadrans basées sur une règle saisonnière).
• Phase B : Le réseau apprend la Tâche B sur de nouveaux stimuli. La Tâche B partage la même structure formelle que A mais varie en termes de similitude de règle : Identique (règle identique), Proche (petit décalage angulaire), ou Lointaine (grand décalage angulaire).
• Phase A2 : Le réseau est testé à nouveau sur la Tâche A pour mesurer la rétention et l'interférence.

Architectures

Deux architectures récurrentes ont été comparées :

1. Ligne de base à réseau unique (Single-Network Baseline) : Une seule population récurrente traite toutes les entrées avec une lecture (readout) partagée.
2. Réseau modulaire partitionné par tâche : Les entrées sont acheminées vers des modules récurrents distincts ($M_A$ pour la Tâche A, $M_B$ pour la Tâche B) en fonction de l'identité de la tâche. Les sorties des modules sont concaténées et traitées par une lecture partagée. Cela impose une séparation structurelle dans le traitement récurrent tout en maintenant un couplage au niveau de la sortie.

Contrôle des régimes de représentation

Pour manipuler la dimensionnalité effective des représentations apprises sans changer la capacité du réseau, les auteurs ont fait varier l'échelle de poids d'initialisation ($\gamma$).

• Régime de haute dimension (« Lazy » / Paresseux) : Des valeurs de $\gamma$ élevées maintiennent les représentations proches de l'initialisation, ce qui entraîne une dimensionnalité effective élevée et des codes moins spécialisés.
• Régime de basse dimension (« Rich » / Riche) : De petites valeurs de $\gamma$ forcent les représentations vers des variétés (manifolds) de plus faible dimension, induisant des codes structurés et spécialisés.
• Métrique : La dimensionnalité effective a été quantifiée par le nombre de composantes principales nécessaires pour expliquer 99 % de la variance dans les états cachés.

Analyse

La performance a été mesurée via la précision angulaire, le transfert (amélioration sur la Tâche B basée sur la Tâche A) et l'interférence (décalage du comportement de la Tâche A vers les règles de la Tâche B). La géométrie de la représentation a été analysée à l'aide de l'Analyse en Composantes Principales (PCA) pour calculer la dimensionnalité effective, les angles principaux entre les sous-espaces spécifiques aux tâches, et des visualisations 3D des trajectoires de tâches.

Résultats Clés

1. La modularité est conditionnée par la dimensionnalité

Le bénéfice d'une architecture modulaire n'est pas universel mais est régi par le régime de représentation :

• Régime de haute dimension (Lazy) : Les réseaux simples et modulaires ont atteint des niveaux de précision, de transfert et d'interférence comparables. La séparation structurelle explicite du réseau modulaire n'a apporté aucun avantage significatif, car l'espace de haute dimension permettait au réseau simple d'encoder les tâches avec une pression géométrique limitée.
• Régime de basse dimension (Rich) : La modularité est devenue décisive. Le réseau modulaire a maintenu une précision élevée pour la Tâche A et une faible interférence dans toutes les conditions de similitude. En revanche, le réseau simple a souffert d'une interférence significative, particulièrement dans la condition « Lointaine », car il peinait à réorganiser son espace de représentation contraint sans écraser les connaissances antérieures.

2. Émergence d'une géométrie dépendante de la similitude

Dans le régime de basse dimension, le réseau modulaire a développé une organisation graduelle et compositionnelle des sous-espaces de représentation que le réseau simple n'a pas réussi à atteindre :

• Tâches similaires (Identiques) : Les représentations restent étroitement alignées (sous-espaces superposés).
• Tâches modérément dissemblables (Proches) : Les représentations occupent des angles intermédiaires (séparation partielle).
• Tâches dissemblables (Lointaines) : Les représentations deviennent fortement orthogonales (sous-espaces séparés).
  Le réseau simple présentait une dépendance moins structurée et plus faible à la similitude des tâches, les sous-espaces restant plus enchevêtrés quel que soit la distance entre les tâches.

3. Robustesse des résultats

Des études d'ablation variant la taille des modules et l'acheminement des entrées ont confirmé que ces effets sont robustes à des variations architecturales modérées. La conclusion centrale — que la dimensionnalité de la représentation sert de filtre à l'impact fonctionnel de la modularité — s'est maintenue à travers les configurations.

Contributions Clés

1. Identification d'une variable de contrôle : L'article identifie le régime de représentation induit par l'initialisation (co-variant avec la dimensionnalité) comme le facteur clé déterminant quand la modularité structurelle devient fonctionnellement bénéfique dans l'apprentissage continu.
2. Caractérisation de la géométrie compositionnelle : Il démontre que dans les régimes contraints (basse dimension), les réseaux modulaires développent naturellement une organisation géométrique dépendante de la similitude (superposition $\to$ séparation partielle $\to$ orthogonalité) qui soutient la réutilisation compositionnelle tout en minimisant l'interférence.
3. Recadrage des objectifs de l'apprentissage continu : Les résultats soutiennent l'idée de ne pas voir l'apprentissage continu comme un choix binaire entre « partage » et « séparation », mais comme une allocation adaptative de sous-espaces de représentation où la géométrie optimale dépend de la similitude des tâches.

Signification et Revendications

L'article soutient que la dimensionnalité de la représentation contrôle quand la modularité aide. Les biais structurels (comme la modularité) ne remodèlent le comportement d'apprentissage et la géométrie interne que lorsque l'espace de représentation est suffisamment contraint pour faire de la géométrie un facteur déterminant. Dans les régimes de haute dimension (« lazy »), le réseau dispose d'assez de degrés de liberté pour résoudre les tâches sans avoir besoin d'une séparation structurelle explicite. Cependant, dans les régimes de basse dimension (« rich »), le réseau est contraint d'organiser les calculs en sous-espaces distincts, moment auquel la modularité architecturale offre un avantage crucial pour gérer le compromis stabilité-plasticité.

Les auteurs concluent qu'un apprentissage continu compositionnel robuste nécessite des mécanismes capables de réguler dynamiquement tant la dimensionnalité de la représentation que l'organisation des sous-espaces en réponse aux changements de structures de tâches, plutôt que de compter uniquement sur une séparation architecturale fixe.

Note : L'article mentionne explicitement des limites, notamment l'utilisation de la PCA comme substitut de la dimensionnalité intrinsèque et la restriction à des séquences de tâches courtes et contrôlées, reconnaissant que des travaux supplémentaires sont nécessaires pour déterminer si ces effets s'étendent à des benchmarks d'apprentissage continu plus longs et plus hétérogènes.