Résumé Technique : Récupérable mais non Stationnaire : Structures Linéaires Locales dans les Poids et les Activations

1. Énoncé du Problème

Les approches récentes pour l'édition et l'adaptation de modèles pré-entraînés — telles que les vecteurs de tâches, LoRA, le pilotage d'activation (activation steering) et la recherche aléatoire autour des poids — reposent sur une hypothèse géométrique partagée : que les comportements appris correspondent à des directions linéaires de faible dimension fixes, soit dans l'espace des poids, soit dans l'espace des activations. L'hypothèse prédominante suggère qu'un « plan de tâche » existe en tant que sous-espace statique à travers un point de contrôle (checkpoint), et que se déplacer le long de ce plan permet d'ajouter ou de supprimer des comportements spécifiques à une tâche sans réentraînement.

Cependant, il reste incertain de savoir si ces structures linéaires sont véritablement globales et statiques, ou si elles sont locales et évolutives. De plus, l'efficacité de la recherche aléatoire dans des espaces de haute dimension (par exemple, $10^9$ paramètres) est contre-intuitive ; si les directions utiles étaient des aiguilles rares dans une botte de foin, l'échantillonnage aléatoire devrait théoriquement échouer. Ce document étudie la nature réelle de ces structures linéaires : leur dimensionnalité, leur stationnarité et la relation entre les perturbations de poids et le pilotage d'activation.

2. Méthodologie

Les auteurs utilisent une boucle expérimentale de « récupération après oubli » pour générer un vecteur d'adaptation de vérité terrain ($\Delta_{GD}$) par rapport auquel les sous-espaces candidats sont mesurés. La boucle se compose de trois phases :

1. Entraînement multitâche : Entraînement d'un modèle sur un mélange de tâches pour atteindre un point de contrôle $\theta_{mt}$.
2. Oubli : Poursuite de l'entraînement sur une seule tâche jusqu'à ce que la performance sur les autres tâches se dégrade, atteignant $\theta_{forg}$.
3. Récupération : Réentraînement bref sur le mélange original pour récupérer les tâches perdues, atteignant $\theta_{rec}$.

Le déplacement $\Delta_{GD} = \theta_{rec} - \theta_{forg}$ sert de cible d'adaptation. Les auteurs évaluent les sous-espaces candidats en mesurant quelle proportion de $\Delta_{GD}$ ils capturent et en effectuant une recherche aléatoire au sein de ces sous-espaces.

Échelles Expérimentales

• Transformers Synthétiques : Un Transformer causal contrôlé à 4 couches et 128 dimensions entraîné sur des tâches de séquences de chiffres (copie, inversion, tri, modulo-addition).
• Adapteurs LoRA : Fine-tuning sur des architectures DistilGPT-2 et GPT-2 en utilisant des adapteurs de rang réduit.
• Grands Modèles de Langage (LLM) : Expériences sur Qwen2.5 (0.5B, 3B, 7B) et OLMo-7B.

Cadre Théorique

Le document développe un cadre théorique pour expliquer l'efficacité de la recherche aléatoire et la sélection de sous-espaces :

• Théorème du Best-of-N : Prouve que dans un régime de linéarité locale, une recherche aléatoire gaussienne isotrope capte un signal utile dont la variance est indépendante de la dimension ambiante $D$. Le gain attendu évolue avec $\sqrt{\log N}$ (où $N$ est le budget de recherche) mais pas avec $D$.
• Densité de Signal vs Masse : Une proposition démontre que pour une taille de pas fixe, un sous-espace plus petit et bien aligné produit un signal de recherche plus élevé qu'un sous-espace plus large qui contient simplement la direction cible, en raison de la dilution de la densité de signal ($\|P_U a\|/\sqrt{r}$).
• Récupération de Krylov : Un lemme montrant que le déplacement de récupération réside dans un sous-espace de Krylov généré par l'Hessienne et le gradient initial, plutôt que dans une direction fixe. Cela implique que le sous-espace pertinent évolue à mesure que la trajectoire se déroule.
• Identité de Pushforward : Établit un lien théorique entre les perturbations de poids ($\delta\theta$) et les décalages d'activation ($\Delta h$) via la Jacobienne $D_\theta h$, suggérant que les mouvements de poids utiles ont des « ombres » dans l'espace d'activation qui peuvent servir de vecteurs de pilotage.

3. Contributions Clés et Résultats

A. Les structures linéaires sont locales et mobiles, non statiques

La conclusion centrale est que l'hypothèse du « plan de tâche » est incorrecte.

• L'échec des plans statiques : Les sous-espaces mesurés au point de contrôle de l'oubli (plan de tâche local) ou avant l'oubli (plan de pré-interférence) ne capturent qu'une petite fraction du déplacement de récupération (environ 15 % et moins de 2 % respectivement dans les expériences LoRA).
• Alignement de trajectoire : La direction de récupération est mieux capturée par un préfixe de trajectoire — une base formée par les premières étapes du chemin de récupération. Dans les expériences LoRA, les 10 premières étapes de récupération ont capturé environ 77 % du déplacement total $\Delta_{GD}$, et les 20 premières étapes environ 90 %.
• Dérive : L'orientation du sous-espace de tâche local dérive de manière significative pendant la récupération (le chevauchement de l'angle principal chute de 1,0 à environ 0,12–0,17 sur 100 étapes), confirmant que la géométrie pertinente est un faisceau mobile, et non un plan fixe.

B. Efficacité de la recherche aléatoire et indépendance de la dimension

Le document fournit une justification théorique de la raison pour laquelle la recherche aléatoire fonctionne dans des hautes dimensions :

• Indépendance de la dimension : La projection d'une perturbation gaussienne isotrope sur une direction utile a une variance indépendante du nombre total de paramètres.
• Fenêtre d'échelle : La recherche aléatoire n'est efficace que dans une échelle de perturbation spécifique où le paysage de perte est localement linéaire (par exemple, $\sigma \approx 10^{-4}$ sur Qwen2.5-0.5B). En dehors de cette fenêtre, la courbure domine et les mouvements aléatoires deviennent destructeurs.
• Qualité de la recherche : La recherche aléatoire effectuée au sein du sous-espace du préfixe de trajectoire surpasse significativement la recherche dans les plans de tâches statiques ou l'espace isotrope, confirmant la prédiction théorique que la « densité » du signal importe plus que la « masse » du sous-espace.

C. Connexion entre perturbations de poids et pilotage d'activation

Les auteurs valident le lien entre les éditions de poids et le pilotage d'activation :

• Étape de gradient comme vecteur de pilotage : Une seule étape de gradient sur Qwen2.5-0.5B produit une perturbation de poids dont le pushforward vers l'espace d'activation s'aligne avec un vecteur de pilotage par ajout d'activation contrastive (CAA) (similitude cosinus $\approx 0,58$) dans les couches de décodage tardives (19–20).
• Réutilisabilité : L'injection de ce décalage d'activation induit par le gradient dans un modèle propre améliore la précision sur des données non vues (jusqu'à +10 points sur BoolQ), ce qui est comparable aux vecteurs de pilotage dérivés de paires contrastives étiquetées.
• Pont de recherche aléatoire : Les perturbations de poids aléatoires sélectionnées (Best-of-N) peuvent également être converties en vecteurs de pilotage qui améliorent les performances, bien que l'effet soit plus bruité et dépendant de la tâche.

D. Géométrie de bas rang à grande échelle

• Synthétique/LoRA : Une structure de bas rang claire (rang effectif 2–8) est observée dans les gradients de tâches.
• LLM : L'affirmation du bas rang n'est que partiellement confirmée aux échelles de milliards de paramètres. Si certains réglages (ex: Qwen-3B MLP) montrent des rangs distinguables du bruit, d'autres (ex: Qwen-7B) montrent des rangs effectifs indiscernables du bruit d'échantillonnage, suggérant qu'une estimation de rang naïve est difficile à cette échelle.

4. Signification et Revendications

Le document prétend offrir une compréhension géométrique corrigée de l'adaptation dans les réseaux entraînés :

1. Réfutation des vecteurs de tâche statiques : Les structures linéaires pertinentes ne sont pas des directions de tâche globales et fixes, mais des géométries locales évolutives (faisceaux de trajectoire de type Krylov) qui persistent partiellement à travers les espaces de paramètres et d'activation.
2. Unification des méthodes : Ce travail unifie les mises à jour de gradient, la recherche de paramètres aléatoire et le pilotage d'activation sous une perspective géométrique différentielle unique. Il postule que les perturbations de paramètres réussies induisent des directions réutilisables dans l'espace d'activation, et que la recherche aléatoire fonctionne car elle échantillonne efficacement au sein de ces régimes de linéarité locale.
3. Implications pratiques :
   • Entraînement multitâche : La spécialisation séquentielle est fragile car le plan de tâche local dérive ; les programmes simultanés sont plus robustes.
   • Stratégie de recherche : Pour trouver des directions utiles, il faut chercher dans le début de la trajectoire du chemin d'adaptation plutôt que dans les sous-espaces de tâches statiques.
   • Pilotage : Les vecteurs de pilotage d'activation peuvent être dérivés de perturbations de poids (même d'un seul pas de gradient), comblant ainsi le fossé entre l'édition dans l'espace des poids et le contrôle dans l'espace d'activation.

Les auteurs restent modestes, notant que bien que la recherche aléatoire puisse surpasser la descente de gradient sur des tâches cibles spécifiques dans des contextes contrôlés, elle est instable et ne remplace pas la descente de gradient. Les résultats sont présentés comme un point de départ pour une analyse plus approfondie des structures linéaires locales, avec des limites concernant l'échelle de la preuve (plus forte sur les modèles synthétiques et les petits modèles LoRA) et la nature partielle des découvertes de bas rang dans les modèles de plusieurs milliards de paramètres.