Distilled Circuits: A Mechanistic Study of Internal Restructuring in Knowledge Distillation

Cette étude applique l'interprétabilité mécanistique à la distillation de connaissances pour révéler comment les modèles étudiants réorganisent et compressent les circuits internes des enseignants, entraînant des changements computationnels significatifs malgré la préservation des comportements fonctionnels globaux.

L'essentiel

Imaginez que vous avez un chef cuisinier étoilé (le "modèle enseignant") qui prépare des plats complexes avec une précision incroyable. Il a des années d'expérience, une bibliothèque de recettes immense et des centaines d'ingrédients à sa disposition.

Maintenant, vous voulez embaucher un apprenti (le "modèle étudiant") pour travailler dans un petit camion de nourriture mobile. Vous ne pouvez pas emmener tout le matériel du chef : il faut que l'apprenti soit plus rapide, plus petit et utilise moins d'énergie.

C'est ce qu'on appelle la distillation de connaissances en intelligence artificielle : on essaie de transférer le savoir du grand modèle vers un petit modèle.

Mais voici le problème que cette recherche révèle : l'apprenti ne copie pas simplement les gestes du chef. Il réinvente tout !

Voici ce que les auteurs de l'article ont découvert, expliqué simplement :

1. Le grand changement : Réorganiser la cuisine

Quand le chef (le grand modèle) prépare un plat, il utilise une équipe de 12 sous-chefs (les couches du modèle) et des dizaines de spécialistes. Chacun fait une petite tâche précise.

L'apprenti (le petit modèle), lui, n'a que 6 sous-chefs. Pour réussir le même plat, il ne peut pas avoir la même organisation. Il doit :

• Compresser : Il force un seul sous-chef à faire le travail de deux ou trois.
• Jeter : Il se débarrasse de certains spécialistes qui, selon lui, ne sont pas essentiels.
• Réorganiser : Il change l'ordre dans lequel les tâches sont faites.

L'analogie : C'est comme si le chef utilisait un robot pour éplucher les pommes, un autre pour les couper et un troisième pour les cuire. L'apprenti, lui, fait tout à la main avec un seul couteau, mais il le fait très vite. Le résultat final (le plat) peut sembler identique, mais le processus interne est totalement différent.

2. Le danger : La fragilité de l'apprenti

C'est ici que ça devient intéressant (et un peu inquiétant).

Parce que l'apprenti a tout misé sur quelques sous-chefs surchargés, son système est fragile.

• Si vous retirez (ou "ablatez") un seul sous-chef du grand chef, l'équipe continue de fonctionner, car les autres prennent le relais.
• Si vous retirez le même sous-chef chez l'apprenti, tout s'effondre. Son plat devient immangeable.

Les chercheurs ont découvert que les petits modèles sont beaucoup plus "cassables" que les grands. Ils sont moins robustes face aux imprévus ou aux changements de contexte.

3. Le nouveau test : Le "Stéthoscope Numérique"

Avant, on jugeait si un apprenti était bon en lui faisant goûter le plat final. S'il avait bon goût, on disait "Bravo, c'est pareil !".

Mais cette recherche montre que ce n'est pas suffisant. L'apprenti peut avoir bon goût en utilisant des astuces (des raccourcis) que le chef n'utiliserait jamais.

Les auteurs ont donc créé un nouvel outil de mesure (une métrique d'alignement). Imaginez que c'est un stéthoscope qui écoute le cœur du modèle.

• Au lieu de regarder seulement le résultat final, ce stéthoscope vérifie si le "cœur" (les calculs internes) bat au même rythme que celui du chef.
• Ils ont découvert que même si les deux modèles semblent donner la même réponse, leurs "cœurs" battent souvent à des rythmes très différents.

4. Ce que cela signifie pour nous

Cette étude nous apprend trois choses importantes :

1. La taille compte : Réduire un modèle pour le rendre plus rapide change sa façon de penser, pas juste sa vitesse.
2. Attention aux raccourcis : Les petits modèles peuvent apprendre des astuces pour réussir les tests, mais ces astuces peuvent échouer dans le monde réel (par exemple, si on leur donne un plat un peu différent).
3. Il faut vérifier l'intérieur : Ne vous fiez pas seulement au résultat. Pour les applications importantes (comme la médecine ou la conduite autonome), il faut s'assurer que le modèle utilise la "bonne logique" et pas juste une coïncidence.

En résumé :
La distillation de connaissances est comme un transfert de savoir-faire. Mais le petit modèle ne devient pas une "mini-copie" du grand. Il devient un nouveau personnage qui a réorganisé toute sa structure pour survivre avec moins de ressources. C'est souvent efficace, mais c'est aussi plus fragile. Il faut donc être très prudent avant de lui confier des tâches critiques.

Résumé technique

Voici un résumé technique détaillé de l'article « Distilled Circuits: A Mechanistic Study of Internal Restructuring in Knowledge Distillation », publié dans les Transactions on Machine Learning Research (mars 2026).

1. Problématique

La distillation de connaissances (Knowledge Distillation - KD) est une technique largement utilisée pour compresser un modèle enseignant (teacher) volumineux en un modèle étudiant (student) plus petit et plus rapide, en le forçant à imiter les sorties de l'enseignant. Bien que l'efficacité de la KD en termes de performance de sortie soit bien documentée, les transformations computationnelles internes qui se produisent durant ce processus restent mal comprises.

Les auteurs soulignent un manque critique de compréhension mécaniste : comment les circuits internes, les représentations et les motifs d'activation changent-ils ? Les modèles étudiants développent-ils des stratégies computationnelles alternatives qui pourraient compromettre leur robustesse ou leur capacité de généralisation, même s'ils atteignent des performances de sortie similaires ?

2. Méthodologie

L'étude applique des techniques d'interprétabilité mécaniste (Mechanistic Interpretability - MI) pour analyser la restructuration interne des modèles.

• Modèles étudiés :
  • Principal : GPT-2 (enseignant, 124M paramètres) vs DistilGPT-2 (étudiant, 82M paramètres).
  • Généralisation : BERT vs DistilBERT (architectures bidirectionnelles) et Llama-3.1-8B vs Llama-3.1-Minitron-4B (modèles plus grands).
• Tâches d'évaluation :
  • Complétion de séquences numériques (Numeral Sequence Completion).
  • Identification d'objet indirect (Indirect Object Identification - IOI).
  • Réponses à des questions (SimpleQA).
• Techniques d'analyse :
  • Découverte de circuits : Utilisation de l'ablation itérative (suppression de nœuds) et du path patching (correction de chemins) pour isoler les composants (têtes d'attention et MLP) essentiels à la tâche.
  • Analyse fonctionnelle : Examen des matrices QK (Query-Key) pour les têtes d'attention et décomposition des flux résiduels pour les MLP.
  • Validation causale : Activation patching (pour tester la suffisance causale) et linear probing (pour vérifier la décodabilité linéaire des informations).
  • Nouvelle métrique : Introduction d'une métrique d'alignement basée sur la similarité pondérée par l'influence des composants.

3. Contributions Clés

A. Restructuration et Compression des Circuits

Les auteurs découvrent que les modèles étudiants ne se contentent pas de copier les comportements de l'enseignant ; ils réorganisent fondamentalement leur architecture interne :

• Compression : Les étudiants fusionnent souvent plusieurs fonctions de l'enseignant en un seul composant (ex: deux MLPs de l'enseignant deviennent un seul MLP chez l'étudiant).
• Discarding : Certaines fonctions non critiques (comme la détection de membres similaires dans une séquence) sont totalement supprimées chez l'étudiant.
• Dépendance accrue : Les étudiants reposent de manière disproportionnée sur un nombre réduit de composants critiques. Là où l'enseignant distribue la fonctionnalité sur plusieurs têtes, l'étudiant concentre cette charge sur une seule, créant un point de défaillance unique.

B. Métrique d'Alignement Fonctionnel

Pour quantifier l'alignement au-delà de la simple similarité des sorties, les auteurs proposent une métrique $A$ :
$$A_{T,S} = \frac{1}{|M|} \sum_{(c_T, c_S) \in M} S(c_T, c_S) \cdot (1 - |I_T(c_T) - I_S(c_S)|)$$
Où :

• $S$ est la similarité représentative entre les composants.
• $I$ est le score d'influence (mesuré par la baisse de performance lors de l'ablation).
• Cette métrique pénalise les divergences fonctionnelles tout en tolérant les composants non appariés à faible impact. Elle permet de détecter des différences computationnelles que les métriques de performance standard (comme la différence de logit) manquent.

4. Résultats Principaux

• Fragilité accrue des étudiants : Les modèles étudiants sont significativement plus vulnérables à l'ablation de composants. Par exemple, sur la tâche de séquence numérique, l'ablation d'une tête d'attention critique fait chuter la performance de l'étudiant de -87,73 %, contre -33,18 % pour l'enseignant. Cela confirme que les étudiants manquent de mécanismes de secours (redundancy).
• Divergence entre performance et mécanique : Deux modèles peuvent avoir des performances de sortie proches mais des circuits internes radicalement différents. La métrique d'alignement révèle que des paires comme BERT/DistilBERT ont un alignement plus faible (0,88) que Llama/Minitron (0,98), même si leurs écarts de performance brute varient.
• Généralisation des tendances : Les schémas de restructuration (compression, dépendance accrue, suppression de fonctions) sont observés de manière cohérente à travers différentes architectures (GPT, BERT, Llama) et tailles de modèles.
• Impact sur la robustesse : La compression des paramètres entraîne une augmentation de la fragilité (brittleness) face aux changements de distribution (distribution shifts) et aux corruptions d'entrée.

5. Signification et Implications

• Fiabilité des modèles compressés : L'étude met en garde contre l'utilisation de modèles distillés dans des applications à haut risque (sécurité, médecine, finance) sans évaluation mécaniste. Un modèle peut sembler performant sur des données de test standard mais échouer catastrophiquement en raison de sa dépendance à des circuits internes fragiles.
• Nouvelles métriques d'évaluation : La performance de sortie seule est un indicateur trompeur de la fidélité fonctionnelle. L'alignement mécanique devrait devenir un critère standard pour sélectionner les modèles étudiants.
• Optimisation future : Les auteurs suggèrent que la métrique d'alignement pourrait être intégrée directement dans la fonction de perte durant l'entraînement (distillation) pour décourager l'apprentissage de raccourcis computationnels non robustes.
• Compréhension théorique : Ce travail ouvre la voie à une meilleure compréhension théorique de la façon dont la capacité des modèles (nombre de paramètres) dicte la redondance et la robustesse des circuits internes.

En résumé, cet article démontre que la distillation de connaissances n'est pas une simple compression linéaire, mais un processus de réingénierie interne qui, bien qu'efficace pour réduire la taille, peut compromettre la robustesse fondamentale du modèle en éliminant la redondance computationnelle.