💬 NLP

Language models struggle with compartmentalization

Ce papier démontre que les grands modèles de langage échouent souvent à unifier des présentations distinctes d'un même concept latent (telles que différentes langues ou paradigmes de programmation) en représentations internes partagées, entraînant un apprentissage redondant, une efficacité d'échantillonnage réduite et une transition de phase dans l'efficacité des interventions en fonction du nombre de présentations du concept.

Auteurs originaux : Thomas Vincent Howe, David Wingate

Publié 2026-05-20

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Thomas Vincent Howe, David Wingate

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La Grande Idée : Le Problème de l'« Univers Parallèle »

Imaginez un étudiant incroyablement intelligent mais qui a une habitude très étrange : il traite exactement le même fait comme s'il s'agissait de deux secrets complètement différents et sans lien, selon la façon dont il est écrit.

Si vous lui dites « Le ciel est bleu » en anglais, il l'écrit dans son « cahier anglais ».
Si vous lui dites « Le ciel est bleu » en swahili, il l'écrit dans un « cahier swahili » séparé.
Il ne réalise jamais que ces deux cahiers parlent de la même chose. Il ne les consulte pas mutuellement. Il ne dit pas : « Oh, je connais déjà ça ! »

Ce papier appelle ce comportement la Compartmentalisation.

Les auteurs soutiennent que les Grands Modèles de Langage (LLM) font souvent cela. Au lieu de construire un seul cerveau géant et efficace qui comprend le concept de « le ciel est bleu », ils construisent des cerveaux séparés et redondants pour chaque langue, chaque code de programmation ou chaque style d'écriture qu'ils rencontrent. Cela gaspille leur puissance cérébrale (capacité) et les rend plus lents à apprendre (inefficacité d'échantillonnage).

L'Expérience : L'« Astuce du Vocabulaire Magique »

Pour prouver que cela se produit, les chercheurs ont créé une expérience contrôlée. Ils n'ont pas seulement utilisé différentes langues ; ils ont utilisé un « tour de magie » pour forcer le modèle à voir les mêmes données comme totalement différentes.

L'Analogie :
Imaginez une bibliothèque où chaque livre est écrit dans la même langue, mais où le bibliothécaire a une règle :

Si un livre est sur l'Étagère de Gauche, le mot « Pomme » est écrit « Pomme ».
Si un livre est sur l'Étagère de Droite, le mot « Pomme » est écrit « Banane » (même s'il signifie la même chose).

Les chercheurs ont créé un modèle où l'« Étagère de Gauche » et l'« Étagère de Droite » avaient des dictionnaires complètement différents. Ils ont nourri le modèle avec exactement les mêmes histoires, simplement avec les mots échangés selon l'étagère.

Le Résultat :
Le modèle n'a pas réussi à faire le lien. Il a appris l'histoire pour l'Étagère de Gauche, et il a appris l'histoire pour l'Étagère de Droite, mais il les a traitées comme deux tâches totalement séparées.

Le Coût : Parce qu'il apprenait la même chose deux fois, il avait besoin de plus de données pour y parvenir (Inefficacité d'échantillonnage).
Le Goulot d'Étranglement : Parce qu'il stockait deux copies des mêmes connaissances, il manquait d'« espace cérébral » plus rapidement (Coût de capacité).

Le Piège de la « Traduction »

Les chercheurs ont essayé une solution courante : ils ont donné au modèle des « paires de traduction ». Ils lui ont montré : « Voici « Pomme » sur l'Étagère de Gauche, et voici « Banane » sur l'Étagère de Droite ».

La Surprise :
Le modèle a appris la règle de traduction presque instantanément. Il pouvait parfaitement traduire « Pomme » en « Banane ». Cependant, cela ne l'a pas aidé à arrêter de se compartimenter. Il continuait à garder les deux concepts dans des boîtes mentales séparées. C'était comme un étudiant qui peut traduire une phrase parfaitement mais qui ne comprend toujours pas que le sens sous-jacent est le même.

Ils ont découvert que cela ne commençait à fonctionner que lorsqu'ils donnaient au modèle des quantités massives de données de traduction, ou lorsqu'ils utilisaient une technique d'entraînement spécifique appelée « décroissance des poids » (qui agit comme une légère pousse pour simplifier la pensée du modèle).

La « Transition de Phase »

Le papier a découvert quelque chose d'étrange appelé une Transition de Phase.
Pensez-y comme à un interrupteur lumineux.

Si vous avez 2 compartiments (Étagères Gauche/Droite), le modèle reste obstiné et ne partage pas les connaissances.
Si vous avez 8 compartiments, soudainement, avec suffisamment de données de traduction, le modèle « craque » et commence à partager les connaissances entre tous.

Il semble que le modèle ne réalise qu'il devrait unifier son cerveau que lorsque le problème devient trop compliqué pour rester séparé.

Exemples du Monde Réel

Les chercheurs ont testé cela sur des scénarios réels pour voir si cela se produisait en dehors de leur « bibliothèque magique » :

Apprentissage Multilingue : Ils ont entraîné de petits modèles sur l'anglais et le chinois. Ils ont constaté que pour les petits modèles, les connaissances en anglais et en chinois ne se mélangeaient pas vraiment. Le modèle était essentiellement « compartimenté », les traitant comme des tâches séparées plutôt que comme une compréhension unifiée.
Biographies vs Questions-Réponses : Ils ont donné au modèle des faits sur des personnes dans deux formats :
- Format A : Un paragraphe de biographie (« John est un médecin qui habite à New York »).
- Format B : Une paire Question-Réponse (« Qui est John ? Un médecin à New York »).
- Le Désastre : Lorsque le modèle a essayé d'apprendre les deux formats en même temps, ils se sont combattus. Le modèle s'est confondu et a performé pire que s'il n'avait appris qu'un seul format. C'était comme essayer de tenir deux poids lourds dans une seule main ; ils s'annulaient mutuellement.

La Bonne Nouvelle : C'est Réparable

La découverte la plus importante est que ce n'est pas un défaut fondamental du fonctionnement de l'IA ; c'est simplement une mauvaise habitude dans laquelle le modèle tombe.

Les chercheurs ont montré que si vous copiez manuellement les connaissances d'un compartiment à l'autre au début (ou après l'entraînement), le modèle fonctionne parfaitement. Cela prouve que le modèle est capable de partager des connaissances, mais que le processus d'entraînement standard (SGD) ne parvient tout simplement pas à trouver naturellement comment le faire efficacement.

Résumé

Le Problème : Les modèles d'IA traitent souvent le même fait présenté de différentes manières (différentes langues, différents formats) comme des tâches complètement sans rapport.
La Conséquence : Cela gaspille leur mémoire et les rend plus lents à apprendre.
L'Échec de la « Traduction » : Montrer simplement au modèle comment traduire entre les formats ne suffit pas à corriger cela ; ils ont besoin de beaucoup plus de données ou de petites poussées d'entraînement spécifiques pour réaliser que les concepts sont les mêmes.
L'Enseignement : Les modèles d'IA sont actuellement « compartimentés ». Ils ont des pièces séparées dans leur cerveau pour chaque façon dont un fait peut être dit, plutôt qu'une grande pièce où tous les faits vivent ensemble. Le papier suggère que nous avons besoin de meilleures méthodes d'entraînement pour les aider à fusionner ces pièces.

Résumé Technique : Les Modèles de Langage Peinent avec la Compartimentation

Énoncé du Problème

Les Grands Modèles de Langage (LLM) sont entraînés sur des données contenant les mêmes concepts latents présentés de multiples manières distinctes (par exemple, des faits en anglais et en swahili, des fonctions en Python et en Haskell, ou des propositions en langage formel et naturel). Bien qu'il soit souhaitable que les modèles reconnaissent ces éléments comme liés et partagent leur force statistique, les modèles de pointe échouent souvent à le faire.

Le papier définit la compartimentation comme un phénomène où un modèle traite $c$ présentations distinctes d'un processus de génération de données latentes unifié comme des tâches partiellement ou totalement séparées. Dans le pire des cas, le modèle apprend des représentations internes parallèles pour chaque présentation sans amortir l'information entre elles. Cela entraîne deux inefficacités principales :

Inefficacité Échantillonnaire : Chaque présentation ne bénéficie que de sa propre part des données. Si une présentation représente une fraction $\epsilon$ des données, le modèle peut nécessiter $1/\epsilon$ fois plus d'échantillons pour apprendre la structure par rapport à une présentation unifiée.
Compétition de Capacité : Les représentations redondantes consomment une capacité de modèle finie. Un modèle compartimenté peut saturer plus tôt qu'un modèle cohésif, plafonnant à une perte de validation plus élevée même avec une augmentation des données.

Méthodologie

Pour isoler et étudier la compartimentation, les auteurs proposent une construction expérimentale « pire cas » qui élimine les indices structurels naturels (comme le chevauchement de sous-mots ou la régularité syntaxique) qui encouragent généralement le partage de représentations.

L'Astuce de Tokenisation

Les auteurs créent $c$ présentations distinctes de données statistiquement identiques en modifiant le tokenizer :

La taille de vocabulaire de base $V$ est augmentée d'un facteur $c$ pour créer un vocabulaire joint de $cV$ tokens.
Pour encoder des données dans la présentation $j$ , les identifiants de tokens sont décalés de $jV$.
Cela garantit que le même texte sous-jacent est représenté par des ensembles de tokens complètement disjoints à travers les compartiments, forçant le modèle à apprendre $c$ mappings indépendants à moins qu'il ne découvre une structure partagée.

Configuration Expérimentale

Modèles : Décodeurs de style GPT entraînés sur environ 131 milliards de tokens de FineWeb.
Échelles : Les expériences couvrent six tailles de modèles allant de 1,1 M à environ 1 milliard de paramètres.
Entraînement : Les modèles sont entraînés jusqu'à convergence (sur-entraînés par rapport à l'optimum Chinchilla) pour observer les limites de capacité.
Lignes de Base : Des comparaisons sont faites entre un modèle à compartiment unique ( $c=1$ ) et des modèles compartimentés ( $c \in \{2, \dots, 8\}$ ).

Contributions et Résultats Clés

1. Quantification des Coûts de la Compartimentation

Les auteurs démontrent que la compartimentation impose des coûts significatifs qui augmentent avec le nombre de compartiments ( $c$ ) :

Ralentissement de l'Efficacité Échantillonnaire : À mesure que $c$ augmente, le nombre d'étapes d'entraînement nécessaires pour atteindre une perte de validation spécifique augmente linéairement. Par exemple, à $c=8$ , le modèle nécessite nettement plus d'étapes pour atteindre la même perte que la ligne de base $c=1$ .
Coûts de Capacité : La perte de validation finale plafonne à des valeurs plus élevées à mesure que $c$ augmente, indiquant que le modèle ne peut pas représenter les données aussi efficacement lorsqu'il est forcé de maintenir des représentations disjointes.

2. Existence de Solutions Unifiées

Le papier prouve que l'incapacité à partager la force n'est pas une limitation fondamentale de l'architecture ou des données, mais plutôt un échec du processus d'optimisation (SGD) à trouver des paramètres spécifiques :

Duplication de l'Initialisation : Si le modèle est initialisé en copiant les embeddings du vocabulaire de base à travers tous les $c$ compartiments (plutôt qu'une initialisation aléatoire), il atteint une efficacité échantillonnaire équivalente à la ligne de base $c=1$ .
Duplication Post-hoc des Paramètres : Un modèle entraîné $c=1$ peut être converti en un modèle à $c$ compartiments en dupliquant ses embeddings appris. Après un bref pic initial de perte, le modèle reprend l'entraînement sur le plateau de performance original sans surcoût de capacité.
Implication : Des solutions unifiées existent et sont accessibles, mais l'entraînement standard à partir d'une initialisation aléatoire échoue à les découvrir.

3. Limites des Interventions Standard

Les auteurs testent des stratégies courantes pour encourager le partage de représentations et constatent qu'elles sont souvent insuffisantes ou présentent des transitions de phase :

Données Appariées de « Traduction » : L'introduction de données où le même texte apparaît dans deux compartiments (apparié à une tâche de traduction) ne réduit pas la compartimentation pour de petits $c$ $c$ . Le modèle apprend la tâche de traduction (prédire les tokens dans un compartiment étant donné l'autre) jusqu'à une perte proche de zéro, pourtant les compartiments continuent de se disputer la capacité.
- Transition de Phase : Une réduction de la compartimentation (briser le plateau de perte) ne se produit qu'après le franchissement d'un seuil dépendant de $c$ (par exemple, à $c=8$ avec des ratios de traduction élevés).
- Décroissance des Poids (Weight Decay) : Une décroissance des poids agressive accélère cette transition de phase, déplaçant le seuil vers des valeurs de $c$ plus faibles (par exemple, de $c=8$ à $c=6$ ).
Alignement Contrastif (InfoNCE) : Un objectif auxiliaire visant à aligner les représentations de la couche intermédiaire du même texte à travers les compartiments montre un comportement similaire. Il n'apporte aucun bénéfice mesurable pour $c=2$ , des bénéfices modestes pour $c=4$ , et une récupération significative de la « taxe de compartimentation » pour $c=6$ et $c=8$ .

4. Études de Cas sur des Données Naturelles

Les auteurs appliquent leur cadre à des scénarios réels pour valider le concept :

Entraînement Multilingue : L'entraînement sur des données Wikipédia en anglais et en chinois montre que les petits modèles (<1 milliard de paramètres) présentent une forte compartimentation. La performance d'un modèle multilingue à tokenizer partagé suit de près une ligne de base « compartimentée » (utilisant des tokenizers disjoints), suggérant un faible partage d'information entre présentations lors des premières étapes d'entraînement.
Biographies Synthétiques vs Q&R : Une tâche synthétique présentant des faits soit sous forme de paragraphes biographiques, soit sous forme de paires Question-Réponse, révèle une compétition de capacité destructrice. Lorsqu'entraînés conjointement avec un tokenizer partagé, le modèle performe mal sur les deux formats par rapport à un entraînement sur un seul format. Cependant, lorsque les formats sont compartimentés (tokenizers disjoints), la performance sur le format biographique s'améliore considérablement, indiquant que l'échec de l'entraînement conjoint était dû à une interférence dans les paramètres partagés plutôt qu'à un manque de capacité.

Signification et Revendications

Le papier soutient que l'objectif de modélisation du langage peut seulement unifier de manière incohérente les représentations à travers des présentations distinctes d'un même concept. Les points clés sont :

La Compartimentation est un Phénomène Réel : Les LLM échouent fréquemment à partager la force statistique entre des présentations distinctes (langues, formats, code), entraînant un apprentissage redondant et un gaspillage de capacité.
Échec de l'Optimisation : L'échec à unifier les représentations n'est pas dû à une incapacité architecturale ; des solutions unifiées existent et sont accessibles via des initialisations spécifiques, pourtant l'entraînement SGD standard ne les trouve pas.
Transitions de Phase dans l'Apprentissage : Les interventions telles que les données de traduction ou les pertes contrastives n'améliorent pas linéairement la performance. Au lieu de cela, elles présentent des transitions de phase où l'efficacité n'émerge qu'après le franchissement d'un certain seuil de ratio de données ou de complexité du modèle ( $c$ ).
Implications pour l'Efficacité : Les résultats suggèrent que les paradigmes d'entraînement actuels peuvent être intrinsèquement inefficaces en termes d'échantillons et de capacité lorsqu'ils traitent de données multifacettes, car les modèles peuvent « apprendre les uns des autres » bien moins que supposé.

Les auteurs restent modestes, notant que leurs résultats sont basés sur des modèles à petite échelle et que la compartimentation pourrait diminuer à plus grande échelle, bien que les preuves existantes des modèles de pointe suggèrent que le phénomène persiste. Ils proposent leur construction basée sur le tokenizer comme ligne de base pour mesurer le partage de représentations dans les recherches futures.