💬 NLP

Evaluating the relationship between regularity and learnability in recursive numeral systems using Reinforcement Learning

En utilisant l'apprentissage par renforcement, cette étude démontre que la haute régularité des systèmes numériques récursifs humains facilite leur apprentissage à partir de données limitées, suggérant que cette caractéristique structurelle est un facteur clé de leur prévalence translinguistique.

Auteurs originaux : Andrea Silvi, Ponrawee Prasertsom, Jennifer Culbertson, Devdatt Dubhashi, Moa Johansson, Kenny Smith

Publié 2026-04-30

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Andrea Silvi, Ponrawee Prasertsom, Jennifer Culbertson, Devdatt Dubhashi, Moa Johansson, Kenny Smith

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez d'enseigner à un robot à compter. Vous avez deux choix pour le « langage » des nombres que vous lui donnez :

Le langage « régulier » : Comme l'anglais ou le mandarin. Une fois que le robot a appris que « dix » plus « un » fait « onze », et que « dix » plus « deux » fait « douze », il peut facilement deviner le reste. C'est comme un livre de recettes où les instructions sont cohérentes : « Ajoutez une tasse de farine, puis ajoutez un œuf. »
Le langage « irrégulier » : Un système inventé où les règles changent de manière aléatoire. Peut-être que « dix plus un » fait « onze », mais que « dix plus deux » fait « banane », et que « dix plus trois » fait « violet ». Il n'y a aucun motif à réutiliser ; chaque nombre est un nouveau code secret, confus.

Cet article pose une question simple : La raison pour laquelle les humains utilisent des systèmes numériques réguliers (comme l'anglais) est-elle qu'ils sont plus faciles à apprendre ?

Pour le découvrir, les chercheurs n'ont pas interrogé des humains ; ils ont construit un « étudiant » numérique (un agent d'apprentissage par renforcement) et lui ont donné des milliers de systèmes numériques différents à apprendre. Ils ont mesuré la rapidité avec laquelle le robot pouvait maîtriser le système.

Voici ce qu'ils ont découvert, décomposé en concepts simples :

1. Le « test » compte le plus

Les chercheurs ont réalisé que la manière dont ils testaient le robot modifiait les résultats.

Scénario A (Le test « monde réel ») : Ils ont entraîné le robot principalement sur de petits nombres (1–10) car les gens utilisent le plus souvent de petits nombres. Ensuite, ils l'ont testé sur tous les nombres jusqu'à 99, y compris les rares et les grands.
- Le résultat : Le robot a appris les systèmes réguliers beaucoup plus vite. Parce que les règles étaient cohérentes, le robot pouvait prendre ce qu'il avait appris sur les petits nombres et « généraliser » (appliquer la logique) aux grands nombres rares. Les systèmes irréguliers étaient un cauchemar ; le robot devait mémoriser chaque nombre individuellement, à partir de zéro.
- L'analogie : Pensez aux systèmes réguliers comme à un jeu de Lego. Une fois que vous savez comment emboîter deux briques, vous pouvez construire une tour, une voiture ou un château. Les systèmes irréguliers sont comme une boîte de pièces de puzzle uniques et aléatoires où chaque pièce ne s'adapte qu'à un endroit spécifique. Si vous voulez construire une grande structure, le jeu de Lego est beaucoup plus facile à apprendre.
Scénario B (Le test « fréquence ») : Ils ont entraîné et testé le robot en utilisant la même distribution biaisée (principalement de petits nombres, presque jamais de grands).
- Le résultat : Dans ce cas précis, le robot se fichait que le système soit régulier ou non. Puisqu'il était rarement testé sur de grands nombres, il n'avait pas besoin de généraliser. Il mémorisait simplement les petits nombres qu'il voyait souvent.
- La conclusion : La régularité ne vous aide à apprendre que si vous devez être capable de gérer plus tard de nouvelles ou de rares situations.

2. La zone « trop bizarre »

Les chercheurs ont également examiné des systèmes extrêmement chaotiques et irréguliers.

Le résultat : Pour ces systèmes « super bizarres », la régularité ne comptait pas beaucoup. Au lieu de cela, le problème principal était la longueur. Si les mots pour les nombres étaient trop longs et compliqués à dire, le robot avait du mal à les apprendre, indépendamment de l'existence ou non d'un motif.
L'analogie : Si vous essayez de mémoriser une liste de mots aléatoires, cela n'a pas d'importance s'ils riment (réguliers) ou non. Si les mots sont simplement incroyablement longs et difficiles à prononcer, vous les oublierez de toute façon. Mais si les mots sont courts, avoir un schéma de rimes (régularité) les rend beaucoup plus faciles à retenir.

3. Le motif « local »

Les chercheurs ont remarqué qu'un système peut parfois sembler désordonné dans l'ensemble tout en ayant de petites poches d'ordre.

Le résultat : Le robot apprenait mieux lorsque les règles étaient cohérentes localement. Par exemple, si les règles pour les nombres 30–39 étaient cohérentes, même si les règles pour 40–49 étaient différentes, le robot pouvait tout de même bien les apprendre.
L'analogie : Imaginez une ville où chaque rue du « quartier Nord » suit un schéma en grille, mais où le « quartier Sud » est un labyrinthe. Vous pouvez toujours vous déplacer facilement dans la ville si vous restez simplement dans le quartier Nord. Vous n'avez pas besoin que toute la ville soit en grille pour pouvoir vous y retrouver ; vous avez juste besoin de certaine cohérence locale.

La grande conclusion

L'article conclut que les systèmes numériques humains sont probablement réguliers non seulement parce qu'ils sont efficaces à l'oral, mais parce que la régularité les rend plus faciles à apprendre et à transmettre à la génération suivante.

Si le système numérique d'une langue est trop chaotique, il est difficile pour un enfant (ou un robot) de comprendre les règles des grands nombres sans qu'on lui enseigne explicitement chacun d'eux. La régularité agit comme un filet de sécurité, permettant aux apprenants de prendre quelques exemples et de deviner correctement le reste. Cette « pression d'apprentissage » est probablement la raison pour laquelle, à travers le monde, les cultures humaines ont naturellement évolué vers l'utilisation de systèmes numériques réguliers et basés sur des motifs.

1. Énoncé du problème

L'article examine les pressions évolutives et cognitives qui façonnent les systèmes numériques récursifs (par exemple, le système décimal anglais, le mandarin). Bien que les systèmes numériques humains soient hautement réguliers, des systèmes théoriquement possibles peuvent être hautement irréguliers. Des recherches antérieures (par exemple, Prasertsom et al., 2026) suggèrent que les systèmes naturels optimisent un compromis entre taille du lexique et complexité morphosyntaxique, mais ne parviennent pas à rendre compte de la régularité (la réutilisation de la forme).

La question de recherche centrale est : La régularité facilite-t-elle l'apprenabilité ?
Les auteurs émettent l'hypothèse que les systèmes réguliers sont prévalents car ils sont plus faciles à apprendre, spécifiquement lorsque la tâche d'apprentissage nécessite une généralisation à partir de données d'entraînement limitées pour représenter avec précision une large gamme d'entiers. Ils visent à tester cela en utilisant des agents d'apprentissage par renforcement (RL) pour simuler le processus d'apprentissage.

2. Méthodologie

L'étude emploie l'apprentissage par renforcement (RL) à agent unique pour quantifier l'apprenabilité de divers systèmes numériques.

Formulation de la tâche : La tâche est présentée comme un problème de bandit contextuel avec un espace d'actions continu.
- Entrée : Une chaîne numérique (séquence de morphèmes).
- Sortie : Une valeur entière prédite (1–99).
- Architecture de l'agent : Un réseau LSTM à couche unique. Les morphèmes sont intégrés (taille 5), traités séquentiellement, et l'état caché final prédit un scalaire $\mu \in [0, 1]$ . Cela est interprété comme la moyenne d'une politique gaussienne $N(\mu, \sigma)$ .
- Fonction de récompense : Une fonction gaussienne bornée et à décroissance exponentielle basée sur la distance entre l'entier prédit et l'entier cible. Les prédictions en dehors de la plage 1–99 reçoivent une récompense nulle.
- Entraînement : Les agents sont entraînés pendant 30 000 époques en utilisant l'algorithme REINFORCE.
- Métrique : L'apprenabilité est mesurée par la Surface Sous la Courbe (AUC) de la précision de test par rapport aux époques d'entraînement. Une AUC plus élevée indique un apprentissage plus rapide.
Ensembles de données de systèmes : L'étude évalue quatre catégories de systèmes :
1. Systèmes humains : 128 systèmes numériques récursifs attestés.
2. Optimaux D&S : Systèmes artificiellement générés optimisés pour le compromis taille du lexique/complexité (Denić & Szymanik, 2024).
3. Optimaux Y&R : Systèmes artificiels optimisés pour le même compromis mais contraints d'être de type humain (Yang & Regier, 2025).
4. Base aléatoire : 300 systèmes non attestés utilisant des symboles de type humain.
Mesure de la régularité : L'irrégularité est quantifiée par la taille de l'Automate Fini Déterministe (DFA) minimal requis pour générer la grammaire du système. La mesure calcule le nombre de bits nécessaires pour encoder le tableau de transitions du DFA, l'état initial et les états acceptants.
Conditions expérimentales :
- Expérience 1 : Les distributions d'entraînement ( $p(n)$ ) et de test ( $q(n)$ ) suivent une loi de puissance ( $n^{-2}$ ), reflétant la fréquence communicative (forte asymétrie vers les petits nombres).
- Expérience 2 : L'entraînement suit la loi de puissance, mais le test utilise une distribution uniforme ( $q(n) \propto 1/99$ ) pour tester la généralisation à tous les entiers.
- Expérience 3 : Se concentre sur les « voisinages locaux » des systèmes humains (en variant uniquement l'arrangement des morphèmes existants) pour isoler l'effet de la régularité tout en maintenant constantes la taille du lexique et la longueur moyenne.

3. Résultats clés

Expérience 1 (Entraînement et test en loi de puissance) :
- Résultat : Aucune corrélation significative entre régularité et apprenabilité ( $\beta = -0,020$ ).
- Interprétation : Lorsque la distribution de test correspond à la distribution d'entraînement asymétrique (se concentrant sur les petits nombres), les agents peuvent atteindre une haute précision sans avoir besoin de généraliser vers les grands nombres. Ainsi, les avantages structurels de la régularité ne sont pas exploités.
Expérience 2 (Entraînement en loi de puissance, test uniforme) :
- Résultat : Une forte corrélation négative entre irrégularité et apprenabilité ( $\beta = -0,828$ ). Les systèmes de type humain hautement réguliers sont significativement plus faciles à apprendre.
- Interprétation : Lorsque les agents doivent généraliser vers de grands nombres rares (la « longue traîne »), les systèmes réguliers permettent aux agents de réutiliser efficacement les sous-parties apprises (morphèmes/règles). Les systèmes irréguliers échouent à fournir ces motifs réutilisables.
- Régularité locale : L'introduction d'une métrique de « régularité locale » (régularité au sein de plages de nombres consécutifs, par exemple les 30, les 40) a encore amélioré la corrélation, expliquant les valeurs aberrantes comme le français qui possède des bases globales incohérentes mais des plages locales cohérentes.
Expérience 3 (Voisinages locaux) :
- Résultat : Au sein de familles spécifiques de systèmes avec une taille de lexique et une longueur fixes, 21 voisinages sur 30 ont montré une corrélation négative entre irrégularité et apprenabilité.
- Nuance : Pour les systèmes hautement irréguliers (bases aléatoires), la régularité avait peu d'impact sur l'apprenabilité. Au contraire, la complexité morphosyntaxique (longueur) est devenue le facteur dominant ; les formes plus longues étaient plus difficiles à mémoriser, indépendamment de la régularité.

4. Contributions clés

RL comme proxy d'apprenabilité : Démonstration que les agents d'apprentissage par renforcement peuvent modéliser efficacement l'apprenabilité des systèmes linguistiques, capturant spécifiquement le compromis entre régularité et généralisation.
Le rôle de la généralisation : Établissement que le lien entre régularité et apprenabilité est conditionnel. La régularité ne confère un avantage d'apprenabilité que lorsque la tâche d'apprentissage nécessite une généralisation au-delà de la distribution d'entraînement immédiate (c'est-à-dire, des petits nombres fréquents vers de grands nombres rares).
Raffinement des métriques de complexité : Démonstration que l'« irrégularité » n'est pas un prédicteur monolithique de l'apprenabilité. Dans les systèmes hautement irréguliers, la longueur/complexité domine, tandis que dans les systèmes réguliers, la régularité structurelle domine.
Régularité locale vs globale : Introduction du concept de régularité locale (cohérence au sein de plages consécutives) comme facteur critique pour l'apprenabilité, expliquant pourquoi des systèmes à bases mixtes (comme le français) peuvent tout de même être apprenables.

5. Signification et implications

Évolution du langage : Les résultats soutiennent l'hypothèse que la prévalence translinguistique des systèmes numériques réguliers est motivée par des pressions d'apprenabilité, spécifiquement la nécessité de transmettre efficacement les connaissances d'une génération à l'autre pour représenter tous les entiers, et pas seulement les plus fréquemment utilisés.
Modélisation cognitive : L'étude suggère que l'apprentissage humain des numéraux repose probablement sur des mécanismes de généralisation similaires. La divergence avec les expériences humaines précédentes (Holt & Barner, 2025) est attribuée à un manque de pression pour généraliser vers de grands nombres dans ces conceptions expérimentales spécifiques.
Pistes futures : Les auteurs proposent que les routines de comptage (exposition séquentielle) peuvent artificiellement augmenter la fréquence des nombres plus grands dans l'apprentissage humain, facilitant l'extraction de règles générales. Ils suggèrent également que l'apprenabilité est un espace multidimensionnel où différents facteurs de complexité (longueur vs régularité) dominent dans différentes régions de l'espace des hypothèses.

En conclusion, l'article fournit des preuves computationnelles que la régularité est une caractéristique adaptative des systèmes numériques, sélectionnée parce qu'elle permet une généralisation robuste à partir de données limitées vers un ensemble universel d'entiers.