🤖 machine learning

Explaining and Tuning Transformer-based LLMs in Arithmetic Tasks with Human Strategies

Cet article démontre que les grands modèles de langage basés sur l'architecture transformer peuvent atteindre des performances arithmétiques améliorées en adoptant des stratégies d'apprentissage semblables à celles de l'humain, telles que la décomposition de tâches et l'autonomisation cognitive, suggérant ainsi des processus cognitifs partagés entre les LLM et les apprenants humains tout en renforçant la fiabilité des modèles grâce à la vérification par l'IA explicable.

Auteurs originaux : Luyu Qiu, Jianing Li, Hwanhee Kim, Xiaoyong Wei, Yueyuan Zheng, Janet Hsiao, Lei Chen

Publié 2026-07-21

📖 8 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Luyu Qiu, Jianing Li, Hwanhee Kim, Xiaoyong Wei, Yueyuan Zheng, Janet Hsiao, Lei Chen

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Robot Intelligent et le Problème de Mathématiques

Imaginez un monde où les ordinateurs ont appris à lire presque tous les livres, sites web et conversations jamais écrits. Ce sont les Grands Modèles de Langage (LLM), et ils sont comme des robots super intelligents capables d'écrire des histoires, de répondre à des questions et de discuter avec vous. Ils sont construits sur une architecture spéciale appelée « Transformer », qui agit comme un immense projecteur, aidant le robot à prêter attention aux mots les plus importants d'une phrase en même temps. Vous pourriez penser qu'un robot qui connaît tant de choses sur le langage serait également excellent en mathématiques. Mais voici le revers de la médaille : bien que ces robots soient des sorciers avec les mots, ils trébuchent souvent sur des problèmes de mathématiques simples, comme additionner deux nombres ensemble. C'est comme une personne qui peut écrire un poème magnifique mais qui ne sait pas calculer la monnaie qu'elle doit recevoir dans un magasin. C'est un problème majeur car si nous voulons confier à ces robots des tâches importantes — comme aider les médecins ou gérer de l'argent — nous devons savoir s'ils peuvent accomplir les bases correctement. Les scientifiques essaient de comprendre pourquoi ces robots intelligents échouent face à des mathématiques simples et, plus important encore, comment leur apprendre à s'améliorer.

L'Histoire de l'Article : Enseigner aux Robots à Penser comme les Humains

Dans cette étude, les chercheurs ont décidé de traiter le problème mathématique comme un mystère à résoudre. Ils n'ont pas simplement injecté plus de données dans le robot en espérant que cela fonctionne. Au lieu de cela, ils ont posé une question fascinante : Ces robots d'IA apprennent-ils les mathématiques de la même manière que les humains ?

Pour le découvrir, ils ont pris un modèle Transformer « vanilla » standard (une version de base de l'IA) et lui ont appris à effectuer l'arithmétique entière — l'addition, la multiplication et la division de nombres entiers. Ils ont découvert que l'IA ne faisait pas que deviner ; elle apprenait réellement, mais elle luttait avec l'ordre des opérations et la complexité des étapes.

La Décomposition en « Legos »
Les chercheurs ont réalisé que, tout comme les humains décomposent un gros problème mathématique effrayant en étapes plus petites et plus faciles, l'IA devait faire de même. Ils ont décomposé les tâches en de minuscules « sous-tâches ».

Pour l'Addition : Imaginez l'addition de deux longs nombres. Vous ne regardez pas l'ensemble d'un coup ; vous additionnez les derniers chiffres, puis les suivants, en reportant les chiffres « supplémentaires » (comme un 1 retenu) sur la colonne suivante. Les chercheurs ont découvert que l'IA apprenait très vite les parties faciles (additionner les derniers chiffres), mais qu'elle se confondait lorsqu'elle devait se souvenir et utiliser ces chiffres « reportés » pour les étapes suivantes. C'est comme apprendre à marcher avant de savoir courir.
Pour la Multiplication : C'est encore plus délicat. Quand on multiplie de grands nombres, il faut effectuer plusieurs petites multiplications, puis les additionner toutes. L'article a montré que l'IA essayait de tout faire en mêmes temps et se sentait submergée. Cependant, lorsque les chercheurs ont appris à l'IA à écrire la réponse en ordre inverse (en commençant par le dernier chiffre et en remontant vers l'arrière, comme les humains le font souvent sur papier), les performances de l'IA se sont considérablement améliorées pour les tâches simples de multiplication à un seul chiffre. Mais attention : pour la multiplication complexe à plusieurs chiffres, inverser les chiffres ne suffisait pas à régler le problème ; l'IA luttait toujours car les étapes intermédiaires étaient trop difficiles pour un modèle à une seule couche.

Les Astuces « Humaines »
La partie la plus passionnante de l'article est que les chercheurs ont testé des stratégies utilisées par les enseignants humains pour aider les élèves, et elles ont aussi fonctionné sur l'IA !

La Chaîne de Pensée (Chain of Thought - CoT) : Au lieu de demander à l'IA : « Combien font 57257 fois 51422 ? » et d'attendre une réponse magique, ils lui ont demandé de montrer son travail étape par étape. Ils ont dit à l'IA de décomposer la grande multiplication en multiplications plus petites et plus faciles. C'est exactement ce qu'un enseignant humain dit à un élève : « Ne panique pas ; fais juste une étape à la fois. » Lorsque l'IA utilisait la CoT combinée à l'inversion des chiffres de la réponse, sa précision bondissait de manière significative (atteignant environ 79 %). Pour atteindre des scores proches de la perfection, les chercheurs ont trouvé qu'il fallait combiner la CoT avec l'inversion des chiffres de la réponse et rendre le modèle plus « profond ».
Inverser la Sortie : Comme mentionné, pour la multiplication, écrire la réponse à l'envers (en commençant par les unités) aidait l'IA à se concentrer sur les bons chiffres, mais cette astuce a ses limites. Cela fonctionnait bien pour les tâches simples, mais n'était pas suffisant à lui seul pour la multiplication complexe à plusieurs chiffres. Curieusement, pour la division, inverser les chiffres rendait les choses pires. Cela s'explique par le fait que les calculs de division commencent naturellement par les chiffres d'ordre supérieur (les grands nombres à gauche), ce qui correspond à l'expérience humaine. Essayer d'inverser l'ordre pour la division a embrouillé le modèle.
Modèles Plus Profonds : Ils ont également découvert que rendre l'IA plus « profonde » (ajouter plus de couches de réflexion) l'aidait à gérer les étapes intermédiaires complexes de la division et le gros du travail de la multiplication. Cela donnait au modèle la « puissance cérébrale » supplémentaire nécessaire pour suivre les résultats intermédiaires sans perdre le fil.

Ce qu'ils ont trouvé (et ce qu'ils n'ont pas trouvé)
Les chercheurs ne se sont pas contentés de dire « ça marche » ; ils ont regardé à l'intérieur du cerveau du robot pour voir comment cela fonctionnait. Ils ont utilisé une technique appelée « visualisation » pour observer quelles parties du mécanisme d'attention de l'IA s'allumaient. Ils ont vu que l'IA possédait des « têtes d'attention » spécifiques (des petits travailleurs internes) qui apprenaient des tâches précises, comme « Multiplication de Base » ou « Création de Retenue ».

La Bonne Nouvelle : L'IA peut apprendre ces schémas. Lorsqu'on lui donne la bonne structure (comme la décomposition des tâches, l'utilisation de la CoT, l'inversion des chiffres quand c'est approprié, et l'ajustement de la profondeur du modèle), elle réussit presque parfaitement.
La Mauvaise Nouvelle : Sans ces stratégies humaines, l'IA est en difficulté. Par exemple, sur une tâche de multiplication standard à 5 chiffres, une IA de base pourrait ne réussir que 13 % des cas. Mais avec les astuces « humaines » combinées, elle atteint 100 %.
Le « Pourquoi » : L'article suggère que l'échec de l'IA n'est pas dû au fait qu'elle est « stupide », mais parce qu'elle essaie de résoudre le problème d'une manière qui ne correspond pas à la structure des mathématiques. C'est comme essayer de conduire une voiture en la poussant par l'arrière au lieu d'utiliser le volant. De plus, la « bonne » façon de conduire dépend de la voiture : pour la multiplication, vous voulez peut-être aller en arrière, mais pour la division, vous devez aller vers l'avant.

La Vue d'Ensemble
Cet article suggère que les modèles d'IA basés sur les Transformers partagent certains schémas d'apprentissage avec les élèves humains. Tous deux apprennent d'abord des choses simples, puis les combinent pour résoudre des problèmes plus difficiles. En utilisant des techniques d'« Intelligence Artificielle Explicable » (XAI), les chercheurs ont pu voir exactement où l'IA bloquait et corriger le tir.

L'étude conclut que, bien que les modèles d'IA actuels soient incroyables pour le langage, ils ont besoin d'un petit coup de pouce pour les mathématiques. Mais la bonne nouvelle est que nous n'avons pas besoin d'inventer un nouveau type de robot ; nous devons simplement leur apprendre à penser comme nous. En utilisant des stratégies telles que la décomposition des problèmes, le fait de montrer notre travail et l'organisation de nos pensées (tout en sachant quand inverser l'ordre et quand ne pas le faire), nous pouvons rendre ces modèles d'IA beaucoup plus fiables. C'est une étape majeure pour rendre l'IA sûre et digne de confiance, surtout pour les tâches importantes où l'exactitude mathématique fait la différence entre le succès et l'échec. L'article ne prétend pas avoir résolu tous les problèmes mathématiques de l'univers, mais il a tracé une voie claire : si nous traitons l'IA comme un élève qui a besoin d'un bon professeur, elle peut apprendre à faire les mathématiques dont nous avons besoin.

Résumé technique : Explication et ajustement des LLM basés sur les Transformers dans les tâches arithmétiques avec des stratégies humaines

1. Énoncé du problème

Malgré l'obtention de performances de pointe dans les tâches complexes de traitement du langage naturel (NLP), les grands modèles de langage (LLM) basés sur les Transformers présentent des lacunes significatives dans les tâches arithmétiques élémentaires, telles que les calculs d'entiers de base. Cette divergence soulève des préoccupations concernant la fiabilité et la sécurité des modèles. Contra�то contrairement aux tâches typiques de NLP qui permettent diverses sorties valides, les problèmes arithmétiques possèdent une réponse unique et définitive où chaque chiffre est critique. De plus, les opérations arithmétiques nécessitent souvent un traitement à partir du chiffre le moins significatif (par exemple, dans la multiplication) ou impliquent des étapes intermédiaires complexes (par exemple, les retenues et les restes) qui diffèrent du traitement standard de gauche à droite du langage naturel. Les méthodes actuelles d'IA explicable (XAI) traitent souvent les Transformers comme des boîtes noires ou se concentrent sur des instances de tâches spécifiques, échouant à capturer les corrélations intrinsèques et les mécanismes internes requis pour un calcul arithmétique systématique.

2. Méthodologie

Les auteurs proposent un cadre d'analyse de problème complet fondé sur les sciences cognitives et la psychologie de l'éducation pour inspecter, expliquer et améliorer la performance des Transformers sur l'arithmétique des entiers. La méthodologie se compose de trois composantes principales :

2.1 Cadre d'analyse de problème complet

Le cadre décompose le processus d'apprentissage en trois étapes :

Décomposition en sous-tâches : Les tâches arithmétiques sont décomposées en sous-tâches bien définies (ex. : Addition de base, Création de retenue, Utilisation de retenue) pour identifier les composants spécifiques qui posent problème au modèle.
Analyse de la courbe d'apprentissage : Les auteurs analysent les courbes de perte d'entraînement par chiffre pour observer la vitesse d'apprentissage de chiffres de sortie spécifiques et de sous-tâches, en les comparant aux schémas d'apprentissage humains (ex. : apprentissage plus rapide sur des sous-tâches plus simples).
Visualisation du modèle : Les cartes d'attention sont visualisées pour déterminer comment des têtes d'attention spécifiques contribuent à différentes sous-tâches et si les mécanismes internes du modèle s'alignent sur le fonctionnement spécialisé humain.

2.2 Transfert de stratégie et de capacité humaine

S'appuyant sur la psychologie de l'éducation, l'étude teste si des stratégies efficaces pour les apprenants humains améliorent la performance des LLM :

Stratégies de calcul : Reformuler les règles arithmétiques pour correspondre au traitement du modèle, comme inverser l'ordre des chiffres de la réponse (traitement du moins significatif vers le plus significatif) pour s'aligner sur la capacité du mécanisme d'auto-attention à gérer les dépendances.
Chaîne de pensée (Chain of Thought - CoT) : Décomposer des opérations multi-chiffres complexes en une séquence d'étapes intermédiaires plus simples (ex. : décomposer une multiplication $m \times m$ en étapes $m \times u$ ).
Autonomisation cognitive : Augmenter la profondeur du modèle (nombre de couches) pour améliorer la capacité de la mémoire de travail et gérer les résultats intermédiaires complexes.

2.3 Configuration expérimentale

L'étude utilise un Transformer à couche unique de type décodeur seul (avec auto-attention multi-têtes et couches Feed-Forward) entraîné sur l'addition, la multiplication et la division d'entiers. L'entrée consiste en des opérandes et des opérateurs, et le modèle prédit les chiffres de la réponse de manière autorégressive. Les expériences incluent des études d'ablation sur les têtes d'attention, la variation du nombre de chiffres (1 à 15), et le test de différents formats de données (ordinal vs inversé, avec ou sans CoT).

3. Principaux résultats et conclusions

3.1 Schémas d'apprentissage et spécialisation des sous-tâches

Apprentissage de type humain : Les LLM présentent des schémas d'apprentissage similaires aux humains, convergeant plus rapidement sur des sous-tâches plus simples (ex. : calculer le chiffre le moins significatif sans retenue) et plus lentement sur les plus complexes nécessitant des dépendances en cascade.
Spécialisation des têtes d'attention : La visualisation révèle que des têtes d'attention distinctes se spécialisent dans des sous-tâches spécifiques. Par exemple, dans l'addition, une tête peut gérer l'« Addition de base » tandis qu'une autre gère l'« Utilisation de la retenue ».
Saturation du nombre de têtes : La performance s'améliore considérablement à mesure que le nombre de têtes d'attention augmente, atteignant une saturation à trois têtes. Avec moins de trois têtes, plusieurs tâches sont forcées dans une seule tête, provoquant de la confusion et une précision moindre. Avec trois têtes ou plus, la séparation des tâches est claire.

3.2 Impact du format de données et des stratégies

Chiffres inversés : Inverser l'ordre des chiffres (traitement à partir du chiffre le moins significatif) améliore considérablement les performances dans les tâches de multiplication, permettant au modèle d'exploiter les chiffres précédemment générés pour les calculs actuels. Cependant, cette stratégie est moins efficace ou préjudiciable pour la division, qui procède naturellement du chiffre le plus significatif.
Chaîne de pensée (CoT) : Le prompting par CoT décompose efficacement les multiplications $m \times m$ et les divisions $m \div m$ complexes en étapes plus simples, réduisant drastiquement la difficulté de prédiction et améliorant la précision.
Profondeur du modèle : Augmenter le nombre de couches améliore la capacité du modèle à gérer les restes intermédiaires et les dépendances complexes, particulièrement dans les tâches de division où les modèles à une seule couche peinent.

3.3 Améliorations quantitatives

Multiplication : Les Transformers classiques peinent avec la multiplication multi-chiffres (ex. : chutant à environ 13 % de précision pour une multiplication à 4 chiffres). En combinant les formats de chiffres inversés, l'augmentation de la profondeur et la CoT, la précision atteint près de 100 %.
Division : Des améliorations similaires sont observées, la CoT et l'augmentation de la profondeur traitant l'accumulation d'erreurs dans les calculs de reste.
Études d'ablation : Le retrait de têtes d'attention spécifiques (ex. : la Tête 2 dans la multiplication) provoque une augmentation significative de la perte, confirmant le rôle critique de têtes spécifiques dans des sous-tâches précises (ex. : Multiplication de base).

4. Contributions clés

Cadre d'analyse de problème : L'article propose un nouveau cadre combinant la décomposition en sous-tâches, l'analyse de la courbe d'apprentissage et la visualisation pour expliquer comment les LLM basés sur les Transformers gèrent l'arithmétique, allant au-delà de l'évaluation de boîte noire.
Amélioration de la performance via les stratégies humaines : Les auteurs démontrent que l'application de stratégies cognitives humaines (traitement inversé, CoT) et d'améliorations de capacité (augmentation de la profondeur) améliore considérablement la précision arithmétique, suggérant un processus cognitif partagé entre les LLM et les apprenants humains.
Interprétabilité et compréhension des mécanismes : Ce travail fournit une explication visuelle détaillée des mécanismes internes des Transformers dans l'arithmétique, identifiant les têtes d'attention spécifiques responsables de distinctes sous-tâches et validant ces découvertes par des études d'ablation.

5. Signification et affirmations

L'article affirme que les LLM basés sur les Transformers partagent des processus cognitifs avec les apprenants humains en arithmétique, spécifiquement dans la manière dont ils décomposent les tâches et apprennent les sous-tâches de manière séquentielle. En exploitant les vérifications de l'IA explicable (XAI), les auteurs soutiennent que la compréhension de ces mécanismes internes est cruciale pour améliorer la fiabilité des modèles.

La signification de ce travail réside dans son potentiel à favoriser la confiance envers les LLM pour des applications critiques et à enjeux élevés. En démontant que les écarts de performance en arithmétique ne sont pas des limitations inhérentes à l'architecture mais plutôt des questions de format de données, de décomposition de tâches et de capacité, l'article offre une voie pour ajuster les modèles vers une fiabilité accrue. Les conclusions contribuent aux domaines plus larges de la compréhension et de l'interprétabilité des modèles, fournissant une base pour analyser des tâches et des architectures plus complexes. Les auteurs positionnent modestement ce travail comme une exploration des similitudes entre les apprenants humains et les LLM, soutenue par des preuves empiriques, plutôt que comme une preuve définitive de conscience humaine.