💬 NLP

Even GPT-5.2 Can't Count to Five: The Case for Zero-Error Horizons in Trustworthy LLMs

Cet article introduit la métrique de l'Horizon d'Erreur Nulle (ZEH) pour évaluer la portée maximale de raisonnement sans erreur des grands modèles de langage, révélant que même des systèmes de pointe comme GPT-5.2 échouent sur des tâches fondamentales tout en démontrant l'utilité du ZEH pour analyser l'émergence algorithmique et proposer des méthodes de calcul efficaces pour mettre à l'échelle son évaluation.

Auteurs originaux : Ryoma Sato

Publié 2026-01-23

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ryoma Sato

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous engagiez un assistant brillant, surdoué, pour vous aider à gérer une centrale nucléaire, une banque ou à pratiquer la chirurgie. Cet assistant peut écrire du code informatique complexe, expliquer la physique quantique et tenir une conversation sur l'art. Mais il y a un piège : cet assistant échoue parfois à des tâches qu'un enfant de 5 ans pourrait accomplir.

Le document « Even GPT-5.2 Can't Count to Five » introduit une nouvelle façon de tester ces assistants IA appelé Zero-Error Horizon (ZEH) (Horizon de Zéro Erreur). Considérez le ZEH non pas comme une note d'examen, mais comme une « clôture de sécurité ».

Voici la décomposition des conclusions du document en utilisant des analogies simples :

1. Le concept de la « Clôture de Sécurité » (Qu'est-ce que le ZEH ?)

La plupart des gens testent l'IA en lui donnant un mélange de questions faciles et difficiles et en comptant combien elle en réussit (comme une note de 95 %). Les auteurs affirment que cela est dangereux pour les emplois critiques en matière de sécurité. Si une IA réussit 99 % des problèmes de mathématiques, mais échoue sur un seul chiffre spécifique, cet échec unique pourrait provoquer une catastrophe.

Le ZEH est la « clôture » autour de la zone de perfection de l'IA.

À l'intérieur de la clôture : L'IA est garantie d'être 100 % correcte.
À l'extérieur de la clôture : L'IA pourrait commettre une erreur.
La hauteur de la clôture : Si une IA a un ZEH de 10 pour la multiplication, cela signifie qu'elle peut multiplier parfaitement n'importe quels nombres jusqu'à 10. Mais dès qu'on lui demande de multiplier par 11, elle peut échouer.

2. La découverte choquante (Les erreurs « stupides »)

Les auteurs ont testé un modèle très avancé (GPT-5.2) et ont découvert que sa « clôture » était étonnamment basse pour des tâches simples.

Le test de parité : L'IA peut-elle compter si une chaîne de chiffres comme 11000 possède un nombre pair ou impair de 1 ? L'IA a échoué sur cette chaîne de 5 chiffres. Sa clôture était à 4.
Le test des parenthèses : L'IA peut-elle dire si ((((()))))) possède des parenthèses équilibrées ? L'IA a dit « Oui » alors que c'était « Non ».
Le test de mathématiques : L'IA pouvait écrire des simulations de physique complexes mais s'est trompée dans le calcul simple 127 × 82.

L'analogie : Imaginez un chef étoilé capable de créer un repas gastronomique en 10 services, mais qui laisse tomber accidentellement un seul grain de sel au sol en préparant un sandwich. Dans une cuisine normale, on ignorerait ce grain. Dans un réacteur nucléaire ou une banque, ce grain de sel (ou ce mauvais chiffre) pourrait être catastrophique.

3. Pourquoi le ZEH est meilleur qu'un « bulletin de notes »

Le document soutient que les scores de précision standard sont comme choisir un menu à la carte.

Le piège : Un chercheur pourrait dire : « Notre nouvelle IA est géniale ! Elle a réussi 99 % des problèmes de multiplication ! » Mais ils ne testent peut-être que des nombres jusqu'à 20. Si vous testez jusqu'à 100, l'IA pourrait échouer lamentablement.
La solution ZEH : Le ZEH ne vous laisse pas choisir le menu. Il force l'IA à prouver qu'elle peut gérer tout jusqu'à un certain point. Si l'IA échoue sur le nombre 13, la clôture est fixée à 12. Peu importe la « note moyenne » élevée, la clôture vous indique exactement où commence la zone de danger.

4. Comment l'IA « apprend » (Mémorisation vs Compréhension)

Les auteurs ont étudié une famille de modèles (Qwen2.5) de différentes tailles pour voir comment ils s'améliorent.

Petits modèles (Les photocopieurs) : Les petits modèles d'IA reposent sur la mémorisation. Ils ont « vu » la réponse 2 × 2 = 4 dans leurs données d'entraînement. Mais s'ils n'ont pas vu 2 × 3, ils peuvent se tromper. Leur « clôture » est fragile et pleine de trous.
Grands modèles (Les mathématiciens) : À mesure que les modèles deviennent plus grands, ils cessent de simplement mémoriser et commencent à apprendre les règles (algorithmes).
- L'indice : Les auteurs ont découvert que les grands modèles font des erreurs « structurées ». Par exemple, si la réponse est 986, un grand modèle pourrait dire 1006. La différence est exactement de 20. Cela ressemble à une erreur de « retenue » faite par un humain lors d'une multiplication longue.
- Le résultat : Cela prouve que le grand modèle est réellement en train de faire le calcul, et non de simplement deviner. Parce qu'il utilise des règles, sa « clôture de sécurité » (ZEH) croît de manière constante et prévisible.

5. Le coût de la vérification de la clôture

Les auteurs admettent que vérifier cette « clôture » est coûteux. Pour trouver le point exact où l'IA échoue, il faut tester chaque problème en partant de 1, 2, 3... jusqu'à ce qu'elle échoue.

La solution : Ils ont développé un kit d'outils de « accélération » (utilisant des structures d'arbres et une mise en cache intelligente) qui rend ce processus de test jusqu'à 10 fois plus rapide. C'est comme avoir un robot qui peut vérifier chaque marche d'un escalier en quelques secondes au lieu de les monter une par une.

Résumé

Le document soutient que pour les emplois critiques en matière de sécurité (comme la finance ou la médecine), nous ne devrions pas seulement demander : « À quel point cette IA est-elle intelligente ? » Nous devrions demander : « Où se trouve la ligne exacte où cette IA cesse d'être parfaite ? »

Le Zero-Error Horizon est cette ligne. Il révèle que même les IA les plus intelligentes ont des « angles morts » sur des tâches étonnamment simples, et il nous donne une façon mathématique concrète de savoir jusqu'où nous pouvons leur faire confiance avant qu'elles ne commencent à commettre des erreurs.

Résumé Technique : Horizons de l'Erreur Zéro dans les LLM Fiables

1. Énoncé du Problème

Les grands modèles de langage (LLM) sont de plus en plus déployés dans des domaines critiques pour la sécurité tels que la santé, la finance et les systèmes nucléaires. Malgré leurs capacités de raisonnement apparentes, les LLM présentent des « trous » dans leur compétence, commettant des erreurs inexplicables sur des tâches simples (par exemple, calculer $127 \times 82$ , déterminer la parité d'une courte chaîne binaire ou vérifier l'équilibre de parenthèses).

Les métriques d'évaluation actuelles, principalement la précision (accuracy), sont insuffisantes pour les applications critiques pour plusieurs raisons :

Arbitraire de l'échelle : La précision dépend du choix de la plage de problèmes par l'évaluateur (par exemple, tester la multiplication jusqu'à $50 \times 50$ vs $99 \times 99$ ). Un modèle peut paraître très précis sur une plage limitée tout en échouant de manière catastrophique sur des entrées légèrement plus grandes.
Absence de garanties de sécurité : Une précision moyenne élevée n'exclut pas l'existence de « trous » où le modèle échoue. Dans des contextes critiques, une seule erreur peut être fatale.
Saturation : Les benchmarks de taille fixe finissent par saturer à mesure que les modèles s'améliorent, perdant leur capacité à différencier la performance de pointe.

L'article soutient qu'il est nécessaire d'avoir une métrique qui définit une frontière de sécurité garantie plutôt qu'un score de performance moyenne.

2. Méthodologie : Horizon d'Erreur Zéro (ZEH)

Les auteurs proposent l'Horizon d'Erreur Zéro (ZEH - Zero-Error Horizon), une métrique représentant la taille maximale du problème $n$ pour laquelle un modèle peut résoudre toutes les instances sans erreur sous un décodage gourmand déterministe.

Définition

Étant donné un modèle fixe, un type de problème et un prompt :

Soit $B_n$ l'ensemble des problèmes de taille $n$ .
Soit $T_n = \bigcup_{i=1}^n B_i$ l'ensemble de tous les problèmes de taille au plus $n$ .
Soit $C$ l'ensemble des problèmes que le modèle résout correctement.
Le ZEH est défini comme :
$\text{ZEH} = \max \{ n \mid T_n \subseteq C \}$

En substance, un modèle avec un $\text{ZEH} = k$ résout chaque instance de taille $1 $à$ k$ correctement, mais commet au moins une erreur sur une instance de taille $k+1$ . L'instance spécifique de taille $k+1$ où le modèle échoue pour la première fois est appelée Limiteur de ZEH.

Tâches d'Évaluation

Les auteurs évaluent le ZEH sur quatre tâches :

Multiplication : Multiplication d'entiers ( $a \times b$ ), où la taille est définie comme $\max(a, b)$ .
Parité : Déterminer la parité (nombre pair/impair de 1) de chaînes binaires, où la taille est la longueur de la chaîne.
Parenthèses Équilibrées : Déterminer si une chaîne de parenthèses est équilibrée, où la taille est la longueur de la chaîne.
Coloration de Graphe : Trouver le nombre chromatique de graphes simples non orientés, où la taille est le nombre de nœuds.

Optimisation pour l'Efficacité

L'évaluation du ZEH nécessite une vérification exhaustive, ce qui est coûteux en termes de calcul. L'article propose quatre techniques d'accélération :

Teacher Forcing : Au lieu d'un décodage autorégressif, le modèle reçoit la séquence complète (ex: $28 \times 43 = 1204$ ) avec un masque causal pour vérifier la correction jeton par jeton en parallèle.
Look-Ahead (Batching) : Les instances de tailles différentes sont regroupées pour un traitement parallèle afin de maximiser l'utilisation du GPU, plutôt que de traiter taille par taille.
Pré-remplissage de Prompt (Prompt Prefilling) : Les préfixes de prompt communs sont traités une seule fois, et leurs caches Clé-Valeur (KV) sont partagés entre toutes les instances.
FlashTree : Une approche structurée en arbre utilisant un Trie pour partager les caches KV parmi les préfixes communs (ex: $1 \times 1$ , $1 \times 2$ , $1 \times 3$ ). Cela utilise une implémentation de softmax en ligne (inspirée de FlashAttention) pour éviter le goulot d'étranglement du masque d'attention $O(N^2)$ , atteignant une accélération allant jusqu'à 10x par rapport à l'autorégression naïve.

3. Résultats Clés

3.1 Échecs Surprenants des Modèles de Pointe

L'évaluation de GPT-5.2 (un modèle hypothétique dans le contexte de l'article, daté de janvier 2026) révèle des lacunes de capacité significatives :

Parité : ZEH = 4. Le modèle échoue sur la chaîne de 5 caractères 11000.
Parenthèses Équilibrées : ZEH = 10. Le modèle échoue sur la chaîne de 11 caractères ((((()))))).
Multiplication : ZEH = 126. Le modèle échoue sur $127 \times 82$ .
Ces résultats démontrent que même des modèles capables de génération de code complexe (ex: dynamique des fluides) échouent sur des tâches élémentaires d'arithmétique et de logique.

3.2 Analyse de la Famille Qwen2.5

Les auteurs ont analysé la série Qwen2.5 (0.5B à 72B) sur la multiplication :

Corrélation avec la Précision : Bien que le ZEH et la précision augmentent généralement avec la taille du modèle, ils ne sont pas corrélés un pour un. Par exemple, la précision du modèle 72B sur $99 \times 99$ est de 98,6 %, mais son ZEH n'est que de 42.
Mémorisation vs Raisonnement Algorithmique :
- Petits Modèles (0.5B - 3B) : Montrent une forte corrélation entre la fréquence des données d'entraînement (corpus C4) et la précision, suggérant une dépendance à la mémorisation. Leur ZEH est bas et stagnant car la mémorisation est stochastique ; des « trous » aléatoires dans les données d'entraînement empêchent un horizon sans erreur continu.
- Grands Modèles (14B - 72B) : Montrent une corrélation décroissante avec la fréquence d'entraînement, indiquant un passage au raisonnement algorithmique.
Erreurs Structurées : À mesure que les modèles grandissent, les erreurs deviennent plus « structurées ». Pour les grands modèles, la différence entre la réponse prédite et la réponse correcte est souvent un multiple de 10 (ex: prédire 1006 au lieu de 986). Cela suggère que le modèle comprend l'algorithme de multiplication (ex: obtenir le chiffre des unités correctement) mais commet des erreurs d'exécution (ex: erreurs de retenue), plutôt que des hallucinations aléatoires.
Sensibilité à la Retenue (Carry) : L'analyse par régression logistique montre que les modèles plus grands sont plus sensibles aux opérations de « retenue » (où la multiplication des chiffres $\ge 10$ ) que les modèles plus petits. Ce résultat contre-intuitif soutient l'hypothèse que les modèles plus grands tentent d'exécuter des règles arithmétiques plutôt que de récupérer des réponses mémorisées ; ainsi, ils sont susceptibles de la difficulté computationnelle des règles qu'ils tentent d'exécuter.

3.3 Stabilité du Prompt

Le ZEH est relativement robuste aux variations de prompt. Pour les modèles Qwen2.5, l'écart-type du ZEH à travers différentes formulations de prompt est d'environ 3. Cependant, pour les applications critiques, les auteurs recommandent d'utiliser le ZEH le plus bas observé sur plusieurs prompts.

4. Signification et Revendications

L'article affirme que le ZEH offre des avantages distincts par rapport aux métriques de précision traditionnelles pour les LLM fiables :

Garanties de Sécurité et Signaux d'Alerte : Le ZEH fournit une frontière claire : les problèmes à l'intérieur de l'horizon sont « sûrs » (garantis corrects), tandis que ceux au-delà sont « dangereux ». C'est crucial pour les domaines critiques où la performance moyenne est insuffisante.
Preuve Concrète (Limiteurs de ZEH) : Contrairement aux scores de précision abstraits, le ZEH fournit des exemples spécifiques et reproductibles (limiteurs) où le modèle échoue. Cela facilite le débogage et fournit une preuve indéniable des lacunes de capacité.
Métrique Objective : Le ZEH élimine l'« arbitraire de l'échelle » de la précision. L'horizon est déterminé par les capacités intrinsèques du modèle, et non par le choix d'une plage de test par l'évaluateur.
Aperçu de l'Émergence : Le ZEH est un indicateur sensible de la transition de la mémorisation vers le raisonnement algorithmique. La croissance du ZEH est corrélée à la capacité du modèle à exécuter des règles de manière fiable, même si la précision globale plafonne.
Pérennité : Contrairement aux benchmarks fixes qui saturent, le ZEH est ouvert et continue de servir de métrique à mesure que les modèles progressent.

Les auteurs concluent que bien que le ZEH entraîne des coûts de calcul, les techniques d'optimisation proposées (FlashTree, etc.) le rendent réalisable. Ils insistent sur le fait que le ZEH doit être utilisé comme une métrique complémentaire à la précision, particulièrement pour vérifier la fiabilité dans des applications à enjeux élevés.