💬 NLP

TokenScope: Token-Level Explainability and Interpretability for Code-Oriented Tasks in Large Language Models

TokenScope est un outil interactif conçu pour améliorer l'explicabilité des grands modèles de langage orientés code en exposant les métriques au niveau du jeton, les motifs d'attention et les informations structurelles pendant la génération, permettant ainsi une investigation systématique grâce à des fonctionnalités telles que le remplacement interactif de jetons et la ramification contrefactuelle.

Auteurs originaux : Amirreza Esmaeili, Fatemeh Fard

Publié 2026-07-03

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Amirreza Esmaeili, Fatemeh Fard

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous regardez un chef étoilé (l'IA) préparer un plat complexe (le code) en temps réel. Habituellement, vous ne voyez que l'assiette finale. Si le plat est mauvais, vous n'avez aucune idée de pourquoi le chef a ajouté trop de sel à l'étape 4 ou pourquoi il a choisi une épice spécifique à l'étape 10. Vous savez simplement que le résultat est raté.

TokenScope est comme une paire de lunettes magiques qui vous permet de regarder tout le processus de réflexion du chef, étape par étape, pendant qu'il cuisine. Il ne se contente pas de vous montrer le plat final ; il vous montre sa confiance, son hésitation et les autres ingrédients qu'il a envisagés mais qu'il a finalement écartés.

Voici une décomposition de ce que le papier prétend que TokenScope fait, en utilisant des analogies simples :

1. La « Vision Rayons X » pour les pensées de l'IA

La plupart des outils pour comprendre l'IA sont comme regarder la photo d'un plat fini ou lire un livre de recettes écrit après coup. Ils vous disent ce qui s'est passé, mais pas comment le chef se sentait en le faisant.

TokenScope est différent. Il agit comme un flux vidéo en direct du cerveau du chef. Pendant que l'IA écrit du code, TokenScope vous montre :

La Confiance : À quel point le chef est sûr du mot suivant (le token). Si le chef devine, le système le met en évidence en rouge (faible confiance). S'il est certain, en vert.
Les « Et si » : Il vous montre les 5 meilleurs ingrédients auxquels le chef pensait mais qu'il n'a pas choisis.
L'Attention : Il montre quels mots précédents le chef regarde en arrière pour décider du suivant. C'est comme voir les yeux du chef revenir vers un ingrédient spécifique sur le plan de travail pour se souvenir d'une règle.

2. Le livre dont « Vous êtes le héros »

L'une des fonctionnalités les plus cool est le Branchement Interactif.
Imaginez que vous lisez une histoire où le héros fait un mauvais choix. Avec TokenScope, vous pouvez arrêter l'histoire juste là, dire : « Attendez, et si le héros avait pris l'épée au lieu du bouclier ? » et regarder l'histoire continuer à partir de ce nouveau point.

Dans le papier, cela signifie :

Vous pouvez prendre un morceau de code que l'IA vient d'écrire.
Vous pouvez remplacer un mot spécifique (token) par un autre.
Vous pouvez appuyer sur « continuer », et l'IA générera le reste du code basé sur votre modification.
Cela aide à voir comment une petite erreur (ou une petite correction) change tout le résultat.

3. Organiser le chaos avec des « Blocs Lego »

Le code n'est pas juste une suite aléatoire de lettres ; il possède une structure (comme des boucles, des fonctions et des instructions). TokenScope utilise un outil appelé Tree-Sitter pour agir comme un organisateur intelligent.

Il prend le flux de mots que l'IA recrache et les emboîte comme des blocs Lego (AST ou arbres de syntaxe abstraite).

Mode Token : Regarder les briques individuelles.
Mode Expression : Regarder un petit groupe de briques (comme une équation mathématique).
Mode Statement : Regarder une ligne entière de briques (comme une phrase complète).
Mode Block : Regarder un mur entier (comme une fonction ou une boucle).

Cela vous permet de voir si l'IA est confuse spécifiquement à l'intérieur d'une « fonction » ou juste sur une seule « ligne ». Cela aide à trouver exactement où l'intégrité structurelle du code est faible.

4. Le « Tableau de bord » des mesures

Le papier décrit plusieurs jauges spécifiques sur ce tableau de bord :

Surprisal (Surprise) : À quel point l'IA est choquée par son propre choix. Si l'IA choisit un mot qu'elle n'attendait pas, ce chiffre augmente.
Entropie : À quel point l'esprit de l'IA est désordonné. Une entropie élevée signifie que l'IA est partagée entre de nombreuses options ; une entropie faible signifie qu'elle est très décisive.
Masse d'Attention : Quel « poids mental » un mot spécifique porte pour le reste du code. Le mot « return » a-t-il influencé les 50 lignes suivantes ? TokenScope peut vous montrer cette connexion.

Ce que TokenScope N'EST PAS (selon le papier)

Les auteurs sont très clairs sur les limites :

Ce n'est pas un correcteur magique : C'est un outil pour l'étudier et pour le débogage, pas pour faire tourner un site web en production. Il est trop lent pour une utilisation en temps réel car il effectue énormément d'analyses supplémentaires.
Ce n'est pas pour toutes les IA : Cela ne fonctionne que sur les modèles où vous pouvez voir les « engrenages internes » (probabilités de tokens et poids d'attention). Vous ne pouvez pas utiliser TokenScope sur des systèmes d'IA fermés dont les rouages internes sont cachés.
C'est principalement pour Python pour l'instant : L'organisateur de « blocs Lego » ne comprend actuellement bien que le code Python.

L'essentiel

TokenScope est un nouveau microscope pour les ingénieurs logiciels et les chercheurs. Au lieu de deviner pourquoi une IA a écrit un mauvais code, il vous permet de regarder l'IA réfléchir, de changer d'avis en plein milieu du processus, et de voir exactement quelle partie de la structure du code cause la confusion. Il transforme la « boîte noire » de la génération par IA en un atelier transparent et interactif.

Résumé Technique : TokenScope

Énoncé du Problème

Comprendre les processus de prise de décision des modèles de langage de grande taille (LLM) lors de la génération de code reste un défi majeur. Bien que les outils d'interprétabilité existants offrent des aperçus des composants internes des modèles ou une évaluation post-hoc, ils souffrent de limitations critiques :

Absence de signaux au moment du décodage : Ils exposent rarement des mesures d'incertitude en temps réel, des candidats de jetons alternatifs ou des marges de décision pendant le processus de génération.
Problèmes de granularité : Ils traitent souvent la génération comme un résultat unique plutôt que comme une séquence de décisions interdépendantes au niveau des jetons (tokens).
Déconnexion de la structure du code : Ils manquent généralement de mécanismes pour aligner les signaux internes du modèle (comme l'attention) avec la sémantique structurelle du code (par exemple, les arbres de syntaxe abstraite - AST).
Nature statique : La plupart des outils nécessitent une analyse hors ligne et une expertise substantielle, empêchant l'exploration interactive de contre-factuels ou de modes de défaillance.

Par conséquent, les chercheurs et les praticiens manquent d'infrastructures pour étudier systématiquement l'endroit où l'incertitude apparaît, comment l'attention se déplace au fil du temps, et comment les décisions locales au niveau des jetons se propagent en erreurs structurelles dans le code généré.

Méthodologie

Les auteurs présentent TokenScope, un environnement d'interprétabilité et d'analyse interactif conçu spécifiquement pour les LLM basés sur des décodeurs dans des tâches orientées code. Le système repose sur une architecture modulaire à trois composants :

Serveur de Génération : Gère la découverte, le chargement des modèles et le décodage de bas niveau. Il expose des modèles de type "decoder-only" compatibles avec Hugging Face via une API de génération minimale.
Serveur d'Orchestration : Coordonne les requêtes de génération, gère les sessions utilisateur, gère les états de branchement, calcule les métriques et sert les API destinées au frontend.
Frontend Web (React) : Fournit des visualisations et des contrôles interactifs pour explorer le comportement du modèle.

Mécanismes Fondamentaux

Instrumentation au moment du décodage : TokenScope instrumente le processus de décodage pour capturer des signaux fins à chaque étape de génération, incluant les probabilités des jetons, les candidats alternatifs, les poids d'attention et les métriques d'incertitude dérivées. Ceux-ci sont transmis au frontend par flux (streaming).
Branchement Interactif : Les utilisateurs peuvent remplacer n'importe quel jeton généré par un candidat alternatif ou un texte personnalisé et poursuivre la génération à partir du préfixe modifié. Le système maintient une structure de branchement pour enregistrer les préfixes partagés et les continuations divergentes, permettant l'exploration de sorties contre-factuelles.
Analyse Structurelle Sensible au Code : En utilisant des parseurs Tree-Sitter, TokenScope mappe les jetons générés aux nœuds de l'arbre de syntaxe abstraite (AST) (ex: expressions, instructions, fonctions). Cela permet d'agréger les métriques de niveau jeton et les signaux d'attention sur des unités structurelles sémantiquement significatives.

Métriques et Définitions

TokenScope expose une suite de métriques quantitatives définies comme suit :

Probabilité du Jeton (Confiance) : La probabilité $p_t(y_t)$ assignée au jeton généré.
Surprisal du Jeton : Défini comme $-log p_t(y_t)$ , mesurant le caractère inattendu d'un jeton compte tenu du contexte.
Marge de Confiance : La différence entre la probabilité du jeton le plus probable et celle du second plus probable, reflétant la décisivité locale.
Entropie : Quantifie l'incertitude sur la distribution des candidats ( $H_t = -\sum p_t(v) log p_t(v)$ ).
Perplexité de la Séquence : Quantifie l'imprévisibilité moyenne de la séquence complète générée.
Masse d'Attention : Mesure à quel point un jeton spécifique continue d'influencer les décisions de décodage ultérieures, calculée comme la moyenne de l'attention reçue de tous les jetons suivants à travers les têtes d'attention.

Principales Contributions

L'article expose quatre contributions principales :

L'outil TokenScope : Un environnement interactif qui expose les signaux de décodage au niveau des jetons pour les modèles Transformer, se concentrant spécifiquement sur la génération de code.
Métriques Intégrées et Branchement : Support pour les métriques d'incertitude au niveau du jeton, la saillance de l'attention, et le branchement interactif pour la génération contre-factuelle.
Analyse Sensible au Code : La capacité d'aligner les signaux de niveau jeton avec les entités AST à plusieurs niveaux de granularité (modes Token, Expression, Statement, Line, et Block).
Environnement Unifié : Un système qui combine l'explicabilité, l'interprétabilité et l'exploration pilotée par l'utilisateur, répondant aux limites des outils se concentrant uniquement sur l'analyse post-hoc ou les signaux internes isolés.

Résultats et Capacités

L'article démontre les capacités de TokenScope via des visualisations et des descriptions fonctionnelles plutôt que par un benchmarking quantitatif par rapport à d'autres outils. Les capacités clés démontrées incluent :

Visualisation de l'Incertitude : Affichage des scores de confiance, de l'entropie et du surprisal sous forme de jetons colorés et de graphiques de métriques (ex: visualisation de la génération de la fonction sort).
Visualisation de l'Attention : Affichage de la masse d'attention par tête et de la moyenne entre les têtes pour révéler les dépendances à longue portée.
Exploration Contre-factuelle : Permettre aux utilisateurs de remplacer un jeton (ex: changer return en print) et d'observer comment la génération diverge du chemin original.
Agrégation Structurelle : Montrer comment les métriques peuvent être agrégées du niveau jeton vers le niveau bloc (ex: corps de fonction ou boucles) pour identifier les régions structurellement fragiles.

Signification et Revendications

Les auteurs positionnent TokenScope comme un environnement pratique pour le débogage, l'audit et la compréhension du code généré par les LLM au-delà de l'inspection post-hoc. Sa signification réside dans :

Investigation Systématique : Permettre l'étude de l'origine de l'incertitude lors de la génération et de la manière dont les décisions locales se propagent en erreurs structurelles.
Combler le fossé : Unifier les signaux de décodage avec l'analyse de programmes structurelle, ce qui est crucial pour les tâches de code où de petites déviations de jetons peuvent entraîner des échecs syntaxiques ou sémantiques.
Accessibilité : Fournir une interface qui ne nécessite pas l'expertise technique profonde souvent requise par les cadres d'interprétabilité mécaniste, rendant l'analyse au niveau du jeton accessible tant aux chercheurs qu'aux praticiens.

L'article reconnaît des limites, notant qu'il cible actuellement les modèles "decoder-only" avec des probabilités accessibles (excluant les API fermées), repose sur des parseurs Tree-Sitter (actuellement limités à Python), et est conçu comme un outil d'analyse plutôt que comme un système d'inférence de haute performance en production en raison de la surcharge liée à l'extraction de signaux fins. Le code source est rendu ouvert pour faciliter des études ultérieures.