🤖 machine learning

Concept-Centric Token Interpretation for Vector-Quantized Generative Models

Ce papier présente CORTEX, une nouvelle méthode pour interpréter les modèles génératifs vectoriels quantifiés en identifiant les combinaisons de tokens spécifiques à un concept, améliorant ainsi la transparence du modèle et permettant des applications telles que l'édition d'images ciblée.

Auteurs originaux : Tianze Yang, Yucheng Shi, Mengnan Du, Xuansheng Wu, Qiaoyu Tan, Jin Sun, Ninghao Liu

Publié 2026-04-07

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Tianze Yang, Yucheng Shi, Mengnan Du, Xuansheng Wu, Qiaoyu Tan, Jin Sun, Ninghao Liu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un robot artiste très talentueux, capable de peindre n'importe quel tableau en quelques secondes. Ce robot, qu'on appelle un modèle génératif, ne peint pas avec des pinceaux et de la peinture liquide, mais avec une immense boîte de LEGO (ou des pièces de puzzle) numériques.

Dans le monde de l'intelligence artificielle, cette boîte de LEGO s'appelle un codebook. Chaque pièce de LEGO est un "token" (un petit morceau d'information) qui représente une partie d'une image : un œil, une plume, une couleur de peau, un fond de ciel, etc.

Le problème ? Personne ne sait exactement quelles pièces de LEGO le robot utilise pour dessiner un "docteur" ou un "chien". Il mélange tout dans sa tête, et parfois, il fait des erreurs ou des choix biaisés (par exemple, il dessine toujours des docteurs blancs, même si on lui demande juste "un docteur").

C'est là qu'intervient ce nouveau papier de recherche, baptisé CORTEX.

🕵️‍♂️ CORTEX : Le Détective des Pièces de LEGO

L'équipe derrière CORTEX a créé un outil pour comprendre quelles pièces de LEGO sont vraiment importantes pour dessiner un concept précis. Ils utilisent deux méthodes principales, comme un détective qui travaillerait à deux niveaux :

1. Le niveau "Photo par Photo" (Sample-level)

Imaginez que vous avez une photo dessinée par le robot. CORTEX regarde cette photo et dit : "Attends, pour que ce docteur ressemble à un docteur, il faut absolument ces 5 pièces de LEGO spécifiques (les yeux, la blouse, le stéthoscope). Si on enlève ces pièces, le robot ne comprend plus qu'il s'agit d'un docteur."

C'est comme si vous regardiez un puzzle et que vous disiez : "Si j'enlève cette pièce rouge, le visage ne ressemble plus à personne. Donc, cette pièce est cruciale."

2. Le niveau "La Boîte Complète" (Codebook-level)

Ici, le détective ne regarde pas une photo, mais toute la boîte de LEGO. Il se demande : "Quelles sont les pièces magiques qui, si on les assemble, créent toujours un 'oiseau bleu' ?"

Pour faire cela, ils utilisent un moteur d'information (un peu comme un traducteur inversé). Au lieu de dire "Voici une image, devine ce que c'est", ils disent "Voici un concept (ex: 'oiseau bleu'), quelles pièces de LEGO faut-il utiliser ?". Cela les aide à filtrer le bruit (le ciel, l'herbe) pour ne garder que l'essentiel (le bec, les plumes).

🎨 À quoi ça sert ? (Les applications magiques)

Grâce à cette compréhension, CORTEX ouvre deux portes incroyables :

1. Chasser les préjugés (Bias Detection)
Le papier montre un exemple frappant : si on demande au robot de dessiner "un docteur" sans préciser la couleur, le robot utilise beaucoup plus souvent les pièces de LEGO associées aux "docteurs blancs" que celles des "docteurs noirs".
CORTEX peut compter ces pièces. Il dit : "Hé, dans 100 images de docteurs, il y a 8 fois plus de pièces 'peau blanche' que de pièces 'peau noire' !" C'est comme un détecteur de mensonge pour les préjugés de l'IA.

2. Modifier les images à la demande (Targeted Editing)
Imaginez que vous avez une photo d'un oiseau rouge et que vous voulez le transformer en oiseau bleu, sans toucher à son bec ni à ses ailes.
Avec CORTEX, on peut dire au robot : "Garde tout, mais change uniquement les pièces de LEGO qui forment les plumes pour qu'elles deviennent bleues." C'est comme avoir un pinceau magique qui ne touche que les zones précises que vous voulez modifier.

🧠 En résumé

Ce papier est comme un manuel d'instructions pour comprendre comment les robots artistes pensent.

Avant : On voyait l'image finale, mais on ignorait comment le robot avait construit le tableau.
Avec CORTEX : On voit exactement quelles pièces de LEGO (tokens) sont utilisées pour chaque idée.

Cela rend l'IA plus transparente (on sait ce qu'elle fait), plus juste (on peut repérer ses biais) et plus utile (on peut la corriger ou la modifier facilement). C'est une étape importante pour faire confiance à ces machines créatives !

1. Problématique

Les Modèles Génératifs Vectoriels Quantifiés (VQGMs), tels que VQGAN ou DALL-E, sont devenus des outils puissants pour la génération d'images de haute qualité en utilisant un espace latent discret. Ces modèles reposent sur un codebook (dictionnaire) contenant un ensemble fini de tokens discrets qui représentent des éléments visuels.

Cependant, une lacune majeure persiste : le fonctionnement interne de ce codebook reste une "boîte noire". Il est difficile de comprendre :

Quels tokens spécifiques sont essentiels pour générer un concept donné (ex: "un docteur", "un oiseau") ?
Comment le modèle distingue-t-il les éléments de premier plan (le concept) des éléments de contexte (le fond) ?
Comment détecter les biais systémiques (ex: préjugés raciaux ou de genre) qui se manifestent par la fréquence d'apparition de certains tokens ?

Les méthodes d'interprétation existantes, souvent basées sur des cartes de chaleur au niveau des pixels, sont insuffisantes pour les VQGMs car elles ne capturent pas la nature discrète et symbolique des tokens. L'objectif de cet article est de développer une méthode pour identifier les combinaisons de tokens spécifiques à un concept, permettant ainsi d'expliquer, de déboguer et de contrôler ces modèles.

2. Méthodologie : Le Framework CORTEX

Les auteurs proposent CORTEX (Concept-Oriented Token Explanation), un cadre d'interprétation basé sur le Principe du Goulot d'Information (Information Bottleneck). L'idée centrale est d'entraîner un module inverse, appelé Extracteur d'Information (Information Extractor - IEM), qui mappe les embeddings basés sur les tokens (images générées) vers des étiquettes sémantiques (concepts), inversant ainsi le flux de génération habituel.

Le framework CORTEX se compose de deux méthodes complémentaires :

A. Le Module Extracteur d'Information (IEM)

L'IEM est un classificateur supervisé entraîné pour prédire la probabilité d'un concept $y_i$ à partir d'un embedding $E$ (dérivé des tokens du codebook).

Fonctionnement : Il apprend à extraire les caractéristiques discriminatives les plus pertinentes tout en ignorant le bruit et le contexte, conformément au principe du goulot d'information.
Architecture : Les auteurs testent trois architectures pour l'IEM : CNN, ResNet et Transformer.

B. Méthode d'Explication au Niveau de l'Échantillon (Sample-level)

Cette méthode analyse l'importance des tokens dans des images générées spécifiques.

Calcul du Score d'Importance du Token (TIS) : Pour une image donnée et un concept cible, on calcule le gradient de la probabilité de prédiction par rapport aux embeddings des tokens. Le TIS est défini comme la valeur maximale du gradient sur tous les canaux pour chaque position de token.
Sélection : On sélectionne les $n$ tokens ayant les scores TIS les plus élevés pour chaque image ( $T^*_{image}$ ), puis on agrège ces ensembles sur plusieurs images pour trouver les $k$ tokens les plus fréquents associés au concept ( $T^*_{concept}$ ).
Résultat : Cela permet d'identifier visuellement quels tokens (et donc quelles régions de l'image) sont cruciaux pour la présence d'un concept.

C. Méthode d'Explication au Niveau du Codebook (Codebook-level)

Cette méthode explore l'espace complet du codebook sans se limiter aux images existantes, afin de trouver la combinaison de tokens optimale pour un concept.

Optimisation : On définit une matrice de sélection de tokens $P$ (probabilité de choisir chaque token du codebook pour chaque position).
Différentiation : Comme la sélection de tokens discrets n'est pas différentiable, les auteurs utilisent l'approximation Gumbel-Softmax pour rendre le processus différentiable et permettre l'optimisation par gradient.
Objectif : On optimise $P$ pour maximiser la probabilité du concept cible $f_{y_i}(E)$ tout en régularisant l'embedding.
Résultat : Cela produit une combinaison de tokens fondamentale ( $T^*_{codebook}$ ) qui caractérise le concept de manière pure, utile pour l'édition ciblée.

3. Contributions Clés

Développement d'une méthode d'explication au niveau de l'échantillon : Identification des combinaisons de tokens pertinentes pour chaque image générée, offrant des insights initiaux sur la représentation visuelle.
Introduction d'une méthode d'explication au niveau du codebook : Une approche d'optimisation qui explore l'espace entier du codebook pour découvrir les combinaisons de tokens fondamentales caractérisant un concept, indépendamment des images générées.
Validation empirique robuste : Utilisation de modèles de classification pré-entraînés (ResNet, ViT) pour valider que les tokens sélectionnés par CORTEX sont bien les plus critiques pour la reconnaissance du concept (via des expériences de masquage).
Applications pratiques : Démonstration de l'utilité de CORTEX pour la détection de biais démographiques et l'édition d'images ciblée.

4. Résultats Expérimentaux

Les expériences ont été menées sur des modèles VQGM pré-entraînés (VQGAN) et des ensembles de données synthétiques basés sur ImageNet.

Validation par Masquage (Counterfactual Evaluation) :
- Les auteurs masquent les tokens identifiés par CORTEX dans les images générées et mesurent la chute de probabilité de prédiction des concepts dans des modèles de classification externes (ResNet, ViT).
- Résultat : Le masquage des tokens sélectionnés par CORTEX entraîne une baisse de précision beaucoup plus significative (ex: -46% avec ResNet50) que le masquage aléatoire de tokens, prouvant que ces tokens sont essentiels à la représentation du concept.
- Les méthodes basées sur CNN et ResNet pour l'IEM ont montré de meilleures performances que celle basée sur Transformer dans ce contexte spécifique.
Détection de Biais :
- Application sur le modèle Dalle-mini pour analyser les biais de genre et de race dans la représentation des "docteurs".
- Résultat : Avec un prompt neutre ("Un docteur à l'hôpital"), les tokens associés aux "docteurs blancs" apparaissent près de 4 fois plus souvent (8,55 tokens/image) que ceux associés aux "docteurs noirs" (2,32 tokens/image). De même pour le genre (hommes vs femmes). Cela quantifie statistiquement un biais démographique systémique.
Édition d'Images Ciblée :
- En utilisant la méthode au niveau du codebook, les auteurs ont réussi à modifier la tête d'un oiseau dans une image générée pour changer son espèce (ex: de "Goldfinch" à "Indigo Bird") tout en préservant le reste de l'image, en optimisant uniquement les tokens de la région masquée.

5. Signification et Impact

L'article CORTEX apporte une contribution majeure à l'interprétabilité des modèles génératifs modernes :

Transparence : Il offre une fenêtre claire sur le "dictionnaire" interne des VQGMs, révélant comment les concepts abstraits sont encodés en tokens discrets.
Détection de Biais : Il fournit un outil quantitatif robuste pour identifier les biais démographiques ou sémantiques dans les modèles génératifs, au-delà de simples observations visuelles.
Contrôle et Édition : Il permet une manipulation précise des images générées en agissant directement sur les tokens conceptuels, ouvrant la voie à des outils d'édition d'image plus intelligents et contrôlables.
Fondement Théorique : L'application du principe du Goulot d'Information pour l'interprétation des modèles génératifs établit un nouveau paradigme pour comprendre la compression d'information dans les espaces latents discrets.

En résumé, CORTEX transforme la compréhension des VQGMs d'une approche purement observationnelle à une approche analytique et contrôlable, permettant non seulement d'expliquer les décisions du modèle mais aussi de corriger ses défauts et d'exploiter sa structure interne pour des tâches créatives.