💬 NLP

ICE: Intervention-Consistent Explanation Evaluation with Statistical Grounding for LLMs

Ce papier présente ICE, un cadre d'évaluation statistique des explications des LLMs qui révèle que la fidélité dépend fortement du type d'intervention utilisé, ne corrèle pas avec la plausibilité humaine, et varie considérablement selon les langues, tout en mettant en évidence des cas d'anti-fidélité.

Auteurs originaux : Abhinaba Basu, Pavan Chakraborty

Publié 2026-03-20

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Abhinaba Basu, Pavan Chakraborty

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🕵️‍♂️ Le Problème : Le "Magicien" et sa Carte Tricheuse

Imaginez un magicien (c'est l'Intelligence Artificielle) qui devine votre humeur en lisant une phrase. Il vous dit : "C'est une phrase positive !" et il a raison.
Vous lui demandez : "Pourquoi ? Quels mots t'ont donné cette idée ?"

Le magicien pointe du doigt les mots "magnifique" et "séduisant". C'est logique, n'est-ce pas ?
Mais parfois, le magicien pointe du doigt des mots inutiles comme "le", "un" ou "film", alors qu'il a quand même trouvé la bonne réponse. C'est comme s'il trichait : il devine juste par chance, mais il vous donne une fausse explication.

Le problème actuel, c'est que les outils pour vérifier si le magicien dit la vérité sont très imparfaits. Ils se contentent de regarder une fois si l'explication semble logique, sans vérifier si c'est vraiment le vrai moteur de la décision.

🧪 La Solution : ICE (Le Test de Vérité)

Les auteurs de cet article ont créé un nouveau test appelé ICE (Intervention-Consistent Explanation). Pour le comprendre, utilisons une analogie culinaire.

L'Analogie du Chef Cuisinier

Imaginez un chef (l'IA) qui prépare un gâteau. Il vous dit : "Le secret de ce gâteau, c'est le chocolat !"
Pour vérifier s'il dit la vérité, vous avez deux méthodes :

L'ancienne méthode (défaillante) : Vous enlevez simplement le chocolat du gâteau et vous goûtez. Si le gâteau est mauvais, vous dites : "Ah bon, le chocolat était important !".
- Le problème : En enlevant le chocolat, vous avez peut-être cassé la structure du gâteau. Le gâteau est mauvais non pas parce qu'il manque de chocolat, mais parce qu'il est tout plat ! C'est un test "très sale" qui ne prouve rien.
La méthode ICE (intelligente) : Au lieu de juste enlever le chocolat, vous le remplacez par un ingrédient neutre (comme de la farine ou un autre biscuit) pour voir si le goût change vraiment.
- Le test ultime : Vous faites la même chose avec 50 autres ingrédients au hasard.
- Si le gâteau avec le vrai chocolat est toujours meilleur que les 50 versions avec des ingrédients au hasard, alors le chef a raison : le chocolat est vraiment le secret.
- Si le gâteau avec le "faux" chocolat est aussi bon que les autres, alors le chef ment ou triche : le chocolat n'était pas si important que ça.

🔍 Ce que ICE a découvert (Les Révélations)

En utilisant ce test rigoureux sur 7 intelligences artificielles différentes, les chercheurs ont fait trois découvertes majeures :

1. La vérité dépend de "comment" on teste (L'effet du couteau)

C'est la découverte la plus surprenante. Selon que vous "enlevez" un mot (comme couper un morceau de gâteau) ou que vous le "remplacez" (comme changer l'ingrédient), le résultat change radicalement.

Sur les textes courts : Enlever un mot donne souvent l'impression que l'IA est très intelligente.
Sur les textes longs : Enlever un mot rend le texte illisible, et l'IA semble bête. Mais si on remplace le mot par un autre, l'IA reste intelligente.
La leçon : On ne peut pas dire "Cette IA est 80% honnête". Il faut dire "Elle est 80% honnête avec cette méthode, mais seulement 40% avec celle-là". La vérité est relative à la méthode utilisée.

2. Parfois, l'IA est "anti-honnête" (Le menteur inversé)

Dans un tiers des cas testés, les chercheurs ont découvert que les explications de l'IA étaient pires que le hasard !

L'analogie : C'est comme si le chef vous disait : "Le secret, c'est le sel !" alors qu'en fait, si vous enlevez le sel, le gâteau devient encore meilleur. L'IA vous donne une explication qui vous trompe activement. Sans le test ICE, personne ne l'aurait remarqué.

3. Ce qui semble logique n'est pas toujours vrai (La différence entre "Crédible" et "Vrai")

Les chercheurs ont demandé à des humains : "Est-ce que cette explication semble logique ?". Les humains trouvaient souvent les explications très plausibles.
Pourtant, le test ICE a montré que ces explications logiques n'avaient aucun lien avec la façon dont l'IA prenait réellement sa décision.

L'analogie : C'est comme un détective qui vous donne une théorie très cohérente et bien écrite sur un crime. Mais en réalité, il a résolu l'énigme en regardant la météo, pas en suivant la théorie qu'il vous a racontée. L'explication est belle (plausible), mais elle ne reflète pas la réalité (elle n'est pas "fidèle").

🌍 Et dans d'autres langues ?

Le test a aussi été fait en français, allemand, hindi, chinois, etc. Résultat : ce qui fonctionne en anglais ne fonctionne pas toujours ailleurs. Parfois, l'IA est très honnête en français, mais complètement perdue en chinois. Cela dépend de la façon dont l'IA "découpe" les mots (la tokenisation), mais pas seulement. C'est un mélange complexe entre la langue et le modèle.

💡 En résumé : Que retenir ?

Méfiez-vous des scores uniques : Dire qu'une IA est "fidèle" avec un seul chiffre est faux. Il faut tester avec plusieurs méthodes.
Le hasard est un bon juge : Pour savoir si une explication est vraie, il faut la comparer à ce qui se passerait si on choisissait les mots au hasard.
La beauté ne fait pas la vérité : Une explication qui semble intelligente pour un humain n'est pas forcément celle que l'IA a utilisée pour penser.

ICE est donc comme un nouveau détective scientifique qui ne se contente pas de croire l'IA sur parole, mais qui la teste rigoureusement pour savoir si elle dit vraiment la vérité ou si elle improvise.

Titre : ICE : Évaluation des explications cohérentes avec les interventions et ancrage statistique pour les LLM

1. Problématique

L'évaluation de la fidélité (faithfulness) des explications générées par les modèles de langage (LLM) reste un problème ouvert. Les méthodes actuelles, telles que le benchmark standard ERASER, souffrent de trois limitations majeures :

Absence de tests statistiques : Elles rapportent des scores bruts (ex. : suffisance, exhaustivité) sans intervalles de confiance, rendant impossible la distinction entre une fidélité réelle et une performance due au hasard.
Intervention unique (Suppression) : L'utilisation exclusive de l'opérateur de suppression (deletion) crée des entrées hors distribution (OOD). Cela peut fausser les résultats en dégradant la prédiction du modèle indépendamment de la pertinence des tokens mis en avant, ou en inflant artificiellement les scores sur des textes courts.
Incapacité à détecter l'anti-fidélité : Sans bases de référence aléatoires, les méthodes actuelles ne peuvent pas identifier les cas où une explication est pire qu'un choix aléatoire (anti-fidélité).

De plus, la fidélité est souvent confondue avec la plausibilité (ce qui semble logique à un humain), alors que ces deux concepts sont orthogonaux.

2. Méthodologie : Le Framework ICE

Les auteurs proposent ICE (Intervention-Consistent Explanation), un cadre d'évaluation basé sur des tests de randomisation et des multiples opérateurs d'intervention.

A. Concept Central : La Comparaison avec des Bases Aléatoires
La question fondamentale d'ICE est : Les tokens identifiés par une méthode d'attribution sont-ils plus importants pour la prédiction que des tokens sélectionnés aléatoirement ?

Métrique (NSR) : Utilisation du Normalized Score Retention (NSR) pour mesurer la part du signal de prédiction préservée lorsque seuls les tokens de la raison (rationale) sont conservés.
Test de Randomisation : Pour chaque explication, ICE génère $M$ ensembles de tokens aléatoires de même taille. Il calcule le Taux de Victoire (Win Rate) : la proportion de fois où le NSR de l'explication dépasse le NSR des bases aléatoires.
Signification Statistique : Calcul d'intervalles de confiance (Bootstrap 95 %) et d'effets de taille (Cohen's d) pour valider la robustesse des résultats.

B. Opérateurs d'Intervention Multiples
Pour éviter les biais liés à un seul type d'intervention, ICE compare deux opérateurs principaux :

Suppression (Deletion) : Supprime les tokens non pertinents. Rapide mais crée du texte tronqué et non naturel (OOD).
Remplissage par Récupération (Retrieval Infill) : Remplace les tokens non pertinents par des segments de texte récupérés d'autres exemples du corpus (en excluant les tokens indicatifs de l'étiquette). Cela préserve la forme de surface et la longueur du texte, offrant un contexte plus réaliste.

C. Hypothèse de Travail
La fidélité n'est pas un nombre unique, mais une grandeur dépendante de l'opérateur. Si différents opérateurs s'accordent, la preuve de fidélité est forte. S'ils divergent, l'écart quantifie l'incertitude méthodologique.

3. Contributions Clés

Fidélité consciente de l'opérateur : Démonstration que le choix de l'opérateur modifie radicalement les conclusions (écarts allant jusqu'à 44 points de pourcentage). La direction de cet écart dépend de la longueur du texte (la suppression surévalue la fidélité sur les textes courts, tandis que le remplissage par récupération est plus performant sur les textes longs).
Ancrage Statistique Rigoureux : Introduction de bases aléatoires permettant de détecter l'anti-fidélité (explications pire que le hasard), un phénomène invisible pour les méthodes précédentes.
Généralisation Multilingue et Cross-Architecture : Évaluation sur 7 LLMs, 4 tâches en anglais et 6 langues non anglaises (français, allemand, hindi, chinois, turc, arabe), révélant des interactions modèle-langage complexes non expliquées par le simple tokenisation.

4. Résultats Principaux

L'évaluation a porté sur 7 LLMs (de 1,5B à 8B paramètres) et deux méthodes d'attribution (Attention et Gradient).

Divergence des Opérateurs :
- Sur les textes courts (ex. SST-2), l'opérateur "Suppression" donne souvent des taux de victoire plus élevés que "Remplissage par Récupération".
- Sur les textes longs (ex. IMDB), la tendance s'inverse : la suppression dégrade trop l'entrée, tandis que le remplissage préserve le contexte.
- Exemple frappant : Pour Llama-3.2 sur e-SNLI, la fidélité passe de 86,4 % (Suppression) à 42,6 % (Remplissage), un écart de 44 points.
Détection de l'Anti-Fidélité :
- Dans près d'un tiers des configurations (notamment avec des gradients sur certains modèles), les explications sont anti-fidèles (Win Rate < 50 %).
- Exemple : Le modèle GPT-2 sur des textes français attribue une importance maximale à des mots fonctionnels ("a") plutôt qu'aux adjectifs de sentiment, performant pire qu'un choix aléatoire.
Fidélité vs Plausibilité :
- Corrélation nulle entre la fidélité calculée par ICE et l'alignement humain (plausibilité) : $|r| < 0,04$ . Cela confirme que les explications qui semblent plausibles aux humains ne sont pas nécessairement fidèles au raisonnement du modèle.
Interactions Multilingues :
- La fidélité ne dépend pas uniquement du ratio de tokenisation. Par exemple, GPT-2 performe bien en hindi malgré une expansion de tokens massive, tandis que Llama-3.1 devient anti-fidèle en chinois et hindi sous l'opérateur de remplissage.

5. Signification et Implications

Changement de Paradigme : L'évaluation de la fidélité ne doit plus se réduire à un score unique, mais doit être interprétée de manière comparative à travers différents régimes d'intervention.
Outils Pratiques : Les auteurs libèrent ICEBench, un benchmark reproductible, et le framework ICE lui-même.
Recommandations Pratiques :
- Pour les textes courts et les tâches de NLI, l'attention est souvent plus fiable.
- Pour les textes longs, les deux méthodes convergent souvent, mais le remplissage par récupération est préférable pour éviter les artefacts OOD.
- Les praticiens doivent vérifier la fidélité spécifiquement pour leur configuration (modèle, langue, tâche), car les résultats varient considérablement.

Conclusion :
ICE établit un nouveau standard pour l'évaluation des explications en introduisant la rigueur statistique et la diversité des interventions. Il révèle que de nombreuses explications couramment utilisées sont soit aléatoires, soit trompeuses (anti-fidèles), et que la fidélité est une propriété contextuelle et non intrinsèque.