Axiomatic Foundations of Counterfactual Explanations
Cet article introduit un cadre axiomatique qui établit des théorèmes d'impossibilité et de représentation afin de caractériser systématiquement cinq familles distinctes d'explications contrefactuelles, comblant ainsi le fossé entre l'interprétabilité locale et globale dans les systèmes autonomes.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous vous tenez devant un distributeur automatique de boissons high-tech et mystérieux. Vous insérez votre argent, appuyez sur un bouton et il vous donne un soda. Mais ensuite, vous demandez : « Pourquoi n'ai-je pas eu de jus de fruit ? »
La plupart des outils d'explication d'IA actuels tentent de répondre à cela en examinant votre transaction spécifique. Ils disent : « Eh bien, vous avez mis 1,00 $ , mais le jus coûte 1,50 $ . » C'est une explication locale. C'est utile, mais cela ne concerne que ce moment précis.
Le document que vous avez fourni, « Axiomatic Foundations of Counterfactual Explanations » par Amgoud et Cooper, soutient que nous avons abordé ce problème de manière trop étroite. Ils ont construit un nouveau « livre de règles » (un cadre axiomatique) pour catégoriser toutes les manières possibles dont une IA peut expliquer ses décisions, et pas seulement celles que nous voyons habituellement.
Voici la décomposition de leurs conclusions en termes simples :
1. Les deux grandes familles d'explications
Les auteurs ont découvert que toutes les explications contrefactuelles (les réponses à « Pourquoi pas ? ») se divisent en deux camps principaux, comme deux façons différentes de résoudre un puzzle :
Le camp du « Nécessaire » (La pièce manquante) :
- La logique : « Si vous supprimez cet élément spécifique, le résultat change. »
- La métaphore : Imaginez un gâteau qui n'a pas monté. Une explication nécessaire dit : « Le gâteau n'a pas monté parce que vous avez oublié la levure chimique. » Si vous n'aviez pas oublié la levure, le gâteau aurait pu monter. Elle identifie l'ingrédient critique qui était présent et qui a causé le résultat actuel.
- Le bémol : Parfois, il n'y a pas de « pièce manquante » unique. Par exemple, si un prêt a été refusé à cause d'un mélange complexe de faible revenu et d'un mauvais crédit, supprimer un seul de ces éléments pourrait ne pas suffire à garantir un « oui ». Dans ces cas, les explications nécessaires pourraient ne pas exister du tout.
Le camp du « Suffisant » (L'interrupteur magique) :
- La logique : « Si vous ajoutez ou changez cet élément spécifique, le résultat changera certainement. »
- La métaphore : Imaginez un interrupteur. Une explication suffisante dit : « Si vous basculez cet interrupteur, la lumière s'allume. » Peu importe ce qui se passe d'autre dans la pièce ; basculer l'interrupteur garantit le changement.
- Le bémol : Il y a souvent beaucoup d'interrupteurs que l'on peut actionner. Vous pourriez basculer l'interrupteur, ou remplacer l'ampoule, ou apporter une lampe de poche. Ce type d'explication garantit un résultat, mais cela peut être accablant car il existe tellement d'options.
2. Les cinq types d'explications
Les auteurs ne se sont pas arrêtés à « Nécessaire » contre « Suffisant ». Ils ont décomposé cela en cinq types distincts selon la rigueur ou l'étendue des règles. Voyez cela comme des « personnalités » différentes d'explicateurs :
Nécessaire Global (Le gardien du livre de règles) :
- Ce qu'il fait : Explique l'ensemble de la machine, pas seulement votre commande spécifique. Il dit : « Cette machine donne toujours un soda si le bouton est rouge. »
- À qui cela aide : Aux personnes qui veulent comprendre la logique globale du système.
- Limite : Cela peut ne pas exister si la machine est trop chaotique (par exemple, parfois le rouge donne un soda, parfois un jus).
Nécessaire Local (Le détective spécifique) :
- Ce qu'il fait : Regarde votre commande et dit : « Pour votre cas spécifique, le fait que vous portiez un chapeau est la raison pour laquelle vous avez eu un soda. »
- À qui cela aide : Aux personnes qui veulent savoir exactement ce qui, chez elles, a causé le résultat.
- Limite : Comme la version globale, cela peut ne pas exister si votre situation est trop unique.
Suffisant Global (Le simulateur de « Et si ») :
- Ce qu'il fait : Regarde toute la machine et dit : « Si quiconque appuie sur le bouton bleu, il obtient du jus. »
- À qui cela aide : Aux personnes qui veulent savoir quels changements garantiraient un résultat différent pour n'importe qui.
- Limite : Cela peut suggérer des changements qui ne font pas partie de votre situation actuelle (par exemple, « Si vous étiez un robot... »).
Sceptique Local (Le sceptique strict) :
- Ce qu'il fait : Regarde votre commande et dit : « Si vous remplacez votre chapeau par un nouvel article (que vous n'avez pas actuellement), vous aurez du jus. »
- À qui cela aide : Aux personnes qui veulent savoir quelles nouvelles choses elles pourraient faire.
- Limite : Cela peut ne pas exister s'il n'y a pas de nouveaux articles qui garantissent un changement.
Crédule Local (L'optimiste) :
- Ce qu'il fait : Regarde votre commande et dit : « Si vous changez votre chapeau pour un autre chapeau (même s'il ressemble beaucoup au vôtre), vous pourriez avoir du jus. »
- À qui cela aide : C'est le type d'explication que la plupart des outils d'IA actuels utilisent. C'est le plus flexible et il garantit que vous obtiendrez une réponse.
- Limite : Il est moins « discriminant ». Il peut suggérer un changement qui fonctionne pour vous, mais qui ne fonctionnerait pas pour quelqu'un d'autre.
3. Les règles « impossibles »
Le document prouve un fait mathématique fascinant : on ne peut pas tout avoir.
Ils ont montré que certaines combinaisons de « bonnes qualités » (comme être garanti d'exister, être la réponse la plus courte et être strictement vrai pour tout le monde) sont mathématiquement incompatibles.
- Analogie : C'est comme essayer de construire une voiture qui soit simultanément la plus rapide, la plus sûre et la moins chère. Les lois de la physique (ou dans ce cas, de la logique) disent que vous devez en choisir deux.
- Le résultat : Si vous voulez une explication qui existe toujours (garantie), vous devez renoncer au fait qu'elle soit la « plus courte » ou la « plus spécifique » possible. Si vous voulez l'explication la plus courte, vous pourriez obtenir une réponse qui n'existe pas pour certaines personnes.
4. Pourquoi cela importe
Avant ce document, la plupart des outils d'IA n'étaient que des expliqueurs « Crédules Locaux » (Type 5). Ils étaient comme l'Optimiste : ils vous donnaient toujours une réponse, mais ils ne vous disaient pas si cette réponse était la seule façon, ou si c'était la meilleure façon.
Ce document fournit une carte. Il nous dit :
- Si vous voulez comprendre les règles du système, cherchez des raisons Nécessaires Globales.
- Si vous voulez savoir exactement ce qui a changé votre résultat, cherchez des raisons Nécessaires Locales.
- Si vous voulez juste n'importe quelle façon d'obtenir un résultat différent, cherchez des raisons Crédules Locales.
Résumé
Les auteurs n'ont pas inventé un nouvel outil d'IA ; ils ont inventé une taxonomie (un système de classification). Ils ont prouvé qu'il existe cinq manières fondamentalement différentes d'expliquer « Pourquoi pas ? » et qu'aucun outil unique ne peut être le meilleur pour toutes à la fois. Ils ont également montré que la plupart des outils actuels ne sont qu'un type spécifique (le type « Optimiste » ou Crédule), et que nous passons à côté d'autres types d'explications potentiellement plus utiles qui pourraient être créés si nous connaissions les règles.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.