💻 computer science

Target-confidence Recourse Using tSeTlin machines: TRUST

L'article propose TRUST, un cadre qui exploite les machines de Tsetlin probabilistes et l'optimisation bayésienne pour générer des explications contrefactuelles robustes et interprétables en recherchant directement les changements d'entrée minimaux qui satisfont des cibles de confiance de prédiction définies par l'utilisateur, surmontant ainsi la fragilité des méthodes de recours conventionnelles de franchissement de frontière.

Auteurs originaux : K. Darshana Abeyrathna, Sara El Mekkaoui, Nils Enric Canut Taugbøl, Anuja Vats

Publié 2026-06-19

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : K. Darshana Abeyrathna, Sara El Mekkaoui, Nils Enric Canut Taugbøl, Anuja Vats

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous demandiez un prêt et que l'ordinateur de la banque réponde « Non ». Vous demandez alors : « Que dois-je changer pour obtenir un "Oui" ? »

La plupart des systèmes d'IA actuels proposent une suggestion qui est le strict minimum : « Si vous augmentez vos revenus de seulement 1 $, l'ordinateur basculera sa décision vers "Oui" ».

L'article appelle cela un contre-factuel de « bordure » (boundary-hugging). C'est comme se tenir au bord d'une falaise. Techniquement, vous êtes du côté sûr, mais une légère brise (une petite erreur dans les données ou un léger changement dans le modèle) pourrait vous faire basculer du mauvais côté. C'est un « Oui » fragile.

TRUST est une nouvelle méthode proposée par des chercheurs de DNV qui change la donne. Au lieu de demander : « Quel est le plus petit changement pour obtenir un Oui ? », elle demande : « Quel est le plus petit changement pour obtenir un Oui confiant ? »

Voici comment l'article explique cela, en utilisant des analogies simples :

1. L'objectif : Passer du « Bord de la falaise » au « Fond de la vallée »

Dans l'ancienne méthode, l'IA veut simplement que vous franchissiez la ligne. Avec la méthode TRUST, vous dites à l'IA : « Je ne veux pas seulement franchir la ligne ; je veux être sûr à 80 % d'être en sécurité. »

L'analogie : Imaginez que vous marchez dans une forêt embrumée.
- L'ancienne méthode : L'IA vous dit de faire un pas en avant. Vous êtes maintenant techniquement sur le « chemin sûr », mais vous êtes toujours dans le brouillard. Si vous trébuchez légèrement, vous pourriez retomber dans la zone de danger.
- La méthode TRUST : Vous dites à l'IA : « Je veux marcher jusqu'à ce que je sois dans une clairière où je suis sûr à 90 % de ne pas me perdre. » L'IA pourrait vous dire de faire cinq pas au lieu d'un seul. Vous êtes maintenant plus profondément dans la zone de sécurité. Si vous trébuchez, vous êtes toujours en sécurité.

2. Le moteur : La machine à « Énigmes logiques » (Tsetlin Machine)

Pour ce faire, les chercheurs n'ont pas utilisé une IA classique de type « boîte noire » (comme un réseau de neurones profond) qui donne un chiffre sans expliquer pourquoi. Ils ont utilisé ce qu'on appelle une Machine de Tsetlin Probabiliste (PTM).

L'analogie : Considérez une IA standard comme un magicien qui sort un lapin d'un chapeau. Vous voyez le lapin (le résultat), mais vous ne savez pas comment cela s'est produit.
La PTM : Considérez la PTM comme une équipe de détectives de la logique. Chaque détective possède une règle spécifique, telle que : « Si le candidat a moins de 73 ans ET a peu de ganglions lymphatiques, alors il est susceptible de survivre. »
- Ces détectives ne disent pas seulement « Oui » ou « Non ». Ils disent : « Je suis sûr à 90 % que cette règle s'applique », ou « Je ne suis sûr qu'à 50 % ».
- La décision finale est le résultat du vote de tous les détectives.

3. Le superpouvoir : Comprendre pourquoi une option est meilleure

C'est la revendication la plus unique de l'article. Parce que l'IA est composée de ces détectives logiques, TRUST peut expliquer pour pourquoi une suggestion est plus fiable qu'une autre, même si elles semblent similaires.

Le scénario : Imaginez deux personnes qui veulent un prêt.
- La personne A modifie ses revenus juste assez pour passer la règle de justesse.
- La personne B modifie ses revenus un peu plus pour passer la règle confortablement.
L'ancienne IA : Pourrait dire : « La personne A est préférable car elle a moins changé. »
TRUST : Observe les « détectives » et dit : « Le succès de la personne A dépend d'une règle qui est très précaire. Si ses données changent légèrement, cette règle pourrait cesser de fonctionner. Le succès de la personne B repose sur des règles qui sont très solides. Même si la personne B a plus changé, son "Oui" est beaucoup plus stable. »

L'article appelle cela l'« Attribution au niveau de la clause ». C'est comme être capable de regarder sous le capot d'une voiture et de voir exactement quelle pièce du moteur vacille, plutôt que de simplement savoir que la voiture avance.

4. Les résultats : Échanger un peu d'effort contre une grande sécurité

Les chercheurs ont testé cela sur des données réelles (comme la prédiction de la survie après une chirurgie) et des données fictives.

Le constat : Lorsqu'ils ont demandé un résultat à « haute confiance » (par exemple, sûr à 92 %), l'IA a suggéré des changements légèrement plus importants que le strict minimum.
Le bénéfice : Ces suggestions étaient beaucoup plus robustes. Lorsque les chercheurs ont ajouté du « bruit » (erreurs simulées ou petits changements) aux données, les suggestions du « strict minimum » ont souvent échoué et sont redevenues des « Non ». Les suggestions à « haute confiance », elles, sont restées des « Oui ».

Résumé

TRUST est un outil qui vous permet de dire à une IA : « Je ne veux pas seulement un oui ; je veux un oui stable et fiable ».

Il utilise un type spécial d'IA composée de règles logiques (comme une équipe de détectives) pour trouver le plus petit changement nécessaire pour atteindre ce niveau de sécurité. Il admet que, parfois, il faut changer un peu plus pour obtenir un résultat auquel on peut vraiment se fier, et il explique précisément pourquoi ce changement supplémentaire rend votre résultat plus sûr.

Ce que l'article ne prétend PAS :

Il ne prétend pas que cela fonctionne pour tous les types d'IA (il utilise spécifiquement la Machine de Tsetlin).
Il ne prétend pas qu'il s'agit d'un remède médical ou d'un moyen garanti d'obtenir l'approbation d'un prêt dans le monde réel pour le moment ; c'est un cadre de recherche testé sur des ensembles de données.
Il ne dit pas que cette méthode est plus rapide que les méthodes actuelles (au contraire, il note qu'elle peut être plus lente car elle effectue des recherches plus complexes).

Résumé Technique : Recours à Confiance Ciblée via les Machines tSeTlin (TRUST)

Énoncé du Problème

Les explications contrefactuelles (CE) sont le mécanisme standard pour fournir un recours algorithmique dans les systèmes de prise de décision à enjeux élevés (ex. : approbation de crédit, stratification du risque clinique). La formulation prédominante du recours cherche la modification minimale d'une entrée $x$ requise pour inverser la décision d'un modèle de négatif à positif. Formellement, il s'agit d'un problème d'optimisation minimisant la distance $d(x, x')$ sous la contrainte que la probabilité prédite $M(x') \geq 0,5$ .

Le papier identifie deux limitations critiques dans ce cadrage binaire :

Fragilité : Les contrefactuels générés près de la frontière de décision (où $M(x') \approx 0,5$ ) sont souvent instables face au bruit, aux mises à jour de modèles ou aux perturbations. Ils peuvent techniquement satisfaire la condition d'inversion de l'étiquette, mais échouent en pratique en raison de marges de confiance faibles.
Désalignement avec la Prise de Décision : Les systèmes de décision réels emploient fréquemment des seuils de confiance explicites (ex. : exiger 80 % de confiance pour une approbation). Les méthodes existantes ne peuvent pas répondre directement à des questions telles que : « Quel est le changement minimal pour obtenir une approbation avec au moins 80 % de confiance ? » Elles traitent la confiance comme une propriété post-hoc plutôt que comme une cible d'optimisation spécifiée par l'utilisateur.

Bien que des travaux antérieurs aient abordé la robustesse indirectement via des contraintes de marge ou de validité de voisinage, et que des méthodes sensibles à l'incertitude (comme CLUE ou les certificats probabilistes) existent, aucun ne permet aux utilisateurs de spécifier un niveau de confiance souhaité comme une contrainte primaire lors de la génération du recours.

Méthodologie : Le Cadre TRUST

Les auteurs proposent TRUST (Target-confidence Recourse Using tSeTlin machines), un cadre qui reformule le recours comme un problème de confiance cible.

1. Formulation du Problème

Au lieu de minimiser la distance sous la contrainte $M(x') \geq 0,5$ , TRUST cherche un contrefactuel $x'$ qui minimise le coût $d(x, x')$ sous réserve d'une confiance cible définie par l'utilisateur $\tau \in (0,5, 1)$ et d'une tolérance $\epsilon$ :
$\min_{x'} d(x, x') \quad \text{sous contrainte de} \quad |M(x') - \tau| \leq \epsilon$
Cette formulation généralise les CE standards (récupérées lorsque $\tau = 0,5$ ) et permet la génération explicite d'options de recours à différents niveaux de confiance, permettant une analyse de compromis rigoureuse.

2. Instanciation du Modèle : Machine Tsetlin Probabiliste (PTM)

Pour instancier ce cadre, les auteurs utilisent une Machine Tsetlin Probabiliste (PTM) couplée à une Optimisation Bayésienne (BO).

Pourquoi la PTM ? Contra contrairement aux classifieurs probabilistes boîtes noires (ex. : réseaux de neurones calibrés) où les scores de confiance manquent de direct interprétabilité, la PTM décompose les prédictions en clauses logiques interprétables par l'humain avec des activations probabilistes. Cette structure permet au modèle de lier directement les changements de caractéristiques aux décalages de la confiance de prédiction.
Pourquoi l'Optimisation Bayésienne ? L'espace de recherche des contrefactuels est non convexe et potentiellement coûteux à évaluer, surtout avec des modèles stochastiques. La BO est employée pour explorer efficacement l'espace d'entrée, équilibrant exploration et exploitation pour trouver des candidats correspondant à la confiance cible $\tau$ tout en minimisant la distance. Des garanties théoriques sous des conditions de régularité assurent l'optimalité asymptotique.

3. Attribution au Niveau des Clauses

Une contribution distincte du cadre TRUST est la capacité d'effectuer une attribution au niveau des clauses. Lorsque plusieurs contrefactuels atteignent la même confiance cible mais diffèrent par leur coût ou leur stabilité, la structure de la PTM permet aux praticiens de tracer ces différences vers des règles logiques spécifiques.

Le cadre analyse les « probabilités de déclenchement » de chaque clause individuelle.
Il identifie si un contrefactuel satisfait des règles de manière robuste (profondément dans les limites probabilistes de la règle) ou fragilement (proche du bord de la condition de la règle).
Cela fournit une explication mécaniste de pourquoi une option de recours est plus fiable qu'une autre, une capacité absente des explications au niveau des caractéristiques des modèles boîtes noires.

Contributions Clés

Formulation de la Confiance Cible : Le papier introduit l'Équation (2) comme le premier objectif de CE où la confiance de prédiction est une contrainte spécifiée par l'utilisateur plutôt qu'une propriété émergente. Cela déplace le paradigme de « l'inversion minimale d'étiquette » vers le « changement minimal pour un seuil de risque spécifique ».
Attribution au Niveau des Clauses : En exploitant la PTM, les auteurs permettent une nouvelle couche explicative qui connecte les changements de caractéristiques aux décalages de confiance via des clauses logiques interprétables. Cela soutient la comparaison des options de recours concurrentes basées sur la stabilité des règles de décision sous-jacentes.
Robustesse par Conception : Le cadre établit un lien pratique entre les contrefactuels sensibles à la confiance et la robustesse. En ciblant directement des niveaux de confiance plus élevés, la robustesse est obtenue par construction (en se déplaçant plus profondément dans la région de la classe positive) plutôt que par filtrage post-hoc.

Résultats Expérimentaux

Les auteurs ont évalué TRUST sur deux ensembles de données synthétiques (2D et 5D) et deux ensembles de données réels (classification binaire Iris et survie de Haberman). Ils ont comparé TRUST (PTM + BO) aux bases de référence standard par gradient (Wachter) et par échantillonnage (GrowingSpheres) de la bibliothèque CARLA.

Principales Conclusions :

Compromis Robustesse vs Coût : TRUST permet un contrôle explicite du compromis. À une confiance cible plus faible ( $\tau=0,50$ ), TRUST produit des contrefactuels avec une distance minimale (comparable ou meilleure que les bases de référence). À une confiance cible plus élevée ( $\tau=0,85$ ), TRUST génère des contrefactuels nettement plus robustes au bruit (atteignant 100 % de robustesse sur plusieurs benchmarks) tout en maintenant des coûts de recours faibles.
Métriques de Performance : Sur l'ensemble de données Haberman, TRUST a atteint une distance L2 de 0,10 à une confiance de 0,92 avec une robustesse parfaite, surpassant les bases de référence qui peinaient à maintenir une confiance élevée sans sacrifier la robustesse.
Interprétabilité : L'analyse qualitative sur l'ensemble de données Haberman a démontré que deux contrefactuels satisfaisant la même règle logique (ex. : « Nœuds lymphatiques positifs $\leq 4$ ») pouvaient avoir des fiabilité très différentes. L'analyse par clause de TRUST a révélé qu'un contrefactuel avec 4 nœuds lymphatiques était fragile (proche de la limite de la règle), tandis qu'un autre avec 2 nœuds lymphatiques était robuste, expliquant la différence de stabilité de la confiance de manière mécaniste.

Signification et Revendications

Le papier affirme que TRUST fournit un fondement de recours algorithmique sensible à la confiance et interprétable dans des contextes à enjeux élevés. Sa signification réside dans :

Le Déplacement de l'Objectif d'Optimisation : Passer de l'inversion d'étiquette binaire à la satisfaction de seuils de risque définis par l'utilisateur, ce qui s'aligne mieux avec les besoins réglementaires et pratiques (ex. : Loi sur l'IA de l'UE, RGPD).
Explication Mécaniste : Contrairement aux méthodes antérieures qui n'offrent que des changements de caractéristiques, TRUST explique pourquoi une option de recours est robuste ou fragile en exposant la stabilité des règles logiques (clauses) sous-jacentes.
Utilité Pratique : Elle permet aux décideurs de choisir entre des options de recours en fonction d'un spectre transparent coût-confiance-robustesse, plutôt que d'être contraints d'accepter l'option la « moins chère » qui peut être instable.

Les auteurs restent modestes quant aux limites, notant que le cadre repose sur des prédictions probabilistes bien calibrées, que l'implémentation actuelle (PTM) présente un surcoût de calcul par rapport aux méthodes basées sur le gradient, et que la validation plus large sur des benchmarks plus vastes est un travail futur. Cependant, ils affirment que le cadre proposé répond avec succès au fossé entre le recours théorique et un support de décision stable et actionnable.