🤖 machine learning

Evidential Rule Learning for Interpretable Classification with Abstention

Cet article introduit l'apprentissage de règles évidentielles rapide (Fast Evidential Rule Learning, FERL), une méthode qui génère des modèles de règles floues interprétables capables de fournir des sorties évidentielles, une stabilité de Lipschitz lisse et une abstention fiable en une seule passe déterministe, tout en atteignant une précision de pointe et une performance de détection hors distribution robuste à travers divers bancs d'essai.

Auteurs originaux : Javier Fumanal-Idocin, Javier Andreu-Perez

Publié 2026-08-07

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Javier Fumanal-Idocin, Javier Andreu-Perez

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

L'art de savoir quand on ne sait pas

Imaginez que vous marchez dans une forêt dense et que vous tombez sur un panneau indicateur. Un panneau standard vous indique une direction avec une confiance absolue : « Allez à gauche ». Mais que se passe-t-il si le chemin est embrumé ou si le panneau est fissuré ? Un véritable guide sage ne se contenterait pas de deviner ; il dirait : « Je ne suis pas sûr, peut-être allez à gauche, peut-être à droite, ou peut-être devrais-je simplement m'arrêter et vous dire que je ne peux pas décider ». C'est le cœur d'un domaine en pleine croissance de l'informatique appelé apprentissage automatique interprétable. Pendant des années, les ordinateurs ont été excellents pour faire des prédictions, mais ils agissent souvent comme des « boîtes noires » : ils donnent une réponse sans expliquer pourquoi, et ils admettent rarement quand ils sont confus.

Pour corriger cela, les scientifiques construisent des modèles transparents, comme une boîte en verre clair où l'on peut voir les engrenages tourner. Un concept clé ici est la preuve (evidence). Considérez la preuve non pas comme un vote unique, mais comme une collection d'indices. Si vous avez un tas d'indices pointant vers la « Gauche », vous êtes confiant. Si les indices sont mitigés, vous êtes incertain. Une autre idée vitale est l'abstention : la capacité pour un modèle de dire « Je ne sais pas » plutôt que de deviner de manière erronée. Cela est crucial dans des situations réelles, comme le diagnostic médical ou les voitures autonomes, où une erreur confiante est bien pire qu'une pause prudente. La question que cet article traite est simple mais difficile : pouvons-nous construire un modèle informatique qui soit facile à comprendre, qui fasse des prédictions précises et qui sache exactement quand lever les mains et dire : « J'ai besoin de plus d'infos » ?

Le « Fast Evidential Rule Learner » (FERL)

Voici le FERL (Fast Evidential Rule Learning), une nouvelle méthode introduite par Javier Fumanal-Idocin et Javier Andreu-Perez. Imaginez un détective essayant de résoudre un mystère. Les détectives de la vieille école (comme les arbres de décision classiques) pourraient examiner un indice et crier immédiatement : « C'est le majordome ! », même si les preuves sont fragiles. D'autres détectives modernes utilisent des réseaux de neurones complexes et invisibles qui sont excellents pour deviner, mais terribles pour expliquer comment ils sont parvenus à cette conclusion.

FERL est comme un détective qui tient un carnet de notes très organisé. Il utilise des règles floues (fuzzy rules), qui sont comme des énoncés « si-alors » flexibles. Au lieu d'un strict « Si la température est supérieure à 30 °C », il dit : « Si la température est plutôt chaude ». À mesure que le détective suit un chemin à travers son carnet (un arbre de règles), il collecte des indices. Voici le tour de magie : FERL ne se contente pas de collecter des indices pour faire une supposition ; il collecte des indices pour mesurer combien il en sait.

Dans ce système, chaque indice possède une « force d'activation » (firing strength). Si un indice est fort, il ajoute beaucoup de poids à un suspect spécifique (une étiquette de classe). Si un indice est faible ou absent, il ajoute du poids à « l'ignorance » — l'idée que nous ne disposons tout simplement pas encore d'assez d'informations. Lorsque le détective combine tous les indices, il n'obtient pas seulement une réponse unique. Il obtient une croyance (à quel point il est sûr), une plausibilité (à quel point cela est possible) et un ensemble de possibilités. Si les indices sont trop confus, l'« ignorance » devient si lourde que le détective décide de s'abstenir et de dire : « Je ne peux pas décider ».

L'article s'oppose à la pratique courante de la « calibration post-hoc ». Cela revient à prendre une prédiction finie et confiante, puis à essayer de lui coller un « score de confiance » après coup. Les auteurs montrent que cela est souvent peu fiable, surtout lorsque l'ordinateur rencontre quelque chose de nouveau (comme un chat dans un monde où il n'a vu que des chiens). Au lieu de cela, FERL intègre directement la confiance et la capacité d'abstention dans les règles lors de son apprentissage. C'est comme construire une voiture avec des freins qui font partie du moteur, plutôt que d'essayer de les ajouter plus tard.

Ce que FERL a découvert

Les chercheurs ont testé FERL sur 30 ensembles de données différents (des collections de données avec des nombres et des catégories, comme des dossiers médicaux ou des statistiques sportives). Ils ont découvert que FERL est non seulement facile à lire, mais aussi incroyablement précis.

Précision : La version « profonde » de FERL a atteint une précision moyenne de 83,23 % sur ces 30 ensembles de données. C'était statistiquement meilleur que presque toutes les autres méthodes basées sur des règles qu'ils ont testées, y compris des outils classiques comme CART et C4.5.
Taille : Malgré cette précision, FERL était étonnamment petit. La version « compacte » utilisait moins de 6 règles pour obtenir 77,77 % de précision, tandis qu'un arbre standard avait besoin de plus de 250 règles pour obtenir un score similaire.
Le super-pouvoir du « Je ne sais pas » : Lorsque les données étaient confuses ou en dehors de ce que le modèle avait vu auparavant (hors distribution / Out-of-Distribution), FERL ne se contentait pas de deviner de travers. Il identifiait correctement la confusion. Dans les tests où il devait détecter des données « novatrices » qu'il n'avait jamais vues, FERL a obtenu un AUROC de 77,7, ce qui est presque aussi bon que les détecteurs les plus spécialisés et complexes conçus uniquement pour cette tâche.
Prédictions d'ensembles : Au lieu de deviner une seule réponse, FERL donne souvent un « ensemble » de réponses probables (par exemple : « C'est soit un chat, soit un chien »). Lorsqu'ils ont mesuré l'utilité de ces ensembles, FERL a obtenu un score de 0,80 (à un niveau de réduction standard), battant les autres méthodes qui étaient soit trop confiantes, soit trop vagues.

L'article a également testé FERL sur des données d'images, mais pas en regardant directement les pixels. Au lieu de cela, ils ont utilisé un système qui décrit d'abord l'image à l'aide de concepts humains (comme « a des ailes » ou « est rouge »), puis ont utilisé FERL pour prendre la décision finale. Dans cette configuration, FERL pouvait non seulement classifier l'image, mais aussi signaler quels attributs étaient étranges ou anormaux. Par exemple, si une photo d'un oiseau présentait des « ailes » mais « pas de pattes », FERL pouvait signaler cette contradiction spécifique.

L'essentiel

FERL prouve que vous n'avez pas besoin d'une boîte noire géante et confuse pour obtenir des résultats intelligents et fiables. En utilisant la logique floue pour transformer chaque règle en une pièce de preuve, le modèle apprend naturellement à être confiant quand il doit l'être, et à dire « Je ne sais pas » quand les preuves sont ténues. Il est rapide, il est petit et il est honnête sur sa propre incertitude. Les auteurs suggèrent que cette approche offre un moyen de construire une IA qui ne soit pas seulement précise, mais aussi digne de confiance et transparente, capable d'expliquer ses décisions et de connaître ses propres limites sans avoir besoin d'ajouts supplémentaires et compliqués.

Résumé technique : Apprentissage de règles évidentielles avec abstention (FERL)

1. Énoncé du problème

Les modèles de classification interprétables, tels que les arbres de décision et les listes de règles, sont essentiels dans les domaines à enjeux élevés où les décisions doivent être justifiées. Cependant, les classifieurs classiques basés sur des arbres (ex. : CART, C4.5) souffrent souvent d'un excès de confiance, fournissant des étiquettes de classe strictes ou des distributions locales sans compte fiable de l'évidence soutenant la décision. De plus, ils manquent de mécanismes pour s'abstenir de faire des prédictions lorsque l'évidence est insuffisante.

Les approches existantes pour améliorer la fiabilité font face à des limitations significatives :

Calibration post-hoc : Les méthodes comme le scaling de température ou la régression isotonique ajustent les probabilités mais ne quantifient pas l'évidence sous-jacente et ne permettent pas une abstention fondée sur des principes. Elles se dégradent souvent lors de changements de distribution.
Estimation de l'incertitude : Les méthodes basées sur l'échantillonnage (ex. : MC-dropout) nécessitent des inférences répétées, tandis que les méthodes d'incertitude déterministes (DUMs) reposent souvent sur des architectures neuronales nécessitant un réglage spectral fin et peuvent échouer à détecter les entrées « quasi-OOD » qui chevauchent la variété (manifold) d'entraînement. De plus, ces méthodes produisent généralement des scores d'incertitude scalaires sans explications symboliques de pourquoi un cas est douteux.
Classifieurs créaux : Bien que certains classifieurs créaux basés sur des arbres existent, ils reposent souvent sur des estimations de fréquences de feuilles imprécises, menant à une mauvaise calibration, ou nécessitent des ajustements post-hoc complexes.

Le papier répond au besoin d'un modèle qui soit simultanément interprétable (fondé sur des règles), évidentiel (fournissant croyance, plausibilité et ignorance) et capable d'abstention, le tout en un seul passage déterministe sans têtes auxiliaires ou ensembles de calibration tenus à l'écart.

2. Méthodologie : Fast Evidential Rule Learning (FERL)

FERL est un apprenant d'arbres de règles flous qui intègre la théorie de Dempster-Shafer (DS) directement dans le processus d'apprentissage des règles.

2.1 Construction de l'arbre flou

FERL fait croître un arbre de classification où les nœuds internes assignent une caractéristique et un ensemble flou.

Splits flous : Les paramètres de division sont appris à l'aide d'une procédure de bootstrapping pour assurer la robustesse statistique. Pour les arbres profonds, l'algorithme trouve des coupes optimales au sens de Gini dans des rééchantillonnages pour déterminer une partition floue définie par un seuil médian ( $\theta$ ) et une mesure d'étalement robuste ( $h$ ).
Support borné : Pour éviter une fausse confiance sur les données hors distribution (OOD), le support des fonctions d'appartenance floues est borné de manière souple à la plage de caractéristiques observée pendant l'entraînement. Les points tombant en dehors de cette plage voient leur force d'activation décroître vers zéro, augmentant l'« ignorance » du modèle.
Conscience géométrique : Pour détecter les entrées quasi-OOD (classes nouvelles chevauchant la variété d'entraînement), FERL modélise les caractéristiques non divisées à chaque nœud à l'aide d'un Gaussien diagonal pondéré par la force d'activation du chemin. Cela permet l'identification d'attributs spécifiques anormaux.

2.2 Génération de sortie évidentielle

Dans FERL, chaque nœud activé $o$ émet une fonction de masse DS sur le cadre de discernement $\Theta$ :

Assignation de masse : La force d'activation $\phi_o(x)$ agit comme un rabais de fiabilité. Le nœu place une masse $\phi_o(x) p_o(c)$ sur la classe $c$ et une masse résiduelle $1 - \phi_o(x)$ sur l'ensemble du cadre $\Theta$ (représentant l'ignorance).
Combinaison : Les nœuds actifs sont combinés à l'aide de la règle de combinaison de Dempster.
- Dans les arbres compacts, les nœuds internes et les feuilles sont combinés.
- Dans les arbres profs, seules les feuilles sont combinées pour éviter le « problème de dépendance » où l'évidence corrélée provenant de nœuds imbriqués réduit artificiellement l'ignorance à zéro.
Prédiction :
- Prédiction ponctuelle : Dérivée de la transformée pignistique de la masse combinée.
- Prédiction par ensembles : Dérivée via la dominance d'intervalle ( $Pl(c) \ge \max_{c'} Bel(c')$ ). Si l'ensemble de prédiction couvre l'ensemble du cadre $\Theta$ , le modèle s'abstient.
- Forme analytique : Le papier dérive une expression en forme close pour la masse combinée, montrant que la combinaison répétée réduit de manière monotone l'ignorance lorsque l'évidence n'est pas vacante.

2.3 Analyse de stabilité

Les auteurs prouvent que FERL est Lipschitz stable. Les masses évidentielles non normalisées sont continues au sens de Lipschitz par rapport à l'entrée, avec une constante dépendant de la profondeur de l'arbre ( $D$ ), du nombre de nœuds combinés ( $K$ ) et de la pente maximale des appartenances floues ( $\lambda$ ). Cela garantit que de petites perturbations d'entrée entraînent des variations fluides des sorties évidentielles.

3. Contributions clés

Apprenant de règles évidentiel natif : FERL est le premier modèle qui fonctionne comme un apprenant de règles interprétable, un classifieur créal avec abstention, et un détecteur OOD en un seul passage déterministe. Il calcule la croyance, la plausibilité et l'abstention directement à partir des appartenances floues sans têtes auxiliaires ni inférences répétées.
Caractérisation en forme close : Le papier fournit un compte analytique de la construction de l'arbre et de la prédiction évidentielle, incluant un certificat de stabilité locale contrôlé par les largeurs de bandes floues et une preuve que la combinaison de nœuds imbriqués réduit de manière monotone l'ignorance.
Évaluation empirique large :
- Données tabulaires : Évalué sur 30 ensembles de données divers.
- Données d'images : Intégré dans des Modèles de Goulot d'Étranglement Conceptuel (CBM) sur les jeux de données CUB et AwA2, opérant sur des vecteurs de concepts pour fournir des diagnostics d'attributs compréhensibles par l'humain.

4. Résultats expérimentaux

4.1 Classification tabulaire

Précision vs Complexité : Sur 30 ensembles de données tabulaires, FERL-deep (200 règles) a atteint une précision moyenne de 83,2 %, surpassant de manière statistiquement significative les autres apprenants de règles (ex. : CART à 79,8 %, NeuRules à 79,3 %) et égalant plus étroitement les performances de modèles non interprétables comme les forêts aléatoires (Random Forest à 86,6 %) et le Gradient Boosting (85,6 %).
Efficacité : FERL-deep s'entraîne en 0,26s et infère en 1,5ms, ce qui est nettement plus rapide que les autres apprenants de règles évidentiels ou neuronaux (ex. : FUCS prend 140s pour l'entraînement).
Prédiction par ensembles : FERL-deep a obtenu la meilleure précision pondérée par l'utilité ( $u_{65}=0,80, u_{80}=0,83$ ) parmi les classifieurs créaux, avec une couverture d'ensemble élevée (0,92) et des tailles d'ensembles moyennes plus petites par rapport aux bases de comparaison conformes.
Détection OOD : FERL-deep a égalé les détecteurs OOD dédiés (77,7 AUROC contre 77,4 pour la distance kNN) sur des tâches de type "leave-one-class-out", tout en identifiant de manière unique quels attributs étaient anormaux.

4.2 Intégration au Goulot d'Étranglement Conceptuel (CBM)

Précision : Dans les contextes CBM, FERL-deep (avec calibration par concept) a atteint 86,28 % sur CUB-20 et 65,18 % sur CUB-200, surpassant CART et la régression logistique restreinte aux concepts.
OOD en monde ouvert : Dans les configurations de classes disjointes du détecteur, FERL est resté compétitif avec les détecteurs dédiés. Sur AwA2, il a atteint 86,2 AUROC (à moins de 2 points de kNN) et le meilleur AUPR-Out (68,3) et rejet de classe non vue (57,2 %), tout en nommant les attributs spécifiques anormaux.

5. Signification et affirmations

Le papier affirme que FERL parvient à combler le fossé entre la haute performance de classification et l'interprétabilité rigoureuse. En intéant le raisonnement évidentiel directement dans l'apprentissage de règles floues, FERL évite les pièges de la calibration post-hoc et la surcharge computationnelle de l'échantillonnage d'incertitude.

Fiabilité : Le modèle fournit un mécanisme « natif » d'abstention et de quantification de l'incertitude qui est robuste aux changements de distribution et capable de détecter des anomalies tant géométriques qu'au niveau des attributs.
Interprétabilité : Contrairement aux méthodes d'incertitude "boîte noire", l'abstention et l'incertitude de FERL sont expliquées par des règles floues et des attributs spécifiques, ce qui le rend adapté aux domaines à enjeux élevés où comprendre pourquoi un modèle est incertain est aussi important que la prédiction elle-même.
Scalabilité : La méthode est très efficace sur le plan computationnel, offrant une alternative viable aux modèles d'incertitude neuronaux complexes pour les données tabulaires et les données d'images basées sur des concepts.

Les auteurs concluent qu'une seule tête FERL peut fournir des règles auditables, une abstention évidentielle et des diagnostics de nouveauté au niveau des attributs sans avoir besoin d'un modèle d'incertitude auxiliaire.