🤖 machine learning

Evidential Rule Learning for Interpretable Classification with Abstention

Questo articolo introduce il Fast Evidential Rule Learning (FERL), un metodo che genera modelli di regole fuzzy interpretabili capaci di fornire output evidenziali, stabilità Lipschitz fluida e astensione affidabile in un unico passaggio deterministico, ottenendo al contempo un'accuratezza allo stato dell'arte e prestazioni di rilevamento out-of-distribution robuste attraverso diversi benchmark.

Autori originali: Javier Fumanal-Idocin, Javier Andreu-Perez

Pubblicato 2026-08-07

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Javier Fumanal-Idocin, Javier Andreu-Perez

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

L'arte di sapere quando non si sa

Immaginate di camminare attraverso una foresta fitta e di imbattervi in un segnale stradale. Un segnale standard vi indica una direzione con assoluta fiducia: "Vai a sinistra". Ma cosa succederebbe se il sentiero fosse nebbioso o il cartello fosse crepato? Una guida veramente saggia non si limiterebbe a indovinare; direbbe: "Non sono sicuro, forse vai a sinistra, forse a destra, o forse dovrei solo fermarmi e dirti che non riesco a decidere". Questo è il cuore di un campo in crescita dell'informatica chiamato apprendimento automatico interpretabile (interpretable machine learning). Per anni, i computer sono stati bravissimi a fare previsioni, ma spesso agiscono come "scatole nere": forniscono una risposta senza spiegare il perché, e raramente ammettono quando sono confusi.

Per risolvere questo problema, gli scienziati stanno costruendo modelli che siano trasparenti, come una scatola di vetro trasparente dove si possono vedere gli ingranaggi in movimento. Un concetto chiave qui è l'evidenza. Pensate all'evidenza non come a un singolo voto, ma come a una collezione di indizi. Se avete un mucchio di indizi che puntano a "Sinistra", siete sicuri. Se gli indizi sono contrastanti, siete incerti. Un'altra idea fondamentale è l'astensione: la capacità di un modello di dire "Non lo so", invece di indovinare a caso. Questo è cruciale in situazioni reali, come la diagnosi medica o le auto a guida autonoma, dove un errore fatto con troppa sicurezza è molto peggio di una pausa cauta. La domanda che questo articolo affronta è semplice ma difficile: possiamo costruire un modello informatico che sia facile da capire, che faccia ipotesi accurate e che sappia esattamente quando alzare le mani e dire "Ho bisogno di più informazioni"?

Il "Fast Evidential Rule Learner" (FERL)

Entra in scena FERL (Fast Evidential Rule Learning), un nuovo metodo introdotto da Javier Fumanal-Idocin e Javier Andreu-Perez. Immaginate un detective che cerca di risolvere un mistero. I detective della vecchia scuola (come gli alberi decisionali standard) potrebbero osservare un indizio e gridare immediatamente: "È stato il maggiordomo!", anche se l'evidenza è debole. Altri detective moderni usano reti neurali complesse e invisibili che sono bravissime a indovinare, ma terribili nello spiegare come sono giunte a quella conclusione.

FERL è come un detective che tiene un taccuino molto organizzato. Utilizza regole fuzzy (sfumate), che sono come istruzioni "se-allora" flessibili. Invece di un rigido "Se la temperatura è superiore a 30°C", dice: "Se la temperatura è piuttosto calda". Mentre il detective segue un percorso attraverso il suo taccuino (un albero di regole), raccoglie indizi. Ecco il trucco magico: FERL non raccoglie solo indizi per fare una supposizione; raccoglie indizi per misurare quanto sa.

In questo sistema, ogni indizio ha una "forza di attivazione" (firing strength). Se un indizio è forte, aggiunge molto peso a un particolare sospettato (un'etichetta di classe). Se un indizio è debole o mancante, aggiunge peso all'ignoranza — l'idea che semplicemente non abbiamo ancora abbastanza informazioni. Quando il detective combina tutti gli indizi, non ottiene solo una singola risposta. Ottiene una credenza (quanto è sicuro), una plausibilità (quanto è possibile) e un insieme di possibilità. Se gli indizi sono troppo confusi, l' "ignoranza" diventa così pesante che il detective decide di astenersi e dire: "Non posso decidere".

L'articolo argomenta contro la pratica comune della "calibrazione post-hoc". Questa è come prendere una previsione finita e sicura e cercare di applicarci sopra un "punteggio di confidenza" in un secondo momento. Gli autori dimostrano che questo è spesso inaffidabile, specialmente quando il computer incontra qualcosa di nuovo (come un gatto in un mondo dove ha visto solo cani). Inveve, FERL costruisce la confidenza e la capacità di astensione direttamente nelle regole mentre apprende. È come costruire un'auto con i freni che fanno parte del motore, piuttosto che cercare di aggiungerli in seguito.

Cosa ha scoperto FERL

I ricercatori hanno testato FERL su 30 diversi dataset (collezioni di dati con numeri e categorie, come record medici o statistiche sportive). Hanno scoperto che FERL non è solo facile da leggere, ma è anche incredibilmente accurato.

Accuratezza: La versione "profonda" di FERL ha raggiunto un'accuratezza media dell'83,23% su questi 30 dataset. Questo era statisticamente migliore di quasi tutti gli altri metodi basati su regole testati, inclusi strumenti classici come CART e C4.5.
Dimensioni: Nonostante questa accuratezza, FERL era sorprendentemente piccolo. La versione "compatta" ha utilizzato meno di 6 regole per ottenere un'accuratezza del 77,77%, mentre un albero standard ha avuto bisogno di oltre 250 regole per ottenere un punteggio simile.
Il superpotere del "Non lo so": Quando i dati erano confusi o esterni a ciò che il modello aveva visto in precedenza (Out-of-Distribution), FERL non ha semplicemente indovinato male. Ha identificato correttamente la confusione. Nei test in cui doveva rilevare dati "novi" che non aveva mai visto, FERL ha raggiunto un AUROC di 77,7, che è altrettanto buono quanto i rilevatori più specializzati e complessi costruiti appositamente per questo compito.
Previsioni per insiemi: Invece di indovinare una sola risposta, FERL spesso fornisce un "insieme" di risposte probabili (ad esempio, "È o un gatto o un cane"). Quando hanno misurato quanto fossero utili questi insiemi, FERL ha ottenuto un punteggio di 0,80 (a un livello di sconto standard), superando altri metodi che erano o troppo sicuri di sé o troppo vaghi.

L'articolo ha testato FERL anche su dati di immagini, ma non guardando direttamente i pixel. Invece, hanno utilizzato un sistema che prima descriveva l'immagine usando concetti umani (come "ha le ali" o "è rosso") e poi utilizzava FERL per prendere la decisione finale. In questa configurazione, FERL poteva non solo classificare l'immagine, ma anche indicare quali attributi fossero strani o anomalie. Ad esempio, se una foto di un uccello avesse avuto "le ali" ma "niente zampe", FERL potrebbe segnalare proprio quella contraddizione.

In sintesi

FERL dimostra che non è necessario una gigantesca e confusa scatola nera per ottenere risultati intelligenti e affidabili. Usando la logica fuzzy per trasformare ogni regola in un pezzo di evidenza, il modello impara naturalmente a essere sicuro quando deve esserlo, e a dire "Non lo so" quando l'evidenza è esigua. È veloce, è piccolo ed è onesto riguardo alla propria incertezza. Gli autori suggeriscono che questo approccio offre un modo per costruire un'IA che non sia solo accurata, ma anche affidabile e trasparente, capace di spiegare le proprie decisioni e conoscere i propri limiti senza bisogno di aggiunte extra e complicate.

Sintesi Tecnica: Apprendimento di Regole Evidenziali con Astensione (FERL)

1. Definizione del Problema

I modelli di classificazione interpretabili, come gli alberi decisionali e le liste di regole, sono essenziali in domini ad alto rischio dove le decisioni devono essere giustificate. Tuttavia, i classici classificatori basati su alberi (ad es., CART, C4.5) spesso soffrono di eccessiva fiducia (overconfidence), fornendo etichette di classe rigide o distribuzioni locali senza un conto affidabile dell'evidenza che supporta la decisione. Inoltre, mancano di meccanismi per astenersi dal fare previsioni quando l'evidenza è insufficiente.

Gli approcci esistenti per migliorare l'affidabilità affrontano limitazioni significative:

Calibrazione Post-hoc: Metodi come la scalatura della temperatura o la regressione isotonica regolano le probabilità ma non quantificano l'evidenza sottostante né supportano un'astensione fondata. Spesso degradano in presenza di shift di distribuzione.
Stima dell'Incertezza: I metodi basati sul campionamento (ad es., MC-dropout) richiedono inferenze ripetute, mentre i metodi deterministici di incertezza (DUM) si affidano spesso ad architetture neurali che richiedono un fine-tuning spettrale e possono non rilevare input "near-OOD" che si sovrappongono al manifold di addestramento. Inoltre, questi metodi tipicamente restituiscono punteggi di incertezza scalari senza spiegazioni simboliche sul perché un caso sia dubbi.
Classificatori Credali: Sebbene esistano alcuni classificatori credali basati su alberi, essi spesso si affidano a stime di frequenza delle foglie imprecise, portando a una cattiva calibrazione, o richiedono complessi aggiustamenti post-hoc.

Il documento affronta la necessità di un modello che sia simultaneamente interpretabile (basato su regole), evidenziale (fornendo credenza, plausibilità e ignoranza) e capace di astensione, il tutto in un unico passaggio deterministico senza teste ausiliarie o set di calibrazione tenuti da parte.

2. Metodologia: Fast Evidential Rule Learning (FERL)

FERL è un apprenditore di alberi di regole fuzzy che integra la teoria di Dempster–Shafer (DS) direttamente nel processo di apprendimento delle regole.

2.1 Costruzione dell'Albero Fuzzy

FERL fa crescere un albero di classificazione in cui i nodi interni assegnano una caratteristica e un insieme fuzzy.

Split Fuzzy: I parametri per gli split vengono appresi utilizzando una procedura di bootstrapping per garantire la robustezza statistica. Per alberi più profondi, l'algoritmo trova tagli ottimali rispetto al Gini in campioni ripetuti per determinare una partizione fuzzy definita da una soglia mediana ( $\theta$ ) e una misura di diffusione robusta ( $h$ ).
Supporto Limitato: Per prevenire una falsa fiducia su dati fuori distribuzione (OOD), il supporto delle funzioni di appartenenza fuzzy è limitato morbidamente all'intervallo delle caratteristiche osservate durante l'addestramento. I punti che cadono al di fuori di questo intervallo vedono la loro forza di attivazione (firing strength) decadere a zero, aumentando l' "ignoranza" del modello.
Consapevolezza Geometrica: Per rilevare input near-OOD (nuove classi che si sovrappongono al manifold di addestramento), FERL modella le caratteristiche non splittate in ogni nodo utilizzando una Gaussiana diagonale pesata dalla forza di attivazione del percorso. Ciò consente l'identificazione di attributi specifici anomali.

2.2 Generazione dell'Output Evidenziale

In FERL, ogni nodo attivato $o$ emette una funzione di massa DS sul frame di discernimento $\Theta$ :

Assegnazione della Massa: La forza di attivazione $\phi_o(x)$ agisce come un discount di affidabilità. Il nodo assegna una massa $\phi_o(x) p_o(c)$ alla classe $c$ e una massa residua $1 - \phi_o(x)$ sull'intero frame $\Theta$ (rappresentando l'ignoranza).
Combinazione: I nodi attivi vengono combinati utilizzando la regola di combinazione di Dempster.
- In alberi compatti, i nodi interni e le foglie vengono combinati.
- In alberi profondi, solo le foglie vengono combinate per evitare il "problema della dipendenza", dove l'evidenza correlata dai nodi annidati riduce artificialmente l'ignoranza a zero.
Previsione:
- Previsione Puntuale: Derivata dalla trasformazione pignistica della massa combinata.
- Previsione a Valore di Insieme: Derivata tramite dominanza di intervallo ( $Pl(c) \ge \max_{c'} Bel(c')$ ). Se l'insieme di previsione copre l'intero frame $\Theta$ , il modello si astiene.
- Forma Analitica: Il documento deriva una forma chiusa per la massa combinata, mostrando che la combinazione ripetuta riduce monotonicamente l'ignoranza quando l'evidenza non è vacua.

2.3 Analisi della Stabilità

Gli autori dimostrano che FERL è Lipschitz stabile. Le masse evidenziali non normalizzate sono Lipschitz continue rispetto all'input, con una costante dipendente dalla profondità dell'albero ( $D$ ), dal numero di nodi combinati ( $K$ ) e dalla pendenza massima delle appartenenze fuzzy ( $\lambda$ ). Ciò garantisce che piccole perturbazioni dell'input risultino in variazioni fluide degli output evidenziali.

3. Contributi Chiave

Apprenditore di Regole Evidenziale Nativo: FERL è il primo modello che funziona come un apprenditore di regole interpretabile, un classificatore credale con astensione e un rilevatore OOD in un unico passaggio deterministico. Calcola credenza, plausibilità e astensione direttamente dalle appartenenze fuzzy senza teste ausiliarie o inferenze ripetute.
Caratterizzazione in Forma Chiusa: Il documento fornisce un account analitico della costruzione dell'albero e della previsione evidenziale, inclusi un certificato di stabilità locale controllato dalle larghezze delle bande fuzzy e una prova che la combinazione dei nodi annidati riduce monotonicamente l'ignoranza.
Valutazione Empirica Ampia:
- Classificazione Tabulare: Testato su 30 dataset diversificati.
- Dati Immagine: Integrato in Modelli a Collo di Bottiglia Concettuale (CBM) su dataset CUB e AwA2, operando su vettori di concetti per fornire diagnostiche di attributo comprensibili all'uomo.

4. Risultati Sperimentali

4.1 Classificazione Tabulare

Accuratezza vs. Complessità: Su 30 dataset tabulari, FERL-deep (200 regole) ha raggiunto un'accuratezza media dell'83,2%, superando statisticamente in modo significativo altri apprenditori di regole (ad es., CART al 79,8%, NeuRules al 79,3%) e avvicinandosi alle prestazioni di ensemble non interpretabili come Random Forest (86,6%) e Gradient Boosting (85,6%).
Efficienza: FERL-deep si addestra in 0,26s e inferisce in 1,5ms, significativamente più veloce di altri apprenditori di regole neurali o evidenziali (ad es., FUCS impiega 140s per l'addestramento).
Previsione a Valore di Insieme: FERL-deep ha ottenuto la migliore accuratezza scontata per utilità ( $u_{65}=0,80, u_{80}=0,83$ ) tra i classificatori credali, con una copertura di set elevata (0,92) e dimensioni medie dei set più piccole rispetto ai baseline conformali.
Rilevamento OOD: FERL-deep ha eguagliato i detector OOD dedicati (77,7 AUROC vs. 77,4 per la distanza kNN) in compiti di leave-one-class-out, identificando unicamente quali attributi erano anomali.

4.2 Integrazione con il Collo di Bott Bottiglia Concettuale (CBM)

Accuratezza: In contesti CBM, FERL-deep (con calibrazione per concetto) ha raggiunto l'86,28% su CUB-20 e il 65,18% su CUB-200, superando CART e la regressione logistica ristretta ai concetti.
OOD in Open-World: In setting con disgiunzione tra detector e classe, FERL è rimasto competitivo con i detector dedicati. Su AwA2, ha raggiunto un 86,2 AUROC (entro 2,0 punti da kNN) e il miglior AUPR-Out (68,3) e rigetto di classe non vista (57,2%), il tutto nominando gli attributi specifici anomali.

5. Significato e Rivendicazioni

Il documento sostiene che FERL riesce a colmare il divario tra classificazione ad alte prestazioni e interpretabilità rigorosa. Incorporando il ragionamento evidenziale direttamente nell'apprendimento delle regole fuzzy, FERL evita le insidie della calibrazione post-hoc e l'overhead computazionale dei metodi di incertezza basati sul campionamento.

Affidabilità: Il modello fornisce un meccanismo "nativo" per l'astensione e la quantificazione dell'incertezza che è robusto ai shift di distribuzione ed è capace di rilevare anomalie sia geometriche che di attributo.
Interpretabilità: A differenza dei metodi di incertezza black-box, l'astensione e l'incertezza di FERL sono spiegate da specifiche regole fuzzy e attributi, rendendolo adatto a domini ad alto rischio dove capire il perché un modello sia incerto è importante quanto la previsione stessa.
Scalabilità: Il metodo è computazionalmente efficiente, offrendo un'alternativa valida ai complessi modelli di incertezza neurali per dati tabulari e basati su concetti per immagini.

Gli autori concludono che una singola testa FERL può fornire regole auditabili, astensione evidenziale e diagnostica di novità a livello di attributo senza la necessità di un modello di incertezza ausiliario.