🤖 machine learning

Beyond Explaining Predictions: Logic-Based Explanations for Confidence in Machine Learning Models

Questo articolo introduce spiegazioni abduttive sensibili alla confidenza e un framework di Soglia di Confidenza Minima (MCT) per generare sottoinsiemi di caratteristiche minimi che garantiscano sia la classe predetta sia un livello di confidenza specificato dall'utente, affrontando così il limite delle tradizionali spiegazioni basate sulla logica che spesso non riescono a preservare la confidenza originale del modello.

Autori originali: Vinícius Peixoto Chagas, Carlos Henrique Leitão Cavalcante, Thiago Alves Rocha

Pubblicato 2026-06-10

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Vinícius Peixoto Chagas, Carlos Henrique Leitão Cavalcante, Thiago Alves Rocha

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un robot medico molto intelligente, ma un po' misterioso. Gli chiedi: "Ho il raffreddore?" e lui risponde: "Sì".

Ora, vorresti sapere perché pensa che sia così. Una spiegazione standard potrebbe dire: "Perché hai il naso che cola e la febbre". Questo è utile, ma è incompleto. Non ti dice quanto il robot sia sicuro. Forse il robot è sicuro al 99% perché i sintomi sono classici. O forse è sicuro solo al 51% perché quei sintomi potrebbero anche indicare tutt'altro.

Questo articolo introduce un nuovo modo per chiedere al robot una spiegazione che includa il suo livello di confidenza.

Ecco la suddivisione della loro idea utilizzando semplici analogie:

1. Il Probleo: La trappola della "Zona Sicura"

Gli autori esaminano un tipo popolare di IA chiamato Gradient-Boosted Trees (pensa a questi come a un team di molti piccoli decisori che votano sulla risposta).

Attualmente, quando queste IA spiegano le loro risposte, utilizzano qualcosa chiamato Spiegazione Abduttiva.

L'analogia: Immagina che l'IA disegni un cerchio attorno al tuo caso specifico su una mappa. Dice: "Se sei all'interno di questo cerchio, dirò sicuramente 'Sì'".
Il difetto: Il cerchio potrebbe essere enorme. Include il tuo caso (dove l'IA è sicura al 99%), ma include anche casi proprio sul bordo del cerchio dove l'IA è appena sicura (sicura al 51%).
Il rischio: Se ti affidi alla spiegazione, potresti pensare che l'IA sia sicura di tutto ciò che sta dentro quel cerchio. Ma in realtà, l'IA trema per l'incertezza per i casi sul bordo. La spiegazione standard nasconde questa debolezza.

2. La Soluzione: La "Soglia di Confidenza Minima" (MCT)

Gli autori propongono un nuovo concetto chiamato Soglia di Confidenza Minima (MCT).

L'analogia: Invece di disegnare semplicemente un cerchio che garantisce che la risposta sia "Sì", chiedono all'IA di disegnare un cerchio che garantisca che la risposta sia "Sì" E che l'IA sia sicura almeno del 90% di ogni singolo punto all'interno di quel cerchio.
Come funziona: L'IA cerca l'anello debole nella sua catena all'interno del cerchio. Se c'è anche un solo punto all'interno del cerchio dove l'IA è sicura solo al 51%, quel cerchio è troppo grande. L'IA deve rimpicciolire il cerchio finché il punto meno sicuro all'interno di esso non è comunque al di sopra della tua linea di sicurezza richiesta (ad esempio, il 90%).

3. Il Compromesso: Cerchi più grandi per garanzie più sicure

Per rendere il cerchio più sicuro (confidenza più alta), l'IA deve essere più specifica.

L'analogia: Se l'IA dice: "Sono sicura perché hai la febbre", questo copre molte persone (alcune delle quali per le quali l'IA non è sicura).
La soluzione: Per raggiungere quel livello di confidenza del 90%, l'IA potrebbe dover dire: "Sono sicura perché hai la febbre, E il naso che cola, E tossisci da tre giorni".
Il risultato: La spiegazione diventa leggermente più lunga (più caratteristiche), ma la garanzia è molto più forte. Sai che chiunque corrisponda a questa descrizione più lunga si trova sicuramente nella zona ad "alta confidenza".

4. La Sorpresa: A volte non serve aggiungere altro

I ricercatori hanno testato questo metodo su dati reali (come prevedere se un'email è spam o se un fungo è commestibile). Hanno scoperto due cose interessanti:

Le spiegazioni standard sono spesso "deboli": I cerchi tradizionali spesso includevano casi molto incerti e a bassa confidenza, anche quando la persona specifica oggetto della spiegazione era ad alta confidenza.
Si possono ottenere garanzie più forti senza allungare l'elenco: A volte, l'IA può trovare una diversa combinazione di caratteristiche che crea un cerchio più piccolo e compatto con una confidenza maggiore, senza dover aggiungere condizioni extra. È come trovare un percorso migliore attraverso un labirinto che è altrettanto breve ma molto più sicuro.

Riassunto

In breve, questo articolo ci insegna come chiedere ai modelli di IA: "Non dirmi solo cosa hai deciso; dimmi quanto sei sicuro di tutto il gruppo di persone che somiglia a me."

Hanno creato un metodo per costringere l'IA a rimpicciolire la sua "zona di spiegazione" finché non è sicura di tutti quelli che ci sono all'interno. Questo rende il ragionamento dell'IA molto più affidabile, specialmente per decisioni importanti dove essere "appena sicuri" non è sufficiente.

Sintesi Tecnica: Oltre la spiegazione delle predizioni: Spiegazioni basate sulla logica per la fiducia nei modelli di Machine Learning

Problema

I modelli di machine learning, in particolare in domini critici come la sanità e la finanza, sono sempre più chiamati a fornire non solo predizioni accurate, ma anche indicatori affidabili di incertezza. Sebbene le spiegazioni abduttive basate sulla logica (AXp) siano emerse come un metodo rigoroso per l'interpretabilità, offrendo garanzie formali di correttezza e minimalità, esse possiedono un limite critico: si concentrano esclusivamente sulla preservazione della classe predetta.

Le tradizionali AXp identificano sottoinsiemi minimi di caratteristiche sufficienti a garantire che qualsiasi istanza che soddisfi tali condizioni riceva la stessa classificazione dell'istanza originale. Tuttavia, esse non tengono conto della fiducia predittiva del modello. Di conseguenza, una singola spiegazione abduttiva può coprire un insieme di istanze che include sia predizioni altamente sicure sia quelle situate molto vicino al confine di decisione (alta incertezza). In applicazioni ad alto rischio, ciò può portare a un eccesso di fiducia, poiché gli utenti potrebbero presumere che tutte le predizioni giustificate siano ugualmente affidabili, oscurando i reali limiti del modello.

I metodi di spiegazione che tengono conto dell'incertezza si affidano spesso a tecniche di attribuzione o perturbazione che stimano l'incertezza, ma mancano di garanzie formali riguardo all'insieme di istanze coperte. Essi tipicamente stimano l'incertezza di una spiegazione piuttosto che vincolare la spiegazione per garantire un livello minimo di fiducia tra tutte le istanze coperte.

Metodologia

1. Soglia Minima di Fiducia (Minimum Confidence Threshold - MCT)

Gli autori introducono il concetto di Soglia Minima di Fiducia (MCT) per quantificare la più debole garanzia di fiducia fornita da una spiegazione abduttiva.

Definizione: Per una data spiegazione $\mathcal{E}$ $E$ , la MCT è il punteggio di predizione più vicino al confine di decisione tra tutte le istanze che soddisfano $\mathcal{E}$ $E$ .
- Per la classe $+1$ , $MCT(\mathcal{E}) = \min_{\mathcal{E} \subseteq \mathbf{x}'} S(\mathbf{x}')$ .
- Per la classe $-1$, $MCT(\mathcal{E}) = \max_{\mathcal{E} \subseteq \mathbf{x}'} S(\mathbf{x}')$ .
Significato: La MCT rappresenta la fiducia predittiva peggiore (worst-case) per l'insieme di istanze coperte dalla spiegazione. Viene calcolata formulando un problema di ottimizzazione sull'espressione simbolica del punteggio di predizione del modello, soggetto ai vincoli della codifica del modello e alle assegnazioni delle caratteristiche nella spiegazione.

2. Spiegazioni Abduttive Consapevoli della Fiducia (Confidence-Aware)

Costruendo sulla MCT, il documento propone spiegazioni abduttive consapevoli della fiducia. Queste sono sottoinsiemi minimi di caratteristiche che garantiscono non solo la preservazione della classe predetta, ma anche che il punteggio di predizione per qualsiasi istanza soddisfacente soddisfi una soglia $\tau$ specificata dall'utente.

Formulazione: Una spiegazione $\mathcal{E}$ $E$ è consapevole della fiducia rispetto a $\tau$ $τ$ se è una spiegazione abduttiva e:
- $MCT(\mathcal{E}) \geq \tau$ (per la classe $+1$ )
- $MCT(\mathcal{E}) \leq \tau$ (per la classe $-1$)
Vincoli di Soglia: La soglia $\tau$ è vincolata dal punteggio di predizione dell'istanza originale che viene spiegata, poiché l'istanza originale deve soddisfare la spiegazione. Pertanto, $\tau$ non può richiedere un livello di fiducia superiore al punteggio dell'istanza stessa.

3. Approccio Algoritmico

Gli autori adattano la procedura standard di rimozione delle caratteristiche utilizzata per calcolare le tradizionali AXp (Algoritmo 1) per incorporare i vincoli di fiducia (Algoritmo 2).

Processo: Partendo dall'istanza completa, le caratteristiche vengono rimosse iterativamente. Una caratteristica viene rimossa solo se il sottoinsieme di caratteristiche risultante soddisfa ancora la soglia di fiducia $\tau$ definita dall'utente.
Ottimizzazione: In ogni passaggio, l'algoritmo calcola la MCT della spiegazione candidata utilizzando solver di ottimizzazione (specificamente Z3 per il problem solving SMT).
Monotonicità: L'approccio si basa sulla monotonicità della condizione di consapevolezza della fiducia: se un sottoinsieme di caratteristiche non soddisfa la soglia di fiducia, qualsiasi ulteriore riduzione (sottoinsiemi di quel sottoinsieme) fallirà anch'essa. Ciò assicura che l'algoritmo termini con una spiegazione minimale.
Raffinamento: Il documento discute anche una strategia per ricalcolare le spiegazioni da zero sotto vincoli di fiducia più stretti, invece di estendere incrementalmente le spiegazioni esistenti. Ciò consente alla ricerca di trovare sottoinsiemi minimi alternativi che possano offrire migliori garanzie di fiducia senza necessariamente aumentare la dimensione della spiegazione.

Contributi Chiave

Identificazione di un gap: Il documento dimostra che le tradizionali spiegazioni abduttive forniscono spesso garanzie di fiducia sostanzialmente più deboli rispetto alla fiducia dell'istanza specifica che viene spiegata, potenzialmente tracciando in errore gli utenti in scenari ad alto rischio.
Concetto di MCT: Introduzione della Soglia Minima di Fiducia come metrica formale per quantificare la più debole garanzia di fiducia di una spiegazione.
Framework Consapevole della Fiducia: Proposta di una nuova classe di spiegazioni che impongono soglie di fiducia definite dall'utente mantenendo le garanzie formali di correttezza e minimalità.
Implementazione Algoritmica: Sviluppo di un algoritmo (Algoritmo 2) che integra il calcolo della MCT nel processo di generazione della spiegazione, formulato come un problema di ottimizzazione sulle rappresentazioni logiche di Gradient-Boosted Trees (GBT).
Validazione Empirica: Valutazione sperimentale che mostra come le spiegazioni consapevoli della fiducia migliorino costantemente le garanzie di fiducia minima con solo un modesto aumento della lunghezza della spiegazione e, in molti casi, possono raggiungere garanzie più forti senza aumentare affatto la cardinalità della spiegazione.

Risultati Sperimentali

Il framework è stato valutato su compiti di classificazione binaria utilizzando Gradient-Boosted Trees (XGBoost) su quattro dataset di riferimento: MAGIC, Adult, Mushroom e Spambase.

Debolezza del Baseline: Le tradizionali spiegazioni abduttive fornivano frequentemente garanzie di fiducia (MCT) significativamente inferiori alla fiducia dell'istanza originale. In molti casi, i valori MCT trasformati erano vicini a 0.5 (il confine di decisione), anche per predizioni altamente sicure.
Miglioramento con i Vincoli: L'applicazione di vincoli di consapevolezza della fiducia (ad esempio, richiedendo il 50% o il 75% del punteggio di predizione originale) ha spostato costantemente i valori MCT lontano dal confine di decisione, indicando garanzie di fiducia più forti.
Analisi del Trade-off:
- Dimensione della Spiegazione: Requisiti di fiducia più stretti portano generalmente a spiegazioni più lunghe (più caratteristiche). Tuttavia, l'aumento è spesso modesto rispetto al numero totale di caratteristiche. Ad esempio, nel dataset Spambase (57 caratteristiche), una soglia del 75% ha aumentato la lunghezza media della spiegazione da 13.25 a 19.12 caratteristiche, una crescita relativa di circa il 10%, migliorando significativamente la fiducia.
- Preservazione della Cardinalità: Un risultato significativo (RQ3) è che le garanzie di fiducia più forti non richiedono sempre spiegazioni più grandi. Lo studio ha scoperto che per una percentuale sostanziale di istanze (dall'1% al 34% a seconda del dataset e della classe), potevano essere trovate spiegazioni alternative con la stessa cardinalità della AXp originale che offrivano garanzie di fiducia strettamente migliori. Ciò valida la strategia di ricalcolare le spiegazioni da zero piuttosto che semplicemente estendere quelle esistenti.

Significato e Rivendicazioni

Il documento afferma che il metodo proposto è particolarmente adatto per applicazioni in cui sia la correttezza predittiva che la fiducia sono essenziali per un processo decisionale affidabile. Integrando le garanzie di fiducia direttamente nel processo di spiegazione logica, il framework permette agli utenti di scambiare esplicitamente la sinteticità della spiegazione con garanzie di fiducia più forti.

Gli autori sottolineano che il loro lavoro affronta un limite specifico dell'attuale XAI: la mancanza di garanzie formali riguardo l'affidabilità dell'insieme di istanze coperte da una spiegazione. A differenza dei metodi che si limitano a stimare l'incertezza, questo approccio vincola la generazione della spiegazione per garantire che ogni istanza che soddisfa la spiegazione soddisfi uno standard minimo di fiducia.

Il documento rimane modesto nel suo ambito, notando che, sebbene il metodo sia stato dimostrato su Gradient-Boosted Trees, l'approccio è applicabile a qualsiasi modello che fornisca punteggi di fiducia. Suggerisce che il lavoro futuro potrebbe estendere questi concetti alla classificazione multiclasse e ad altri formalismi di spiegazione basati sulla logica, ma non rivendica l'immediata applicabilità a tali domini senza ulteriori ricerche.