Higher-Order Feature Attribution: Bridging Statistics, Explainable AI, and Topological Signal Processing

Sintesi Tecnica: Attribuzione di Caratteristiche di Ordine Superiore

Problematica
I metodi di attribuzione delle caratteristiche sono essenziali per l'Intelligenza Artificiale Spiegabile (XAI), con l'obiettivo di quantificare come le caratteristiche di input contribuiscano alla previsione dell'output di un modello. Sebbene i metodi di attribuzione standard (ad esempio, Integrated Gradients) funzionino bene quando le caratteristiche agiscono indipendentemente, essi incontrano limitazioni quando i modelli predittivi coinvolgono interazioni complesse, come relazioni moltiplicative o contributi congiunti. In tali casi, le attribuzioni di primo ordine standard non riescono a rilevare o isolare la natura specifica delle interdipendenze tra le caratteristiche. Gli studi esistenti spesso trattano le interazioni come secondarie o mancano di una struttura matematica unificata per rappresentare le dipendenze di ordine superiore (ad esempio, triplette di caratteristiche) insieme agli effetti di primo ordine.

Metodologia
Gli autori propongono una teoria generale dell'attribuzione di caratteristiche di ordine superiore basata sul fondamento degli Integrated Gradients (IG). L'innovazione metodologica centrale è il trattamento dell'attribuzione delle caratteristiche come un operatore lineare che agisce sullo spazio delle funzioni predittive.

1. Framework Operatore-Teorico:

   • L'attribuzione standard di primo ordine $a_i$ è definita come l'applicazione di un operatore di attribuzione $A_i$ a una funzione $f$: $a_i(x) = A_i f(x)$.
   • Le attribuzioni di secondo ordine sono definite dalla composizione di due operatori: $a_{ij}(x) = A_i A_j f(x)$. Ciò rispecchia il concetto di derivate di secondo ordine (Hessiane).
   • Le attribuzioni di ordine superiore (ad esempio, di terzo ordine $a_{ijk}$) sono similmente definite dalla composizione di $k$ operatori.

2. Derivazioni Analitiche:

   • Utilizzando la definizione di IG, gli autori derivano espressioni analitiche per questi termini di ordine superiore.
   • Dimostrano che le attribuzioni di secondo ordine coincidono con il framework degli Integrated Hessians quando $i \neq j$, e forniscono formulazioni integrali specifiche per attribuzioni ripetute ($i=j$).
   • Vengono stabilite proprietà chiave, tra cui la linearità (gli operatori sono lineari), la simmetria ($A_i A_j = A_j A_i$), la marginalizzazione (sommare le attribuzioni di secondo ordine su un indice recupera le attribuzioni di primo ordine) e la completezza (la somma di tutte le attribuzioni di ordine $k$ è uguale al cambiamento totale della previsione $f(x) - f(\tilde{x})$).

3. Connessione con l'Elaborazione di Segnali Topologici:

   • Il paper collega la XAI all'elaborazione di segnali topologici. Propone di rappresentare le attribuzioni come segnali su grafi o complessi simpliciali.
   • Le attribuzioni di primo ordine ($a_i$) sono viste come segnali sui nodi.
   • Le attribuzioni di secondo ordine ($a_{ij}$) sono viste come segnali sugli archi.
   • Le attribuzioni di ordine superiore corrispondono a segnali su strutture di dimensione superiore (ad esempio, triangoli per il terzo ordine).
   • La proprietà di completezza implica che un segnale sul nodo è uguale alla somma dei segnali degli archi adiacenti, creando una rappresentazione geometrica gerarchica delle interazioni tra le caratteristiche.

Risultati Chiave
Gli autori validano la loro teoria attraverso due esperimenti primari:

1. Esperimento su Dati Sintetici:

   • È stato creato un modello generativo con interazioni note della verità fondamentale (ground-truth), incluse un termine di terzo ordine ($3x_1x_2x_3$) e vari termini di secondo ordine.
   • Un modello di Regressione dei Processi Gaussiani (GPR) è stato addestrato su questi dati.
   • Risultati: Le attribuzioni di secondo ordine hanno recuperato con successo la struttura delle interazioni della verità fondamentale. Inoltre, la proprietà di marginalizzazione ha tenuto empiricamente: le attribuzioni di primo ordine calcolate direttamente tramite IG erano coerenti con quelle derivate sommando le attribuzioni di secondo ordine. Anche le attribuzioni di terzo ordine hanno identificato correttamente la specifica interazione di triplette presente nella verità fondamentale.

2. Valutazione Immobiliare (Dataset di Taipei):

   • Un modello lineare generalizzato con input quadratici è stato addestrato su dati relativi alle abitazioni (416 osservazioni, 6 covariate).
   • Risultati: Mentre le attribuzioni di primo ordine variavano significativamente tra i diversi campioni di case, i grafi di attribuzione di secondo ordine hanno rivelato schemi coerenti di comportamento congiunto delle caratteristiche. Nello specifico, caratteristiche come "distanza dalla metropolitana", "numero di negozi" e "latitudine" sembravano agire congiuntamente, mentre altre contribuivano in isolamento. Ciò suggerisce che il metodo può identificare gruppi di caratteristiche che interagiscono durante la previsione, anche quando i contributi individuali variano.

Significatività e Rivendicazioni
Il paper sostiene di fornire un framework matematico unificato che estende la letteratura esistente sulla XAI (specificamente Integrated Gradients e Integrated Hessians) a arbitrarie ordini di interazione.

• Unificazione Teorica: Definendo l'attribuzione tramite operatori lineari, il lavoro stabilisce una naturale struttura algebrica che permette la composizione delle attribuzioni, similmente agli operatori derivativi.
• Interpretazione Geometrica: La connessione con l'elaborazione di segnali topologici offre un nuovo modo per visualizzare e manipolare le attribuzioni delle caratteristiche come segnali di grafo, potenzialmente semplificando l'interpretazione di comportamenti di modelli complessi.
• Distinzione dal Lavoro Precedente: Gli autori distinguono il loro approccio dagli indici di interazione di Shapley e dagli Integrated Hessians enfatizzando la prospettiva operatore-teorica. Questo preserva le strutture algebriche e compositive che si relazionano con oggetti combinatori come grafi e complessi simpliciali, piuttosto che trattare le attribuzioni meramente come punteggi scalari su sottoinsiemi di caratteristiche.

Gli autori concludono che, sebbene questa sia un'indagine preliminare, il framework dimostra il potenziale per svelare nuove intuizioni su modelli complessi modellando ed esponendo esplicitamente le interazioni di caratteristiche di ordine superiore.