Riepilogo Tecnico di AnTenA: Sistema di Analisi Tensoriale Azionabile e Spiegabile con Large Language Models

Problematica

Spiegare accuratamente i pattern nascosti all'interno di dati multi-aspetto (tensoriali) si è tradizionalmente basato su etichette e metadati ausiliari. Tuttavia, questo approccio affronta limitazioni significative negli scenari reali: i metadati possono essere inaccurati (non standard o inconsistenti), insufficienti (ad esempio, dati tabulari statici per registrazioni temporali) o del tutto assenti. Inoltre, gli esistenti framework di Explainable AI (XAI) si concentrano spesso sul fornire spiegazioni dei processi decisionali di modelli supervisionati "black-box", piuttosto che fornire intuizioni sulle strutture dei dati sottostanti stesse. Nel dominio del data mining tensoriale, i componenti latenti derivati dalla decomposizione sono intrinsecamente difficili da interpretare perché catturano interazioni multi-direzionali complesse, e fare affidamento esclusivamente su metadati obsoleti o incompleti può portare a spiegazioni disallineate.

Metodologia

Gli autori propongono AnTenA (AnTenA: Actionable and Explainable Tensor Analysis System), un sistema demo che sfrutta i Large Language Models (LLM) per generare spiegazioni in linguaggio naturale per i pattern latenti estratti dalla decomposizione tensoriale. L'architettura del sistema consiste in due moduli primari:

1. Modulo di Analisi Tensoriale

Questo modulo estrae componenti latenti interpretabili utilizzando modelli di decomposizione tensoriale.

• Modelli: Il sistema supporta la decomposizione CP (CANDECOMP/PARAFAC), nota per la sua semplicità, e NeAT, un modello tensoriale neurale che mantiene la struttura CP pur catturando pattern latenti non lineari tramite reti neurali applicate a ciascun componente.
• Vincoli: Per migliorare l'interpretabilità, i modelli incorporano vincoli di non-negatività (assicurando che i valori dei fattori siano non negativi affinché le magnitudo siano significative) e di ortogonalità (assicurando che i fattori rimangano distinti).
• Output: Il modulo produce un insieme di componenti latenti che rappresentano pattern co-clusterizzati attraverso diverse modalità del tensore.

2. Modulo di Spiegazione (Explainer Module)

Questo modulo utilizza gli LLM per tradurre i componenti matematici latenti in narrazioni leggibili dall'uomo.

• Input: L'LLM riceve le entità top-K per ogni modalità, i corrispondenti valori dei fattori, le metriche di decomposizione (errore di ricostruzione, Factor Match Score [FMS]) e metadati opzionali.
• Strategie di Prompting:
  • Prompt Task-Agnostic: Istruiscono l'LLM a descrivere i pattern nascosti in modo generale, fornendo una panoramica ampia.
  • Prompt Task-Specific: Guidano l'LLM nell'interpretare i pattern nel contesto di compiti specifici (ad esempio, suggerendo raccomandazioni di film basate sui componenti di MovieLens o prevedendo tendenze della ricerca basate sui co-cluster di DBLP).
• Valutazione dell'Affidabilità (Compiti di Inferenza): Per valutare la credibilità delle spiegazioni dell'LLM, il sistema impiega due compiti di inferenza motivati dal lavoro precedente [11]:
  • Inferenza Forward: All'LLM viene chiesto di predire entità che appartengono logicamente a un dato componente ma che mancano dalla sua lista top-K. Questo testa la capacità del modello di recuperare entità plausibili da un pool costruito (top-50 entità attraverso tutti i componenti).
  • Inferenza Backward: All'LLM viene chiesto di identificare un'entità "falsa" iniettata in un componente. Queste entità false sono selezionate tra la top-K di un componente distinto (misurato tramite FMS), testando la capacità del modello di rilevare inconsistenze all'interno di un piccolo set.

Dimostrazione del Sistema

Il paper dimostra AnTenA utilizzando due dataset reali: MovieLens-Belief-2024 e DBLP (dati di pubblicazioni accademiche). L'interfaccia consente agli utenti di:

1. Selezionare dataset e modelli (CP o NeAT) con specifici vincoli e iperparametri.
2. Visualizzare i risultati della decomposizione, inclusi gli errori di ricostruzione (nRE, RMSE) e la similarità dei componenti (FMS).
3. Visualizzare heatmap dei valori dei fattori top-K e riepiloghi dei co-cluster.
4. Osservare le spiegazioni generate dall'LLM (sia task-agnostic che task-specific) e i risultati dei controlli di affidabilità dell'inferenza forward/backward.

Contributi Chiave

• Spiegazione Tensoriale Basata su LLM: L'introduzione di un sistema che utilizza gli LLM per spiegare i componenti latenti estratti dalla decomposizione tensoriale, andando oltre la dipendenza da potenzialmente fallaci metadati ausiliari.
• Interpretabilità Migliorata: L'integrazione di vincoli di non-negatività e ortogonalità nei modelli tensoriali (CP e NeAT) per garantire che i valori dei fattori siano significativi e distinti.
• Framework Dual-Prompt: L'implementazione di un prompting sia task-agnostic che task-specific per bilanciare intuizioni generali con raccomandazioni azionabili e specifiche del dominio.
• Valutazione dell'Affidabilità: La proposta di compiti di inferenza forward e backward progettati specificamente per valutare la qualità e la coerenza delle spiegazioni generate dall'LLM nel contesto dell'analisi tensoriale.

Significato e Rivendicazioni

Il paper posiziona AnTenA come un passo verso una XAI più intuitiva e direttamente interpretabile per il mining tensoriale non supervisionato. Gli autori affermano che, sfruttando la vasta conoscenza e le capacità di ragionamento degli LLM, il sistema può identificare sfumature nelle interazioni multi-direzionali che i metodi tradizionali basati su metadati perdono. L'inclusione dei compiti di inferenza è evidenziata come un meccanismo per migliorare la affidabilità e la credibilità delle spiegazioni generate. Il sistema è presentato come uno strumento demo che facilita l'analisi di tensori reali, offrendo sia una panoramica generale dei pattern dei dati sia intuizioni specifiche e azionabili a seconda delle necessità dell'utente.

Nota: Il paper non afferma di aver risolto tutte le sfide della XAI o di aver proposto nuovi limiti teorici per la decomposizione tensoriale; piuttosto, si concentra sull'applicazione pratica degli LLM per interpretare i risultati della decomposizione esistente e validare tali interpretazioni attraverso compiti di inferenza specifici.