Riassunto Tecnico: I Large Language Models possono fungere da strumenti di spiegabilità post-hoc nei modelli di rischio di credito?

1. Definizione del problema

L'adozione rapida di modelli di machine learning (ML) complessi, come XGBoost e le reti neurali, nel settore FinTech ha migliorato l'accuratezza predittiva ma ha introdotto opacità, ponendo sfide per la conformità normativa (ad es. ECOA, FCRA) e la gestione del rischio. Sebbene i metodi di Explainable AI (XAI) post-hoc come SHAP e LIME forniscano attribuzioni numeriche delle caratteristiche, essi spesso mancano della chiarezza semantica e della struttura narrativa richieste dai decisori umani e dalla rendicontazione normativa.

Questo studio investiga se i Large Language Models (LLM) possano colmare questo divario fungendo da interfacce di spiegabilità post-hoc per i modelli di rischio di credito. Nello specifico, affronta due distinte domande di ricerca:

• RQ1 (LLM come Traduttore): Gli LLM sono in grado di preservare e riprodurre fedelmente le classifiche di importanza delle caratteristiche basate sul modello quando tali classifiche vengono fornite esplicitamente come input?
• RQ2 (LLM come Spiegatore Autonomo): Gli LLM possono inferire autonomamente le classifiche di importanza delle caratteristiche che si allineano con le spiegazioni basate sul modello (ad es. SHapley o coefficienti logistici) senza che le classifiche di riferimento siano fornite, basandosi esclusivamente sui dati dell'istanza e sulle strategie di prompting?

2. Metodologia

Dati e Modelli di Base

• Dataset: Un dataset di prestiti ai consumatori LendingClub (2007–2011) composto da 39.239 richiedenti di prestiti con 24 caratteristiche indipendenti. La variabile target è un indicatore binario di insolvenza del prestito (Charged Off vs. Fully Paid).
• Modelli di Base: Sono stati addestrati due modelli di rischio di credito per generare le attribuzioni di riferimento "ground-truth":
  1. Regressione Logistica: Fornisce attribuzioni lineari intrinsecamente interpretabili basate sui coefficienti.
  2. XGBoost: Un modello ensemble ad albero allo stato dell'arte che cattura le non-linearità, con attribuzioni derivate tramite SHAP (SHapley Additive exPlanations).
• Metriche di Valutazione: Le prestazioni predittive sono state valutate utilizzando PR-AUC, Macro-averaged F1-score e la statistica Kolmogorov–Kunmogorov (KS). XGBoost ha superato significativamente la Regressione Logistica (PR-AUC: 0.38 vs. 0.27; KS: 40.4 vs. 28.79).

Design Sperimentale degli LLM

Sono stati valutati tre LLM commerciali: GPT-4-turbo, Claude-Sonnet-4.5 e Gemini-2.5-Flash. Gli esperimenti hanno utilizzato l'In-Context Learning (ICL) con temperatura fissata a 0 per garantire la riproducibilità.

• RQ1 (Setting del Traduttore):

  • Input: Caratteristiche dell'istanza, probabilità predetta e la lista classificata di riferimento delle caratteristiche derivata dal modello di base.
  • Task: L'LLM deve produrre una lista classificata di caratteristiche aderendo rigorosamente all'ordine di riferimento fornito.
  • Vincolo: Formato di output JSON rigoroso; non è consentita alcuna conoscenza esterna o inferenza.
  • Metriche: Top-K Feature Overlap e coefficiente di Kendall's $\tau$.

• RQ2 (Setting dello Spiegatore Autonomo):

  • Input: Caratteristiche dell'istanza, probabilità predetta e istruzioni del compito. Nessuna classifica di riferimento fornita.
  • Strategie: Confronto tra Zero-shot (solo istruzioni) vs. Few-shot (istruzioni + due esempi dimostrativi di casi ad alto/basso rischio con le rispettive classifiche di riferimento).
  • Condizioni:
    1. Top-4: L'LLM restituisce solo le 4 caratteristiche più importanti (simulando le notifiche di azione avversa).
    2. Full-Ranking: L'LLM restituisce una classica completa di tutte le 24 caratteristiche.
  • Metriche: Top-K Overlap e Kendall's $\tau$ rispetto alle classifiche di riferimento ground-truth.

3. Risultati Chiave

RQ1: LLM come Traduttore

• Elevata Fedeltà Strutturale: Quando le classifiche di riferimento erano esplicitamente fornite, gli LLM hanno dimostrato una fedeltà quasi perfetta.
• Metriche: Per tutti gli output con schema valido, l'Overlap@K era 1.000 e il Kendall's $\tau$ era 1.000 per tutti i cutoff ($K=5, 10, 15, 20$) per entrambi i modelli di base e tutti i tre LLM.
• Robustezza: Su 3.000 esecuzioni totali, è stata osservata una sola istanza di sostituzione del nome della caratteristica (Claude-Sonnet-4.5 ha sostituito "Past 2 Months" con "Past 2 Years"). Non sono stati trovati duplicati di caratteristiche o JSON malformati.
• Conclusione: Gli LLM sono altamente affidabili nel riformattare e riprodurre le strutture di attribuzione fornite sotto vincoli rigorosi.

RQ2: LLM come Spiegatore Autonomo

• Allineamento Limitato: Senza le classifiche di riferimento, gli LLM hanno mostrato solo un parziale allineamento con le spiegazioni basate sul modello.
• Condizione Top-4:
  • Zero-shot: La media di Overlap@4 era molto bassa (ad es. 0.064–0.199 per la Regressione Logistica; 0.102–0.233 per XGBoost).
  • Few-shot: Le prestazioni sono migliorate ma sono rimaste insufficienti per un uso autonomo. Per la Regressione Logistica, GPT-4-turbo è migliorato a 0.515, ma per XGBoost i miglioramenti sono stati marginali (massimo 0.383).
  • Osservazione: Il prompting few-shot ha aiutato a recuperare meglio le strutture lineari (Regressione Logistica) rispetto alle complesse interazioni non lineari (XGBoost).
• Condizione Full-Ranking:
  • Validità dello Schema: Gemini-2.5-Flash ha spesso fallito nel generare liste complete di 24 caratteristiche sotto prompt lunghi, producendo output troncati.
  • Allineamento: Anche per gli output validi (GPT-4-turbo, Claude-Sonnet), l'Overlap@K è migliorato con il prompting few-shot (ad es. l'O@5 della Regressione Logistica è passato da ~0.39 a ~0.61), ma non ha mai raggiunto la perfezione.
  • Consistenza dell'Ordinamento: I valori di Kendall's $\tau$ sono rimasti modesti (per lo più < 0.4), indicando che, sebbene gli LLM possano identificare alcune caratteristiche rilevanti, non riescono a preservare l'ordine relativo corretto della struttura di attribuzione completa.

4. Contributi Principali e Asserzioni

Risultati Primari

Lo studio stabilisce una chiara distinzione tra gli LLM come interfacce narrative rispetto a spiegatori autonomi:

1. Affidabilità come Traduttori: Gli LLM possono riprodurre in modo affidabile le classifiche basate sul modello quando queste sono fornite come input. Funzionano efficacemente come "interfacce narrative" che convertono le attribuzioni quantitative in formati leggibili dagli esseri umani senza alterare la logica sottostante.
2. Inaffidabilità come Spiegatori Autonomi: Gli LLM non possono inferire in modo affidabile le classifiche di importanza delle caratteristiche che corrispondano a complessi modelli di rischio di credito (specialmente quelli non lineari come XGBoost) basandosi solo sui dati di input e sui prompt. I loro output sono guidati da prior generalizzati del dominio e pattern linguistici piuttosto che dalla specifica struttura del modello addestrato.

Significato per la Governance del Rischio di Credito

• Non un Sostituto per la XAI Formale: Il documento sostiene che gli LLM non dovrebbero sostituire i metodi di attribuzione formali (come SHAP o la decomposizione dei coefficienti) nella governance del rischio di credito. Le spiegazioni autonome degli LLM potrebbero selezionare fattori plausibili che non riflettono la reale logica decisionale del modello approvato, introducendo rischio di modello.
• Deployment Orientato alla Governance: Il caso d'uso raccomandato è un workflow ibrido: i metodi XAI formali generano le classifiche di attribuzione verificabili, e gli LLM servono come interfaccia per tradurre tali classifiche in narrazioni coerenti e informate sul dominio per gli stakeholder.
• Limitazioni: Lo studio riconosce alcune limitazioni, tra cui l'uso di un singolo dataset, il focus sull'allineamento delle classifiche piuttosto che sugli esiti per l'utente e la mancanza di test di stress per perturbazione (ad es. classifiche rimescolate).

Conclusione

Il documento conclude che, sebbene gli LLM offrano promesse per migliorare l'accessibilità delle spiegazioni del rischio di credito, attualmente mancano della fedeltà necessaria per servire come fonti indipendenti di responsabilità esplicativa. Il loro ruolo dovrebbe essere limitato alla formattazione e alla narrazione di attribuzioni pre-calcolate e verificabili, piuttosto che alla loro inferenza autonoma.