Rule-Based Explanations for Retrieval-Augmented LLM Systems

Titolo: Spiegazioni Basate su Regole per Sistemi LLM Potenziati dal Recupero (RAG)

1. Il Problema

I modelli linguistici su larga scala (LLM) potenziati dal recupero (Retrieval-Augmented Generation o RAG) stanno diventando sempre più comuni, poiché permettono di integrare conoscenze dinamiche e esterne al momento dell'inferenza. Tuttavia, questo introduce complessità nella tracciabilità (provenance) delle informazioni: è difficile determinare quali documenti recuperati abbiano influenzato specificamente la risposta generata dal modello.

Le tecniche esistenti di Explainable AI (XAI) presentano limitazioni in questo contesto:

• Attribuzione delle caratteristiche (Feature Attribution): Assegna punteggi di importanza ma non è "azionabile" (non suggerisce come modificare l'input per cambiare l'output).
• Spiegazioni Controfattuali: Identificano perturbazioni minime per cambiare l'output, ma possono generare un numero eccessivo di spiegazioni contraddittorie, sopraffacendo l'utente.
• Mancanza di regole esatte: Non esistono framework che applichino regole "if-then" esatte per spiegare come la presenza o l'assenza di fonti specifiche in un sistema RAG determini un output specifico.

2. Metodologia e Formulazione

Gli autori propongono il primo framework per generare spiegazioni basate su regole per sistemi RAG "black-box". L'obiettivo è identificare condizioni (predicati sugli input) che garantiscono con certezza un determinato output.

• Definizione di Regola: Una regola è una congiunzione di predicati sugli input (fonti RAG) tale che, se soddisfatta, il modello genera sempre un output che soddisfa un predicato di output definito dall'utente (es. "risposta errata", "allucinazione", "sentimento negativo").
• Due Varianti di Regole:
  1. Regole di Retenzione (Retention Rules): Identificano un sottoinsieme di fonti che, se incluso, garantisce sempre un certo output.
  2. Regole di Omissione (Omission Rules): Identificano un sottoinsieme di fonti che, se escluso, garantisce sempre un certo output.
• Validità Recorsiva: Una regola è valida solo se l'output desiderato si verifica per tutti i possibili sottoinsiemi che contengono (o non contengono) le fonti specificate. Questo crea una struttura gerarchica basata sull'insieme delle parti (power set) delle fonti.

3. Algoritmi di Mining delle Regole

Per esplorare lo spazio delle possibili combinazioni di fonti (che cresce esponenzialmente, $2^{|s|}$), gli autori propongono due algoritmi ottimizzati ispirati all'algoritmo Apriori per il mining di regole di associazione, ma adattati per la validità esatta delle regole AI:

1. Mono Rule Miner:
   • Cerca un solo tipo di regola (retrizione o omissione) in un singolo passaggio.
   • Utilizza una ricerca in ampiezza (BFS) top-down sulla reticolo (lattice) delle combinazioni.
   • Ottimizzazioni:
     • Programmazione Dinamica: Memorizza la validità dei nodi genitori per evitare ricalcoli.
     • Terminazione Anticipata (Pruning): Se un nodo (combinazione di fonti) è invalido, tutti i suoi discendenti (sottoinsiemi più piccoli) vengono scartati immediatamente, poiché non possono essere validi.
2. Dual Rule Miner:
   • Cerca simultaneamente entrambi i tipi di regole (retrizione e omissione) in un unico passaggio.
   • Utilizza una rappresentazione a "maschera" per interpretare lo stesso sottoinsieme di fonti in due modi opposti (incluso vs. escluso).
   • È più efficiente dell'esecuzione sequenziale di due passate Mono, evitando di valutare due volte gli stessi nodi del reticolo, sebbene il pruning sia leggermente meno aggressivo rispetto a Mono.

4. Risultati Sperimentali

Gli autori hanno valutato gli algoritmi sia in scenari reali (dataset HotpotQA) che sintetici, utilizzando diversi LLM commerciali (GPT-5 Mini, Gemini 2.5 Flash, Claude Haiku 4.5).

• Efficienza e Scalabilità:
  • Gli algoritmi proposti riducono drasticamente il numero di chiamate all'LLM rispetto a un approccio "brute force" (che valuterebbe tutte le $2^{|s|}$ combinazioni).
  • Con un numero di fonti $|s| \le 10$, è possibile trovare tutte le regole in pochi minuti.
  • Il pruning elimina fino al 70% dei nodi nel caso di regole di omissione e 50% per le regole di retenzione nel setting reale.
  • Il Dual Rule Miner è più efficiente della somma di due passate Mono, specialmente per insiemi di fonti più piccoli.
• Robustezza:
  • Nonostante la natura stocastica degli LLM, le regole "esatte" (con 100% di confidenza) sono state trovate con alta precisione e recall, specialmente quando si utilizza una strategia di voto a maggioranza su più campioni.
  • Il "LLM-as-a-judge" utilizzato per valutare la correttezza delle risposte ha mostrato un'affidabilità del 98.89% in precisione e 100% in recall.
• Casi d'Uso:
  • Sanità: Identificazione di documenti medici che, se inclusi, portano l'LLM a raccomandare trattamenti non efficaci o pericolosi (es. integratori di calcio per il Long COVID).
  • Sicurezza AI (Red Teaming): Rilevamento di combinazioni specifiche di fonti avversarie che, se combinate, permettono di aggirare le misure di sicurezza e indurre l'LLM a generare contenuti dannosi (es. injection di prompt).

5. Contributi Chiave

1. Nuova Formulazione Teorica: Prima proposta di spiegazioni basate su regole esatte per sistemi RAG, definendo formalmente le regole di retenzione e omissione.
2. Algoritmi Efficienti: Sviluppo di algoritmi di mining che sfruttano la proprietà di chiusura discendente (monotonia) per ridurre lo spazio di ricerca, rendendo fattibile l'analisi anche con diverse fonti di input.
3. Validazione Empirica: Dimostrazione pratica che queste spiegazioni sono utili per identificare fonti di errore, bias o vulnerabilità di sicurezza in scenari reali, offrendo insight azionabili per sviluppatori e auditor.

6. Significato e Impatto

Questo lavoro colma un vuoto significativo nella spiegabilità dei sistemi LLM moderni. A differenza delle spiegazioni approssimative o puramente locali, le regole basate su fonti offrono una garanzia di certezza: se una regola è valida, l'output si verificherà sempre in quelle condizioni. Questo è fondamentale per:

• Debugging: Identificare esattamente quali documenti nel database causano allucinazioni o risposte errate.
• Sicurezza: Rilevare vulnerabilità combinatorie negli input che potrebbero essere sfruttati per attacchi.
• Conformità: Fornire audit trail chiari su come le decisioni dell'AI sono state influenzate dai dati esterni.

In sintesi, il paper trasforma l'analisi dei sistemi RAG da un processo euristico a uno sistematico e matematicamente fondato, permettendo agli utenti di comprendere e controllare il comportamento dei modelli attraverso la manipolazione delle fonti di conoscenza.