Sintesi Tecnica: TREETRACER – Esporre l'Inespresso tramite l'Aggregazione Stocastica dei Percorsi

Definizione del Problema

I Large Language Models (LLM) generano testo attraverso processi stocastici, producendo una distribuzione di probabilità su possibili token successivi piuttosto che un singolo output deterministico. Gli attuali metodi di auditing dei bias affrontano limitazioni significative in questo contesto:

• Insufficienza del Singolo Output: Gli approcci standard spesso si basano sull'ispezione di una singola sequenza generata o su metriche automatizzate statiche (es. perplexity, BLEU). Questi metodi oscurano le distribuzioni di probabilità sottostanti e non riescono a catturare i bias nascosti nei rami di generazione a bassa probabilità.
• Limitazioni dei Template Statici: I dataset di bias fondamentali utilizzano spesso template di frasi rigidi e predefiniti. La ricerca indica che questi falliscono nel catturare la diversità dei contesti del mondo reale e delle variazioni sintattiche dove il bias si manifesta naturalmente, spesso elicitando comportamenti sintattici predefiniti piuttosto che rivelare vere associazioni semantiche.
• Scalabilità della Visualizzazione: Gli strumenti di analisi visiva esistenti per la generazione di testo (es. Beam Search Trees) faticano a riassumere centinaia di complessi percorsi di generazione stocastica in una vista condensata e leggibile senza perdere dettagli strutturali o chiarezza cognitiva.

La sfida centrale è sviluppare un metodo che automatizzi la generazione e la classificazione semantica di casi di test diversificati, consentendo al contempo agli esperti umani di analizzare visivamente le distribuzioni di probabilità aggregate per rilevare danni rappresentazionali sistemici.

Metodologia: Pipeline TREETRACER

Il documento introduce TREETRACER, un approccio di visual analytics progettato per valutare il bias degli LLM attraverso l'aggregazione comparativa. Il sistema impiega una pipeline di perturbazione sistematica composta da sei fasi computazionali:

1. Augmentation del Prompt e Iniezione di Ontologie:

   • Il sistema isola le variabili semantiche in un prompt base sostituendo un token target con sostituti tratti da un'ontologia semantica (es. "Nomi Maschili" vs. "Nomi Femminili").
   • Le ontologie sono generate tramite query BFS su ConceptNet o tramite LLM istruiti (instruction-tuned).
   • Un meccanismo Human-in-the-Loop permette agli utenti di modificare, rimuovere o creare ontologie personalizzate per prevenire ambiguità circolari e garantire il controllo umano sui parametri analitici.

2. Generazione del Testo e Allineamento dei Token:

   • Il sistema esegue la generazione del testo per tutti i prompt aumentati utilizzando inferenza locale o API esterne.
   • Registra il testo generato, le probabilità a livello di token e i metadati.
   • Fusione dei Subtoken (Subword Token Merging): Per gestire i tokenizer a subword (es. BPE), la pipeline fonde i subtoken in parole intere, calcolando la media geometrica delle loro probabilità per evitare di penalizzare le parole più lunghe.

3. Parsing della Costituenza:

   • Gli output generati vengono analizzati in alberi di costituenza utilizzando la libreria NLP Stanza per creare una rappresentazione grammaticale unificata.
   • Un algoritmo di allineamento mappa i tag part-of-speech del parser nuovamente ai token basati su spazi bianchi originali per risolvere le discrepanze di tokenizzazione.

4. Clustering Strutturale:

   • Per affrontare il disordine visivo, il sistema rimuove il contenuto lessicale dagli alberi per creare "stringhe scheletriche" (solo tag strutturali).
   • Questi scheletri vengono raggruppati tramite clustering agglomerativo con Tree Edit Distance (TED) o euristiche (Levenshtein, N-gram Jaccard).
   • Il sistema mantiene i top-$k$ strutture grammaticali più frequenti per formare l'ossatura visiva, scartando gli outlier a bassa frequenza per mantenere la chiarezza visiva. Un set completo di tutte le frasi è invece conservato separatamente per i calcoli della probabilità globale.

5. Classificazione Semantica:

   • Invece di dizionari statici, il sistema utilizza un metodo di Classificazione Contestuale Assistita da LLM: un LLM ausiliario classifica le parole chiave filtrate (nomi, aggettivi, nomi propri) all'interno del contesto della frase completa per gestire la polisemia.
   • Override dell'Utente Basato su RAG: Gli utenti possono correggere manualmente le classificazioni errate nell'interfaccia frontend. Queste correzioni vengono salvate e iniettate nel prompt dell'LLM ausiliario per le esecuzioni successive, garantendo una classificazione deterministica e verificata dall'uomo.

6. Costruzione dell'Albero e Metriche di Probabilità:

   • I nodi vengono fusi utilizzando una chiave composta di (testo_del_token, categoria_semantica) per evitare di fondere parole polisemiche.
   • Il sistema calcola due metriche di probabilità distinte per la visualizzazione:
     • Probabilità Selezionata ($P_{selected}$): La media della confidenza del token sugli esempi strutturalmente mantenuti (visualizzata come larghezza del link).
     • Probabilità Globale ($P_{global}$): La somma delle probabilità dei token attraverso tutte le occorrenze generate, normalizzata rispetto al conteggio del sottoinsieme selezionato. Ciò assicura che i token frequenti nel pool totale, ma rimossi dal clustering, rimangano visivamente prominenti (altezza del nodo).

Contributi Chiave

1. Interfaccia di Visual Analytics (Adattamento Sankey)

TREETRACER utilizza un nuovo adattamento del diagramma di Sankey per visualizzare alberi di probabilità aggregati. Esso scinde le rigide regole di conservazione del flusso per soddisfare le esigenze di auditing del bias:

• Altezza del Nodo: Codifica $P_{global}$, rappresentando la massa di probabilità scalata di un percorso di token attraverso tutti i campioni.
• Larghezza del Link: Codifica $P_{selected}$, visualizzando la confidenza localizzata del modello limitata al sottoinsieme strutturale selezionato.
• Questo doppio encoding assicura che i forti bias nascosti all'interno delle variazioni sintattiche scartate rimangano visibili.

2. Modalità di Inferenza Comparativa e Contrastiva

• Giustapposizione: Visualizzazione affiancata di due alberi guidati dall'ontologia per consentire il confronto diretto della divergenza strutturale.
• Sovrapposizione: Una vista unificata interattiva allinea gli alberi provenienti da diverse ontologie utilizzando un algoritmo di fusione verticale tra alberi, preservando le statistiche di origine duale.
• Inferenza Contrastiva: Per affrontare il "punto cieco statistico" in cui gli algoritmi di decoding scartano i token a bassa probabilità, il sistema esegue l'inferenza controfattuale. Forza il modello a calcolare le probabilità grezze per specifici token sia sotto le condizioni originali (Ontologia A e B) e visualizza il Rapporto di Split Contrastivo ($R_{split}$) come fasci di divisione all'interno degli archi.

3. Validazione del Sistema

Il sistema è stato validato attraverso cinque casi studio confrontando un baseline non allineato (GPT-2 XL) con modelli Apertus costituzionalmente allineati:

• Bias di Genere: Ha rivelato bias nascosti nelle associazioni occupazionali (es. nomi femminili legati a ruoli di cura, nomi maschili a ruoli esecutivi) e la soppressione di pronomi controfattuali.
• Tossicità: Ha esposto bias storici di addestramento dove appellativi geografici arabi erano legati a cluster di "Estremismo Politico e Religioso", mentre appellativi occidentali erano legati a caratteristiche positive.
• Roleplay di Persona: Ha dimostrato come i vincoli di roleplay attivino stereotipi di genere (es. CEO donne descritte tramite lavoro emotivo vs. CEO uomini descritti tramite intelligenza).
• Disinformazione Medica: Ha mostrato come i modelli allineati (Apertus) collassano strutturalmente in nodi di rifiuto netto per sostanze pericolose, mentre i modelli non allineati (GPT-2) generano istruzioni coerenti ma dannose.
• Bias Sintattico: Ha evidenziato "correlazioni spurie dominio-sintattiche" dove i modelli non allineati applicano rigidamente template geografici agli alimenti, mentre i modelli allineati si adattano semanticamente.

4. Studio Utente

Uno studio preliminare condotto con sette studenti di informatica ha confermato che l'interfaccia comparativa aggregata:

• Riduce il carico cognitivo rispetto agli strumenti standard di beam search (es. generAItor).
• Supporta efficacemente gli analisti nel rilevare bias sistemici.
• Ha ottenuto un punteggio System Usages Scale (SUS) di 76.9, indicando un'alta usabilità.

Significato e Rivendicazioni

Il documento afferma che TREETRACER colma il divario tra la generazione di testo stocastica e la necessità di un rigoroso auditing del bias. La sua importanza primaria risiede nello spostamento del focus analitico dall'ispezione isolata di singoli casi all'aggregazione comparativa consapevole della classificazione.

Gli autori sostengono che:

1. I Bias Nascosti sono Esposti: Il bias risiede spesso in rami a bassa probabilità e variazioni sintattiche che le ispezioni standard top-k o beam search trascurano. TREETRACER rende esplicite queste "associazioni nascoste".
2. L'Ontologia come Variabile di Controllo: Trattando le ontologie come variabili indipendenti controllate, il sistema consente la separazione degli effetti semantici dai template sintattici, offrendo uno strumento più robusto per valutare i danni rappresentazionali rispetto ai template statici.
3. Rigore Controfattuale: L'inclusione dell'inferenza contrastiva riduce il rischio di interpretare erroneamente la presenza di bias, calcolando e visualizzando le probabilità di token controfattuali, garantendo che l'assenza di una parola nel risultato finale non mascheri la sua probabilità sottostante.

Il lavoro conclude che combinare l'aggregazione visiva, il merging consapevole della classificazione e l'inferenza contrastiva fornisce una base scalabile per la futura ricerca sulla sicurezza e l'allineamento dell'IA, permettendo il rilevamento di danni rappresentazionali sistemici anche quando questi sono assenti dagli output con il ranking più alto.