Semantic Self-Distillation for Language Model Uncertainty

1. Il Problema: Quantificazione dell'Incertezza negli LLM

I grandi modelli linguistici (LLM) sono sempre più utilizzati in ambiti ad alto rischio (sanità, legge), rendendo cruciale la capacità di quantificare l'incertezza delle loro risposte. Tuttavia, esistono sfide significative:

• Complessità e Diversità: Gli LLM producono output complessi e diversificati, rendendo difficile misurare la "fiducia" in modo principiale.
• Dispersione Semantica: Un proxy efficace per l'incertezza è la dispersione semantica: se un modello genera risposte semanticamente diverse per lo stesso prompt, è probabile che non sia sicuro o che stia allucinando.
• Costo Computazionale: I metodi basati sul campionamento (es. Semantic Entropy) richiedono la generazione di molteplici completamenti stocastici per stimare questa dispersione. Questo è proibitivo per applicazioni che richiedono bassa latenza (es. sistemi agentic in tempo reale).
• Limiti dei Metodi Esistenti: Le tecniche di "probing" (sondaggio) attuali sono veloci ma riducono l'incertezza a un singolo scalare (es. probabilità di correttezza), ignorando la topologia e la struttura della distribuzione sottostante degli output, limitando così le capacità di valutazione.

2. Metodologia: Semantic Self-Distillation (SSD)

Gli autori propongono SSD, un framework che colma il divario tra i metodi di probing veloci e quelli basati sul campionamento costosi. L'idea centrale è "distillare" la distribuzione semantica campionata di un modello "insegnante" (LLM base) in un modello "studente" leggero.

Componenti Chiave:

1. Rappresentazioni:
   • Input (Prompt): Viene estratta una rappresentazione vettoriale $h$ dallo stato nascosto dell'LLM (solitamente l'ultimo token di un layer specifico).
   • Output (Risposta): Le risposte generate vengono mappate in uno spazio di embedding semantico $z$ utilizzando un modello di embedding specializzato (es. EmbeddingGemma), spesso ridotto in dimensionalità tramite PCA.
2. Modello Studente (MDN):
   • Invece di prevedere un singolo valore scalare, lo studente è un Mixture Density Network (MDN).
   • Condizionato su $h$, l'MDN prevede una distribuzione di miscela gaussiana (Gaussian Mixture) sui possibili embedding semantici $z$.
   • La funzione è: $q_\phi(z | h) = \sum \pi_k(h) \mathcal{N}(z; \mu_k(h), \sigma_k(h))$.
3. Addestramento (Distillazione):
   • Per ogni prompt, l'LLM "insegnante" genera $S$ campioni stocastici.
   • Si calcolano gli embedding semantici per questi campioni.
   • Lo studente viene addestrato per massimizzare la verosimiglianza condizionata (Maximum Likelihood) di questi campioni dati il prompt.
4. Inferenza (Senza Campionamento):
   • Durante l'inferenza, lo studente genera la densità semantica $q_\phi(z | h)$ in un singolo passaggio in avanti (single forward pass), senza generare nuove risposte dall'LLM.

Segnali di Incertezza Estratti:

• Pre-generazione (Dispersione): Calcolo analitico dell'Entropia di Rényi-2 della distribuzione prevista. Un'entropia alta indica alta dispersione semantica (alto rischio di allucinazione) prima ancora di generare la risposta.
• Post-generazione (Verifica): Data una risposta candidata $y'$, si calcola la sua verosimiglianza (log-likelihood) sotto la distribuzione prevista. Basse probabilità indicano che la risposta è "fuori dominio" o incoerente con il prompt.
• Selezione Risposta: Possibilità di selezionare la risposta migliore tra più opzioni basandosi sulla densità di probabilità.

3. Contributi Principali

1. Introduzione di SSD: Un metodo per distillare la distribuzione semantica campionata di un LLM in un estimatore di densità leggero e condizionato al prompt.
2. Prestazioni Competitive con Bassa Latenza: SSD raggiunge prestazioni di previsione delle allucinazioni comparabili (e in alcuni casi superiori) ai metodi basati sul campionamento, mantenendo la latenza dei metodi di probing a singolo passaggio.
3. Nuove Primitive di Affidabilità: Modellando l'intera distribuzione (anziché uno scalare), SSD abilita funzionalità post-generazione impossibili per i metodi scalari, come la verifica della coerenza della risposta e la selezione di risposte multiple choice basata sulla distribuzione.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su TriviaQA (domanda aperta, conoscenza) e MMLU (ragionamento, multipla scelta) utilizzando diverse famiglie di modelli (Llama, Mistral, Qwen, Gemma, SmolLM).

• Previsione di Allucinazioni (Pre-generazione):
  • Su TriviaQA, SSD supera il Teacher Dispersion (TD, basato su 32 campioni) in termini di AUPRC per tutti i modelli testati, e in AUROC per 4 su 7 modelli, pur non richiedendo campionamento a inferenza.
  • Su MMLU, le prestazioni sono leggermente inferiori al TD (a causa della natura del task meno adatta alla dispersione semantica), ma SSD rimane competitivo e supera il TD in termini di AUPRC per la maggior parte dei modelli.
  • SSD mantiene una latenza di inferenza paragonabile ai metodi di probing scalari (PCP, SEP).
• Rilevamento "Out-of-Domain" (Post-generazione):
  • La log-likelihood dello studente è un segnale estremamente forte per distinguere risposte pertinenti da risposte casuali o non pertinenti (AUROC > 0.95 su TriviaQA).
• Selezione Multipla Choice:
  • Addestrato solo su risposte aperte, lo studente è in grado di selezionare la risposta corretta tra opzioni multiple (MMLU) con un'accuratezza che si avvicina a quella della generazione diretta del modello base, dimostrando che la densità cattura la struttura semantica corretta.

5. Significato e Implicazioni

• Efficienza Computazionale: SSD sposta il costo computazionale dall'inferenza (dove la latenza è critica) all'addestramento. Questo rende possibile l'uso di stime di incertezza principiali in sistemi agentic complessi e in tempo reale.
• Oltre lo Scalare: Il lavoro dimostra che l'incertezza nei modelli generativi complessi non deve essere ridotta a un singolo numero. Mantenere la struttura della distribuzione (geometria dello spazio semantico) permette di estrarre segnali di affidabilità più ricchi e versatili.
• Generalizzabilità: Sebbene testato su LLM autoregressivi, il framework SSD è agnostico rispetto alla modalità e può essere applicato ad altri modelli sequenziali (es. modelli di diffusione, modelli per dati sanitari o serie temporali) dove è possibile definire una rappresentazione latente significativa dell'output.

In sintesi, Semantic Self-Distillation offre un compromesso ottimale tra accuratezza, ricchezza informativa e velocità, fornendo uno strumento pratico per integrare la quantificazione dell'incertezza in sistemi di intelligenza artificiale deployati in scenari reali.