Riepilogo Tecnico: La Calibrazione Non È Sufficiente: Valutazione della Stima della Fiducia Sotto Variazioni Linguistiche

Enunciato del Problema

La Stima della Fiducia (CE) è fondamentale per stabilire la fiducia degli utenti nei Modelli Linguistici di Grande Dimensione (LLM), in particolare in ambiti ad alto rischio come la medicina e il diritto. I paradigmi di valutazione attuali si concentrano principalmente sulla calibrazione (l'allineamento tra la fiducia dichiarata e l'accuratezza effettiva, misurata da metriche come ECE e punteggio di Brier) e sulla discriminazione (la capacità di classificare le risposte corrette più in alto rispetto a quelle errate, misurata da AUROC).

Tuttavia, queste metriche esistenti trascurano una proprietà fondamentale del linguaggio: la variabilità. Le espressioni del linguaggio naturale possono variare significativamente nella forma superficiale (scelta delle parole, formulazione) pur mantenendo un significato semantico identico, o viceversa, variare leggermente nella formulazione pur rappresentando significati completamente diversi. I metodi CE esistenti sono spesso valutati in condizioni statiche, non riuscendo a verificare se i punteggi di fiducia rimangano coerenti sotto perturbazioni di prompt semanticamente equivalenti o se si modifichino appropriatamente quando il significato semantico di una risposta cambia. Un metodo può essere ben calibrato in media eppure produrre punteggi di fiducia fluttuanti per input semanticamente identici, o fallire nel distinguere tra risposte semanticamente distinte, portando a comportamenti inaffidabili nelle applicazioni reali dove l'ingegneria dei prompt e le variazioni di risposta sono comuni.

Metodologia

Gli autori propongono un nuovo framework di valutazione basato su tre proprietà complementari che affrontano specificamente la variazione linguistica. Queste metriche non richiedono etichette di correttezza di verità fondamentale, affidandosi invece a molteplici risposte generate in diverse condizioni.

1. Metriche Proposte

• Robustezza alle Perturbazioni del Prompt (P-RB): Misura se un metodo CE produce lo stesso punteggio di fiducia quando il prompt di input viene alterato (ad esempio, istruzioni o formulazioni diverse) mentre la risposta generata rimane costante. Questo isola la varianza del prompt dal rumore di generazione.
• Stabilità tra Risposte Semanticamente Equivalenti (A-STB): Valuta se il metodo CE assegna punteggi di fiducia coerenti a diverse risposte generate che sono semanticamente equivalenti (ad esempio, "Lente concava" vs "Concava").
• Sensibilità a Risposte Semanticamente Diverse (A-SST): Misura se il metodo CE assegna punteggi di fiducia distinti quando il significato della risposta cambia. Un metodo sensibile dovrebbe rilevare spostamenti semantici anche se la forma superficiale è simile.

2. Configurazione Sperimentale

• Modelli: 11 LLM appartenenti a cinque famiglie principali (Mistral, Llama 3, Qwen 2.5, OLMo 2, GPT-4o) con un numero di parametri compreso tra 7B e 123B.
• Dataset: Quattro benchmark di QA a risposta aperta (Natural Questions, SciQ, TriviaQA, PopQA) con 1.000 campioni di test ciascuno.
• Metodi CE: 10 metodi diversi categorizzati in:
  • Basati sui Logit: Likelihood della Sequenza, Probabilità Potenziate, Scalatura di Platt, P(True).
  • Linguistici: Fiducia Verbalizzata.
  • Ausiliari: Calib-1 (classificatore addestrato).
  • Stati Interni: Punteggio di Attenzione, Punteggio Nascosto, SAPLMA, P(IK).
• Procedura:
  • Robustezza: Decodifica greedy con 10 variazioni di prompt semanticamente equivalenti.
  • Stabilità/Sensibilità: Decodifica stocastica (temperatura 0.7) per generare 10 risposte campionate per prompt. L'equivalenza semantica è determinata utilizzando un LLM come giudice (GPT-4o).

Risultati Chiave

1. Indipendenza dalle Metriche Tradizionali

Le metriche proposte (P-RB, A-STB, A-SST) sono in gran parte indipendenti dalle tradizionali metriche di calibrazione e discriminazione (ECE, Brier, AUROC). L'analisi di correlazione (Kendall's $\tau$) mostra correlazioni deboli (ad esempio, $\tau=0.26$ tra Sensibilità e AUROC), indicando che le nuove metriche catturano aspetti della qualità della fiducia precedentemente trascurati.

2. Prestazioni dei Metodi CE

• Alta Robustezza e Stabilità: La maggior parte dei metodi CE ottiene punteggi elevati in robustezza e stabilità, suggerendo che sono generalmente coerenti quando i prompt o le risposte semanticamente equivalenti variano.
• Carenza Critica di Sensibilità: La scoperta più significativa è che quasi tutti i metodi faticano con la sensibilità. Non riescono ad adattare i punteggi di fiducia quando il significato della risposta cambia.
  • I metodi che fanno affidamento su informazioni lato generazione (ad esempio, P(True), SAPLMA, Likelihood della Sequenza) mostrano una maggiore sensibilità.
  • I metodi che si basano esclusivamente su informazioni lato domanda o sui token finali della domanda (ad esempio, P(IK)) sono quasi completamente insensibili ai cambiamenti di risposta (A-SST $\approx$ 0).
  • I metodi di scalatura post-hoc (ad esempio, Scalatura di Platt) tendono a comprimere le differenze di fiducia, riducendo ulteriormente la sensibilità.

3. Leggi di Scalabilità

Sebbene i modelli più grandi mostrino generalmente una calibrazione migliorata, il miglioramento nelle metriche proposte (robustezza, stabilità, sensibilità) con la scala del modello è lieve e incoerente. La scalatura da sola non risolve il problema della sensibilità, suggerendo che le dimensioni del modello non sono un proxy sufficiente per gestire la variazione linguistica nella stima della fiducia.

4. Nessun Metodo Universale Migliore

Nessun singolo metodo CE supera gli altri in tutte le metriche e i dataset. Ad esempio, P(IK) ottiene il miglior Mean Reciprocal Rank (MRR) complessivo ma performa male su robustezza e sensibilità. Questo evidenzia un compromesso: i metodi ottimizzati per la calibrazione spesso mancano di sensibilità, e viceversa.

Significato e Affermazioni

Il paper sostiene che la calibrazione non è sufficiente per valutare i stimatori di fiducia nelle applicazioni reali. Gli autori affermano:

1. Limitazioni Trascurate: Le valutazioni attuali non riescono a rilevare che i metodi CE spesso producono punteggi di fiducia inaffidabili sotto variazioni linguistiche, fallendo specificamente nel distinguere tra risposte semanticamente diverse.
2. Guida per l'Applicazione: La scelta di un metodo CE deve essere specifica per l'applicazione.
   • I sistemi di QA rivolti all'utente possono dare priorità alla robustezza per mantenere un comportamento coerente sotto variazioni di prompt.
   • Impostazioni di reranking multi-candidato o LLM come giudice richiedono sensibilità per distinguere efficacemente tra risposte in competizione.
   • Ambienti controllati con prompt fissi possono ancora fare affidamento sulle metriche di calibrazione tradizionali.
3. Direzione Futura: La mancanza di sensibilità osservata suggerisce che i metodi CE devono sfruttare meglio le informazioni lato generazione (ad esempio, il testo generato completo o gli stati intermedi) invece di affidarsi esclusivamente a rappresentazioni basate sul prompt o sui token della domanda.

Gli autori concludono che il loro framework fornisce una lente necessaria e complementare per valutare la CE, esponendo limitazioni che le metriche tradizionali ignorano e offrendo indicazioni pratiche per la selezione degli stimatori in base alle esigenze specifiche di distribuzione.