🤖 machine learning

Improved Confidence Estimates for Black-Box Large Language Models

Questo articolo propone un metodo a basso overhead che migliora la quantificazione dell'incertezza per i modelli linguistici di grandi dimensioni black-box addestrando semplici classificatori per predire la correttezza delle risposte utilizzando i punteggi di confidenza esistenti e la correttezza di query simili da un dataset target.

Autori originali: Sokhna Diarra Mbacke, Mouloud Belbahri, Gabriel Loaiza-Ganem

Pubblicato 2026-08-21

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Sokhna Diarra Mbacke, Mouloud Belbahri, Gabriel Loaiza-Ganem

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

I modelli linguistici di grandi dimensioni sono diventati strumenti potenti per scrivere, programmare e rispondere a domande, eppure portano con sé un rischio nascosto: a volte inventano fatti con assoluta certezza. Questo fenomeno, spesso chiamato allucinazione, crea una barriera significativa all'uso di questi sistemi in settori ad alto rischio come l'assistenza sanitaria o la ricerca scientifica, dove una risposta errata può avere gravi conseguenze. Per risolvere questo problema, i ricercatori hanno cercato a lungo di costruire sistemi che possano dirci quanto fidarci di una specifica risposta. L'obiettivo è assegnare un punteggio a ogni risposta che indichi la sua affidabilità. Attualmente, esistono molti metodi per generare questi punteggi, che vanno dal chiedere al modello di valutare la propria fiducia all'analizzare quanto variano le sue risposte quando gli viene posta la stessa domanda in modi diversi. Tuttavia, questi punteggi esistenti operano spesso in isolamento, trattando ogni nuova domanda come se fosse la prima volta che il modello la vede, senza guardare a come il modello ha performato su domande simili in passato.

Un team di ricercatori di Layer 6 AI e TD Insurance ha proposto un approccio diverso che tratta la fiducia non come una proprietà fissa del modello, ma come un modello che può essere appreso. Sostengono che, mentre i metodi esistenti generano punteggi di incertezza grezzi senza bisogno di dati pregressi, le applicazioni del mondo reale coinvolgono quasi sempre un set di dati di domande e risposte che sono già stati verificati per correttezza. I ricercatori si sono resi conto che questi dati etichettati sono una vasta risorsa inespressa. Invece di cercare di inventare un nuovo modo per misurare l'incertezza da zero, hanno costruito un sistema semplice che prende i punteggi esistenti e li combina con informazioni su come il modello ha risposto a domande simili in passato. Addestrando un normale programma informatico per riconoscere la relazione tra questi input e la reale correttezza delle risposte, hanno creato un nuovo metodo che supera costantemente i punteggi originali presi singolarmente.

Il cuore del loro lavoro prevede un processo in due fasi che imita il modo in cui un esperto umano potrebbe verificare una nuova affermazione. Per prima cosa, il sistema prende una nuova domanda e la risposta fornita dal modello linguistico di grandi dimensioni. Successivamente, calcola i punteggi di incertezza standard che il modello o altri strumenti normalmente produrrebbero. In secondo luogo, il sistema consulta una libreria di riferimento di domande precedentemente risposte per trovare quelle più simili alla nuova domanda. Verifica se il modello ha risposto correttamente o meno a quelle domande simili in passato e misura quanto siano vicine alla domanda corrente. Questi dettagli — i punteggi standard, la cronologia delle domande simili e la passata prestazione del modello su di esse — vengono inseriti in un semplice classificatore. Questo classificatore impara a prevedere se la nuova risposta è corretta, traducendo efficacementamente i segnali di incertezza grezzi in una probabilità di verità calibrata.

I ricercatori hanno testato questo metodo attraverso diversi dataset, inclusi benchmark per il ragionamento di senso comune, fatti scientifici e domande di cultura generale, utilizzando varie dimensioni di modelli linguistici. Hanno confrontato il loro nuovo sistema con i migliori metodi esistenti, compresi quelli che chiedono al modello di esprimere la propria fiducia e quelli che generano molte variazioni di una risposta per verificarne la coerenza. I risultati hanno dimostrato che il loro approccio fornisce costantemente previsioni di correttezza più accurate. In quasi tutti i test, il nuovo metodo è stato migliore nel distinguere tra risposte giuste e sbagliate rispetto ai soli punteggi originali. Inoltre, il sistema ha prodotto probabilità ben calibrate, il che significa che quando prevedeva che una risposta avesse l'80 percento di probabilità di essere corretta, era corretta circa l'80 percento delle volte. Questa calibrazione è fondamentale per il processo decisionale, poiché consente agli utenti di fidarsi dei numeri forniti dal sistema.

Una delle scoperte più significative è stata che il metodo ha funzionato bene anche quando si basava su pochissime informazioni aggiuntive. In alcuni test, il sistema ha utilizzato solo una singola risposta del modello e una cronologia di domande simili, senza la necessità di generare molteplazioni della risposta. Ciò ha mantenuto basso il costo computazionale, rendendo il metodo praticabile per usi nel mondo reale dove velocità ed efficienza sono importanti. I ricercatori hanno anche scoperto che il modo migliore per combinare questi segnali dipende dal compito specifico, suggerendo che un approccio flessibile capace di adattarsi a diversi tipi di domande è superiore a una soluzione unica per tutti. Trattando la stima della fiducia come un problema di apprendimento piuttosto che come un calcolo fisso, il team ha dimostato che i dati esistenti possono essere utilizzati per migliorare significativamente la sicurezza e l'affidabilità dei modelli linguistici senza richiedere l'accesso ai loro meccanismi interni o un costoso riaddestramento.

Lo studio conclude che, sebbene i punteggi di incertezza iniziali generati dagli strumenti attuali siano utili, non sono l'ultima parola sull'affidabilità. Sfruttando il semplice fatto che i modelli tendono a performare in modo coerente su tipi di domande simili, un framework di apprendimento supervisionato può raffinare questi punteggi in stime molto più affidabili. Questo non sostituisce la necessità di buone metriche di incertezza, ma le potenzia, trasformando i dati grezzi in intuizioni azionabili. Il lavoro suggerisce che la strada verso un'intelligenza artificiale più sicura risiede non solo nel costruire modelli migliori, ma nel costruire modi migliori per comprendere e interpretare le risposte che tali modelli forniscono.

Riepilogo Tecnico: Stime di Confidenza Migliorate per i Large Language Models Black-Box

Definizione del Problema

L'impiego sicuro dei Large Language Models (LLM) in ambienti ad alto rischio (ad es. sanità, ricerca scientifica) è ostacolato dalla loro suscettibilità alle allucinazioni. Sebbene la Quantificazione dell'Incertezza (UQ) miri a valutare l'affidabilità degli output del modello, i metodi esistenti presentano limitazioni significative:

Limitazione Zero-Shot: La maggior parte degli attuali metodi di UQ (punteggi euristici o confidenza verbalizzata) opera in modalità zero-shot, generando punteggi di incertezza senza sfruttare i dati di valutazione etichettati disponibili.
Mancanza di Calibrazione: I punteggi esistenti spesso correlano con la correttezza, ma non forniscono probabilità calibrate. Ad esempio, la confidenza verbalizzata ( $P_{true}$ ) è frequentemente eccessivamente sicura di sé, e i punteggi euristici (ad es. l'entropia semantica) sono valori astratti piuttosto che stime dirette di probabilità.
Gap nel Processo Decisionale: I punteggi euristici sono progettati principalmente per l'astensione (ritenere una risposta se viene superata una soglia). Tuttavia, gli autori sostengono che la stima della confidenza — ovvero fornire una probabilità calibrata di correttezza — sia superiore per il processo decisionale a valle, poiché consente ai sistemi di massimizzare l'utilità attesa all'interno di framework teorici decisionali.

Il problema centrale affrontato è come trasformare gli esistenti punteggi di incertezza zero-shot, spesso non calibrati, in stime di confidenza robuste e calibrate sfruttando i dataset etichettati che sono prerequisiti standard per la valutazione dei modelli.

Metodologia

Gli autori propongono un framework di apprendimento supervisionato che tratta gli esistenti punteggi di UQ come feature piuttosto che come output finali. Il metodo non richiede l'accesso white-box al LLM né generazioni aggiuntive del modello oltre a quelle richieste dai punteggi di base.

1. Partizionamento dei Dati

Il dataset etichettato disponibile $\mathcal{D}$ è partizionato in:

Set di Addestramento ( $\mathcal{D}_{train}$ ): Utilizzato per adattare il classificatore di confidenza.
Set di Riferimento ( $\mathcal{D}_{ref}$ ): Utilizzato per costruire feature ausiliarie riassumendo le prestazioni storiche del LLM su query simili.

2. Ingegneria delle Feature

Per una coppia query-risposta $(q, r)$ , il vettore delle feature $X(q, r)$ è costruito da due componenti:

Punteggi di Incertezza di Base ( $S$ ): Una collezione di $c$ punteggi preesistenti (ad es. $P_{true}$ verbalizzata, entropia semantica, approssimazione Laplaciana). Questi sono trattati come input grezzi.
Feature Basate sul Vicinato ( $f_{ref}$ ): Per catturare pattern empirici locali, il metodo recupera i $k$ $k$ -vicini più prossimi di $q$ $q$ dal set di riferimento utilizzando la similarità del coseno in uno spazio di embedding. Da questi vicini, vengono estratte le seguenti statistiche:
- Il vettore delle etichette di correttezza ( $y_i$ ) per i vicini.
- La media empirica ( $\mu_y$ ) e la deviazione standard ( $\sigma_y$ ) della correttezza dei vicini.
- Il vettore delle similarità del coseno tra $q$ e i suoi vicini.
- La media empirica ( $\mu_{sim}$ ) e la deviazione standard ( $\sigma_{sim}$ ) di queste similarità.

Il vettore finale delle feature è $X(q, r) = (S(q, r), f_{ref}(q))$ .

3. Classificazione Supervisionata

Il problema è inquadrato come un compito di classificazione binaria per predire la probabilità di correttezza $Y=1$ .

Selezione del Modello: Gli autori impiegano un approccio Auto-ML per selezionare il classificatore ottimale per un compito specifico. I candidati includono la regressione logistica con regolarizzazione $\ell_1$ e i Random Forest.
Addestramento: I modelli sono addestrati per minimizzare la perdita di cross-entropy su $\mathcal{D}_{train}$ .
Calibrazione: Viene applicato un passaggio di post-hoc temperature scaling per garantire che le probabilità in uscita siano ben calibrate (minimizzando l'Expected Calibration Error, ECE).

4. Inferenza

Al tempo di inferenza, il processo prevede:

Calcolo dei punteggi di base $S(q, r)$ .
Recupero dei $k$ -vicini più prossimi da $\mathcal{D}_{ref}$ .
Valutazione del classificatore addestrato $f_\theta$ sul vettore combinato delle feature.
L'overhead computazionale è trascurabile rispetto al costo di generazione delle risposte del LLM.

Contributi Chiave

Cambio di Paradigma: Il paper sostiene che l'UQ per i LLM debba essere trattata come un problema di apprendimento supervisionato che sfrutta i dati etichettati disponibili, andando oltre il paradigma zero-shot.
Framework General-Purpose: Il metodo agisce come un "wrapper" che può aggregare e raffinare qualsiasi punteggio di incertezza esistente (euristico o verbalizzato) in una stima di confidenza calibrata senza modificare il LLM sottostante.
Statistiche del Vicinato: L'introduzione di feature basate sul vicinato (statistiche di correttezza e similarità dal set di riferimento) fornisce un modo innovativo per incorporare l'evidenza empirica dell'affidabilità del modello nella predizione.
Learner Adattivo al Task: Gli autori dimostrano che il modello di classificazione ottimale dipende dal task, rendendo necessario un approccio Auto-ML per selezionare tra modelli lineari e non lineari in base alla distribuzione dei dati.

Risultati Sperimentali

Il framework è stato valutato su quattro dataset (CommonSense QA, Natural Questions, SciQ, SimpleQA) e tre varianti del modello GPT-4.1 (flagship, mini, nano), nonché LLaMA4Maverick open-source.

Performance: Il metodo Auto-ML proposto ha superato costantemente tutti i baseline nell'Area Under the Receiver Operating Characteristic Curve (AUROC). Ha ottenuto l'AUROC più elevato in quasi tutti gli scenari, con un'unica eccezione minore dove la differenza era trascurabile.
Calibrazione: Il metodo ha prodotto un Expected Calibration Error (ECE) significativamente inferiore rispetto alla confidenza verbalizzata grezza ( $P_{true}$ ) e ha spesso superato le versioni con temperature-scaled ($ts$- $P_{true}$ ).
Studi di Ablazione:
- Senza Feature Semantiche: Anche escludendo i complessi punteggi di incertezza semantica (facendo affidamento solo su $P_{true}$ e sulle statistiche del vicinato), il metodo ha mantenuto performance competitive con un costo computazionale inferiore.
- Famiglia di Modelli: L'approccio si è generalizzato bene ai modelli open-source (LLaMA4Maverick), confermando la sua applicabilità oltre le API black-box.
Confronto con i Baseline: Il metodo ha superato significativamente APRICOT (un approccio simile basato su classificatore) e vari punteggi euristici basati sulla semantica (entropia semantica, Laplaciana, entropia kernel), particolarmente nei dataset a scelta multipla dove i metodi semantici faticavano.

Significato e Rivendicazioni

Il paper sostiene che il dato di valutazione etichettato è una risorsa significativa, ma ancora inesplorata, per migliorare le stime di incertezza dei LLM. Gli autori affermano che:

Affidabilità: Andando oltre le euristiche zero-shot, è possibile produrre costantemente stime di confidenza più accurate e calibrate.
Efficienza: Il metodo introduce un overhead computazionale minimo, rendendolo un "miglioramento economico e semplice" per le applicazioni reali.
Flessibilità: Serve come meccanismo generale per trasformare i punteggi euristici in probabilità pronte per il processo decisionale, colmando il divario tra metriche di incertezza astratte e decision-making pratico.
Direzioni Future: Sebbene il presente lavoro si concentri sulla correttezza binaria, gli autori suggeriscono che questo paradigma potrebbe essere esteso alla classificazione multi-classe (ad es. distinguere tra una risposta "parzialmente corretta" e una "eccellente") per raffinare ulteriormente la sicurezza del deployment dei LLM.

Gli autori mantengono una posizione modesta, riconoscendo che il loro approccio richiede l'addestramento di classificatori specifici per il task e dipende dalla qualità e dalla dimensione del set di riferimento per un recupero efficace, pur sostenendo che questi siano requisiti standard nei cicli di sviluppo pratici dei modelli.