Riepilogo Tecnico: Quando il Conformal Risk Control può Certificare gli Output degli LLM?

1. Definizione del Problema

I Large Language Models (LLM) sono sempre più impiegati per compiti di generazione strutturata — come il Named Entity Recognition (NER), l'estrazione di JSON, il Question Answering (QA) e la classificazione — dove gli output devono aderire a uno schema specifico e possono essere valutati rispetto a una verità di base (ground truth). Tuttavia, questi modelli mancano di garanzie formali di affidabilità. I metodi standard di quantificazione dell'incertezza (ad es., probabilità dei token, soglie di entropia) sono spesso mal calibrati per i rischi strutturati, e le politiche di astensione euristiche spesso mancano i target di rischio specificati dall'utente del 7,5–12,5%.

Il problema centrale affrontato è determinare quando il Conformal Risk Control (CRC) può certificare formalmente che gli output strutturati di un LLM rispettino un target di rischio $\alpha$ definito dall'utente (ad es., "errore $\le 10\%$"), e quando tale certificazione è provabilmente impossibile indipendentemente dal metodo utilizzato.

2. Metodologia

2.1. Configurazione del Problema

Gli autori definiscono un predittore selettivo che emette una predizione $\hat{y}$ se un punteggio di confidenza $s(x, \hat{y}) \ge \lambda$ e si astiene altrimenti. L'obiettivo è trovare una soglia $\lambda^*$ tale che il rischio condizionale soddisfi:
$$E[R_{task}(\hat{Y}, Y) \mid s(X) \ge \lambda^*] \le \alpha$$
con probabilità $\ge 1-\delta$, dove $R_{task}$ è un rischio specifico per il compito (ad es., $1 - F_1$ per NER, $1 - \text{Exact Match}$ per QA).

2.2. Gerarchia di Certificazione

Il paper analizza una gerarchia di limiti utilizzati per selezionare $\lambda^*$:

1. Limite di Hoeffding: L'Upper Confidence Bound (UCB) standard che ignora la varianza.
2. Limite di Bernstein Empirico: Incorpora la varianza campionaria $\hat{\sigma}^2$, fornendo limiti più stretti quando la varianza è bassa ($\hat{\sigma}^2 < 1/4$).
3. e-CRC (Basato su Betting): Utilizza un framework di testing-by-betting (e-values) per costruire un processo di ricchezza. Questo si adatta completamente alla distribuzione empirica tramite scommesse sequenziali, offrendo il limite più stretto, particolarmente nei regimi con scarsità di dati.

Gli autori dimostrano un ordine rigoroso di soglie certificate: $\Lambda^*_{Hoeff} \subseteq \Lambda^*_{Bern} \subseteq \Lambda^*_{e-CRC}$.

2.3. Risultato di Impossibilità (Test di Fattibilità)

Un contributo teorico centrale è un limite inferiore a chiusura (closed-form) sull'astensione. Gli autori dimostrano che se il rischio base $\mu = E[R]$ del modello sulla popolazione di deployment supera il target $\alpha$, qualsiasi metodo privo di distribuzione deve astenersi su almeno una frazione di esempi:
$$\text{Astensione} \ge \frac{\mu - \alpha}{1 - \alpha}$$
Questo funge da test di fattibilità: se $\mu > \alpha$, la certificazione è possibile solo rifiutando una parte significativa degli input.

2.4. Adaptive Conformal Inference (ACI)

Per affrontare lo shift della distribuzione (dove la distribuzione di test differisce dal set di calibrazione), il paper valuta l'ACI. Questo metodo aggiorna la soglia online in base al rischio osservato:
$$\lambda_{t+1} = \lambda_t + \gamma(r_t - \alpha)$$
Ciò fornisce un controllo asintotico sotto shift, sebbene non offra garanzie su campioni finiti.

2.5. Fusione dei Punteggi (Score Fusion)

Gli autori propongono di apprendere un punteggio di confidenza fuso $\tilde{s}(x)$ tramite regressione logistica su dati di calibrazione disgiunti, combinando molteplici segnali (ad es., Self-Consistency, Token Margin, Entropia Semantica). Dimostrano che se la funzione di fusione è fissa e indipendente dal campione di calibrazione CRC, la garanzia di validità del CRC è preservata.

3. Contributi Chiave

1. Risultato di Impossibilità e Caratterizzazione della Fattibilità: Il paper stabilisce che quando il rischio base $\mu > \alpha$, nessun metodo privo di distribuzione può certificare gli output senza astenersi su $\ge (\mu - \alpha)/(1 - \alpha)$ degli esempi. Questo fornisce un controllo pre-deployment per determinare se un target di rischio è raggiungibile.
2. Gerarchia di Certificazione: Gli autori stabiliscono e verificano empiricamente la gerarchia $\Lambda^*_{Hoeff} \subseteq \Lambda^*_{Bern} \subseteq \Lambda^*_{e-CRC}$. Mostrano che il passaggio da Hoeffding a Bernstein produce il guadagno maggiore (+37% di configurazioni certificate in più) nei regimi a bassa varianza, mentre l'e-CRC offre un valore critico quando i dati di calibrazione sono scarsi (ad es., 10% di certificazione con il 20% di dati rispetto allo 0% per Hoeffding).
3. Adattamento allo Shift: Lo studio valida l'ACI sotto trasferimento tra dataset, dimostrando una riduzione delle violazioni del target di rischio dal 71% (CRC statico) al 21%. I fallimenti residui si verificano precisamente dove il limite di impossibilità prevede che sia necessaria una forte astensione.
4. Benchmark Empirico: Una valutazione completa su sei modelli open-weight (da 3B a 72B di parametri), otto dataset, quattro compiti e sei punteggi di non-conformità. Lo studio rileva che le configurazioni difficili di NER/QA/CLS sono spesso non certificabili con un $\alpha=0.10$ rigoroso, ma rilassare $\alpha$ a 0.30–0.40 sblocca la certificazione pratica (47% NER, 40% QA, 60% CLS).

4. Risultati

• Miscalibrazione: Gli LLM esibiscono una significativa malcalibrazione per i compiti strutturati. Mentre la confidenza media è alta (74–97%), il rischio effettivo varia ampiamente (3% per JSON a 80% per NQ Open QA).
• Limiti di Fattibilità: Con $\alpha=0.10$, i tassi di certificazione per NER/QA/CLS sono vicini allo zero perché $\mu \gg \alpha$. Ad esempio, NQ Open QA ha $\mu \approx 0.80$, richiedendo $\ge 78\%$ di astensione per soddisfare un target di rischio del 10%.
• Performance dei Limiti:
  • Hoeffding: Certifica l'8,7% delle configurazioni.
  • Bernstein: Certifica l'11,9% (+37% di guadagno rispetto a Hoeffding).
  • e-CRC: Certifica il 12,2%, con il vantaggio più significativo nei regimi con pochi dati.
  • Tutti i metodi mantengono tassi di violazione vicini allo zero tra le configurazioni certificate.
• Scaling del Modello: L'aumento della dimensione del modello riduce il rischio base $\mu$. Per CoNLL NER, $\mu$ scende da 0.42 (3B) a 0.24 (72B), abilitando la certificazione a $\alpha=0.25$ per i modelli da 72B dove quelli da 14B falliscono.
• Fusione dei Punteggi: La fusione calibrata migliora l'AUROC nell'89% delle configurazioni, con i maggiori guadagni nei compiti di classificazione e NER dove i singoli punteggi sono più deboli.

5. Significato e Rivendicazioni

Il paper sostiene di fornire una caratterizzazione orientata al deployment piuttosto che un semplice nuovo primitivo conforme. La sua importanza primaria risiede nello spostare la domanda del praticante da "Qual è il limite più stretto?" a "È fattibile la certificazione?".

• Fattibilità in primo piano: Il limite di impossibilità permette ai professionisti di calcolare l'astensione minima richiesta prima di eseguire qualsiasi procedura CRC. Se l'astensione richiesta è inaccettabile, il paper suggerisce di scalare il modello, rilassare il target di rischio $\alpha$ o accettare una forte astensione.
• Ricetta Pratica: Gli autori propongono un framework di deployment in tre fasi:
  1. Verificare la Fattibilità: Calcolare $\mu$; se $\mu > \alpha$, calcolare il pavimento dell'astensione.
  2. Selezionare Limite e Punteggio: Usare Bernstein o e-CRC (mai Hoeffding) e impiegare la fusione dei punteggi o la Self-Consistency.
  3. Mitigare lo Shift: Implementare ACI se la distribuzione di test potrebbe differire da quella di calibrazione.
• Aspettative Realistiche: Il lavoro chiarisce che per compiti difficili (alto $\mu$) e target rigorosi (basso $\alpha$), la certificazione è intrinsecamente limitata dalle prestazioni base del modello, un vincolo che nessun metodo statistico può superare. Rilassare $\alpha$ a livelli realistici (ad es., 0.30–0.40) rende la certificazione pratica per molti compiti strutturati.

Il paper conclude che, sebbene il CRC fornisca garanzie formali, la sua utilità è limitata dal trade-off fondamentale tra rischio base e rischio target, un vincolo che nessun limite statistico può superare.