Evaluation Pitfalls and Sparsity Limitations in LLM-based Confidence Estimates for Classification

Immagina di assumere una squadra di robot super intelligenti e chiacchieroni per smistare una montagna di posta in pile "Buone" e "Cattive". Non vuoi solo che i robot smistino la posta; vuoi che ti dicano quanto sono sicuri di ogni singolo pezzo. Se un robot è sicuro solo al 50%, potresti voler mettere quella lettera da parte per farla controllare da un essere umano. Questo è il mondo dei Large Language Models (LLM) che agiscono come classificatori. Questi sistemi di IA sono come studenti brillanti ma a volte troppo sicuri di sé; sanno scrivere saggi e risolvere indovinelli, ma quando viene chiesto loro di categorizzare delle cose, devono essere in grado di dire: "Sono piuttosto sicuro" o "Sto tirando a indovinare".

La grande domanda che gli scienziati si pongono è: come facciamo a sapere se questi robot stanno effettivamente dicendo la verità sulla loro fiducia? Se un robot dice: "Sono sicuro al 95%", è un sentimento reale e calcolato, o è solo un colpo di fortuna? Per testarlo, i ricercatori usano un tabellone speciale chiamato Accuracy-Rejection Curve (Curva Accuratezza-Rifiuto). Immagina una scala mobile: man mano che dici al robot di essere più severo (accettando solo le risposte in cui dichiara di essere sicuro al 99%), la pila di lettere accettate diventa più piccola, ma quelle rimaste nella pila sono quasi sempre corrette. L'obiettivo è trovare il "punello ideale" dove si conserva la maggior quantità di lettere pur mantenendo una precisione altissima. Il problema è che misurare questo tabellone è complicato se le risposte del robot sono raggruppate e ripetitive.

---

L'abitudine del "95%" del Robot

In questo articolo, l'autrice Elena Merdjanovska e il suo team hanno scoperto un bizzarro difetto nel modo in cui questi robot di IA esprimono la loro fiducia. Quando chiedi a un robot di pronunciare un numero (come "Sono sicuro al 95%"), non sceglie i numeri casualmente come un essere umano che lancia i dadi. Invezione, rimane incastrato in un binario prestabilito.

Pensalo come uno studente che compila un test a scelta multipla e, invece di riflettere, scrive semplicemente "95" su ogni foglio delle risposte perché lo sente come un numero sicuro e tondo. I ricercatori hanno scoperto che un popolare modello di IA (Qwen3-32B) ha utilizzato solo otto numeri unici (0.6, 0.65, 0.7, 0.75, 0.85, 0.9, 0.95 e 0.98) per descrivere la sua fiducia attraverso migliaia di domande. Ancora più incredibile? Più della metà delle volte, diceva semplicemente 95%.

Questo è un problema perché è come cercare di sintonizzare una radio ma il dial è capace di scattare solo in otto punti specifici. Se vuoi filtrare le lettere "cattive" per ottenere un'accuratezza del 98%, potresti dover buttare via il 40% della tua posta. Ma se il robot potesse fornire un numero più preciso, come il 96,3%, potresti dover buttare via solo il 28% della posta. Poiché il robot è così "sparso" (incastrato su pochi numeri), spreca un sacco di dati validi.

La trappola della "Linea Fluida"

Ed è qui che la trama si complica. I ricercatori hanno scoperto che il modo in cui gli scienziati misuravano le prestazioni del robot li stava ingannando.

Per calcolare il punteggio (chiamato AUARC), i ricercatori solitamente disegnano una linea che connette i punti su un grafico. La maggior parte delle persone usa l'interpolazione lineare, che disegna una linea retta e fluida tra i punti, assumendo che la fiducia del robot cambi gradualmente. Ma se il robot ha solo otto numeri, ci sono enormi lacune tra i punti! Disegnare una linea fluida attraverso quelle lacune è come collegare i punti di una catena montuosa frastagliata con un righello dritto: crea una collina finta e levigata che non esiste.

Gli autori hanno dimostrato che usare questo metodo della "linea fluida" faceva apparire i robot molto più bravi di quanto non fossero in realtà. Infatti, quando sono passati al metodo corretto, l'interpolazione stepwise (a gradini), che disegna una linea piatta finché non appare il numero successivo, le classifiche sono state completamente ribaltate. Un metodo che sembrava il "campione" con la linea fluida è sceso all'ultimo posto con la linea stepwise. Si è rivelato che la linea fluida era solo un'illusione ottica che faceva apparire i robot "sparsi" più flessibili di quanto fossero realmente.

Il trucco magico dei "Logprobs"

Quindi, come sistemiamo un robot che parla solo con otto numeri? Il team ha proposto un trucco astuto chiamato Verbalization Logprobs.

Di solito, quando un robot dice "95%", espelle semplicemente le parole "9" e "5". Il modo standard per usare questo dato è prendere semplicemente il numero 95. Ma il robot sa qualcosa di più: sa quanto era probabile scegliere "9" rispetto a "8", e quanto era probabile scegliere "5" rispetto a "6". Queste probabilità nascoste sono chiamate logprobs.

Il nuovo metodo degli autori è come chiedere al robot non solo il numero, ma il sentimento dietro quel numero. Inve di prendere solo il "95", calcolano una media ponderata basata su quanto il robot fosse sicuro di ogni singola cifra. Questo trasforma la risposta raggruppata e limitata del robot in un flusso continuo e fluido di fiducia.

I risultati sono stati impressionanti. Usando questo trucco, i punteggi di fiducia del robot sono diventati molto più dettagliati (passando da soli 8 valori unici a oltre 600 valori unici!). Questo non ha richiesto alcuna potenza di calcolo o tempo extra; ha semplicemente utilizzato informazioni che il robot possedeva già. Con questo nuovo metodo, il robot poteva trovare quel "punto ideale" molto meglio, migliorando il suo punteggio di performance di 2,3 punti rispetto al vecchio metodo. Era come dare al robot un dial di alta definizione invece di uno rotto e a scatti, permettendogli di smistare la posta con molto meno spreco.

Il Punto Chiave

L'articolo conclude che dobbiamo smettere di pretendere che questi robot siano esperti fluidi quando sono in realtà piuttosto rigidi. Se continuiamo a usare il metodo della "linea fluida" per giudicarli, stiamo ottenendo un falso senso di sicurezza. Passando al modo "stepwise" di misurazione e usando il trucco dei "logprobs" per ottenere risposte più dettagliate, possiamo finalmente fidarci di questi classificatori IA per dirci quando sono veramente sicuri e quando stanno solo tirando a indovinare. È un piccolo cambiamento nel modo in cui ascoltiamo, ma fa una enorme differenza nel modo in cui possiamo utilizzare questi aiutanti digitali.