Implicit Probabilistic Reasoning Does Not Reflect Explicit Answers in Large Language Models
Questo studio dimostra che, sebbene i grandi modelli linguistici mostrino buone capacità di ragionamento probabilistico esplicito tramite domande a scelta multipla, il loro ragionamento implicito durante la generazione del testo presenta scostamenti significativi dalla verità fondamentale, rivelando limitazioni non rilevate dalle valutazioni tradizionali.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immagina di avere un amico molto colto, un "super-intelligente" che ha letto quasi tutti i libri del mondo. Se gli chiedi: "Qual è la probabilità che esca il 7 lanciando due dadi?", lui ti risponde immediatamente e con sicurezza: "1 su 6!". Sembra perfetto, vero?
Questo è esattamente quello che fanno i moderni Modelli Linguistici (LLM) quando li mettiamo alla prova con i classici test a scelta multipla. Sembra che siano dei geni della logica e della probabilità.
Ma la ricerca di Manuel Mondal e del suo team scopre una cosa sconcertante: questo amico è un po' "schizofrenico".
Ecco cosa succede davvero, spiegato in modo semplice:
1. La Maschera (Il Ragionamento Esplicito)
Quando il modello deve rispondere a una domanda diretta (come un quiz), mette in atto la sua "maschera" da esperto. Analizza le opzioni, fa i calcoli (o ricorda le risposte dai suoi libri di addestramento) e ti dà la risposta corretta.
- Metafora: È come un attore su un palco che recita perfettamente la parte di un matematico. Se gli chiedi "Quanto fa 2+2?", risponde "4" senza esitazione.
2. La Realtà Nuda (Il Ragionamento Implicito)
Il problema nasce quando non gli chiediamo la risposta, ma gli chiediamo di continuare una storia.
Immagina di dire al modello: "Due dadi sono stati lanciati. La somma dei punti è..." e lo lasci parlare.
Invece di scrivere "7" (che è l'opzione più probabile), il modello potrebbe scrivere "12" o "2", assegnando a queste opzioni una probabilità altissima, anche se matematicamente sono molto meno probabili.
- Metafora: È come se l'attore, appena spento il riflettore e lasciato solo sul palco, iniziasse a improvvisare una scena in cui il 7 non esce mai, ma escono sempre numeri strani. Il suo "istinto" di scrittura non corrisponde alla sua "conoscenza" matematica.
Cosa hanno scoperto gli scienziati?
Hanno messo alla prova diversi modelli (come Llama, Qwen, Mistral) con tre tipi di trappole:
Il Trucco del "Passato Irrilevante":
Se dici al modello: "Ho lanciato un dado ed è uscito 1. Ora lancio di nuovo. Qual è la probabilità che esca 6?", la risposta corretta è sempre 1 su 6 (i dadi non hanno memoria).
Ma il modello spesso pensa: "Ah, è uscito 1 prima, quindi ora è più probabile che esca 6 (o forse no, dipende dal modello)!". Si lascia influenzare da eventi passati che non dovrebbero contare. È come se un giocatore di poker credesse che, dopo aver perso tre mani, la quarta sia "obbligata" a vincerla, ignorando che ogni mano è indipendente.Il Pregiudizio della Posizione:
Se chiedi al modello di scegliere tra "A" e "B" con la stessa probabilità, spesso sceglie "A" solo perché è scritto per primo, anche se gli hai detto chiaramente che sono uguali. È come se un giudice fosse influenzato dal fatto che l'imputato è seduto sulla sedia a sinistra rispetto a quella a destra.Il Caso Medico (La Trappola più pericolosa):
Hanno dato al modello statistiche reali su malattie mentali in un ospedale.- Domanda diretta: "Qual è la probabilità che un paziente abbia l'ansia?" -> Il modello calcola bene e dice il numero giusto.
- Continuazione del testo: "Il paziente ha i sintomi di..." -> Il modello inizia a scrivere che il paziente ha l'ansia al 99%, ignorando che le statistiche dicono che è più probabile che abbia il burnout.
- Perché è grave? Se usiamo questi modelli per aiutare i medici o prendere decisioni, il modello potrebbe "inventare" una diagnosi sbagliata e poi inventarsi una giustificazione logica per convincerti che ha ragione.
La Morale della Favola
Il paper ci dice che non basta chiedere ai modelli "Cosa sai?". Dobbiamo guardare "Cosa fanno".
I modelli sono bravissimi a parlare di probabilità (come studenti che studiano a memoria per l'esame), ma sono spesso pessimi a pensare in termini di probabilità mentre scrivono (come se avessero un doppio pensiero).
In sintesi:
Non fidarti ciecamente di un'intelligenza artificiale solo perché risponde bene ai quiz. Se la lasci scrivere una storia, un rapporto medico o un consiglio finanziario, potrebbe seguire i suoi "istinti" distorti invece della logica matematica che sembra possedere. È come avere un navigatore GPS che ti dice la strada giusta quando gli chiedi "Dove sono?", ma che ti porta nel fosso quando inizi a guidare da solo.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.