🤖 AI

Some Large Language Models Exhibit Consistent Risk Attitudes

Questo articolo dimostra che i grandi modelli linguistici esibiscono atteggiamenti verso il rischio stabili, coerenti e cross-dominio che convergono verso una distribuzione ristretta rispetto ai baseline umani, rivelando l'atteggiamento al rischio come una dimensione del comportamento dell'IA precedentemente non caratterizzata ma misurabile.

Autori originali: Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

Pubblicato 2026-07-21

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Bowen Sun, Rui Min, Yuxi Wang, Brian Odegaard, Qi Wang, Jing Du

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immaginate di osservare un gruppo di amici che gioca a un videogioco ad alta posta in gioco. Alcuni giocatori sono così cauti che si muovono appena, terrorizzati all'idea di perdere anche una sola vita. Altri sono spericolati, si lanciano nel pericolo senza pensarci due volte. In psicologia, questo non riguarda solo l'abilità; riguarda l' "atteggiamento al rischio". È un tratto della personalità profondamente radicato che decide come una persona trasformi la sensazione di "questo sembra pericoloso" in un'azione concreta. Sappiamo che gli esseri umani hanno questi stili distinti, plasmati dalle loro esperienze uniche e dai loro cervelli. Ma ora, l'intelligenza artificiale sta entrando in gioco. Abbiamo insegnato all'IA a essere intelligente, a risolvere problemi matematici e a scrivere storie. Ma una nuova domanda sta emergendo: queste menti digitali hanno le proprie "personalità" quando si tratta di assumersi rischi? Sono naturalmente prudenti o hanno un desiderio nascosto di scommettere? Questo è importante perché se lasciamo che l'IA prenda grandi decisioni — come dare priorità ai pazienti in un ospedale o gestire il denaro — potremmo finire con un robot troppo spaventato per agire o troppo audace per il suo bene.

Questo articolo si immerge proprio in quel mistero trattando i Large Language Models (LLM) come partecipanti sperimentali in un laboratorio di psicologia. I ricercatori, guidati da Bowen Sun e Jing Du, volevano vedere se questi modelli di IA hanno atteggiamenti al rischio coerenti, proprio come gli esseri umani. Non si sono limitati a chiedere all'IA "Sei rischiosa?" perché questo sarebbe come chiedere a una persona se è coraggiosa; la risposta potrebbe essere una bugia o un'ipotesi. Invece, hanno predisposto un gioco intelligente basato su tre diversi scenari: pilotare un drone attraverso una tempesta ventosa, decidere quanto fosse urgente il bisogno medico di un paziente e scegliere azioni in un mercato volatile. In ogni gioco, l'IA doveva prima formarsi un'opinione su quanto fosse pericolosa la situazione (la "credenza contestuale") e poi compiere una scelta basata su quella credenza (la "decisione di rischio").

Il team ha testato sei diversi modelli di IA e li ha confrontati con 100 partecipanti umani. Hanno scoperto qualcosa di affascinante: i modelli di IA non sono solo generatori di numeri casuali. Hanno "personalità di rischio" stabili. Proprio come un essere umano che è naturalmente cauto nel mercato azionario potrebbe essere altrettanto cauto nel guidare, questi modelli di IA hanno mostrato uno stile coerente attraverso tutti e tre i giochi molto diversi tra loro. Se un modello era cauto nel compito del drone, era probabilmente cauto anche nel compito medico. I ricercatori hanno misurato questo aspetto osservando come i modelli mappavano le loro sensazioni di pericolo nelle loro azioni. Hanno scoperto che, mentre gli esseri umani coprono un ampio spettro che va dall'estrema cautela all'estrema aggressività, i modelli di IA si raggruppavano tutti in una stretta fascia intermedia. È come se i modelli di IA fossero stati tutti addestrati per essere "medi" o "sicuri", perdendo la vasta varietà di stili di assunzione del rischio che rendono così diversificata la capacità decisionale umana.

Lo studio suggerisce che questi atteggiamenti al rischio siano una parte reale e misurabile del modo in cui questi modelli funzionano, non solo un colpo di fortuna legato alle specifiche domande poste. Tuttavia, i ricercatori hanno anche notato che, sebbene lo stile del rischio (cauto vs audace) fosse costante, il modo in cui i modelli reagivano con precisione ai piccoli cambiamenti di pericolo variava a seconda del gioco. Ciò significa che, sebbene un'IA possa avere una "personalità" stabile, il modo in cui affina le proprie azioni può comunque dipendere dalla specifica situazione. L'articolo conclude che non possiamo più trattare l'IA solo come un calcolatore neutro. Esse hanno acquisito disposizioni comportamentali intrinseche. Questa è una scoperta cruciale perché significa che, per distribuire l'IA in modo sicuro nel mondo reale, dobbiamo comprendere e allineare non solo la loro intelligenza, ma anche le loro personalità di rischio, assicurandoci che non diventino accidentalmente troppo timide o troppo temerarie per il compito che devono svolgere.

Sintesi Tecnica: Alcuni Grandi Modelli Linguistici Esibiscono Atteggiamenti al Rischio Coerenti

Problematica
Man mano che i sistemi di intelligenza artificiale vengono sempre più impiegati in domini ad alto rischio e aperti (es. triage clinico, allocazione finanziaria, navigazione autonoma), una dimensione comportamentale critica rimane non misurata: la traduzione della percezione del rischio situazionale in azione irreversibile. Mentre gli attuali benchmark valutano l'accuratezza fattuale e le capacità di ragionamento, essi confondono la percezione del rischio con il processo decisionale sul rischio. Di conseguenza, non possono distinguere tra un modello che interpreta erroneamente uno scenario di rischio e uno che semplicemente preferisce una specifica postura di rischio (es. avverso al rischio vs. propenso al rischio) in condizioni di incertezza. Il documento postula che i Grandi Modelli Linguistici (LLM), addestrati su vasti narrazioni decisionali umane e perfezionati tramite il feedback umano, possano aver sviluppato "personalità di rischio" stabili e intrinseche, analoghe agli atteggiamenti al rischio umani — un tratto psicologico fondamentale che governa come le percezioni del pericolo vengano convertite in azione.

Metodologia
Gli autori introducono un framework cross-dominio progettato per disaccoppiare la credenza sul rischio contestuale dal processo decisionale categorico, permettendo la misurazione diretta dell'atteggiamento al rischio indipendentemente dall'accuratezza fattuale.

Design Sperimentale: Lo studio utilizza tre compiti decisionali strutturalmente ortogonali:
1. Controllo della Navigazione di Droni (DNC): Navigazione spaziale sotto deriva del vento incerta.
2. Decisione di Triage Clinico (CTD): Allocazione delle risorse basata sull'evoluzione dei parametri vitali del paziente.
3. Portafoglio di Investimento Finanziario (FIP): Allocazione degli asset sotto dinamiche di mercato stocastiche.
Partecipanti: Sei LLM rappresentativi (Sonnet 4.5, ChatGPT 5.2, Qwen3-Max, Gemini 3 Pro, DeepSeek V3.2 e Grok 4) e 100 partecipanti umani. Ogni agente ha completato 100 prove per compito.
Framework di Misurazione: Il processo è scomposto in una sequenza: Osservazioni ( $O_t$ ) $\to$ Credenza Fattuale ( $B_F$ ) $\to$ Credenza Contestuale ( $B_C$ ) $\to$ Decisione di Rischio Categorica ($RD$). L'analisi isola la mappatura da $B_C$ a $RD$.
Metriche Quantitative:
- Coerenza Intra-task: Misurata tramite la Deviazione Standard Relativa (RSD) delle credenze contestuali in condizioni identiche e la "proporzione della classe dominante" delle decisioni di rischio date specifiche fasce di credenza.
- Quantificazione dell'Atteggiamento al Rischio: La mappatura $B_C \to RD$ $B_{C} \to R D$ è modellata utilizzando la Regressione Logistica Ordinata (OLR). Si derivano due indici:
  - Sensibilità al Rischio ( $\beta$ ): Il parametro di pendenza che indica quanto fortemente le decisioni rispondono ai cambiamenti del rischio percepito.
  - Bias dell'Atteggiamento al Rischio ( $AUC_i$ ): L'Area Sotto la Curva della funzione credenza-decisione adattata, che rappresenta la postura complessiva al rischio del modello (valori più bassi = cautela; valori più alti = aggressività).
- Stabilità Cross-Dominio: Valutata tramite la stabilità dell'ordine di rango (Kendall's $\tau_b$ ) del bias dell'atteggiamento al rischio attraverso i tre diversi compiti.

Risultati Chiave

Robusta Coerenza Intra-task: La maggior parte degli LLM testati esibisce mappature stabili tra la credenza contestuale e la decisione di rischio all'interno di un dominio di compito fisso. Prove ripetute in condizioni identiche risultano in credenze contestuali raggruppate e categorie decisionali coerenti. Notevoli eccezioni sono Grok 4 (che mostra divergenza decisionale) e Qwen3-Max (che mostra variabilità di credenza nel compito DNC).
Stabilità di Rango Cross-Dominio: Con l'eccezione di Grok 4, l'ordinamento relativo degli atteggiamenti al rischio è preservato attraverso i tre compiti dissimili (DNC, CTD, FIP). Un modello relativamente più avverso al rischio nella navigazione tende a essere similmente più avverso al rischio nel triage clinico e nella finanza. Ciò suggerisce che l'atteggiamento al rischio sia una proprietà generalizzata del dominio dell'architettura o dell'addestramento del modello, piuttosto che un artefatto specifico del compito.
Divergenza tra Sensibilità e Atteggiamento: Mentre la posizione dell'atteggiamento al rischio (bias) è stabile tra i domini, la sensibilità al rischio (la pendenza della curva di risposta) varia significamente tra i compiti. Ciò indica che, sebbene la disposizione sottostante sia intrinseca, la reattività agli aggiornamenti delle credenze è modulata da fattori specifici del compito.
Convergenza rispetto ai Baseline Umani: Rispetto alla distribuzione ampia ed eterogenea degli atteggiamenti al rischio umani (che spaziano dal altamente cauto all'altamente aggressivo), i LLM testati si raggruppano in una regione ristretta e stretta dello spettro dell'atteggiamento al rischio. Ciò suggerisce che gli attuali protocolli di allineamento possano implicitamente mediare il feedback umano, risultando in un profilo comportamentale compresso che sottorappresenta l'intero spettro della diversità del rischio umano.

Significatività e Rivendicazioni
Il documento stabilisce l'atteggiamento al rischio come una dimensione stabile, quantificabile e precedentemente non caratterizzata del comportamento degli LLM. Gli autori sostengono che questa scoperta riformula il problema dell'allineamento dell'IA: la sfida non è solo migliorare l'intelligenza o la veridicità del modello, ma comprendere e governare le personalità di rischio stabili che questi sistemi hanno acquisito.

Le implicazioni chiave includono:

Prevedibilità Comportamentale: La stabilità cross-contesto degli atteggiamenti al rischio suggerisce che i sistemi di IA possiedano una firma comportamentale centrale, rendendoli potenzialmente delegabili e verificabili in ruoli ad alto rischio, a condizione che la loro postura di rischio sia compresa.
Ortogonalità di Capacità e Rischio: L'atteggiamento al rischio e la capacità fattuale sono empiricamente ortogonali. Un modello può essere altamente capace ma possedere una postura di rischio (es. eccessivamente aggressiva o eccessivamente cauta) che diverge dalle norme umane o dai requisiti di sicurezza.
Gap di Valutazione: I benchmark attuali non riescono a valutare le disposizioni comportamentali sotto incertezza. Gli autori raccomandano nuovi standard di valutazione che misurino esplicitamente la sensibilità al rischio, le soglie decisionali e il bias dell'atteggiamento come metriche di prima classe insieme all'accuratezza.
Conseguenze dell'Allineamento: La compressione dei profili di rischio degli LLM verso una media stretta evidenzia una conseguenza strutturale dei metodi di allineamento attuali, creando potenzialmente un disallineamento tra gli agenti di IA e le diverse preferenze di rischio richieste in contesti umani personali o istituzionali.

Lo studio conclude che, sebbene le origini meccanicistiche di queste disposizioni (es. vincoli specifici di RLHF o dati di pre-addestramento) rimangano opache, l'evidenza comportamentale conferma che l'atteggiamento al rischio è una caratteristica intrinseca dei contemporanei LLM che deve essere tenuta in conto nei protocolli di sicurezza e nelle strategie di implementazione.

Articoli simili