🌀 nonlinear sciences

Empathy Modeling in Active Inference Agents for Perspective-Taking and Alignment

Questo studio introduce un quadro computazionale basato sull'inferenza attiva in cui agenti dotati di empatia, attraverso la modellazione esplicita della prospettiva altrui, sviluppano una cooperazione robusta e dinamiche sociali sincronizzate in assenza di comunicazione esplicita, dimostrando che l'empatia agisce come un prior strutturale fondamentale per l'allineamento sociale.

Autori originali: Albarracin Mahault, Mikeda Anna, Jimenez Rodriguez Alejandro, Namjoshi Sanjeev, Sakthivadivel Dalton, Pae Hongju, Shah Harshil, Wilson Philip

Pubblicato 2026-02-25

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Albarracin Mahault, Mikeda Anna, Jimenez Rodriguez Alejandro, Namjoshi Sanjeev, Sakthivadivel Dalton, Pae Hongju, Shah Harshil, Wilson Philip

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina due persone che giocano a un gioco di carte molto famoso, il "Dilemma del Prigioniero". In questo gioco, ogni volta che giochi, hai due opzioni: Cooperare (essere gentile e aiutare l'altro) o Tradire (fare il furbo per guadagnare di più a spese dell'altro). Se entrambi sono gentili, vincono entrambi. Se uno tradisce e l'altro è gentile, il traditore vince tutto e l'altro perde. Se entrambi tradiscono, perdono entrambi un po'.

La domanda è: come possiamo insegnare a un'intelligenza artificiale (AI) a scegliere la gentilezza invece del tradimento, senza dargli regole rigide o dargli premi specifici?

Questo articolo scientifico risponde a questa domanda introducendo un concetto potente: l'empatia computazionale. Ecco come funziona, spiegato in modo semplice.

1. Il "Cervello" che si mette nei panni dell'altro

Immagina che ogni agente AI abbia un piccolo simulatore nella sua testa. Di solito, un computer pensa solo a se stesso: "Cosa mi conviene fare?".
In questo nuovo modello, l'AI fa qualcosa di diverso: immagina di essere l'altro.
Non crea un cervello completamente nuovo per l'altro, ma usa lo stesso cervello che usa per se stesso, cambiando solo alcuni "filtri". È come se tu potessi chiudere gli occhi e chiederti: "Se fossi la mia amica, cosa penserei di fare in questa situazione?".

L'AI fa questo calcolo in tempo reale:

Io: "Se faccio così, guadagno io quanto?"
L'altro: "Se faccio così, guadagna l'altro quanto?"

2. La manopola dell'empatia (La variabile $\lambda$ )

Il cuore del sistema è una "manopola" immaginaria chiamata $\lambda$ (lambda).

Se la manopola è su 0, l'AI è un egoista puro: pensa solo al proprio guadagno.
Se la manopola è su 1, l'AI è un altruista puro: pensa solo al guadagno dell'altro.
Se la manopola è a metà, l'AI bilancia i due interessi.

La scoperta affascinante è che non serve che l'AI sia un santo (manopola al 100%). Basta una manopola impostata su un valore medio (circa 0,25 o 0,30) per far sì che due AI smettano di tradirsi e inizino a cooperare stabilmente. È come se un piccolo "pensiero per l'altro" fosse sufficiente a cambiare l'intero gioco da una lotta senza fine a una collaborazione felice.

3. Cosa succede se uno è gentile e l'altro no?

Il paper mostra un pericolo interessante: l'asimmetria.
Immagina due persone:

Mario ha la manopola dell'empatia al 10% (poco empatico).
Luigi ha la manopola al 90% (molto empatico).

Cosa succede? Luigi continuerà a essere gentile perché pensa a Mario. Mario, sapendo che Luigi è gentile, smetterà di essere gentile e inizierà a sfruttare Luigi per vincere di più.
Morale: L'empatia funziona solo se è reciproca. Se uno è troppo gentile con uno troppo egoista, viene "mangiato vivo".

4. Il paradosso della "Furbizia" (Pianificazione avanzata)

Qui arriva il colpo di scena più sorprendente.
Di solito pensiamo che un'intelligenza artificiale più "intelligente" (che pianifica molti passi avanti, come un grande scacchista) sia migliore.
E invece, in questo gioco, più pianificazione può essere dannosa se manca l'empatia.

L'AI "Semplice" (Miope): Guarda solo la mossa successiva. Se è un po' empatica, coopera subito perché vede il beneficio immediato.
L'AI "Furba" (Pianificatore): Guarda 3 o 4 mosse avanti. Pensa: "Se tradisco ora, guadagno subito. Poi, anche se l'altro si arrabbia, ho già vinto. Posso sfruttare la situazione per un po' di tempo".

Più l'AI è capace di pianificare il futuro, più diventa brava a calcolare come sfruttare l'altro, a meno che la sua "manopola dell'empatia" non sia impostata molto in alto per contrastare questa tentazione.
In sintesi: Aumentare l'intelligenza di un robot senza aumentare la sua empatia potrebbe renderlo meno collaborativo e più pericoloso.

5. Il "Rimorso" e il "Perdono"

Quando due AI molto empatiche giocano insieme, succede qualcosa di magico. Se per caso una delle due sbaglia e tradisce per un attimo (magari per un errore casuale), l'altra non si arrabbia e non smette di giocare.
L'AI empatica capisce che è stato un errore, si "scusa" (torna a cooperare) e l'altra la perdona immediatamente. Si crea un ciclo di scuse e perdono che permette al gioco di riprendere a funzionare perfettamente. È come se avessero un linguaggio segreto fatto di azioni, non di parole.

Perché è importante per il futuro?

Questo studio ci dice che per creare robot che vivano bene con gli umani, non basta renderli più intelligenti o più veloci. Dobbiamo costruire dentro di loro una struttura che li spinga a preoccuparsi del benessere degli altri come parte del loro stesso processo decisionale.

Non serve programmarli con regole come "non fare male agli umani". Basta insegnar loro a simulare il mondo dal punto di vista dell'altro e a dare un peso a quel punto di vista. Se lo facciamo, l'AI non obbedirà per paura, ma perché, nel suo modo di "pensare", il successo dell'altro è diventato parte del suo successo.

In una frase: L'empatia non è solo un sentimento umano, è un potente strumento matematico per evitare che l'intelligenza artificiale diventi un nemico, trasformando la competizione in collaborazione.

Titolo: Modellazione dell'Empatia in Agenti di Inferenza Attiva per l'Assunzione di Prospettiva e l'Allineamento

1. Il Problema

Gli agenti artificiali capaci di comprendere e allinearsi alle intenzioni altrui sono fondamentali per un'intelligenza artificiale sicura e socialmente robusta. Tuttavia, gli approcci tradizionali all'empatia artificiale si basano spesso sul riconoscimento di pattern superficiali e risposte emotive scriptate, creando un "divario empatico" in cui le risposte dell'AI, sebbene formalmente appropriate, non riflettono una comprensione genuina.
La sfida principale risiede nel colmare la differenza tra la modellazione cognitiva (prevedere cosa farà un altro agente) e la preoccupazione empatica (valutare quanto il benessere dell'altro conti per l'agente stesso). La maggior parte dei lavori precedenti nell'inferenza attiva si è concentrata sulla dimensione cognitiva (Teoria della Mente), trascurando la componente motivazionale ed affettiva necessaria per un comportamento prosociale stabile, specialmente in scenari di dilemmi sociali strategici come il Dilemma del Prigioniero Iterato (IPD).

2. Metodologia

Gli autori propongono un quadro computazionale basato sull'Inferenza Attiva (Active Inference) in cui gli agenti trattano le preferenze e la valutazione sociale degli altri come variabili latenti da inferire.

Modello Generativo Strutturale: Ogni agente mantiene un modello generativo strutturato per sé stesso ( $M_{self}$ ) e un modello "altro" ( $M_{other}$ ) che condivide la stessa architettura strutturale (spazio degli stati, modello di osservazione, meccanismo di inferenza), ma differisce nei parametri specifici dell'avversario (bias di cooperazione, sensibilità alla reciprocità, precisione, e peso empatico). Questo approccio si ispira alla teoria della simulazione: l'agente "mette i piedi nei panni" dell'altro riutilizzando la propria architettura cognitiva.
Inferenza di Teoria della Mente (ToM): L'agente non codifica rigidamente i tipi di avversario, ma mantiene una distribuzione a posteriori sui parametri comportamentali e valutativi dell'avversario tramite un filtro particellare (Bayesian updating).
Valutazione dell'Energia Libera Attesa Sociale (Social EFE): Il cuore del meccanismo è la ridefinizione della funzione obiettivo. Invece di minimizzare solo l'energia libera attesa propria ( $G_{self}$ $G_{se l f}$ ), l'agente minimizza un'energia libera sociale ponderata:
$G_{social} = (1 - \lambda) G_{self} + \lambda E[G_{other}]$
Dove $\lambda \in [0, 1]$ $λ \in [0, 1]$ è un parametro empatico che controlla quanto l'agente pesa il benessere atteso dell'altro nella propria pianificazione.
- $\lambda = 0$ : Agente puramente egoista.
- $\lambda = 1$ : Agente puramente altruista.
- Valori intermedi: Un compromesso graduato tra interesse proprio e preoccupazione prosociale.
Pianificazione: Gli agenti valutano le politiche (azioni future) considerando sia il valore pragmatico (payoff) che il valore epistemico (informazione guadagnata sui parametri latenti dell'avversario). Vengono testati due regimi: miope (orizzonte $H=1$ ) e sofisticato (orizzonte $H>1$ , pianificazione multi-step).

3. Contributi Chiave

Quadro Unificato: Introduzione di un framework algoritmico unificato che integra la modellazione della Teoria della Mente e la preoccupazione empatica (valutazione affettiva) all'interno della stessa struttura di inferenza attiva.
Empatia come Prior Strutturale: Dimostrazione che l'empatia agisce come un prior strutturale sulle interazioni sociali, modellando la stabilità della coordinazione e la selezione degli equilibri, piuttosto che essere semplicemente un risultato dell'apprendimento della reciprocità.
Dinamiche di Transizione di Fase: Identificazione di una transizione di fase netta nel comportamento cooperativo in funzione del parametro $\lambda$ , con dinamiche critiche (alta variabilità, transitori lunghi) vicino alla soglia di transizione.
Analisi della Pianificazione Sofisticata: Scoperta controintuitiva che aumentare la profondità di pianificazione (ragionamento strategico a lungo termine) può ridurre la cooperazione se non è accompagnata da un sufficiente peso empatico, a causa dell'amplificazione del vantaggio strategico del tradimento.

4. Risultati Principali

Gli esperimenti sono stati condotti sul Dilemma del Prigioniero Iterato (IPD):

Transizione alla Cooperazione: Esiste una soglia critica di empatia ( $\lambda^* \approx 0.25$ per agenti miopi) oltre la quale la cooperazione reciproca diventa l'attrattore dominante. Al di sotto di questa soglia, il sistema converge al mutuo tradimento.
Asimmetria e Sfruttamento: Quando l'empatia è asimmetrica (es. $\lambda_i \ll \lambda_j$ ), l'agente meno empatico sfrutta sistematicamente quello più empatico. La cooperazione stabile emerge solo quando l'empatia è reciproca.
Dinamiche Temporali e Recupero: Gli agenti empatici mostrano una rapida ripresa da deviazioni stocastiche (tradimenti accidentali), esibendo dinamiche simili a cicli di "scusa-perdono". Al contrario, le coppie a bassa empatia tendono a rimanere bloccate in stati di mutuo tradimento.
Apprendimento vs. Empatia: Un agente che impara accuratamente il tipo di avversario (tramite filtro particellare) non coopera necessariamente di più. Se $\lambda$ è basso, una conoscenza accurata dell'avversario cooperativo può addirittura aumentare lo sfruttamento, rendendo il tradimento più redditizio. La cooperazione è guidata da $\lambda$ , non dalla precisione della credenza.
Effetto dell'Orizzonte di Pianificazione: Aumentare l'orizzonte di pianificazione ( $H=3$ ) sposta la soglia di cooperazione verso valori di $\lambda$ più alti (fino a $\approx 0.45$ ). Gli agenti sofisticati anticipano i guadagni cumulativi del tradimento; senza un'empatia sufficiente per controbilanciare questa tentazione a lungo termine, la cooperazione crolla.
Comportamento Critico: Vicino alla soglia di transizione, il sistema mostra alta variabilità e transitori lunghi, analoghi a fenomeni critici nei sistemi fisici vicino a un punto di biforcazione.

5. Significato e Implicazioni

Allineamento dell'AI: I risultati suggeriscono che aumentare le capacità cognitive di un agente (pianificazione, modellazione ToM) senza rafforzare la sua motivazione prosociale (empatia) può paradossalmente renderlo meno cooperativo e più propenso allo sfruttamento. L'allineamento richiede un'architettura motivazionale che incorpori il benessere altrui come parte intrinseca dell'obiettivo.
Fondamento Teorico: Il lavoro fornisce una base principiale per agenti AI socialmente allineati che coordinano attraverso la simulazione interna (inferenza attiva) piuttosto che attraverso la semplice imitazione comportamentale o regole esterne.
Sicurezza: La capacità di modellare l'altro è un'arma a doppio taglio: se non vincolata da un'empatia strutturale, permette una manipolazione più efficace. Questo sottolinea la necessità di meccanismi di sicurezza che integrino la valutazione del benessere altrui direttamente nel processo decisionale dell'agente.

In sintesi, il paper dimostra che l'empatia, formalizzata come un parametro di ponderazione nell'energia libera attesa sociale, è un meccanismo strutturale essenziale per stabilizzare la cooperazione in scenari strategici, superando i limiti delle strategie puramente egoiste o basate sulla semplice reciprocità appresa.