💻 computer science

Noncooperative Human-AI Agent Dynamics

Questo paper esamina le dinamiche non cooperative tra agenti AI e decisori umani in ambienti strategici, modellando gli umani con la teoria del prospetto e gli AI con la massimizzazione dell'utilità attesa, per analizzare attraverso simulazioni numeriche i comportamenti emergenti e le anomalie strategiche nelle popolazioni miste.

Autori originali: Dylan Waldner, Vyacheslav Kungurtsev, Mitchelle Ashimosi

Pubblicato 2026-03-19

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Dylan Waldner, Vyacheslav Kungurtsev, Mitchelle Ashimosi

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere in una partita a scacchi, ma invece di giocare contro un altro umano o contro un computer "perfetto", giochi contro un ibrido: un'intelligenza artificiale che calcola ogni mossa con la logica fredda di un matematico e un essere umano che, invece, prende decisioni basandosi su emozioni, paure e come si sente rispetto a ciò che ha già vinto o perso.

Questo è il cuore dello studio "Dinamiche non cooperative tra agenti umani e AI" di Dylan Waldner e colleghi.

Ecco una spiegazione semplice, usando metafore quotidiane, di cosa hanno scoperto.

1. I Due Giocatori: Il Robot Logico vs. L'Uomo Emotivo

Per capire l'esperimento, dobbiamo prima capire chi sono i due protagonisti:

L'Agente AI (Il Matematico Freddo): Immagina un giocatore che segue la regola d'oro: "Massimizza il guadagno medio". Se ha la possibilità di vincere 10 euro o perdere 5, sceglie sempre l'opzione che porta al maggior profitto matematico nel lungo periodo. Non ha paura, non è arrabbiato, non si sente in colpa. È come un algoritmo di trading che non dorme mai.
L'Agente Umano (Il Giocatore Emotivo): Qui gli autori usano una teoria chiamata Teoria del Prospetto. Immagina un giocatore che non guarda solo il risultato finale, ma a come ci è arrivato.
- Paura della perdita: Per un umano, perdere 100 euro fa più male che la gioia di guadagnarne 100. È come se la perdita pesasse il doppio.
- Il Punto di Riferimento: L'umano non giudica se sta vincendo in assoluto, ma se sta vincendo rispetto a dove si aspettava di essere. Se pensavi di guadagnare 50 e ne guadagni 40, ti senti in perdita, anche se hai comunque vinto dei soldi.

2. L'Esperimento: Il Campo di Gioco

Gli scienziati hanno messo questi due tipi di giocatori (e varie combinazioni tra loro) in diverse "palestre" di gioco, che sono giochi classici della teoria dei giochi:

Il Dilemma del Prigioniero: Due criminali devono decidere se tradirsi o collaborare. La logica dice: "Tradisci sempre". Ma gli umani spesso collaborano per paura o speranza.
Testa o Croce (Matching Pennies): Un gioco di puro caso dove uno vince e l'altro perde.
Caccia al Cervo (Stag Hunt): Un gioco di fiducia. Se collaboriamo, prendiamo il cervo (grande premio). Se abbiamo paura e ci tiriamo indietro, prendiamo un coniglio (piccolo premio sicuro).
La Sfida (Chicken): Due auto che corrono l'una contro l'altra. Chi sterza per primo è il "vigliacco", chi non sterza muore.

3. Cosa è Succeso? (Le Sorprese)

Gli autori hanno simulato migliaia di partite per vedere cosa succede quando un "Matematico Freddo" (AI) gioca contro un "Emotivo" (Umano). Ecco le scoperte più interessanti:

A. A volte, l'Uomo Emotivo vince (o almeno, non perde)

In giochi come il Dilemma del Prigioniero, ci si aspetterebbe che tutti finiscano per tradirsi (il risultato peggiore per tutti). Tuttavia, quando l'umano giocava contro l'AI, a volte l'umano continuava a collaborare un po' di più del previsto, creando risultati inaspettati. L'AI, cercando di massimizzare il profitto, a volte si trovava spiazzata dal comportamento "irrazionale" dell'umano.

B. L'Uomo Emotivo a volte si perde da solo

In giochi come la Battaglia dei Sessi (due amici che vogliono vedere un film diverso ma vogliono stare insieme), l'umano ha mostrato comportamenti strani. A volte sceglieva una strategia che sapeva essere sbagliata, solo perché la sua paura di perdere o la sua percezione del "punto di riferimento" lo spingevano a farlo. È come se un giocatore di calcio, invece di tirare in porta, decidesse di calciare il pallone fuori dal campo perché "sembra troppo rischioso" tirare in alto.

C. Il Paradosso della "Perdita"

Uno dei risultati più strani è che, anche quando l'umano giocava in modo "strano" e cambiava strategia spesso (a causa della sua paura di perdere), il risultato finale in termini di soldi guadagnati era spesso lo stesso di quando giocava in modo logico.

Metafora: Immagina di guidare un'auto. L'AI guida a velocità costante. L'umano frena e accelera nervosamente perché ha paura di un incidente. Alla fine, entrambi arrivano a destinazione nello stesso tempo, ma l'umano ha consumato più benzina (energia mentale) e ha avuto più stress, pur ottenendo lo stesso risultato.

D. Il "Mostro" dei Giochi Strani

Ci sono giochi progettati apposta per far impazzire la logica (come il gioco di Crawford). In questi casi, l'AI (il matematico) spesso fallisce perché cerca un equilibrio che non esiste, mentre l'umano, guidato dalle sue emozioni, finisce per fare scelte "pure" (semplici) che, paradossalmente, funzionano meglio in quel caos.

4. Perché è Importante?

Questo studio ci dice che non possiamo trattare gli esseri umani come computer.

Se un'azienda o un governo crea un sistema (come un algoritmo di trading, un'auto a guida autonoma o un sistema di sicurezza) che interagisce con le persone, deve sapere che le persone non agiscono in modo logico.

Se un'auto a guida autonoma (AI) prevede che un pedone (umano) attraversi la strada solo quando è "matematicamente sicuro", potrebbe non fermarsi mai, perché l'umano attraversa per "paura di perdere tempo" o per "abitudine", anche se è pericoloso.
Se un'AI di trading cerca di sfruttare la logica umana, potrebbe fallire perché gli umani reagiscono alla paura di perdere, non al calcolo del guadagno.

In Sintesi

Il paper ci insegna che quando l'Intelligenza Artificiale incontra l'Uomo, non è una battaglia tra "Logica contro Emozione". È una danza complessa dove l'emozione umana (la paura di perdere, il bisogno di sentirsi in pari) crea schemi di comportamento che l'AI fatica a prevedere.

A volte l'AI vince, a volte l'umano vince, e spesso finiscono in un punto di equilibrio strano che nessun libro di matematica avrebbe previsto. La lezione finale? Per integrare l'AI nella società, dobbiamo imparare a programmarla non solo per essere "intelligenti", ma per capire che gli umani sono irrazionali, emotivi e guidati da ciò che temono di perdere.

Titolo: Dinamiche Non Cooperative tra Agenti Umani e AI

Autori: Dylan Waldner, Vyacheslav Kungurtsev, Mitchelle Ashimosi
Data: 19 Marzo 2026

1. Il Problema

Il lavoro affronta la crescente interazione non cooperativa tra agenti di Intelligenza Artificiale (AI) e decisori umani in ambienti strategici. Mentre la letteratura esistente si concentra spesso su agenti omogenei o su modelli di "Homo Economicus" (agenti che massimizzano l'utilità attesa), questo studio evidenzia un vuoto critico: la modellazione realistica delle interazioni miste tra AI (che seguono la massimizzazione dell'utilità attesa, EU) e umani (il cui comportamento è meglio descritto dalla Teoria del Prospetto, PT).

Il problema centrale è comprendere come le preferenze cognitive umane, caratterizzate da avversione alle perdite, dipendenza dal punto di riferimento e pesatura non lineare delle probabilità, influenzino la convergenza verso equilibri, la stabilità dei sistemi e i vantaggi competitivi in scenari come il trading algoritmico, la guida autonoma, la cybersecurity e l'allocazione delle risorse.

2. Metodologia

Gli autori hanno sviluppato un framework sperimentale basato su Apprendimento per Rinforzo Multi-Agente (MARL) in giochi a somma zero e non, utilizzando una combinazione di agenti con preferenze diverse.

Tipologie di Agenti

Agente AI (EU): Un agente che massimizza l'utilità attesa standard utilizzando l'algoritmo Q-learning con ricompensa media. Non possiede bias cognitivi.
Umano Consapevole (Aware Human - AH): Un agente umano che possiede conoscenza completa della struttura del gioco e delle matrici di payoff. Calcola le migliori risposte (best replies) basandosi sulla trasformazione Cumulative Prospect Theory (CPT) dei payoff, senza apprendimento dinamico.
Umano Apprendente (Learning Human - LH): Un agente umano che non conosce a priori il gioco. Utilizza Q-learning per apprendere le dinamiche, ma applica la trasformazione CPT ai valori Q (Q-values) al momento della decisione, simulando l'adattamento umano basato su bias cognitivi.

Modellazione Teorica

Teoria del Prospetto (CPT): Gli agenti umani (AH e LH) utilizzano la CPT di Tversky e Kahneman. I parametri chiave includono:
- Funzione di valore non lineare con avversione alle perdite ( $\lambda = 2.25$ ).
- Sensibilità decrescente ( $\alpha = \beta = 0.88$ ).
- Pesatura delle probabilità non lineare (funzioni a "S" inversa).
Punti di Riferimento (Reference Points): Sono stati testati quattro modelli dinamici per aggiornare il punto di riferimento ( $r_i$ $r_{i}$ ) degli agenti umani:
- EMA (Aspettative adattive): Media mobile esponenziale dei payoff ricevuti.
- V-Based: Derivato dai valori Q appresi o dalla tabella dei payoff.
- EMAOR (Confronto sociale): Media mobile dei payoff dell'avversario.
- Fisso: Punto di riferimento costante.

Ambiente Sperimentale

Lo studio è stato condotto su una suite di giochi classici e anomalie teoriche:

Giochi Classici: Dilemma del Prigioniero, Testa o Croce (Matching Pennies), Battaglia dei Sessi, Caccia al Cervo (Stag Hunt), Chicken (Hawk-Dove).
Giochi Anomali: Gioco di Ochs e Controesempio di Crawford (progettati per mostrare la non-esistenza di equilibri in presenza di preferenze PT).
Configurazioni: Sono state testate tutte le combinazioni a due a due (AI vs AI, AI vs AH, AI vs LH, ecc.) sia in giochi "one-shot" (storia di stato = 0) che in giochi ripetuti (storia di stato = 2).

3. Contributi Chiave

Modellazione Ibrida: È il primo studio a esplorare empiricamente i comportamenti asintotici di popolazioni miste (PT vs EU) in giochi non cooperativi 2x2.
Distinzione Apprendimento/Consapevolezza: Distingue tra agenti umani che conoscono il gioco (AH) e agenti che apprendono attraverso l'interazione (LH), permettendo di isolare l'impatto dell'apprendimento dai bias cognitivi statici.
Q-Learning con Punti di Riferimento Dinamici: Ha formulato e studiato l'applicazione del Q-learning in regimi con molteplici punti di riferimento adattivi, integrando la trasformazione CPT direttamente nella funzione di policy.
Analisi delle Anomalie: Ha identificato casi in cui le interazioni miste portano a comportamenti emergenti non previsti dalla teoria classica, inclusi equilibri subottimali e instabilità.

4. Risultati Numerici e Osservazioni

I risultati mostrano che l'introduzione di agenti umani (PT) altera significativamente le dinamiche di gioco rispetto ai modelli puramente razionali (EU):

Dilemma del Prigioniero:
- Nella maggior parte dei casi, gli agenti convergono alla defezione reciproca (0,0), come previsto.
- Anomalia: In configurazioni specifiche (LH vs AH con punto di riferimento EMAOR), l'agente umano apprendente ha mostrato una cooperazione anomala (~10%), guidata da una trasformazione CPT estrema che alterava la percezione dei valori attesi.
Matching Pennies:
- Si sono osservate deviazioni significative dall'equilibrio misto teorico (0.5, 0.5), con l'agente LH che adottava strategie estreme (es. rapporto 9:1) in giochi ripetuti.
- Sorprendentemente, queste deviazioni di policy non si sono tradotte in differenze significative nelle ricompense totali, suggerendo una "livellamento" dei guadagni dovuto alla stabilità dell'agente AH.
Battaglia dei Sessi e Caccia al Cervo:
- In Battle of the Sexes, l'agente LH ha mostrato comportamenti controintuitivi, convergendo verso equilibri misti subottimali o strategie che concedono vantaggi all'avversario, a causa della ridotta sensibilità alle differenze di valore (diminishing sensitivity) quando i punti di riferimento sono alti.
- In Stag Hunt, la maggior parte delle interazioni ha favorito l'equilibrio di coordinamento (Stag), ma le interazioni AI-LH hanno talvolta portato a equilibri misti o all'equilibrio di sicurezza (Hare).
Giochi Anomali (Ochs e Crawford):
- I risultati hanno confermato le teorie sulla non-esistenza di equilibri di Nash puri in presenza di preferenze PT.
- Gli agenti hanno convergito verso strategie pure o basini di attrazione variabili, dimostrando che la CPT può rompere le garanzie di esistenza dell'equilibrio classico, portando a instabilità sistemiche.
Metriche di Trasformazione:
- È stato osservato che l'agente LH, quando gioca contro un AH, mostra picchi enormi nella distanza L2 tra i valori EU e quelli trasformati CPT, senza che questo si traduca necessariamente in un cambiamento comportamentale drastico, suggerendo una complessità non lineare nell'interazione tra apprendimento e bias.

5. Significato e Implicazioni

Questo studio è fondamentale per la sicurezza dell'AI e la progettazione di sistemi autonomi:

Vulnerabilità Sistemiche: Le interazioni non cooperative tra AI razionali e umani con bias cognitivi possono creare vantaggi sistematici o vulnerabilità impreviste. Le AI che ottimizzano l'utilità attesa potrebbero essere sfruttate o fallire nel prevedere le reazioni umane in scenari critici.
Modellazione Realistica: Ignorare la Teoria del Prospetto nei modelli di interazione umano-AI porta a previsioni errate sugli equilibri di mercato, sulla sicurezza delle reti e sul comportamento nella guida autonoma.
Prospettive Future: Il lavoro suggerisce la necessità di incorporare modelli comportamentali umani negli algoritmi di AI (es. veicoli autonomi che guidano diversamente vicino a umani rispetto ad altre AI) e di sviluppare meccanismi di design che mitigino gli effetti negativi dei bias cognitivi nelle interazioni competitive.

In sintesi, il paper dimostra che l'integrazione di preferenze umane realistiche (PT) in sistemi multi-agente non è solo una correzione teorica, ma cambia radicalmente la dinamica competitiva, portando a comportamenti emergenti, instabilità e risultati che la teoria classica non può prevedere.