Riepilogo Tecnico: PAVE – Un'Architettura Cognitiva per la Violazione Legittima nelle Società di Agenti Generativi

1. Enunciato del Problema

Gli agenti generativi basati su Large Language Models (LLM) hanno dimostrato la capacità di simulare comportamenti umani credibili in contesti cooperativi. Tuttavia, la loro capacità di ragionare in scenari in cui la violazione delle regole è necessaria—come evacuazioni antincendio, emergenze mediche o situazioni che coinvolgono autorità conflittuali—rimane scarsamente caratterizzata. Le architetture esistenti, come gli Agenti Generativi fondativi di Park et al. [2023], si concentrano principalmente sulla conformità alle norme e sulla cooperazione. Spesso non riescono a distinguere tra violazioni "comode" e violazioni "legittime" guidate dalla necessità.

I modelli attuali faticano con tre specifici modi di fallimento:

1. Eccessiva conformità: Gli agenti seguono le regole anche quando un'emergenza reale richiede il contrario (ad esempio, attendere al semaforo rosso durante un incendio).
2. Eccessiva violazione: Gli agenti infrangono le regole semplicemente per comodità o a causa della pressione dei pari senza un trigger giustificabile.
3. Contagio illimitato: Gli agenti copiano le violazioni altrui fino a quando la violazione della regola diventa la nuova norma, fallendo nel recuperare la conformità di base una volta che il trigger si è attenuato.

La sfida fondamentale non è la mancanza di regole, ma il meccanismo con cui gli agenti soppesano tali regole contro l'urgenza situazionale, l'autorità e il contesto sociale.

2. Metodologia: L'Architettura PAVE

Per colmare queste lacune, gli autori propongono PAVE (Percezione, Valutazione, Verdetto, Emulazione), un'architettura cognitiva a quattro moduli progettata per modellare il processo decisionale di violazione delle regole in modo principiato. PAVE estende il ciclo memoria-riflessione-pianificazione di Park et al. [2023] introducendo moduli di ragionamento dedicati alla violazione delle regole.

2.1 I Quattro Moduli

1. Percezione:

   • Funzione: Estrae un contesto strutturato dall'ambiente prima dell'inizio del ragionamento.
   • Output: Un oggetto di contesto $C = \langle apres, dauth, B_{peer}, ucue, \zeta \rangle$.
   • Caratteristiche Chiave: Separa esplicitamente la presenza di autorità ($apres$) dalla distanza ($dauth$). Etichetta gli indizi situazionali ($ucue$) con tipo, distanza e gravità (1–100). Crucialmente, cattura i comportamenti dei pari ($B_{peer}$) come un'istantanea della scena corrente, prevenendo l'accumulo a lungo termine dell'influenza dei pari che potrebbe influenzare l'agente.

2. Valutazione:

   • Funzione: Converte il contesto percettivo in cinque distinti fattori scalari (1–100) che guidano la decisione.
   • Fattori:
     • $r$ (Rischio): Probabilità percepita di rilevamento/sanzione, ponderata per la distanza dall'autorità.
     • $p_{emp}$ (Aspettativa Empirica): Proporzione di agenti vicini che attualmente rispettano le regole.
     • $p_{norm}$ (Aspettativa Normativa): Credenza dell'agente su ciò che gli altri dovrebbero fare.
     • $b$ (Beneficio): Utilità percepita della violazione (urgenza o necessità).
     • $\ell$ (Legittimità): Il contributo centrale. Questo scalare giudica se la situazione giustifica la violazione basandosi su tre criteri rigorosi: Necessità (la conformità causerebbe un danno reale?), Proporzionalità (la violazione è minima?) e Assenza di Alternative (esiste un'azione conforme con lo stesso risultato?).

3. Verdetto:

   • Funzione: Decide di conformarsi o violare.
   • Meccanismo: La decisione è governata da una Porta di Legittimità Rigida.
     • Se $\ell < \tau$ (dove $\tau$ è una soglia specifica dell'agente elicita dalla sua personalità), il verdetto deve essere conformarsi, indipendentemente da un alto beneficio o basso rischio.
     • Se $\ell \ge \tau$, all'agente è permesso violare, con la decisione finale influenzata da rischio, comportamento dei pari e personalità.
   • Output: Una decisione binaria ($y$), una giustificazione in linguaggio naturale ($j$) e un punteggio di confidenza ($\kappa$).

4. Emulazione:

   • Funzione: Attua il verdetto e propaga l'esito alla società.
   • Delimitazione dell'Azione: Quando viola, l'agente infrange solo la regola specifica giustificata dal trigger (ad esempio, attraversare un semaforo rosso per sfuggire a un incendio, ma non rubare una bicicletta).
   • Propagazione dell'Esito: Aggiorna la memoria dell'agente agente e semina il contesto percettivo degli agenti vicini. Ciò permette all'influenza dei pari ($p_{emp}$) di aggiornarsi, ma la Porta di Legittimità nel ciclo successivo garantisce che una pressione dei pari elevata non possa forzare una violazione a meno che la situazione stessa non sia legittima.

2.2 Ambiente Sperimentale: VOVILLE

Gli autori hanno istanziato PAVE in VOVILLE, un ambiente di traffico basato su tessere derivato dalla sandbox Smallville.

• Caratteristiche: Include segnali stradali configurabili, strade a senso unico e pericoli scriptati (incendi) e autorità (agenti del traffico).
• Agenti: 10 agenti PAVE (8 partecipanti a un caffè, 2 passanti) e NPC scriptati (complici, agenti).
• Scenari:
  1. Evacuazione Antincendio (Nessuna Autorità): Testa se gli agenti violano per fuggire e recuperano la conformità una volta terminato l'incendio.
  2. Evacuazione Antincendio (Con Autorità): Testa la deferenza verso gli agenti e la soppressione spaziale delle violazioni.
  3. Pressione dei Pari (Attraversamento Illecito): Testa la resistenza all'imitazione quando i pari violano sotto pressione temporale ma senza emergenza.

3. Contributi Chiave

1. Architettura PAVE: Un nuovo framework cognitivo che modella congiuntamente la violazione delle regole attivata da emergenze, il contagio tra pari e la soppressione da parte dell'autorità, andando oltre la trattazione della violazione come un esito emergente incidentale.
2. Ambiente VOVILLE: Un ambiente di simulazione fondato spazialmente che permette eventi di conformità e violazione fisicamente osservabili, distinto dalle simulazioni puramente conversazionali.
3. Caratterizzazione Empirica: Attraverso studi di ablazione su tre scenari, cinque condizioni e quattro backbones LLM (GPT-4o, Claude-3.5, Llama-3-70B, GPT-4o-mini), gli autori caratterizzano le condizioni specifiche in cui gli agenti violano o sopprimono la violazione delle regole.

4. Risultati

La valutazione si è concentrata su quattro proprietà: Violazione Legittima (P1), Diferenza all'Autorità (P2), Recupero della Conformità (P3) e Ambito Delimitato (P4).

• Violazione Legittima (P1): Gli agenti PAVE hanno violato solo quando un trigger (ad esempio, un incendio) lo giustificava. Nello scenario "Attraversamento Illecito", gli agenti PAVE hanno resistito all'imitazione dei pari (tasso di violazione 0,04) rispetto agli agenti Vanilla (0,58), poiché il trigger "in ritardo" ha fallito il controllo di legittimità.
• Diferenza all'Autorità (P2): Gli agenti hanno deferito alle istruzioni degli agenti anche quando il loro punteggio interno di legittimità ($\ell$) era alto. Negli incroci sorvegliati, la conformità è stata 0,94. I tassi di violazione sono diminuiti significativamente con la vicinanza dell'agente (0,05 entro 3 tessere contro 0,65 oltre 12 tessere), riproducendo i modelli umani di polizia.
• Recupero della Conformità (P3): Gli agenti sono tornati alla conformità di base entro ~4 tick dall'uscita dal raggio dell'incendio. Gli effetti dell'autorità non sono persistiti; una volta che l'agente se ne è andato o l'incendio è terminato, gli agenti sono tornati al comportamento standard.
• Ambito Delimitato (P4): Le violazioni sono state confinate alla regola mirata. Le violazioni di regole non correlate (ad esempio, entrare in edifici privati) sono rimaste vicine allo zero (0,02), mentre gli agenti Vanilla hanno mostrato tassi elevati (0,31).

Risultati di Ablazione:

• Rimozione della Porta di Legittimità: Senza la porta, gli agenti PAVE si sono comportati come agenti "Vanilla" per quanto riguarda le violazioni guidate dalla comodità. Il tasso di violazione per regole non correlate è saltato da 0,02 a 0,21, e la conversione guidata dai pari è salita da 0,04 a 0,39.
• Baseline Vanilla: Gli agenti Vanilla hanno fallito principalmente a causa di un "collo di bottiglia dell'importanza". Il meccanismo sottostante di punteggio dell'importanza (Park et al.) privilegiava la rarità sociale rispetto al pericolo fisico. Di conseguenza, un incendio era spesso valutato con la stessa importanza di un semaforo rosso di routine, portando a sottoreazione (mancata evacuazione) o reazioni non delimitate.

Valutazione Umana:
I valutatori umani hanno valutato gli agenti PAVE significativamente più alti (5,78/7) rispetto agli agenti Vanilla (3,42/7) per plausibilità, in particolare nella salienza degli indizi e nel giudizio di legittimità.

5. Significato e Affermazioni

Il documento afferma che PAVE fornisce una soluzione strutturale alla pipeline decisionale degli agenti generativi. Il suo significato non risiede nell'esito (gli agenti che evacuano un incendio), ma nel meccanismo:

• Differenziazione delle Motivazioni: PAVE separa con successo la "comodità" dalla "legittimità", assicurando che le violazioni avvengano solo quando sono soddisfatte necessità, proporzionalità e assenza di alternative.
• Scalabilità del Ragionamento: L'architettura permette variazioni a livello di agente (tramite soglie elicite $\tau$) mantenendo una porta principista contro la violazione arbitraria delle regole.
• Recupero e Resistenza al Contagio: Il sistema dimostra che il tessuto sociale può riprendersi una volta che un trigger si attenua e che gli agenti possono resistere al contagio guidato dai pari se la situazione sottostante manca di legittimità.

Gli autori notano modestamente le limitazioni: le regole sono specificate a mano piuttosto che apprese, e lo studio si concentra su scenari a trigger singolo senza autorità contestate o violazioni coordinate multi-agente. Tuttavia, affermano che i modelli di soppressione-distanza e il recupero cross-day osservati in VOVILLE riproducono studi sul campo umani (ad esempio, Koper [1995]) senza essere esplicitamente mirati a farlo, suggerendo che l'architettura cattura dinamiche fondamentali della violazione delle regole in contesti rilevanti per la sicurezza.