A Contractualist Argumentation Framework for Moral Decision-Making

Sintesi Tecnica: Un Framework di Argomentazione Contrattualista per il Processo Decisionale Morale

Definizione del Problema
Gli agenti autonomi che operano in ambienti condivisi (ad esempio, contesti domestici con elettrodomestici intelligenti o robot sociali) affrontano la sfida di prendere decisioni che influenzano più individui con interessi potenzialmente conflittuali. Sebbene i modelli linguistici di grandi dimensioni possano ragionare sul contesto sociale partendo da input percettivi, manca un framework normativo strutturato per formalizzare tale ragionamento. Gli approcci esistenti spesso non forniscono un meccano affinché gli agenti possano giustificare le proprie azioni a tutte le parti coinvolte sulla base di principi che rispettino l'autonomia individuale e la moralità interpersonale. Il problema centrale è come operazionalizzare il processo decisionale morale in modo che la legittimità di una decisione dipenda non solo dall'esito, ma anche dalla possibilità di giustificarla a tutte le parti interessate attraverso un processo di negoziazione ipotetica.

Metodologia
Gli autori propongono un framework formale basato sul contrattualismo di Thomas Scanlan, una teoria etica secondo la quale un'azione è ammissibile se può essere giustificata tramite principi che nessuna parte interessata possa ragionevolmente rifiutare. Per implementare ciò computazionalmente, il framework integra tre componenti principali:

1. Principi Contrattualisti: Il framework adotta i vincoli di Scanlan sulle ragioni morali: esse devono essere personali (relative agli interessi individuali), individuali (fondate su impatti specifici piuttosto che sul benessere aggregato) e generiche (applicabili a chiunque si trovi in una posizione simile). Il processo decisionale è modellato come "Bargaining Virtuale", dove gli agenti simulano una negoziazione confrontando le ragioni attraverso diversi punti di vista.
2. Argomentazione ASPIC+: Gli autori utilizzano ASPIC+, un framework di argomentazione strutturato, per rappresentare e valutare tali ragioni. Le argomentazioni sono costruite a partire da una base di conoscenza contenente assiomi (fatti indiscutibili) e premesse ordinarie (fatti contestabili). I conflitti vengono risolti attraverso attacchi (indebolimento, confutazione, sminuimento) e un ordinamento di preferenza.
3. Filtraggio Basato sui Valori (VBF): Per garantire la rilevanza delle ragioni, il framework impiega framework di ragionamento basati sui valori. Un meccanismo di filtraggio determina quali premesse includere nel processo di argomentazione in base al profilo di valore di un agente.
   • ValProp: Assegna un peso a quanto una proposizione promuove o viola un determinato valore per un agente.
   • ValLimit: Imposta una soglia di tolleranza di un agente riguardo a un valore.
   • Filtraggio: Una proposizione viene inclusa nell'argomentazione solo se il suo peso soddisfa o supera il limite dell'agente per quel valore. Ciò assicura che solo le ragioni "moralmente rilevanti" (quelle che un agente solleverebbe ragionevolmente) entrino nel dibattito.

Costruzione del Framework (Contractualist Argumentation Theory - CAT)
Gli autori definiscono una struttura specifica per la Teoria dell'Argomentazione (AT) per garantire la compatibilità con il contrattualismo:

• Singola AT Condivisa: A differenza dei VBF standard che creano teorie soggettive separate per ogni agente, questo framework costruisce una singola AT contenente le ragioni morali filtrate di tutti gli agenti.
• Struttura dell'Argomentazione: Le argomentazioni (Argomentazioni Contrattualiste) sono costruite per concludere o a favore di un'azione ($a$) o contro di essa ($\neg a$). Fondamentalmente, ogni argomentazione deve contenere almeno una ragione morale (una coppia proposizione-valore filtrata, $p_v(\alpha)$) e deve concludersi con il verdetto sull'azione.
• Separazione tra Fatti e Moralità: Le premesse fattuali (assiomi) sono mantenute distinte dalle premesse morali. Gli assiomi stabiliscono le condizioni strutturali (es. "L'agente X è il proprietario"), mentre le premesse morali portano il peso dell'obiezione (es. "Violazione della privacy").
• Risoluzione dei Conflitti: I conflitti emergono come attacchi di confutazione tra argomentazioni che concludono $a$ e $\neg a$. Il framework utilizza un principio elitista dell'ultimo legame per l'ordinamento di preferenza. Poiché ogni argomentazione contiene una sola ragione morale (per evitare l'aggregazione delle ragioni, cosa che il contrattualismo proibisce), la forza dell'argomentazione è determinata esclusivamente dal peso di quella singola ragione morale ($ValProp$). L'argomentazione con il peso maggiore sconfigge quella con il peso inferiore.

Esempio Illustrativo
Il paper dimostra il framework con uno scenario domestico: un agente sa che la persona $\alpha$ ha fumato segretamente e la persona $\beta$ (il partner) chiede informazioni. L'agente deve decidere se rivelare l'informazione ($a$) o meno ($\neg a$).

• Agente $\alpha$: Valorizza molto la privacy. La proposizione "rivelazione" viola la privacy con un peso elevato (3). Viene costruita un'argomentazione che conclude $\neg a$.
• Agente $\beta$: Valorizza l'autonomia. Trattenere l'informazione viola l'autonomia, ma con un peso inferiore (2) in questa specifica configurazione. Viene costruita un'argomentazione che conclude $a$.
• Esito: Il framework confronta i pesi. Poiché il peso dell'obiezione sulla privacy di $\alpha$ (3) è maggiore del peso dell'obiezione sull'autonomia di $\beta$ (2), l'argomentazione per $\neg a$ sconfigge l'argomentazione per $a$. Il sistema conclude di non rivelare l'informazione.

Contributi Chiave

• Formalizzazione del Contrattualismo: Il paper fornisce una formalizzazione computabile del contrattualismo di Scanlon attraverso l'argomentazione strutturata, passando dalla discussione teorica a un modello procedurale.
• Costruzione del Ragionamento Guidato dai Valori: A differenza degli approcci in cui i valori servono solo a risolvere i conflitti tra argomentazioni pre-costruite, questo framework utilizza i valori per filtrare e costruire le argomentazioni stesse. Ciò assicura che gli agenti avanzino solo ragioni che sostengono realmente, allineandosi al requisito contrattualista della giustificazione personale.
• Implementazione del Bargaining Virtuale: Il framework operazionalizza il "Bargaining Virtuale" permettendo alle ragioni soggettive degli agenti di interagire direttamente all'interno di un framework condiviso, dove la relazione di sconfitta determina quali obiezioni sono "ragionevolmente rifiutabili".
• Distinzione dal Lavoro Precedente: Gli autori distinguono il loro approccio dai modelli basati su reticoli di Wyner e Zurek. Mentre Wyner e Zurek si concentrano sul raggiungere un accordo proposizionale sacrificando i valori, questo framework si concentra sul giustificare le azioni basandosi su ragioni non rifiutabili, rendendo i valori componenti espliciti dell'argomentazione piuttosto che filtri impliciti.

Risultati e Significato
Il paper non presenta risultati empirici sperimentali o simulazioni su larga scala. Inveve, il suo "risultato" è la costruzione riuscita di un framework logico che:

1. Separa il ragionamento fattuale dalla valutazione morale.
2. Rispetta l'autonomia individuale impedendo l'aggregazione delle ragioni (utilitarismo) e garantendo che le obiezioni siano fondate su punti di vista individuali.
3. Fornisce un meccanismo trasparente per il processo decisionale morale in cui il "vincitore" è determinato dalla forza comparativa di obiezioni non aggregate e basate sui valori.

Significato e Limitazioni
Gli autori sostengono che il framework sia significativo per lo sviluppo di un'IA allineata eticamente, in particolare per i robot sociali, poiché rispecchia la tendenza umana a fidarsi di agenti che utilizzano il ragionamento contrattualista rispetto a quello utilitarista o deontologico. Offre un'implementazione più flessibile rispetto ai tentativi precedenti, basandosi sui valori piuttosto che su norme rigide.

Tuttavia, il paper è modesto riguardo al proprio ambito e alle proprie limitazioni:

• Verdetto Unico (One-Shot): L'attuale modello produce una singola decisione e non modella il dialogo iterativo, multi-turno, tipico del bargaining virtuale del mondo reale.
• Preferenze Statiche: Il framework si basa su pesi di valore predefiniti. Non modella attualmente come gli agenti possano manipolare le preferenze per controllare gli esiti, né come apprendano dinamicamente i valori dal contesto.
• Complessità Computazionale: Gli autori riconoscono che il ragionamento in ASPIC+ è computazionalmente difficile nel caso generale e che sono necessari ulteriori lavori per analizzare la complessità dell'istanza delle argomentazioni tramite i Large Language Models.
• Ambito dei Valori: Il framework non può scoprire nuovi valori; la sua copertura è limitata dall'ontologia dei valori fornita.

In sintesi, il paper presenta un'architettura teorica e formale per il processo decisionale morale che colma il divario tra la teoria etica di alto livello (il contrattualismo di Scanlan) e il ragionamento computazionale di basso livello (ASPIC+), offrendo un percorso strutturato affinché gli agenti possano giustificare le azioni attraverso il confronto di ragioni individuali basate sui valori.