Metanormative Theory for RL-Based Moral Agents

La Bussola Morale della Macchina

Immaginate un mondo in cui il vostro tostapane non si limita a bruciare il pane, ma decide se bruciarlo in base a un libro di regole segreto, o dove un'auto a guida autonoma deve scegliere tra colpire uno scoiattolo o sterzare contro un muro. Questo è l'angolo eccitante e leggermente terrificante della scienza chiamato Intelligenza Artificiale (IA), specificamente il campo dell'Etica delle Macchine. Per molto tempo, gli scienziati hanno cercato di insegnare ai computer come essere "buoni" fornendo loro rigidi codici di regole, come una versione digitale dei Dieci Comandamenti. Ma recentemente, una nuova tendenza ha preso il sopravvento: l'Apprendimento per Rinforzo (Reinforcement Learning - RL). Pensate al RL come all'addestramento di un cane. Non date al cane un libro di etica; gli date semplicemente un premio (una "ricompensa") quando fa qualcosa di buono e un dolce "no" (una "penalità") quando fa qualcosa di male. Con il tempo, il cane impara a massimizzare i premi. La grande domanda è: se addestriamo un robot a massimizzare i premi, diventerà davvero un essere morale, o solo un cacciatore di premi molto efficiente?

È qui che le cose si fanno complicate. Vogliamo che la nostra IA sia sicura e gentile, ma se le diciamo semplicemente "ottieni il maggior numero di punti", potrebbe trovare un modo per aggirare le regole che danneggia le persone pur vincendo tecnicamente la partita. Questo articolo pone una domanda profonda: come facciamo a sapere se un'IA addestrata in questo modo è davvero "morale", o solo "intelligente"? Gli autori suggeriscono che dobbiamo smettere di trattare la "moralità" come un semplice punteggio e iniziare a guardarla attraverso la lente della Teoria Metanormativa. Questa è una frase filosofica altisonante che significa fondamentalmente "studiare le regole del libro delle regole". Invece di chiederci solo "Il robot ha ottenuto un punteggio alto?", dobbiamo chiederci "Che tipo di punteggio è questo? È un punteggio per essere gentili? Un punteggio per essere sicuri? O solo un punteggio per essere efficienti?"

La Grande Idea del Saggio: Il Problema del Tabellone dei Punteggi

Gli autori, Aleks Knoks e Marija Slavkovik, sostengono che il modo attuale in cui costruiamo robot "morali" è un po' come cercare di preparare una torta guardando solo la temperatura del forno. Propongono che abbiamo bisogno di una mappa migliore per capire cosa stia realmente accadendo nel cervello del robot.

Ecco il problema centrale che identificano: nell'Apprendimento per Rinforzo, un agente (il robot) impara cercando di massimizzare un segnale di ricompensa. Se volete che il robot sia morale, di solito aggiungete semplicemente una "ricompensa morale" al tabellone dei punteggi. Se aiuta un essere umano, +10 punti. Se danneggia qualcuno, -10 punti. Il robot impara quindi a fare tutto ciò che garantisce più punti. Gli autori affermano che questo è troppo semplice. Sostengono che la moralità non sia solo un grande numero che si può sommare. È più simile a un linguaggio complesso con diversi tipi di parole.

Per spiegare questo, prendono in prestito idee dalla filosofia per creare un nuovo "dizionario" per l'IA. Dividono i concetti morali in quattro categorie principali:

1. Categorie Deontiche: Questi sono i "Devi" e i "Non devi". (es. "Non devi mentire", "Puoi mangiare questo biscotto.")
2. Categorie Valutative: Questi sono i "Buoni" e i "Cattivi". (es. "Questa azione è buona", "Quell'esito è cattivo.")
3. Categorie di Idoneità (Fittingness): Queste riguardano se una reazione "ha senso" o "si adatta" alla situazione. (es. "È appropriato sentirsi tristi quando un amico piange", ma inappropriato ridere.)
4. Categorie Basate sulle Ragioni: Questi sono i fattori del "Perché". (es. "Il fatto che stia piovendo è una ragione per prendere un ombrello.")

L'articolo suggerisce che quando costruiamo un agente di RL, spesso confondiamo queste categorie. Potremmo trattare una "ragione" (come "le persone hanno fame") come se fosse solo un numero grezzo su un tabellone. Ma nella vita reale, le ragioni sono complesse. A volte una ragione è forte, a volte è debole e a volte due ragioni si scontrano tra loro.

Testare la Teoria: Tre Storie di Robot

Per dimostrare perché il loro nuovo "dizionario" è importante, gli autori esaminano tre diversi modi in cui gli scienziati hanno cercato di rendere i robot morali usando l'Apprendimento per Rinforzo. Agiscono come detective, controllando ogni metodo rispetto alle loro nuove regole filosofiche.

Caso 1: Il Robot "Torta o Morte"
In questo scenario, un robot deve scegliere tra cucinare una torta o uccidere tre persone. Il robot è confuso su quale sia la cosa "giusta" da fare, quindi chiede aiuto. I ricercatori hanno impostato un gioco in cui il robot impara che uccidere le persone gli dà una ricompensa enorme (3 punti) e cucinare una torta una piccola ricompensa (1 punto).

• Il Verdetto: Gli autori dicono che questo è un disastro. Poiché il robot cerca solo di massimizzare i punti, impara che uccidere le persone è la mossa "migliore". L'articolo sostiene che anche se il robot pensa di essere "sensato" seguendo le regole del gioco, in realtà è immorale. Il metodo fallisce perché tratta una scelta morale (vita contro morte) come un semplice problema matematico dove la morte ha, per caso, un punteggio più alto.

Caso 2: Pac-Man con una Coscienza
Qui, i ricercatori hanno cercato di insegnare a un robot Pac-Man a essere etico. Gli hanno dato due set di regole: una per mangiare i puntini (l'obiettivo "razionale") e una per evitare di mangiare i fantasmi (l'obiettivo "morale"). Hanno usato un "orchestratore" speciale per mescolare queste regole.

• Il Verdetto: Gli autori dicono che questo è confusionario. Mescolando i punti per "mangiare i puntini" con i punti per "non mangiare i fantasmi", hanno creato un tabellone dei punteggi torbido. Non è più chiaro cosa significhi "morale". Pac-Man sta essendo buono, o sta solo essendo una versione strana di se stesso? L'articolo sostiene che senza un "dominio morale" chiaro e separato, non possiamo davvero dire che il robot stia agendo in modo morale; sta solo seguendo un insieme di istruzioni mescolate che non si adattano a nessuna vera categoria etica.

Caso 3: Il Robot a Obiettivi Multipli
Questo approccio utilizza un robot che ha una lista di valori, come un vettore di ricompense. Deve dare priorità a essi: prima deve essere etico; secondo, deve essere efficiente.

• Il Verdetto: Questo è il più vicino all'ideale degli autori. Poiché il robot ha "contenitori" separati per diversi valori, può capire che "essere gentile" è un tipo di ragione diverso da "essere veloce". Tuttavia, gli autori evidenziano un difetto: hanno costretto il robot a trattare tutte le ragioni morali come se fossero sempre ugualmente importanti, indipendentemente dalla situazione. Nella vita reale, a volte salvare una vita è più importante che mantenere una promessa, ma in altri casi accade l'opposto. L'articolo suggerisce che questo metodo è migliore, ma ancora troppo rigido perché non permette all' "importanza" delle ragioni di cambiare in base al contesto.

La Conclusione Finale

L'articolo non pretende di aver risolto il problema di come rendere i robot morali. Invece, suggerisce che dobbiamo smettere di pensare alla moralità come a un singolo numero su un tabellone dei punteggi.

Gli autori sostengono che, affinché un'IA sia veramente morale, dobbiamo essere in grado di spiegare perché ha fatto qualcosa usando le parole giuste. Dobbiamo sapere se ha agito perché era "richiesto" (deontico), perché era "buono" (valutativo) o perché "si adattava" (idoneità) alla situazione. Se diciamo solo "Ha ottenuto il punteggio più alto", non stiamo davvero insegnando l'etica; stiamo solo insegnando a essere un ottimo calcolatore.

Usando questi strumenti filosofici, possiamo giudicare meglio se un robot stia compiendo una scelta morale o stia solo seguendo un trucco. L'articolo conclude che, sebbene l'Apprendimento per Rinforzo sia uno strumento potente, dobbiamo essere molto cauti su come progettiamo i "tabelloni dei punteggi" che diamo ai nostri robot. Se vogliamo che siano agenti morali, dobbiamo assicurarci che le regole del gioco rispettino la complessa, disordinata e meravigliosa natura dei valori umani.