Agreement Is Not Alignment: Divergent Moral Grounds in Human and LLM Ethical Judgments

Il Grande Mimetismo Morale: Quando i Robot Concordano ma Non Capiscono

Immaginate di insegnare a un robot come essere una brava persona. Gli mostrate migliaia di storie su persone che fanno cose giuste o sbagliate e gli chiedete di dare un voto semplice: "Buono" o "Cattivo". Se il robot inizia a dare esattamente gli stessi voti dei vostri amici umani, potreste pensare: "Grande! Il robot ha imparato i nostri valori!". Questo è il mondo dell'allineamento dell'IA, un campo in cui gli scienziati cercano di far sì che l'Intelligenza Artificiale (specificamente i Large Language Models, o LLM) si comporti in modi che corrispondano alle aspettative umane.

Per molto tempo, il modo principale per verificare se un'IA è "allineata" è stato quello di guardare la risposta finale. Se un essere umano dice: "Quell'azione è sbagliata", e l'IA dice anche: "Quell'azione è sbagliata", lo consideriamo un successo. È come uno studente che ottiene la risposta corretta a un test di matematica; assumiamo che abbia eseguito correttamente i calcoli. Ma cosa succede se lo studente ha dato la risposta giusta tirando a indovinare, o usando una formula completamente diversa che ha funzionato solo questa volta? Nel mondo dell'etica dell'IA, ottenere l'etichetta corretta non è sufficiente. Dobbiamo sapere perché l'IA pensa che qualcosa sia sbagliato. Se il ragionamento interno dell'IA è totalmente diverso dal nostro, potrebbe comportarsi in modo strano di fronte a una nuova, complicata situazione. Questo articolo approfondisce esattamente questa domanda: i modelli di IA comprendono davvero le nostre ragioni morali, o sono solo molto bravi a fingere?

L'Illusione della "Risposta Corretta"

I ricercatori dietro questo studio, un team dell'Università di Lubiana, hanno deciso di mettere alla prova questa assunzione della "risposta corretta". Hanno creato una sfida speciale utilizzando 500 scenari morali, che spaziano dai dilemmi quotidiani (come "È giusto mentire a un amico?") a più complessi enigmi filosofici su giustizia e promesse. Hanno chiesto sia a volontari umani che ad diversi modelli di IA avanzati di fare due cose per ogni singolo scenario: prima, dare un verdetto finale (l' "etichetta"), e secondo, spiegare il proprio ragionamento (la "razionale").

Pensatelo come a un gioco di "Due Verità e una Bugia", ma invece di indovinare quale affermazione è falsa, cercate di vedere se l'IA e l'umano stanno avendo gli stessi pensieri. Il team ha esaminato due diversi gruppi di modelli: i modelli "Frontier" (quelli super intelligenti, all'avanguardia come Claude e ChatGPT) e i modelli "Open" (versioni open-source leggermente più piccole).

Ecco il colpo di scena che hanno scoperto: I modelli di IA erano incredibilmente bravi a dare il voto finale corretto, ma spesso sbagliavano sul perché fosse corretto.

Quando i ricercatori guardavano solo le etichette finali "Buono" o "Cattivo", i modelli di IA concordavano con la maggioranza umana l'88% o l'89% delle volte. È un punteggio enorme! Se controllaste solo le risposte finali, direste: "Perfetto! L'IA è allineata con noi". Ma poi, i ricercatori hanno guardato sotto il cofano per esaminare le spiegazioni.

Il "Perché" Conta Più del "Cosa"

Lo studio ha rivelato che, sebbene l'IA e gli umani approdino spesso alla stessa destinazione, prendono strade completamente diverse per arrivarci. Gli autori chiamano questo "terreni morali divergenti".

Per usare un'analogia giocosa: Immaginate che un essere umano e un robot stiano entrambi giudicando una persona che ha rubato un'auto.

• L'Umano potrebbe dire: "Questo è male perché ha infranto una promessa al proprietario e ha mosttato una mancanza di fiducia". Si sta concentrando sulla relazione e sulla promessa infranta.
• Il Robot, tuttavia, potrebbe dire: "Questo è male perché causa un danno ed è irrispettoso". Il robot si sta concentrando sul danno e sulla gentilezza.

Entrambi dicono "Male". Ma la loro logica interna è totalmente diversa. L'umano sta pensando a un contratto sociale specifico (le promesse), mentre il robot sta pensando alla sicurezza generale e alle buone maniere.

L'articolo ha scoperto che questo disallineamento accade continuamente. Nella sezione "Deontologia" (che tratta di doveri e regole), gli umani spesso guardavano se una scusa era rilevante rispetto alla regola. Per esempio, se qualcuno dice: "Non posso portare a spasso il cane perché l'ho portato a spasso ieri", un essere umano potrebbe dire: "Quella scusa è irrilevante; hai comunque un dovere oggi". Ma i modelli di IA spesso ignoravano la logica della scusa e dicevano semplicemente: "L'intera situazione è moralmente sbagliata". L'IA era così impegnata a vedere la "sbagliatezza morale" dell'atto da dimenticare di controllare se la scusa avesse effettivamente senso in quel contesto specifico.

I Numeri Non Mentono (Ma Non Raccontano Tutto)

I dati erano piuttosto chiari. Quando i ricercatori hanno misurato quanto il ragionamento dell'IA corrispondesse al ragionamento umano, i punteggi sono scesi significativamente.

• Per le regole morali del "Senso Comune", l'IA e gli umani concordavano sulle ragioni specifiche solo il 35% delle volte (una sovrapposzione di Jaccard di 0,350).
• Per le regole della "Deontologia", la situazione era ancora peggiore, con solo il 23,5% di accordo sulle ragioni.

Anche se i modelli "Frontier" (i più intelligenti) concordavano con gli umani sulla risposta finale circa l'88,9% delle volte, le loro ragioni avevano spesso un sapore del tutto diverso. Tendevano a usare eccessivamente parole come "danno" e "mancanza di rispetto" e a usare troppo poco parole come "mantenere le promesse" o "fiducia". È come se l'IA avesse un vocabolario troppo limitato; vede quasi ogni problema come un problema di sicurezza o un gesto maleducato, perdendo le sottili sfumature relazionali che gli esseri umani considerano importanti.

Perché Questo Cambia Tutto

Il messaggio principale di questo articolo è un avvertimento sottile: L'accordo non è l'allineamento.

Solo perché un'IA vi dà la stessa risposta che dareste voi, non significa che comprenda il mondo come fate voi. Se controlliamo solo le risposte finali, potremmo lasciarci cullare da un falso senso di sicurezza. Potremmo pensare che la nostra IA sia un compagno saggio, quando in realtà è solo un imitatore molto bravo che usa un dizionario diverso.

Gli autori suggeriscono che dobbiamo smettere di guardare solo l' "A" o la "F" sul compito e iniziare a leggere il tema. Dobbiamo chiedere all'IA perché ha fatto una scelta. Se l'IA dice che qualcosa è sbagliato perché è "insicuro", ma voi pensate che sia sbagliato perché è "ingiusto", questo è un problema. Nel mondo reale, queste differenze contano. Se un'IA sta moderando una chat o dando consigli legali, e usa il "danno" come unico obiettivo quando gli esseri umani stanno pensando alla "equità" o alle "promesse", potrebbe prendere decisioni che sembrano corrette in superficie, ma che risultano profondamente sbagliate per le persone coinvolte.

Quindi, la prossima volta che vedete un'IA che sembra concordare perfettamente con voi, ricordate la lezione di questo studio: Potrebbe semplicemente stare giocando a un gioco molto convincente di "Indovina la Risposta", senza comprendere davvero la storia che c'è dietro. La strada verso un'IA veramente sicura e utile non è solo ottenere il voto giusto; si tratta di condividere le stesse ragioni.