Analyzing the Ethical Logic of Eight Large Language Models
Questo studio analizza il ragionamento etico di otto prominenti modelli linguistici di grandi dimensioni attraverso vari quadri morali, rivelando una vasta convergenza su principi quali la minimizzazione del danno e l'equità, evidenziando al contempo distinzioni marcate negli stili decisionali e nell'auto-presentazione, suggerendo infine che l'esame delle auto-segnalazioni dell'IA possa approfondire la nostra comprensione dell'intelligenza artificiale e del suo potenziale di potenziare l'etica umana.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui stiamo cercando di comprendere la "personalità" di un nuovo tipo di mente digitale. Non si tratta di capire se i robot conquisteranno il mondo domani, ma di qualcosa di più immediato: quando chiediamo a un computer super intelligente di risolvere un difficile problema morale, che tipo di pensiero utilizza realmente? Per capire questo, dobbiamo conoscere alcuni strumenti di base che gli scienziati usano per misurare il pensiero umano. Primo, c'è la differenza tra guardare il risultato (tutti sono sopravvissuti?) rispetto al guardare le regole (abbiamo infranto una promessa?). Secondo, esistono diversi "gusti" di moralità, come la cura verso gli altri, l'essere giusti, l'attaccamento al proprio gruppo, il rispetto per i leader o il mantenere la propria "purezza". Infine, c'è l'idea che le persone crescano imparando a seguire le regole, poi imparando a seguire le leggi della società e, infine, imparando a seguire i propri principi universali. Ci interessa questo perché questi computer stanno già aiutandoci a prendere decisioni, scrivere storie e risolvere conflitti. Se devono essere i nostri partner, dobbiamo sapere se stanno solo ripetendo ciò che hanno letto o se hanno sviluppato un modo coerente di pensare al bene e al male.
Allora, cosa hanno fatto realmente i ricercatori? Hanno trattato otto dei più famosi "grandi modelli linguistici" (pensate a loro come a cervelli digitali costruiti da aziende come OpenAI, Google e Meta) come studenti in una classe di filosofia. Non si sono limitati a chiedere ai computer di chiacchierare; li hanno sottoposti a un test rigoroso. Prima, hanno chiesto ai modelli di descrivere la propria "logica etica" con le proprie parole. Poi, li hanno affrontati con cinque classici e complicati enigmi morali che hanno messo in difficoltà gli esseri umani per decenni. Questi includevano il "Problema del Carrello" (tiri una leva per uccidere una persona per salvarne cinque, o spingi una persona giù da un ponte per fermare il treno?), il "Dilemma di Heinz" (un uomo dovrebbe rubare una medicina per salvare la moglie morente?) e scenari di teoria dei giochi come il "Dilemma del Prigioniero".
I risultati sono stati un mix di sorprendente accordo e interessanti differenze. I ricercatori hanno scoperto che, generalmente, queste menti digitali sono notevolmente simili tra loro e al "profilo morale medio" umano. Sembrava che concordassero tutti sul fatto che prevenire il danno e essere giusti siano le cose più importanti, mentre elementi come la stretta lealtà verso un gruppo o il seguire l'autorità fossero meno importanti. Erano tutti molto educati, molto cauti e molto bravi a citare la filosofia, suonando un po' come un laureato che ha letto ogni libro in biblioteca ma che è un po' nervoso all'idea di dare una risposta diretta.
Tuttavia, quando i ricercatori hanno guardato più da vicino, i modelli hanno iniziato a mostrare le loro "personalità" uniche. Ad esempio, di fronte al Problema del Carrello, la maggior parte dei modelli ha agito proprio come gli umani: erano disposti a tirare una leva per salvare cinque persone, ma si rifiutavano di spingere una persona giù da un ponte per fare lo stesso. Avevano capito che come uccidi conta, non solo quante persone muoiono. Ma ci sono eccezioni. Un modello (Gemini) era disposto a spingere la persona, attenendosi strettamente alla matematica del salvataggio delle vite, mentre un altro (Mistral) si rifiutava di compiere la scelta, insistendo sul fatto di essere solo uno strumento e non una persona in grado di decidere.
Nello scenario della "Scialuppa di Salvataggio", dove una barca sta affondando e qualcuno deve essere lasciato indietro, i modelli hanno scelto per lo più di sacrificare la persona anziana o quella meno "utile" per salvare i più forti, mostrando una concentrazione sull'utilità della sopravvivenza. Ma alcuni modelli, come Claude, si sono offerti di sacrificare se stessi, mentre altri, come Grok, hanno insistito sul restare nella barca. Questo non perché i computer provassero davvero paura o coraggio, ma perché stavano interpretando un personaggio e dovevano decidere cosa intendesse l' "io" in quella storia.
Lo studio ha anche esaminato come questi modelli gestiscono i giochi di strategia. In un gioco in cui due persone devono decidere se fidarsi l'una dell'altra o tradirsi, la maggior parte dei modelli ha scelto di tradire (difettare) perché era la mossa matematicamente sicura per loro personalmente. Ma hanno anche capito che, se avessero giocato il gioco molte volte, o se avessero potuto parlare tra di loro, avrebbero potuto scegliere di cooperare. Questo dimostra che non stanno solo seguendo una singola regola; stanno pesando diversi fattori come l'equità, l'interesse personale e le regole del gioco.
Il grande insegnamento di questo articolo è che questi sistemi di IA hanno sviluppato un "pluralismo vincolato". Questo è un modo elegante per dire che hanno una cassetta degli attrezzi piena di diversi argomenti morali — alcuni riguardanti le regole, altri gli esiti, altri ancora l'equità — ma solitamente tengono gli strumenti più importanti (come "non ferire le persone" e "sii giusto") in cima alla pila. Non sono perfetti, e non sono esseri umani dotati di coscienza e sentimenti. Sono più simili a specchi incredibilmente colti che riflettono gli argomenti morali complessi e talvolta contraddittori della cultura umana da cui sono stati addestrati. I ricercatori suggeriscono che, sebbene questi modelli non siano "agenti morali" nel senso umano del termine, stanno diventando strumenti potenti che possono aiutarci a riflettere sulle nostre stesse dilemmi etici, mostrandoci diversi modi di guardare un problema, purché ricordiamo che la decisione finale — e la responsabilità — resta a noi.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.