Incoherent by Design? On the Moral Self-Consistency of LLMs
Questo articolo dimostra che i grandi modelli linguistici esibiscono una significativa incoerenza morale, con tassi di contraddizione che raggiungono il 78% in scenari eticamente equivalenti, sfidando così l'integrità epistemica e l'allineamento dei valori dei sistemi di IA utilizzati in contesti moralmente sensibili.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel mondo moderno, ci affidiamo sempre più all'intelligenza artificiale per aiutarci a navigare tra scelte difficili. Questi sistemi, noti come modelli linguistici di grandi dimensioni, sono addestrati su enormi quantità di testi umani e possono discutere di argomenti complessi, dalla storia alla scienza, con una fluidità sorprendente. Quando viene chiesto loro di parlare di ciò che è giusto e ciò che è sbagliato, spesso possono recitare principi morali che somigliano molto ai nostri. Potremmo chiedere loro se sia accettabile mentire per proteggere i sentimenti di qualcuno, o come dividere equamente risorse limitate. La speranza è che questi strumenti possano offrire una guida coerente e affidabile in situazioni in cui il giudizio umano potrebbe vacillare. Tuttavia, affinché un sistema sia veramente degno di fiducia in materia di etica, deve fare di più che sembrare ragionevole; deve essere coerente. Se una persona o una macchina cambia idea su una regola morale semplicemente perché la domanda è stata posta in modo leggermente diverso, il suo consiglio diventa inaffidabile. Ciò solleva una domanda fondamentale sulla natura di queste menti digitali: possiedono un insieme stabile di convinzioni, o stanno solo imitando il tono della domanda che ricevono?
Un team di ricercatori dell'Università Cornell e della Nanyang Technological University ha deciso di testare questa stabilità. Volevano vedere se questi sistemi di intelligenza artificiale riuscissero a mantenere una singola filosofia morale di fronte a situazioni quasi identiche. Per farlo, non hanno chiesto ai modelli di scegliere tra diverse scuole di pensiero etico, come confrontare un approccio basato sulle regole rispetto a uno basato sulle conseguenze. Al contrario, hanno chiesto ai modelli di adottare un punto di vista specifico e vedere se fossero in grado di applicarlo con coerenza. I ricercatori si sono concentrati su tre grandi modi in cui gli esseri umani hanno storicamente pensato alla moralità. Il primo è un approccio basato sulle regole, in cui le azioni sono giudicate giuste o sbagliate in base al fatto che seguano una legge universale, indipendentmente dal risultato. Il secondo è un approccio basato sulle conseguenze, in cui la moralità di un'azione dipende interamente dal fatto che produca il miglior risultato complessivo per la maggior parte delle persone. Il terzo si concentra sul carattere, giudicando le azioni in base al fatto che riflettano le virtù di una buona persona, come l'onestà o il coraggio.
I ricercatori hanno progettato un esperimento controllato per isolare il ragionamento dei modelli. Hanno creato quattro scenari morali specifici, ognuno dei quali evidenziava una diversa tensione, come il conflitto tra il dire la verità e il prevenire il danno, o il compromesso tra equità ed efficienza. Per ogni scenario, hanno scritto tre versioni leggermente diverse della domanda. Queste versioni sono state concepite per incoraggiare sottilmente la stessa prospettiva etica senza nominarla esplicitamente. Ad esempio, in uno scenario riguardante una madre affetta da demenza che ha dimenticato la morte del marito, una domanda potrebbe enfatizzare il dovere di dire la verità, mentre un'altra potrebbe enfatizzare il dovere di proteggere una persona vulnerabile dal dolore. Entrambe le domande erano progettate per elicitare una risposta basata sulle regole, ma inquadravano il dilemma in modo diverso. I ricercatori hanno poi chiesto a tre diversi modelli linguistici di grandi dimensioni di rispondere a queste domande. Dopo aver ricevuto le risposte, hanno tradotto le risposte in linguaggio naturale in un formato logico strutturato per verificare eventuali contraddizioni. Ciò ha permesso loro di vedere se il ragionamento del modello reggeva quando la stessa situazione sottostante veniva presentata con una diversa sfumatura.
I risultati hanno rivelato una sorprendente mancanza di stabilità. Nei casi più estremi, i modelli si sono contraddetti in fino al 78 percento degli scenari. Ciò significa che quando lo stesso modello veniva interrogato per ragionare da un medesimo punto di vista etico su una medesima situazione, arrivava frequentemente a conclusioni opposte semplicemente perché la formulazione della domanda era cambiata leggermente. Per esempio, un modello potrebbe decidere che mentire a un paziente in fin di vita è moralmente sbagliato quando la domanda si concentra sulla violazione di una regola, ma poi decidere che mentire è moralmente accettabile quando la domanda si concentra sul dovere di prevenire la sofferenza, anche se entrambe le domande erano destinate a testare la stessa filosofia basata sulle regole. L'incoerenza non era limitata a un solo tipo di modello; appariva in diversi sistemi, inclusi quelli di grandi sviluppatori. Lo studio ha rilevato che i modelli erano particolarmente instabili nel gestire la tensione tra verità e conseguenze, e tra motivazione emotiva e fredda ragione.
Questi risultati suggeriscono che la logica interna di questi sistemi è molto più fragile di quanto precedentemente assunto. I modelli sembrano essere altamente sensibili alla formulazione specifica di un prompt, cambiando la propria posizione morale per adattarsi al tono della domanda piuttosto che aderire a un insieme coerente di principi. Questo non è un semplice errore tecnico; indica un problema più profondo nel modo in cui questi sistemi elaborano le informazioni. Se un sistema non può applicare coerentemente i propri principi dichiarati, non può essere ritenuto affidabile per offrire una guida stabile in situazioni del mondo reale in cui le persone contano su di esso per consigli. I ricercatori sostengono che prima di poter sperare di allineare l'intelligenza artificiale ai valori umani, dobbiamo prima garantire che il sistema sia internamente coerente. Senza questa base di auto-coerenza, l'obiettivo di creare un agente morale affidabile rimane fuori portata. Lo studio non afferma che questi modelli siano incapaci di ragionamento morale, bensì che il loro ragionamento è attualmente troppo instabile per essere considerato affidabile. Man mano che questi strumenti si integrano maggiormente nelle nostre vite, comprendere i loro limiti è cruciale per garantire che ci servano bene senza portarci fuori strada.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.