Toward a Theory of Value in AI Alignment
Analizzando 94 articoli di ricerca sull'allineamento dei valori, questo studio critica la dipendenza del campo da preferenze non definite e dati sintetici, sostenendo che tali approcci semplifichino eccessivamente i valori umani e rischino di chiudere le prospettive diverse su come l'IA possa realmente allinearsi ai bisogni umani.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui stiamo costruendo menti digitali: programmi per computer super intelligenti che possono scrivere storie, risolvere problemi matematici e persino sostenere conversazioni. Non sono semplici calcolatrici; sono come enormi biblioteche affamate che hanno letto quasi tutto su Internet. Ma ecco il punto: il fatto che una biblioteca abbia letto ogni libro non significa che sappia quali storie siano gentili, quali fatti siano veri o come si possa essere un buon amico. Questo è il cuore di un campo chiamato Allineamento dell'IA. Pensatelo come l'arte di insegnare a queste menti digitali di condividere i nostri obiettivi e la nostra moralità umana, piuttosto che fare esattamente ciò che viene loro ordinato in un modo che accidentalmente ci danneggia.
Per capire il problema, bisogna conoscere i Modelli di Linguaggio di Grandi Dimensioni (LLM). Questi sono il tipo specifico di IA che alimenta i chatbot che potreste aver utilizzato. Funzionano prevedendo la parola successiva in una frase, ancora e ancora. Per renderli "sicuri", i ricercatori utilizzano una tecnica chiamata Apprendimento per Rinforzo con Feedback Umano (RLHF). Immaginate un insegnante che dà a uno studente un punto esclamativo dorato per una buona risposta e una X rossa per una cattiva. L'IA impara a ottenere più punti dorati indovinando ciò che piace all'insegnante. La grande domanda che guida questo articolo è: cosa stiamo insegnando esattamente a queste IA a dare valore? Stiamo insegnando loro a essere utili, onesti e innocui? O stiamo accidentalmente insegnando loro qualcosa di molto più strano?
Il Grande "Mix-up" dei Valori
Un team di ricercatori ha deciso di sbirciare dietro le quinte di 94 articoli scientifici scritti dalle persone che stanno cercando di risolvere questo problema di allineamento. Volevano rispondere a una domanda semplice ma complicata: Cosa intendono realmente questi ricercatori quando dicono "valori umani"?
Potreste pensare che, se state costruendo un robot per essere una brava persona, prima di tutto vi siedereste a definire cosa significhi "essere buono". Ma gli autori di questo articolo hanno scoperto qualcosa di sorprendente: La maggior parte dei ricercatori non lo definisce affatto.
Infatti, il 79% degli articoli che hanno esaminato non ha mai spiegato cosa intendesse per "valori". Invece, hanno sostituito la parola "valori" con la parola "preferenze". È come cercare di preparare una torta ma chiamare la "farina" con il nome di "roba", e poi dare per scontato che tutti sappiano che intendete la farina. I ricercatori hanno scoperto che, nel mondo dell'IA, i "valori" (come la giustizia, la gentilezza o la verità) sono spesso trattati esattamente allo stesso modo delle "preferenze" (come "preferisco il gelato al cioccolato rispetto a quello alla vaniglia").
La Trappola delle "Preferenze"
L'articolo sostiene che questo scambio sia pericoloso perché si basa su un'antica idea dell'economia chiamata Massimizzazione dell'Utilità. Immaginate un robot che pensa che l'unica cosa che conta nell'universo sia ottenere il punteggio più alto in un gioco. In questa visione, un essere umano è solo una macchina che cerca sempre di ottenere il maggior numero di "punti" (o "utilità") per ogni scelta che compie.
Gli autori suggeriscono che questa visione sia un po' troppo semplice. Gli esseri umani reali sono disordinati. A volte scegliamo la cosa "sbagliata" perché siamo stanchi, o perché ci importa più dei nostri amici che vincere, o perché i nostri valori cambiano a seconda del giorno. Ma il campo dell'allineamento dell'IA sembra stare costruendo un mondo in cui gli umani sono robot perfetti e logici che fanno sempre la scelta migliore per massimizzare la propria felicità.
L'articolo sottolinea che l'87% degli studi esaminati utilizza questo approccio di "massimizzazione del punteggio". Trattano i valori umani come se fossero numeri statici e immutabili che possono essere misurati e inseriti in un computer. Gli autori sostengono che questo ignori il fatto che i valori sono in realtà come un giardino vivente: crescono, cambiano con le stagioni e appaiono diversi a seconda delle culture.
Il Problema del "Chi" e del "Come"
Un altro grande problema evidenziato dall'articolo è la questione di quali valori l'IA stia imparando. Se chiedete a un computer di imparare i "valori umani", dovete chiedervi: Quali umani?
I ricercatori hanno scoperto che il 91% degli articoli non specificava quale gruppo di persone volesse rappresentare. Agivano come se i "valori umani" fossero una cosa singola e universale su cui tutti concordano. Ma in realtà, un adolescente a Tokyo potrebbe dare valore a qualcosa di molto diverso da un agricoltore in Kenya.
Per complicare ulteriormente le cose, l'articolo nota che i ricercatori stanno iniziando a smettere di chiedere pareri a esseri umani reali. Invezione, stanno utilizzando dati sintetici o altri modelli di IA per giudicare le risposte. È come cercare di insegnare a un nuovo studente facendo correggere i propri compiti a se stesso, o chiedendo a un robot di indovinare cosa penserebbe un essere umano. Gli autori temono che, sostituendo le persone reali con "autorater" (giudici IA), stiamo chiudendo la porta sulla realtà disordinata, diversificata e bellissima di ciò che significa essere umani.
Descrizione "Sottile" vs "Densa"
Gli autori hanno anche notato che la maggior parte degli articoli descrive i valori in modo "sottile". Una descrizione "sottile" è come dire: "Sii gentile". È una regola senza una storia. Una descrizione "densa" è come dire: "Sii gentile perché tua nonna ti ha insegnato che la gentilezza costruisce una comunità dove tutti si sentono al sicuro".
L'articolo ha scoperto che il 66% degli studi utilizzava queste descrizioni "sottili". Trattavano i valori come semplici istruzioni da seguire, piuttosto che come profonde storie culturali che spiegano il perché facciamo ciò che facciamo. Solo il 3% degli articoli ha cercato di comprendere i valori in questo modo profondo e "denso", osservando come la cultura e il contesto diano forma a ciò che le persone considerano importante.
La Conclusione
Quindi, qual è il punto principale? L'articolo suggerisce che il modo attuale in cui stiamo cercando di allineare l'IA ai valori umani è costruito su fondamenta fragili. Trattando i complessi morali umani come semplici problemi matematici (massimizzazione delle preferenze), potremmo costruire sistemi di IA che sono tecnicamente "allineati" con una versione della umanità molto stretta e robotica, ma che mancano completamente il punto di ciò che ci rende umani.
Gli autori non dicono che dovremmo smettere di cercare di rendere sicura l'IA. Inveve, chiedono un cambiamento nella ricetta. Vogliono che i ricercatori smettano di pretendere che i valori umani siano solo una lista di preferenze da ottimizzare. Vogliono che coinvolgiamo esperti di antropologia, filosofia e psicologia per aiutare a comprendere che i valori sono dinamici, culturali e profondamente connessi al mondo reale e disordinato in cui viviamo.
In breve, se vogliamo che l'IA sia veramente allineata con noi, dobbiamo smettere di insegnarle a essere un calcolatore perfetto e iniziare a insegnarle a comprendere la complicata, mutevole e meravigliosa storia di essere umani.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.