Competing Visions of Ethical AI: A Case Study of OpenAI
Questo caso di studio di OpenAI rivela che, mentre il discorso pubblico dell'organizzazione enfatizza pesantemente la sicurezza e il rischio, essa evita notevolmente l'integrazione di quadri etici accademici e di sensibilizzazione, sollevando preoccupazioni riguardo a un potenziale "ethics-washing" e alla necessità di una governance migliorata.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate il mondo dell'Intelligenza Artificiale (IA) come un enorme e frenetico cantiere edile. Le macchine che vengono costruite qui sono incredibilmente potenti, capaci di scrivere storie, risolvere problemi matematici complessi e persino creare arte. Ma poiché queste macchine sono così nuove e veloci, le persone che le costruiscono stanno ancora cercando di definire il libro delle regole. In questo campo, c'è un grande dibattito su come garantire che queste macchine intelligenti siano "buone". Alcuni parlano di "etica", che è come una bussola morale — un insieme di domande profonde su ciò che è giusto o sbagliato, l'equità e la giustizia. Altri parlano di "sicurezza", che è più simile a un elmetto e a una cintura di sicurezza — passi pratici per impedire alla macchina di schiantarsi o di ferire qualcuno. Sebbene tutti concordino sul fatto che ne servano entrambi, la domanda è: chi sta effettivamente parlando di cosa, e stanno davvero seguendo le regole che hanno stabilito?
Questo articolo esamina da vicino una delle squadre di costruzione più grandi nel mondo dell'IA, un'azienda chiamata OpenAI. I ricercatori volevano vedere come questa azienda parla di queste grandi idee nel tempo. Non si sono limitati ad ascoltare ciò che l'azienda diceva; hanno agito come detective digitali, scansionando miglia di documenti, post di blog e articoli di ricerca per contare esattamente quante volte l'azienda utilizzava parole come "etica", "sicurezza", "rischio" e "allineamento". Hanno trattato la voce pubblica dell'azienda come una gigantesca biblioteca, controllando gli scaffali per vedere quali libri venivano letti di più e quali invece stavano accumulando polvere.
La storia raccontata dai dati è un po' sorprendente. Quando i ricercatori hanno esaminato il sito web pubblico di OpenAI — il luogo in cui l'azienda parla alle persone comuni — hanno scoperto che la parola "etica" era praticamente invisibile. Appariva in meno del 4% dei loro articoli. Era come entrare in una casa dove il proprietario parla continuamente di "sicurezza antincendio" e "uscite di emergenza", ma non menziona mai la parola "fuoco" stessa, anche se è lui a tenere i fiammiferi. Infatti, la parola "sicurezza" è apparsa quasi 700 volte in un solo anno, mentre "etica" è apparsa solo sette volte.
Inveve di usare il linguaggio profondo e filosofico dell'etica, i messaggi pubblici di OpenAI erano dominati da termini tecnici come "sicurezza", "rischio" e "allineamento". I ricercatori hanno scoperto che quando l'azienda usava la parola "etica", era spesso solo un breve accenno, come un commento fugace in un titolo o una singola frase in un paragrafo, piuttosto che una discussione seria. Era come se usassero la parola come una decorazione sulla parete piuttosto che come uno strumento per costruire. Interessante notare che i ricercatori hanno osservato che i tag e le etichette dell'azienda stavano cambiando. A volte un articolo veniva etichettato come "Etica e Sicurezza", ma il testo all'interno menzionava appena l'etica. Ciò suggerisce che le etichette potrebbero cambiare per segnalare cose diverse al pubblico, piuttosto che riflettere un cambiamento profondo nel modo in cui l'azienda pensa alle questioni morali.
Tuttavia, la storia era leggermente diversa quando i ricercatori hanno esaminato i loro articoli accademici — i documenti seri e tecnici scritti per altri scienziati. Qui, la parola "etica" appariva più spesso, comparendo in circa il 17% degli articoli. Ma anche in questi documenti seri, la parola era spesso usata nei margini, nelle note a piè di pagina o in brevi elenchi di valori, piuttosto che essere il focus principale della ricerca. I ricercatori suggeriscono che, sebbene l'azienda sia molto brava a parlare di sicurezza tecnica e gestione dei rischi, tende a tenere le conversazioni morali più pesanti sull' "etica" ai margini, trattandole più come un distintivo di reputazione che come un rigido libro di regole per la costruzione delle loro macchine.
In breve, l'articolo suggerisce che OpenAI ha costruito un megafono molto rumoroso per parlare di "sicurezza" e "rischio", ma ha mantenuto la sua voce molto silenziosa quando si tratta di "etica". Non stanno ignorando l'idea di fare del bene, ma stanno inquadrando la questione in un modo che si concentra su correzioni tecniche ed evitando il pericolo, piuttosto che sulle domande più profonde di equità e giustizia. I ricercatori concludono che questo modo di parlare può far apparire l'azienda responsabile, ma significa anche che le domande difficili e complicate su ciò che è veramente "giusto" o "sbagliato" nell'IA vengono spinte in secondo piano, nascoste dietro un muro di discorsi sulla sicurezza tecnica.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.