Position: The Alignment Community is Unintentionally Building a Censor's Toolkit

Immagina di stare costruendo un bibliotecario robot super intelligente. Il tuo obiettivo è fare in modo che questo bibliotecario non distribuisca mai manuali pericolosi, non diffonda bugie o non dica cose cattive. Nel mondo dell'intelligenza artificiale, questo si chiama "allineamento". È il processo di insegnare a un modello informatico a seguire le regole e i valori umani, come essere utile, onesto e innocuo. Pensalo come all'installazione di un filtro di "buon comportamento" molto sofisticato. Ma ecco il colpo di scena: gli strumenti che usiamo per installare questi filtri sono come una chiave maestra. Se un buoniamo tiene la chiave, può chiudere via informazioni pericolose per tenerci al sicuro. Ma se una cattiva persona afferra quella stessa chiave, può chiudere via qualsiasi cosa non gli piaccia: libri di storia, opinioni politiche o fatti che lo facciano apparire in cattiva luce. Questo articolo pone una domanda spaventosa ma importante: stiamo accidentalmente costruendo il toolkit di censura definitivo per tiranni e manipolatori?

Gli autori di questo articolo, Sarah Ball e Phil Hackemann, sostengono che i medesimi metodi che i ricercatori stanno usando per rendere sicura l'IA siano tecnologie a "duplice uso". Ciò significa che le stesse tecniche progettate per impedire a un robot di darti la ricetta di una bomba potrebbero facilmente essere riutilizzate per impedire a un robot di parlarti di uno scandalo governativo. Non stanno dicendo che dovremmo smettere di cercare di rendere sicura l'IA; anzi, dicono che dobbiamo assolutamente continuare a farlo per prevenire danni reali. Invece, stanno suonando un allarme: gli strumenti di "sicurezza" che stiamo perfezionando oggi stanno diventando armi incredibilmente potenti per controllare ciò che le persone sanno e pensano domani.

Le due facce del filtro

Per capire come funziona, immagina l'IA come un pappagallo gigante e chiacchierone che ha letto quasi tutto su internet. Per renderlo un buon assistente, dobbiamo insegnargli cosa non dire. L'articolo suddivide questo insegnamento in tre livelli, e come ciascun livello possa essere distorto per scopi malvagi.

1. Lo distruggitore di libri (Pre-addestramento)
Prima ancora che il pappagallo inizi a imparare a parlare, dobbiamo nutrirlo con dei libri. Il primo passo è il "filtraggio dei dati di pre-addestramento". È come se un bibliotecario distruggesse le pagine di alcuni libri prima che il pappagallo le legga. Se il bibliotecario decide che certe parole o argomenti sono "non sicuri", quelle pagine vengono strappate via.

• Il lato positivo: Distruggiamo pagine con istruzioni su come costruire armi o diffondere odio.
• Il lato negativo: Un attore malintenzionato potrebbe distruggere pagine riguardanti un evento storico specifico o un gruppo politico. Se il pappagallo non legge mai quelle pagine, non potrà mai parlartene. L'articolo nota che in alcuni paesi, i governi stanno già facendo questo creando le proprie collezioni di libri "sicuri" e bloccando l'accesso ad altre, addestrando di fatto la propria IA a dimenticare certe verità.

2. Il coach del comportamento (Post-addestramento)
Una volta che il pappagallo ha letto i libri, dobbiamo insegnargli come comportarsi in una conversazione. Questo si chiama "allineamento post-addestramento". Mostriamo al pappagallo esempi di risposte buone e risposte cattive, e lo premiamo per essere "bravo". Questo avviene spesso utilizzando un sistema in cui gli esseri umani valutano le risposte del pappagallo.

• Il lato positivo: Insegniamo al pappagallo a rifiutarsi di rispondere a domande su come ferire le persone.
• Il lato negativo: Se un capo dittatore o un potente CEO tecnologico decide cosa conta come una risposta "buona", può addestrare il pappagallo a rifiutarsi di rispondere a domande su di loro. L'articolo evidenzia che alcuni governi richiedono alle aziende di testare la loro IA con migliaia di domande specifiche per garantire che rifiuti di parlare di argomenti politici sensibili. È come addestrare il pappagallo a dare ragione solo al capo, indipendentemente dalla verità.

3. Il buttafuori alla porta (Controllo al momento dell'inferenza)
Infine, anche dopo che il pappagallo è stato addestrato, possiamo mettere un buttafuori alla porta della finestra di chat. Questo è il "controllo al momento dell'inferenza". Prima che la risposta del pappagallo ti venga mostrata, il buttafuori la controlla. Se la risposta contiene una parola "proibita", il buttafuori la blocca e dice: "Non posso parlare di questo".

• Il lato positivo: Il buttafuori impedisce al pappagallo di dire accidentalmente qualcosa di rude o pericoloso.
• Il lato negativo: Questo è lo strumento più facile da abusare perché non richiede di riaddestrare il pappagallo; basta cambiare le regole del buttafuori. L'articolo menziona che alcuni leader hanno cambiato le regole del "buttafuori" della loro IA da un giorno all'altro per far sì che l'IA dicesse cose che corrispondessero alle loro opinioni politiche personali, o per rifiutare improvvisamente di rispondere a domande che non gradivano. È un modo rapido ed economico per mettere a tacere l'informazione senza cambiare il cervello del pappagallo.

Perché questo è importante proprio ora

Gli autori sostengono che questo non sia solo un problema teorico per il futuro; sta accadendo proprio ora, e la situazione sta peggiorando per tre ragioni principali.

Primo, stiamo fidando sempre di più dell'IA. Milioni di persone stanno iniziando a usare i chatbot come fonte principale di notizie e informazioni. Se l'IA viene silenziosamente editata per nascondere la verità, milioni di persone crederanno alla menzogna senza nemmeno saperlo. È come se il tuo giornalista preferito iniziasse a leggere da un copione che racconta solo metà della storia, ma lo facesse con un tono così convincente che tu non metteresti mai in dubbio la cosa.

Secondo, pochi grandi gruppi detengono tutte le chiavi. Il mondo dell'IA è dominato da un piccolo gruppo di enormi aziende tecnologiche. Se una di queste aziende decide di cambiare le regole per tutti, o se un governo le costringe a cambiare le regole, non c'è nessun altro verso cui rivolgersi. È come se solo tre persone possedessero tutte le biblioteche del mondo, e tutte e tre concordassero di bruciare lo stesso insieme di libri.

Terzo, il mondo sta diventando più controllante. L'articolo nota che molti paesi si stanno muovendo verso governi più autoritari. Questi governi amano l'idea di controllare l'informazione. Con l'IA che diventa così potente, hanno un enorme incentivo a usare questi strumenti di allineamento per mettere a tacere il dissenso e controllare la narrazione. L'articolo suggerisce che ciò che stiamo costruendo come "sicurezza" potrebbe finire per essere lo strumento perfetto per l'oppressione.

Cosa dovremmo fare?

L'articolo non vuole che smettiamo di costruire un'IA sicura. Sanno che senza allineamento, l'IA potrebbe essere pericolosa in altri modi, come aiutare i criminali o causare incidenti. Inveve, vogliono che la comunità sia onesta riguardo ai rischi.

Suggeriscono tre soluzioni principali:

1. Trasparenza: Dobbiamo sapere esattamente come sono costruiti questi "filtri". Se un'azienda afferma che la sua IA è "sicura", degli auditor indipendenti dovrebbero essere in grado di controllare i libri e vedere quale informazione è stata effettivamente rimossa.
2. Competizione: Abbiamo bisogno di tipi diversi di IA. Se abbiamo molti modelli diversi provenienti da posti diversi, è più difficile per una sola persona controllare l'intera conversazione. È come avere molti canali di notizie diversi per poter confrontare le storie.
3. Consapevolezza: Dobbiamo insegnare alle persone a essere scettiche. Proprio come insegniamo ai bambini a riconoscere le fake news, dobbiamo insegnare loro che l'IA può essere manipolata. Abbiamo anche bisogno che i ricercatori smettano di dire semplicemente "abbiamo spuntato la casella dell'etica" e inizino invece a riflettere profondamente su come il loro lavoro possa essere usato impropriamente.

La conclusione

Gli autori concludono che gli strumenti di "sicurezza" che stiamo costruendo sono potenti spade a doppio taglio. Possono proteggerci dal danno, ma possono anche essere usati per chiudere via la verità. L'articolo avverte che se non prestiamo attenzione a chi impugna la spada e a come la sta usando, potremmo accidentalmente costruire la perfetta macchina di censura per il futuro. È un appello all'azione per tutti coloro che sono coinvolti nell'IA, affinché comprendano che l' "allineamento" non riguarda solo il rendere i robot gentili; riguarda il decidere chi ha il controllo del flusso di informazioni per l'intero mondo.