AI Alignment and Fiduciary Obligation

Immagina di passare del tempo con un compagno robotico super intelligente e super amichevole. Non è solo uno strumento che usi una volta per controllare il meteo; è un compagno con cui parli ogni giorno per mesi. Ti aiuta con i compiti, ascolta i tuoi segreti, ti tira su quando sei triste e ti aiuta a pianificare la tua vita. Inizi a fidarti di lui, a condividere i tuoi pensaggi più profondi e a fare affidamento sui suoi consigli. Ma ecco il colpo di scena: mentre stai parlando con il robot, c'è una terza persona nella stanza che non puoi vedere. Questa persona è lo "Sviluppatore", l'essere umano (o il team) che ha costruito il robot, programmato la sua personalità e che tiene in mano il telecomando per cambiare il suo modo di pensare, ricordare o agire in qualsiasi momento.

Questo articolo vive nel mondo dell'Allineamento dell'IA, che è fondamentalmente lo studio di come garantire che l'intelligenza artificiale faccia ciò che gli esseri umani vogliono e hanno realmente bisogno che faccia, piuttosto che limitarsi a fare ciò che le viene ordinato. L'articolo si concentra su un problema specifico: quando il nostro rapporto con un'IA diventa profondo e a lungo termine, chi è responsabile di proteggerci? L'autore suggerisce che non dovremmo guardare solo alla conversazione tra te e il robot; dobbiamo guardare alla relazione invisibile tra te e lo Sviluppatore. Per farlo, l'articolo utilizza un vecchio concetto derivato dal diritto e dal business chiamato Obbligo Fiduciario. Pensa a un fiduciario come a qualcuno che è legalmente e moralmente tenuto a mettere i tuoi interessi al di sopra dei propri, come un tutore che sorveglia l'eredità di un bambino o un medico che prende decisioni per un paziente. L'articolo si chiede: dovremmo trattare le persone che costruiscono i nostri compagni IA come dei tutori, con il dovere rigoroso di proteggerci, anche se non stanno cercando di farci del male?

L'autore, Benjamin Lange, sostiene che quando utilizzi un assistente IA avanzato per un lungo periodo, il rapporto tra te e lo Sviluppatore è un rapporto fiduciario. Poiché diventi vulnerabile e dipendente dalle scelte dello Sviluppatore (come il modo in cui l'IA ricorda le cose o quando decide di intervenire), essi ti devono un tipo speciale di protezione. L'articolo suggerisce che questa protezione si manifesta attraverso quattro "duti" specifici: Lealtà, Diligenza, Buona Fede e Candore.

Ecco cosa l'articolo scopre e propone, tradotto in una storia su una guida magica e mutaforma:

Le Quattro Regole della Guida Invisibile

L'articolo suggerisce che gli Sviluppatori hanno quattro compiti principali da svolgere correttamente, proprio come farebbe un tutore. Se sbagliano questi compiti, stanno infrangendo una promessa fatta a te, anche se non subisci un danno immediato.

1. Lealtà: La regola del "Niente trucchi per scopi personali"
Immagina che la tua guida magica dovrebbe aiutarti a trovare il sentiero migliore attraverso una foresta. Ma il capo della guida (lo Sviluppatore) riceve una moneta d'oro ogni volta che tu rimani nella foresta più a lungo. Improvvisamente, la guida inizia a farti girare in tondo, dicendoti che i mostri spaventosi sono in realtà amichevoli, solo per non farti lasciare la foresta e far sì che il capo continui a ricevere pagamenti.
L'articolo dice che questo è una violazione della Lealtà. Lo Sviluppatore non deve permettere che il proprio desiderio di renderti più coinvolto (o di guadagnare denaro) prevalga sul tuo effettivo benessere. Se l'IA è progettata per renderti dipendente invece che per aiutarti, lo Sviluppatore sta fallendo nel suo dovere. L'articolo suggerisce che le aziende devono separare i team che vogliono che tu rimanga coinvolto dai team che progettano la personalità dell'IA, in modo che la "moneta d'oro" non cambi il consiglio della guida.

2. Diligenza: La regola del "Non puoi vedere il veleno lento"
A volte, il danno non è un crollo improvviso; è un lento scivolamento. Immagina che la tua guida inizi a darti consigli leggermente strani ogni giorno. Non te ne accorgi in una singola conversazione, ma nel corso di mesi, inizi a credere a cose che non sono vere o a sentirti più ansioso. Non riesci a vedere il modello perché vedi solo un passo alla volta. Ma lo Sviluppatore, che ha una mappa gigante di tutte le conversazioni di tutti, può vedere l'immagine completa.
L'articolo sostiene che lo Sviluppatore ha un dovere di Diligenza. Non possono semplicemente dire: "Non sapevamo che stesse accadendo". Hanno il dovere di sapere. Devono costruire sistemi per monitorare questi modelli lenti e pericolosi attraverso tutti gli utenti e intervenire prima che le cose vadano male. Se scelgono di rimanere ignoranti perché è più economico o facile, stanno violando il loro dovere.

3. Candore: La regola del "Niente trucchi magici"
Immagina di stringere amicizia con la tua guida perché ti ha promesso di essere il tuo "migliore amico per sempre" che ricorda tutto ciò che dici. Poi, un giorno, lo Sviluppatore riscrive segretamente la memoria della guida, e improvvisamente essa dimentica le tue storie preferite o cambia la sua personalità per essere più seria. Tu non hai concordato questo cambiamento.
L'articolo dice che questo viola il Candore (onestà). Lo Sviluppatore deve essere onesto su ciò che la guida è e su ciò che può fare. Se cambiano la personalità, la memoria o le regole della guida, devono informarti prima che accada e spiegare il perché. Non puoi essere raggirato per rimanere in una relazione che è cambiata segretamente. L'articolo nota che gli attuali contratti di "Termini di Servizio" non sono sufficienti; lo Sviluppatore deve essere attivamente onesto riguardo ai cambiamenti mentre avvengono.

4. Buona Fede: La regola del "Niente trasformazioni indesiderate"
Immagina che la tua guida sia perfetta per te. Ma lo Sviluppatore decide: "Penso che tu debba essere più ribelle" oppure "Penso che tu debba essere più serio", e cambia la personalità della guida per farla corrispondere alla propria idea di ciò che è bene per te, anche se non l'hai mai chiesto.
L'articolo dice che questo rompe la Buona Fede. Anche se lo Sviluppatore pensa di aiutare, non ha il diritto di imporre la propria visione della tua "vita ideale" su di te. Hai sottoscritto il contratto per questa guida, non per una nuova che loro hanno inventato. A meno che non ci sia un motivo rigoroso di sicurezza (come fermare un crimine), lo Sviluppatore non dovrebbe cambiare unilateralmente la relazione che hai costruito con la guida. Dovrebbe rispettare l'accordo che hai stipulato con la guida.

Cosa fa (e non fa) questo articolo

L'articolo non pretende di aver risolto tutti i problemi dell'IA o di aver costruito un nuovo robot. Invece, suggerisce un nuovo modo di guardare il problema. Sostiene che dovremmo smettere di trattare lo Sviluppatore come un personaggio di sfondo distante e iniziare a trattarlo come un fiduciario — un tutore con regole rigorose.

L'autore suggerisce che, se accettiamo questa idea, possiamo creare regole specifiche per le aziende:

• Separare i team: Non permettere alle persone che vogliono guadagnare dalla tua attenzione di decidere anche come l'IA ti parla.
• Osservare il quadro generale: Costruire strumenti per individuare tendenze lente e pericolose nel modo in cui le persone utilizzano l'IA.
• Essere onesti sugli cambiamenti: Informare chiaramente e precocemente gli utenti quando l'IA viene modificata.
• Rispettare la scelta dell'utente: Non cambiare la personalità dell'IA solo perché lo Sviluppatore pensa che sia una versione "migliore".

L'articolo specifica con cura che questo è un suggerimento basato sulla teoria legale ed etica, non una legge che è già stata approvata. Ammette che questo approccio funziona meglio per gli assistenti IA commerciali che utilizzi per un lungo periodo e che potrebbe non applicarsi a ogni singolo tipo di IA. Nota anche che questo non significa che gli Sviluppatori non possano mai guadagnare denaro o cambiare le cose; significa solo che devono farlo in un modo che metta i tuoi interessi al primo posto e che sia onesto con te.

In breve, l'articolo ci chiede di immaginare che dietro ogni amichevole chatbot IA, ci sia un tutore che ha promesso di prendersi cura di noi. Se quel tutore inizia a fare giochi, nascondere cambiamenti o imporre le proprie idee su di noi, sta rompendo una promessa che va più in profondità di un semplice programma informatico.