Correcting AI-generated false criminal allegations: a human-rights framework for remedial closure

Immaginate un mondo in cui un programma informatico, progettato per rispondere a domande e raccontare storie, improvvisamente inventa un crimine. Non si tratta solo di un piccolo errore su una data o un nome; inventa una storia secondo cui una persona specifica, in carne e ossa, ha ucciso i propri figli e sta scontando una lunga condanna in carcere. Questa non è una scena di un romanzo thriller, ma una reale possibilità creata dall'intelligenza artificiale moderna. Quando una menzogna del genere appare su uno schermo, è già grave, ma il pericolo non finisce lì. La falsa storia può nascondersi nella memoria del computer, viaggiare attraverso i suoi sistemi interni ed essere inviata ad altre organizzazioni che utilizzano le risposte del computer per prendere decisioni importanti su lavori, prestiti o sicurezza. Questo crea una situazione in cui una persona viene trattata come un criminale non perché abbia commesso un crimine, ma perché una macchina l'ha inventato e non è riuscita a cancellarlo completamente. La domanda fondamentale che i ricercatori si pongono non è solo come eliminare la menzogna dallo schermo, ma come sapere quando la menzogna è stata davvero fermata nella sua diffusione attraverso l'intero sistema digitale.

Un team di ricercatori ha sviluppato un nuovo modo di pensare a questo problema, andando oltre le semplici correzioni per creare uno standard chiaro per determinare quando una correzione è veramente conclusa. Essi sostengono che dire semplicemente al computer di smettere di dire la menzogna non sia sufficiente. Invece, propongono un processo passo dopo passo che controlli ogni luogo in cui la menzogna potrebbe nascondersi, dalla risposta iniziale ai registri interni e alle decisioni prese da altre persone che hanno ricevuto l'informazione. Il loro lavoro suggerisce che una correzione è completa solo quando l'azienda responsabile può dimostrare di aver controllato ogni luogo raggiungibile in cui la menzogna potrebbe essersi spostata, di aver corretto i registri lì presenti e di aver comunicato a chiunque possa aver usato la menzogna per prendere una decisione che essa era errata. Questo approccio tratta il problema non come un singolo errore da eliminare, ma come un'onda d'urto che deve essere fermata in ogni punto in cui può causare danni.

I ricercatori hanno costruito la loro idea sulla comprensione del fatto che i sistemi di intelligenza artificiale siano reti complesse. Quando un computer genera una storia falsa, quella storia può essere conservata in modi diversi. Potrebbe essere salvata in una memoria temporanea che aiuta il computer a ricordare una conversazione, oppure potrebbe essere estratta da un elenco di fatti che il computer usa per rispondere alle domande. Può anche essere inviata attraverso connessioni digitali ad altri computer o essere utilizzata da una banca o da un'agenzia per l'assunzione per decidere se qualcuno sia affidabile. Il team chiama questa diffusione di informazioni false "propagazione". Hanno scoperto che le regole esistenti per correggere gli errori si concentrano spesso solo sulla risposta finale mostrata all'utente. Tuttavia, se la storia falsa rimane nella memoria del computer o nei registri di un'azienda che l'ha ricevuta, il computer potrebbe ripetere la stessa menzogna in seguito, o l'azienda potrebbe continuare a trattare la persona innocente come colpevole.

Per risolvere questo problema, i ricercatori hanno creato un framework che funge da lista di controllo per risolvere il problema. Il primo passo è che la persona danneggiata dichiari chiaramente quale sia la menzogna e fornisca la prova che sia falsa. Una volta fatto ciò, l'azienda responsabile deve indagare. Non possono limitarsi a dire "l'abbiamo sistemato". Devono mostrare esattamente dove hanno cercato. Ciò include il controllo della risposta principale, della memoria interna, degli elenchi di fatti e di qualsiasi connessione con altri sistemi. Se l'azienda scopre che la menzogna è stata utilizzata per prendere una decisione, come negare un lavoro o segnalare qualcuno come un rischio, deve anche verificare se tale decisione può essere rivista o modificata. L'obiettivo è garantire che la menzogna non sia solo nascosta alla vista, ma rimossa dai luoghi in cui può causare danni reali.

Una parte fondamentale di questo nuovo standard è l'idea di "chiusura ragionevole". I ricercatori riconoscono che potrebbe essere impossibile controllare ogni singolo computer nel mondo o garantire che una menzogna non appaia mai più in un milione di modi diversi. Invece, propongono che un'azienda abbia fatto abbastanza quando ha controllato ogni luogo che può ragionevolmente raggiungere e controllare. Devono documentare il loro lavoro, mostrando quali parti del sistema hanno corretto e quali parti non sono riuscite a raggiungere. Se non possono raggiungere una certa parte, devono spiegare perché era troppo difficile o impossibile farlo. Questa documentazione serve come prova del fatto che hanno adempiuto al proprio dovere. Sposta l'attenzione da una garanzia perfetta e impossibile a un impegno pratico e verificabile che rispetta i limiti della tecnologia pur proteggendo i diritti della persona danneggiata.

I ricercatori hanno testato la loro idea utilizzando un esempio del mondo reale in cui una persona è stata falsamente accusata di un terribile crimine da un popolare chatbot. In quel caso, il reclamo non riguardava solo il fatto che il chatbot dicesse la cosa sbagliata, ma la possibilità che la menzogna potesse sopravvivere nel sistema. Applicando il loro nuovo schema di controllo, i ricercatori hanno mostrato come un'azienda potrebbe passare dal semplice cancellare la risposta a un processo più approfondito. Ciò comporterebbe il controllo della memoria interna per garantire che la menzogna non fosse salvata lì, la verifica che la menzogna non fosse memorizzata in un modo che potrebbe essere recuperato in seguito, e il contatto con eventuali organizzazioni che avrebbero potuto ricevere la falsa informazione. Se un'organizzazione avesse utilizzato la menzogna per prendere una decisione, l'azienda dovrebbe aiutarla a comprendere l'errore affinché la decisione possa essere riconsiderata.

Questo approccio chiarisce anche chi è responsabile di cosa. In un sistema complesso in cui potrebbero essere coinvolte molte aziende diverse, i ricercatori affermano che ogni azienda è responsabile delle parti del sistema che controlla. Se un'azienda invia una storia falsa a un'altra azienda, la prima azienda deve comunicare alla seconda che la storia è falsa. Tuttavia, la prima azienda non è responsabile di sistemare i sistemi interni della seconda azienda. Ogni azienda deve sistemare le parti di sua proprietà. Questo evita la confusione di cercare di ritenere responsabile una sola persona per l'intera rete globale, pur garantendo che ogni anello della catena faccia la sua parte per fermare la diffusione della menzogna.

I ricercatori sottolineano con cautela che questo standard non è una bacchetta magica che fa scomparire per sempre tutti gli errori. Ammettono che la tecnologia è in costante cambiamento e che nuovi modi per diffondere menzogne potrebbero apparire. Il loro standard è progettato per essere flessibile, permettendo una revisione se una menzogna riappare in una nuova forma. Pongono inoltre enfasi sul fatto che questo processo debba rispettare i diritti altrui, come la libertà di riferire crimini reali o di discutere eventi pubblici. L'obiettivo è rimuovere solo le menzogne false e dannose, non cancellare la storia o mettere a tacere il discorso legittimo. Concentrandosi su menzogne verificate, ad alta gravità e che causano danni reali, il framework mira a proteggere le persone senza creare un sistema troppo pesante o restrittivo per funzionare.

In definitiva, questa ricerca offre un modo per portare ordine in un problema caotico. Sposta la conversazione dal chiedere "Hai cancellato la menzogna?" al chiedere "Puoi dimostrare di aver fermato la menzogna dal causare ulteriori danni?". Fornisce un percorso chiaro da seguire per le aziende e per i regolatori per effettuare controlli. Richiedendo la prova dell'azione piuttosto che semplici promesse, offre alle persone che sono state danneggiate dall'intelligenza artificiale una migliore possibilità di ottenere giustizia. Il lavoro suggerisce che, sebbene non si possa sempre impedire alle macchine di commettere errori, possiamo costruire sistemi che siano onesti riguardo a tali errori e meticolosi nel correggerli. Ciò crea un futuro in cui il potere dell'intelligenza artificiale è bilanciato da un modo chiaro e responsabile per correggere i suoi errori, garantendo che la reputazione di una persona non venga distrutta da un'allucinazione di una macchina.