Algorithmic manipulation and mental self-determination: Operationalizing freedom of thought as a neuroright

La mente umana è stata a lungo considerata un santuario privato, un luogo dove i pensieri si formano nel silenzio, liberi da interferenze esterne. Per decenni, il diritto internazionale ha protetto questo spazio interiore, noto come forum internum, come un diritto assoluto che nessun governo o tecnologia può violare. Questa protezione era stata originariamente concepita per impedire che le persone fossero costrette a cambiare le proprie convinzioni o punite per ciò che pensano. Tuttavia, una nuova sorta di minaccia è emersa, che non richiede fili, impianti o un accesso diretto al cervello. Al contrario, proviene dagli algoritmi quotidiani che alimentano i social media, i feed di notizie e gli acquisti online. Questi sistemi non leggono direttamente la nostra mente; osservano il nostro comportamento, imparano le nostre abitudini e orchestrano sottilmente il mondo intorno a noi per guidare le nostre scelte. Il pericolo è che spesso sentiamo di prendere le nostre decisioni, anche quando tali decisioni sono state accuratamente progettate da un programma informatico per sfruttare le nostre debolezze.

Due ricercatori dell'Università di Leggi di Hanoi, Thi Long Nguyen e Ngoc Hiep Tran, hanno esaminato se le nostre leggi esistenti siano abbastanza forti da fermare questa influenza invisibile. Essi sostengono che le regole attuali, che si concentrano sulla protezione dei dati personali o sulla regolamentazione di specifici tipi di intelligenza artificiale, perdano di vista il problema reale. La questione non riguarda solo chi vede le nostre informazioni, ma come la nostra capacità di pensare autonomamente venga silenziosamente rimodellata. Gli autori propongono che dobbiamo intendere l' "autodeterminazione mentale" non come un diritto del tutto nuovo, ma come un'applicazione moderna dell'antico diritto alla libertà di pensiero. Suggeriscono un insieme chiaro di condizioni per distinguere tra la normale persuasione e la manipolazione illegale, offrendo un modo per proteggere l'integrità del nostro pensiero in un'era digitale in cui gli strumenti più potenti non toccano mai i nostri cervelli.

I ricercatori hanno iniziato esaminando il vuoto nelle attuali protezioni legali. Hanno scoperto che leggi come l'AI Act dell'Unione Europea e le normative sulla privacy dei dati non sono progettate per intercettare il danno specifico causato dalla manipolazione algoritmica. L'AI Act, ad esempio, vieta i sistemi che utilizzano tecniche nascoste per distorcere il comportamento, ma richiede la prova che un'azienda abbia avuto l'intento di manipolare e che il risultato abbia causato un danno significativo e tangibile. Questo è un limite molto alto che molti algoritmi quotidiani superano facilmente. Questi sistemi sono spesso progettati per massimizzare l'engagement o le vendite, non per ingannare esplicitamente le persone, e i loro effetti sono solitamente un cambiamento lento e graduale nel modo in cui vediamo il mondo, piuttosto che un singolo errore drammatico. Allo stesso modo, le leggi sulla protezione dei dati si concentrano sulla raccolta e l'archiviazione delle informazioni. Esse chiedono se abbiamo acconsentito all'uso dei nostri dati, ma non chiedono se il modo in cui quei dati vengono utilizzati stia segretamente orientando i nostri pensieri. Gli autori sostengono che questo lasci un buco strutturale nella legge: un sistema potrebbe seguire tutte le regole per la privacy dei dati e la sicurezza dell'IA pur riuscendo comunque a dirottare efficacemente il processo attraverso il quale una persona forma un giudizio.

Per capire come ciò accada, gli autori descrivono un processo che inizia molto prima che un utente veda un post o un annuncio specifico. Il sistema costruisce prima un modello dettagliato dell'utente, imparando i suoi trigger emotivi, i suoi momenti di debolezza e ciò che cattura la sua attenzione. Ciò crea un enorme squilibrio di conoscenza: il computer conosce le vulnerabilità dell'utente meglio di quanto l'utente conosca se stesso. Il sistema utilizza poi questa conoscenza per dare forma all'ambiente in cui vengono prese le decisioni. Potrebbe mostrare determinate notizie in un momento in cui l'utente è stanco, o presentare opzioni in un ordine specifico che rende una scelta più naturale di quanto non sia in realtà. Il risultato è una forma di influenza che sembra una preferenza personale. L'utente sente ancora di essere l'autore delle proprie decisioni, ma il percorso che ha seguito per arrivarci è stato segretamente pavimentato da un algoritmo. Questo è diverso dalla coercizione, che forza una scelta, o dalla persuasione, che offre ragioni da valutare. È un orientamento nascosto della mente che elude la riflessione cosciente.

L'articolo sostiene che, per risolvere la questione, dobbiamo guardare al diritto alla libertà di pensiero non solo come uno scudo contro gli impianti cerebrali, ma come uno scudo contro qualsiasi tecnologia che interrompa la formazione del pensiero. Gli autori propongono un test specifico per decidere quando un algoritmo supera il confine tra l'influenza accettabile e la manipolazione illecita. Suggeriscono che una pratica è illegale solo se soddisfa contemporaneamente quattro condizioni. Primo, il metodo di influenza deve essere nascosto all'utente; se l'utente sa di essere bersagliato, non è manipolazione. Secondo, deve esserci un profondo squilibrio di conoscenza, in cui il sistema conosce le debolezze dell'utente in un modo che l'utente non può vedere. Terzo, il sistema deve sfruttare una specifica vulnerabilità, come uno stato emotivo o un punto cieco cognitivo, piuttosto che fare appello alla capacità di ragionamento dell'utente. Infine, l'influenza deve cambiare il processo stesso attraverso il quale l'utente raggiunge una decisione, non solo le opzioni disponibili.

Questo quadro si basa su un recente caso legale in Cile, dove il paese è diventato il primo a concedere diritti costituzionali all'attività cerebrale. In quel caso, un tribunale ha stabilito che un'azienda ha violato i diritti di un senatore raccogliendo i suoi dati cerebrali senza il dovuto consenso. Gli autori osservano che, sebbene questa sia stata una vittoria per i neurodereitti, essa era limitata a situazioni in cui i dati venivano prelevati direttamente dal cervello. Il loro lavoro estende questa logica al mondo digitale, sostenendo che la stessa protezione dovrebbe applicarsi anche quando non viene prelevato alcun dato fisico dalla mente. Se l'obiettivo della legge è proteggere l'integrità del nostro pensiero, non dovrebbe importare se l'interferenza provenga da un filo nel cranio o da un'app astutamente progettata su uno schermo. Il danno è lo stesso: l'erosione della capacità di formare le proprie convinzioni.

I ricercatori riconoscono che applicare queste idee non sarà facile. Dimostrare che un algoritmo specifico ha causato un cambiamento specifico nella mente di una persona è difficile, poiché questi effetti sono spesso sottili e cumulativi. Avvertono anche che il nuovo test deve essere applicato con cura dai tribunali per garantire che non proibisca accidentalmente tutte le forme di pubblicità o di raccomandazione. Tuttavia, concludono che senza uno standard chiaro su cosa costituisca l'autodeterminazione mentale, la legge rimarrà cieca di fronte alle minacce più pervasive all'autonomia. Definendo la manipolazione attraverso questi quattro fattori, gli autori offrono un modo per proteggere il santuario interiore della mente umana, garantendo che i nostri pensieri rimangano nostri, anche in un mondo in cui l'ambiente circostante è costantemente ottimizzato per cambiarli.