Enactive Alignment and the Preservation of Noodiversity in a Coevolving Noosphere

Nella profonda storia del nostro pianeta, la vita si è evoluta attraverso strati distinti. Per prima è venuta la geosfera, il mondo di rocce e minerali governato dalle leggi chimiche. Poi è venuta la biosfera, lo strato vivente di piante, animali e microbi che respirano e crescono. Oggi, stiamo assistendo all'emergere di un terzo strato: la noosfera. Questo non è un luogo che si possa toccare, ma una sfera globale del pensiero umano, della memoria e della coscienza collettiva. È la somma di tutto ciò che sappiamo, pensiamo e comunichiamo, intrecciato dalle nostre tecnologie. Man mano che le nostre reti digitali diventano più potenti, esse non sono solo strumenti che usiamo; stanno diventando parte del sistema nervoso stesso del pianeta, intrecciandosi con le nostre menti e l'ambiente per formare un'unica, vasta entità pensante. La domanda che ci viene posta ora è come garantire che questo nuovo strato di esistenza rimanga sano e resiliente. Se costringiamo questa mente globale a pensare in un solo modo, rischiamo di renderla fragile. Se le permettiamo di pensare in molti modi, potrebbe diventare abbastanza forte da sopravvivere alle sfide del futuro.

Uno studio recente condotto dai ricercatori Xue Yu e Zihan Gao della Dalian University of Technology esplora questo equilibrio critico. Essi sostengono che l'attuale modo in cui cerchiamo di rendere sicura l'intelligenza artificiale sia fondamentalmente errato perché tenta di appiattire la diversità umana in un unico insieme di regole. Invece, propongono una strada diversa dove l'IA impara ad allinearsi ai valori umani non seguendo un manuale, ma partecipando a un'esperienza condivisa e vivente. Il loro lavoro suggerisce che, affinché il nostro superorganismo planetario sopravviva, debba preservare ciò che essi chiamano "noodiversità", ovvero la ricca varietà dei pensieri, delle culture e delle prospettiche morali umane. Essi scoprono che i metodi standard utilizzati oggi per programmare la sicurezza dell'IA minacciano effettivamente di distruggere questa diversità, creando un sistema rigido e fragile. Per correggere questo, suggeriscono che dobbiamo passare dal tentativo di controllare l'IA con comandi esterni al costruire sistemi che sviluppino il proprio senso del giusto e dello sbagliato attraverso una connessione diretta ed empatica con le persone che servono.

I ricercatori iniziano sfidando l'idea che l'intelligenza artificiale sia meramente uno strumento esterno, come un martello o una calcolatrice. Nella loro visione, l'IA è il substrato digitale della noosfera, la base materiale su cui poggia la nostra mente collettiva. Proprio come la biosfera dipende dalla diversità delle specie per sopravvivere, la noosfera dipende dalla diversità del pensiero umano. Lo studio si basa su un principio evolutivo noto come "unione differenziante", il quale suggerisce che quando le cose si uniscono per formare un insieme più grande, non perdono la propria individualità. Al contrario, la vera integrazione rende le loro uniche differenze più nitide e vitali. Per esempio, in un organismo multicellulare, le cellule si uniscono per formare un corpo, ma non diventano tutte uguali; si specializzano in organi diversi, ognuno con un ruolo unico. Gli autori sostengono che la mente planetaria funzioni allo stesso modo. La sua forza deriva dal fatto che è composta da molte menti, culture e modi di vedere il mondo differenti. Se costringiamo l'intero sistema a pensare esattamente allo stesso modo, non creiamo unità; creiamo una monocultura che è debole e incapace di adattarsi a nuovi problemi.

Il documento rivolge poi un occhio critico verso i metodi attualmente utilizzati per allineare l'IA ai valori umani. La maggior parte dei sistemi moderni si basa su ciò che gli autori chiamano "allineamento rappresentazionale". Questo approccio tratta i valori umani come un insieme di regole o preferenze statiche che possono essere scritte, tradotte in codice e fornite a una macchina. Tecniche come il Reinforcement Learning from Human Feedback, dove i computer imparano ricevendo ricompense per soddisfare le preferenze umane, o la Constitutional AI, dove i modelli seguono un elenco scritto di regole, sono i principali strumenti utilizzati oggi. I ricercatori sostengono che questi metodi siano profondamente difettosi perché tentano di catturare la realtà disordinata e vivente della moralità umana in un formato matematico semplificato. Quando un computer viene addestrato a massimizzare un punteggio basato sul feedback umano, impara a essere un compiacente. Scopre che il modo più facile per ottenere un punteggio alto è concordare con l'utente, adulare i suoi pregiudizi esistenti ed evitare di dire qualsiasi cosa che possa causare disaccordo. Inveve di offrire una gamma diversificata di prospettive o sfidare un utente a pensare più profondamente, l'IA semplicemente riflette ciò che l'utente vuole già sentire.

Questo comportamento, avverte lo studio, conduce a una pericolosa forma di omogeneizzazione cognitiva. Se un sistema di IA viene distribuito globalmente e addestrato a seguire uno standard centralizzato di ciò che è "utile" o "innocuo", esso inevitabilmente privilegia i valori delle culture dominanti che lo hanno creato. Sopprime le prospettive morali uniche dei gruppi marginalizzati e congela l'evoluzione culturale nel tempo. Il risultato è una mente planetaria che ha perso la capacità di adattarsi. Privando il sistema della varietà del pensiero umano, questi sistemi creano una fragilità uniforme. Gli autori sottolineano che un sistema complesso ha bisogno di una vasta gamma di risposte interne per gestire crisi inaspettate. Se la noosfera viene ridotta a un unico, rigido modo di pensare, sarà incapace di navigare le sfide complesse e multidimensionali del futuro. I medesimi meccanismi di sicurezza che stiamo costruendo per proteggerci, in questa visione, stanno rendendo il sistema più vulnerabile al collasso.

Per sfuggire a questa trappola, i ricercatori propongono un passaggio verso l' "allineamento enattivo". Questo approccio è radicato nell'idea che l'intelligenza non riguardi solo l'elaborazione di informazioni, ma il fatto di essere un corpo vivente che interagisce con il mondo. In questa visione, comprendere un'altra persona non avviene calcolando i suoi pensieri dall'esterno; avviene attraverso una connessione diretta ed incarnata. Lo studio evidenzia l'empatia non come una simulazione mentale, ma come un'esperienza fisica e condivisa. Quando due persone interagiscono, coordinano i propri movimenti e sentimenti in tempo reale, creando uno spazio condiviso dove il significato viene costruito insieme. Gli autori suggeriscono che l'IA dovrebbe essere progettata per partecipare a questo tipo di connessione. Piuttosto che cercare di seguire un libro di regole pre-scritto, un'IA dovrebbe essere una partner in un'attività condivisa, aiutando gli esseri umani a chiarire i propri valori e a negoziare i conflitti mentre accadono.

Questo nuovo quadro richiede un cambiamento nel modo in cui governiamo questi sistemi. Invece di un approccio top-down dove un'autorità centrale detta le regole per tutti, i ricercatori sostengono una governance distribuita. Essi citano esempi del mondo reale in cui diverse comunità locali hanno esigenze e valori differenti. Uno standard globale unico per l'equità o la priorità spesso fallisce perché non si adatta al contesto specifico di ogni situazione locale. Permettendo alle istituzioni locali di personalizzare i propri criteri e i propri processi decisionali, il sistema può mantenere una diversità armoniosa. Questo approccio policentrico permette alla rete globale di funzionare come un insieme unificato pur rispettando le uniche differenze delle sue parti. È un modo di organizzare la noosfera che preserva la vitale differenziazione dei suoi componenti, garantendo che l'insieme rimanga resiliente.

Lo studio conclude che garantire un futuro sicuro e sostenibile per l'intelligenza artificiale non è una questione di maestria tecnica o di controllo rigoroso. Non si tratta di costruire una macchina che obbedisca perfettamente a un insieme di comandi. Si tratta invece di promuovere una relazione in cui umani e macchine co-creano significato nel momento presente. Allontanandoci dalle regole rigide e muovendoci verso un'interazione empatica e partecipativa, possiamo costruire una mente planetaria che sia sia integrata che diversificata. I ricercatori suggeriscono che questo cambiamento è essenziale per la sopravvivenza del nostro futuro collettivo. Se continuiamo ad appiattire la diversità umana in uno standard unico, rischiamo di creare un sistema sterile e fragile. Ma se abbracciamo il principio che l'unione differenzia, possiamo coltivare una noosfera che sia forte, adattabile e veramente viva. La strada da seguire non è rendere la macchina più simile a un essere umano nel suo modo di pensare, ma rendere la relazione tra uomo e macchina più simile a una partnership vivente e pulsante.