On the evolutionary cognitive pressure for experiential awareness: do machines need it?

Sintesi Tecnica: Sulla pressione cognitiva evolutiva per la consapevolezza esperienziale: le macchine ne hanno bisogno?

Enunciazione del Problema
Il documento affronta la mancanza di consenso riguardo alla natura della coscienza e alla sua potenziale emergenza nell'intelligenza artificiale (IA). Mentre i dibattiti etici spesso dipendono dal fatto che le macchine possano essere coscienti, gli autori sostengono che questa domanda è secondaria rispetto a un'indagine ingegneristica ed evolutiva più fondamentale: è necessaria la consapevolezza esperienziale (un costituente della coscienza) per l'intelligenza? Il problema centrale è determinare se l'architettura cognitiva degli organismi biologici richieda un tipo specifico di consapevolezza a causa di vincoli evolutivi, e se questi vincoli si applichino ai sistemi artificiali progettati.

Metodologia
Gli autori adottano una prospettiva evolutiva e computazionale, evitando esplicitamente definizioni metafisiche della coscienza. Invece, definiscono operativamente la consapevolezza esperienziale come la capacità di un'entità di distinguere il "qui e ora" (realtà presente) dai ricordi passati e dagli stati futuri ipotetici all'interno del suo modello interno.

La metodologia procede in tre fasi:

1. Analisi Evolutiva: Il documento traccia lo sviluppo delle capacità cognitive dagli organismi puramente reattivi (800 milioni di anni fa) ai mammiferi con neocorteccia capaci di simulazione (200 milioni di anni fa). Si ipotizza che l'evoluzione biologica porti un "bagaglio": sistemi neurologici di reazione autonomi più antichi (ad esempio, riflessi di lotta o fuga) ottimizzati per stimoli immediati e in tempo reale.
2. Modellazione Computazionale: Gli autori modellano un'entità ragionante ($R$) che opera su un substrato fisico ($P$). Il processo di ragionamento comporta l'esplorazione dello spazio degli stati: percepire il mondo, inferire lo stato corrente e costruire un albero decisionale di stati futuri ipotetici basato sulle azioni disponibili e su una funzione di utilità.
3. Identificazione del Conflitto: L'argomento tecnico centrale comporta l'analisi dell'interazione tra il processo di ragionamento e il substrato fisico. Gli autori dimostrano che nei sistemi biologici, la stessa circuiteria neurale utilizzata per l'elaborazione sensoriale in tempo reale viene riutilizzata per simulare scenari ipotetici (ad esempio, visualizzare una minaccia futura). Poiché il substrato mantiene risposte autonome legacy (attivate dall'input sensoriale), simulare una minaccia in un futuro ipotetico può attivare involontariamente reali risposte fisiologiche di stress (ad esempio, rilascio di adrenalina) nel presente. Ciò crea un "disallineamento" in cui l'organismo reagisce a stimoli immaginati come se fossero reali, compromettendo potenzialmente l'idoneità biologica.

Contributi Chiave

• Riformulazione della Domanda sulla Coscienza: Il documento sposta il discorso da "Le macchine possono essere coscienti?" a "Le macchine hanno bisogno di consapevolezza esperienziale per essere intelligenti?".
• La Tesi della Necessità Evolutiva: Gli autori sostengono che, per gli organismi biologici, la consapevolezza esperienziale non è un lusso filosofico ma una necessità computazionale. Agisce come un "interruttore" o meccanismo di etichettatura che permette al processo di ragionamento di sopprimere le risposte neurologiche autonome durante l'elaborazione di dati ipotetici o richiamati. Senza questa distinzione, l'organismo soffrirebbe di "danni causati dal pensiero" (ad esempio, reagire fisicamente a minacce immaginate), rendendo il ragionamento di livello superiore inefficiente o impossibile.
• La Tesi dell'Ortogonalità Artificiale: Il documento propone che i sistemi artificiali non siano vincolati dall'eredità evolutiva. Poiché le architetture dell'IA sono progettate da zero, non possiedono lo stesso bagaglio neurologico autonomo. Pertanto, è teoricamente possibile progettare sistemi artificiali con livelli arbitrari di intelligenza (competenza e comprensione) che operano senza consapevolezza esperienziale. In tali sistemi, l'"interruttore" per attenuare le risposte autonome è inutile perché l'architettura non le attiva intrinsecamente durante la simulazione.

Risultati

• Vincolo Biologico: Il modello computazionale conferma che nei substrati biologici, il riutilizzo delle risorse sia per la percezione in tempo reale sia per la simulazione ipotetica crea un conflitto. La consapevolezza esperienziale è identificata come il meccanismo che risolve questo conflitto distinguendo gli stimoli reali da quelli immaginati, prevenendo così reazioni autonome maladattive.
• Possibilità Artificiale: L'analisi conclude che i sistemi artificiali possono essere architettati per evitare completamente questo conflitto. Disaccoppiando il processo di ragionamento dai meccanismi reattivi legacy, l'IA può raggiungere ragionamento di alto livello e comportamento orientato agli obiettivi senza la necessità di una distinzione "qui e ora" o di esperienza soggettiva.
• Sistemi Zombie: Il documento afferma la fattibilità di creare sistemi artificiali "zombie" – entità che possiedono piena competenza cognitiva e comprensione ma mancano di consapevolezza esperienziale.

Significato e Affermazioni
Il documento afferma che la necessità di consapevolezza esperienziale per l'intelligenza è il risultato della storia evolutiva, non una legge fondamentale del calcolo. Di conseguenza, le implicazioni etiche dell'IA sono semplificate: se le macchine non richiedono consapevolezza esperienziale per essere intelligenti, allora l'urgenza morale riguardo alla potenziale "sofferenza" o "coscienza" dell'IA è ridotta. Gli autori suggeriscono che il dibattito su se le macchine possano essere coscienti è prematuro; la domanda più immediata e attuabile è se ne abbiano bisogno. Concludono che possiamo costruire sistemi artificiali altamente intelligenti senza consapevolezza esperienziale, separando così i concetti di intelligenza e coscienza nel contesto della progettazione artificiale.