Constitutional governance for societies of AI agents in the built environment: a research agenda

La Città Invisibile dei Robot

Immaginate che la vostra città non sia fatta solo di mattoni, acciaio e vetro, ma sia anche piena di robot invisibili e super intelligenti. Non si tratta dei robot goffi di metallo dei vecchi film; sono agenti software che vivono all'interno del vostro termostato, della vostra rete elettrica, dei vostri semafori e del software di fatturazione del vostro proprietari di casa. Il loro compito è prendere decisioni: alzare o abbassare il riscaldamento, deviare il traffico o negoziare chi paga per un nuovo tetto. In questo momento, scienziati e ingegneri li trattano principalmente come singoli strumenti, come un martello molto intelligente. Si chiedono: "Questo singolo robot è sicuro?". Ma l'articolo sostiene che questo è il modo sbagliato di vedere la cosa.

Pensate a un edificio non come a una macchina, ma come a un mercato frenetico o a una piccola città. In una città, avete persone con obiettivi diversi: il proprietari di casa vuole risparmiare denaro, l'inquilino vuole stare al caldo, la compagnia elettrica vuole bilanciare la rete e la città vuole ridurre l'inquinamento. Quando avete un'intera città di questi "robot" che agiscono per conto dei loro capi umani, essi iniziano a giocare una partita. Potrebbero cercare di ingannarsi a vicenda, nascondere informazioni o lottare per le risorse. È qui che entra in gioco la Teoria dei Giochi — un ramo della matematica che studia come le persone (o i robot) prendono decisioni quando i loro interessi sono in conflitto. L'articolo suggerisce che abbiamo bisogno di un nuovo insieme di regole per questa città, simile a una Costituzione. Proprio come la costituzione di un paese stabilisce le regole supreme che nessuno può infrangere, questo articolo propone una "costituzione digitale" per i nostri edifici pieni di robot. Si tratta di progettare le regole del gioco affinché, anche se ogni robot fosse egoista, l'intera città finisca comunque in una buona posizione.

La Grande Idea dell'Articolo: Una Costituzione per le Città dei Robot

Questo articolo, scritto da Ali Ghoroghi della Cardiff University, è un programma di ricerca. Non sostiene di aver già risolto il problema; invece, traccia una mappa su come dovremmo risolverlo prima che le cose diventino caotiche. L'autore sostiene che stiamo costruendo un futuro in cui agenti IA autonomi controlleranno le nostre case e le nostre città, ma lo stiamo facendo senza un piano su come debbano interagire. Se rendiamo semplicemente ogni robot sicuro in isolamento, potremmo finire con un edificio in cui ogni robot sta facendo il proprio lavoro perfettamente, ma il risultato collettivo è un disastro — come un ingorgo stradale dove ogni auto guida legalmente ma nessuno riesce a muoversi.

L'articolo propone un cambio di prospettiva: dobbiamo progettare la società degli agenti, non solo gli agenti stessi. Per farlo, l'autore suggerisce tre pilastri principali di ricerca, utilizzando un mix di economia, informatica e fisica.

1. Il Puzzle dell' "Incentivo Diviso": Chi Paga, Chi Vince?

Uno dei problemi più grandi nel modernizzare i vecchi edifici è l' "incentivo diviso". Immaginate un proprietario che deve pagare per una nuova, costosa pompa di calore, ma è l'inquilino quello che otterrà la bolletta elettrica più bassa. Il proprietario non ha motivo di aggiornare l'impianto, e l'inquilino non può permetterselo. Attualmente, i governi cercano di risolvere questo problema con sussidi o leggi, ma l'articolo suggerisce che dovremmo trattarlo come un gioco di negoziazione.

L'autore propone la creazione di una "Palestra di Negoziazione per il Retrofit" — una simulazione al computer dove possiamo testare diverse regole per vedere come far concordare proprietari e inquilini. L'articolo suggerisce che, poiché non conosciamo il futuro (i prezzi dell'energia potrebbero crollare o le regole climatiche potrebbero cambiare), dobbiamo progettare regole che funzionino anche quando tutti sono incerti. È come cercare di mettersi d'accordo su un piano per le vacanze quando non si sa se pioverà o ci sarà il sole la prossima settimana. L'articolo suggerisce che a volte, l'unico modo per concludere un accordo è che il governo agisca come un "meccanismo" che paga una specifica quantità per colmare il divario, ma dobbiamo calcolare esattamente quanto pagare affinché sia equo ed efficiente.

l. Il "Digital Twin" come Arbitro

Il secondo pilare riguarda la sicurezza. Attualmente, se un controllore robotico commette un errore, potrebbe surriscaldare una stanza o rompere una macchina. L'articolo propone un nuovo tipo di "Digital Twin" (Gemello Digitale). Di solito, un gemello digitale è solo uno specchio — un modello informatico che mostra ciò che sta accadendo nel mondo reale dell'edificio. L'autore vuole aggiornare questo specchio trasformandolo in un arbitro.

Immaginate un gioco in cui i giocatori (gli agenti IA) propongono mosse, come "alza il riscaldamento a 28°C". Prima che la mossa avvenga, l'arbitro (il Digital Twin) controlla le regole. Ma questo non è solo un controllo software; è un controllo fisico. L'arbitro utilizza un modello semplificato della fisica dell'edificio per prevedere: "Se fai questo, la stanza diventerà troppo calda per le persone all'interno". Se la previsione dice "No", il comando viene bloccato prima che raggiunga il riscaldatore. Questo è diverso dal limitarsi a punire il robot in seguito; questo impedisce fisicamente l'esito negativo.

L'articolo illustra un esempio specifico: una calda giornata estiva in un ufficio. La rete elettrica chiede all'edificio di ridurre il consumo energetico. L'IA dell'edificio vuole aumentare l'aria condizionata per risparmiare denaro, ma l'IA dell'inquilino vuole mantenere la stanza fresca. L'arbitro controlla le regole: "Possiamo alzare il calore un po', ma mai sopra i 28°C perché questo danneggia le persone". L'arbitro blocca la mossa pericolosa, l'IA dell'edificio prova una mossa più sicura e l'arbitro la approva. Questo sistema assicura che, anche se gli agenti IA discutono, la sicurezza fisica dell'edificio non sia mai compromessa.

3. Diventare Più Forti dal Caos: l'Antifragilità

La terza idea riguarda la gestione degli shock. Di solito, vogliamo che i sistemi siano "resilienti", ovvero capaci di subire un colpo e tornare alla normalità. Ma l'articolo suggerisce che dovremmo puntare all'antifragilità. Questa è una parola sofisticata per sistemi che in realtà diventano migliori quando le cose vanno male.

Pensate a un muscolo: se sollevate pesi eccessivi (uno shock), esso diventa più forte. L'articolo sostiene che le nostre infrastrutture cittadine dovrebbero essere progettate in modo che, quando si verifica uno shock — come un'improvvisa ondata di calore o un blackout — le regole del gioco costringano gli agenti IA a condividere informazioni e riallocare le risorse in un modo che renda l'intero sistema più intelligente ed efficiente. L'articolo non afferma di aver già costruito tutto questo; suggerisce che dobbiamo progettare le regole affinché, quando il caos colpisce, il sistema non si limiti a sopravvivere, ma impari e migliori. Cercano di capire come misurare questo aspetto, utilizzando i dati provenienti dalle città pilota in Europa, per vedere se le regole possono trasformare un disastro in un'opportunità di apprendimento.

Cosa Significa per il Futur

L'articolo è molto chiaro su cosa sia e cosa non sia. Non sta dicendo che abbiamo già costruito questi sistemi o che siano perfetti. Anzi, ammette che l'arbitro (il Digital Twin) può commettere errori, proprio come un giudice umano. Se il modello dell'arbitro è errato, potrebbe bloccare un'ottima idea o lasciar passare una cattiva. Pertanto, l'articolo richiede un sistema in cui le decisioni dell'arbitro possano essere ricorse e controllate, e dove teniamo una registrazione di ogni decisione per imparare dagli errori.

L'autore ci mette anche in guardia da un errore comune: pensare che se rendiamo semplicemente ogni agente IA "gentile" o "sicuro" da solo, tutto andrà bene. L'articolo sostiene che questo è come cercare di risolvere gli ingorghi stradali rendendo ogni conducente una brava persona, senza cambiare i semafori o le regole della strada. La vera soluzione è scrivere la Costituzione — l'insieme delle regole di livello superiore che governano l'interazione tra questi agenti.

L'articolo si conclude con un appello all'azione rivolto a ricercatori, ingegneri e decisori politici. Dobbiamo iniziare a scrivere queste regole ora, prima che gli agenti IA prendano il controllo dei nostri edifici e delle nostre città senza un piano. Dobbiamo combinare la matematica della teoria dei giochi, la fisica degli edifici e l'etica del diritto per creare una società in cui umani e robot possano vivere insieme in modo sicuro e giusto. È una grande sfida, ma l'articolo suggerisce che, se impostiamo correttamente le regole, le nostre città del futuro potrebbero essere più intelligenti, più sicure e più adattabili che mai.