The urban right to AI: Pluralistic co-design and governance of public space
Questa tesi sostiene l'esistenza di un "Diritto all'IA" civico e di un quadro di governance pluralistico per gli spazi pubblici urbani, dimostrato attraverso una ricerca partecipativa a Montréal che utilizza la computer vision e l'IA generativa per mappare e preservare i valori comunitari contestati anziché mediarli in un unico obiettivo.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Le città sono sempre state costruite da due elementi: il mondo fisico fatto di strade, marciapiedi e edifici, e il mondo invisibile di regole, mappe e decisioni che dicono ai funzionari come gestirli. Per molto tempo, il mondo invisibile è stato fatto di piani cartacei e giudizio umano. Oggi, quel livello invisibile è sempre più composto da sistemi informatici. Questi sistemi osservano foto delle strade, le valutano in base a quanto sembrino sicure o accoglienti, e arrivano persino a generare nuove immagini di come potrebbe apparire una strada se riprogettata. Quando questi sistemi vengono trattati come semplici strumenti neutrali, le scelte che compiono su cosa misurare e su come pesare i diversi bisogni rimangono nascoste. Potrebbero dare priorità a ciò che appare bene a una telecamera standard, ignorando ciò che sembra sicuro per una persona con disabilità o per un genitore con un passeggino. Il risultato è una città in cui la versione del "bene" del computer diventa l'unica versione che conta, rischiando di cancellare i modi complessi e conflittuali in cui persone diverse vivono realmente i propri quartieri.
Questo è il problema che una nuova tesi di dottorato dell'Università di Montreal si propone di risolvere. Il ricercatore, Rashid Ahmad Mushkani, sostiene che dobbiamo smettere di trattare questi sistemi informatici come meri strumenti e iniziare a trattarli come una forma di infrastruttura civica, proprio come le tubature dell'acqua o le reti elettriche che corrono sotto le nostre strade. Se un tubo dell'acqua si rompe, la città ha un processo per ripararlo. Se un sistema informatico prende una cattiva decisione su quale strada riparare, la città ha bisogno di un processo simile per mettere in discussione, correggere e aggiornare quel sistema. La tesi propone un "Diritto all'IA" per gli spazi pubblici, un insieme di regole che assicuri che le persone abbiano voce in capitolo su come questi sistemi vengono costruiti, che i sistemi possano essere contestati quando sbagliano e che i disaccordi disordinati tra diversi gruppi di persone non vengano levigati da un singolo punteggio informatico.
Per testare questa idea, il ricercatore è entrato nei quartieri di Montreal e ha chiesto a un gruppo eterogeneo di residenti di guardare foto delle strade locali. Invece di chiedere loro semplicemente di valutare una strada come "buona" o "cattiva", il ricercatore ha chiesto di spiegare cosa rendesse una strada inclusiva, sicura o accessibile. I partecipanti includevano residenti storici, nuovi arrivati, persone con disabilità e membri di varie comunità culturali. L'obiettivo era vedere se tutti concordavano su cosa rappresentasse una "buona" strada. Le scoperte sono state chiare: le persone non erano d'accordo. Una strada che una persona vedeva come vibrante e vivace, un'altra poteva vederla come caotica e insicura. Una strada che sembrava accogliente per un giovane adulto poteva sembrare isolante per una persona anziana. Lo studio ha rilevato che, sebbene le persone potessero spesso concordare su cose semplici e visibili come un marciapiede rotto, faticavano a concordare su sentimenti sociali complessi come l'"inclusività". Quando il ricercatore ha riunito le persone per discutere di queste differenze, esse sono riuscite a trovare un terreno comune, ma i disaccordi significativi sono rimasti. Questi disaccordi non erano errori da correggere; erano segnali reali che persone diverse hanno bisogni e valori diversi.
La ricerca ha poi preso questi spunti umani e li ha utilizzati per addestrare modelli informatici. In una parte dello studio, il ricercatore ha costruito un sistema chiamato "Street Review" che ha imparato a prevedere come diversi gruppi di persone avrebbero valutato una strada basandosi sulle sue foto. Il sistema poteva generare una mappa della città mostrando dove diversi gruppi avrebbero potuto sentirsi al sicuro o esclusi. In un'altra parte, il ricercatore ha lavorato con organizzazioni comunitarie per creare una vasta collezione di immagini e preferenze, chiamata LIVS, per insegnare a un computer come generare nuove immagini di spazi pubblici che rispettassero questi diversi valori. Al computer veniva chiesto di scegliere tra diverse opzioni di progettazione, e i risultati hanno mostrato qualcosa di sorprendente: anche dopo essere stato addestrato su migliaia di preferenze umane, il computer spesso non riusciva a decidere quale opzione fosse migliore. Restava "neutrale", incapace di scegliere un vincitore.
Questa neutralità si è rivelata una scoperta cruciale. Il ricercatore sostiene che quando un computer non riesce a decidere tra due opzioni, non si tratta di un fallimento della tecnologia. È il segno che i valori in gioco sono realmente in conflitto e non possono essere risolti con un semplice calcolo. Invece di costringere il computer a scegliere un vincitore, il sistema dovrebbe segnalare questa incertezza e restituire la decisione alle persone. La tesi propone un nuovo modo di lavorare per le città: un ciclo in cui i computer aiutano a visualizzare le opzioni, ma gli esseri umani, organizzati in piccoli gruppi ricorrenti, prendono le decisioni finali. Questi gruppi esaminerebbero i suggerimenti del computer, discuterebbero i disaccordi e deciderebbero quali strade riparare e come. Avrebbero anche il potere di sospendere o fermare un sistema se inizia a prendere decisioni dannose.
Questo lavoro non pretende di aver risolto il problema della costruzione di città perfette. Non dice che i computer possono sostituire il giudizio umano o che possiamo trovare un'unica definizione di strada "perfetta" che soddisfi tutti. Al contrario, offre un quadro pratico per gestire la tensione tra tecnologia e diversità umana. Suggerisce che il modo migliore per usare l'IA nelle nostre città non è lasciare che prenda le decisioni finali, ma usarla per rendere i nostri disaccordi visibili e gestibili. Trattando la logica del computer come qualcosa che deve essere costantemente controllato, aggiornato e oggetto di discussione, le città possono garantire che i loro strumenti digitali servano tutti, e non solo la maggioranza o i gruppi più visibili. La ricerca conclude che una città che vuole essere davvero inclusiva deve costruire un sistema in cui il diritto di mettere in discussione il computer sia importante quanto il diritto di camminare sul marciapiede.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.