💻 computer science

Pluralistic-Alignment Urbanism: Operationalizing a Right to AI for Inclusive Public Space

Questo articolo propone l'Urbanismo dell'Allineamento Pluralistico (PAU), un quadro di governance procedurale che operazionalizza un Diritto all'IA per i sistemi degli spazi pubblici municipali sfruttando casi di studio partecipativi a Montreal per trasformare il disaccordo strutturato e le variazioni tra sottogruppi in meccanismi di governance concreti come la rendicontazione disaggregata, i registri dei valori versionati e la supervisione deliberativa.

Autori originali: Rashid Mushkani

Pubblicato 2026-06-12

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Rashid Mushkani

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immaginate una città come un gigantesco puzzle vivente. Per molto tempo, gli urbanisti hanno cercato di risolvere questo puzzle osservando i pezzi e assegnando loro un punteggio singolo: "Questa strada è sicura? È bella? È accessibile?". Lo facevano con cartelle cliniche e sondaggi. Ora, utilizzano l'Intelligenza Artificiale (IA) per farlo più velocemente, scansionando migliaia di foto stradali per generare mappe, punteggi e persino immagini false di come potrebbe apparire una strada dopo una ristrutturazione.

Il problema, come evidenziato da questo articolo, è che ognuno vede il puzzle in modo diverso. Una strada può sembrare "sicura" a una persona ma "spaventosa" per un'altra. Un parco "bello" può sembrare "escludente" per qualcun altro. Quando l'IA cerca di dare a ogni strada un unico numero o un'unica "migliore" immagine, accidentalmente cancella questi diversi punti di vista. Prende come se esistesse un'unica risposta giusta, quando in realtà ce ne sono molte.

Questo articolo propone un nuovo modo di gestire l'IA urbana, chiamato Urbanismo di Allineamento Pluralistico (PAU). Pensatelo come un nuovo regolamento su come le città dovrebbero usare l'IA, basato sull'idea che il disaccordo non è un errore da correggere, ma un fatto della vita da gestire.

Ecco come l'articolo lo suddivide, usando analogie semplici:

1. Il Problema: La trappola del "Taglia unica"

Attualmente, le città usano l'IA come un giudice con un unico martelletto. L'IA osserva una strada, applica un insieme di regole e batte il martelletto: "Questa strada riceve un punteggio di 7 su 10".

Il Problema: Questo punteggio cerca di combinare "sicurezza", "bellezza" e "accessibilità" in un unico numero. Ma queste cose non sempre vanno d'accordo. Una strada può essere molto bella ma difficile da percorrere per qualcuno in carrozzina. Se si fa la media, si perde la verità specifica su chi si sente escluso.
La tesi dell'articolo: Non si può trattare lo spazio pubblico come un problema matematico con un'unica risposta corretta. La "verità" dipende da chi guarda.

2. La Soluzione: Una "Chat di gruppo" invece di un martelletto

Gli autori suggeriscono di trattare i sistemi di IA non come giudici, ma come facilitatori di una massiccia e continua assemblea cittadina. Chiamano questo un "Diritto procedurale all'IA".

Inve di chiedere all'IA di scegliere la risposta "migliore", il sistema è progettato per:

Ascoltare gruppi diversi: Chiede a persone diverse (in base al loro background) come vedono la strada.
Mantenere visibile il disaccordo: Invece di fare la media dei punteggi in un unico numero, mantiene i diversi punteggi separati. Dice: "Il Gruppo A pensa che questa sia sicura; il Gruppo B pensa di no".
Rispettare la risposta "Non lo so": Quando le persone guardano l'immagine generata di un nuovo parco e dicono: "Non riesco a capire quale sia migliore", il sistema tratta questa risposta "neutra" come un dato importante, non come un errore da ignorare.

3. I due esperimenti (La "Prova del concetto")

Gli autori hanno testato questa idea a Montreal, in Canada, utilizzando due strumenti diversi:

Strumento A: "Street Review" (La scheda di valutazione)

Cosa ha fatto: Hanno chiesto ai residenti di descrivere cosa rende una strada inclusiva. Hanno trasformato queste descrizioni in una checklist (Accessibilità, Estetica, Praticità, Inclusività). Poi, hanno addestrato un'IA a guardare le foto delle strade e a prevedere come diversi gruppi avrebbero dato un voto.
Il Risultato: L'IA è diventata molto brava a prevedere i punteggi (era accurata all'89%). Ma la scoperta chiave è stata che i punteggi erano diversi per gruppi diversi.
La Lezione: L'IA ha dimostrato che si possono scalare questi diversi punti di vista per mappare l'intera città, ma è necessario mantenere le mappe "disaggregate". Non si può mostrare solo una mappa; serve mostrare la mappa per l'"Accessibilità" e la mappa per la "Sicurezza" separatamente, perché non sempre coincidono.

Strumento B: "LIVS" (Il generatore di immagini)

Cosa ha fatto: Hanno usato l'IA per generare immagini di come potrebbe apparire una strada. Hanno chiesto alle persone di scegliere l'immagine "migliore" in base a criteri specifici.
Il Risultato: Quando alle persone è stato chiesto di scegliere, oltre il 50% delle volte ha risposto "Neutro" o "Non riesco a decidere".
La Lezione: Questo non era un fallimento dell'IA. Era un segnale! Significava che per metà dei confronti, le immagini erano troppo simili o i criteri erano troppo vaghi per scegliere un vincitore. L'articolo sostiene che le città dovrebbero trattare questo alto tasso di "neutralità" come un segnale di stop. Significa: "Non usare questa IA per prendere una decisione finale qui; abbiamo bisogno di più discussione umana".

4. Il Nuovo Regolamento: Come le città dovrebbero realmente usare l'IA

L'articolo propone un sistema di governance (PAU) che agisce come un imbracatura di sicurezza per questi strumenti di IA. Ecco le regole principali:

Il "Registro dei Valori": Immaginate un documento vivo che elenca ciò che la città ritiene importante. Separa chiaramente le cose facili da misurare (come "quanti alberi ci sono?") da quelle contestate (come "questo posto sembra accogliente?"). L'IA è autorizzata a prendere decisioni solo sulle cose facili. Per le cose contestate, deve solo riportare le diverse opinioni.
La "Cellula Deliberativa": Questo è un gruppo permanente di cittadini comuni che si riunisce regolarmente per revisionare il lavoro dell'IA. Se l'IA inizia a fare previsioni strane o se le persone sono confuse, questo gruppo ha il potere di dire: "Fermati. Smetti di usare questo strumento finché non abbiamo risolto il problema".
Il tasto "Pausa e Rollback": Se l'IA inizia a causare danni o se i dati mostrano che sta mentendo su come una strada viene percepita, la città ha l'autorità di spegnerla immediatamente e tornare alla versione precedente.
Nessuna decisione "Black Box": L'IA non può essere utilizzata per prendere decisioni individuali (come negare un permesso a una persona specifica) o per far rispettare le leggi. È solo per la pianificazione e il brainstorming.

La Grande Conclusione

L'articolo conclude che l'IA nelle città non dovrebbe cercare di risolvere la disputa su cosa sia una "buona" città. Quella disputa è sana e necessaria.

Invece, l'IA dovrebbe essere uno strumento che mantiene visibile il disaccordo. Dovrebbe mostrarci dove le persone sono in disaccordo, perché sono in disaccordo e quando il computer sta solo tirando a indovinare. Trattando il disaccordo come una caratteristica piuttosto che come un difetto, le città possono usare l'IA per costruire spazi che siano davvero inclusivi, anziché spazi che sembrano solo belli in un foglio di calcolo.

In breve: Non chiedete all'IA di essere il sindaco. Chiedete all'IA di essere lo scriba che annota le diverse opinioni di tutti, affinché le persone reali possano prendere la decisione finale.

Sintesi Tecnica: Urbanismo dell'Allineamento Pluralistico (PAU)

Problema

Le agenzie municipali implementano sempre più spesso sistemi di apprendimento automatico per inventariare gli spazi pubblici, valutare i paesaggi stradali e generare immagini sintetiche per la pianificazione urbana. Questi sistemi funzionano come uno "strato epistemico e algoritmico" che converte esperienze umane eterogenee in artefatti comparabili (punteggi, mappe, immagini) per informare il budget e la progettazione. Tuttavia, lo spazio pubblico è caratterizzato da un disaccordo persistente riguardo all'inclusione, alla sicurezza e al senso di appartenenza. Gli attuali quadri di governance trattano spesso questi sistemi come strumenti di supporto alle decisioni neutrali, basandosi su obiettivi di valutazione singoli che assumono un consenso universale. Questo approccio rischia di oscurare valori contestati, cancellare le differenze tra i sottogruppi attraverso la media delle maggioranze e legittimare decisioni che non tengono conto della natura pluralistica della vita pubblica. Il documento sostiene che trattare il disaccordo come "rumore" da eliminare sia un fallimento di governance; al contrario, il disaccordo e l'indeterminatezza devono essere trattati come prove rilevanti per le decisioni.

Metodologia

Il documento propone l'Urbanismo dell'Allineamento Pluralistico (PAU), un quadro di governance procedurale operazionalizzato attraverso due casi studio partecipativi condotti in collaborazione con organizzazioni comunitarie a Montréal, Canada. La metodologia tratta la partecipazione non come una validazione post-hoc, ma come la co-produzione di criteri di valutazione, dati e artefatti di governance.

Street Review (Sistema Rappresentativo):
- Obiettivo: Valutare i paesaggi stradali in base ai criteri dei residenti e scalare tali giudizi a livello cittadino.
- Processo:
  - Elicitazione: Interviste semi-dirette con 28 residenti hanno generato oltre 600 descrittori, consolidati in quattro criteri: Accessibilità, Estetica, Praticità e Inclusività.
  - Valutazione: 12 partecipanti hanno valutato singolarmente 60 immagini di street-view, per poi discuterle in gruppi facilitati per produrre giudizi collettivi.
  - Scaling: Un modello di regressione multi-output supervisionato è stato addestrato su 120 immagini valutate (raggruppate per punti dati a livello stradale per prevenire il leakage) per prevedere i punteggi di 45.000 immagini stradali. Il modello prevede 28 punteggi (4 criteri × 6 sottogruppi auto-identificati + 4 aggregati).
- Metriche: Prestazioni predittive misurate tramite $R^2$ su set di test tenuti separati (held-out).
LIVS (Spazi Visivi Locali Intersezionali) (Sistema Generativo):
- Obiettivo: Allineare i modelli di text-to-image alle preferenze pluralistiche per la progettazione dello spazio pubblico.
- Processo:
  - Costruzione dei Dati: Workshop con partner comunitari hanno elicitato 634 concetti, consolidati in sei criteri (Accessibilità, Sicurezza, Comfort, Accoglienza, Inclusività, Diversità). 440 prompt scritti dai partecipanti sono stati utilizzati per generare 16.693 immagini tramite Stable Diffusion XL.
  - Raccolta delle Preferenze: 18 partecipanti hanno annotato 37.710 confronti di coppie di immagini tramite una piattaforma web. Fondamentalmente, l'interfaccia includeva un'esplicita opzione neutrale per l'indifferenza o l'indeterminatezza.
  - Allineamento: È stata eseguita una fine-tuning tramite Direct Preference Optimization (DPO) su 35.510 confronti non neutrali.
  - Valutazione: Un workshop tenuto separatamente con 25 residenti ha fornito 2.100 nuovi confronti per valutare il modello ottimizzato rispetto al baseline, tracciando specificamente il tasso di selezioni neutrali.

Contributi Chiave

Urbanismo dell'Allineamento Pluralistico (PAU): Un quadro di governance che tratta i sistemi di IA per lo spazio pubblico come infrastrutture civiche che richiedono un Diritto all'IA procedurale. Questo diritto non è un diritto di accesso generale, ma un insieme di procedure minime (diritti, doveri, artefatti, ricorso) per i sistemi che modellano le condizioni collettive.
L'Oggetto Probatorio: Uno spostamento concettuale che vede l'artefatto accoppiato (stimolo, criteri, protocollo, aggregazione, rappresentazione) come l'unità di governance. Il disaccordo e la neutralità sono proprietà di questo oggetto, non errori.
Architettura di Governance: Un modello di implementazione concreto che presenta:
- Reporting Disaggregato: Evitare la media predefinita delle maggioranze; riportare evidenze specifiche per sottogruppo.
- Registro dei Valori Versionato: Un registro municipale che distingue le dimensioni benchmarkabili da quelle contestate.
- Cellule Deliberative Permanenti: Organi partecipativi con l'autorità di aggiornare il registro dei valori e raccomandare pause o rollback.
- Autorità di Pausa e Rollback: Trigger espliciti per arrestare i sistemi basati su danni documentati, deriva o indeterminatezza.

Risultati

Gli studi empirici hanno prodotto quattro proposizioni che collegano i vincoli tecnici alle implicazioni di governance:

P1: Il pluralismo è strutturato, non rumore.
- I criteri non sono commensurabili. Le correlazioni tra i criteri erano moderate e disomogenee (ad esempio, Praticità ed Estetica erano non correlati a $r = -0,05$ ; l'Inclusività correlava moderatamente con Accessibilità ed Estetica).
- Le valutazioni dei sottogruppi sullo stesso stimolo differivano significamente, indicando che le scelte di aggregazione sono consequenziali e possono cancellare differenze rilevanti per la responsabilità (accountability).
P2: La deliberazione cambia l'oggetto probatorio.
- I giudizi di gruppo non erano semplici medie delle valutazioni individuali. La discussione ha portato a reinterpretazioni dei criteri e a nuove ragioni per la punteggiatura.
- Il disaccordo residuo dopo la deliberazione è stato registrato come evidenza che vincola gli usi consentiti del modello, piuttosto che essere forzato verso il consenso.
P3: Lo scaling co-prodotto è fattibile ma limitato.
- Il modello Street Review ha raggiunto un $R^2 = 0,91$ (validazione) e un $R^2 = 0,89$ (test held-out).
- Tuttavia, la modalità (immagini street-view) limita la rappresentazione a indizi visibili, fallendo nel catturare fattori esperienziali come l'aggressione o l'appartenenza simbolica. Le mappe risultanti sono artefatti di audit, non verità assoluta (ground truth).
P4: La neutralità nell'allineamento delle preferenze è un segnale di governance.
- Nella valutazione held-out di LIVS (2.100 confronti), il 52,4% delle selezioni era neutrale (95% CI [50,2, 54,5]).
- Gli output ottimizzati tramite DPO sono stati preferiti solo nel 33,3% dei casi.
- L'alto tasso di neutralità indica che molti confronti non supportano un ordinamento determinante sotto i criteri dati, fungendo da segnale per limitare l'ottimizzazione piuttosto che da etichetta da levigare.

Significatività e Rivendicazioni

Il documento sostiene che la legittimità dei sistemi di IA per lo spazio pubblico dipenda meno dalla sola performance predittiva e più dalla capacità delle istituzioni di sostenere revisione, contestazione e controllo dell'ambito.

Operazionalizzare un Diritto all'IA: Il documento traduce i diritti astratti in procedure municipali applicabili, inclusi i clausole di appalto che impongono il reporting disaggregato e l'autorità di pausa.
Riformulare l'Indeterminatezza: Trattando la neutralità e il disaccordo come input per la governance anziché come fallimenti del modello, il PAU fornisce un meccanismo per giustificare ciò che i sistemi possono e non possono legittimamente rappresentare.
Robustezza Istituzionale: L'architettura proposta (cellule deliberative, registri dei valori) mira a prevenire la "cattura della governance" da parte di norme dominanti e assicura che l'evidenza mediata dall'IA rimanga contestabile.

Gli autori dichiarano esplicitamente che l'obiettivo non è risolvere il disaccordo sullo spazio pubblico, ma governare i sistemi in modi che mantengano tale disaccordo visibile, contestabile e consequenziale. Il quadro è presentato come un pavimento procedurale per il processo decisionale municipale, riconoscendo che i criteri specifici e i registri dei valori devono essere ri-commissionati localmente e non possono essere trasferiti come template fissi.