AI Pluralism and the Worlds It Misses

Sintesi Tecnica: Il Pluralismo dell'IA e i Mondi che Esclude

Definizione del Problema
Gli attuali quadri di riferimento per il pluralismo dell'IA si concentrano principalmente sul pluralismo dei valori: la rappresentazione di diverse preferenze, valori o output degli utenti. Il saggio sostiene che questo inquadramento sia incompleto perché i sistemi di IA impongono anche delle ontologie — impegni rappresentativi pratici che definiscono quali entità esistono, come si relazionano, cosa costituisce una prova e cosa conta come un output valido.

Il principale scenario di fallimento identificato è l'appiattimento ontologico. Questo avviene quando significati situati, contestati, storicamente specifici e incarnati (il "mondo della vita" o lifeworld) vengono convertiti in categorie tecniche ristrette, proxy, regole di aggregazione o obiettivi di benchmark trattati come neutrali e difficili da contestare. Sebbene i metodi pluralistici possano avere successo nel generare output diversificati o nell'aggregare feedback, essi operano spesso su ontologie fisse dove le definizioni delle categorie e le regole di aggregazione rimangono al di fuori dell'autorità degli attori interessati. Ciò produce un "pluralismo degli esiti" (risposte diverse) che coesiste con un "monismo ontologico" (un unico, fisso modo di definire il mondo).

Metodologia
Questo saggio impiega una sintesi concettuale e qualitativa delimitata piuttosto che una revisione sistematica o un nuovo esperimento controllato. La metodologia si compone di tre componenti primarie:

1. Mappatura Concettuale: Un campionamento teorico intenzionale della letteratura che spazia tra il pluralismo dei valori, l'allineamento pluralistico, l'IA partecipativa, la giustizia procedurale, gli studi sulla scienza e la tecnologia (STS) e la ricerca sulla responsabilità (accountability).
2. Interviste agli Esperti: 11 interviste semi-strutturate e confidenziali con esperti in diritto, etica e IA. Queste sono state utilizzate per la raffinazione dei costrutti (ad esempio, distinguendo l'autorità procedurale dall'inclusione epistemica) piuttosto che per inferenze statistiche o affermazioni di prevalenza.
3. Analisi dei Casi: Analisi secondaria di tre manoscritti complementari focalizzati su sistemi urbani, di spazi pubblici e basati sulla visione:
   • Caso A: Un dataset generativo per spazi pubblici pluralistici utilizzando la Direct Preference Optimization (DPO) con criteri definiti dalla comunità.
   • Caso B: Un modello di inclusività del paesaggio urbano partecipativo utilizzando dati di interviste e focus group per la modellazione predittiva.
   • Caso C: Una valutazione della affidabilità di modelli di visione-linguaggio urbani rispetto alle annotazioni umane.

L'analisi utilizza una matrice a cinque codici (punto di ingresso ontologico, gestione del disaccordo, autorità/ricorso, limitazione del proxy, continuazione del ciclo di vita) per identificare i meccanismi di appiattimento attraverso il ciclo di vita dell'IA (formulazione del problema, generazione dei dati, etichettatura, addestramento, valutazione, distribuzione e dismissione).

Contributi Chiave
Il saggio apporta tre contributi distinti:

1. Definizione di Appiattimento Ontologico: Definisce questo termine come un modo specifico di fallimento in cui input o output pluralistici coesistono con ontologie fisse. Distingue l'appiattimento dal bias, dalla misclassificazione o dal fallimento del proxy chiedendosi se lo spazio delle etichette stesso possieda un'autorità ingiustificata e se gli attori interessati abbiano il diritto di contestare gli impegni rappresentativi.
2. Distinzione tra Pluralismo degli Esiti e Pluralismo Procedurale:
   • Pluralismo degli Esiti: Sistemi che producono, orientano o approssimano output diversificati.
   • Pluralismo Procedurale: Sistemi in cui gli attori interessati hanno potere decisionale sulla formulazione del problema, sulle categorie, sulle prove, sull'aggregazione, sulla valutazione e sulla revisione.
     Il saggio sostiene che il pluralismo degli esiti sia insufficiente se il pluralismo procedurale è assente.
3. Governance del Ciclo di Vita Pluralistico (PLG): Uno scaffold di audit qualitativo preliminare (non uno strumento di punteggio validato) per documentare cinque dimensioni dell'IA pluralistica:
   • Apertura Ontologica: La capacità di contestare categorie, proxy e metriche.
   • Inclusione Epistemica: L'ammissibilità di molteplici forme di conoscenza (inclusa l'esperienza vissuta) come prova.
   • Autorità Procedurale: Partecipazione che include diritti decisionali (ad esempio, veto, pausa, revisione vincolante) piuttosto che semplice input consultivo.
   • Pluralismo della Valutazione: La preservazione di disaccordo, neutralità, astensione e dati di affidabilità anziché la loro cancellazione.
   • Responsabilità del Ciclo di Vita: La persistenza degli impegni pluralistici attraverso la distribuzione, il monitoraggio, la revisione e la dismissione.

Risultati e Risultanze Empiriche
L'analisi dei tre casi illustra come i metodi pluralistici possano migliorare il comportamento del modello pur comprimendo le categorie prima che gli attori interessati abbiano un potere procedurale:

• Caso A (Generativo): Sebbene siano stati utilizzati concetti comunitari, l'obiettivo DPO ha convertito giudizi multicriterio in preferenze di coppia binarie tramite voto di maggioranza. I confronti neutrali (che indicano ambiguità o compromessi) sono stati preservati ma trattati come un target residuo piuttosto che come uno stato valido del mondo, illustrando una "compressione procedurale".
• Caso B (Predittivo): Sono state utilizzate etichette partecipative per addestrare un modello, ma le mappe di calore risultanti rischiavano di sostituire i significati situati (ad esempio, accessibilità, appartenenza) con estetiche visibili. La struttura di governance mancava dell'autorità per permettere alle comunità di rivedere la risoluzione della mappa o di proibire usi punitivi.
• Caso C (Valutazione): Il benchmark riportava affidabilità e astensione, ma le etichette di consenso potevano comunque celare semantiche instabili. Lo studio ha rilevato che le dimensioni più vicine agli attributi visibili erano più facili da misurare rispetto alle dimensioni di valutazione, e che un $\alpha$ di Krippendorff negativo indicava un disaccordo sistematico che dovrebbe precludere il trattamento di tali dimensioni come verità di base (ground truth) stabile.

La sintesi conclude che il pluralismo è più fragile laddove un mondo della vita diventa un oggetto tecnico. Se un sistema inizia con etichette fisse, la partecipazione successiva può solo riempire i valori per tali etichette.

Significatività e Rivendicazioni
Il saggio sostiene che il pluralismo dell'IA debba affrontare il pluralismo ontologico insieme al pluralismo dei valori. Argomenta che la ricerca attuale sull'allineamento spesso aggrega giudizi eterogenei in un singolo segnale di addestramento o tratta il disaccordo come rumore, fallendo nel preservare modi contestabili di costruzione del mondo.

La significatività del lavoro risiede nello spostare il focus da "quanti output" a "chi definisce l'ontologia". Postula che l'astrazione legittima sia possibile solo quando la compressione è delimitata, documentata, rivedibile e proporzionata, e quando gli attori interessati mantengono il diritto di contestare lo schema stesso. Il saggio non pretende di fornire uno strumento validato per la valutazione dei sistemi di IA; piuttosto, offre un quadro per rendere espliciti l'evidenza e le condizioni di governance dell'IA pluralistica, sostenendo che senza un potere procedurale sull'ontologia, l'IA pluralistica rischia di riprodurre una visione del mondo monistica sotto l'apparenza della diversità.