Voices in the Loop: Mapping Participatory AI

Riepilogo Tecnico: Voci nel Ciclo: Mappatura dell'IA Partecipativa

Enunciato del Problema
Gli approcci partecipativi all'intelligenza artificiale (IA) sono sempre più documentati nei settori pubblico, civico e umanitario. Tuttavia, la base di evidenze relativa a come queste partecipazioni siano organizzate rimane frammentata. La documentazione è dispersa tra siti web di progetti, pubblicazioni accademiche, portali governativi e letteratura grigia, caratterizzata da una terminologia eterogenea e da una segnalazione di metadati incoerente. Questa frammentazione ostacola la ricerca comparativa, impedisce l'apprendimento intersettoriale e previene che le comunità e i responsabili politici identifichino precedenti pertinenti. Inoltre, la documentazione esistente spesso non riesce a distinguere tra affermazioni etiche aspirazionali e meccanismi documentati di influenza decisionale, portando a un "partecipazionismo" di facciata o a un coinvolgimento estrattivo. Manca un'infrastruttura sistematica e riproducibile per mappare, verificare e contestare le iniziative di IA partecipativa.

Metodologia
Il paper presenta la costruzione di un repository aperto e di un atlante interattivo contenente 131 iniziative di IA partecipativa. La metodologia prevede un protocollo riproducibile per la scoperta, la verifica, l'armonizzazione e la pubblicazione basata su rilasci.

• Fonti di Dati: Il corpus integra 95 progetti dal corpus "IA Affidabile" di Magaña e Shilton e 36 casi aggiuntivi auditati tratti dalla documentazione di ricerca e pratica.
• Definizione Operativa: Un "progetto di IA partecipativa" è definito come un'iniziativa che (1) sviluppa, distribuisce o mantiene un sistema abilitato all'IA (utilizzando apprendimento automatico o inferenza statistica) e (2) include un meccanismo documentato che consente alle parti interessate coinvolte di influenzare le decisioni relative alla definizione del problema, alla governance dei dati, allo sviluppo del modello, alla distribuzione o alla supervisione. Sono esclusi i progetti che utilizzano l'IA meramente per consultazione o traduzione senza governare il sistema di IA stesso.
• Scoperta e Verifica: Il protocollo impiega ricerche per parole chiave, espansione di rete e query mirate per dominio. La verifica richiede un componente di IA identificabile e un meccanismo di partecipazione documentato con prove pubbliche. I casi borderline sono mantenuti se gli artefatti di governance (ad esempio, voci nei registri comunali, termini di licenza dei dati) implicano partecipazione.
• Estrazione e Armonizzazione: Le registrazioni sono standardizzate per includere nomi canonici, URL di provenienza e campi di metadati armonizzati. Le dimensioni chiave estratte includono il luogo della partecipazione, i ruoli delle parti interessate, l'influenza decisionale, gli artefatti di documentazione e il contesto istituzionale.
• Geocodifica e Sensibilità: I dati di localizzazione sono risolti in coordinate a livello di città o paese quando possibile, trattandoli come punti di riferimento approssimativi per evitare di esporre siti operativi sensibili. Il repository esclude i dati personali, registrando i ruoli delle parti interessate solo a livello organizzativo o collettivo.
• Governance e Versionamento: Il repository è progettato come un'infrastruttura "vivente". Utilizza rilasci versionati con istantanee di archivio per garantire citazioni stabili. Include meccanismi per correzioni collegate alle registrazioni, contestazioni, annotazioni e richieste di oscuramento, trattando l'atlante stesso come un artefatto partecipativo.

Contributi Chiave
Il paper apporta tre contributi principali:

1. Protocollo Riproducibile: Un protocollo specificato per la scoperta, la verifica, l'armonizzazione, la geocodifica, il tracciamento della provenienza e la pubblicazione basata su rilasci delle registrazioni di IA partecipativa. Questo include la deduplicazione e la classificazione delle prove.
2. Corpus Empirico e Atlante: Un atlante interattivo versionato di 131 progetti che opera un quadro di progettazione e governance. Fornisce un inventario vivente che può essere aggiornato, contestato e riutilizzato, sostenendo la ricerca comparativa e l'apprendimento politico.
3. Quadro di Governance: Una proposta per infrastrutture di IA "partecipative di default". Questo quadro sintetizza le lezioni apprese dai registri pubblici degli algoritmi e dalla governance dei dati indigena, trattando la partecipazione non come un livello opzionale ma come una proprietà predefinita delle infrastrutture che mediano la raccolta dei dati e la responsabilità pubblica. Sottolinea la provenienza verificabile, la contestabilità e i diritti della comunità.

Risultati e Modelli Empirici
L'analisi del corpus di 131 registrazioni rivela quattro modelli chiave:

• Concentrazione Geografica: Le iniziative documentate sono fortemente concentrate in un piccolo numero di giurisdizioni. Il Nord America (38 progetti) e l'Europa (27 progetti) dominano, con Stati Uniti (35), Regno Unito (16), Canada (13) e Kenya (7) che rappresentano la maggior parte delle registrazioni a livello di singolo paese. Questa concentrazione riflette sia l'attività sottostante sia la recuperabilità della documentazione nelle ecologie web in lingua inglese e tedesca.
• Livelli di Partecipazione e Luoghi del Ciclo di Vita: La partecipazione è più frequentemente codificata ai livelli di formulazione del problema (85 progetti), governance (72) e valutazione (57). Al contrario, la partecipazione nello sviluppo del modello (9) e nell'addestramento (16) è rara. I livelli di partecipazione dominanti sono iniziative guidate dalla comunità (39), co-progettazione (26) e governance partecipativa (22).
• Forme Organizzative: Le iniziative sono prevalentemente guidate da università/laboratori di ricerca e organizzazioni non profit/ONG, spesso operando attraverso arrangiamenti istituzionali ibridi piuttosto che attraverso confini aziendali o di agenzia chiari. Il settore è recente, con 124 delle 131 registrazioni iniziate nel 2018 o successivamente.
• Lacune nella Documentazione: Sebbene i campi principali (modalità di partecipazione, fasi del ciclo di vita) siano completi, esistono lacune significative negli anni di fine (disponibili solo per il 22,1% delle registrazioni) e nelle organizzazioni partner (72,5%). La provenienza è altamente frammentata, tratta da 107 domini distinti, indicando una mancanza di registri centralizzati e duraturi. I gradi di evidenza variano, con 25 registrazioni contrassegnate come "verificate indirettamente" e 24 come "candidati per la revisione", evidenziando la qualità disuguale della documentazione pubblica.

Significato e Affermazioni
Il paper afferma che la sfida centrale nell'IA partecipativa non è semplicemente localizzare le iniziative, ma documentarle in modi che mantengano le affermazioni aperte al scrutinio, alla correzione e al riutilizzo. Il significato di questo lavoro risiede nello spostare il focus dai cataloghi statici alla gestione dell'infrastruttura.

• Dal Catalogo all'Infrastruttura: L'atlante è presentato non come un indice neutrale ma come uno strumento di governance. Rendendo espliciti l'incertezza, il disaccordo e la provenienza, permette la valutazione critica delle affermazioni di partecipazione.
• Affrontare i Bias: Gli autori riconoscono che il corpus riflette i bias della documentazione ricercabile in lingua inglese. Il quadro proposto tratta la recuperabilità come un oggetto di gestione, richiedendo l'ingresso multilingue, la curatela regionale e la revisione compensata della comunità per ridurre gli oneri di segnalazione estrattiva.
• Politica e Pratica: Il lavoro suggerisce che i mandati di trasparenza dovrebbero evolvere per includere requisiti di segnalazione della partecipazione (luogo, meccanismo, partecipanti, influenza decisionale) piuttosto che semplici modelli tecnici. Per la pratica, l'atlante funge da risorsa per ridurre il lavoro duplicato e sostenere il riutilizzo dei modelli di documentazione.

Il paper conclude che un atlante vivente può sostenere la ricerca e l'apprendimento politico solo se governato come un artefatto partecipativo in sé, con meccanismi per il contributo, l'annotazione e la risoluzione delle controversie integrati nel suo design fondamentale.