Voices in the Loop: Mapping Participatory AI

Resumo Técnico: Vozes no Loop: Mapeando IA Participativa

Declaração do Problema
Abordagens participativas para a inteligência artificial (IA) estão cada vez mais documentadas nos setores público, cívico e humanitário. No entanto, a base de evidências sobre como essas participações são organizadas permanece fragmentada. A documentação está dispersa por sites de projetos, publicações acadêmicas, portais governamentais e literatura cinzenta, caracterizada por terminologia heterogênea e relatórios de metadados inconsistentes. Essa fragmentação dificulta a pesquisa comparativa, impede a aprendizagem entre setores e impede que comunidades e formuladores de políticas identifiquem precedentes relevantes. Além disso, a documentação existente frequentemente falha em distinguir entre alegações éticas aspiracionais e mecanismos documentados de influência na tomada de decisões, levando ao "participação-washing" ou engajamento extrativista. Há uma falta de infraestrutura sistemática e reproduzível para mapear, verificar e contestar iniciativas de IA participativa.

Metodologia
O artigo apresenta a construção de um repositório aberto e um atlas interativo contendo 131 iniciativas de IA participativa. A metodologia envolve um protocolo reproduzível para descoberta, verificação, harmonização e publicação baseada em lançamentos.

• Fontes de Dados: O corpus integra 95 projetos do corpus "IA Confiável" de Magaña e Shilton e 36 casos adicionais auditados extraídos de documentação de pesquisa e prática.
• Definição Operacional: Um "projeto de IA participativa" é definido como uma iniciativa que (1) desenvolve, implanta ou mantém um sistema habilitado para IA (usando aprendizado de máquina ou inferência estatística) e (2) inclui um mecanismo documentado que permite que partes interessadas afetadas influenciem decisões relativas à definição do problema, governança de dados, desenvolvimento de modelos, implantação ou supervisão. Projetos que usam IA meramente para consulta ou tradução sem governar o próprio sistema de IA são excluídos.
• Descoberta e Verificação: O protocolo emprega buscas por palavras-chave, expansão de rede e consultas direcionadas a domínios. A verificação exige um componente de IA identificável e um mecanismo de participação documentado com evidências públicas. Casos limítrofes são mantidos se artefatos de governança (por exemplo, entradas de registro municipal, termos de licenciamento de dados) implicarem participação.
• Extração e Harmonização: Os registros são padronizados para incluir nomes canônicos, URLs de proveniência e campos de metadados harmonizados. Dimensões-chave extraídas incluem o locus da participação, papéis das partes interessadas, influência na decisão, artefatos de documentação e contexto institucional.
• Geocodificação e Sensibilidade: Os dados de localização são resolvidos para coordenadas de nível de cidade ou país, quando possível, tratando-os como âncoras aproximadas para evitar expor locais operacionais sensíveis. O repositório exclui dados pessoais, registrando papéis das partes interessadas apenas no nível organizacional ou coletivo.
• Governança e Versionamento: O repositório é projetado como uma infraestrutura "viva". Utiliza lançamentos versionados com instantâneos de arquivo para garantir citações estáveis. Inclui mecanismos para correções vinculadas a registros, disputas, anotações e solicitações de redação, tratando o próprio atlas como um artefato participativo.

Principais Contribuições
O artigo faz três contribuições principais:

1. Protocolo Reproduzível: Um protocolo especificado para a descoberta, verificação, harmonização, geocodificação, rastreamento de proveniência e publicação baseada em lançamentos de registros de IA participativa. Isso inclui deduplicação e classificação de evidências.
2. Corpus Empírico e Atlas: Um atlas interativo versionado de 131 projetos que operacionaliza um quadro de design e governança. Fornece um inventário vivo que pode ser atualizado, contestado e reutilizado, apoiando a pesquisa comparativa e a aprendizagem política.
3. Quadro de Governança: Uma proposta para infraestruturas de IA "participativas por padrão". Este quadro sintetiza lições de registros públicos de algoritmos e governança de dados indígenas, tratando a participação não como uma camada opcional, mas como uma propriedade padrão de infraestruturas que mediam a coleta de dados e a responsabilidade pública. Enfatiza proveniência verificável, contestabilidade e direitos comunitários.

Resultados e Padrões Empíricos
A análise do corpus de 131 registros revela quatro padrões-chave:

• Concentração Geográfica: Iniciativas documentadas estão fortemente concentradas em um pequeno número de jurisdições. América do Norte (38 projetos) e Europa (27 projetos) dominam, com os Estados Unidos (35), Reino Unido (16), Canadá (13) e Quênia (7) respondendo pela maioria dos registros de países únicos. Essa concentração reflete tanto a atividade subjacente quanto a recuperabilidade da documentação em ecologias web de língua inglesa e alemã.
• Níveis de Participação e Locais do Ciclo de Vida: A participação é mais frequentemente codificada nos níveis de formulação do problema (85 projetos), governança (72) e avaliação (57). Por outro lado, a participação no desenvolvimento de modelos (9) e treinamento (16) é rara. Os níveis dominantes de participação são iniciativas lideradas pela comunidade (39), cocriação (26) e governança participativa (22).
• Formas Organizacionais: As iniciativas são predominantemente lideradas por universidades/laboratórios de pesquisa e organizações sem fins lucrativos/ONGs, frequentemente operando através de arranjos institucionais híbridos em vez de limites corporativos ou de agências claros. O campo é recente, com 124 dos 131 registros começando em 2018 ou posteriormente.
• Lacunas de Documentação: Embora campos centrais (modo de participação, estágios do ciclo de vida) estejam completos, existem lacunas significativas em anos de término (disponíveis para apenas 22,1% dos registros) e organizações parceiras (72,5%). A proveniência é altamente fragmentada, extraída de 107 domínios distintos, indicando uma falta de registros centralizados e duráveis. As classificações de evidência variam, com 25 registros marcados como "verificação indireta" e 24 como "candidatos a revisão", destacando a qualidade desigual da documentação pública.

Significado e Alegações
O artigo afirma que o desafio central na IA participativa não é apenas localizar iniciativas, mas documentá-las de maneiras que mantenham as alegações abertas ao escrutínio, correção e reutilização. O significado deste trabalho reside em mudar o foco de catálogos estáticos para a gestão de infraestrutura.

• Do Catálogo à Infraestrutura: O atlas é apresentado não como um índice neutro, mas como um instrumento de governança. Ao tornar explícita a incerteza, o desacordo e a proveniência, permite a avaliação crítica das alegações de participação.
• Abordando Vieses: Os autores reconhecem que o corpus reflete os vieses da documentação pesquisável em língua inglesa. O quadro proposto trata a recuperabilidade como um objeto de gestão, exigindo entrada multilíngue, curadoria regional e revisão comunitária compensada para reduzir os encargos de relatórios extrativistas.
• Política e Prática: O trabalho sugere que os mandatos de transparência devem evoluir para incluir requisitos de relatórios de participação (locus, mecanismo, participantes, influência na decisão) em vez de apenas modelos técnicos. Para a prática, o atlas serve como um recurso para reduzir trabalho duplicado e apoiar a reutilização de modelos de documentação.

O artigo conclui que um atlas vivo só pode apoiar a pesquisa e a aprendizagem política se for governado como um artefato participativo em si, com mecanismos para contribuição, anotação e resolução de disputas integrados ao seu design central.