Voices in the Loop: Mapping Participatory AI

Resumen Técnico: Voces en el Bucle: Mapeando la IA Participativa

Enunciado del Problema
Los enfoques participativos para la inteligencia artificial (IA) están cada vez más documentados en los sectores público, cívico y humanitario. Sin embargo, la base de evidencia sobre cómo se organizan estas participaciones sigue siendo fragmentada. La documentación está dispersa en sitios web de proyectos, publicaciones académicas, portales gubernamentales y literatura gris, caracterizada por una terminología heterogénea y un informe de metadatos inconsistente. Esta fragmentación obstaculiza la investigación comparativa, impide el aprendizaje intersectorial y evita que las comunidades y los responsables políticos identifiquen precedentes relevantes. Además, la documentación existente a menudo falla en distinguir entre las afirmaciones éticas aspiracionales y los mecanismos documentados de influencia en la toma de decisiones, lo que conduce a un "lavado de participación" o a un compromiso extractivo. Existe una falta de infraestructura sistemática y reproducible para mapear, verificar y cuestionar las iniciativas de IA participativa.

Metodología
El artículo presenta la construcción de un repositorio abierto y un atlas interactivo que contiene 131 iniciativas de IA participativa. La metodología implica un protocolo reproducible para el descubrimiento, la verificación, la armonización y la publicación basada en versiones.

• Fuentes de Datos: El corpus integra 95 proyectos del corpus de "IA Confiable" de Magaña y Shilton y 36 casos adicionales auditados extraídos de documentación de investigación y práctica.
• Definición Operativa: Un "proyecto de IA participativa" se define como una iniciativa que (1) desarrolla, despliega o mantiene un sistema habilitado para IA (utilizando aprendizaje automático o inferencia estadística) y (2) incluye un mecanismo documentado que permite a las partes interesadas afectadas influir en las decisiones relativas a la definición del problema, la gobernanza de datos, el desarrollo del modelo, el despliegue o la supervisión. Se excluyen los proyectos que utilizan la IA meramente para consultas o traducción sin gobernar el propio sistema de IA.
• Descubrimiento y Verificación: El protocolo emplea búsquedas por palabras clave, expansión de redes y consultas de dominio dirigidas. La verificación requiere un componente de IA identificable y un mecanismo de participación documentado con evidencia pública. Los casos limítrofes se retienen si los artefactos de gobernanza (por ejemplo, entradas en registros municipales, términos de licencias de datos) implican participación.
• Extracción y Armonización: Los registros se estandarizan para incluir nombres canónicos, URLs de procedencia y campos de metadatos armonizados. Las dimensiones clave extraídas incluyen el locus de participación, los roles de las partes interesadas, la influencia en la toma de decisiones, los artefactos de documentación y el entorno institucional.
• Geocodificación y Sensibilidad: Los datos de ubicación se resuelven a coordenadas a nivel de ciudad o país cuando es posible, tratándolos como anclajes aproximados para evitar exponer sitios operativos sensibles. El repositorio excluye datos personales, registrando los roles de las partes interesadas solo a nivel organizacional o colectivo.
• Gobernanza y Control de Versiones: El repositorio está diseñado como una infraestructura "viva". Utiliza versiones con instantáneas de archivo para garantizar citas estables. Incluye mecanismos para correcciones vinculadas a registros, disputas, anotaciones y solicitudes de supresión, tratando al propio atlas como un artefacto participativo.

Contribuciones Clave
El artículo realiza tres contribuciones principales:

1. Protocolo Reproducible: Un protocolo especificado para el descubrimiento, la verificación, la armonización, la geocodificación, el seguimiento de la procedencia y la publicación basada en versiones de registros de IA participativa. Esto incluye la deduplicación y la calificación de la evidencia.
2. Corpus Empírico y Atlas: Un atlas interactivo con control de versiones de 131 proyectos que operacionaliza un marco de diseño y gobernanza. Proporciona un inventario vivo que puede actualizarse, cuestionarse y reutilizarse, apoyando la investigación comparativa y el aprendizaje de políticas.
3. Marco de Gobernanza: Una propuesta para infraestructuras de IA "participativas por defecto". Este marco sintetiza lecciones de registros públicos de algoritmos y gobernanza de datos indígenas, tratando la participación no como una capa opcional, sino como una propiedad predeterminada de las infraestructuras que median la recopilación de datos y la rendición de cuentas pública. Hace hincapié en la procedencia verificable, la impugnabilidad y los derechos de la comunidad.

Resultados y Patrones Empíricos
El análisis del corpus de 131 registros revela cuatro patrones clave:

• Concentración Geográfica: Las iniciativas documentadas están fuertemente concentradas en un pequeño número de jurisdicciones. América del Norte (38 proyectos) y Europa (27 proyectos) dominan, con Estados Unidos (35), Reino Unido (16), Canadá (13) y Kenia (7) representando la mayoría de los registros de un solo país. Esta concentración refleja tanto la actividad subyacente como la recuperabilidad de la documentación en las ecologías web de idiomas inglés y alemán.
• Niveles de Participación y Loci del Ciclo de Vida: La participación se codifica con mayor frecuencia en los niveles de formulación del problema (85 proyectos), gobernanza (72) y evaluación (57). Por el contrario, la participación en el desarrollo del modelo (9) y el entrenamiento (16) es rara. Los niveles de participación dominantes son iniciativas lideradas por la comunidad (39), co-diseño (26) y gobernanza participativa (22).
• Formas Organizacionales: Las iniciativas son predominantemente lideradas por universidades/laboratorios de investigación y organizaciones sin fines de lucro/ONG, a menudo operando a través de arreglos institucionales híbridos en lugar de límites corporativos o de agencia claros. El campo es reciente, con 124 de los 131 registros comenzando en 2018 o después.
• Brechas de Documentación: Si bien los campos principales (modo de participación, etapas del ciclo de vida) están completos, existen brechas significativas en los años de finalización (disponibles solo para el 22,1% de los registros) y las organizaciones asociadas (72,5%). La procedencia está altamente fragmentada, extraída de 107 dominios distintos, lo que indica una falta de registros centralizados y duraderos. Las calificaciones de la evidencia varían, con 25 registros marcados como "verificados indirectamente" y 24 como "candidatos a revisión", lo que resalta la calidad desigual de la documentación pública.

Significado y Afirmaciones
El artículo afirma que el desafío central en la IA participativa no es simplemente localizar iniciativas, sino documentarlas de manera que mantenga las afirmaciones abiertas al escrutinio, la corrección y la reutilización. El significado de este trabajo radica en cambiar el enfoque de catálogos estáticos a la administración de infraestructuras.

• De Catálogo a Infraestructura: El atlas se presenta no como un índice neutral, sino como un instrumento de gobernanza. Al hacer explícita la incertidumbre, el desacuerdo y la procedencia, permite la evaluación crítica de las afirmaciones de participación.
• Abordar el Sesgo: Los autores reconocen que el corpus refleja los sesgos de la documentación buscable en idioma inglés. El marco propuesto trata la recuperabilidad como un objeto de administración, requiriendo la recepción multilingüe, la curaduría regional y la revisión compensada de la comunidad para reducir las cargas de informes extractivos.
• Política y Práctica: El trabajo sugiere que los mandatos de transparencia deben evolucionar para incluir requisitos de informes de participación (locus, mecanismo, participantes, influencia en la toma de decisiones) en lugar de solo plantillas técnicas. Para la práctica, el atlas sirve como un recurso para reducir el trabajo duplicado y apoyar la reutilización de plantillas de documentación.

El artículo concluye que un atlas vivo solo puede apoyar la investigación y el aprendizaje de políticas si se gobierna como un artefacto participativo en sí mismo, con mecanismos para la contribución, la anotación y la resolución de disputas integrados en su diseño central.