Culturally-Grounded Governance for Multilingual Language Models: Rights, Data Boundaries, and Accountable AI Design

Resumen Técnico: Gobernanza con Base Cultural para Modelos de Lenguaje Multilingües

Planteamiento del Problema
Los Modelos de Lenguaje Multilingües (MLLM, por sus siglas en inglés) se despliegan cada vez más en diversos contextos culturales, lingüísticos y políticos. Sin embargo, los marcos de gobernanza y las metodologías técnicas existentes asumen mayoritariamente datos centrados en el inglés, poblaciones de usuarios homogéneas y nociones abstractas de equidad. Esto crea riesgos sistemáticos para las lenguas de bajos recursos y las comunidades culturalmente marginadas. Los MLLM actuales a menudo no logran alinearse con las normas, derechos y expectativas locales, lo que conduce a asimetrías de datos, comportamientos de modelos sesgados y una falta de mecanismos de rendición de cuentas para los daños experimentados por los hablantes de lenguas marginadas. Además, las métricas de evaluación tradicionales (por ejemplo, las puntuaciones BLEU) se centran de forma estrecha en la precisión de la traducción en lugar de en la capacidad del modelo para facilitar el entendimiento intercultural o servir como agentes colaborativos en contextos de Trabajo Cooperativo Soportado por Computadora (CSCW) e Interacción Humano-Computadora (HCI).

Metodología
Este artículo presenta una revisión sistemática de la literatura con el objetivo de examinar exhaustivamente la confiabilidad de los MLLM dentro de sistemas colaborativos. Los autores adoptaron una metodología inspirada en trabajos previos de revisión sistemática, buscando en la ACM Digital Library y Google Scholar artículos publicados en la última década (con un filtro específico para los últimos cinco años en la ACM Digital Library debido al reciente aumento en la investigación de LLM). La búsqueda utilizó palabras clave que intersectan los MLLM con el trabajo colaborativo, tales como "Multilingual Language Models", "MLLMs in Collaboration" y "Trustworthiness in AI", junto con términos como "Human-Centered AI" y "Data Quality".

El corpus de la revisión incluyó publicaciones revisadas por pares y preimpresiones relevantes de arXiv para capturar tendencias emergentes. Los artículos fueron seleccionados basándose en criterios de inclusión que requerían un enfoque en los MLLM dentro de contextos de colaboración multilingües y multiculturales, y que abordaran uno o más de los cuatro atributos críticos:

1. Calidad de los Datos
2. Dependencia y Operatividad
3. Diseño Centrado en el Humano
4. Supervisión Humana

La extracción de datos consistió en analizar los lugares de publicación, los años, las metodologías y los hallazgos relacionados con estos cuatro atributos. La revisión sintetiza la evidencia sobre el comportamiento de los modelos, las asimetrías de datos y el daño sociotécnico para articular un marco de gobernanza.

Contribuciones Clave y Resultados
El artículo no propone nuevos referentes técnicos (benchmarks) ni modelos experimentales. En su lugar, contribuye con una agenda conceptual que replantea la gobernanza de la IA multilingüe como un problema sociocultural y basado en derechos. La revisión sintetiza la literatura existente para identificar tres desafíos de gobernanza interrelacionados:

1. Inequidades Culturales y Lingüísticas: Los datos de entrenamiento y las prácticas de evaluación favorecen desproporcionadamente a las lenguas de altos recursos (por ejemplo, inglés, mandarín, español), lo que conduce a un bajo rendimiento y sesgo en las lenguas de bajos recursos.
2. Desalineación con las Normas Locales: El despliegue global a menudo no logra alinearse con las normas, valores y estructuras de poder situadas localmente, con el riesgo de reforzar estereotipos y malentendidos culturales.
3. Responsabilidad Limitada: Existe una falta de mecanismos robustos para abordar los daños experimentados por las comunidades lingüísticas marginadas.

La revisión estructura sus hallazgos en torno a los cuatro atributos críticos de la confiabilidad:

• Calidad de los Datos: La literatura destaca que la tokenización inadecuada y los datos de entrenamiento sesgados conducen a interpretaciones erróneas de las lenguas subrepresentadas. Aunque métodos como la generación de datos sintéticos, la fusión de modelos y la factorización de matrices (por ejemplo, aprovechando tokens con solapamiento léxico) muestran potencial para escrituras de bajos recursos, la evaluación multilingüe integral sigue siendo una brecha.
• Dependencia y Operatividad: Los MLLM deben mantener un rendimiento consistente a través de diversas entradas, particularmente en dominios de alto riesgo como la salud. La investigación indica que el aprendizaje de pocos disparos (few-shot learning) puede ayudar en tareas translingüísticas, pero son necesarios principios de equidad (por ejemplo, la equidad de Rawls) para priorizar las lenguas subrepresentadas. La integración multimodal también se cita como un método para mejorar la adaptabilidad.
• Diseño Centrado en el Humano: Los MLLM efectivos deben ser accesibles para usuarios no técnicos de diversos trasfondos culturales. La revisión enfatiza que no acomodar las diversas necesidades lingüísticas conlleva el riesgo de reforzar las disparidades educativas y económicas. El diseño debe ir más allá de la traducción para incluir el contexto cultural, como se observa en marcos como SERENGETI para lenguas africanas.
• Supervisión Humana: El desarrollo ético requiere un monitoreo continuo, cumplimiento regulatorio y enfoques de humano en el bucle (human-in-the-loop). La revisión aboga por integrar principios éticos (beneficencia, no maleficencia, justicia) y utilizar marcos de auditoría de IA para mitigar los riesgos sociopolíticos y asegurar la alineación con los valores humanos.

Significancia y Reivindicaciones
El artículo argumenta que la gobernanza con base cultural es esencial para evitar que los modelos de lenguaje multilingües reproduzcan las desigualdades globales existentes bajo la apariencia de escala y neutralidad. Su significancia radica en desplazar el discurso de las innovaciones puramente técnicas (como las estrategias de alineación o la disponibilidad de recursos) hacia un enfoque de colaboración multicultural y derechos socioculturales.

Los autores afirman que, al replantear la gobernanza de los MLLM a través de una lente sociocultural, la comunidad de investigación puede:

• Identificar las brechas entre la investigación actual y las aplicaciones prácticas en entornos transculturales.
• Abogar por marcos legales y de políticas que exijan conjuntos de datos lingüísticos diversos y transparencia.
• Promover colaboraciones interdisciplinarias entre investigadores de IA, lingüistas, científicos sociales y teóricos culturales.
• Desarrollar nuevas métricas de evaluación que evalúen qué tan bien los MLLM facilitan la confianza, el entendimiento y la participación equitativa, en lugar de solo la precisión de la traducción.

En última instancia, el artículo postula que para que los MLLM sean verdaderamente confiables y efectivos en la colaboración global, deben ser diseñados no meramente como herramientas de traducción, sino como agentes colaborativos con conciencia cultural que respeten la diversidad lingüística y las estructuras de poder locales.