Culturally-Grounded Governance for Multilingual Language Models: Rights, Data Boundaries, and Accountable AI Design

Resumo Técnico: Governança Culturalmente Fundamentada para Modelos de Linguagem Multilíngues

Declaração do Problema
Modelos de Linguagem Multilíngues (MLLMs) estão sendo cada vez mais implantados em diversos contextos culturais, linguísticos e políticos. No entanto, as estruturas de governança e as metodologias técnicas existentes assumem, em grande parte, dados centrados no inglês, populações de usuários homogêneas e noções abstratas de equidade. Isso cria riscos sistemáticos para línguas de baixos recursos e comunidades culturalmente marginalizadas. Os MLLMs atuais frequentemente falham em se alinhar com normas, direitos e expectativas locais, levando a assimetrias de dados, comportamentos enviesados dos modelos e uma falta de mecanismos de responsabilidade pelos danos sofridos por falantes de línguas marginalizadas. Além disso, as métricas de avaliação tradicionais (por exemplo, pontuações BLEU) concentram-se estritamente na precisão da tradução, em vez da capacidade do modelo de facilitar o entendimento intercultural ou de servir como agentes colaborativos em contextos de Trabalho Cooperativo Suportado por Computador (CSCW) e Interação Humano-Computador (HCI).

Metodologia
Este artigo apresenta uma revisão sistemática da literatura com o objetivo de examinar compreensivamente a confiabilidade dos MLLMs dentro de sistemas colaborativos. Os autores adotaram uma metodologia inspirada em trabalhos de revisão sistemática anteriores, pesquisando na ACM Digital Library e no Google Scholar por artigos publicados na última década (com um filtro específico para os últimos cinco anos na ACM Digital Library devido ao recente surto de pesquisa em LLM). A busca utilizou palavras-chave que cruzam MLLMs com trabalho colaborativo, tais como "Multilingual Language Models" (Modelos de Linguagem Multilíngues), "MLLMs in Collaboration" (MLLMs em Colaboração) e "Trustworthiness in AI" (Confiabilidade na IA), juntamente com termos como "Human-Centered AI" (IA Centrada no Humano) e "Data Quality" (Qualidade de Dados).

O corpus da revisão incluiu publicações revisadas por pares e preprints relevantes do arXiv para capturar tendências emergentes. Os artigos foram selecionados com base em critérios de inclusão que exigiam o foco em MLLMs dentro de contextos de colaboração multilíngues e multiculturais, abordando um ou mais dos quatro atributos críticos:

1. Qualidade de Dados
2. Confiabilidade e Operabilidade
3. Design Centrado no Humano
4. Supervisão Humana

A extração de dados envolveu a análise de veículos de publicação, anos, metodologias e descobertas relacionadas a esses quatro atributos. A revisão sintetiza evidências sobre o comportamento do modelo, assimetrias de dados e danos sociotécnicos para articular uma estrutura de governança.

Principais Contribuições e Resultados
O artigo não propõe novos benchmarks técnicos ou modelos experimentais. Em vez disso, contribui com uma agenda conceitual que reformula a governança de IA multilíngue como um problema sociocultural e baseado em direitos. A revisão sintetiza a literatura existente para identificar três desafios de governança inter-relacionados:

1. Inequidades Culturais e Linguísticas: Os dados de treinamento e as práticas de avaliação favorecem desproporcionalmente línguas de altos recursos (ex: inglês, mandarim, espanhol), levando ao baixo desempenho e ao viés em línguas de baixos recursos.
2. Desalinhamento com Normas Locais: A implantação global frequentemente falha em se alinhar com normas, valores e estruturas de poder localmente situados, correndo o risco de reforçar estereótipos e mal-entendidos culturais.
3. Responsabilidade Limitada: Há uma falta de mecanismos robustos para abordar os danos sofridos pelas comunidades linguísticas marginalizadas.

A revisão estrutura suas descobertas em torno dos quatro atributos críticos de confiabilidade:

• Qualidade de Dados: A literatura destaca que a tokenização inadequada e os dados de treinamento enviesados levam a interpretações errôneas de línguas sub-representadas. Embora métodos como geração de dados sintéticos, fusão de modelos e fatoração de matrizes (ex: aproveitando tokens lexicalmente sobrepostos) mostrem promessa para escritas de baixos recursos, a avaliação multilíngue abrangente permanece uma lacuna.
• Confiabilidade e Operabilidade: Os MLLMs devem manter um desempenho consistente em diversas entradas, particularmente em domínios de alto risco como a saúde. A pesquisa indica que o aprendizado de poucos disparos (few-shot learning) pode auxiliar em tarefas translinguais, mas princípios de equidade (ex: equidade Rawlsiana) são necessários para priorizar línguas sub-representadas. A integração multimodal também é citada como um método para aumentar a adaptabilidade.
• Design Centrado no Humano: MLLMs eficazes devem ser acessíveis a usuários não técnicos em diversos contextos culturais. A revisão enfatiza que falhar em acomodar diversas necessidades linguísticas corre o risco de reforçar disparidades educacionais e econômicas. O design deve ir além da tradução para incluir o contexto cultural, como visto em estruturas como o SERENGETI para línguas africanas.
• Supervisão Humana: O desenvolvimento ético exige monitoramento contínuo, conformidade regulatória e abordhas de humano-no-circuito (human-in-the-loop). A revisão defende a incorporação de princípios éticos (beneficência, não maleficência, justiça) e o uso de estruturas de auditoria de IA para mitigar riscos sociopolíticos e garantir o alinhamento com os valores humanos.

Significância e Alegações
O artigo argumenta que a governança culturalmente fundamentada é essencial para evitar que os modelos de linguagem multilíngues reproduzam as desigualdades globais existentes sob o pretexto de escala e neutralidade. Sua significância reside na mudança do discurso de inovações puramente técnicas (como estratégias de alinhamento ou disponibilidade de recursos) para um foco em colaboração multicultural e direitos socioculturais.

Os autores alegam que, ao reformular a governança de MLLM através de uma lente sociocultural, a comunidade de pesquisa pode:

• Identificar lacunas entre a pesquisa atual e as aplicações práticas em cenários transculturais.
• Advogar por políticas e estruturas legais que exijam conjuntos de dados linguísticos diversos e transparência.
• Promover colaborações interdisciplinares entre pesquisadores de IA, linguistas, cientistas sociais e teóricos culturais.
• Desenvolver novas métricas de avaliação que avaliem quão bem os MLLMs facilitam a confiança, o entendimento e a participação equitativa, em vez de apenas a precisão da tradução.

Em última análise, o artigo postula que, para que os MLLMs sejam verdadeiramente confiáveis e eficazes na colaboração global, eles devem ser projetados não meramente como ferramentas de tradução, mas como agentes colaborativos culturalmente conscientes que respeitam a diversidade linguística e as estruturas de poder locais.