Plurification in/of language technology -- The integration of culture in next-generation AI

Resumo Técnico: Plurificação na Tecnologia da Linguagem

Problema
O artigo aborda o desafio crítico de operacionalizar a "cultura" dentro do Processamento de Linguagem Natural (PLN) e da Tecnologia da Linguagem (TL). As abordagens atuais frequentemente tratam a cultura como uma variável estática e mensurável ou tentam abordá-la meramente adicionando mais exemplos de "outras culturas" aos dados de treinamento. Os autores argumentam que isso é insuficiente porque a cultura é dinâmica, internamente diversa e profundamente entrelaçada com poder, identidade e contexto. Os sistemas de PLN existentes frequentemente falham em modelar as normas sociais e o conhecimento de base que moldam a interpretação, muitas vezes reproduzindo discursos dominantes enquanto sub-representam vozes minoritárias, conhecimentos locais e significados culturalmente específicos. O problema central é que o alinhamento cultural não pode ser alcançado por meio de uma adaptação técnica superficial (ex: design de prompts ou moderação post-hoc), mas requer uma mudança fundamental em direção a epistemologias plurais — permitindo que múltiplas formas de saber, localmente fundamentadas, coexistam dentro do design tecnológico.

Metodologia
O artigo emprega uma abordagem qualitativa baseada em casos, fundamentada na antropologia da tecnologia. Utiliza um modelo sociotécnico de design de tecnologia da linguagem conhecido como as "cinco camadas da atividade tecnológica" (Koch et al., 2024) para analisar e sistematizar metodicamente as abordagens existentes à cultura no PLN. Este modelo organiza a análise através de cinco camadas distintas:

1. Núcleo Tecnológico: Software, arquiteturas de modelos, procedimentos de treinamento e estratégias de decodificação.
2. Domínio do Conhecimento: Corpora, recursos linguísticos e categorias simbólicas usados para treinamento.
3. Ecologias de Conhecimento: Ambientes sociais, normativos e pragmáticos mais amplos (ex: sistemas de conhecimento local, estruturas jurídicas).
4. Economias Políticas: Práticas de extração de dados, trabalho de anotação, financiamento e assimetrias de poder.
5. Contextos de Uso: Os cenários reais e as comunidades onde as tecnologias são implantadas e interpretadas.

Os autores selecionam exemplos específicos da pesquisa em PLN que demonstram tentativas de integrar dimensões culturais através destas camadas. Os critérios de seleção focam em se uma intervenção amplia a contagem de línguas/conhecimentos, desafia pressupostos universalizantes, envolve expertise local e se é uma característica incorporada ou uma adaptação superficial de saída.

Contribuições Principais e Análise
O artigo sintetiza pesquisas para demonstrar como a "plurificação" (a integração de múltiplas epistemologias) pode ocorrer através das cinco camadas, indo além da adaptação cultural rasa:

• Camada 1 (Núcleo Tecnológico): O artigo destaca o trabalho sobre o Núcleo de Conhecimento Universal (UKC) (Giunchiglia et al.), que propõe uma camada semântica neutra em termos de língua. Em vez de centrar o inglês como uma língua pivô, o UKC representa o significado ao nível do conceito, permitindo que múltiplas línguas mapeiem suas formas lexicais em uma estrutura compartilhada. Isso suporta relações multilingues de muitos-para-muitos sem homogeneização linguística.
• Camada 2 (Domínio do Conhecimento): A análise baseia-se no trabalho de Steven Bird conectando o PLN à documentação linguística, enfatizando que os conjuntos de dados são artefatos construídos com histórias sociais. Defende o uso de declarações de dados (data statements) e frameworks de anotação formal para melhorar a disponibilidade e interoperabilidade de recursos para línguas de baixos recursos. O trabalho de Giunchiglia sobre ontologias também é citado para mostrar como representações conceituais estruturadas podem alinhar sistemas de conhecimento heterogêneos sem forçá-los em um esquema normativo único.
• Camada 3 (Ecologias de Conhecimento): O artigo examina frameworks normativos (ex: frameworks de IA da União Africana, diretrizes da UNESCO) que defendem uma IA consciente da diversidade. No entanto, nota criticamente que os atuais frameworks impulsionados por corporações costem permanecer superficiais e orientados ao lucro, criando uma "crise de governança de IA" onde o conhecimento local e regional não é adequadamente integrado.
• Camada 4 (Economias Políticas): Os autores analisam a natureza extrativista da TL atual, onde as comunidades são tratadas como fontes de dados em vez de co-designers. Citando Nekoto et al. e Bird, o artigo defende a tradução automática participativa e o desenvolvimento sustentável da linguagem. Enfatiza a necessidade de compensação justa, propriedade e partilha de benefícios para o trabalho envolvido na coleta e anotação de dados, sugerindo uma mudança da otimização de benchmarks para o benefício comunitário.
• Camada 5 (Contextos de Uso): O artigo argumenta que a adequação cultural é situada e não pode ser validada apenas por métricas técnicas. Clama pelo tratamento das comunidades de fala como autoridades epistêmicas. A "plurificação" neste nível envolve a criação de "terceiros espaços" onde frameworks locais estruturam os objetivos e a avaliação dos modelos, garantindo que os sistemas sejam socialmente inteligíveis e não extrativistas.

Resultados
A análise revela que, embora a pesquisa em PLN tenha progredido em direção a sistemas culturalmente sensíveis (ex: modelagem de dialetos, dados multilingues), a maioria das intervenções permanece parcial e focada nas camadas de saída ou representação. Questões mais profundas sobre poder, governança e contexto social permanecem não resolvidas. O artigo constata que:

• A cultura não é uma variável estável, mas um fenômeno sociotécnico dinâmico.
• A adaptação técnica isolada (ex: adicionar mais dados) falha em abordar as causas raízes do desalinhamento cultural.
• A verdadeira operacionalização da cultura exige uma abordagem reflexiva que navegue pelos limites da formalização computacional.
• As abordagens atuais frequentemente falham em rastrear a mudança cultural ao longo do tempo ou em considerar os altos custos de fazê-lo.

Significância e Alegações
O artigo afirma que operacionalizar a cultura no PLN requer uma "abordagem sociotécnica plural" em vez de um conserto puramente técnico. Sua significância reside em redefinir a diversidade cultural não como um problema de dados a ser resolvido com mais exemplos, mas como uma orientação de design que deve permear todas as camadas da atividade tecnológica. Os autores postulam que:

• A plurificação é um processo contínuo: Não é um estado final, mas uma orientação de design contínua que redistribui a autoridade epistêmica para as comunidades de fala.
• A integração sociotécnica é essencial: O PLN consciente da cultura deve considerar a interação entre algoritmos, dados, economias políticas e contextos locais.
• Limites da Formalização: A natureza dinâmica e multifacetada dos contextos sociocultural significa que a cultura só pode ser parcialmente formalizada; o sistema deve permanecer responsivo ao desacordo e à validade específica do contexto.

Em última análise, o artigo argumenta que, para a tecnologia da linguagem ser verdadeiramente inclusiva, ela deve ir além do "imaginário de uma superinteligência" e abraçar um design pluriversal que reconheça múltiplas formas de saber, localmente fundamentadas.