Standard Language Ideology in AI-Generated Language

Resumo Técnico: Ideologia de Linguagem Padrão em Linguagem Gerada por IA

Problema
Os Grandes Modelos de Linguagem (LLMs) e os sistemas de IA generativa atualmente reproduzem e normalizam a "ideologia de linguagem padrão", um conceito sociolinguístico que descreve o viés em favor de variedades linguísticas específicas (particularmente o Inglês Americano Padrão, ou SAE) que recebem maior prestígio, autoridade e legitimidade do que outras. Isso não é meramente uma disparidade de desempenho onde os modelos têm dificuldade com dialetos não padronizados; é uma questão sociotécnica onde os sistemas de IA reforçam ativamente as hierarquias linguísticas. Esses sistemas posicionam as variedades "padrão" como o modo apropriado e padrão, enquanto marginalizam variedades minoritárias (ex: Inglês Afro-Americano, Singlish, dialetos regionais) através de mecanismos de estereotipagem, apropriação e apagamento. O artigo argumenta que essas questões são estruturais e não puramente técnicas, refletindo relações de poder que determinam quais línguas são preservadas, filtradas ou amplificadas nos dados de treinamento e nos resultados dos modelos.

Metodologia
Os autores empregam uma abordagem multidisciplinar, sintetizando evidências empíricas de avaliações existentes de LLMs com estruturas teóricas da sociolinguística e dos estudos críticos da linguagem.

• Fundamentação Teórica: A análise baseia-se nos mecanismos de ideologia de linguagem padrão identificados por sociolinguistas: iconização (ligar características linguísticas à essência social), recursividade fractal (projetar oposições dentro de subgrupos) e apagamento (obscurecer fatos que contradizem a narrativa dominante).
• Processo Analítico: A equipe realizou uma revisão focada de estudos de larga escala e avaliações sistemáticas sobre o viés linguístico em LLMs, complementada por uma revisão bibliográfica mais ampla sobre desigualdade linguística. A análise foi tanto dedutiva (aplicando mecanismos sociolinguísticos estabelecidos como um arcabouço) quanto indutiva (mapeando iterativamente os achados empíricos para essas categorias).
• Síntese: Os autores categorizaram as manifestações documentadas da IA e as vincularam a potenciais implicações sociais, criando uma estrutura estruturada para explicar como os vieses linguísticos na IA refletem e reforçam sistemas mais amplos de poder.

Principais Contribuições
A principal contribuição do artigo é a introdução da Ideologia de Linguagem Gerada por IA Padrão e de uma taxonomia facetada de problemas abertos que operacionalizam este conceito. Esta taxonomia vai além de um simples levantamento de erros do modelo para categorizar os mecanismos estruturais através dos quais os LLMs reproduzem as hierarquias de poder linguístico. A taxonomia identifica cinco problemas específicos:

1. Normalização da Linguagem "Padrão" como Padrão (Default): Os LLMs recorrem sistematicamente a variedades de prestígio (SAE), mesmo quando estimulados com entradas não padronizadas. Isso reforça a noção de que as variedades padrão são os únicos modos "corretos" ou neutros de comunicação, potencialmente exacerbando o viés de automação onde os usuários confiam em saídas de IA que se alinham a essas normas.
2. Qualidade de Serviço Desigual para Variedades Minoritárias: Falantes de variedades não padronizadas enfrentam um desempenho degradado, incluindo menor compreensão, classificação incorreta de entradas como tóxicas/discurso de ódio e recusa em responder. Isso constitui um dano alocacional, incentivando o "code-switching digital" e impondo custos psicológicos aos usuários.
3. Produções Estereotipadas e Racializadas: Quando os modelos geram texto em variedades minoritárias, eles frequentemente produzem conteúdo estilizado, caricato ou depreciativo. Isso reflete a racialização, onde a forma linguística torna-se um substituto para identidade social negativa e julgamento moral.
4. Apropriação e Mercantilização: Os LLMs permitem a extração de valor cultural e linguístico de comunidades marginalizadas sem prestação de contas ou benefício para essas comunidades. Isso inclui a "mímese linguística" (falantes não nativos usando IA para apropriar-se de dialetos) e o apagamento das origens históricas e étnicas da linguagem (ex: rebrand de AAE para "gíria da Geração Z").
5. Supressão e Apagamento: Esforços para "evitar danos" ao suprimir saídas não padronizadas correm o risco de reproduzir o apagamento institucional, onde formas linguísticas legítimas são expulsas das infraestruturas tecnológicas, estreitando o futuro linguístico dos ecossistemas de IA.

Resultados e Achados
O artigo sintetiza evidências empíricas existentes para demonstrar que os LLMs não apenas "têm dificuldade" com variedades não padronizadas, mas participam ativamente da construção de hierarquias linguísticas:

• Disparidades de Desempenho: Estudos mostram maior perplexidade e menor precisão para o AAE e outras variedades não padronizadas em tarefas como geração de texto e análise de sentimento.
• Comportamento de Retorno ao Padrão (Defaulting): Pesquisas indicam que, mesmo quando estimulados com entradas não padronizadas, os resultados dos modelos revertem para a ortografia e sintaxe do SAE, com reduções significativas de características dialetais (ex: redução de >96% para entradas em inglês jamaicano e afro-americano).
• Estereotipagem: Falantes nativos classificam as saídas da IA para variedades minoritárias como significativamente mais depreciativas e condescendentes em comparação com as saídas para variedades padrão.
• Inequidades de Dados: A dominância do inglês nos dados de treinamento (aprox. 60% do conteúdo da internet contra 17% dos falantes globais) e a filtragem de variedades não padronizadas durante a raspagem de dados são identificadas como consequências materiais da ideologia de linguagem padrão, não apenas limitações técnicas.
• Contexto de IA Soberana: O artigo observa que, embora iniciativas de "IA soberana" (ex: na Índia) visem combater a dominância do inglês, elas correm o risco de reproduzir hierarquias linguísticas internas se priorizarem formas "padrão" definidas pelo Estado em detrimento da diversidade dialetal e indígena.

Significância e Recomendações
O artigo afirma que estas questões não podem ser resolvidas apenas através de correções de engenharia (ex: melhor balanceamento de dados), pois estão enraizadas em relações de poder e prioridades institucionais. Os autores defendem uma mudança em direção a resultados emancipatórios que priorizem a responsabilidade, a agência comunitária, o controle e a propriedade.

O artigo propõe três recomendações concretas para pesquisadores, financiadores e profissionais:

1. Expandir Métricas de Avaliação: As estruturas de avaliação de modelos devem incluir explicitamente a variedade linguística como uma categoria para avaliar danos (junto com raça e gênero), desenvolvendo benchmarks para detectar apagamento, estereotipagem e condescendência.
2. Apoiar o Desenvolvimento Liderado pela Comunidade: Instituições multilaterais devem financiar e apoiar comunidades linguísticas na criação de seus próprios conjuntos de dados e modelos (ex: Masakhane, AI4Bharat, Te Hiku Media). Isso desloca a autoridade epistêmica de volta para os falantes e desafia as lógicas de apropriação.
3. Implementar Processos Participativos: Desenvolvedores de sistemas de IA dominantes devem envolver comunidades minoritárias como parceiros iguais ao longo de todo o ciclo de vida da IA (coleta de dados, treinamento, implementação). Isso inclui compensação justa, respeito à soberania de dados e a transição de práticas de dados extrativistas para a participação não extrativa.

O artigo conclui que a diversidade linguística deve ser reconhecida não como um desafio técnico a ser gerido, mas como um recurso a ser protegido e sustentado para um futuro de IA justo. Enfatiza que não existe um comportamento único "correto" para modelos de linguagem; em vez disso, o foco deve ser em quem detém a autoridade para decidir como esses sistemas se comportam.