Cultural Perspectives and Expectations for Generative AI: A Global Survey Approach

Este artigo apresenta os resultados de uma pesquisa global que analisa as atitudes e crenças sobre como a Inteligência Artificial Generativa deve representar culturas, propondo definições de cultura extraídas das próprias comunidades e recomendando abordagens participativas e um quadro de sensibilidade para lidar com limites culturais.

O essencial

Imagine que a Inteligência Artificial Generativa (GenAI) é como um chef de cozinha global muito talentoso, que promete cozinhar pratos para todo o mundo. O problema é que esse chef aprendeu a cozinhar quase exclusivamente lendo receitas em inglês de um único bairro (o "Ocidente"), e agora ele está tentando servir pratos para pessoas de 13 países diferentes, desde o Brasil até a Coreia do Sul.

Este artigo é como um grande jantar de degustação onde os pesquisadores perguntaram a milhares de pessoas: "O que significa 'cultura' para você?" e "O que você gostaria que esse chef nunca tentasse cozinhar?".

Aqui está o resumo da pesquisa, explicado de forma simples:

1. O Que é "Cultura" para as Pessoas?

Antes de pedir ao chef para cozinhar, eles precisavam saber o que as pessoas consideram o "tempero" da vida delas.

• Na Europa: As pessoas pensaram em coisas tangíveis, como música, literatura, história e prédios famosos (como a Torre Eiffel). É como se a cultura fosse um museu.
• Na Ásia: O foco foi mais em "quem somos" e "de onde viemos". Falaram muito em ancestrais, nação e herança. É como se a cultura fosse uma árvore genealógica gigante.
• Na África: A cultura foi descrita como um "modo de vida completo". Não é apenas o que você come, mas como você se comporta, pensa e vive. É como se a cultura fosse o ar que respiramos.

A Lição: Não existe uma única definição de cultura. O que é importante para um alemão pode não ser o que é mais sagrado para um nigeriano.

2. O Que é "Perigoso" para a IA? (As Linhas Vermelhas)

Aqui está a parte mais importante. Os pesquisadores perguntaram: "O que a IA NUNCA deveria tentar gerar?".

• O Grande Consenso: Em quase todos os países, a Religião e as Tradições foram as coisas mais sensíveis. As pessoas querem que a IA respeite orações, rituais sagrados e símbolos religiosos. É como se a IA fosse um visitante em uma casa de oração: ela pode olhar, mas não deve tocar nos altares ou tentar mudar os rituais.
• Outras Linhas Vermelhas:
  • Traumas Históricos: Na Alemanha e nos EUA, as pessoas disseram que a IA não deve gerar imagens de eventos como o Holocausto ou a escravidão. É como tentar reescrever uma ferida aberta; a IA não tem a sensibilidade para lidar com a dor.
  • Identidade Pessoal: Em alguns lugares, como a Coreia do Sul, a saúde e o local onde você mora são muito sensíveis.
  • O "Não" Absoluto: Muitos disseram que a IA nunca deveria gerar imagens de pessoas reais em situações sagradas, pois isso pode criar "fakes" (mentiras) que ofendem a dignidade humana.

3. A Familiaridade com a Tecnologia

A maioria das pessoas conhece a IA, mas nem todos confiam nela para contar a história da sua cultura.

• O Medo Principal: O maior medo não é a IA não saber fazer algo, mas sim fazer algo errado ou estereotipado. As pessoas temem que a IA pegue um símbolo sagrado e o transforme em um meme ou em algo comercial, sem entender o significado profundo.
• A Diferença: Quem usa muito a IA (como na Coreia do Sul e nos Emirados Árabes) tem opiniões mais fortes sobre onde traçar as linhas do que quem nunca ouviu falar nela.

4. O Que os Pesquisadores Sugerem? (As Regras do Jogo)

Para evitar que o "chef de IA" estrague o prato cultural, os autores dão quatro conselhos principais:

1. Ouça as Pessoas (Consciência): Não assuma que você sabe o que é cultura. Faça perguntas! Use pesquisas para entender o que é importante para cada grupo antes de treinar a IA.
2. Deixe as Pessoas Participarem (Participação): Em vez de apenas analisar dados da internet (que são cheios de preconceitos), convide líderes comunitários, religiosos e especialistas locais para ajudar a "apontar" a IA. É como pedir para o dono da receita original ensinar o chef.
3. Não Use "Tamanho Único" (Multifacetado): A IA não pode ter as mesmas regras para todo o mundo. O que é seguro para gerar na França pode ser ofensivo no Japão. A IA precisa ter um "mapa de sensibilidade" que muda dependendo de onde o usuário está.
4. Crie Níveis de Proteção (Nuance):
   • Nível 1 (Proibido): Coisas sagradas (orações, rituais). A IA não deve gerar nada aqui. É como uma área de "Nada a Ver".
   • Nível 2 (Precisão Total): Coisas históricas ou religiosas importantes. Se a IA for gerar algo, ela precisa ter certeza absoluta de que está correto, usando fontes confiáveis, para não inventar mentiras.

Conclusão

Este estudo nos diz que a tecnologia avança rápido, mas a cultura é lenta e profunda. Para que a Inteligência Artificial seja realmente global e respeitosa, ela precisa parar de tratar a cultura como um "pacote de dados" e começar a tratá-la como uma conversa respeitosa com milhões de pessoas diferentes.

Se a IA quiser ser um bom anfitrião para o mundo, ela precisa aprender que, em algumas mesas, certos pratos simplesmente não devem ser servidos, e outros devem ser servidos com o máximo de cuidado e respeito.

Resumo técnico

Resumo Técnico: Perspectivas Culturais e Expectativas para IA Generativa

1. Problema e Contexto

O artigo aborda a lacuna crítica de evidências empíricas sobre as atitudes globais em relação a como a Inteligência Artificial Generativa (GenAI) deve representar culturas. Atualmente, o desenvolvimento de GenAI frequentemente reflete dinâmicas extrativistas, onde modelos são treinados por uma minoria de pesquisadores do "Norte Global" em conjuntos de dados predominantemente em inglês. Isso resulta em:

• Vieses e Lacunas de Conhecimento: Estereótipos ou apagamento de culturas não ocidentais.
• Falta de Competência Cultural: A ausência de métricas padronizadas para competência cultural e a falta de treinamento antropológico nos pesquisadores de IA.
• O "Problema Inverso": A distorção ou má representação de símbolos e artefatos culturais sensíveis, agravada pela falta de treinamento dos desenvolvedores em estudos culturais.

O objetivo central é entender como populações globais definem "cultura", quais aspectos consideram sensíveis e onde estão as "linhas vermelhas" (redlines) que a GenAI não deve cruzar.

2. Metodologia

O estudo utilizou uma abordagem de pesquisa quantitativa e qualitativa em larga escala:

• Amostra: Uma pesquisa transversal realizada entre setembro de 2024 e janeiro de 2025 com 5.629 participantes de 13 países (Brasil, Camarões, França, Alemanha, Índia, Indonésia, Itália, Japão, México, Nigéria, Coreia do Sul, Emirados Árabes Unidos e EUA).
• Desenho do Estudo:
  • Amostragem: Representativa nacionalmente, com cotas de gênero (50% homens, 50% mulheres) e faixas etárias.
  • Instrumento: Um questionário de 24 itens (analisados 8 itens principais) combinando perspectivas emic (abertas, específicas da cultura) e etic (fechadas, comparáveis).
  • Tradução: Desenvolvido em inglês e traduzido para línguas locais dominantes em 9 países; realizado em inglês na Índia e Nigéria para reduzir barreiras tecnológicas.
• Análise de Dados:
  • Quantitativa: Uso de Python (Pandas, Numpy, Seaborn) com ponderação pós-estratificação baseada em dados do Banco Mundial para refletir as proporções populacionais reais.
  • Qualitativa: Análise temática indutiva das respostas abertas, traduzidas e revisadas para precisão.
• Quadro Teórico: Alinhado com o UNESCO Thesaurus e as cinco domínios do Patrimônio Cultural Imaterial da UNESCO.

3. Principais Contribuições

O artigo oferece uma base empírica para o desenvolvimento de GenAI, propondo:

1. Definições Práticas de Cultura: Extraídas diretamente das comunidades, indo além de definições acadêmicas abstratas.
2. Mapeamento de "Linhas Vermelhas" Culturais: Identificação de tópicos e práticas que os usuários consideram inaceitáveis para representação por IA.
3. Framework de Sensibilidade: Uma estrutura proposta para classificar a sensibilidade cultural em níveis (proibitivo vs. alta fidelidade).
4. Recomendações de Desenvolvimento: Um modelo de quatro pilares (Conscientização, Participação, Multifacetamento e Nuance) para integrar perspectivas culturais no ciclo de vida do desenvolvimento de IA.

4. Resultados Chave

A. Compreensão de Cultura e Identidades Sociais

• Definições Regionais:
  • Europa: Foco em artefatos tangíveis (música, literatura, história, arquitetura).
  • Ásia: Foco em herança coletiva (ancestrais, nação, país).
  • África Subsaariana: Definição como "maneira total de viver" e coleções de atitudes.
• Identidades Centrais: Globalmente, Religião e Tradição foram consistentemente identificadas como a âncora primária da identidade cultural (48% das respostas), seguidas por Nacionalidade e Etnia/Tribo.
• Discrepância Importância vs. Sensibilidade: Embora a "Religião/Tradição" seja a identidade mais importante e sensível, outras categorias mostram padrões complexos. Por exemplo, o "Status Militar/Veterano" teve a maior taxa de concordância (74,5%) entre ser importante e ser sensível, enquanto "Área onde vivo" teve baixa concordância de sensibilidade.

B. Familiaridade com GenAI e Percepção de Riscos

• Familiaridade: 68% dos respondentes relataram algum nível de familiaridade. A familiaridade é mais alta na Coreia do Sul e nos EAU, e mais baixa na França e Camarões.
• Percepção de Danos: A "informação imprecisa" é vista como a principal ameaça, independentemente da familiaridade com a tecnologia.
• Ambivalência: Cerca de metade dos respondentes expressou ambivalência sobre a capacidade da IA de representar identidade e cultura, citando a falta de emoção humana e criatividade intrínseca.

C. Linhas Vermelhas Culturais (Cultural Redlines)

• Consenso Global: Mais de 20% (atingindo >30% na maioria dos países) acreditam que certos aspectos da cultura NUNCA devem ser representados por GenAI.
• Temas Proibitivos:
  • Religião e Tradição: Artefatos religiosos, símbolos sagrados, práticas e textos sagrados (ex: orações, monumentos).
  • Traumas Históricos: Eventos como escravidão (EUA), o Holocausto/Hitler (Alemanha) e massacres (Indonésia).
  • Dignidade Humana: Preocupação com a criação de imagens falsas de pessoas ou a distorção da identidade.
  • Arte e Música: Em países como Brasil e Europa, há resistência à representação comercial ou descontextualizada de formas de arte e festivais (ex: Carnaval, Samba).

D. Variações Regionais

• Coreia do Sul: Sensibilidade única em relação ao status de saúde e ocupação profissional.
• EAU: Estabilidade global, com Religião/Tradição dominando tanto a importância quanto a sensibilidade.
• Nigéria e Camarões: Forte ênfase em rituais, línguas locais e práticas tradicionais como áreas de alta sensibilidade.

5. Significância e Recomendações

O estudo conclui que a abordagem atual de tratar a cultura apenas através de uma lente geográfica (país/região) é insuficiente. Os autores propõem uma mudança de paradigma no desenvolvimento de GenAI:

1. Conscientização (Awareness): Incorporar pesquisas e perspectivas humanas como etapa obrigatória no ciclo de desenvolvimento, não como um pensamento posterior.
2. Participação (Participation): Envolver usuários diretamente através de:
   • Modelos Juízes Baseados em Dimensões: Usar avaliadores de comunidades específicas (ex: líderes religiosos) para RLHF.
   • Normas Lideradas pela Comunidade: Feedback direto de detentores de conhecimento cultural.
   • Auditorias Colaborativas: Engajamento contínuo pós-lançamento.
3. Multifacetamento (Multi-facetedness): Reconhecer que a cultura não é "tamanho único".
   • Proposta de Arquivos de Configuração Cultural Dinâmica: Ajustar a probabilidade de recusa ou geração de conteúdo com base na localização e sensibilidade do usuário.
4. Nuance (Nuance) e Framework de Sensibilidade:
   • Nível 1 (Linha Vermelha Proibitiva): Rituais sagrados, orações específicas e representações do divino devem ser bloqueados.
   • Nível 2 (Alta Fidelidade): Artefatos religiosos ou culturais que podem ser gerados apenas se houver garantia de precisão histórica e teológica (ex: usando RAG - Geração Aumentada por Recuperação).

Conclusão Final:
O papel da GenAI na representação cultural exige ir além da simples "segurança" binária. É necessário um framework de sensibilidade que respeite as "linhas vermelhas" definidas pelas próprias comunidades, priorizando a precisão, a dignidade e a autenticidade, especialmente em torno de religião, tradição e traumas históricos. O estudo alerta para os riscos éticos de criar mapas de sensibilidade que possam ser mal utilizados, mas defende que a inclusão dessas perspectivas é vital para uma IA globalmente equitativa.