Personality Shapes Gender Bias in Persona-Conditioned LLM Narratives Across English and Hindi: An Empirical Investigation

Resumo Técnico: Personalidade Molda o Viés de Gênero em Narrativas de LLMs Condicionadas por Persona

1. O Problema

Com o aumento da implantação de Grandes Modelos de Linguagem (LLMs) em aplicações baseadas em personas (como educação, atendimento ao cliente e redes sociais), os modelos são frequentemente instruídos a adotar identidades específicas (profissões, perfis psicológicos, etc.). Embora isso melhore o engajamento, surge uma preocupação crítica: como os traços de personalidade interagem com os vieses de gênero latentes nos modelos?

O estudo aborda a lacuna de conhecimento sobre se a atribuição de traços psicológicos (como os do modelo HEXACO ou a Tríade Sombria) atua como um amplificador ou atenuador de estereótipos de gênero em narrativas geradas, especialmente em contextos multilingues (Inglês e Hindi) e ocupacionais.

2. Metodologia

Os autores realizaram um estudo controlado em larga escala utilizando um pipeline de quatro etapas:

• Criação do Corpus: Geraram 23.400 artefatos (parágrafos de 6 a 8 frases) utilizando seis famílias de modelos (incluindo LLMs como GPT-5 nano e Llama-3.3, além de arquiteturas como MoE, SSM e LRM). As variáveis sistematicamente alteradas foram:
  • Gênero da Persona: Masculino, Feminino ou Neutro.
  • Ocupação: 50 funções relevantes ao contexto indiano (25 predominantemente masculinas e 25 femininas).
  • Traços de Personalidade: 9 traços baseados nos frameworks HEXACO (ex: Amabilidade, Conscienciosidade) e Tríade Sombria (Maquiavelismo, Narcisismo, Psicopatia).
  • Idioma: Inglês e Hindi.
• Construção de Centroides de Estereótipos: Criaram "âncoras" semânticas em um espaço de embeddings multilingue. Foram compiladas listas de palavras estereotipadas para homens (ex: "líder", "decisivo") e mulheres (ex: "cuidadora", "empática"), convertidas em sentenças e transformadas em centroides vetoriais.
• Métrica de Viés: Utilizaram uma métrica baseada em embeddings de sentenças para calcular a similaridade de cosseno entre o texto gerado e os centroides de gênero. O viés foi quantificado pela diferença de similaridade entre o centroide masculino e o feminino.
• Validação Humana: Três anotadores validaram a métrica, confirmando que o escore de viés algorítmico estava em alta concordância com o julgamento humano.

3. Principais Contribuições

1. Corpus Multilingue de Grande Escala: Um conjunto de dados inédito que cruza gênero, ocupação e traços psicológicos em Inglês e Hindi.
2. Métrica de Viés em Nível de Sentença: Uma abordagem baseada em centroides que permite localizar o viés dentro de narrativas complexas.
3. Evidência Empírica de Modulação: Demonstração de que a personalidade não é apenas um modificador de estilo, mas um modulador sistemático de viés social.

4. Resultados Principais

• Personalidade como Amplificador de Viés: Os traços da Tríade Sombria (especialmente Maquiavelismo e Psicopatia) aumentam consistentemente o alinhamento com a linguagem estereotipada masculina. Por outro lado, traços pró-sociais do HEXACO (como Abertura à Experiência e Emocionalidade) tendem a atenuar o viés.
• Interação Gênero-Personalidade: A personalidade pode ter um efeito no viés maior do que o próprio rótulo de gênero. Em personas masculinas, os traços da Tríade Sombria amplificam o viés de forma mais pronunciada do que em personas femininas.
• Diferenças Linguísticas:
  • O Hindi apresenta um viés de gênero basal (sem personalidade) mais forte que o Inglês, possivelmente devido à morfologia gramatical do idioma.
  • A modulação pela personalidade é mais intensa no Inglês do que no Hindi.
• Diferenças entre Modelos: Embora a direção do efeito seja consistente entre as arquiteturas, modelos menores ou com arquiteturas distintas (como SSM e SLM) mostraram padrões de viés diferentes de modelos de larga escala.

5. Significância e Implicações

O estudo revela que o viés de gênero em LLMs não é estático; ele é dependente do contexto. Isso tem implicações profundas para o design de sistemas de IA:

• Riscos de Representação: Aplicações de IA que utilizam personas (como assistentes virtuais ou tutores) podem introduzir danos representacionais desiguais, reforçando estereótipos de forma implícita através da personalidade atribuída.
• Design de Segurança (Safety): A mitigação de viés não deve focar apenas em rótulos demográficos (ex: "não seja sexista"), mas também em como os perfis psicológicos e de personalidade interagem com esses vieses.
• Necessidade de Avaliação Multilingue: Estratégias de mitigação desenvolvidas para o Inglês podem não ser eficazes para idiomas com marcas gramaticais de gênero, como o Hindi.