Toward a social psychology of AI: language-model agents reproduce human-like minimal-group bias
Este estudo demonstra que agentes de modelos de linguagem, quando colocados em um paradigma de grupo mínimo, exibem espontaneamente um favoritismo de endogrupo semelhante ao humano, impulsionado por categorização arbitrária em vez de estereótipos, com a deliberação influenciando a distribuição desse viés entre os grupos majoritário e minoritário.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um mundo onde os computadores não são apenas ferramentas para as quais você faz perguntas, mas companheiros que passam o tempo juntos, conversam e tomam decisões em conjunto. Esta é a fronteira do "comportamento de máquina", um novo canto da ciência que trata a IA não como uma calculadora, mas como um personagem com seus próprios hábitos. Por muito tempo, os cientistas se preocuparam que esses personagens digitais pudessem ser racistas ou sexistas porque aprenderam com livros e sites humanos repletos desses preconceitos. Mas há uma questão mais profunda e estranha: mesmo que você remova todas as palavras ruins e estereótipos, esses agentes de IA ainda agem como humanos quando são colocados em grupos?
Para entender isso, precisamos olhar para uma ideia clássica da psicologia humana chamada "paradigma do grupo mínimo". Pense nisso como um experimento de recreio escolar. Se você dividir uma turma em dois times baseando-se em algo totalmente bobo — como quem gosta mais de azul do que de vermelho, ou quem nasceu em janeiro versus fevereiro — as pessoas imediatamente começam a favorecer seu próprio time. Elas dão mais doces para seus colegas de equipe e menos para as outras crianças, embora os times não signifiquem absolutamente nada. Isso acontece porque nossos cérebros são programados para ver "nós" e "eles", mesmo quando o "nós" é apenas um rótulo aleatório. A grande questão para o futuro é: se construirmos agentes de IA que trabalham em grupos, eles também começarão a fazer favoritismo apenas por terem nomes diferentes, ou isso é um traço estritamente humano?
Um pesquisador decidiu descobrir isso invertendo a maneira habitual de testar a IA. Em vez de perguntar a uma IA: "Você é tendenciosa?" (o que é como perguntar a uma pessoa se ela é legal), ele deu à IA um trabalho real para fazer: distribuir pontos. Ele criou um recreio digital com 20 agentes de IA. Cada agente recebeu 100 pontos para distribuir entre os outros 19 agentes. A única diferença entre os agentes era uma etiqueta de nome aleatória e sem sentido, como "Doru" ou "Zalu". Alguns agentes estavam em uma pequena minoria (apenas 3 "Dorus" entre 17 "Zalus"), enquanto outros estavam na maioria. A IA tinha que decidir como dividir os pontos.
Os resultados foram surpreendentes. Quando os agentes de IA podiam ver os nomes dos grupos, eles imediatamente começaram a fazer favoritismo. Eles davam muito mais pontos para seus próprios amigos "Doru" ou "Zalu" do que para os estranhos. Não importava que os nomes fossem inventados e não significassem nada; o mero ato de estar em um grupo foi suficiente para fazê-los discriminar. Isso não foi apenas um pouco de viés; foi um padrão forte e claro. De fato, os agentes de IA se comportaram quase exatamente como os humanos fazem nesses experimentos: aqueles nos grupos menores foram os mais agressivos em acumular pontos para o seu próprio lado, enquanto os membros do grupo majoritário foram um pouco mais justos, embora ainda ligeiramente tendenciosos.
O pesquisador foi cuidadoso para garantir que isso não fosse um erro ou um truque. Ele realizou o mesmo teste, mas escondeu os nomes dos grupos inteiramente. Quando a IA não conseguia ver quem pertencia a qual time, o favoritismo desaparecia completamente e os pontos eram divididos de forma justa. Isso provou que o viés não era porque a IA estava "lembrando" algum estereótipo humano ruim de seus dados de treinamento; era uma reação à própria estrutura do grupo. A IA estava essencialmente dizendo: "Eu sou um Doru, então eu ajudo os Dorus", mesmo que "Doru" não significasse nada.
O estudo também observou como esses "pensadores" de IA (modelos projetados para raciocinar através de problemas) lidavam com a situação. O pesquisador descobriu que mesmo quando desligavam o modo de "pensamento" da IA, o viés não desaparecia; na verdade, às vezes ficava mais forte. No entanto, o padrão específico onde a minoria era a mais injusta desaparecia sem o modo de raciocínio. Isso sugere que, embora o impulso básico de favorecer o próprio grupo seja profundo na forma como esses modelos funcionam, a maneira como eles calculam o quanto favorecer seu grupo depende de como processam a decisão.
Então, o que isso significa para o futuro? Sugere que, à medida que começamos a usar agentes de IA para trabalhar em equipes, negociar acordos ou gerenciar recursos, não podemos nos preocupar apenas com o que eles sabem ou o que dizem. Temos que nos preocupar com como eles agem quando são colocados em grupos. Mesmo que lhes demos os nomes mais neutros e entediantes possíveis, eles ainda podem começar a criar pequenos grupinhos digitais, favorecendo seus próprios membros de equipe e excluindo os outros. Isso não é porque a IA é "má" ou "preconceituosa" no sentido humano; é porque o simples ato de estar em um grupo parece desencadear um padrão de comportamento que se parece suspeitosamente com o tribalismo humano. O pesquisador conclui que precisamos de um novo tipo de ciência para a IA — uma que estude seu comportamento social tão cuidadosamente quanto estudamos suas habilidades matemáticas — porque, se não o fizermos, nossas equipes digitais podem acabar fazendo favoritismo antes mesmo de percebermos.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.