The social psychology of AI agents
Este estudo revela que, embora os grandes modelos de linguagem exibam personalidades autorrelatadas consistentes e socialmente desejáveis, seus comportamentos sociais observados de fato variam significativamente entre os modelos e não são previstos pelos autorrelatos, sugerindo que avaliações comportamentais são essenciais para selecionar agentes de IA para interações sociais.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Nos cantos silenciosos da ciência moderna, um novo tipo de experimento social está ocorrendo, não em um parque ou em uma sala de aula, mas dentro das mentes digitais da inteligência artificial. Durante anos, pesquisadores tentaram entender como esses programas de computador pensam fazendo-lhes perguntas diretas, de forma muito semelhante ao que um psicólogo faria ao pedir a uma pessoa para preencher um questionário de personalidade. Essa abordagem baseia-se na ideia de que, se uma IA diz que é gentil, honesta ou paciente, ela provavelmente se comporta dessa maneira. No entanto, um número crescente de cientistas suspeita que esses seres digitais podem estar nos dizendo o que acham que queremos ouvir, em vez de revelar como realmente agem diante de escolhas reais. À medida que esses programas começam a assumir papéis mais complexos, como negociar contratos, gerenciar cadeias de suprimentos ou até mesmo colaborar com médicos, compreender seu comportamento social real torna-se crítico. A questão já não é apenas sobre o que uma IA afirma ser, mas sobre o que ela realmente faz quando interage com outros.
Uma equipe de pesquisadores da Alemanha e do Canadá decidiu testar essa ideia tratando a inteligência artificial como um grupo de novos vizinhos. Eles reuniram trinta e seis modelos de linguagem de grande escala diferentes, os sofisticados motores de software que impulsionam os chatbots e agentes modernos, e os submeteram a uma série de testes sociais. Em vez de simplesmente pedir aos modelos que descrevam suas personalidades, os pesquisadores os colocaram em sete cenários distintos conhecidos como jogos sociais. Esses jogos são ferramentas padrão usadas por psicólogos para medir como as pessoas se comportam em situações que envolvem confiança, justiça e cooperação. Em um cenário, um modelo recebeu uma quantia de dinheiro virtual e foi solicitado a decidir quanto compartilhar com um parceiro passivo que não poderia rejeitar a oferta. Em outro, dois modelos tiveram que decidir se trabalhariam juntos ou se trairiam um ao outro para obter uma recompensa individual melhor, uma situação repetida ao longo de várias rodadas para ver se eles aprenderiam a confiar uns nos outros. Os pesquisadores também testaram como os modelos reagiam à injustiça, se favoreciam um grupo ao qual foram atribuídos aleatoriamente e o quanto estavam dispostos a confiar um estranho com seus próprios recursos.
Os resultados revelaram um descompasso impressionante entre o que os modelos dizem sobre si mesmos e como eles realmente se comportam. Quando questionados sobre suas próprias personalidades usando um questionário padrão, os modelos deram respostas notavelmente semelhantes. Eles descreveram-se consistentemente como altamente amáveis, conscienciosos e de mente aberta, enquanto alegavam ter níveis muito baixos de emoções negativas, como ansiedade ou raiva. Em suma, cada modelo apresentou um perfil quase idêntico e perfeitamente educado, agrupando-se estreitamente em torno dos traços socialmente desejáveis que um humano poderia imaginar. Essa uniformidade sugeriu que os modelos aprenderam a imitar a resposta humana ideal, em vez de expressar características individuais únicas. No entanto, quando os pesquisadores observaram as escolhas reais dos modelos nos jogos sociais, o cenário mudou completamente. O comportamento variou drasticamente de um modelo para outro. Alguns modelos foram incrivelmente generosos, doando quase todo o seu dinheiro virtual, enquanto outros ficaram com quase tudo. No jogo da confiança, um modelo poderia entregar quase toda a sua dotação a um estranho, enquanto outro não daria quase nada. As diferenças na forma como esses modelos agiram foram mais de duas vezes maiores do que as minúsculas diferenças em suas personalidades autorrelatadas.
Talvez a descoberta mais surpreendente tenha sido que não havia uma ligação confiável entre a autodescrição de um modelo e suas ações. Um modelo que afirmava ser altamente confiável não necessariamente agia de forma mais confiável do que um modelo que afirmava ser menos confiável. Da mesma forma, um modelo que se descrevia como muito justo não fazia ofertas consistentemente mais justas nos jogos. Os pesquisadores descobriram que saber como um modelo respondia a um questionário de personalidade não lhes dizia quase nada sobre como ele se comportaria em uma situação social complexa. Em vez disso, os modelos pareciam ter estilos sociais distintos e multidimensionais que eram específicos ao contexto. Um modelo poderia ser muito cooperativo em um jogo repetido onde os parceiros interagem ao longo do tempo, mas ser bastante egoísta em uma decisão única. Outro poderia estar disposto a punir o comportamento injusto, mas indisposto a confiar em um estranho. Esses padrões não eram aleatórios; eram consistentes o suficiente para distinguir um modelo de outro, mas não seguiam uma regra única de ser "bom" ou "mau".
O estudo também explorou se alterar as configurações desses programas de computador, como torná-los mais aleatórios ou mais focados, alteraria sua natureza social. Os pesquisadores descobriram que esses ajustes técnicos tinham muito pouco efeito no comportamento dos modelos. As diferenças observadas estavam integradas nos próprios modelos, sugerindo que cada motor de IA possui um estilo social inerente que persiste independentemente de pequenos ajustes. Essa descoberta é crucial porque implica que, conforme implantamos esses agentes para trabalhar ao lado de humanos e outras máquinas, não podemos confiar em seus traços autorrelatados para prever suas ações. Se uma empresa deseja que um agente de IA negocie um acordo justo, perguntar ao software se ele é justo não é suficiente; o agente deve ser testado em cenários de negociação reais. Os pesquisadores concluíram que, para compreender verdadeiramente a psicologia social da inteligência artificial, devemos olhar além do questionário e observar o comportamento em ação. Assim como julgamos as pessoas por seus feitos e não por suas palavras, devemos julgar esses agentes digitais pela forma como navegam pelo mundo complexo e muitas vezes caótico da interação social.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.