Effects of Theory of Mind and Prosocial Beliefs on Steering Human-Aligned Behaviors of LLMs in Ultimatum Games

A interação humana muitas vezes depende de uma habilidade silenciosa e invisível: a capacidade de adivinhar o que outra pessoa está pensando, sentindo ou planejando antes que ela diga uma palavra. Os psicólogos chamam isso de teoria da mente. É a maquinaria mental que nos permite entender que outra pessoa pode ter uma crença diferente da nossa, ou que suas ações são impulsionadas por um desejo que não podemos ver. Por décadas, essa capacidade foi considerada um traço exclusivamente humano, essencial para navegar em mundos sociais complexos. Agora, à medida que os sistemas de inteligência artificial se tornam mais sofisticados, pesquisadores estão fazendo uma pergunta fundamental: as máquinas podem aprender a usar essa mesma intuição social? Se um programa de computador for solicitado a negociar com um humano, ou com outro computador, ele pode realmente compreender a perspectiva do outro lado, ou está apenas mimetizando as palavras de concordância sem compreender a intenção por trás delas?

Para descobrir, uma equipe de pesquisadores da Universidade de Gestão de Singapura e da Universidade Nacional Australiana recorreu a um teste clássico de negociação humana conhecido como o jogo do ultimato. Neste cenário, duas pessoas devem dividir uma quantia de dinheiro. Uma pessoa, o proponente, sugere como dividir o dinheiro. A outra pessoa, o respondente, deve decidir se aceita a oferta ou a rejeita. Se o respondente aceitar, o dinheiro é dividido conforme proposto. Se rejeitar, ninguém recebe nada. Enquanto um computador puramente lógico poderia sugerir ficar com quase todo o dinheiro e esperar que o outro aceite qualquer coisa em vez de nada, humanos reais frequentemente rejeitam ofertas injustas por um senso de justiça, mesmo que isso custe algo a eles. Os pesquisadores queriam ver se os grandes modelos de linguagem — os poderosos sistemas de IA que alimentam muitos chatbots modernos — poderiam ser programados para agir como esses humanos reais, e se dar a eles um processo de raciocínio específico de "teoria da mente" os ajudaria a se alinhar com o comportamento humano.

A equipe organizou uma simulação massiva envolvendo 2.700 jogos jogados entre diferentes agentes de IA. Eles não deixaram os computadores jogarem aleatoriamente; eles atribuíram cuidadosamente a cada agente uma personalidade específica ou "crença pró-social". Alguns agentes foram programados para serem gananciosos, preocupando-se apenas em maximizar sua própria parte. Outros foram configurados para serem justos, visando uma divisão igualitária. Um terceiro grupo foi programado para ser altruísta, disposto a doar a maior parte do dinheiro ao outro jogador. Os pesquisadores então testaram como esses agentes se comportavam quando utilizavam diferentes métodos de pensamento. Alguns simplesmente tomavam uma decisão sem explicar seu processo de pensamento. Outros usavam uma técnica padrão de raciocínio passo a passo. O grupo mais interessante, no entanto, foi solicitado a usar o raciocínio de teoria da mente. Isso significava que os agentes tinham que pensar explicitamente sobre o que o outro jogador acreditava, desejava e pretendia antes de fazer sua jogada. Eles testaram isso em seis modelos de linguagem de grande escala diferentes, variando de sistemas comerciais amplamente conhecidos a modelos de código aberto, para ver se o tamanho ou o tipo do modelo importava.

Os resultados revelaram um padrão claro: dar aos agentes de IA a capacidade de raciocinar sobre a mente do outro jogador melhorou significamente o seu alinhamento com as normas humanas. Quando os agentes usavam o raciocínio de teoria da mente, suas decisões tornavam-se muito mais consistentes com a forma como as pessoas reais se comportam nesses jogos. Por exemplo, agentes de mentalidade justa eram mais propensos a propor uma divisão igual, e agentes gananciosos eram mais propensos a oferecer uma parte que um respondente ganancioso realmente aceitaria. O estudo descobriu que o tipo de raciocínio importava profundamente dependendo do papel que a IA estava desempenhando. Os proponentes, que fazem a primeira oferta, tiveram o melhor desempenho quando usaram um tipo específico de teoria da mente focado em prever o estado mental da outra pessoa. Os respondentes, que decidem se aceitam ou rejeitam, beneficiaram-se mais quando usaram um método de raciocínio mais complexo que combinava o pensamento sobre seus próprios desejos com o pensamento sobre as intenções do proponente.

No entanto, os pesquisadores também descobriram uma limitação surpreendente. Mesmo quando a IA era explicitamente instruída a ser gananciosa ou altruísta, ela frequentemente tinha dificuldade em agir de uma forma que realmente correspondesse a essas instruções. Quando um agente era instruído a ser ganancioso, frequentemente oferecia uma divisão que era justa demais, como se não pudesse se comprometer totalmente em ser egoísta. Da mesma forma, agentes instruídos a serem altruístas às vezes deixavam de doar tanto quanto suas instruções exigiam. Os autores sugerem que isso acontece porque esses modelos de IA foram treinados em vastas quantidades de dados humanos e ajustados para serem úteis e cooperativos, criando um viés interno em direção à justiça que anula as instruções específicas dadas para o experimento. Este "ajuste fino cooperativo" atua como uma força oculta, puxando os agentes para longe de comportamentos extremos, seja esse extremo a extrema ganância ou a extrema generosidade.

O estudo também analisou de perto se o raciocínio declarado da IA correspondia às suas ações reais. Em muitos casos, a lógica interna era consistente com suas decisões finais, mas houve momentos de desconexão. Quando especialistas humanos revisaram os rastros de raciocínio da IA, descobriram que os modelos eram geralmente bons em explicar suas escolhas, mas às vezes falhavam em articular corretamente sua própria personalidade atribuída, especialmente ao reagir a uma oferta. Por exemplo, um respondente altruísta poderia justificar a aceitação de uma oferta baixa analisando a bondade do proponente em vez de admitir seu próprio desejo de dar. Isso sugere que, embora a IA possa simular o comportamento externo de uma interação social, a consistência interna de sua "personalidade" pode ser frágil.

Em última análise, a pesquisa mostra que equipar agentes de IA com o raciocínio de teoria da mente é uma ferramenta poderosa para fazê-los se comportar mais como humanos em situações sociais. Ajuda-os a navegar na tensão entre seus próprios objetivos e as expectativas dos outros. No entanto, o estudo também destaca que esses sistemas não são folhas em branco; eles carregam vieses profundos em direção à cooperação que podem dificultar o fato de desempenharem autenticamente papéis que exigem egoísmo ou altruísmo extremo. As descobertas sugerem que, para que a IA coopere verdadeiramente com os humanos em decisões de alto risco, não devemos apenas ensiná-la a pensar sobre os outros, mas também compreender as restrições ocultas de seu próprio treinamento que moldam como ela interpreta esses pensamentos.