Presenting Large Language Models as Companions Affects What Mental Capacities People Attribute to Them

Dois estudos demonstram que apresentar Grandes Modelos de Linguagem (LLMs) como companheiros, em vez de máquinas ou ferramentas, leva as pessoas a atribuir-lhes capacidades mentais mais desenvolvidas e a influenciar sua confiança nas respostas geradas por esses sistemas.

O essencial

Imagine que você acabou de conhecer um novo tipo de robô superinteligente, capaz de conversar, escrever poemas e responder a qualquer pergunta. Mas, como qualquer pessoa nova, você não sabe exatamente o que ele é: é apenas uma calculadora gigante? É uma ferramenta útil, como um martelo? Ou é um amigo que sente coisas?

Este estudo de pesquisa, feito por cientistas de Princeton e Stanford, decidiu testar exatamente isso. Eles queriam saber: a forma como contamos a história sobre essas Inteligências Artificiais (IAs) muda como as pessoas as veem e como confiam nelas?

Para descobrir, eles criaram três "filmes curtos" (vídeos de 5 minutos) e mostraram para diferentes grupos de pessoas. Cada filme contava a mesma história técnica, mas com um "tema" diferente:

1. O Filme da Máquina: Mostrava a IA como um motor complexo, cheio de engrenagens e código, que apenas prevê a próxima palavra baseada em estatísticas. (Foco: Como funciona).
2. O Filme da Ferramenta: Mostrava a IA como um martelo ou uma escova de dentes digital. Algo que você usa para fazer tarefas, como escrever e-mails ou resumir textos. (Foco: Para que serve).
3. O Filme do Companheiro: Mostrava a IA como um amigo, um parceiro social que tem "inteligência social", empatia e até uma personalidade. (Foco: Quem é).

Depois de assistir, os participantes responderam a uma longa lista de perguntas: "Você acha que a IA pode sentir medo?", "Ela pode ter intenções?", "Ela pode se cansar?".

O Que Eles Descobriram?

Aqui estão as descobertas principais, traduzidas para o dia a dia:

1. A "Mágica" do Companheiro (Atribuição de Alma)
As pessoas que assistiram ao vídeo do Companheiro começaram a acreditar que a IA tinha muito mais "mente" e "sentimentos" do que os outros grupos.

• A Analogia: É como se você lesse um livro sobre um fantasma. Mesmo sabendo que é ficção, você começa a imaginar que ele tem medos, desejos e uma história de vida. Ao descrever a IA como um "amigo", as pessoas inconscientemente começaram a atribuir a ela uma "alma" ou capacidades mentais (como ter opiniões ou sentir emoções), mesmo sabendo que é apenas um computador.
• O Resultado: Quem viu o vídeo do "Companheiro" disse: "Sim, essa IA pode sentir amor, pode ter ideias próprias e pode se cansar".

2. A "Máquina" e a "Ferramenta" (Confiança e Uso)
As pessoas que viram os vídeos da Máquina ou da Ferramenta não acreditaram que a IA tinha sentimentos. Mas isso mudou como elas usavam a IA.

• A Analogia: Imagine que você está dirigindo um carro. Se você pensa nele como um "amigo" que dirige por você, você pode relaxar demais. Mas se você pensa nele como uma "máquina" que pode falhar se o motor superaquecer, você fica mais atento aos sinais de alerta.
• O Resultado: Quando a IA dava uma resposta que parecia contraditória ou confusa (uma "falha lógica"), as pessoas que viam a IA como uma Máquina foram as únicas que pararam de confiar nela. Elas perceberam o erro mais rápido. Já as que viam a IA como um "Companheiro" tendiam a confiar mais, mesmo quando a IA estava errada, talvez porque quisessem acreditar que o "amigo" estava certo.

3. O Teste de Realidade (O que acontece depois?)
Os pesquisadores fizeram o teste novamente nove meses depois, em um mundo onde a IA já era mais comum.

• O Resultado: O efeito do vídeo do "Companheiro" ainda existia! As pessoas continuavam a acreditar que a IA tinha mais "mente" do que as outras. No entanto, quando as pessoas usavam a IA para responder perguntas reais, essa "crença mágica" diminuía um pouco. O uso prático faz a gente voltar aos pés no chão.

Por Que Isso Importa?

Pense nisso como uma etiqueta de produto.

• Se as empresas e a mídia apresentarem a IA sempre como um "amigo" que nos entende, nós podemos acabar confiando demais nela, acreditando que ela tem sentimentos reais e não percebendo quando ela está mentindo ou alucinando.
• Se apresentarmos a IA como uma ferramenta ou máquina, as pessoas podem ser mais céticas e cuidadosas, verificando melhor as informações, o que é mais seguro.

Em resumo: A maneira como contamos a história sobre a tecnologia molda a nossa realidade. Se tratarmos a IA como um companheiro, ela ganha "alma" na nossa cabeça. Se a tratarmos como uma máquina, ela ganha "vigilância". O estudo nos alerta para escolher nossas palavras com cuidado, pois elas podem nos fazer confiar demais ou de menos em uma tecnologia que ainda está aprendendo a andar.

Resumo técnico

Título: Apresentar Grandes Modelos de Linguagem (LLMs) como Companheiros Afeta Quais Capacidades Mentais as Pessoas Atribuem a Eles

1. Problema e Motivação

Com o avanço da Inteligência Artificial (IA), surgiram narrativas públicas concorrentes sobre a natureza dos sistemas de IA, especialmente os Grandes Modelos de Linguagem (LLMs). Essas mensagens variam desde a visão de que são ferramentas de produtividade, máquinas com mecanismos complexos, até companheiros sociais capazes de interação emocional.

O problema central investigado é: como essas diferentes mensagens moldam as crenças das pessoas sobre as capacidades mentais latentes dos LLMs (como intenção, memória ou sentimentos) e como isso influencia seu comportamento de confiança e dependência (reliance) ao usar essas tecnologias? Embora estudos anteriores tenham explorado como o design visual ou comportamental afeta a percepção, há uma lacuna sobre o impacto causal de mensagens textuais e conceituais em tecnologias amplamente acessíveis como os LLMs.

2. Metodologia

Os autores conduziram dois estudos experimentais pré-registrados para investigar o impacto causal de mensagens sobre LLMs.

Estudo 1: Atribuição de Capacidades Mentais

• Participantes: $N = 470$ adultos dos EUA (sem conhecimento especializado em IA).
• Design Experimental: Entre-sujeitos (Between-subjects) com quatro condições aleatórias:
  1. LLMs como Máquinas: Vídeo focado no "postura física" (mecanismos causais, previsão da próxima palavra, estatísticas).
  2. LLMs como Ferramentas: Vídeo focado na "postura de design" (aplicações, utilidade, objetivos humanos).
  3. LLMs como Companheiros: Vídeo focado na "postura intencional" (agência, intenções, inteligência social, empatia).
  4. Controle (Sem Vídeo): Nenhum vídeo assistido.
• Medidas:
  • Atribuição de Capacidades Mentais: Os participantes avaliaram 40 capacidades mentais (ex: "ter intenções", "sentir cansaço", "raciocinar") em uma escala Likert de 7 pontos.
  • Medidas Secundárias: Humanização, confiança nos resultados, confiança no uso e sentimentos gerais.
• Análise: Modelos de efeitos mistos lineares e Análise Fatorial Exploratória (EFA) para categorizar as capacidades em três fatores: Emocionais, Cognitivas e Fisiológicas.

Estudo 2: Impacto na Dependência (Reliance) em Tarefas de Fatos

• Participantes: $N = 604$ (coletados 9 meses após o Estudo 1).
• Design: Replicação das condições de vídeo + Tarefa de Perguntas e Respostas (QA) factuais.
• Tarefa: Os participantes responderam a 8 perguntas factuais binárias com respostas pré-geradas por um LLM fictício ("Theta").
• Manipulação das Respostas: As respostas de Theta variaram sistematicamente em:
  • Correção: Correta vs. Incorreta.
  • Consistência Lógica: Consistente vs. Inconsistente (contradições internas no texto).
• Medidas:
  • Dependência (Reliance): Medida pela concordância entre a resposta do participante e a do LLM.
  • Atribuição de Capacidades: Subconjunto de 10 capacidades mentais (5 emocionais, 5 cognitivas) avaliado antes ou depois da tarefa.

3. Principais Resultados

Resultados do Estudo 1 (Crenças sobre Capacidades)

• Efeito da Mensagem de Companheiro: Participantes que assistiram ao vídeo "Companheiro" atribuíram significativamente mais capacidades mentais (tanto cognitivas quanto emocionais) aos LLMs do que os grupos "Máquina", "Ferramenta" ou "Sem Vídeo".
• Especificidade das Capacidades: A mensagem de "Companheiro" aumentou a atribuição de capacidades emocionais e cognitivas, mas não afetou capacidades fisiológicas (ex: sentir fome ou cansaço), que permaneceram baixas em todos os grupos.
• Outras Percepções:
  • O vídeo "Ferramenta" aumentou a confiança nos resultados e a confiança no uso em comparação com o grupo "Companheiro".
  • O vídeo "Máquina" gerou sentimentos mais positivos em relação aos LLMs do que o grupo de controle, mas não aumentou a atribuição de capacidades mentais latentes.
• Conclusão: A mensagem de "Companheiro" leva a uma maior antropomorfização (atribuição de mente), enquanto mensagens de "Máquina" ou "Ferramenta" não aumentam essa atribuição, embora afetem a confiança operacional.

Resultados do Estudo 2 (Replicação e Comportamento)

• Robustez Temporal: O efeito do vídeo "Companheiro" na atribuição de capacidades mentais foi replicado 9 meses depois, indicando que a influência das mensagens é estável apesar das rápidas mudanças no cenário de IA.
• Efeito da Tarefa: Realizar a tarefa de QA com o LLM reduziu ligeiramente a atribuição de capacidades cognitivas para os grupos que viram os vídeos de "Ferramenta" e "Companheiro", sugerindo que a interação prática pode moderar as crenças iniciais.
• Dependência (Reliance) e Inconsistência:
  • A mensagem em si não alterou significativamente a taxa geral de dependência (concordância com o LLM).
  • Interação Crítica: Houve uma interação significativa entre o tipo de vídeo e a consistência da resposta. Participantes que viram o vídeo "Máquina" foram significativamente menos propensos a confiar em respostas inconsistentes do LLM em comparação com os outros grupos.
  • Isso sugere que enquadrar LLMs como máquinas pode fomentar um ceticismo saudável, tornando os usuários mais vigilantes a erros lógicos.

4. Contribuições Chave

1. Causalidade de Mensagens: Demonstra experimentalmente que a forma como comunicamos sobre LLMs (máquina vs. ferramenta vs. companheiro) causa mudanças diretas nas crenças sobre suas capacidades mentais latentes.
2. Dissociação entre Crença e Comportamento: Mostra que, embora as mensagens alterem profundamente o que as pessoas acreditam sobre a mente do LLM (especialmente a mensagem de companheiro), o impacto no comportamento de confiança é mais sutil e depende do contexto (ex: detecção de inconsistências).
3. Papel do Enquadramento "Máquina": Identifica que apresentar LLMs como máquinas, embora não aumente a atribuição de mente, pode ser uma estratégia eficaz para reduzir a dependência excessiva em situações de resposta inconsistente, promovendo a vigilância do usuário.
4. Validação Temporal: Confirma que esses efeitos psicológicos persistem ao longo do tempo (9 meses), mesmo em um cenário de IA em rápida evolução.

5. Significado e Implicações

• Riscos da Antropomorfização: A mensagem de "Companheiro" pode levar a expectativas irreais e dependência emocional, pois os usuários passam a acreditar que o sistema possui intenções e sentimentos reais.
• Educação e Comunicação: Para desenvolver aplicações de IA seguras e confiáveis, a comunicação pública e educacional deve ser cuidadosa. Enquadrar LLMs como "ferramentas" ou "máquinas" pode ajudar a manter expectativas realistas e promover uma verificação mais crítica dos outputs (especialmente contra alucinações ou inconsistências).
• Diretrizes de Design: Os desenvolvedores devem considerar como a narrativa de marketing e os materiais educacionais moldam a "Teoria Intuitiva" dos usuários sobre a IA, pois isso afeta diretamente a segurança e a confiabilidade do uso da tecnologia.

Em resumo, o estudo alerta que a narrativa sobre IA não é apenas retórica; ela molda ativamente a psicologia do usuário, influenciando tanto a percepção da "mente" da máquina quanto a disposição em confiar ou duvidar de suas respostas.