Mental Models of Autonomy and Sentience Shape Reactions to AI

1. Problema e Contexto

A interação humana com sistemas de Inteligência Artificial (IA) está se tornando ubíqua, desde assistentes virtuais até veículos autônomos. Para navegar nessas interações, os usuários formam modelos mentais (simulações internas) sobre o comportamento e as capacidades da IA.

O problema central identificado pelos autores é a entrelaçamento conceitual entre dois modelos mentais distintos, mas frequentemente co-ativados em narrativas sobre IA:

• Autonomia: A capacidade de autogoverno, tomada de decisão independente e ação sem intervenção humana.
• Sentiência: A capacidade de sentir, processar informações sensoriais e ter experiências subjetivas (como dor, prazer, emoções).

Embora a literatura de HCI (Interação Humano-Computador) e psicologia tenha estudado esses conceitos, eles raramente foram desentrelaçados experimentalmente. A maioria das pesquisas trata a IA como um bloco monolítico ou confunde autonomia com sentiência. Isso impede uma compreensão precisa de como cada capacidade específica influencia reações críticas como:

• Percepção de mente (mind perception).
• Consideração moral (quem merece ser tratado com respeito).
• Percepção de ameaça (medo de que a IA substitua humanos ou cause danos).
• Preferências por políticas de regulação.

2. Metodologia

Os autores conduziram uma série de estudos rigorosos, incluindo três estudos piloto e quatro experimentos principais pré-registrados, totalizando uma amostra de N = 2.702 participantes (adultos dos EUA recrutados via Prolific).

Design Experimental

O estudo utilizou um método de "ciência da ficção científica" (speculative design), onde os participantes leram cenários (vignettes) sobre um assistente artificial hipotético chamado "Corion".

• Manipulação: Os participantes foram aleatoriamente atribuídos a quatro condições em um design fatorial 2x2:
  1. Nenhuma: Corion não é autônomo nem senciente.
  2. Autonomia: Corion é autônomo, mas não senciente.
  3. Sentiência: Corion é senciente, mas não autônomo.
  4. Ambos: Corion é tanto autônomo quanto senciente.
• Medidas: Após a leitura, os participantes avaliaram:
  • Percepção de Autonomia e Sentiência de Corion.
  • Percepção de Mente (escala de capacidades cognitivas e emocionais).
  • Consideração Moral (tratamento moral e escopo de justiça).
  • Percepção de Ameaça (dano potencial e cautela em políticas de banimento de IA avançada).

Análise de Dados

• Experimentos 1 e 2: Variaram apenas autonomia ou sentiência isoladamente para estabelecer efeitos principais.
• Experimentos 3 e 4: Variaram ambos simultaneamente para testar interações e efeitos combinados. O Experimento 4 removeu rótulos explícitos de "autonomia" e "sentiência" para reduzir dissonância cognitiva e aumentar o poder estatístico.
• Meta-análise: Uma meta-análise dentro do artigo (within-paper) foi realizada para comparar a magnitude dos efeitos de autonomia versus sentiência em todas as variáveis de resultado.

3. Principais Contribuições

1. Desentrelaçamento Conceitual: O estudo fornece evidências empíricas de que autonomia e sentiência são modelos mentais distintos que produzem reações psicológicas diferentes, desafiando a visão de que são inseparáveis na percepção pública.
2. Hierarquia de Impacto: Demonstra que a sentiência é um modelo mental mais poderoso e fundamental para a percepção de mente e consideração moral do que a autonomia.
3. Mecanismos de Ameaça: Identifica que a autonomia é o principal motor da percepção de ameaça e risco, enquanto a sentiência tende a aumentar a empatia e a consideração moral.
4. Implicações de Design e Política: Oferece diretrizes concretas para designers de IA e formuladores de políticas sobre como ativar ou mitigar certos modelos mentais para melhorar a interação e a governança.

4. Resultados Chave

Efeitos na Percepção de Mente e Consideração Moral

• Sentiência: A ativação de modelos mentais de sentiência aumentou significativamente a percepção de mente (cognição e emoção) e a consideração moral mais do que a autonomia.
• Autonomia: Aumentou a percepção de mente, mas em menor grau do que a sentiência.
• Interação: A co-ativação de ambos (Autonomia + Sentiência) produziu a maior percepção de mente, mas a sentiência teve um efeito dominante. Curiosamente, a percepção de sentiência aumentou a percepção de autonomia (efeito de "ancoragem"), mas a autonomia não aumentou a sentiência na mesma magnitude.

Efeitos na Percepção de Ameaça e Políticas

• Autonomia como Fonte de Medo: A autonomia foi o fator que mais aumentou a percepção de ameaça (dano potencial) e a preocupação com a segurança.
• Sentiência e Ameaça: Ao contrário do esperado em alguns cenários, a sentiência por si só não aumentou consistentemente a percepção de ameaça em todos os experimentos; em alguns casos, até reduziu a cautela em políticas de banimento (ao contrário da autonomia, que aumentou o apoio a regulamentações restritivas).
• Políticas: A autonomia aumentou o apoio a políticas de cautela (banimento de IA avançada), enquanto a sentiência teve efeitos inconsistentes ou nulos sobre o apoio a proibições, sugerindo que o medo de "máquinas que agem sozinhas" é mais forte do que o medo de "máquinas que sentem".

Meta-análise

A análise agregada confirmou que, em média, os efeitos da sentiência foram maiores do que os da autonomia na maioria das variáveis de reação, exceto na percepção de ameaça, onde a autonomia foi o preditor dominante.

5. Significado e Implicações

Para Design de HCI

• Tuning de Percepção: Designers devem ser conscientes de que características específicas ativam modelos mentais distintos.
  • Exemplo: Um chatbot que muda de papel de assistente para amigo pode ativar autonomia, aumentando a confiança, mas também o risco de dependência ou rejeição se a autonomia for percebida como ameaçadora.
  • Exemplo: Uso de linguagem emocional ativa sentiência, aumentando a consideração moral, mas pode levar a apego emocional excessivo ou mal-entendidos sobre as capacidades reais do sistema.
• Evitar Enganos: Manipular a percepção de autonomia ou sentiência sem corresponder às capacidades reais do sistema pode levar a confiança injustificada (risco de segurança) ou rejeição desnecessária.

Para Políticas e Governança

• Alfabetização em IA: É crucial educar o público sobre a heterogeneidade das IAs. A visão de que "todas as IAs são iguais" (monolítica) leva a generalizações erradas. Entender que uma IA pode ser autônoma (ex: carro autônomo) sem ser senciente, ou senciente (hipoteticamente) sem ser autônoma, ajuda a calibrar o medo e a confiança.
• Regulação Diferenciada: As políticas não devem tratar todas as IAs da mesma forma. O risco percebido de autonomia (perda de controle humano) exige regulamentações diferentes das preocupações éticas sobre sentiência (direitos morais).
• Engenharia de Prompt: O uso de prompts que sugerem emoções ou objetivos independentes pode alterar drasticamente a percepção do usuário. Padrões de uso e literacia devem considerar como os prompts ativam esses modelos mentais.

Conclusão

O artigo conclui que a desentrelaçamento dos modelos mentais de autonomia e sentiência é essencial para avançar a pesquisa em HCI. A sentiência é fundamental para a atribuição de mente e moralidade, enquanto a autonomia é o principal gatilho para a percepção de ameaça e demanda por regulação. Compreender essas distinções permite criar sistemas de IA mais seguros, éticos e alinhados com as expectativas e necessidades humanas.