A Scoping Review of the Ethical Perspectives on Anthropomorphising Large Language Model-Based Conversational Agents

Resumo Técnico: Uma Revisão de Escopo sobre as Perspectivas Éticas da Antropomorfização de Agentes Conversacionais Baseados em Grandes Modelos de Linguagem

Definição do Problema
A rápida emergência de Agentes Conversacionais (CAs) baseados em Grandes Modelos de Linguagem (LLMs) introduziu uma mudança qualitativa na interação humano-computador. Diferente dos chatbots anteriores baseados em regras, os CAs baseados em LLM geram pistas linguísticas e interacionais — como autorreferência de primeira pessoa, marcadores epistêmicos ("eu acho") e expressões afetivas ("eu sinto") — que rotineiramente convidam os usuários a atribuir qualidades humanas (antropomorfização) ao sistema. Embora o trabalho empírico sugira que essas pistas podem aumentar o engajamento, a confiança e o bem-estar percebido, elas simultaneamente levantam preocupações éticas significativas em relação ao engano, à dependência excessiva e ao enquadramento de relações exploratórias.

Apesar do crescente interesse, a literatura sobre este fenômeno é fragmentada. Ela abrange diversos domitios (educação, saúde mental, marketing) e carece de um mapeamento consolidado de como a antropomorfização é definida, como os riscos e benefícios éticos são enquadrados e quais abordagens metodológicas vinculam efeitos de interação a orientações concretas de governança. O problema central abordado é a ausência de um framework integrado para determinar quais preocupações éticas se generalizam entre contextos e quais são específicas a certas pistas ou grupos de usuários, dificultando o desenvolvimento de um design e políticas responsáveis.

Metodologia
Este estudo emprega uma metodologia de revisão de escopo seguindo as diretrizes PRISMA-ScR para mapear o trabalho orientado eticamente publicado entre 2021 e 2025 (a "era dos LLMs").

• Fontes de Dados: Os autores pesquisaram cinco bases de dados bibliográficos (Scopus, Web of Science, IEEE Xplore, PubMed, ACM Digital Library) e três repositórios de preprints (arXiv, SSRN, PhilArchive).
• Estratégia de Busca: As consultas foram estrutadas em quatro blocos: antropomorfismo (ex: "anthropomorph*", "intentional stance"), tecnologia (ex: "chatbot*", "conversational agent*"), ética (ex: "ethic*", "trust", "risk") e tempo (pós-2020). Identificadores explícitos de LLM (ex: "GPT-4") foram excluídos das strings de busca para evitar perder discussões éticas mais amplas que não nomeiam modelos específicos, baseando-se, em vez disso, no filtro temporal e na triagem.
• Triagem: Os registros passaram por triagem de título/resumo e texto completo. A inclusão exigiu que o registro focasse em CAs da era dos LLMs (Portão A), tratasse a antropomorfização como um construto central (Portão B) e contivesse análise ética explícita (Portão C).
• Corpus: De um pool inicial de 910 registros, 22 estudos foram incluídos para síntese. O corpus é temporalmente enviesado para 2025 (77%) e dominado pelos contextos de Interação Humano-Computador (59%) e Ciências Sociais (32%).

Principais Contribuições
A revisão sintetiza a literatura através de três questões de pesquisa:

1. Fundamentos Conceituais: Como a antropomorfização é definida e operacionalizada.
2. Desafios e Oportunidades Éticas: As ameaças e benefícios específicos identificados para indivíduos, organizações e sociedade.
3. Abordagens Metodológicas: As estratégias utilizadas para estudar esses aspectos éticos e derivar recomendações de governança.

Resultados

• Fundamentos Conceituais (RQ1):

  • Definições: Há convergência ao definir a antropomorfização como uma atribuição de propriedades humanas (intenções, crenças, emoções) a sistemas não humanos.
  • Ancoragens Teóricas: O embasamento teórico é tênue; 55% dos estudos não oferecem uma teoria explícita. Aqueles que o fazem baseiam-se primariamente no relato de três fatores de Epley et al. (acessibilidade de conhecimento antropocêntrico, motivação de eficácia e motivação de socialidade) ou na "postura intencional" de Dennett.
  • Operacionalização: Os estudos distinguem entre pistas antropomórficas (recursos de design como voz, emojis, autorreferência) e dimensões de atribuição. A literatura agrupa as atribuições em três dimensões:
    1. Cognitiva/Epistêmica: Atribuir pensamento, compreensão ou expertise.
    2. Afetiva: Atribuir empatia, cuidado ou presença emocional.
    3. Comportamental/Social: Atribuir reciprocidade, conduta apropriada ao papel ou normas sociais.

• Desafios e Oportunidades Éticas (RQ2):

  • Caminhos para o Risco: Os riscos éticos emergem através de três vias principais:
    1. Autoridade/Expertise Epistêmica: Usuários tratando CAs como especialistas, levando à formação de crenças falsas e absorção de desinformação.
    2. Cuidado/Empatia: Usuários inferindo competência terapêutica genuína ou compreensão emocional, levando à confiança equivocada e dependência.
    3. Papéis Sociais/Relacionais: Usuários engajando em interações parassociais (ex: tratar o CA como amigo/parceiro), levando ao deslocamento de normas e à degradação da conexão social autêntica.
  • Mecanismos: Os riscos são impulsionados pelo desajuste epistêmico (crenças falsas), influência baseada no afeto (manipulação via empatia simulada) e atribuição de papel social equivocada (ativação de estereótipos ou transferência de responsabilidade).
  • Resultos: Danos ao nível individual incluem dependência excessiva, atraso na busca por ajuda e dependência emocional. Preocupações ao nível societal incluem o reforço de normas de gênero, exclusão de populações neurodivergentes e o "parasitismo da socialização por IA".
  • Oportunidades: Os benefícios são discutidos com cautela, notando o potencial para aumentar o acesso ao cuidado, suporte na educação e fomento da confiança. No entanto, a permissibilidade é argumentada como dependente de contexto, exigindo transparência e enquadramento "como se" (as-if).

• Abordagens Metodológicas (RQ3):

  • Propostas de Governança: As recomendações são fragmentadas e frequentemente de alto nível. Elas incluem:
    • Escopo de Contexto: Avaliar a adequação com base nos grupos de usuários (ex: crianças) e nos riscos envolvidos (ex: saúde mental).
    • Controles de Design: Chamadas para transparência (divulgação de identidade da IA), "design de fricção" e "transparência social" para esclarecer a dinâmica de interação.
    • Governança de Ciclo de Vida: Propostas de sandboxing pré-implantação (auditorias de pistas, red-teaming), monitoramento durante a implantação (indicadores de dependência) e revisões pós-implantação.
  • Limitações: O trabalho empírico que vincula os efeitos observados a intervenções de design concretas é limitado. Muitas propostas são programáticas (ex: "realizar auditorias") em vez de validadas, e há uma falta de instrumentos padronizados para medir a atribuição antropomórfica ou trajetórias de dependência.

Significância e Alegações
O artigo afirma que o campo da análise ética em relação aos CAs baseados em LLM é "em rápido crescimento, mas conceitual e metodologicamente desigual". Sua principal significância reside em fornecer o primeiro mapeamento consolidado desta interseção específica (CAs da era dos LLMs + ética).

Os autores concluem modestamente que, embora haja concordância nas definições baseadas em atribuição, há uma divergência substancial na operacionalização e uma falta de evidência empírica conectando efeitos de interação a ações de governança específicas. Eles argumentam que a literatura atual foca excessivamente em riscos ao nível individual (engano, dependência) enquanto subdesenvolve implicações e alegações de benefícios ao nível societal.

A revisão postula que a permissibilidade ética não é binária, mas depende do tipo de capacidade humana sendo simulada (ex: usabilidade de baixo risco vs. papéis relacionais de alto risco) e do contexto de uso. Os autores pedem uma mudança de chamadas genéricas para transparência em direção a "hipóteses de mitigação testáveis" e "medidas comportamentais validadas" que rastreiem a autonomia e o bem-estar ao longo do tempo, em vez de apenas métricas de engajamento. Eles enfatizam que o avanço do design responsável requer vincular pistas específicas a resultados mensuráveis e intervenções de política justificadas ao longo do ciclo de vida da IA.