A Scoping Review of the Ethical Perspectives on Anthropomorphising Large Language Model-Based Conversational Agents

Resumen Técnico: Una Revisión de Alcance sobre las Perspectivas Éticas de la Antropomorfización de Agentes Conversacionales Basados en Modelos de Lenguaje de Gran Escala

Planteamiento del Problema
La rápida emergencia de los Agentes Conversacionales (AC) basados en Modelos de Lenguaje de Gran Escala (LLM, por sus siglas en inglés) ha introduido un cambio cualitativo en la interacción humano-computadora. A diferencia de los chatbots anteriores basados en reglas, los AC basados en LLM generan señales lingüísticas e interaccionales —como la autorreferencia en primera persona, marcadores epistémicos ("pienso que") y expresiones afectivas ("siento que")— que invitan rutinariamente a los usuarios a atribuir cualidades humanas (antropomorfización) al sistema. Si bien el trabajo empírico sugiere que estas señales pueden aumentar el compromiso, la confianza y la percepción de bienestar, simultáneamente plantean preocupaciones éticas significativas relacionadas con el engaño, la dependencia excesiva y el encuadre de relaciones explotadoras.

A pesar del creciente interés, la literatura sobre este fenómeno está fragmentada. Abarca diversos dominios (educación, salud mental, marketing) y carece de un mapa consolidado sobre cómo se define la antropomorfización, cómo se enmarcan los riesgos y beneficios éticos y qué enfoques metodológicos vinculan los efectos de la interacción con una guía de gobernanza concreta. El problema central abordado es la ausencia de un marco integrado para determinar qué preocupaciones éticas se generalizan entre contextos y cuáles son específicas de ciertos estímulos o grupos de usuarios, lo que dificina el desarrollo de un diseño y una política responsables.

Metodología
Este estudio emplea una metodología de revisión de alcance siguiendo las directrices PRISMA-ScR para mapear el trabajo orientado a la ética publicado entre 2021 y 2025 (la "era de los LLM").

• Fuentes de Datos: Los autores buscaron en cinco bases de datos bibliográficas (Scopus, Web of Science, IEEE Xplore, PubMed, ACM Digital Library) y tres repositorios de preimpresiones (arXiv, SSRN, PhilArchive).
• Estrategia de Búsqueda: Las consultas se estructuraron en cuatro bloques: antropomorfismo (p. ej., "antropomorf*", "postura intencional"), tecnología (p. ej., "chatbot*", "agente conversacional*"), ética (p. ej., "ética*", "confianza", "riesgo") y tiempo (post-2020). Se excluyeron identificadores explícitos de LLM (p. ej., "GPT-4") de las cadenas de búsqueda para evitar omitir discusiones éticas más amplias que no nombran modelos específicos, confiando en su lugar en el filtro temporal y el cribado.
• Cribado: Los registros pasaron por un cribado de título/resumen y de texto completo. La inclusión requería que el registro se centrara en AC de la era de los LLM (Puerta A), tratara la antropomorfización como un constructo central (Puerta B) y contuviera un análisis ético explícito (Puerta C).
• Corpus: De un conjunto inicial de 910 registros, se incluyeron 22 estudios para la síntesis. El corpus está sesgado temporalmente hacia 2025 (77%) y está dominado por contextos de Interacción Humano-Computadora (59%) y Ciencias Sociales (32%).

Contribuciones Clave
La revisión sintetiza la literatura a través de tres preguntas de investigación:

1. Fundamentos Conceptuales: Cómo se define y operacionaliza la antropomorfización.
2. Desafíos y Oportunidades Éticas: Las amenazas y beneficios específicos identificados para individuos, organizaciones y la sociedad.
3. Enfoques Metodológicos: Las estrategias utilizadas para estudiar estos aspectos éticos y derivar recomendaciones de gobernanza.

Resultados

• Fundamentos Conceptuales (RQ1):

  • Definiciones: Existe una convergencia al definir la antropomorfización como una atribución de propiedades humanas (intenciones, creencias, emociones) a sistemas no humanos.
  • Anclajes Teóricos: El fundamento teórico es escaso; el 55% de los estudios no ofrece una teoría explícita. Aquellos que lo hacen se basan principalmente en el modelo de tres factores de Epley et al. (accesibilidad del conocimiento antropocéntrico, motivación de eficacia y motivación de socialidad) o en la "postura intencional" de Dennett.
  • Operacionalización: Los estudios distinguen entre estímulos antropomórficos (características de diseño como voz, emojis, autorreferencia) y dimensiones de atribución. La literatura agrupa las atribuciones en tres dimensiones:
    1. Cognitiva/Epistémica: Atribuir pensamiento, comprensión o pericia.
    2. Afectiva: Atribuir empatía, cuidado o presencia emocional.
    3. Conductual/Social: Atribuir reciprocidad, conducta apropiada al rol o normas sociales.

• Desafíos y Oportunidades Éticas (RQ2):

  • Vías hacia el Riesgo: Los riesgos éticos surgen a través de tres vías primarias:
    1. Autoridad/Pericia Epistémica: Usuarios que tratan a los AC como expertos, lo que conduce a la formación de creencias falsas y la aceptación de desinformación.
    2. Cuidado/Empatía: Usuarios que infieren una competencia terapéutica genuina o comprensión emocional, lo que conduce a una confianza y dependencia erróneas.
    3. Roles Sociales/Relacionales: Usuarios que participan en interacciones parasociales (p. ej., tratar al AC como un amigo/pareja), lo que conduce al desplazamiento de normas y a la degradación de la conexión social auténtica.
  • Mecanismos: Los riesgos son impulsados por la descalibración epistémica (creencias falsas), la influencia basada en el afecto (manipulación mediante empatía simulada) y la atribución errónea de roles sociales (activación de estereotipos o transferencia de responsabilidad).
  • Resultos: Los daños a nivel individual incluyen la dependencia excesiva, el retraso en la búsqueda de ayuda y la dependencia emocional. Las preocupaciones a nivel social incluyen el refuerzo de normas de género, la exclusión de poblaciones neurodivergentes y la "parasitación de la socialización por IA".
  • Oportunidades: Los beneficios se discuten con cautela, señalando el potencial para aumentar el acceso a la atención, el andamiaje en la educación y el fomento de la confianza. Sin embargo, se argumenta que la permisibilidad depende del contexto, requiriendo transparencia y un encuadre de "como si" (as-if).

• Enfoques Metodológicos (RQ3):

  • Propuestas de Gobernanza: Las recomendaciones son fragmentadas y a menudo de alto nivel. Incluyen:
    • Determinación del Contexto: Evaluar la idoneidad basada en grupos de usuarios (p. ej., niños) y niveles de riesgo (p. ej., salud mental).
    • Controles de Diseño: Llamados a la transparencia (divulgación de la identidad de la IA), "diseño de fricción" y "transparencia social" para aclarar la dinámica de interacción.
    • Gobernanza del Ciclo de Vida: Propuestas de sandboxing previo al despliegue (auditorías de estímulos, red-teaming), monitoreo durante el despliegue (indicadores de dependencia) y revisiones post-despliegue.
  • Limitaciones: El trabajo empírico que vincula los efectos observados con intervenciones de diseño concretas es limitado. Muchas propuestas son programáticas (p. ej., "realizar auditorías") en lugar de validadas, y existe una falta de instrumentos estandarizados para medir la atribución antropomórfica o las trayectorias de dependencia.

Significancia y Reivindicaciones
El artículo sostiene que el campo del análisis ético respecto a los AC basados en LLM es "en rápido crecimiento pero conceptual y metodológicamente desigual". Su principal significancia radica en proporcionar el primer mapa consolidado de esta intersección específica (AC de la era de los LLM + ética).

Los autores concluyen modestamente que, si bien hay acuerdo en las definiciones basadas en la atribución, existe una divergencia sustancial en la operacionalización y una falta de evidencia empírica que conecte los efectos de la interacción con acciones de gobernanza específicas. Argumentan que la literatura actual se enfoca excesivamente en los riesgos a nivel individual (engaño, dependencia) mientras subdesarrolla las implicaciones y las reivindicaciones de beneficios a nivel social.

La revisión plantea que la permisibilidad ética no es binaria, sino que depende del tipo de capacidad humana que se está simulando (p. ej., usabilidad de bajo riesgo frente a roles relacionales de alto riesgo) y del contexto de uso. Los autores hacen un llamado a pasar de las llamadas genéricas a la transparencia hacia "hipótesis de mitigación contrastables" y "medidas conductuales validadas" que rastreen la autonomía y el bienestar a lo largo del tiempo, en lugar de solo métricas de compromiso. Enfatizan que avanzar en un diseño responsable requiere vincular estímulos específicos con resultados medibles y políticas justificadas a través de todo el ciclo de vida de la IA.