Resumen Técnico: Corrígete a ti mismo, mantén mi confianza

Planteamiento del problema

Los chatbots sociales se están integrando cada vez más en la vida cotidiana, formando conexiones sociales significativas mediante la autorrevelación y el compromiso personalizado. Sin embargo, estos agentes siguen siendo propensos a generar información convincente pero inexacta. El vínculo social que establecen hace que tales errores sean particularmente trascendentales, ya que los usuarios pueden volverse más susceptibles a la desinformación. Si bien la investigación existente aborda la corrección de creencias y la reparación de la confianza por separado, persiste una brecha crítica: se desconoce cómo los chatbots sociales deben recuperarse de los errores para mantener la credibilidad, cómo se compara la autocorrección con las fuentes de corrección externas y si la conexión social preexistente influye en la efectividad de estas correcciones. Específicamente, la literatura no ha determinado si la autocorrección puede lograr simultáneamente la corrección de creencias y preservar la credibilidad del agente, o si la relación social actúa como un mecanismo funcional que amplifica la efectividad de la corrección.

Metodología

Los autores llevaron a cabo un experimento aleatorio entre sujetos con 120 participantes (60 hombres, 60 mujeres, edad media de 31.2) reclutados a través de Prolific. El estudio utilizó un diseño de tres grupos para comparar las estrategias de corrección de errores para un chatbot social llamado "Drew":

1. Grupo de Corrección mediante Página Web: La declaración incorrecta fue corregida mediante una retractación tradicional en una página web.
2. Grupo de Autocorrección: El propio chatbot social (Drew) reconoció y corrigió el error.
3. Grupo de Corrección por Experto: Un chatbot experto ("Dr. Kerry") corrigió la declaración.

Procedimiento:
Los participantes participaron en una interacción de cuatro fases con una duración aproximada de 15 minutos:

1. Construcción de Rapport Social: Charla trivial y autorrevelación para establecer una conexión social.
2. Exposición a la Desinformación: El chatbot realizó una declaración incorrecta sobre salud/nutrición (p. ej., "Las espinacas son una fuente excepcional de hierro"). Los participantes calificaron su creencia en la declaración en una escala Likert de 7 puntos.
3. Interacción Continua: Una segunda ronda de charla trivial.
4. Corrección: El error fue corregido según la condición asignada utilizando un formato de "sándwich de verdad" (presentar la declaración, provocar el razonamiento, desafiar con evidencia y pedir reflexión).

Medidas:

• Conexión Social: Evaluada a través de Atracción Social, Intimidad, Calidad de la Interacción, Competencia Comunicativa, Sentimientos de Amistad y Autorrevelación.
• Credibilidad: Medida como Confiabilidad y Percepción de Pericia (Experticia).
• Cambio de Creencia: Calculado como la diferencia aritmética entre las calificaciones de creencia previas y posteriores a la corrección.
• Datos Cualitativos: Preguntas abiertas sobre la confianza, las percepciones de la fuente de corrección y la confianza futura, que fueron codificadas inductivamente.

El análisis estadístico incluyó ANOVAs de una vía, pruebas post-hoc de Dunnett, intervalos de confianza de bootstrap, pruebas de permutación y regresión OLS para examinar los efectos de moderación.

Resultados Clave

1. Preservación de la Credibilidad (RQ1)

Si bien las tres estrategias fueron igualmente efectivas para reducir la creencia en la desinformación, solo la autocorrección preservó la credibilidad del chatbot.

• Confiabilidad y Pericia: Los participantes calificaron al chatbot que se autocorrigió significativamente más alto tanto en confiabilidad ($M=5.59$) como en pericia ($M=5.52$) en comparación con tanto el grupo de corrección por experto ($M=4.79$, $M=4.72$) como el grupo de la página web ($M=4.76$, $M=4.78$).
• Fuentes Externas: Los grupos de experto y de página web no difirieron significativamente entre sí, lo que indica que delegar la corrección no ofreció una ventaja de credibilidad sobre una simple retractación; ambos resultaron en un daño colateral a la reputación del chatbot original.
• Perspectiva Cualitativa: En el grupo de autocorrección, los participantes interpretaron la corrección como una señal de honestidad y aprendizaje continuo, reformulando el error como un "error de buena fe" en lugar de incompetencia. En contraste, los grupos de no autocorrección a menudo vieron la conexión social previa como manipuladora o sintieron una sensación de traición, lo que condujo a un daño duradero en la confianza.

2. Efectividad de la Corrección de Creencias (RQ2)

Las tres estrategias de corrección fueron igualmente efectivas para reducir la creencia en la información incorrecta ($p=.638$). Las puntuaciones medias de cambio de creencia fueron comparables entre los grupos (Autocorrección: $2.79$; Experto: $3.00$; Página Web: $2.61$). Esto indica que la principal ventaja de la autocorrección no es generar más cambio de creencia, sino lograr el mismo resultado de corrección sin erosionar la credibilidad del agente.

3. La Conexión Social como Moderador (RQ3)

La fuerza de la conexión social del usuario (específicamente la Autorrevelación y la Atracción Social) predijo significativamente la magnitud del cambio de creencia, pero solo en el grupo de autocorrección.

• Efecto de Moderación: En la condición de autocorrección, una mayor autorrevelación y atracción social predijeron fuertemente un mayor cambio de creencia ($R^2 = .825$).
• Sin Efecto en Grupos Externos: En los grupos de experto y de página web, las métricas de conexión social no predijeron el cambio de creencia (correlaciones cercanas a cero).
• Mecanismo: Los datos cualitativos sugieren que cuando el agente vinculado se corrige a sí mismo, los usuarios participan en un procesamiento más profundo (procesamiento de la ruta central) de la corrección, viéndola como un intercambio recíproco y honesto. Cuando una fuente externa corrige el error, el vínculo social se rompe y los usuarios tienden a descartar la corrección en el nivel de la fuente.

Contribuciones Clave

El artículo realiza tres contribuciones específicas a la comunidad de HCI:

1. Disociación de Resultados: Demuestra que la corrección de creencias y la preservación de la credibilidad son resultados distintos. La autocorrección es la única estrategia identificada que logra una corrección de creencias efectiva sin dañar la confiabilidad o la pericia del agente.
2. Rol Funcional de la Conexión Social: Establece que la relación social no es simplemente una característica de diseño para el compromiso, sino un mecanismo funcional que amplifica la efectividad de la corrección, siempre que la corrección sea entregada por el agente vinculado.
3. Implicaciones de Diseño: Ofrece orientación accionable de que los chatbots sociales deben corregir sus propios errores en lugar de delegar las correcciones, y que invertir en la conexión social antes de un error crea un "canal relacional" que facilita una recuperación de errores más efectiva.

Significado y Reivindicaciones

Los autores afirman que, para los chatbots sociales, la corrección de errores es fundamentalmente relacional, no solo informativa. El estudio desafía la noción de que delegar las correcciones a expertos o páginas web es una alternativa segura para mantener la confianza. En cambio, los hallazgos sugieren que:

• La autocorrección es la estrategia de reparación óptima para mantener la credibilidad a largo plazo en los agentes sociales.
• La conexión social actúa como un amplificador condicional: Mejora la efectividad de las correcciones solo cuando la corrección viaja a través del mismo canal relacional que construyó la conexión.
• Obligación de Diseño: A medida que los chatbots se vuelven más socialmente atractivos y personales, la obligación de reparar sus propios errores de manera convincente aumenta. La capacidad de detectar, reconocer y reparar visiblemente los errores se presenta como un requisito de diseño crítico para mantener el "contrato social" con los usuarios, en lugar de una característica opcional.

El artículo concluye que el medio más efectivo para reparar el error de un chatbot social es el propio chatbot, ya que esto preserva la relación y aprovecha el vínculo social para facilitar la actualización de creencias.