Resumo Técnico: Corrija a si mesmo, mantenha minha confiança

Declaração do Problema

Chatbots sociais estão cada vez mais integrados à vida cotidiana, formando conexões sociais significativas por meio da autodesclaração e do engajamento personalizado. No entanto, esses agentes permanecem propensos a gerar informações convincentes, porém imprecisas. O vínculo social que eles estabelecem torna tais erros particularmente consequentes, pois os usuários podem se tornar mais suscetíveis à desinformação. Embora a pesquisa existente aborde a correção de crenças e a reparação da confiança separadamente, permanece uma lacuna crítica: não se sabe como os chatbots sociais devem se recuperar de erros para manter a credibilidade, como a autocorreção se compara a fontes externas de correção e se a conexão social pré-existente influencia a eficácia dessas correções. Especificamente, a literatura não determinou se a autocorreção pode simultaneamente alcançar a correção de crenças e preservar a credibilidade do agente, ou se o relacionamento social atua como um mecanismo funcional que amplifica a eficácia da correção.

Metodologia

Os autores conduziram um experimento aleatório entre sujeitos com 120 participantes (60 homens, 60 mulheres, média de idade 31,2) recrutados via Prolific. O estudo utilizou um design de três grupos para comparar estratégias de correção de erro para um chatbot social chamado "Drew":

1. Grupo de Correção via Página Web: A afirmação incorreta foi corrigida através de uma retração tradicional em uma página web.
2. Grupo de Autocorreção: O próprio chatbot social (Drew) reconheceu e corrigiu o erro.
3. Grupo de Correção por Especialista: Um chatbot especialista ("Dr. Kerry") corrigiu a afirmação.

Procedimento:
Os participantes participaram de uma interação de quatro fases com duração aproximada de 15 minutos:

1. Construção de Rapport Social: Conversa fiada e autodesclaração para estabelecer uma conexão social.
2. Exposição à Desinformação: O chatbot fez uma afirmação incorreta sobre saúde/nutrição (ex: "O espinafre é uma fonte excepcionalmente boa de ferro"). Os participantes avaliaram sua crença na afirmação em uma escala Likert de 7 pontos.
3. Interação Contínua: Uma segunda rodada de conversa fiada.
4. Correção: O erro foi corrigido de acordo com a condição atribuída usando um formato de "sanduíche de verdade" (apresentando a afirmação, solicitando o raciocínio, desafiando com evidências e pedindo reflexão).

Medidas:

• Conexão Social: Avaliada por Atração Social, Intimidade, Qualidade de Interação, Competência de Comunicação, Sentimentos de Amizade e Autodesclaração.
• Credibilidade: Medida como Confiabilidade e Percepção de Especialidade.
• Mudança de Crença: Calculada como a diferença aritmética entre as avaliações de crença pré e pós-correção.
• Dados Qualitativos: Perguntas abertas sobre confiança, percepções da fonte de correção e confiança futura foram codificadas indutivamente.

A análise estatística incluiu ANOVAs de uma via, testes post-hoc de Dunnett, intervalos de confiança de bootstrap, testes de permutação e regressão OLS para examinar efeitos de moderação.

Resultados Principais

1. Preservação da Credibilidade (RQ1)

Embora as três estratégias tenham sido igualmente eficazes na redução da crença na desinformação, apenas a autocorreção preservou a credibilidade do chatbot.

• Confiabilidade e Especialidade: Os participantes avaliaram o chatbot que realizou a autocorreção significativamente mais alto tanto em confiabilidade ($M=5,59$) quanto em especialidade ($M=5,52$) em comparação com o grupo de correção pelo especialista ($M=4,79$, $M=4,72$) e o grupo da página web ($M=4,76$, $M=4,78$).
• Fontes Externas: Os grupos do especialista e da página web não diferiram significamente entre si, indicando que terceirizar a correção não ofereceu uma vantagem de credibilidade sobre uma simples retração; ambos resultaram em danos colaterais à reputação do chatbot original.
• Insight Qualitativo: No grupo de autocorreção, os participantes interpretaram a correção como um sinal de honestidade e aprendizado contínuo, reestruturando o erro como um "erro de boa fé" em vez de incompetência. Em contraste, os grupos de não-autocorreção frequentemente visualizaram a conexão social prévia como manipuladora ou sentiram uma sensação de traição, levando a um dano duradouro à confiança.

2. Eficácia da Correção de Crença (RQ2)

Todas as três estratégias de correção foram igualmente eficazes em reduzir a crença na informação incorreta ($p=.638$). As pontuações médias de mudança de crença foram comparáveis entre os grupos (Autocorreção: $2,79$; Especialista: $3,00$; Página Web: $2,61$). Isso indica que a principal vantagem da autocorreção não é gerar mais mudança de crença, mas sim alcançar o mesmo resultado de correção sem erodir a credibilidade do agente.

3. Conexão Social como Moderador (RQ3)

A força da conexão social do usuário (especificamente Autodesclaração e Atração Social) previu significativamente a magnitude da mudança de crença, mas apenas no grupo de autocorreção.

• Efeito de Moderação: Na condição de autocorreção, maior autodesclaração e atração social predisseram uma maior mudança de crença ($R^2 = .825$).
• Sem Efeito nos Grupos Externos: Nos grupos do especialista e da página web, as métricas de conexão social não predisseram a mudança de crença (correlações próximas de zero).
• Mecanismo: Dados qualitativos sugerem que, quando o agente com o qual há vínculo corrige a si mesmo, os usuários engajam-se em um processamento mais profundo (processamento de rota central) da correção, vendo-a como uma troca recíproca e honesta. Quando uma fonte externa corrige o erro, o vínculo social é rompido e os usuários tendem a descartar a correção na origem.

Contribuições Principais

O artigo faz três contribuições específicas para a comunidade de IHC:

1. Dissociação de Resultados: Demonstra que a correção de crença e a preservação da credibilidade são resultados distintos. A autocorreção é a única estratégia identificada que alcança uma correção de crença eficaz sem prejudicar a confiabilidade ou a especialidade do agente.
2. Papel Funcional da Conexão Social: Estabelece que o relacionamento social não é meramente um recurso de design para engajamento, mas um mecanismo funcional que amplifica a eficácia da correção, desde que a correção seja entregue pelo agente com o qual existe o vínculo.
3. Implicações de Design: Oferece orientações acionáveis de que os chatbots sociais devem corrigir seus próprios erros em vez de terceirizar correções, e que investir em conexão social antes de um erro cria um "canal relacional" que facilita uma recuperação de erro mais eficaz.

Significância e Alegações

Os autores alegam que, para chatbots sociais, a correção de erros é fundamentalmente relacional, não apenas informacional. O estudo desafia a noção de que terceirizar correções para especialistas ou páginas web é uma alternativa segura para manter a confiança. Em vez disso, os achados sugerem que:

• A autocorreção é a estratégia de reparo ideal para manter a credibilidade de longo prazo em agentes sociais.
• A conexão social atua como um amplificador condicional: Ela aumenta a eficácia das correções apenas quando a correção viaja através do mesmo canal relacional que construiu a conexão.
• Obrigação de Design: À medida que os chatbots se tornam mais socialmente envolventes e carismáticos, a obrigação de reparar seus próprios erros de forma convincente aumenta. A capacidade de detectar, reconhecer e reparar visivelmente erros é apresentada como um requisito de design crítico para manter o "contrato social" com os usuários, em vez de um recurso opcional.

O artigo conclui que o meio mais eficaz de reparar o erro de um chatbot social é o próprio chatbot, pois isso preserva o relacionamento e aproveita o vínculo social para facilitar a atualização de crenças.