A field experiment of social influence and behavioral contagion with bots on Reddit

Resumo Técnico: Um Experimento de Campo de Influência Social e Contágio Comportamental com Bots no Reddit

Definição do Problema
À medida que a sociedade moderna evolui para um sistema híbrido de humanos e máquinas inteligentes, uma questão crítica permanece: como os agentes artificiais influenciam o comportamento humano em comparação com agentes humanos, e se essa influência se propaga através de redes sociais? Embora pesquisas anteriores sugiram que os humanos podem tratar máquinas de forma semelhante a outros humanos (o paradigma CASA), outros estudos indicam diferenças distintas de percepção, particularmente no que diz respeito à agência moral, confiança e resposta emocional. Este estudo investiga se a influência social e o contágio comportamental diferem com base na fonte da influência (humano vs. bot) e na razão por trás da ação (lógica, aleatória, emocional ou moral). Especificamente, os autores examinam se os usuários são suscetíveis a estímulos comportamentais positivos de agentes artificiais e se esses estímulos desencadeiam efeitos em cascata em comunidades online.

Metodologia
Os pesquisadores conduziram um experimento de campo em larga escala no Reddit, uma plataforma com uma população endêmica de bots e uma cultura de monitoramento por pares.

• Design Experimental: A equipe criou duas contas: uma que parecia um usuário humano típico e outra que parecia um bot aparente (seguindo a "Bottiquette" do Reddit ao incluir "bot" no nome de usuário). Essas contas concederam uma premiação simbólica "Diamonds are Forever" (valor de US$ 1,00) a posts ou comentários de usuários relativamente inexperientes.
• Tratamentos: O experimento utilizou um design fatorial 2 (Fonte: Humano vs. Bot) × 4 (Razão) mais um grupo de controle. As quatro razões foram:
  1. Lógica (LOG): Elogiando o raciocínio claro e a lógica.
  2. Aleatória (RAN): Afirmando que a premiação resultou de um sorteio aleatório.
  3. Emocional (EMO): Elogiando o tom emocional e a empatia.
  4. Moral (MOR): Elogiando a intuição moral e a integridade.
  • Controle: As contribuições foram selecionadas com base nos mesmos critérios, mas não receberam intervenção.
• Seleção de Amostra: O estudo visou 12 subreddits de interesse geral, filtrando por tópicos não sensíveis, níveis de engajamento específicos (1–5 comentários, 2–6 upvotes para posts) e inexperiência do usuário (idade da conta >30 dias, 10–499 comentários, 0–99 posts). O conjunto de dados final compreendeu 2.442 observações.
• Coleta e Análise de Dados: Nove dias após o tratamento, os pesquisadores recuperaram o histórico completo de atividade dos usuários tratados. Eles mediram:
  • Efeitos Diretos: Volume (número de contribuições, comprimento do texto), conteúdo (sentimento positivo, proeminência lexical de razões específicas) e comunicação direta (mensagens privadas de agradecimento).
  • Efeitos Indiretos (Impacto): Votos, número de respostas e comprimento total do texto das respostas às contribuições subsequentes do usuário tratado.
  • Abordagem Estatística: Devido à distribuição de cauda longa do Reddit, os autores analisaram mudanças dentro do indivíduo ($\Delta M = M_{depois} - M_{antes}$) usando testes não paramétricos de Mann-Whitney U. Eles focaram nas contribuições feitas dentro de 12 horas após a premiação.

Principais Resultados
O estudo rendeu descobertas contraintuitivas sobre a eficácia de prêmios simbólicos na atual era da IA:

1. Nenhum Aumento Geral na Atividade: Contrário às expectativas de que as premiações aumentariam a produtividade, o estudo não encontrou evidências estatisticamente significativas de que os prêmios aumentaram o volume de atividade do usuário (número de posts/comentários) ou o comprimento total do texto em comparação ao grupo de controle.
2. Efeito de Retrocesso de Prêmios de Bot-Loteria: Prêmios de bots utilizando uma razão aleatória/de loteria ($B_{RAN}$) reduziram significativamente a atividade do usuário. Os destinatários desses prêmios fizeram menos contribuições e escreveram textos mais curtos em comparação ao grupo de controle e aos destinatários de outras razões.
3. Comunicação Direta: As premiações iniciaram comunicações diretas com sucesso. Os usuários foram significativamente mais propensos a enviar mensagens privadas de agradecimento para contas humanas do que para bots. Entre as contas humanas, a razão aleatória eliciou menos respostas do que as razões lógica ou moral.
4. Mudanças de Conteúdo: A única mudança significativa de conteúdo foi uma diminuição no tom positivo para usuários que receberam prêmios de loteria aleatórios de bots.
5. Impacto Indireto (Transbordamento): As premiações geralmente não aumentaram o impacto (votos/respostas) das contribuições subsequentes. A única exceção foram os prêmios de contas humanas com uma razão moral ($H_{MOR}$), que obtiveram significativamente mais votos e respostas mais longas em comparação ao controle e a outros tratamentos humanos. No entanto, esse efeito foi sensível a correções de múltiplas comparações.
6. Resiliência à Manipulação: Os resultados sugerem que usuários online exibem resiliência à manipulação comportamental simples via prêmios simbólicos, particularmente quando a fonte é um bot ou a razão é percebida como arbitrária.

Significância e Alegações
O artigo afirma que os achados destacam uma resiliência dos usuários online à manipulação comportamental simples por algoritmos de plataforma e agentes artificiais. Os autores argumentam que, embora a influência possa ocorrer em cascata, a força dessa influência depende fortemente da fonte e da razão percebidas.

• Percepção Humano vs. Máquina: Os resultados apoiam a hipótesidade de que humanos julgam máquinas de forma diferente; bots são menos eficazes ao empregar razões emocionais ou morais (fora de sua competência percebida) e podem até ser contraproducentes quando agem de forma aleatória.
• Governança Ética: O estudo ressalta a necessidade de rotular transparentemente agentes automatizados. Uma vez que os usuários reagem de forma diferente a humanos percebidos versus bots, e porque os bots podem gerar efeitos de retrocesso ou falhar em engajar, a transparência é essencial para a governança ética da plataforma e para manter a confiança.
• Mudança de Contexto: Os autores sugerem que a falta de efeitos positivos pode advir de uma mudança no cinismo dos usuários devido à agressiva monetização da plataforma e à proliferação da IA, tornando os usuários menos responsivos a interações de baixo esforço entre pares, como prêmios simbólicos. Eles alertam que, embora esquemas simples possam falhar, esquemas mais sofisticados que simulem conversas humanas ainda podem ser eficazes, necessitando de vigilância contínua.

O artigo conclui que, embora os prêmios simbólicos possam despertar a comunicação direta entre humanos, eles não servem atualmente como uma alavanca confiável para aumentar a produtividade ou o contágio positivo, e seu uso por bots carre o risco de reduzir o engajamento.