Strategies for preventing and reversing polarized online discourse

Resumo Técnico: Estratégias para Prevenir e Reverter o Discurso Polarizado Online

Definição do Problema
A polarização política apresenta desafios significativos para as democracias modernas, ameaçando a coesão social e o apoio institucional. Embora modelos matemáticos e computacionais de dinâmica de opinião tenham proliferado para explicar esses fenômenos, eles frequentemente dependem de suposições simplificadoras que os desconectam da compreensão empírica dos cientistas sociais. Os modelos tradicionais tipicamente tratam os agentes como possuidores de uma atitude única e estável, operando sem memória, ou interagindo com base em membros de grupos fixos ou distâncias de opinião estáticas. Essas simplificações falham em capturar a complexidade dos ambientes contemporâneos de redes sociais, onde as identidades são fluidas, dependentes de contexto e construídas por meio de interações dinâmicas. Os autores abordam a necessidade de um modelo psicologicamente mais realista para avaliar a capacidade de intervenções em nível de plataforma para prevenir ou reverter a polarização extrema.

Metodologia
Os autores desenvolvem um modelo computacional baseado em agentes, fundamentado na psicologia social, para simular o discurso online. O modelo se afasta dos padrões de dinâmica de opinião através de várias extensões psicológicas fundamentais:

1. Identidades Multidimensionais: Diferente de modelos com estados internos unitários, os agentes possuem múltiplas "autaspectos" (dimensões de identidade, $D$). Um agente pode manter diferentes atitudes sobre o mesmo tópico dependendo de qual dimensão de identidade está ativa (ex: "pai" vs. "feminista").
2. Memória Limitada e Sensibilidade ao Contexto: Os agentes mantêm vetores de memória para suas próprias atitudes expressas (automemória) e para as atitudes de outros (memória de outros). As atribuições de endogrupo (in-group) e exogrupo (out-group) não são fixas, mas determinadas dinamicamente em cada etapa com base na distância média entre a atitude atual de um agente e as atitudes mantidas em sua memória recente. Isso implementa o princípio do meta-contraste da teoria da autocategorização, onde as fronteiras de grupo emergem da razão entre as diferenças intergrupais e intragrupais dentro de um contexto específico.
3. Atualização de Atitude Baseada em Utilidade: Os agentes atualizam suas atitudes para maximizar uma função de utilidade que equilibra três forças:
   • Autoconsistência: Alinhamento com as atitudes expressas recentes do próprio indivíduo.
   • Atração do endogrupo: Conformidade com a atitude média do endogrupo atribuído dinamicamente.
   • Repulsão do exogrupo: Diferenciação do exogrupo.
     As atualizações ocorrem via aprendizado míope e ruidoso, onde os agentes aceitam probabilisticamente perturbações que aumentam a utilidade esperada.
4. Janelas de Overton: O modelo incorpora duas restrições normativas:
   • Janela de Overton Suave: Um intervalo dinâmico baseado nas atitudes coletivas da população; expressar visões fora desse intervalo acarreta um custo de utilidade ($c_S$), simulando a aplicação de normas pela comunidade (ex: descurtidas/down-voting).
   • Janela de Overton Rígida: Um intervalo fixo definido pelas regras da plataforma; expressar visões fora desse intervalo acarreta um custo de utilidade maior ($c_H$), simulando a moderação da plataforma (ex: exclusão de conteúdo).
5. Estrutura do Discurso: A simulação mimetiza conversas em formato de tópicos (threads) em plataformas como X ou Reddit. Os agentes decidem se respondem a postagens não visualizadas (com probabilidade que diminui conforme a profundidade do tópico) ou se iniciam novos tópicos, governados por um parâmetro de "viés de atenção" ($\alpha$) que pode direcionar a discussão para tópicos específicos.

Principais Contribuições
O artigo contribui com um framework computacional que integra estruturas de identidade complexas, memória temporal e formação de grupos dinâmica na dinâmica de opinião. Ele classifica sistematicamente os resultados do discurso em três estados:

1. Consenso: Discurso não polarizado contido dentro da janela de Overton rígida.
2. Polarização Constrita: Agrupamentos de atitudes distintos que permanecem dentro da janela de Overton rígida.
3. Polarização Desenfreada: Agrupamentos distintos que escapam da janela de Overton rígida, representando o discurso extremo que viola as normas da plataforma.

Os autores utilizam este modelo para simular e avaliar quatro intervenções específicas implementadas ao nível da plataforma:

1. Aumento de Custo: Aumentar a penalidade ($c_H$) por transgredir a janela de Overton rígida.
2. Otimização da Janela: Ajustar a largura da janela de Overton rígida para maximizar o consenso.
3. Equilíbrio de Atenção: Definir o viés de atenção ($\alpha$) como zero para ampliar tópicos menos discutidos.
4. Elites Moderadas: Amplificar vozes influentes que modelam um discurso não polarizado, efetivamente aumentando a "atração do endogrupo" em direção ao centro.

Resultados
As simulações revelam dinâmicas distintas quanto à prevenção e reversão da polarização:

• Prevenção: Intervenções que aumentam o custo de violar normas (Aumento de Custo), equilibram a atenção entre tópicos (Equilíbrio de Atenção) e amplificam elites moderadas são altamente eficazes (80–100% de eficácia) na prevenção da polarização desenfreada em uma ampla gama de parâmetros. Por outro lado, tentativas de "otimizar" a janela de Overton ao contrair sua largura frequentemente desencadeiam um efeito de retrocesso (backfire effect), aumentando significativamente a probabilidade de polarização desenfreada.
• Reversão: Uma vez estabelecida a polarização desenfreada, a maioria das intervenções falha em revertê-la. Apenas as intervenções de Aumento de Custo e Elites Moderadas demonstram eficácia na reversão. A intervenção de Elites Moderadas é a mais robusta, revertendo a polarização em todas as configurações de parâmetros testadas, enquanto a intervenção de Aumento de Custo é sensível ao número de dimensões de identidade e ao momento da intervenção.
• Extremismo Latente: Um achado crítico é que, mesmo quando intervenções bem-sucedidas revertem a polarização expressa, elas frequentemente resultam em extremismo latente. Os agentes podem mudar para a expressão de atitudes associadas a uma dimensão de identidade diferente que esteja dentro da janela de Overton, enquanto retêm atitudes extremas na dimensão de identidade suprimida. Esse extremismo latente aumenta linearmente com o tempo de atraso entre o início da polarização e a intervenção.
• Complexidade de Identidade: Aumentar o número de dimensões de identidade ($D$) não causa inerentemente a polarização, mas potencializa a eficácia de certas intervenções, particularmente a de Aumento de Custo, ao fornecer aos agentes caminhos de identidade alternativos para expressar visões não extremas.

Significância e Alegações
Os autores enquadram seu trabalho como uma ferramenta de geração de hipóteses, e não como evidência irrefutável, enfatizando que suas conclusões estão fundamentadas em teorias psicológicas estabelecidas de complexidade do eu, identidade social e percepção de normas.

O artigo afirma que restringir o discurso ao encolher o alcance do debate aceitável (contrair a janela de Overton) é uma estratégia ineficaz e potencialmente contraproducente para lidar com a polarização. Em vez disso, os autores sugerem que a mitigação eficaz requer:

1. Aplicação das normas existentes: Aumentar os custos de violação das regras da plataforma.
2. Nudges de atenção: Direcionar a atenção dos usuários para tópicos menos discutidos.
3. Elites modelando o comportamento: Amplificar indivíduos influentes que expressam atitudes moderadas e possuem apelo transversal.

No entanto, os autores fazem um alerta significativo: embora essas intervenções possam prevenir ou reverter a expressão da polarização, elas podem não eliminar as atitudes subjacentes. A persistência do extremismo latente sugere que intervenções bem-sucedidas podem apenas deslocar o locus da polarização para diferentes dimensões de identidade, em vez de resolver as divisões fundamentais. O trabalho ressalta a necessidade de modelar indivíduos como atores sensíveis ao contexto com identidades estruturadas para prever com precisão os resultados das intervenções em redes sociais.