Predicting, Evaluating, and Explaining Top Misinformation Spreaders via Archetypal User Behavior
Este artigo propõe uma estrutura para prever, avaliar e explicar os principais disseminadores de desinformação ao modelar três arquétipos distintos de usuários (amplificadores, superdisseminadores e contas coordenadas), demonstrando que os traços de superdisseminadores dominam os principais rankings, enquanto a dinâmica temporal e a IA explicável aumentam a precisão preditiva e a interpretabilidade para a moderação proativa de conteúdo.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Nas redes sociais, a informação viaja à velocidade de um pensamento, mas nem todos que a compartilham desempenham o mesmo papel. Algumas pessoas criam as histórias originais, enquanto outras simplesmente as repassam, e algumas trabalham juntas para garantir que uma mensagem alcance o maior número possível de olhos. Quando a informação falsa se espalha, raramente é culpa de uma única pessoa; em vez disso, é o resultado de uma complexa teia de comportamentos onde diferentes tipos de usuários amplificam, coordenam e lançam narrativas. Compreender quem são essas pessoas e como elas operam é crucial porque as histórias falsas podem distorcer a opinião pública, erodir a confiança na ciência e causar danos no mundo real. O desafio para as plataformas é que, quando uma história falsa é sinalizada e removida, ela muitas vezes já viajou demais para ser interrompida. Para deter a propagação antes que ela ganhe ímpeto, os pesquisadores precisam de uma maneira de identificar as contas específicas com maior probabilidade de causar danos, não por adivinhar suas intenções, mas observando como elas realmente se comportam.
Uma equipe de pesquisadores partiu para resolver esse problema analisando as pegadas digitais deixadas por usuários que espalham conteúdo de baixa credibilidade. Eles focaram em três padrões distintos de comportamento, ou "arquétipos", que esses usuários tendem a seguir. O primeiro grupo, que chamam de amplificadores, raramente cria seus próprios posts. Em vez disso, atuam como um megafone, compartilhando constantemente conteúdos feitos por outros para aumentar seu alcance. O segundo grupo, conhecido como superespalhadores, são os criadores originais de conteúdo viral. Eles escrevem posts que são consistentemente compartilhados milhares de vezes, agindo como a faísca que incendeia um fogo. O terceiro grupo consiste em contas coordenadas, que são grupos de usuários trabalhando em sincronia para impulsionar a mesma mensagem ao mesmo tempo, criando uma ilusão de amplo acordo público. Os pesquisadores perceberam que esses papéis nem sempre são separados; um único usuário pode agir como um superespalhador para uma história e um amplificador para outra, ou um grupo pode coordenar suas ações para imitar uma única voz influente.
Para testar quão bem poderiam prever quem espalharia desinformação em seguida, os pesquisadores analisaram duas coleções massivas de dados do Twitter durante a pandemia. Um conjunto de dados continha conversas da Itália, enquanto o outro era uma coleção global de posts em vários idiomas. Eles primeiro rotularam o conteúdo com base na confiabilidade dos sites vinculados nos posts, usando um sistema que classifica domínios de notícias de zero a cem. Em seguida, construíram diferentes modelos matemáticos para classificar usuários com base nos três arquétipos comportamentais. Alguns modelos contavam quantas vezes um usuário compartilhava histórias falsas, enquanto outros observavam o quão cedo um usuário compartilhava uma história após ela ser postada, ou o quão de perto o comportamento de um usuário correspondia ao de outros em um grupo coordenado. Eles também criaram uma nova versão sensível ao tempo de uma pontuação de influência clássica que leva em conta como a atividade de um usuário muda ao longo de dias e semanas, em vez de olhar apenas para um único instantâneo no tempo.
Os resultados mostraram que a maneira mais eficaz de encontrar os maiores causadores de problemas era procurar pelos superespalhadores. Quando os pesquisadores classificaram os usuários com base em sua capacidade de gerar conteúdo original que outros compartilhariam, essas contas apareceram consistentemente no topo da lista. Estes são os indivíduos responsáveis pelo surto inicial de viralidade que permite que as narrativas falsas se estabeleçam. No entanto, conforme os pesquisadores olhavam mais abaixo na lista de usuários influentes, o cenário tornava-se mais complexo. Nos níveis intermediários e inferiores, o comportamento de amplificadores e grupos coordenados tornou-se muito mais proeminente. Isso sugere que, embora alguns superespalhadores iniciem o fogo, são os amplificadores que o mantêm aceso e os grupos coordenados que avivam as chamas através da rede.
Para obter uma imagem mais clara de como esses diferentes comportamentos trabalham juntos, a equipe treinou um modelo de aprendizado de máquina que combina todos os três arquétipos em um único sistema. Eles então usaram uma técnica que explica como o modelo toma suas decisões, permitindo-lhes ver quais comportamentos eram mais importantes. Descobriram que o modelo dependia fortemente do número de vezes que um usuário compartilhava conteúdo de baixa credibilidade, um traço associado aos amplificadores. Isso foi surpreendente porque se poderia esperar que os criadores de conteúdo viral fossem o sinal mais importante. Em vez disso, os dados mostraram que o ato de compartilhar é um indicador poderoso de risco. O modelo também confirmou que os superespalhadores, identificados por sua capacidade de gerar engajamento consistente, eram críticos, especialmente entre os usuários do topo do ranking. À medida que o ranking descia, a influência do comportamento coordenado e da frequência de compartilhamento crescia, revelando um ecossistema em camadas onde diferentes tipos de atores desempenham diferentes papéis no mesmo problema.
O estudo também testou quão bem esses métodos funcionam quando há muito poucos dados disponíveis, simulando um cenário em que uma plataforma precisa tomar uma decisão rapidamente após o surgimento de uma nova história. Eles descobriram que a pontuação de influência sensível ao tempo permaneceu estável e precisa mesmo com informações limitadas, superando métodos mais antigos que não consideravam o tempo da atividade do usuário. O modelo de aprendizado de máquina, no entanto, teve dificuldades quando treinado com quantidades muito pequenas de dados, sugerindo que, embora modelos complexos sejam poderosos, eles precisam de histórico suficiente para aprender os padrões. Os pesquisadores concluíram que a melhor abordagem para as plataformas é provavelmente uma combinação dessas ferramentas: usar pontuações simples e conscientes do tempo para identificar rapidamente as contas mais perigosas, e usar modelos mais detalhados para compreender a gama completa de comportamentos que sustentam a propagação da desinformação. Ao focar nesses padrões observáveis em vez de tentar adivinhar a intenção de um usuário, as plataformas podem intervir mais cedo, visando as contas específicas que impulsionam o maior dano antes que a informação falsa se torne impossível de conter.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.