Like Article, Like Audience: Enforcing Multimodal Correlations for Disinformation Detection

Imagine a internet como uma praça de cidade enorme e movimentada, onde todos estão gritando, compartilhando e discutindo. Nesta cidade digital, a "desinformação" é como um moinho de rumores que cria histórias falsas e selvagens para enganar as pessoas ou causar problemas. Por muito tempo, os cientistas que tentam deter esses rumores focaram principalmente nas palavras em si, examinando as notícias como um detetive examinando um único pedaço de papel em busca de erros de ortografia ou frases suspeitas. Mas este artigo sugere que olhar apenas para o papel não é suficiente. Ele propõe uma nova ideia: para entender uma história, você também precisa entender a multidão que a ama. O conceito central aqui é o "aprendizado multimodal", que é apenas uma maneira sofisticada de dizer que devemos olhar para diferentes tipos de pistas juntos — como o texto do artigo e o texto das pessoas que o compartilham. A grande questão que os pesquisadores fazem é simples: as pessoas que compartilham uma história falsa parecem e soam diferentes das pessoas que compartilham uma real? Se pudermos ensinar um computador a notar essa conexão, talvez ele consiga detectar os mentirosos mais rápido.

Os autores deste artigo, trabalhando com dados do Twitter, decidiram construir um programa de computador inteligente que atua como um detetive que não apenas lê a manchete, mas também verifica os crachás de identificação das pessoas que a seguram. Eles criaram um sistema que aprende olhando para duas coisas ao mesmo tempo: a própria notícia e o "conteúdo gerado pelo usuário" das pessoas que a compartilharam. Conteúdo gerado pelo usuário é apenas aquilo que as pessoas comuns criam, como a bio do Twitter (descrição do perfil) e seus tweets recentes. Os pesquisadores notaram que as pessoas geralmente têm uma personalidade online consistente; se você escreve sobre música na sua bio, provavelmente compartilha artigos de música. Eles se perguntaram se uma notícia falsa atrairia um "tipo" específico de pessoa, e se essas pessoas teriam uma vibração semelhante entre si.

Para testar isso, eles construíram um algoritmo de aprendizado que usa três regras específicas, ou "objetivos", para treinar o computador. Primeiro, o computador tem que aprender a diferenciar uma história verdadeira de uma falsa, exatamente como um detetive normal. Segundo, esta é a parte inteligente, o computador é forçado a aprender que a "vibração" do artigo deve combinar com a "vibração" das pessoas que o compartilharam. Se uma notícia falsa é compartilhada, o computador aprende que o artigo e os compartilhadores devem parecer semelhantes em um espaço matemático oculto. Terceiro, o computador aprende que as pessoas que compartilham a mesma notícia também devem parecer semelhantes entre si. É como dizer: "Se um grupo de estranhos todos correm para compartilhar esta história estranha, eles provavelmente têm algo em comum, então vamos garantir que o computador veja essa conexão".

Os pesquisadores testaram essa ideia em três tipos diferentes de cérebros de computador (classificadores neurais) usando dados reais de sites de verificação de fatos e notícias sobre a COVID-19. Eles descobriram que, quando adicionavam essas "pistas sociais" ao processo de treinamento, os computadores ficavam melhores em detectar notícias falsas. Os resultados mostraram que os modelos aprenderam a separar histórias reais e falsas de forma mais clara. De fato, quando olharam para a matemática por trás dos bastidores, viram que as histórias falsas e as histórias reais foram empurradas para mais longe uma da outra na mente do computador quando ele usava essas pistas do usuário.

No entanto, o artigo também tem alguns reviravoltas que o mantêm com os pés no chão. Os pesquisadores tentaram ver se importava quais pessoas eles escolhiam. Eles pensaram que talvez as primeiras pessoas a compartilhar uma história (os "early adopters") seriam as melhores pistas, mas surpreendentemente não fez uma grande diferença se escolheram os primeiros compartilhadores ou os últimos. Eles também tentaram enganar o computador trocando aleatoriamente os artigos pelos grupos errados de pessoas. Mesmo quando bagunçaram as conexões, o computador ainda teve um desempenho melhor do que se não tivesse pistas de usuário nenhumas, sugerindo que a mera quantidade de dados extras ajuda, mesmo que os links específicos não sejam perfeitos.

Um achado interessante veio de observar um exemplo específico onde o computador conseguiu a resposta correta apenas quando olhou para a bio do usuário, mas errou quando olhou para seus tweets. Os tweets eram barulhentos e falavam sobre muitas coisas diferentes, enquanto a bio era focada. Isso sugere que, embora os dados do usuário sejam úteis, eles podem ser bagunçados, e o trabalho futuro pode precisar filtrar esse ruído.

Em última análise, o artigo sugere que, ao ensinar os computadores a respeitar a relação entre uma história e seu público, podemos construir ferramentas melhores para combater a desinformação. Os autores são cuidadosos ao notar que este método usa apenas a informação do usuário enquanto o computador está aprendendo, não quando ele está realmente fazendo uma previsão. Isso significa que o computador não precisa saber quem você é para julgar uma notícia; ele só precisa ter aprendido com os padrões de como as pessoas e as histórias se conectam. Embora os resultados sejam promissores e o método seja novo, os autores admitem que, conforme o tempo passa, os perfis de usuários mudam e os criadores de notícias falsas desaparecem, então os dados podem ficar obsoletos. Mas, por enquanto, é um lembrete lúdico e poderoso de que, na luta contra as notícias falsas, às vezes a melhor maneira de detectar uma mentira é olhar para quem a está contando.