Propaganda Forensics: Recovering the Generation Pipeline of an AI-Driven Influence Campaign

No cenário de informações moderno, um novo tipo de ruído surgiu, fruto do rápido avanço da inteligência artificial. Os grandes modelos de linguagem, os poderosos sistemas computacionais capazes de gerar textos semelhantes aos humanos, reduziram a barreira para a criação de artigos de notícias em escala industrial. Embora essas ferramentas sejam frequentemente celebradas por sua utilidade, elas possuem uma natureza dual: podem ser usadas para reescrever histórias existentes em uma forma projetada para manipular a opinião pública. Este fenômeno, às vezes chamado de "slopaganda", envolve pegar notícias reais e remodelá-las para se ajustarem a uma narrativa específica e, frequentemente, enganosa. O desafio para os pesquisadores não é mais apenas detectar mentiras óbvias, mas distinguir entre o jornalismo genuíno e o conteúdo que foi algoritmicamente alterado para parecer autêntico. Para entender como essa manipulação funciona, os cientistas devem agir como analistas forenses, examinando as impressões digitais digitais deixadas pelas máquinas que criam o texto.

Uma equipe de pesquisadores de instituições que incluem a Universidade Sorbonne e a Airbus voltou recentemente sua atenção para uma campanha de influência específica e de grande escala conhecida como Storm-1516. Esta operação, que visou o público francês, operava uma rede de oitenta e quatro sites que personificavam veículos de notícias legítimos como o Le Monde e a France Télévisions. Esses sites publicaram milhares de artigos que pareciam ser notícias padrão, mas que eram, na verdade, parte de um esforço coordenado para disseminar narrativas pró-russas. Os pesquisadores reuniram 2.646 desses artigos em uma nova coleção que nomearam de PROPAGIA. Para entender o que tornava esses textos diferentes do jornalismo real, eles os compararam com um grupo de controle de 2.385 artigos escritos por humanos para um importante jornal diário francês, o Ouest-France, cobrindo o mesmo período. O objetivo era determinar não apenas se os textos foram escritos por máquinas, mas também descobrir as instruções específicas que as máquinas receberam e identificar a família de modelos de inteligência artificial responsável.

O primeiro passo da investigação foi analisar o estilo e o tom da escrita. Os pesquisadores descobriram que os artigos na coleção PROPAGIA eram significativamente mais vagos e subjetivos do que os artigos escritos por humanos. Onde um jornalista real tipicamente citaria fontes específicas, nomearia especialistas ou forneceria detalhes concretos, os textos gerados por IA dependiam fortemente de afirmações genéricas e linguagem emocional. Os artigos de propaganda também eram muito mais negativos, muitas vezes construindo um sentimento de medo ou exagero em torno dos eventos. Eles citavam vozes externas com muito menos frequência, substituindo fatos verificáveis pelas próprias asserções do autor. Esse padrão sugeria uma estratégia deliberada para substituir o relato factual pela opinião, uma técnica que torna o conteúdo mais difícil de ser verificado e mais fácil de ser usado para manipulação emocional.

A evidência mais direta do envolvimento de máquinas veio de uma fonte surpreendente: o próprio texto. Em cinquenta dos oitenta e quatro sites, os pesquisadores descobriram que a inteligência artificial acidentalmente deixou para trás partes de suas próprias instruções. Esses "vazamentos" apareciam como notas ou listas de verificação incorporadas nos artigos publicados, revelando os comandos exatos que os operadores deram à máquina. Um desses documentos listava uma especificação editorial de dez pontos, instruindo o modelo a reescrever histórias enquanto evitava menções a outros meios de comunicação, condenava líderes políticos específicos e enquadrava o presidente russo de forma positiva. Essas instruções explicavam os padrões vistos no texto: a falta de fontes, o tom negativo e o viés político específico não eram erros aleatórios, mas o resultado de uma receita rigorosa e automatizada. A presença desses vazamentos confirmou que o conteúdo não era meramente escrito por um humano com um viés, mas sim gerado por uma máquina seguindo um conjunto rígido de regras.

Para determinar qual tipo específico de inteligência artificial foi usado, os pesquisadores empregaram um método que testou como diferentes modelos reagiam ao texto. Eles pediram a vários sistemas de IA diferentes que reescrevessem os artigos, observando o quanto cada sistema alterava a redação original. A lógica era que, se um modelo de IA tivesse escrito originalmente um texto, ele teria menos probabilidade de alterar significativamente seu próprio trabalho ao ser solicitado a reescrevê-lo, em comparação a como alteraria um texto escrito por um humano. Os resultados mostraram um padrão claro: os modelos suspeitos por agências de inteligência estarem por trás da campanha, especificamente aqueles da família Llama 3, alteraram menos os artigos de propaganda. Curiosamente, modelos da família Mistral mostraram um padrão semelhante, sugerindo que a campanha pode ter usado uma mistura de tecnologias relacionadas ou que essas diferentes famílias compartilham características subjacentes.

O estudo concluiu que a campanha Storm-1516 foi uma operação sofisticada que dependeu de um pipeline de IA generativa para produzir propaganda em massa. Ao analisar o texto em busca de sinais de vagueza, encontrar instruções vazadas e testar como diferentes modelos reescreviam o conteúdo, os pesquisadores foram capazes de reconstruir o processo de geração. Eles descobriram que a campanha usou um conjunto específico de instruções para forçar a IA a produzir narrativas negativas e sem fontes que mimetizavam o estilo das notícias reais. Embora os pesquisadores não pudessem apontar exatamente um único modelo usado, suas evidências sugeriram fortemente que a família de modelos Llama 3 era central para a operação, potencialmente ao lado de modelos Mistral. Este trabalho forense fornece um roteiro de como detectar e compreender futuras campanhas de influência impulsionadas por IA, indo além da simples detecção para entender a mecânica de como a manipulação é projetada.