Amplification to Synthesis: A Comparative Analysis of Cognitive Operations Before and After Generative AI

Resumo Técnico: Da Amplificação à Síntese: Uma Análise Comparativa das Operações Cognitivas Antes e Depois da IA Generativa

Declaração do Problema
A guerra cognitiva, definida como a instrumentalização da informação para perturbar a percepção humana e a tomada de decisões, evoluiu juntamente com os avanços tecnológicos. Embora pesquisas anteriores tenham documentado extensivamente táticas de amplificação impulsionadas por bots usadas em operações como a eleição presidencial dos EUA de 2016, o surgimento da IA generativa (especificamente Modelos de Linguagem Grandes) introduz novas capacidades para a criação de narrativas persuasivas e semelhantes às humanas em escala. O problema central abordado é se a arquitetura operacional das operações cognitivas mudou fundamentalmente na era pós-IA generativa. Especificamente, o estudo investiga se existem assinaturas comportamentais e linguísticas distintas em operações de influência coordenadas que correspondem às capacidades de geração de conteúdo assistida por IA, em oposição às táticas legadas de simples amplificação.

Metodologia
O estudo emprega uma análise comparativa de dois conjuntos de dados publicamente disponíveis do X (antigo Twitter), correspondentes aos ciclos eleitorais presidenciais dos EUA de 2016 e 2024. Para garantir uma comparação controlada, a análise foca em uma janela fixa de 7 horas ao redor do debate presidencial em cada ano (26 de setembro de 2016, e 10 de setembro de 2024).

• Corpus: O conjunto de dados de 2016 (FiveThirtyEight Russian Troll Tweets) contém 1.063 publicações. O conjunto de dados de 2024 (grupo de pesquisa da USC) contém 132.923 publicações. Para análise de sincronia temporal, o conjunto de dados de 2024 foi reamostrado para 1.063 publicações para corresponder ao volume de 2016.
• Pré-processamento: Os tweets foram limpos usando expressões regulares para remover URLs, menções e texto não em inglês. Publicações curtas (<20 caracteres) foram excluídas.
• Agrupamento Semântico: O estudo utilizou embeddings Sentence-BERT (modelos multilíngues e específicos para inglês) para transformar tweets em vetores densos. Um algoritmo de detecção de comunidades agrupou esses vetores em clusters com base em um limiar de similaridade de cosseno de 0,82. Os tamanhos mínimos de comunidade foram calibrados via inspeção manual para garantir coerência semântica: 5 nós para 2016 e 60 nós para 2024.
• Medidas Analíticas:
  1. Distribuição de Tipo de Publicação: Classificou publicações como originais, retweets ou tweets com citação para avaliar a mudança da amplificação para a síntese.
  2. Sincronia Temporal: Analisou rajadas de publicação sob duas condições: cross-semântica (através de diferentes tópicos) e dentro-semântica (dentro de clusters narrativos coerentes).
  3. Similaridade Lexical: Calculou coeficientes de similaridade de Jaccard em pares dentro de clusters semânticos para medir sobreposição e variação lexical.

Principais Resultados
A análise revela uma inversão estrutural nos padrões de coordenação entre os dois ciclos eleitorais:

• Mudança no Tipo de Publicação: O corpus de 2016 foi dominado por retweets (39,98%) e publicações originais (59,08%). Em contraste, o corpus de 2024 foi composto esmagadoramente por publicações originais (93,19%), com retweets virtualmente ausentes (0,01%) e tweets com citação subindo para 6,80%.
• Inversão da Coordenação Temporal:
  • Cross-Semântica: Em 2016, 91,0% das publicações ocorreram em épocas sincronizadas através de tópicos não relacionados, indicando amplificação difusa e em rajadas. Em 2024, a sincronia cross-semântica caiu para 8,3%.
  • Dentro-Semântica: Por outro lado, dentro de clusters narrativos coerentes, 2016 mostrou coordenação negligenciável (13,3% das publicações sincronizadas). O conjunto de dados de 2024 exibiu alta sincronia dentro do cluster, com 62,5% das publicações em épocas sincronizadas.
• Variação Linguística: Os clusters de 2016 exibiram repetição lexical quase idêntica (pontuação média de Jaccard de 0,99), consistente com retweets em massa. Os clusters de 2024 mostraram alta coerência semântica, mas baixa sobreposição lexical (pontuação média de Jaccard de 0,27), indicando que as publicações abordaram os mesmos temas usando formulações e quadros narrativos significativamente diferentes.

Principais Contribuições
Este artigo fornece uma linha de base empírica documentando a transição das operações cognitivas da "amplificação" para a "síntese".

1. Mudança na Assinatura Operacional: Identifica uma transição da amplificação baseada em volume e impulsionada por bots (caracterizada por retweets e rajadas entre tópicos) para um modelo de geração ativa de conteúdo (caracterizado por publicações originais e coordenação específica de narrativa).
2. Evidência Linguística: Demonstra que operações coordenadas modernas podem não mais depender de repetição lexical, mas sim da geração de conteúdo lexicalmente diverso, porém semanticamente alinhado, uma capacidade consistente com os LLMs.
3. Referência de Framework de Detecção: O estudo oferece métricas comportamentais e linguísticas específicas (por exemplo, baixa sincronia cross-semântica acoplada a alta sincronia dentro do cluster e baixa sobreposição lexical) que profissionais de segurança podem usar para calibrar frameworks de detecção para o ambiente de ameaças pós-IA generativa.

Significado e Alegações
Os autores afirmam explicitamente que este estudo é exploratório e não confirma que as mudanças observadas foram definitivamente causadas pela integração da IA generativa em operações de influência específicas. O artigo não afirma atribuir campanhas específicas de 2024 a atores de IA.

Em vez disso, o significado reside em estabelecer que os padrões operacionais de 2024 são analiticamente coerentes com as capacidades conhecidas da IA generativa (especificamente a capacidade de produzir mensagens personalizadas e variadas em escala) e são empiricamente distinguíveis das operações da era pré-IA. As descobertas servem como um ponto de referência para pesquisadores de segurança nacional entenderem como a "lógica operacional" da guerra cognitiva pode ter evoluído, afastando-se da simples replicação em direção a uma síntese sofisticada e direcionada a narrativas. O artigo alerta que essas descobertas são limitadas à análise baseada em texto no X e podem não capturar totalmente as capacidades multimodais da IA ou mudanças orgânicas no comportamento do usuário.