Propaganda Forensics: Recovering the Generation Pipeline of an AI-Driven Influence Campaign

En el panorama informativo moderno, ha surgido un nuevo tipo de ruido, nacido del rápido avance de la inteligencia artificial. Los modelos de lenguaje de gran tamaño, los potentes sistemas informáticos capaces de generar texto con apariencia humana, han reducido la barrera para la creación de artículos de noticias a escala industrial. Aunque estas herramientas suelen ser celebradas por su utilidad, poseen una naturaleza dual: pueden utilizarse para reescribir historias existentes en una forma diseñada para manipular la opinión pública. Este fenómeno, llamado a veces "slopaganda", consiste en tomar noticias reales y remodelarlas para que encajen en una narrativa específica y, a menudo, engañosa. El desafío para los investigadores ya no es solo detectar mentiras obvias, sino distinguir entre el periodismo genuino y el contenido que ha sido alterado algorítmicamente para parecer auténtico. Para comprender cómo funciona esta manipulación, los científicos deben actuar como analistas forenses, examinando las huellas digitales dejadas por las máquinas que crean el texto.

Un equipo de investigadores de instituciones que incluyen la Sorbona y Airbus dirigió recientemente su atención a una campaña de influencia específica y a gran escala conocida como Storm-1516. Esta operación, que se dirigió al público francés, operaba una red de ochenta y cuatro sitios web que suplantaban a medios de comunicación legítimos como Le Monde y France Télévisions. Estos sitios publicaban miles de artículos que parecían ser noticias estándar, pero que en realidad formaban parte de un esfuerzo coordinado para difundir narrativas pro-rusas. Los investigadores recopilar elaron 2.646 de estos artículos en una nueva colección que denominaron PROPAGIA. Para entender qué hacía que estos textos fueran diferentes del periodismo real, los compararon con un grupo de control de 2.385 artículos escritos por humanos para un importante diario francés, Ouest-France, que cubría el mismo período de tiempo. El objetivo era determinar no solo si los textos habían sido escritos por máquinas, sino también descubrir las instrucciones específicas que se les dio a las máquinas e identificar la familia de modelos de inteligencia artificial responsables.

El primer paso de la investigación fue analizar el estilo y el tono de la escritura. Los investigadores descubrieron que los artículos de la colección PROPAGIA eran significativamente más vagos y subjetivos que los artículos escritos por humanos. Mientras que un periodista real típicamente citaría fuentes específicas, nombraría expertos o proporcionaría detalles concretos, los textos generados por IA dependían fuertemente de afirmaciones generales y lenguaje emocional. Los artículos de propaganda también eran mucho más negativos, construyendo a menudo un sentimiento de miedo o exageración alrededor de los acontecimientos. Citaban voces externas con mucha menos frecuencia, sustituyendo los hechos verificables por las propias aserciones del autor. Este patrón sugería una estrategia deliberada para reemplazar la información objetiva por la opinión, una técnica que hace que el contenido sea más difícil de contrastar y más fácil de usar para la manipulación emocional.

La evidencia más directa de la participación de la máquina provino de una fuente sorprendente: el propio texto. En cincuenta de los ochenta y cuatro sitios web, los investigadores encontraron que la inteligencia artificial había dejado accidentalmente partes de sus propias instrucciones. Estas "filtraciones" aparecían como notas o listas de verificación incrustadas dentro de los artículos publicados, revelando los comandos exactos que los operadores habían dado a la máquina. Uno de estos documentos enumeraba una especificación editorial de diez puntos, instruyendo al modelo para reescribir historias evitando menciones a otros medios, condenando a líderes políticos específicos y enmarcando al presidente ruso de forma positiva. Estas instrucciones explicaban los patrones observados en el texto: la falta de fuentes, el tono negativo y el sesgo político específico no eran errores aleatorios, sino el resultado de una receta estricta y automatizada. La presencia de estas filtraciones confirmó que el contenido no era simplemente escrito por un humano con un sesgo, sino que era generado por una máquina siguiendo un conjunto rígido de reglas.

Para determinar qué tipo específico de inteligencia artificial se utilizó, los investigadores emplearon un método que probaba cómo reaccionaban diferentes modelos al texto. Pidieron a varios sistemas de IA diferentes que reescribieran los artículos, observando cuánto cambiaba cada sistema la redacción original. La lógica era que, si un modelo de IA había escrito originalmente un texto, sería menos propenso a cambiar significativamente su propio trabajo al pedirle que lo reescribiera, en comparación con cómo cambiaría un texto escrito por un humano. Los resultados mostraron un patrón claro: los modelos sospechosos por las agencias de inteligencia de estar detrás de la campaña, específicamente aquellos de la familia Llama 3, alteraron menos los artículos de propaganda. Curiosamente, los modelos de la familia Mistral mostraron un patrón similar, lo que sugiere que la campaña podría haber utilizado una mezcla de tecnologías relacionadas o que estas diferentes familias comparten características subyacentes.

El estudio concluyó que la campaña Storm-1516 fue una operación sofisticada que dependió de un flujo de trabajo de IA generativa para la producción masiva de propaganda. Al analizar el texto en busca de signos de vaguedad, encontrar instrucciones filtradas y probar cómo diferentes modelos reescribían el contenido, los investigadores pudieron reconstruir el proceso de generación. Encontraron que la campaña utilizó un conjunto específico de instrucciones para forzar a la IA a producir narrativas negativas y sin fuentes que imitaran el estilo de las noticias reales. Si bien los investigadores no pudieron señalar el modelo exacto utilizado, su evidencia sugiere fuertemente que la familia de modelos Llama 3 fue central en la operación, potencialmente junto con modelos Mistral. Este trabajo forense proporciona un plano sobre cómo detectar y comprender futuras campañas de influencia impulsadas por la IA, yendo más allá de la simple detección para comprender la mecánica de cómo se diseña la manipulación.