Propaganda Forensics: Recovering the Generation Pipeline of an AI-Driven Influence Campaign

Nel moderno panorama informativo, è emerso un nuovo tipo di rumore, nato dal rapido progresso dell'intelligenza artificiale. I grandi modelli linguistici, i potenti sistemi informatici capaci di generare testi simili a quelli umani, hanno abbassato la barriera per la creazione di articoli di notizie su scala industriale. Sebbene questi strumenti siano spesso celebrati per la loro utilità, possiedono una natura duale: possono essere utilizzati per riscrivere storie esistenti in una forma progettata per manipolare l'opinione pubblica. Questo fenomeno, talvolta chiamato "slopaganda", consiste nel prendere notizie reali e rimodellarle per adattarle a una narrativa specifica, spesso fuorviante. La sfida per i ricercatori non è più solo individuare bugie ovvie, ma distinguere tra il giornalismo genuino e i contenuti che sono stati algoritmicamente alterati per apparire autentici. Per capire come funziona questa manipolazione, gli scienziati devono agire come analisti forensi, esaminando le impronte digitali lasciate dalle macchine che creano il testo.

Un team di ricercatori provenienti da istituzioni tra cui la Sorbona e Airbus ha recentemente rivolto la propria attenzione a una specifica campagna di influenza su larga scala nota come Storm-1516. Questa operazione, che ha preso di mira il pubblico francese, gestiva una rete di ottantaquattro siti web che impersonavano testate giornalistiche legittime come Le Monde e France Télévisions. Questi siti pubblicavano migliaia di articoli che apparivano come notizie standard, ma che erano in realtà parte di uno sforzo coordinato per diffondere narrazioni pro-russe. I ricercatori hanno raccolto 2.646 di questi articoli in una nuova collezione che hanno chiamato PROPAGIA. Per capire cosa rendesse questi testi diversi dal vero giornalismo, li hanno confrontati con un gruppo di controllo di 2.385 articoli scritti da esseri umani per un importante quotidiano francese, Ouest-France, coprendo lo stesso periodo temporale. L'obiettivo era determinare non solo se i testi fossero stati scritti da macchine, ma anche per scoprire le istruzioni specifiche che le macchine avevano ricevuto e identificare la famiglia di modelli di intelligenza artificiale responsabile.

Il primo passo dell'indagine è stato analizzare lo stile e il tono della scrittura. I ricercatori hanno scoperto che gli articoli nella collezione PROPAGIA erano significativamente più vaghi e soggettivi rispetto agli articoli scritti da umani. Laddove un vero giornalista citerebbe tipicamente fonti specifiche, nominerebbe esperti o fornirebbe dettagli concreti, i testi generati dall'IA facevano ampio ricorso a dichiarazioni generali e un linguaggio emotivo. Gli articoli di propaganda erano anche molto più negativi, costruendo spesso un senso di paura o esagerazione attorno agli eventi. Citavano voci esterne molto meno frequentemente, sostituendo i fatti verificabili con le proprie asserzioni. Questo schema suggeriva una strategia deliberata per sostituire la cronaca dei fatti con l'opinione, una tecnica che rende il contenuto più difficile da verificare e più facile da usare per la manipolazione emotiva.

L'evidenza più diretta del coinvolgimento delle macchine è venuta da una fonte sorprendente: il testo stesso. In cinquanta degli ottantaquattro siti web, i ricercatori hanno scoperto che l'intelligenza artificiale aveva accidentalmente lasciato dietro di sé parti delle proprie istruzioni. Queste "fughe" apparivano come note o liste di controllo incorporate negli articoli pubblicati, rivelando i comandi esatti che gli operatori avevano dato alla macchina. Uno di questi documenti elencava una specifica editoriale in dieci punti, istruendo il modello a riscrivere le storie evitando menzioni di altri media, condannando specifici leader politici e inquadrando il presidente russo in una luce positiva. Queste istruzioni spiegavano i modelli osservati nel testo: la mancanza di fonti, il tono negativo e la specifica inclinazione politica non erano errori casuali, ma il risultato di una ricetta rigida e automatizzata. La presenza di queste fughe ha confermato che il contenuto non era semplicemente scritto da un essere umano con un pregiudizio, ma era generato da una macchina che seguiva un insieme rigido di regole.

Per determinare quale specifico tipo di intelligenza artificiale fosse stato utilizzato, i ricercatori hanno impiegato un metodo che testava come diversi modelli reagissero al testo. Hanno chiesto a diversi sistemi di IA di riscrivere gli articoli, osservando quanto ogni sistema cambiasse la formulazione originale. La logica era che, se un modello di IA avesse originariamente scritto un testo, sarebbe stato meno propenso a cambiare significativamente il proprio lavoro quando gli veniva chiesto di riscriverlo, rispetto a quanto farebbe con un testo scritto da un essere umano. I risultati hanno mostrato un modello chiaro: i modelli sospettati dalle agenzie di intelligence di essere dietro la campagna, specificamente quelli della famiglia Llama 3, alteravano meno gli articoli di propaganda. Interessantemente, i modelli della famiglia Mistral mostravano un modello simile, suggerendo che la campagna potrebbe aver utilizzato un mix di tecnologie correlate o che queste diverse famiglie condividano caratteristiche sottostanti.

Lo studio è concluso che la campagna Storm-1516 è stata un'operazione sofisticata che si è affidata a una pipeline di IA generativa per produrre propaganda di massa. Analizzando il testo alla ricerca di segni di vaghezza, trovando istruzioni trapelate e testando come i diversi modelli riscrivevano il contenuto, i ricercatori sono stati in grado di ricostruire il processo di generazione. Hanno scoperto che la campagna utilizzava un set specifico di istruzioni per costringere l'IA a produrre narrazioni negative e prive di fonti che imitavano lo stile delle notizie reali. Sebbene i ricercatori non potessero individuare l'esatto modello singolo utilizzato, le loro prove suggeriscono fortemente che la famiglia di modelli Llama 3 fosse centrale nell'operazione, potenzialmente insieme ai modelli Mistral. Questo lavoro forense fornisce un modello su come rilevare e comprendere le future campagne di influenza guidate dall'IA, andando oltre la semplice rilevazione per comprendere la meccanica di come la manipolazione venga ingegnerizzata.