Beyond speculation: Measuring the growing presence of LLM-generated texts in multilingual disinformation
Questo studio fornisce la prima evidenza empirica di una crescente presenza di contenuti generati da LLM nei dataset reali di disinformazione multilingue a seguito del rilascio di ChatGPT, documentando specifici modelli attraverso lingue, piattaforme e periodi temporali per colmare il dibattito accademico sulla reale entità di questa minaccia.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
La Visione d'Insieme: La "Penna Robotica" sta Scrivendo Bugie?
Immaginate un mondo in cui chiunque può impugnare una penna super intelligente e istantanea (un Large Language Model, o LLM) capace di scrivere storie, notizie e post in quasi ogni lingua. Dalla diffusione di strumenti come ChatGPT, le persone si sono preoccupate: questa penna viene usata per scrivere fake news e bugie (disinformazione)?
Per molto tempo, gli esperti hanno discusso in tondo. Alcuni dicevano: "Non preoccupatevi, internet è troppo caotico perché i robot possano prendere il sopravvento". Altri dicevano: "Attenzione, ci sono angoli nascosti dove i robot stanno già causando problemi".
Questo articolo è il primo che riesce effettivamente a contare quante di queste bugie "scritte dai robot" esistono nel mondo reale. Non hanno solo tirato a indovinare; sono andati negli archivi digitali di notizie verificate dai fact-checker e dei social media per trovare le prove.
Gli Strumenti del Detective: Come Hanno Trovato i Robot
I ricercatori hanno costruito due "rilevatori di bugie digitali". Pensateli come due diverse guardie del corpo all'ingresso di un club:
- Guardia A (Gemma_GenAI): Addestrata per individuare la scrittura robotica basandosi su schemi generali.
- Guardia B (Gemma_MultiDomain): Addestrata specificamente sui social media e sulle notizie per individuare la scrittura robotica.
Hanno testato queste guardie su liste note di testi "umani vs robot" per assicurarsi che facessero bene il loro lavoro. Hanno scoperto che quando entrambe le guardie concordavano sul fatto che un testo fosse scritto da un robot, avevano ragione nel 93% - 99% dei casi.
Una volta che si sono fidati delle loro guardie, le hanno inviate a pattugliare quattro diversi "quartieri" (dataset) di contenuti del mondo reale, inclusi claim verificati dai fact-checker, tweet relativi alle elezioni e notizie legate alla guerra.
Cosa Hanno Scoperto: L'Invasione dei Robot è Reale (Ma Non Uniforme)
Lo studio ha scoperto che la disinformazione scritta dai robot è decisamente presente, ma non è un'inondazione; è più simile a una lenta perdita che sta diventando sempre più grande.
1. L'Effetto "Prima e Dopo" ChatGPT
Immaginate una linea temporale. Prima della fine del 2022 (quando ChatGPT è diventato popolare), la quantità di bugie scritte dai robot era molto bassa.
- L'Analogia: Pensatelo come un laghetto tranquillo. Nel 2021, solo poche increspature (circa l'1%) erano causate dai robot.
- Il Cambiamento: Entro il 2023, con l'arrivo di ChatGPT, le increspature sono cresciute. Lo studio ha scoperto che nel 2023, tra l'1,5% e il 15% delle bugie verificate dai fact-checker nel loro dataset erano probabilmente scritte o modificate da robot. La stima più sicura si attesta intorno all'1,85%.
- Il Trend: Il numero di bugie scritte dai robot è in aumento ogni anno.
2. L'Attacco "Mirato"
I robot non scrivono bugie in ogni lingua o su ogni piattaforma allo stesso modo. È come un ladro che punta solo a case specifiche.
- Lingue: Sebbene l'inglese e lo spagnolo abbiano il maggior numero di bugie robotiche semplicemente perché ci sono più persone che li parlano, la percentuale di bugie è più alta in polacco (4,7%) e francese (4,2%).
- Piattaforme: I robot sono più attivi su Instagram (1,5%) e Facebook (1,3%), e meno attivi su Twitter/X (0,64%).
- Eventi Specifici: Durante le elezioni statunitensi del 2024, la quantità di contenuti scritti dai robot nei tweet è raddoppiata da gennaio a novembre, raggiungendo il picco proprio prima delle elezioni.
3. I Dataset delle "Fake News"
I ricercatori hanno anche esaminato dataset etichettati specificamente come "Fake News".
- Hanno scoperto che il 2,6% - 3,3% degli articoli etichettati come "fake" erano in realtà scritti da robot.
- In un dataset relativo alla guerra a Gaza, hanno scoperto che oltre il 10% dei post in lingua francese era generato da robot, rispetto a numeri molto più bassi in altre lingue.
Perché Questo È Importante
L'articolo conclude che la paura che i robot scrivano bugie non è solo una speculazione; sta accadendo proprio ora.
- Le "Brutte" Notizie: I robot vengono utilizzati per creare disinformazione e stanno diventando più bravi in questo. Ciò accade in lingue specifiche e durante periodi specifici (come le elezioni), il che suggerisce che qualcuno li stia usando in modo strategico.
- Le "Buone" Notizie: La quantità di bugie robotiche è ancora una piccola frazione dell'intero internet (circa il 2% nel 2024). Tuttavia, poiché internet è enorme, anche il 2% rappresenta una grande quantità di contenuti falsi.
- L'Avvertimento: Man mano che i robot diventano più intelligenti, potrebbero iniziare a "inquinare" l'acqua. Se i futuri modelli di IA vengono addestrati su dati che contengono già bugie scritte dai robot, quei nuovi modelli potrebbero iniziare a credere che le bugie siano vere e a diffonderle ancora più velocemente.
In Breve
Gli autori dicono: "Smettiamola di indovinare e iniziamo a misurare." Abbiamo ora la prova che i robot scrivono bugie nel mondo reale, specialmente in polacco, francese e durante le stagioni elettorali. Abbiamo bisogno di strumenti migliori per catturarli e di sistemi migliori per dirci quando stiamo leggendo la storia di un robot, in modo da non farci ingannare.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.