Posts of Peril: Detecting Information About Hazards in Text
Questo articolo introduce un nuovo modello per rilevare informazioni relative a pericoli nei testi dei social media, dimostrando che tali indicatori sono distinti dalle metriche tradizionali del sentiment e rivelando come gli account inorganici sfruttino strategicamente le narrazioni di pericolo per influenzare eventi geopolitici.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate internet come una gigantesca e caotica piazza cittadina dove miliardi di persone urlano, sussurrano e affiggono cartelli ogni secondo. Per molto tempo, gli scienziati che hanno studiato questa piazza sono stati ossessionati dal misurare l'umore della folla. Hanno costruito strumenti per rilevare se un post è felice, arrabbiato o triste, un po' come una banderuola che indica se è una giornata soleggiata o una tempesta. Ma esiste un tipo specifico di meteo che questi vecchi strumenti spesso perdono: l'avvertimento improvviso e acuto di una roccia che cade o di un pericolo latente. Nel mondo reale, gli esseri umani sono programmati per prestare un'attenzione extra alle minacce, perché ignorare una tigre è molto più pericoloso che ignorare un bellissimo fiore. Questo articolo riguarda la costruzione di un nuovo "radar per il pericolo" super sensibile per il testo. Non si limita a cercare parole arrabbiate; cerca di individuare le informazioni specifiche sui pericoli — cose che potrebbero ferire qualcuno o causare un costo. I ricercatori volevano sapere: possiamo insegnare ai computer a individuare questi segnali di pericolo meglio di prima, e cosa succede quando usiamo questo nuovo radar per ascoltare le discussioni e le guerre del mondo reale?
Il team dietro questo studio ha deciso di costruire un nuovo tipo di IA, un detective digitale addestrato specificamente per fiutare le "informazioni sul pericolo" nei post dei social media. Hanno definito un pericolo come qualsiasi evento negativo che potrebbe causare un danno significativo o un costo, come un disastro naturale, un attacco o una minaccia alla sicurezza. Per addestrare il loro detective, non si sono limitati a nutrirlo con un dizionario di parole spaventose (come "bomba" o "uccidere"), perché questo è troppo semplice. Invece, hanno raccolto oltre 1.000 post dai social media e hanno chiesto a lavoratori umani di leggerli per decidere: "Questo descrive davvero un pericolo reale, o è solo una storia triste?". Hanno usato queste risposte umane per insegnare a un modello informatico a riconoscere il contesto del pericolo, non solo il vocabolario.
Quando hanno testato il loro nuovo modello, è emerso che era un detective piuttosto acuto. Ha performato meglio dei vecchi metodi basati sul "dizionario", che si limitavano a contare parole spaventose e spesso si confondevano. Interessante è stato scoprire che individuare un pericolo non è esattamente la stessa cosa che individuare rabbia o tristezza. Un post può essere pieno di paura e comunque non riguardare un pericolo specifico, e un post può descrivere un terribile pericolo senza essere eccessivamente emotivo. Il modello ha imparato a vedere la differenza, suggerendo che il "pericolo" è un segnale unico nel rumore di internet.
Per vedere se il loro nuovo strumento funzionasse davvero nel mondo reale, i ricercatori lo hanno applicato a due dataset massicci e disordinati: milioni di post sulla guerra del 2023 tra Israele e Hamas, e milioni di post sulle elezioni nazionali francesi del 2022. Volevano vedere se riuscivano a individuare come le "operazioni informative" — gruppi di account che lavorano insieme per spingere una determinata storia — utilizzassero le informazioni sul pericolo in modo diverso rispetto alle persone comuni.
Nel dataset relativo alla guerra, hanno trovato qualcosa di affascinante. Gli account regolari e autentici tendevano a parlare di pericoli che coinvolgevano bambini e civili subito dopo gli attacchi iniziali. Ma i gruppi coordinati (i "bot" o le campagne organizzate) sembravano spostare la narrazione. Si concentravano pesantemente sui pericoli per i civili a Gaza, spesso usando quelle storie per cercare di influenzare l'opinione pubblica o chiedere aiuti. I ricercatori hanno notato che questi gruppi non parlavano del pericolo in modo casuale; sembravano scegliere quali pericoli evidenziare per adattarli ai loro obiettivi specifici. Ad esempio, alcuni gruppi enfatizzavano il pericolo per i gazani per suscitare simpatia, mentre altri potevano ignorare quegli stessi pericoli per promuovere un'agenda diversa.
Nel dataset delle elezioni francesi, il pattern era un po' diverso ma altrettanto rivelatore. Alcuni gruppi coordinati hanno dirottato la conversazione sull'elezione per parlare della guerra in Ucraina, usando il linguaggio del pericolo per chiedere aiuti o azioni politiche. Hanno scoperto che questi gruppi spesso parlavano di pericoli nucleari o di minacce specifiche in modi in cui i normali elettori non facevano. Il modello ha mostrato che questi account "inorganici" stavano usando l'informazione sul pericolo come uno strumento strategico, inquadrando gli eventi per far apparire la propria parte più urgente o l'avversario più pericoloso.
L'articolo suggerisce che questo nuovo "rilevatore di pericoli" è una nuova lente potente per comprendere come si diffonde l'informazione. Dimostra che, mentre siamo stati bravi a misurare la temperatura della folla (il sentiment), abbiamo perso di vista i moniti specifici (i pericoli) che potrebbero spingere la folla al panico o all'azione. I ricercatori stanno condividendo il loro strumento come un pacchetto gratuito affinché altri scienziati e giornalisti possano usarlo per investigare su come il pericolo viene discusso online. Ammettono che questo è solo il primo passo — come costruire un nuovo tipo di telescopio — e che saranno necessarie ulteriori ricerche per renderlo ancora più affilato. Ma per ora, hanno dimostrato che esiste un intero strato di "discorsi sul pericolo" sui social media che prima era invisibile ai nostri strumenti standard, e svelarlo aiuta a capire come le persone cerchino di influenzarsi a vicenda durante i momenti di crisi.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.