Community Notes undermoderate polarizing content by design creating risks in electoral processes

Lo studio rivela che, sebbene l'algoritmo di Community Notes di X riesca a identificare le dimensioni polarizzanti e selezionare note trasversali, il suo stesso meccanismo di progettazione porta a una sistematica sottoregolamentazione dei contenuti polarizzanti, creando rischi significativi per i processi elettorali in diversi paesi.

L'essenziale

Ecco una spiegazione semplice e creativa del paper, pensata per chiunque voglia capire cosa sta succedendo dietro le quinte di X (l'ex Twitter) e le sue "Community Notes".

Il Titolo: "Le Note della Comunità: Un Filtro che si ferma proprio quando serve di più"

Immagina che X sia un'enorme piazza pubblica mondiale. In questa piazza, tutti possono urlare, cantare o raccontare storie. Il problema è che a volte qualcuno urla bugie o esagera le cose.

Per risolvere il problema, X ha inventato un sistema chiamato Community Notes (Note della Comunità). È come se la piazza avesse un gruppo di giudici volontari che, quando sentono una bugia, scrivono un bigliettino di smentita e lo attaccano sotto il post originale.

Ma c'è una regola fondamentale per far apparire questo bigliettino: i giudici devono essere d'accordo. Non basta che la metà dei giudici dica "È una bugia". Serve un accordo tra persone che la pensano in modo opposto (ad esempio, un conservatore e un progressista devono entrambi dire: "Sì, questo è sbagliato").

Il Problema: Il "Filtro dell'Armonia"

Gli autori dello studio (due ricercatori francesi) hanno analizzato milioni di questi bigliettini in 13 paesi diversi (dai USA alla Francia, dal Giappone al Brasile). Hanno scoperto una cosa molto importante e un po' preoccupante:

Il sistema è progettato per funzionare bene quando c'è "armonia", ma fallisce quando c'è "guerra".

Ecco l'analogia per capirlo:
Immagina un filtro per il caffè.

• Se metti acqua calda e caffè normale, il filtro funziona: il caffè passa, le impurità restano.
• Ma se provi a filtrare due liquidi che si odiano mortalmente (come olio e acqua, o due colori opposti che non vogliono mescolarsi), il filtro si blocca. Non riesce a decidere quale sia il "vero" colore.

Nel caso di X, quando un post riguarda un argomento polarizzante (come un'elezione politica, una guerra o un leader controverso), i giudici si dividono in due fazioni:

1. La fazione A dice: "È una bugia, attaccate il bigliettino!".
2. La fazione B dice: "No, è vero, non attaccate nulla!".

Poiché il sistema richiede che entrambe le fazioni siano d'accordo per mostrare la nota, il bigliettino non viene mai mostrato. Il sistema si blocca.

Cosa succede durante le elezioni?

Lo studio ha guardato cosa succede durante le elezioni (negli USA, UK, Francia e Germania). È come se la piazza fosse in preda al panico e tutti stessero urlando.

• Risultato: Le note che parlano di elezioni vengono mostrate molto meno spesso rispetto ad altre notizie (come notizie su truffe, video falsi o sciocchezze).
• Perché? Perché durante un'elezione, le persone sono così divise politicamente che è quasi impossibile trovare un accordo tra "sinistra" e "destra" su cosa sia una bugia.

L'analogia della gara di calcio:
Immagina che durante una partita di calcio molto accesa, due tifosi (uno della squadra di casa, uno della squadra ospite) vedano un fallo.

• Il tifoso di casa dice: "È un fallo!".
• Il tifoso ospite dice: "No, è un gioco lecito!".
• L'arbitro (il sistema di X) dice: "Visto che non siete d'accordo, non fischio nulla".
• Risultato: Il fallo rimane impunito, anche se era palese.

La Scoperta Principale: "Sottoregolamentato per Progettazione"

Gli autori dicono che questo non è un errore, ma una scelta di progettazione.
Il sistema è stato costruito per cercare la "verità condivisa" (ciò che tutti accettano). Ma nelle società moderne, la verità su temi politici è spesso divisa.

Quindi, il sistema di X finisce per ignorare sistematicamente i contenuti più controversi e pericolosi proprio nel momento in cui sono più diffusi (come durante un'elezione).

Perché è pericoloso?

Se durante un'elezione circolano notizie false che influenzano il voto, e il sistema di X non riesce a metterci un "avviso" perché i giudici sono troppo divisi, allora:

1. Le bugie continuano a circolare senza ostacoli.
2. Il dibattito pubblico si avvelena.
3. Il processo democratico è a rischio.

In sintesi

Le Community Notes sono come un sistema di sicurezza che funziona benissimo quando tutti sono d'accordo sul fatto che c'è un intruso. Ma se l'intruso è qualcuno che la metà della gente ama e l'altra metà odia, il sistema di sicurezza si blocca e dice: "Non so chi ha ragione, quindi non faccio nulla".

Lo studio ci avverte: non possiamo affidarci solo a questo sistema per proteggere le nostre elezioni, perché è fatto per cercare il compromesso, non per fermare le bugie quando la società è spaccata a metà. Serve un aiuto extra (come i fact-checker professionisti) proprio quando il sistema automatico fallisce.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "Community Notes undermoderate polarizing content by design creating risks in electoral processes" di Bouchaud e Ramaciotti, redatto in italiano.

Titolo: Community Notes di X sottoregola i contenuti polarizzanti per design, creando rischi nei processi elettorali

1. Il Problema

Le piattaforme di social media sono diventate fonti primarie di notizie, ma la diffusione di disinformazione rappresenta una sfida persistente. I metodi tradizionali di fact-checking professionale soffrono di limiti di scalabilità, percezione di parzialità politica e scarsa visibilità. Per affrontare ciò, X (ex Twitter) ha implementato Community Notes (CN), un sistema di fact-checking crowdsourced che permette agli utenti di aggiungere note contestuali ai post.
Il sistema utilizza un algoritmo per selezionare le note che ottengono un consenso "trasversale" (cross-partisan), ovvero note che sono considerate utili sia da utenti di orientamento politico opposto.
Il problema centrale indagato: Sebbene il sistema sia progettato per mitigare la polarizzazione selezionando solo il consenso, questo meccanismo intrinseco potrebbe portare a una sottoregolamentazione sistematica dei contenuti altamente polarizzanti (come quelli relativi alle elezioni), indipendentemente dalla loro veridicità fattuale. Lo studio si pone la domanda: il modello di CN funziona efficacemente in contesti politici globali diversi dagli USA e quali sono le conseguenze di questo design sui processi democratici?

2. Metodologia

Gli autori hanno condotto un'analisi su larga scala combinando dati pubblici di X, modelli di apprendimento automatico e dati di sondaggi politici.

• Dataset: Analisi di 1,88 milioni di note di Community Notes e 135,17 milioni di valutazioni (rating) fino a marzo 2025. Il dataset include note da 13 paesi (USA, UK, Francia, Germania, Giappone, Brasile, ecc.).
• Modellazione dell'Ideologia Latente: Gli autori hanno replicato l'algoritmo di fattorizzazione matriciale utilizzato da X per inferire i parametri latenti:
  • $\theta_n$: Ideologia latente della nota.
  • $\theta_r$: Ideologia latente del valutatore (rater).
  • $\beta_n, \beta_r, \beta_0$: Bias di utilità globale e individuale.
  • La formula predittiva è: $\hat{\eta}_{rn} = \beta_0 + \beta_n + \beta_r + \theta_n \cdot \theta_r$.
  • Le note vengono mostrate pubblicamente (Stato "Helpful") solo se il bias $\beta_n$ è alto, il che richiede un accordo tra valutatori con ideologie opposte ($\theta_r$ diversi).
• Scaling Ideologico Multidimensionale: Per validare l'asse ideologico appreso da CN, gli autori hanno utilizzato una metodologia di scaling basata sulle reti di follower di Membri del Parlamento (MP) in 23 paesi. Hanno mappato le posizioni degli utenti su due dimensioni chiave derivate dal Global Party Survey:
  1. Destra-Sinistra (Left-Right).
  2. Anti-Elite (Populismo/Scetticismo verso le istituzioni).
• Analisi Comparativa: Confronto tra la dimensione ideologica appresa da CN e le dimensioni politiche reali dei paesi. Analisi specifica di note relative a quattro recenti elezioni (USA 2024, UK 2024, Francia 2024, Germania 2025).

3. Contributi Chiave

• Validazione Globale del Modello: Dimostrazione empirica che l'algoritmo di CN apprende una dimensione ideologica latente che si allinea robustamente con le principali linee di divisione politica (principalmente Destra-Sinistra, ma talvolta anche Anti-Elite) in 13 paesi diversi, non solo negli USA.
• Identificazione del Limite di Design: Evidenziazione del fatto che la necessità di un consenso trasversale per la pubblicazione di una nota crea un bias intrinseco: i contenuti che attivano forti divisioni politiche (anche se fattualmente corretti) hanno meno probabilità di raggiungere il consenso necessario per essere mostrati.
• Analisi del Rischio Elettorale: Quantificazione della sottoregolamentazione specifica per i contenuti elettorali rispetto ad altri argomenti (es. truffe o contenuti non politici).

4. Risultati Principali

• Allineamento Ideologico: In tutti i 13 paesi studiati, la dimensione latente appresa da CN ($\theta$) corrisponde alla principale dimensione strutturante della politica nazionale (spesso l'asse Destra-Sinistra). L'AUC (Area Under the Curve) per prevedere il segno dell'ideologia della nota basandosi sulla posizione politica dell'autore del post varia da 0,729 (Israele) a 0,850 (Polonia), con una media di 0,808.
• Sottoregolamentazione Sistematica:
  • Solo il 11,97% delle note proposte raggiunge lo stato "Helpful" (visibile).
  • Le note relative a truffe e impersonificazioni raggiungono lo stato "Helpful" nel 39% dei casi.
  • Le note relative a contenuti politici polarizzanti e elezioni hanno tassi di successo significativamente più bassi:
    • Elezioni USA 2024: 6,9% (vs 14,7% per le note generali).
    • Elezioni UK 2024: 8,2% (vs 10,9%).
    • Elezioni Francia 2024: 12,8% (vs 16,8%).
    • Elezioni Germania 2025: 8,6% (vs 11,9%).
• Meccanismo di Fallimento: I contenuti che attivano le linee di divisione strutturale della politica nazionale (es. elezioni, conflitti geopolitici) tendono a essere valutati in modo divergente dagli utenti di opposti schieramenti. Di conseguenza, l'algoritmo non riesce a trovare il consenso trasversale richiesto e le note rimangono nascoste, anche se contengono informazioni fattualmente corrette.
• Dinamiche di Cancellazione: Gli autori notano che gli utenti di sinistra tendono a cancellare i post che ricevono note "Helpful" più frequentemente rispetto agli utenti di destra, il che potrebbe distorcere le statistiche osservate, ma il fenomeno di sottoregolamentazione dei temi polarizzanti rimane valido.

5. Significato e Implicazioni

• Rischio per l'Integrità Elettorale: Il sistema Community Notes, pur essendo efficace nel ridurre la diffusione di disinformazione non polarizzante (come truffe o contenuti satirici), è strutturalmente inadatto a moderare i contenuti polarizzanti durante eventi critici come le elezioni. Questo crea un vuoto di moderazione proprio quando l'integrità dell'informazione è più cruciale.
• Limiti del Crowdsourcing: Lo studio suggerisce che il fact-checking basato sul consenso (crowdsourcing) non può sostituire completamente il fact-checking esperto per i contenuti altamente divisivi. Il consenso trasversale è un criterio di "utilità percepita" che non garantisce la "veridicità fattuale" in contesti polarizzati.
• Implicazioni Globali: Poiché piattaforme come Meta, TikTok e YouTube stanno adottando sistemi simili a Community Notes, i risultati di questo studio indicano un rischio sistemico globale per la qualità del dibattito pubblico e i processi democratici in diverse nazioni.
• Raccomandazione: È necessaria una valutazione del rischio che consideri la complementarità tra moderazione expert e crowdsourced, specialmente per i contenuti contestati durante le elezioni. Il design attuale di CN, che privilegia il consenso rispetto alla fattualità pura, presenta limiti intrinseci che devono essere mitigati da meccanismi aggiuntivi.

In sintesi, il paper dimostra che Community Notes funziona "per design" come un filtro che lascia passare solo ciò che non divide, ma paradossalmente fallisce nel moderare i contenuti più pericolosi per la democrazia (quelli polarizzanti), creando un rischio significativo per l'integrità dei processi elettorali globali.