Community Notes undermoderate polarizing content by design creating risks in electoral processes

Uit de analyse van 1,9 miljoen Community Notes blijkt dat het ontwerp van het algoritme van X, dat uitsluitend op cross-partij ondersteuning is afgestemd, per definitie leidt tot een systematische ondermoderatie van polariserende inhoud, wat aanzienlijke risico's oplevert voor de democratische processen in landen als de VS, het VK, Frankrijk en Duitsland.

De kern

De "Gemeenschapsnotities" van X: Een goed bedoelde brug die soms te smal is

Stel je voor dat X (voorheen Twitter) een enorme, drukke markt is waar iedereen schreeuwt, roept en elkaar probeert te overtuigen. Soms worden er leugens of misleidende verhalen verkocht. Om dit op te lossen, heeft X een systeem bedacht genaamd Community Notes (Gemeenschapsnotities).

Het idee is prachtig: in plaats van dat één strenge directeur (een expert) beslist wat waar is, laten we de hele menigte oordelen. Als iemand een bericht als "misleidend" ziet, schrijft hij een uitleg. Vervolgens stemmen duizenden andere gebruikers over of deze uitleg "helpful" (nuttig) is.

Maar hier komt de twist in dit nieuwe onderzoek: dit systeem is zo ontworpen dat het juist de meest polariserende, politieke discussies laat liggen.

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen.

1. De "Brugbouwers" en de "Muren"

Het systeem werkt als een brugbouwer.

• Hoe het werkt: Als een uitleg (een notitie) alleen maar wordt goedgekeurd door de "Rood" (links) of alleen door de "Blauw" (rechts), dan wordt de brug niet gebouwd. De brug wordt pas zichtbaar als mensen van beide kanten zeggen: "Ja, dit klopt."
• Het probleem: In de echte wereld, zeker tijdens verkiezingen, bouwen mensen van de ene kant en de andere kant vaak muren in plaats van bruggen. Als een linkse persoon een uitleg ziet die een rechtse politiek figuur bekritiseert, zegt hij misschien: "Geweldig!" Maar een rechtse persoon zegt dan: "Nee, dit is onzin!"
• Het gevolg: Omdat ze het niet eens worden, wordt de brug niet gebouwd. De waarschuwing blijft onzichtbaar.

2. De "Polarisatie-valstrik"

De onderzoekers (Bouchaud en Ramaciotti) hebben gekeken naar 1,9 miljoen notities in 13 landen, waaronder de VS, UK, Frankrijk en Duitsland. Ze ontdekten iets verrassends:

Het systeem is heel slim in het vinden van de juiste "ideologische as" (de lijn waarlangs mensen verdeeld zijn). Het weet precies wie links en wie rechts is. Maar omdat het systeem alleen notities toont waar iedereen het over eens is, onderdrukt het per ongeluk de meest belangrijke waarschuwingen.

• Vergelijking: Stel je voor dat je een brandblusser hebt die alleen werkt als de brandweerman én de brandstichter het erover eens zijn dat er brand is. Als de brandstichter zegt "Nee, het is geen brand", dan blust de blusser niet.
• In de praktijk: Bij politieke onderwerpen (zoals verkiezingen) is de "brandstichter" (de tegenpartij) vaak de eerste die zegt "Nee, dit is geen goede uitleg". Daardoor wordt de waarschuwing nooit getoond, zelfs als de feiten kloppen.

3. De Verkiezings-drempel

Het onderzoek keek specifiek naar verkiezingen in 2024 en 2025. Het resultaat was duidelijk:

• Bij onderwerpen als oplichting of nepnieuws over gezondheid (waar mensen het vaak over eens zijn dat het slecht is), worden waarschuwingen vaak getoond.
• Bij verkiezingsnieuws (waar mensen het oneens zijn) worden waarschuwingen veel minder vaak getoond.

In de VS was bijvoorbeeld maar 6,9% van de verkiezings-notities zichtbaar, terwijl dat bij andere onderwerpen 14,7% was. Het systeem "ondermodereert" (laat te weinig zien) de politiek.

4. Waarom is dit gevaarlijk?

De onderzoekers zeggen dat dit een ontwerpfout is, geen bug. Het systeem is zo gebouwd dat het "consensus" (eenheid) zoekt boven "feitelijke juistheid".

• Het risico: Tijdens verkiezingen is het juist cruciaal dat mensen weten wat er mis is met nepnieuws. Maar omdat de twee kampen het niet eens kunnen worden, blijft het nepnieuws ongestraft.
• De metafoor: Het is alsof je een school hebt waar de leraar alleen de antwoorden op het bord zet als zowel de leerlingen die "ja" zeggen als de leerlingen die "nee" zeggen, het eens zijn. Als de klas verdeeld is over een vraag, blijft het bord leeg. De leerlingen denken dan dat er geen antwoord is, of dat het antwoord niet belangrijk is.

Conclusie

De "Community Notes" van X zijn een slimme poging om de menigte wijsheid te gebruiken. Ze werken goed voor simpele feiten (zoals "dit is een nepfoto"). Maar bij complexe politieke discussies, waar de kloof tussen links en rechts groot is, faalt het systeem.

Het systeem is zo ontworpen dat het de "muren" tussen de kampen respecteert in plaats van ze te doorbreken. Voor de democratie en eerlijke verkiezingen is dit een groot risico: de gevaarlijkste leugens zijn vaak degenen waar de tegenpartij het niet mee eens is, en die worden daarom door dit systeem genegeerd.

Kortom: Het systeem zoekt naar vrede, maar soms is de waarheid juist onrustig en verdeeld. En als je alleen de rustige momenten toont, mis je het echte verhaal.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het onderzoekspaper "Community Notes undermoderate polarizing content by design creating risks in electoral processes" van Bouchaud en Ramaciotti, geschreven in het Nederlands.

Titel: Community Notes ondermodereert gepolariseerde inhoud per ontwerp, wat risico's oplevert voor verkiezingsprocessen

Auteurs: Paul Bouchaud en Pedro Ramaciotti
Publicatiedatum: Maart 2026 (gebaseerd op data tot maart 2025)
Onderwerp: Analyse van het algoritme van X (voormalig Twitter) voor gemeenschapsnotities (Community Notes) in een internationaal perspectief.

---

1. Het Probleem

Social media-platforms staan bekend om de verspreiding van desinformatie. Terwijl professionele fact-checkers effectief kunnen zijn, kunnen ze niet schalen tot het volume aan content en worden ze vaak gezien als partijdig. X heeft daarom Community Notes (CN) geïntroduceerd: een crowdsourced systeem waarbij gebruikers contextuele notities kunnen toevoegen aan misleidende posts.

De kernuitdaging voor dit systeem is het modereren van gepolariseerde inhoud. Bij dergelijke inhoud is er vaak geen consensus over de "nuttigheid" van een notitie tussen gebruikers met verschillende ideologische achtergronden (bijv. links vs. rechts). Het algoritme van X is ontworpen om notities te selecteren die breed gedragen worden over ideologische lijnen heen ("cross-partisan support"). De auteurs stellen dat deze ontwerpkeuze inherent leidt tot systematische ondermoderatie van inhoud die sterk polariseert, zelfs als die inhoud feitelijk onjuist is. Dit vormt een risico voor de integriteit van verkiezingsprocessen.

2. Methodologie

De auteurs hebben een uitgebreide analyse uitgevoerd van de publiek beschikbare data van X, gekoppeld aan politieke ideologische schaalmodellen.

• Data:

  • Community Notes: 1,88 miljoen voorgestelde notities met 135,17 miljoen beoordelingen (tot maart 2025).
  • Landen: Analyse uitgevoerd in 13 landen (VS, VK, Japan, Spanje, Frankrijk, Brazilië, Canada, Duitsland, Argentinië, Israël, Australië, Polen, Mexico).
  • Verkiezingen: Specifieke focus op verkiezingsgerelateerde notities tijdens de verkiezingen van 2024 (VS, VK, Frankrijk) en 2025 (Duitsland).

• Algoritmische Analyse:

  • De auteurs hebben het matrix-factorisatie-algoritme van X gerepliceerd (gebaseerd op open-source code).
  • Ze infereren latente ideologische parameters:
    • $\theta_n$: Latente ideologie van de notitie.
    • $\theta_r$: Latente ideologie van de beoordelaar (rater).
    • $\beta_n, \beta_r, \beta_0$: Bias-parameters voor nuttigheid en tolerantie.
  • Het algoritme voorspelt een beoordeling ($\hat{\eta}$) via de formule: $\hat{\eta}_{rn} = \beta_0 + \beta_n + \beta_r + \theta_n \cdot \theta_r$.
  • Een notitie krijgt de status "Helpful" (zichtbaar) als deze een hoge $\beta_n$ heeft, wat betekent dat deze positief wordt beoordeeld door gebruikers met uiteenlopende $\theta_r$ waarden.

• Ideologische Validatie:

  • Om de door het algoritme geleerde latente dimensie te interpreteren, hebben de auteurs een multidimensionale ideologische schaal gebruikt gebaseerd op het volgen van parlementsleden (MPs) en gekalibreerd met de Global Party Survey.
  • Ze vergelijken de door CN geleerde dimensie met twee bekende politieke dimensies: Links-Rechts en Anti-Elite (populisme/vertrouwen in instituties).

3. Belangrijkste Bijdragen

1. Empirische Validatie van het Algoritme: Het paper levert het eerste empirische bewijs dat het CN-algoritme in 13 verschillende landen succesvol de belangrijkste ideologische verdeeldheid (vaak Links-Rechts, soms Anti-Elite) identificeert die de politieke communicatie op X structureert.
2. Identificatie van een Ontwerpfout: De auteurs tonen aan dat het systeem per ontwerp "bruggenbouwend" is. Dit betekent dat inhoud die sterk polariseert (waarover geen consensus is tussen links en rechts) systematisch wordt uitgesloten van moderatie, ongeacht de feitelijke juistheid.
3. Risico-analyse voor Verkiezingen: Er wordt aangetoond dat notities over verkiezingen een significant lagere kans hebben om de "Helpful"-status te bereiken in vergelijking met niet-politieke onderwerpen (zoals scams of nepnieuws over producten).

4. Resultaten

• Ideologische Uitlijning:

  • In alle 13 onderzochte landen correleert de door het CN-model geleerde ideologische as sterk met de belangrijkste politieke verdeeldheid in dat land (gemiddelde AUC van 0,808).
  • In de VS en Frankrijk is dit de Links-Rechts-as. In landen als Brazilië en Argentinië speelt de Anti-Elite-as (populisme) een grotere rol.

• Ondermoderatie van Gepolariseerde Inhoud:

  • Alleen 11,97% van alle voorgestelde notities bereikt de "Helpful"-status.
  • Bij verkiezingsgerelateerde notities daalt dit percentage aanzienlijk:
    • VS 2024: 6,9% (vs. 14,7% voor algemene notities).
    • VK 2024: 8,2% (vs. 10,9%).
    • Frankrijk 2024: 12,8% (vs. 16,8%).
    • Duitsland 2025: 8,6% (vs. 11,9%).
  • Ter vergelijking: notities over scams en fraudes bereiken de "Helpful"-status in 39% van de gevallen.

• Oorzaak van de Ondermoderatie:

  • Het algoritme vereist consensus over ideologische lijnen heen. Bij verkiezingsonderwerpen zijn gebruikers vaak ideologisch gescheiden; een notitie die door links als "Helpful" wordt gezien, wordt vaak als "Not Helpful" beoordeeld door rechts (en vice versa).
  • Hierdoor ontbreekt de benodigde "cross-partisan support" en blijft de notitie onzichtbaar, zelfs als deze feitelijk correct is.

• Bronnen:

  • Notities die verwijzen naar professionele fact-checks bereiken wel vaker de "Helpful"-status (21,3%), maar dit effect is minder sterk bij sterk gepolariseerde politieke onderwerpen.

5. Betekenis en Conclusie

Het onderzoek concludeert dat Community Notes een inherent beperking heeft: het is ontworpen om consensus te vinden, niet om feitelijke juistheid te garanderen in een gepolariseerde omgeving.

• Risico voor Democratie: Tijdens verkiezingen, wanneer polarisatie het hoogst is, faalt het systeem om misleidende inhoud effectief te markeren. Dit kan leiden tot een verspreiding van desinformatie die niet wordt tegengegaan door het platform.
• Beleidsopties: De auteurs pleiten voor een zorgvuldige evaluatie van crowdsourced moderatie als vervanging voor expert fact-checking. Ze suggereren dat een hybride aanpak (waarbij experts ingrijpen bij sterk gepolariseerde, verkiezingsgerelateerde content) noodzakelijk is om de risico's voor de democratische processen te mitigeren.
• Technische Implicatie: Het "bridging"-algoritme (zoeken naar consensus) is effectief voor het verminderen van de verspreiding van nepnieuws over minder gevoelige onderwerpen, maar werkt contraproductief bij onderwerpen waar de ideologische kloof te groot is voor consensus.

Kortom: Community Notes ondermodereert per ontwerp de meest kritieke en polariserende inhoud, wat een significant risico vormt voor de informatie-integriteit tijdens verkiezingen.