💻 computer science

Hyperactive Minority Alters the Stability of Community Notes

Deze studie toont aan dat Community Notes op X niet de belofte van gedecentraliseerde feitencontrole waarmaakt, maar in plaats daarvan een structureel onstabiel systeem is waarbij de zichtbaarheid van annotaties disproportioneel wordt bepaald door een kleine, gepolariseerde minderheid van zeer actieve gebruikers.

Oorspronkelijke auteurs: Jacopo Nudo, Eugenio Nerio Nemmi, Edoardo Loru, Alessandro Mei, Walter Quattrociocchi, Matteo Cinelli

Gepubliceerd 2026-02-26

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jacopo Nudo, Eugenio Nerio Nemmi, Edoardo Loru, Alessandro Mei, Walter Quattrociocchi, Matteo Cinelli

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De "Geheime Club" achter Community Notes: Waarom een kleine groep de feiten bepaalt

Stel je voor dat X (voorheen Twitter) een enorme bibliotheek is. Iedereen kan er boeken (berichten) neerzetten, maar helaas zitten er ook veel verzonnen verhalen en leugens tussen. Vroeger hadden we een groepje professionele bibliothecarissen die keken of de boeken waar waren. Maar dat was te veel werk en mensen vonden het vaak onrechtvaardig dat die bibliothecarissen beslisten wat "waar" is.

Dus bedacht X een nieuw plan: Community Notes. Het idee was prachtig: laten we het de mensen zelf laten doen! Iedereen kan een briefje met een uitleg bij een bericht plakken, en andere mensen stemmen of dat briefje nuttig is. Als er genoeg mensen het eens zijn, komt het briefje boven het bericht te staan voor iedereen. Het klinkt als een democratisch dorpje waar iedereen gelijk heeft.

Maar dit onderzoek van Jacopo Nudo en zijn team laat zien dat het dorpje er in de praktijk heel anders uitziet. Het is meer als een kleine, zeer actieve club die de hele bibliotheek bestuurt.

Hier is wat ze ontdekten, vertaald in simpele taal:

1. De "80/20" regel (of eigenlijk nog erger)

In een normaal dorp zou je verwachten dat iedereen een beetje helpt. Maar in de wereld van Community Notes is het heel anders.

De Analogie: Stel je voor dat er 100 mensen zijn die helpen met de bibliotheek. Je zou denken dat ze allemaal een paar boeken controleren.
De Realiteit: Het blijkt dat 20% van de mensen (een kleine groep) 80% van het werk doet. De andere 80% van de gebruikers doet bijna niets.
Het gevolg: De mening van die kleine groep is dus veel zwaarder wegen dan die van de rest. Het is alsof één persoon in de bibliotheek 50 keer meer stemmen heeft dan een andere bezoeker.

2. De "Gezochte" Club is niet neutraal

Je zou hopen dat die actieve mensen neutrale bibliothecarissen zijn die gewoon kijken of iets waar is. Maar dat is niet zo.

De Analogie: Stel je voor dat die actieve groep bestaat uit mensen die alleen maar boeken controleren van hun politieke tegenstanders. Als iemand van de "Rode Partij" een boek schrijft, controleren de "Blauwe" actieve mensen het streng. En andersom.
De Realiteit: De mensen die het hardst werken (de meest actieve gebruikers) zijn ook de meest politiek gepolariseerde. Ze zijn niet neutraal; ze hebben een sterke voorkeur. Ze controleren vooral de berichten van mensen met wie ze het oneens zijn.
Het risico: Omdat deze kleine groep zo'n groot deel van de stemmen bepaalt, wordt het oordeel over wat "waar" is, beïnvloed door hun politieke bril.

3. Het systeem is wankel (als een huis van kaarten)

Dit is misschien wel het meest verrassende deel. Het systeem is zo ontworpen dat het alleen een briefje toont als er "breed consensus" is (mensen van beide kanten zijn het eens). Maar omdat die kleine groep zo dominant is, hangt alles van hen af.

De Analogie: Stel je voor dat je een huis van kaarten bouwt. Het ziet er stabiel uit, maar als je één specifieke kaart (van die actieve groep) verwijdert, stort het hele huis in.
De Realiteit: De onderzoekers deden een proef: ze namen de software en deden alsof die kleine groep van actieve gebruikers even niet mee deed.
- Het resultaat? Het hele systeem veranderde.
- Briefjes die normaal gesproken boven een bericht stonden, verdwenen plotseling.
- Briefjes die verborgen waren, kwamen nu boven.
- Zelfs het verwijderen van een heel klein groepje (slechts een paar duizend mensen, minder dan 0,01% van de gebruikers) veranderde wat er voor de rest van de wereld te zien was.

Wat betekent dit voor ons?

Het idee van "Community Notes" was om de macht van de waarheid te verdelen over iedereen. Maar dit onderzoek toont aan dat de macht juist nog meer geconcentreerd is dan bij professionele factcheckers.

In plaats van een democratisch proces, hebben we te maken met een systeem waar de "wijsheden van de menigte" in handen liggen van een kleine, zeer actieve en politiek gekantelde minderheid. Als die groep verandert of even stopt met stemmen, verandert de "waarheid" op het platform direct.

Kortom: Het klinkt als een eerlijk systeem waar iedereen meepraat, maar in werkelijkheid wordt de bibliotheek bestuurd door een kleine, schreeuwerige club die bepaalt wat je mag lezen en wat niet.

Probleemstelling

Socialmediaplatforms verschuiven van professionele fact-checking naar gemeenschapsgebaseerde alternatieven, zoals Community Notes (CN) op platform X (voorheen Twitter). Het idee is dat een gedecentraliseerde, consensusgerichte aanpak transparanter en democratischer is. Echter, er bestaat een fundamenteel empirisch vraagstuk: in welke mate beïnvloeden de sociale dynamieken van gebruikers (zoals activiteitsconcentratie en politieke polarisatie) de totstandkoming en zichtbaarheid van deze notities?

De auteurs stellen dat hoewel CNs bedoeld zijn om waarheid te definiëren via een breed consensusproces, de onderliggende sociale dynamiek van het platform mogelijk leidt tot een herconfiguratie van epistemische autoriteit in plaats van decentralisatie. De centrale vraag is of het systeem stabiel is of dat het gevoelig is voor het gedrag van een kleine, hyperactieve minderheid.

Methodologie

De studie gebruikt een grote-scale empirische benadering gebaseerd op de volledige publieke dataset van Community Notes van januari 2021 tot december 2025.

Data:
- De dataset bevat meer dan 2,2 miljoen ingediende notities, ongeveer 1,3 miljoen unieke beoordelaars en 184 miljoen beoordelingsgebeurtenissen.
- Voor analyses rondom politieke polarisatie en selectiviteit wordt een subset gebruikt van notities die verwijzen naar tweets van accounts met een bekende politieke affilatie (Democratisch of Republikeins), wat resulteert in een dataset van ongeveer 18,2 miljoen beoordelingen.
Analyse van Activiteitsconcentratie:
- De verdeling van beoordelingen per gebruiker wordt gemodelleerd met een discrete power-law verdeling.
- De Gini-coëfficiënt wordt berekend om ongelijkheid in activiteit te kwantificeren.
- Selectiviteit wordt geanalyseerd door te kijken naar hoeveel verschillende auteurs een beoordelaar beoordeelt in vergelijking met een gerandomiseerde nulhypothese.
Politieke Polarisation:
- Een maatstaf voor politieke neiging ( $L$ ) wordt afgeleid van het beoordelingsgedrag. Een beoordeling van "Helpful" of "Not Helpful" wordt geïnterpreteerd als een politiek signaal (voor of tegen) op basis van de politieke affilatie van de oorspronkelijke tweet-auteur en de inhoud van de notitie.
- Gebruikers worden ingedeeld in decielen op basis van hun activiteit, en de verdeling van $L$ wordt vergeleken tussen deze groepen.
Counterfactuele Simulaties:
- De auteurs hebben de open-source implementatie van het consensusalgoritme van Community Notes geïntegreerd.
- Ze voeren experimenten uit waarbij ze de invoer (de set beoordelaars) manipuleren door de meest actieve gebruikers systematisch te verwijderen (van de top 10 tot de top 10.000).
- De stabiliteit van het systeem wordt gemeten via de Jaccard-相似heid tussen de statussen van notities in de basisscenario (alle gebruikers aanwezig) en de simulaties (geen hyperactieve gebruikers).

Belangrijkste Bijdragen

Empirische Karakterisering: De eerste grootschalige analyse die participatiepatronen en politiek gedrag koppelt aan de uitkomsten van het Community Notes-systeem.
Kwantificering van Ongelijkheid: Het aantonen dat het systeem structureel ongelijk is, waarbij een kleine minderheid een disproportioneel grote invloed heeft.
Link tussen Activiteit en Bias: Het bewijs dat de meest actieve gebruikers niet neutraal zijn, maar significant meer gepolariseerd en selectief gedrag vertonen dan de algemene populatie.
Stabiliteitstest: Het gebruik van counterfactuele simulaties om aan te tonen dat het algoritme structureel instabiel is en dat de uitkomst sterk afhankelijk is van de deelname van een handvol gebruikers.

Resultaten

Extreme Concentratie van Activiteit:
- De verdeling van beoordelingen volgt een zware staart (power-law). Ongeveer 20% van de gebruikers is verantwoordelijk voor 80% van alle beoordelingen.
- De Gini-coëfficiënt is 0,78, wat wijst op een hoge mate van ongelijkheid. Deze concentratie is stabiel gebleven sinds 2022.
- Beoordelaars zijn selectief: ze concentreren hun activiteit op een beperkt aantal auteurs en bereiken hun asympotische grens van beoordeelde auteurs sneller dan bij willekeurige selectie te verwachten zou zijn.
Politieke Polarisation bij Actieve Gebruikers:
- De algehele populatie van beoordelaars toont een relatief gebalanceerde verdeling, maar de meest actieve gebruikers (top deciel) vertonen een sterke politieke polarisatie.
- De verdeling van politieke neigingen ( $L$ ) bij de meest actieve gebruikers verschuift duidelijk naar Republikeinse waarden en toont een bimodale verdeling, wat aangeeft dat deze groep extremer en minder gemengd is dan de rest.
Instabiliteit van het Algoritme:
- De counterfactuele simulaties tonen aan dat het systeem extreem gevoelig is voor de uitsluiting van een kleine groep hyperactieve gebruikers.
- Het verwijderen van slechts 10 van de meest actieve gebruikers (een fractie van 0,000007% van de populatie) zorgt ervoor dat 4.587 notities die oorspronkelijk als "Currently Rated Helpful" (CRH, publiek zichtbaar) werden getoond, dit niet meer zijn.
- Het verwijderen van 10.000 gebruikers (ongeveer 0,007% van de beoordelaars) leidt tot een daling van de Jaccard-相似heid voor CRNH-statussen tot 69,6%.
- Dit betekent dat de zichtbaarheid van correctieve notities vaak afhangt van het gedrag van slechts enkele tientallen gebruikers.

Significantie en Conclusie

De studie concludeert dat community-based fact-checking op X, in plaats van epistemische autoriteit te decentraliseren, deze herconfigureert en concentreert in de handen van een kleine, gepolariseerde groep hyperactieve bijdragers.

Systemisch Risico: Het consensusalgoritme, dat ontworpen is om brede overeenstemming te vereisen, wordt in de praktijk ondermijnd door de structuur van de deelname. Een kleine minderheid kan de uitkomst van het systeem drastisch veranderen.
Implicaties voor Democratie: De "wijsheid van de menigte" wordt hier niet gerealiseerd; in plaats daarvan wordt de menigte vertegenwoordigd door een vertekend, politiek extreem segment.
Aanbevelingen: De auteurs suggereren dat toekomstige systemen moeten worden ontworpen om robuuster te zijn tegen participatie-asymmetrieën, bijvoorbeeld door individuele activiteitsniveaus te capen of hyperactieve gebruikers dynamisch minder gewicht te geven in het algoritme.

Kortom, het paper waarschuwt dat zonder ingrijpen de "democratische" aard van Community Notes een illusie is, omdat de feitelijke controle ligt bij een hyperactieve, politiek gepolariseerde elite.