The Enforcement and Feasibility of Hate Speech Moderation on Twitter
Deze studie concludeert dat de aanhoudende aanwezigheid van haatzaaiende inhoud op Twitter niet voornamelijk wordt veroorzaakt door technische beperkingen, maar door institutionele keuzes in de toewijzing van moderatiebronnen, aangezien een economisch haalbare mens-AI-pijplijn de blootstelling aan dergelijke inhoud aanzienlijk had kunnen verminderen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De Grote Twitter-Modder: Waarom Haat online blijft hangen
Stel je voor dat Twitter (nu X) een gigantisch, drukke stad is. In deze stad wonen miljarden mensen die de hele dag door praten, roepen en schreeuwen. Helaas is er in deze stad ook een groep die constant scheldt, bedreigt en haat verspreidt. De politie van deze stad (de moderatoren) heeft een duidelijke opdracht: "Zorg dat niemand wordt aangevallen of bedreigd."
Maar een nieuw onderzoek van wetenschappers uit Oxford, de Wereldbank en andere topuniversiteiten stelt een zeer vervelende vraag: Doen ze hun werk wel goed?
Hier is wat ze hebben ontdekt, vertaald in een simpel verhaal met een paar creatieve vergelijkingen.
1. De "Vuilnisbak" die bijna leeg is
De onderzoekers hebben een momentopname gemaakt van alles wat er in 24 uur op Twitter werd gezet. Het was alsof ze een hele dag lang elke praatjes in de stad hebben opgeschreven. Ze vonden ongeveer 225.000 haatvolle berichten per dag. Dat is een berg vuilnis die elke dag wordt gegenereerd.
Vervolgens keken ze vijf maanden later weer naar die berichten. Wat bleek?
- 80% van die haatvolle berichten staat er nog steeds.
- Zelfs berichten die mensen direct opriepen om anderen te vermoorden of te vernietigen, bleven vaak online.
Het is alsof je een vuilniswagen ziet die langzaam door de stad rijdt, maar in plaats van de vuilnisbakken te legen, haalt hij er nauwelijks iets uit. De meeste rotzooi blijft gewoon liggen.
2. De "Gouden Regel" werkt niet
Je zou denken dat de politie harder ingrijpt als de situatie ernstig is. Als iemand zegt: "Ik ga die persoon vermoorden", zou je verwachten dat die bericht direct wordt verwijderd.
Maar de onderzoekers vonden het tegenovergestelde:
- Een haatvol bericht had net zo weinig kans om verwijderd te worden als een gewoon, saai bericht.
- Zelfs als een bericht heel veel mensen bereikte (veel 'likes' en 'retweets'), werd het niet sneller verwijderd. Sterker nog, soms werd het juist minder snel verwijderd.
- Daarentegen werden berichten over oplichting of naaktheid wel veel sneller weggehaald.
Het is alsof de politie in deze stad eerst de mensen oppakt die een verkeerd geparkeerde auto hebben, maar de mensen die een mes zwaaien, gewoon laten lopen.
3. De Robot die te veel fouten maakt
Twitter gebruikt computers (AI) om te kijken welke berichten verwijderd moeten worden. De onderzoekers keken of deze robots het werk wel konden doen.
- Het probleem: De robot is erg onzeker. Als je de robot vraagt om alle haatvolle berichten te vangen, pakt hij ook heel veel onschuldige mensen op. Hij denkt dat een grapje of een boze zinnetje haat is.
- Het gevolg: Als je de robot alleen laat werken, moet je ofwel heel veel onschuldige mensen straffen (wat niet mag), of je mist heel veel echte haat.
Maar er is goed nieuws: De robot is wel heel goed in sorteren. Hij kan zeggen: "Hey, deze 10% van de berichten zijn waarschijnlijk het gevaarlijkst." Hij is als een slimme hond die wel kan ruiken waar het vuur is, maar niet zelf het vuur kan blussen.
4. De Menselijke Brandweer: Te duur of te weinig?
Hier komt het echte probleem. Omdat de robot niet perfect is, hebben mensen nodig om de "gevaarlijke" berichten te controleren.
De onderzoekers deden een simulatie: "Wat als we genoeg mensen inhuren om de top 10% van de gevaarlijkste berichten te controleren?"
- De kosten: Het zou ongeveer 3% van de totale winst van Twitter kosten om dit goed te doen.
- De boete: Als Twitter dit niet doet, kunnen ze in Europa en het VK boetes krijgen van wel 6% tot 10% van hun winst.
De conclusie is simpel: Het is voor Twitter goedkoper om de mensen in te huren en de haat te verwijderen, dan om de boete te betalen! Het is dus niet dat het onmogelijk is om het werk te doen; het is gewoon dat ze kiezen om het niet te doen.
5. Waarom gebeurt dit dan?
De onderzoekers concluderen dat het probleem niet ligt in de technologie. De technologie kan het werk (met wat menselijke hulp) prima doen. Het probleem is een keuze.
Twitter kiest er blijkbaar voor om geld te besparen of om de "vrijheid van meningsuiting" (of het gevoel daarvan) te beschermen, ten koste van de veiligheid. Ze investeren niet genoeg in mensen die het werk doen.
Samengevat in één zin:
Twitter heeft de middelen en de technologie om haat online te stoppen, maar kiest er bewust voor om dat niet te doen, omdat het hen te veel moeite kost, terwijl het eigenlijk goedkoper is dan de boetes die ze straks krijgen.
Het is alsof een huisbaas zegt: "Ik heb de sleutels en het gereedschap om de deur te repareren, maar ik doe het niet, want ik vind het te veel werk." En ondertussen blijven de inbrekers gewoon binnen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.