Examining hate speech infection in social media using range constraints in multidimensional data structures
Dit artikel stelt een methodologie voor die shapelet-gebaseerde tijdreeksanalyse combineert met multidimensionale datastructuren en bereikrestricties om de tijdsvensters en gebruikersconnectiviteitspatronen die de verspreiding van haatspraak op sociale media aansturen nauwkeurig te identificeren, waardoor effectievere gebeurtenisdetectie en mitigatie mogelijk worden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je sociale media voor als een gigantisch, bruisend feest waar iedereen zijn gedachten naar buiten schreeuwt. Soms wordt de sfeer zuur, en begint een specifiek soort "toxische infectie" (haatzaaiende taal) zich te verspreiden. De auteurs van dit artikel, Eleanna Kafeza en haar team, wilden precies uitzoeken wanneer deze infectie begint en wie deze verspreidt, in plaats van alleen maar te proberen elk slecht woord te vangen terwijl het voorbij vliegt.
Beschouw de tijdlijn van een gebruiker niet als een lijst met berichten, maar als een hartslagmonitor. In plaats van naar de woorden zelf te kijken, veranderde het team de emotionele intensiteit van elke gebruiker in een golvende lijn op een grafiek. Als een gebruiker boze, haatdragende dingen post, vertoont hun "hartslag" pieken met negatieve energie.
De gereedschapskist van de detective: Shapelets en Suffix Trees
Om de kwaadwillenden te vinden, gebruikten de onderzoekers een slimme truc genaamd shapelet-classificatie. Stel je voor dat je op zoek bent naar een specifieke vingerafdruk in een stapel modderige voetstappen. Een "shapelet" is als een klein, kenmerkend deel van die voetstap dat bewijst wie hem heeft achtergelaten. In dit geval is de "vingerafdruk" een specifiek patroon van emotionele pieken dat alleen gebruikers met haatzaaiende taal lijken te hebben.
Maar het controleren van elke voetstap tegenover elke vingerafdruk zou eeuwen duren. Daarom bouwde het team een super-snelle bibliotheek genaamd een Suffix Tree. Denk aan dit als een magische, georganiseerde archiefkast waar elk mogelijk patroon van woorden direct is gesorteerd. In plaats van elk boek in de bibliotheek te lezen om een verhaal te vinden, vraag je de kast simpelweg: "Waar is het verhaal dat begint met 'boos?'" en dan wijst de kast je direct naar de juiste plank. Dit maakte hun zoektocht ongelooflijk snel; een taak die normaal gesproken een eeuwigheid duurt, werd afgehandeld in een oogwenk.
De twee-staps filter: Tijd en Invloed
Het vinden van het patroon was slechts de eerste stap. De echte magie gebeurde toen ze twee extra filters toevoegden, als een uitsmijter die twee ID-kaarten controleert bij de deur: Tijd en Invloed.
- Het Tijdvenster: Het team realiseerde zich dat haatzaaiende taal vaak explodeert direct na een specifieke gebeurtenis, zoals het breken van een nieuwsbericht. Ze zochagen niet alleen naar het slechte patroon; ze vroegen: "Gebeurde dit patroon juist nu?" Door in te zoomen op specifieke tijdvensters (zoals een venster van 13 uur), konden ze precies aanwijzen wanneer de "infectie" begon te verspreiden.
- De Invloedscontrole: Ze controleerden ook hoe "populair" of "verbonden" de gebruiker was. Ze ontdekten iets verrassends: de haatzaaiende taal kwam niet altijd van de grootste beroemdheden. Sterker nog, ze vermoedden dat invloedrijke gebruikers snel verbannen worden, waardoor de infectie vaak zich verspreidt via gewone, minder verbonden gebruikers. Ze gebruikten een wiskundig hulpmiddel genaamd een 2D Range Tree om te controleren of de berichten van een gebruiker op het juiste moment plaatsvonden en of hun niveau van invloed binnen een bepaalde reeks viel.
Wat de cijfers zeggen
Het team testte dit op een enorme dataset van tweets die gedurende één maand werden verzameld (van 1 februari 2022 tot 1 maart 2022). Ze keken naar 3.912 gebruikers die haatzaaiende taal postten en balanceerden dit met een dataset van 46.557 tweets van 7.824 verschillende gebruikers.
Toen ze hun experimenten uitvoerden, waren de resultaten veelbelovend maar specifiek voor hun opzet:
- Nauwkeurigheid: Hun beste opstelling vond de juiste haatzaaiende gebruikers met een gemiddelde nauwkeurigheid van 0,72 en een gemiddelde F1-score van 0,84.
- Snelheid: Hun nieuwe methode was vele malen sneller dan de oude, "naïeve" manier van doen. Terwijl de oude methode ongeveer 0,12 × 10⁻² seconden in beslag nam voor een kleine test, deed hun nieuwe methode het in 2,15 × 10⁻⁶ seconden. Toen de data groeide naar 23.800 items, bleef hun methode snel (rond de 2,97 × 10⁻⁶ seconden), terwijl de oude methode aanzienlijk vertraagde.
- Het ideale punt: Ze ontdekten dat de infectie van haatzaaiende taal het meest zichtbaar was in een specifiek tijdvenster van [0, 13] (uren) en onder gebruikers in het [0, 17,5] percentiel van invloed. Dit suggereert dat de infectie vaak begint bij een kleine groep gebruikers die niet noodzakelijkerwijs de beroemdste zijn, maar wel zeer actief zijn tijdens een specifieke crisis.
Wat ze niet beweren
Het is belangrijk om op te merken wat dit artikel niet zegt. De auteurs benadrukken er expliciet op dat ze niet beweren dat ze haatzaaiende taal voor altijd hebben "opgelost". Ze argumenteren uitdrukkelijk tegen het vertrouwen op alleen eenvoudige woordenlijsten of het enkel kijken naar de tekst zonder context. Ze merken ook op dat hun methode het beste werkt wanneer je beschikt over specifieke condities (zoals een bekende tijd van een gebeurtenis) om doorheen te filteren; het is geen toverstaf die haatzaaiende taal vindt in een vacuüm zonder extra gegevens.
Het grote plaatje
Door emotionele chaos te veranderen in georganiseerde datavormen en een super-snelle bibliotheek te gebruiken om ze te vinden, lieten de auteurs zien dat we de "infectie" van haatzaaiende taal veel preciezer kunnen vangen. Ze ontdekten dat door te kijken naar wanneer de woede piekt en wie het verspreidt, we de bron van het probleem veel sneller kunnen identificeren dan voorheen. Hoewel ze suggereren dat dit sociale mediaplatforms kan helpen om direct actie te ondernemen, presenteren ze dit als een krachtig nieuw instrument in de gereedschapskist, niet als een definitief wondermiddel. Het doel is om de vonk te spotten voordat het hele bos in brand vliegt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.