Beyond Content: Behavioral Policies Reveal Actors in Information Operations
Dit artikel introduceert een platformonafhankelijk framework dat traditionele inhoudsgebaseerde methoden overtreft bij het detecteren van kwaadaardige beïnvloedingsoperaties door gebruikersactiviteit te modelleren als sequentiële besluitvormingsprocessen om stabiele gedragsbeleid te identificeren, waarbij een hogere nauwkeurigheid en vroegere detectie wordt bereikt, zelfs met beperkte gegevens of synthetische inhoud.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je het internet voor als een gigantisch, chaotisch digitaal dorpsplein. Jarenlang keken beveiligers die probeerden lastmakers (zoals bots of gecoördineerde trolls) op te sporen, vooral naar twee dingen: wat mensen zeiden (de inhoud) en met wie ze bevriend waren (het netwerk). Het was alsof je een zakkenroller probeerde te vangen door zijn portemonnee te lezen of zijn adresboek te controleren. Maar de laatste tijd zijn de zakkenrolers slimmer geworden. Ze kunnen perfecte zinnen schrijven met behulp van kunstmatige intelligentie, en ze hebben geleerd om hun vriendenlijsten te verbergen. Dit heeft de oude methode van "kijken naar de woorden" minder effectief gemaakt.
Om dit op te lossen, beginnen wetenschappers naar iets anders te kijken: de ritmiek van de acties van een persoon. Denk aan een dans. Zelfs als een danser van kostuum of muziek verandert, blijven de unieke manier van stappen, draaien en pauzeren vaak hetzelfde. In de wereld van de informatica wordt dit een "behavioral policy" (gedragspolitiek) genoemd. Het is het idee dat hoe en wanneer iemand een platform gebruikt, een vingerafdruk is die veel moeilijker te vervalsen is dan wat ze daadwerkelijk zeggen. De grote vraag die onderzoekers stellen is: Kunnen we de slechteriken vangen door simpelweg naar hun danspassen te kijken, zelfs als we hun teksten niet kunnen lezen?
Dit artikel, getiteld "Beyond Content: Behavioral Policies Reveal Actors in Information Operations", duikt diep in die vraag met Reddit als hun speeltuin. De onderzoekers bestudeerden meer dan 12.000 gebruikers, waaronder 99 accounts die Reddit officieel als verbonden met de Russische Internet Research Agency had aangemermerkt (de "trolls") en duizenden reguliere gebruikers (de "organics"). Ze lazen niet alleen de berichten; ze behandelden de geschiedenis van elke gebruiker als een reeks beslissingen, zoals een videogame waarin de speler kiilt voor "een nieuwe thread starten", "reageren op een comment" of "wachten op een reactie".
Het team gebruikte een slimme wiskundige truc genaamd "Inverse Reinforcement Learning". Stel je voor dat je kijkt naar een meesterkok die kookt. Je kent het recept niet, maar door te kijken naar hoe hij snijdt, roert en proeft, kun je raden welke geheime regels hij volgt. De onderzoekers deden hetzelfde: ze keken hoe de trolls en reguliere gebruikers handelden, en probeerden de "regelboek" (of policy) waar elke groep volgens speelde, terug te ontwerpen. Ze ontdekten dat de trolls een zeer specifieke, rigide dansroutine hadden. Ze plaatsten berichten in snelle salvo's tijdens specifieke uren (zoals de vroege ochtend in de VS), creëerden veel nieuwe discussie-threads en gingen zelden aan in een heen-en-weer gesprek. Reguliere gebruikers hadden daarentegen een meer ontspannen, gevarieerd ritme en begonnen vaak door te reageren op bestaande gesprekken.
De resultaten waren opmerkelijk. Wanneer de onderzoekers een detector bouwden op basis van deze "danspassen" (behavioral policies), was deze veel beter in het opsporen van de trolls dan detectoren gebaseerd op de tekst van de berichten. Het beste gedragsmodel identificeerde de trolls in 94,9% van de gevallen correct, terwijl het tekstgebaseerde model slechts 91,2% haalde. Nog indrukwekkender was dat de gedetector goed functioneerde, zelfs wanneer deze slechts een klein deel van de geschiedenis van een gebruiker zag—slechts drie acties. Dit suggereert dat de "vingerafdruk" van een troll bijna onmiddellijk zichtbaar is, lang voordat ze genoeg woorden hebben gepost om door tekstanalyse te worden betrapt.
Het onderzoek testte ook hoe goed deze detectoren standhielden wanneer de slechteriken probeerden te bedriegen. Ze simuleerden scenario's waarin een troll-account werd "gekaapt" (gemengd met het gedrag van een echt persoon) of waarbij de gegevens opzettelijk werden vervuild met ruis. De gedetectoren waren veel veerkrachtiger; ze degradeerden gracieus, wat betekent dat ze nog steeds redelijk goed werkten zelfs wanneer de gegevens rommelig waren, terwijl tekstgebaseerde detectoren meer moeite hadden. De auteurs merken echter op dat dit geen wondermiddel is. Ze ontdekten een paar "super-trolls" die zo goed waren in het imiteren van gewone mensen dat zelfs hun geavanceerde detectoren in de war raakten en hen voor normale gebruikers aanzagen.
Kortom, dit onderzoek suggereert dat in het tijdperk van AI-gegenereerde tekst en verborgen netwerken, de beste manier om een gecoördineerde informatiecampagne op te sporen misschien niet is om te lezen wat ze zeggen, maar om te kijken hoe ze bewegen. Door gebruikers te modelleren als besluitvormers met specifieke gewoonten, kunnen we de verborgen patronen van manipulatie vinden die woorden alleen kunnen verbergen. Hoewel deze studie specifief is voor Reddit en de periode 2015–2018, biedt het een veelbelovend nieuw instrument om onze digitale dorpspleinen veilig te houden: let op het ritme, niet alleen op de rijm.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.