Beyond Content: Behavioral Policies Reveal Actors in Information Operations
Dieses Paper stellt ein plattformagnostisches Framework vor, das traditionelle inhaltsbasierte Methoden bei der Erkennung bösartiger Einflussoperationen übertrifft, indem es Nutzeraktivitäten als sequentielle Entscheidungsprozesse modelliert, um stabile Verhaltensstrategien zu identifizieren und dadurch eine höhere Genauigkeit sowie eine frühere Erkennung selbst bei begrenzten Daten oder synthetischen Inhalten zu erreichen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Internet als einen riesigen, chaotischen digitalen Marktplatz vor. Jahrelang haben Sicherheitskräfte, die nach Unruhestiftern (wie Bots oder koordinierten Trollen) Ausschau hielten, hauptsächlich zwei Dinge betrachtet: was die Leute sagten (den Inhalt) und mit wem sie befreundet waren (das Netzwerk). Es war, als versuche man, einen Taschendieb zu fangen, indem man dessen Brieftasche liest oder dessen Adressbuch überprüft. Aber in letzter Zeit sind die Taschendiebe klüger geworden. Sie können mithilfe künstlicher Intelligenz perfekte Sätze schreiben, und sie haben gelernt, ihre Freundeslisten zu verbergen. Dies hat die alte Methode des „Schauens auf die Worte“ weniger effektiv gemacht.
Um dies zu lösen, beginnen Wissenschaftler, etwas anderes zu betrachten: den Rhythmus der Handlungen einer Person. Denken Sie an das wie einen Tanz. Selbst wenn eine Tänzerin oder ein Tänzer das Kostüm oder die Musik wechselt, bleiben die einzigartige Art des Schrittmachens, Drehens und Pausierens oft gleich. In der Welt der Informatik wird dies als „Behavioral Policy“ (Verhaltensstrategie) bezeichnet. Es ist die Idee, dass das Wie und Wann jemand mit einer Plattform interagiert, ein Fingerabdruck ist, der viel schwerer zu fälschen ist als das, was die Person tatsächlich sagt. Die große Frage, die Forscher stellen, lautet: Können wir die Bösen entlarven, indem wir einfach nur ihre Tanzschritte beobachten, selbst wenn wir ihre Songtexte nicht lesen können?
Dieses Papier mit dem Titel „Beyond Content: Behavioral Policies Reveal Actors in Information Operations“ taucht tief in diese Frage ein und nutzt Reddit als seinen Spielplatz. Die Forscher untersuchten über 12.000 Nutzer, darunter 99 Konten, die von Reddit offiziell als mit der russischen Internet Research Agency (den „Trollen“) in Verbindung gebracht wurden, sowie tausende reguläre Nutzer (die „Organischen“). Sie haben nicht nur die Beiträge gelesen; sie behandelten die gesamte Historie eines Nutzers als eine Sequenz von Entscheidungen, wie ein Videospiel, bei dem der Spieler wählt, einen „neuen Thread zu starten“, auf einen „Kommentar zu antworten“ oder „auf eine Antwort zu warten“.
Das Team verwendete einen cleveren mathematischen Trick namens „Inverse Reinforcement Learning“. Stellen Sie sich vor, Sie beobachten einen Meisterkoch beim Kochen. Sie kennen das Rezept nicht, aber indem Sie beobachten, wie er schneidet, rührt und probiert, können Sie die geheimen Regeln erraten, denen er folgt. Die Forscher machten dasselbe: Sie beobachteten, wie die Trolle und die regulären Nutzer handelten, und versuchten, das „Regelwerk“ (oder die Policy) zu „Reverse-Engineering-mäßig“ zu entschlüsseln, nach dem jede Gruppe spielte. Sie fanden heraus, dass die Trolle eine sehr spezifische, starre Tanzroutine hatten. Sie posteten in schnellen, intensiven Schüben während bestimmter Stunden (wie dem frühen Morgen in den USA), erstellten viele neue Diskussionsthreads und beteiligten sich selten an einem regen Austausch von Antworten. Reguläre Nutzer hingegen hatten einen entspannteren, variableren Rhythmus und begannen oft damit, auf bestehende Gespräche zu antworten.
Die Ergebnisse waren beeindruckend. Als die Forscher einen Detektor basierend auf diesen „Tanzschritten“ (Behavioral Policies) bauten, war dieser wesentlich besser darin, die Trolle zu identifizieren als Detektoren, die auf dem Text der Beiträge basierten. Das beste Verhaltensmodell identifizierte die Trolle zu 94,9 % korrekt, während das textbasierte Modell nur 91,2 % erreichte. Noch beeindruckender war, dass der Verhaltensdetektor auch dann gut funktionierte, wenn er nur ein winziges Stück der Historie eines Nutzers sah – nur drei Handlungen. Dies deutet darauf hin, dass der „Fingerabdruck“ eines Trolls fast sofort sichtbar ist, lange bevor er genug Wörter gepostet hat, um durch Textanalyse erwischt zu werden.
Das Papier testete auch, wie gut diese Detektoren standhielten, wenn die Bösen versuchten zu schummeln. Sie simulierten Szenarien, in denen ein Troll-Account „gekapert“ wurde (mit dem Verhalten einer echten Person vermischt) oder in denen die Daten absichtlich mit Rauschen überlagert wurden. Die Verhaltensdetektoren waren wesentlich robuster; sie degradierten „gracefully“ (anmutig), was bedeutet, dass sie auch dann noch recht gut funktionierten, wenn die Daten unordentlich waren, während die textbasierten Detektoren stärker zu kämpfen hatten. Die Autoren merken jedoch an, dass dies kein Allheilmittel ist. Sie fanden einige „Super-Trolle“, die so gut darin waren, normale Menschen nachzuahmen, dass selbst ihre fortschrittlichen Detektoren verwirrt wurden und sie fälschlicherweise für normale Nutzer hielten.
Kurz gesagt legt diese Forschung nahe, dass in der Ära des KI-generierten Textes und verborgener Netzwerke der beste Weg, eine koordinierte Informationskampagne aufzuspüren, nicht darin besteht, zu lesen, was sie sagen, sondern zu beobachten, wie sie sich bewegen. Indem wir Nutzer als Entscheidungsträger mit spezifischen Gewohnheiten modellieren, können wir die verborgenen Muster der Manipulation finden, die Worte allein vielleicht verbergen würden. Obwohl diese Studie spezifisch für Reddit und den Zeitraum 2015–2018 ist, bietet sie ein vielversprechendes neues Werkzeug, um unsere digitalen Marktplätze sicher zu halten: Achten Sie auf den Rhythmus, nicht nur auf den Reim.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.