Predicting, Evaluating, and Explaining Top Misinformation Spreaders via Archetypal User Behavior
Dieses Paper schlägt ein Framework zur Vorhersage, Bewertung und Erklärung der führenden Verbreiter von Desinformation vor, indem es drei unterschiedliche Nutzerarchetypen (Amplifier, Super-Spreader und koordinierte Accounts) modelliert und zeigt, dass Super-Spreader-Eigenschaften die Spitzenplatzierungen dominieren, während zeitliche Dynamiken und erklärbare KI die Vorhersagegenauigkeit sowie die Interpretierbarkeit für eine proaktive Inhaltsmoderation verbessern.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Auf sozialen Medien verbreiten sich Informationen mit der Geschwindigkeit eines Gedankens, aber nicht jeder, der sie teilt, spielt die gleiche Rolle. Einige Menschen kreieren die ursprünglichen Geschichten, während andere sie einfach nur weitergeben, und einige wenige arbeiten zusammen, um sicherzustellen, dass eine Botschaft so viele Augen wie möglich erreicht. Wenn sich Fehlinformationen verbreiten, ist dies selten die Schuld einer einzelnen Person; stattdessen ist es das Ergebnis eines komplexen Geflechts von Verhaltensweisen, bei dem verschiedene Arten von Nutzern Narrative verstärken, koordinieren und lancieren. Das Verständnis darüber, wer diese Menschen sind und wie sie agieren, ist entscheidend, da falsche Geschichten die öffentliche Meinung verzerren, das Vertrauen in die Wissenschaft untergraben und realen Schaden anrichten können. Die Herausforderung für Plattformen besteht darin, dass eine falsche Geschichte oft schon zu weit gereist ist, um gestoppt werden zu können, wenn sie erst markiert und entfernt wird. Um die Verbreitung zu stoppen, bevor sie an Dynamik gewinnt, benötigen Forscher eine Möglichkeit, die spezifischen Konten zu identifizieren, die am ehesten Schaden anrichten können – nicht, indem sie deren Absichten erraten, sondern indem sie beobachten, wie sie sich tatsächlich verhalten.
Ein Forschungsteam setzte sich zum Ziel, dieses Problem zu lösen, indem es die digitalen Fußabdrücke untersuchte, die Nutzer hinterlassen, die Inhalte mit geringer Glaubwürdigkeit verbreiten. Sie konzentrierten sich auf drei unterschiedliche Verhaltensmuster oder „Archetypen“, denen diese Nutzer zu folgen neigen. Die erste Gruppe, die sie Verstärker (Amplifier) nennen, erstellt selten eigene Beiträge. Stattdessen fungieren sie als Megafon, indem sie ständig Inhalte anderer weiterverbreiten, um deren Reichweite zu erhöhen. Die zweite Gruppe, bekannt als Super-Verbreiter (Super-Spreader), sind die ursprünglichen Schöpfer viraler Inhalte. Sie schreiben Beiträge, die konsequent tausende Male geteilt werden, und wirken wie der Funke, der ein Feuer entfacht. Die dritte Gruppe besteht aus koordinierten Konten, also Gruppen von Nutzern, die synchron zusammenarbeiten, um dieselbe Botschaft zur gleichen Zeit voranzutreiben, wodurch die Illusion einer weit verbreiteten öffentlichen Zustimmung erzeugt wird. Die Forscher erkannten, dass diese Rollen nicht immer getrennt sind; ein einzelner Nutzer kann für eine Geschichte als Super-Verbreiter und für eine andere als Verstärker agieren, oder eine Gruppe kann ihre Handlungen koordinieren, um eine einzige einflussreiche Stimme nachzuahmen.
Um zu testen, wie gut sie vorhersagen konnten, wer als Nächstes Fehlinformationen verbreiten würde, analysierten die Forscher zwei massive Datensammlungen von Twitter aus der Zeit der Pandemie. Ein Datensatz enthielt Gespräche aus Italien, während der andere eine globale Sammlung von Beiträgen in vielen Sprachen war. Zuerst klassifizierten sie die Inhalte basierend auf der Vertrauenswürdigkeit der verlinkten Websites, unter Verwendung eines Systems, das Nachrichten-Domains von null bis hundert bewertet. Dann entwickelten sie verschiedene mathematische Modelle, um Nutzer basierend auf den drei Verhaltensarchetypen einzustufen. Einige Modelle zählten, wie oft ein Nutzer falsche Geschichten teilte, während andere betrachteten, wie früh ein Nutzer eine Geschichte nach deren Veröffentlichung teilte oder wie eng die Aktivitäten eines Nutzers mit denen einer koordinierten Gruppe übereinstimmten. Sie erstellten auch eine neue, zeitsensitive Version eines klassischen Einfluss-Scores, der berücksichtigt, wie sich die Aktivität eines Nutzers über Tage und Wochen hinweg verändert, anstatt nur eine Momentaufnahme zu betrachten.
Die Ergebnisse zeigten, dass der effektivste Weg, die größten Unruhestifter zu finden, darin bestand, nach den Super-Verbreitern zu suchen. Wenn die Forscher die Nutzer basierend auf ihrer Fähigkeit einstuften, originäre Inhalte zu generieren, die andere teilen würden, tauchten diese Konten konsistent ganz oben auf der Liste auf. Dies sind die Individuen, die für den anfänglichen Ausbruch der Viralität verantwortlich sind, der es falschen Narrativen ermöglicht, Fuß zu fassen. Doch als die Forscher weiter unten auf der Liste der einflussreichen Nutzer blickten, wurde das Bild komplexer. In den mittleren und unteren Rängen wurden das Verhalten von Verstärkern und koordinierten Gruppen viel deutlicher. Dies deutet darauf hin, dass während einige wenige Super-Verbreiter das Feuer entfachen, es die Verstärker sind, die es am Brennen halten, und die koordinierten Gruppen, die die Flammen im Netzwerk anfachen.
Um ein klareres Bild davon zu bekommen, wie diese verschiedenen Verhaltensweisen zusammenwirken, trainierte das Team ein Modell des maschinellen Lernens, das alle drei Archetypen in einem einzigen System kombiniert. Sie verwendeten dann eine Technik, die erklärt, wie das Modell seine Entscheidungen trifft, was es ihnen ermöglichte zu sehen, welche Verhaltensweisen am wichtigsten waren. Sie fanden heraus, dass das Modell stark von der Anzahl der Male abhing, die ein Nutzer Inhalte mit geringer Glaubwürdigkeit weiterteilte – ein Merkmal, das mit Verstärkern assoziiert ist. Dies war überraschend, da man erwarten könnte, dass die Ersteller viraler Inhalte die wichtigste Kennzahl sind. Stattdessen zeigten die Daten, dass der Akt des Weiterteilens ein starker Indikator für das Risiko ist. Das Modell bestätigte auch, dass die Super-Verbreiter, identifiziert durch ihre Fähigkeit, konsistentes Engagement zu erzeugen, entscheidend waren, insbesondere unter den obersten gerankten Nutzern. Mit sinkendem Ranking nahm der Einfluss von koordiniertem Verhalten und der Häufigkeit des Weiterteilens zu, was ein vielschichtiges Ökosystem offenbarte, in dem verschiedene Akteure unterschiedliche Rollen im selben Problem spielen.
Die Studie testete auch, wie gut diese Methoden funktionieren, wenn nur sehr wenig Daten zur Verfügung stehen, wobei ein Szenario simuliert wurde, in dem eine Plattform schnell nach Erscheinen einer neuen Geschichte eine Entscheidung treffen muss. Sie fanden heraus, dass der zeitsensitive Einfluss-Score selbst mit begrenzten Informationen stabil und genau blieb und ältere Methoden, die die Zeitplanung der Nutzeraktivität nicht berücksichtigten, übertraf. Das Modell des maschinellen Lernens hingegen hatte Schwierigkeiten, wenn es auf sehr kleinen Datenmengen trainiert wurde, was darauf hindeutet, dass komplexe Modelle zwar leistungsstark sind, aber genügend Historie benötigen, um Muster zu lernen. Die Forscher kamen zu dem Schluss, dass der beste Ansatz für Plattformen wahrscheinlich eine Kombination dieser Werkzeuge ist: die Verwendung einfacher, zeitbewusster Scores, um die gefährlichsten Konten schnell zu identifizieren, und die Verwendung detaillierterer Modelle, um das volle Spektrum der Verhaltensweisen zu verstehen, die die Verbreitung von Fehlinformationen aufrechterhalten. Indem sie sich auf diese beobachtbaren Muster statt auf das Raten der Absicht eines Nutzers konzentrieren, können Plattformen früher intervenieren und gezielt die Konten angreifen, die den größten Schaden anrichten, bevor Fehlinformationen unkontrollierbar werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.