A New Hybrid Intelligent Approach for Multimodal Detection of Suspected Disinformation on TikTok
Dieses Paper präsentiert ein hybrides intelligentes Framework, das auf Deep Learning basierende multimodale Merkmalsanalyse mit Fuzzy-Logik integriert, um mutmaßliche Desinformation auf TikTok durch die Auswertung von Text-, Audio- und Videoreizen zu detektieren und letztlich detaillierte Berichte über Desinformationsverhalten zu erstellen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich TikTok als einen riesigen, belebten digitalen Marktplatz vor, auf dem Millionen von Menschen schreien, singen und Geschichten erzählen. Das Problem ist, dass einige Leute auf diesem Platz Lügen verbreiten, die sehr überzeugend klingen. Die Autoren dieser Arbeit haben ein neues „Detektiv-Team“ entwickelt, um diese Lügner aufzuspüren, aber anstatt nur einen einzelnen Detektiv zu erschaffen, haben sie eine Hybrid-Truppe zusammengestellt, die zwei sehr unterschiedliche Fähigkeiten kombiniert.
So funktioniert ihr System, einfach erklärt:
Die zweiteilige Detektiv-Truppe
Betrachten Sie das System als zwei Hauptcharaktere, die zusammenarbeiten:
1. Der High-Tech-Scanner (Deep Learning)
Stellen Sie sich eine superschnelle Roboter-Kamera und ein Mikrofon vor, das niemals blinzelt. Dieser Teil des Systems beobachtet das Video und hört auf das Audio. Es sieht nicht nur eine Person; es misst alles mit mathematischer Präzision.
- Es hört zu: Es transkribiert das Gesagte und prüft, ob der Sprecher zu viel pausiert, ob die Stimme zittrig ist oder ob er zu schnell spricht.
- Es sieht zu: Es verfolgt die Augen der Person, wie oft sie blinzelt, wohin sie schaut und wie ihre Gesichtsausdrücke sind (wie ein erzwungenes Lächeln oder ein Stirnrunzeln).
- Es liest: Es analysiert den Text (Untertitel oder Sprache), um zu sehen, ob die Worte vage, repetitiv oder unlogisch sind.
2. Der menschliche Richter (Fuzzy Logic)
Stellen Sie sich nun einen weisen menschlichen Richter vor, der nicht nach einer einfachen „Ja/Nein“-Antwort sucht. Das echte Leben ist chaotisch; eine Person ist nicht einfach nur „am Lügen“ oder „am Wahrheits sagen“. Sie könnte ein wenig verdächtig oder sehr verdächtig sein.
- Dieser Richter nimmt alle Rohdaten vom Roboter-Scanner und übersetzt sie in menschliche Sprache.
- Anstatt zu sagen: „Die Blinzelrate beträgt 4,2 pro Sekunde“, sagt der Richter: „Der Sprecher wirkt etwas nervös.“
- Anstatt zu sagen: „Der Text weist 15 % Wiederholung auf“, sagt der Richter: „Die Geschichte wirkt etwas repetitiv.“
Der „Big-5“-Persönlichkeitstest
Um zu entscheiden, ob jemand ein Lügner ist, vergleicht das System das Verhalten des Sprechers mit einem psychologischen Profil eines typischen „Verbreiters von Desinformation“. Die Arbeit verwendet ein berühmtes psychologisches Modell namens Big-5, das fünf Persönlichkeitsmerkmale misst:
- Offenheit (Sind sie offen für neue Ideen?)
- Gewissenhaftigkeit (Sind sie organisiert und sorgfältig?)
- Extraversion (Sind sie kontaktfreudig?)
- Verträglichkeit (Sind sie freundlich?)
- Neurotizismus (Sind sie ängstlich oder emotional?)
Das System fragt: „Entspricht das Verhalten dieser Person dem Profil einesjenigen, der in politischen Situationen Fake News verbreitet?“ In den politischen Videos, die sie getestet haben, fanden sie beispielsweise, dass Lügner oft hohe Werte bei Neurotizismus (ängstlich oder emotional agieren) und niedrige Werte bei der Verträglichkeit aufwiesen.
Der Abschlussbericht: Ein „Verdachtswert“
Nachdem der Roboter die Daten gesammelt und der Richter sie interpretiert hat, liefert das System nicht einfach nur ein Grün oder Rot. Es erstellt einen detaillierten Bericht, ähnlich einer medizinischen Diagnose für ein Video.
- Der Wert: Es gibt ein „Verdachtsniveau“ an, das von Niedrig bis Hoch reicht.
- Die Erklärung: Es erklärt, warum. Es könnte zum Beispiel sagen: „Dieses Video wird als ‚Hoher Verdacht‘ eingestuft, da der Sprecher hohe Angst (Neurotizismus) zeigte, mit geringer Empathie sprach und eine vage Sprache verwendete.“
- Das „Warum“ zählt: Die Arbeit betont, dass dieses System erklärbar ist. Man erhält nicht nur ein Ergebnis, sondern auch die Begründung, sodass man verstehen kann, wie das System zu seinem Schluss gekommen ist.
Was haben sie getestet?
Die Forscher haben ihre „Detektiv-Truppe“ auf zwei Arten getestet:
Der spezifische Test: Sie untersuchten Videos zu spezifischen Themen wie „Verursacht Aspartam Krebs?“ oder „Der Schuss von Alec Baldwin“. Sie prüften, ob das System den Unterschied zwischen Videos, die Lügen verbreiten, Videos, die Lügen korrigieren, und Videos, die Mythen entlarven, erkennen konnte.
- Ergebnis: Es funktionierte sehr gut und identifizierte die Lügner in fast jedem Fall korrekt.
Der große Test (Skalierbarkeit): Sie warfen ein riesiges Netz aus zum Thema „Invasion der Ukraine“ und analysierten über 5.000 Videos von tausenden verschiedenen Nutzern.
- Ergebnis: Das System sortierte diese Videos erfolgreich in Kategorien ein (Niedriger, Mittlerer, Hoher Verdacht). Es fand heraus, dass etwa 15 % der Videos hochgradig verdächtig waren, während der Rest zwischen niedrigem und mittlerem Risiko schwankte.
Die Einschränkungen (Was das System noch nicht kann)
Die Autoren sind ehrlich darüber, was ihr Werkzeug nicht leisten kann:
- Deepfakes: Es kann nicht feststellen, ob das Video ein „Deepfake“ ist (ein computergeneriertes Video). Es geht davon aus, dass die Person auf dem Video echt ist, und analysiert deren Verhalten.
- Sprachbarrieren: Wenn das Video in einer Sprache außer Englisch ist (wie Russisch), muss das System es zuerst übersetzen, was manchmal dazu führen kann, dass die ursprüngliche Bedeutung oder Nuance verloren geht.
- Hindernisse: Wenn ein Video Untertitel hat, die das Gesicht oder die Augen der Person verdecken, kann das System deren Gesichtsausdrücke nicht gut wahrnehmen, was die Beurteilung erschwert.
Das Fazit
Diese Arbeit präsentiert einen neuen Weg, um Fake News auf TikTok zu bekämpfen. Sie kombiniert die Geschwindigkeit von KI mit der Nuanciertheit der menschlichen Psychologie, um nicht nur zu sagen: „Das ist falsch“, sondern um zu erklären, warum es sich falsch anfühlt, indem sie untersucht, wie der Sprecher agiert, klingt und spricht. Es ist wie ein Detektiv, der die Körpersprache und die Sprachmuster einer Person lesen kann, um einen Lügner zu entlarven, und dann einen klaren Bericht schreibt, der genau erklärt, was ihn darauf aufmerksam gemacht hat.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.