💬 NLP

ExTax: Explainable Disinformation Detection via Persuasion, Emotion, and Narrative Role Taxonomies

ExTax ist ein neuartiges, erklärbares Framework zur Erkennung von Desinformation, das 17 Dimensionen persuasiver Rhetorik, emotionaler Manipulation und narrativer Rollen in einem taxonomischen Raum vereint, um in Bezug auf Genauigkeit und Robustheit die besten verfügbaren Vergleichsmodelle zu übertreffen und dabei überprüfbare Manipulationsprofile für den Menschen bereitzustellen.

Ursprüngliche Autoren: Shang Luo, Yingguang Yang, Zhenchen Sun, Yang Liu, Bin Chong, Jingru Chen, Yancheng Chen, Jiayu Liang, Kefu Xu, Hao Peng, Philip S. Yu

Veröffentlicht 2026-05-27

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Shang Luo, Yingguang Yang, Zhenchen Sun, Yang Liu, Bin Chong, Jingru Chen, Yancheng Chen, Jiayu Liang, Kefu Xu, Hao Peng, Philip S. Yu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich das Internet als einen riesigen, lauten Marktplatz vor. Lange Zeit war es einfach, ein gefälschtes Produkt (Desinformation) zu erkennen: Man suchte einfach nach offensichtlichen Tippfehlern oder unsinnigen Wörtern. Doch nun, mit dem Aufkommen leistungsstarker KI, verkaufen Betrüger „perfekt verpackte" Fälschungen. Sie sehen, klingen und fühlen sich exakt wie das Original an. Sie lügen nicht nur; sie nutzen clevere Tricks, um Sie dazu zu bringen, ein bestimmtes Gefühl zu haben oder eine Geschichte zu glauben, ohne dass Sie es überhaupt merken.

Die Studie stellt ExTax vor, ein neues Werkzeug, das entwickelt wurde, um diese raffinierten Fälschungen aufzudecken. Betrachten Sie ExTax nicht als einfaches „Wahr/Falsch"-Stempel, sondern als einen forensischen Detektiv, der eine Geschichte in drei spezifische „Tatorte" zerlegt, um zu sehen, wie sie manipuliert wurde.

So funktioniert ExTax, unter Verwendung einfacher Analogien:

1. Die drei „Tatorte" (Die Taxonomie)

Anstatt nur zu fragen: „Ist das gefälscht?", stellt ExTax drei tiefgründigere Fragen und sucht im Text nach spezifischen Mustern:

Die rhetorische Falle (Überzeugung): Stellen Sie sich einen Verkäufer vor, der nicht nur ein Produkt verkauft, sondern Ihren Nachbarn angreift, damit Sie sich sicher fühlen, das Seine zu kaufen. ExTax sucht nach diesen „Verkaufstricks". Es prüft, ob der Text die Reputation jemandes angreift, ein komplexes Problem übermäßig vereinfacht oder verwirrende Sprache verwendet, um Sie abzulenken.
Der emotionale Auslöser (Emotion): Haben Sie jemals einen Beitrag geteilt, nur weil er Sie wütend oder ängstlich gemacht hat? ExTax fungiert wie ein Emotionsdetektor. Es scannt nach spezifischen hochintensiven Gefühlen wie Wut, Angst oder Besorgnis, die oft genutzt werden, um Ihr logisches Gehirn zu umgehen und Sie zu impulsivem Handeln zu bewegen.
Die Charakterrollen (Narrativ): Jede Geschichte hat Helden und Bösewichte. Bei Fake News werden die „Bösewichte" und „Opfer" oft ungerecht zugewiesen. ExTax betrachtet, wie Menschen dargestellt werden. Werden sie als „Täuschende Subversive" (geheime Bösewichte) oder „Institutionelle Toxine" (korrupte Systeme) gezeichnet? Oder als „Ethische Stabilisatoren" (gute Leute)? Fake News zwingt Menschen oft in diese extremen, negativen Rollen.

2. Der „Rat der Experten" (Die Methode)

Ein Problem bei der Nutzung von KI zur Aufdeckung von Fake News ist, dass die KI selbst verwirrt oder voreingenommen sein könnte. Um dies zu lösen, verlässt sich ExTax nicht auf nur eine KI.

Der divergente Rat: Es bittet vier verschiedene hochrangige KI-Modelle, denselben Text zu analysieren. Es ist, als würde man vier verschiedene Detektive bitten, die Alibi-Aussage eines Verdächtigen zu lesen.
Der „Entropie"-Filter: Manchmal sind sich die Detektive nicht einig. Der eine sagt: „Das ist definitiv Angstschürerei", während der andere sagt: „Ich bin mir nicht sicher." Anstatt eine Ja/Nein-Antwort zu erzwingen, nutzt ExTax einen cleveren mathematischen Trick namens Entropie-gesteuertes Label Smoothing.
- Die Analogie: Wenn sich alle vier Detektive einig sind, ist ExTax zu 100 % sicher. Wenn sie sich die Waage halten, sagt ExTax: „Okay, dies ist ein Graubereich", und gibt eine „vielleicht"-Bewertung ab, anstatt ein hartes „Ja". Dies verhindert, dass das System durch die eigene Verwirrung der KI getäuscht wird.

3. Der „Scheinwerfer" (Die Erkennung)

Sobald ExTax diese Hinweise gesammelt hat (die Überzeugungstricks, die emotionalen Auslöser und die Charakterrollen), verwendet es einen speziellen Heterogeneous Multi-Head Attention-Mechanismus.

Die Analogie: Stellen Sie sich einen Scheinwerfer mit drei verschiedenen farbigen Linsen vor (Rot für Überzeugung, Blau für Emotion, Grün für Rollen). ExTax wirft diese Lichter gleichzeitig auf den Text. Es betrachtet nicht nur das Gesamtbild; es zoomt heran, um genau zu sehen, wo das rote Licht trifft (der Angriff auf die Reputation) und wo das blaue Licht trifft (die Angst). Durch die Kombination dieser spezifischen Ansichten erstellt es ein vollständiges „Manipulationsprofil" des Textes.

Warum dies wichtig ist (Die Ergebnisse)

Die Studie testete ExTax an fünf verschiedenen Arten von Inhalten, von kurzen Social-Media-Beiträgen bis hin zu langen Nachrichtenartikeln.

Das „Genre"-Problem: Viele frühere Werkzeuge waren hervorragend darin, Fälschungen in kurzen Tweets zu erkennen, aber schlecht darin, sie in langen Nachrichtenartikeln zu finden (oder umgekehrt). Es ist wie ein Sicherheitsbeamter, der gut darin ist, Rucksäcke zu überprüfen, aber schlecht darin, Koffer zu prüfen.
Der Erfolg von ExTax: ExTax blieb bei beiden Arten stark. Während die Genauigkeit anderer Werkzeuge beim Wechsel von Tweets zu Artikeln um fast 33 % sank, blieb ExTax konsistent. Es erreichte eine Spitzenbewertung von 0,8456 und schlug die derzeit besten Methoden.

Das Fazit

ExTax sagt Ihnen nicht nur: „Das ist gefälscht." Es erklärt warum. Es gibt Ihnen einen Bericht, der zeigt: „Dieser Text versuchte, Sie zu manipulieren, indem er die Reputation angriff, Ihre Wut auslöste und einen Politiker als Bösewicht darstellte."

Dies macht den Erkennungsprozess transparent und überprüfbar und hilft Menschen, die spezifischen psychologischen Tricks zu verstehen, anstatt sich einfach auf ein Black-Box-Urteil eines Computers zu verlassen.

Hinweis zu Einschränkungen: Die Autoren geben zu, dass, da sie teure, kommerzielle KI-Modelle für die initiale Analyse verwenden, der Betrieb Kosten verursacht. Außerdem wurde das System hauptsächlich an englischen Texten über westliche Politik und Gesundheit trainiert, sodass es bei Geschichten in anderen Sprachen oder aus verschiedenen Kulturen möglicherweise nicht so gut funktioniert. Schließlich betonen sie, dass dieses Werkzeug der menschlichen Entscheidungsunterstützung dient – es hilft Menschen, bessere Urteile zu fällen, sollte aber nicht als alleiniger Richter darüber fungieren, was online gelöscht oder behalten wird.

Technische Zusammenfassung: ExTax – Erklärbare Desinformationserkennung durch Taxonomien für Überzeugung, Emotion und narrative Rollen

Problemstellung

Die Demokratisierung von Large Language Models (LLMs) hat die Generierung hochfließender Desinformation beschleunigt, die weniger auf oberflächlicher Falschheit und vielmehr auf sophistizierter kognitiver Manipulation beruht. Solche Inhalte kombinieren oft persuasive Rhetorik, emotionale Manipulation und den Aufbau narrativer Rollen, um die Interpretation der Leser über multiple Pfade zu beeinflussen. Bestehende Erkennungsmethoden arbeiten typischerweise isoliert und konzentrieren sich auf einzelne Signale wie Syntax, externes Wissen oder isolierte affektive Hinweise. Folglich gelingt es ihnen kaum, die vielschichtigen manipulativen Absichten moderner Desinformation zu erfassen, und sie versagen darin, für Menschen überprüfbare Erklärungen bereitzustellen. Darüber hinaus annotiert kein bestehendes Korpus diese komplementären Dimensionen gemeinsam, und Attribute, die von einem einzelnen LLM abgeleitet werden, erben häufig modellspezifische Verzerrungen.

Methodik

Die Autoren schlagen ExTax vor, ein taxonomiekonformes Framework, das darauf ausgelegt ist, drei komplementäre Facetten der Manipulation in einem einzigen, interpretierbaren Erkennungssystem zu vereinen. Die Architektur besteht aus drei Kernphasen:

1. Taxonomische Attribut-Elicitation

Um das Fehlen gemeinsamer Annotationen zu adressieren und Verzerrungen durch einzelne Modelle zu mildern, setzt ExTax eine Strategie der divergenten Attributsynthese ein.

Multi-LLM-Abfragen: Das System befragt vier führende LLMs (GPT-5 mini, DeepSeek-V4-Flash, Qwen3.6 Flash und Grok 4.1 Fast Reasoning) unter Verwendung taxonomiespezifischer Prompts, um binäre Merkmale für drei Dimensionen zu extrahieren:
- Überzeugung: 6 Strategien (z. B. Angriff auf den Ruf, Rechtfertigung, Vereinfachung).
- Emotion: 5 Manipulationsmethoden (z. B. Angst, Wut, Hoffnung, Angstzustände, Traurigkeit).
- Narrative Rollen: 6 Kategorien (z. B. Ethische Stabilisatoren, Täuschende Subversive, Institutionelle Toxine).
Entropiegetriebenes dynamisches Label-Smoothing: Um Uneinigkeiten zwischen den LLMs auszugleichen, berechnet das System den Anteil positiver Stimmen ( $p_{i,c}$ ) für jede Kategorie. Anschließend wird die binäre Entropie ( $H_{i,c}$ ) berechnet, um die Unsicherheit zwischen den Modellen zu messen. Das finale weiche Label ( $y^{(i,c)}_{tax}$ ) ist eine gewichtete Kombination aus dem Stimmenanteil und einem neutralen Wert (0,5), wobei eine hohe Uneinigkeit (hohe Entropie) das Label in Richtung 0,5 zieht, während eine hohe Übereinstimmung den Stimmenanteil bewahrt. Dies wandelt verrauschte harte Entscheidungen in kalibrierte weiche Supervision um.

2. Taxonomiekonformes Repräsentationslernen

Das Framework bildet Eingabetexte in einen einheitlichen 17-dimensionalen taxonomischen Raum ab.

Adaptives Gated Pooling: Anstelle des Standard-Mittelwert-Poolings verwendet das Modell einen lernbaren Gating-Vektor, um einzelnen Token aus einem vortrainierten LLM-Encoder (RoBERTa-large) Wichtigkeitsgewichte zuzuweisen.
Facettenspezifische Projektion: Drei unabhängige Multi-Layer-Perceptron (MLP)-Köpfe projizieren die gepoolte Repräsentation in die jeweiligen taxonomischen Räume (Überzeugung, Emotion, Narrative Rollen). Das Modell wird unter Verwendung des Binary-Cross-Entropy-Verlusts gegen die im ersten Schritt abgeleiteten geglätteten weichen Labels trainiert.

3. Taxonomiebasierte Desinformationserkennung

Die finale Erkennungsphase integriert die gelernten taxonomischen Signale mit kontextuellen Textkodierungen.

MerkmalsTransformation und Prompting: Token-Repräsentationen werden in den 17-dimensionalen taxonomischen Raum projiziert. Ein Mechanismus für lernbare taxonomische Prompts verknüpft den vorhergesagten taxonomischen Vektor mit lernbaren semantischen Prompts, um die Merkmalswichtigkeit neu zu kalibrieren.
Heterogene Multi-Head-Attention: Es wird ein spezialisierter Aufmerksamkeitsmechanismus eingesetzt, bei dem die Anzahl der Attention-Heads und ihre Dimensionen strikt den drei taxonomischen Facetten entsprechen ( $d_1=6, d_2=5, d_3=6$ ). Dies gewährleistet eine strenge Eins-zu-eins-Ausrichtung zwischen dem Aufmerksamkeitsmechanismus und den spezifischen Manipulationsstrategien, die modelliert werden.
Vorhersage: Die aggregierte Attention-Ausgabe wird durch eine gewichtete Summe und ein kompaktes MLP verarbeitet, um die finale binäre Klassifizierung (Desinformation vs. Zuverlässig) zu generieren.

Hauptbeiträge

Vielfältige taxonomische Modellierung: Das Papier stellt die Desinformationserkennung als Schlussfolgern über drei komplementäre kognitive Facetten (Überzeugung, Emotion, narrative Rollen) neu dar, die als eine einheitliche 17-dimensionale taxonomische Repräsentation implementiert sind.
Rauschrobuste Attributsynthese: Die Autoren führen eine Methode ein, um Ausgaben mehrerer führender LLMs zu aggregieren und ihre Uneinigkeiten durch entropiegetriebenes dynamisches Label-Smoothing zu regularisieren, wodurch Uneinigkeiten zwischen LLMs effektiv in zuverlässige synthetische Supervision umgewandelt werden.
Taxonomiekonforme Erkennung und Erklärung: Durch die Integration taxonomischer Signale mit kontextuellen Kodierungen über heterogene Attention ermöglicht das Framework eine robuste Erkennung und legt gleichzeitig die spezifischen rhetorischen, affektiven und narrativen Beweise offen, die jeder Vorhersage zugrunde liegen.

Experimentelle Ergebnisse

ExTax wurde über fünf branchen- und genresübergreifende Benchmarks (CoAID, ECTF, ISOT Fake News, MultiDis und EUDisinfo) evaluiert, die sowohl kurze Beiträge als auch lange Artikel abdecken.

Gesamtleistung: ExTax erreichte ein gesamtes Macro F1 von 0,8456 und übertraf damit die stärkste LLM-basierte Baseline (RAEmoLLM) um +2,01 Punkte sowie die stärkste Deep-Learning-Baseline (RoBERTa-large) um +3,13 Punkte.
Robustheit gegenüber Genre-Ungleichgewicht: Das Framework zeigte eine signifikante Robustheit unter starkem Genre-Ungleichgewicht (70 % Beiträge, 30 % Artikel). Während die stärkste Deep-Baseline (DRES) von einem Macro F1 von 0,9454 bei Beiträgen auf 0,6194 bei Artikeln absank, behielt ExTax eine konsistente Leistung über beide Genres hinweg bei, was darauf hindeutet, dass taxonomiekonforme Merkmale genresinvariante Manipulationsmuster erfassen.
Ablationsstudien: Der hybride Ansatz aus divergenter Attributsynthese und entropiegetriebenem Glätten erwies sich als kritisch. Während die Synthese mit einem einzelnen LLM im Stadium des Repräsentationslernens zu geringerer Leistung führte, lieferte der hybride Ansatz eine besser kalibrierte Supervision für die finale Erkennungsphase, was zu überlegenen gesamten F1-Werten führte.

Bedeutung und Behauptungen

Das Papier behauptet, dass ExTax die Desinformationserkennung über binäre „Fake/Real"-Urteile hinaus zu einer interpretierbaren und überprüfbaren Diagnose führt, wie täuschende Inhalte Leser manipulieren. Indem es Vorhersagen auf ein strukturiertes Manipulationsprofil stützt (z. B. Identifizierung von „Angriff auf den Ruf" gepaart mit „Wut" und „Täuschenden Subversiven"), bietet das System Transparenz, die dem analytischen Prozess menschlicher Faktenprüfer ähnelt.

Die Autoren stellen fest, dass ExTax zwar die Robustheit der Erkennung und die Erklärbarkeit verbessert, jedoch kommerzielle führende LLMs für die Attribut-Elicitation benötigt, was Inferenzkosten und potenzielle Reproduzierbarkeitsbedenken mit sich bringt, da sich APIs weiterentwickeln. Zudem ist die Evaluation derzeit auf englischsprachige und westlich-zentrierte Korpora beschränkt, und die strukturierten Erklärungen wurden noch nicht durch menschliche Nutzerstudien mit Faktenprüfern validiert. Folglich positionieren die Autoren ExTax als Entscheidungsunterstützungswerkzeug und nicht als vollständig automatisiertes Moderationssystem, das zur Verwendung unter menschlicher Aufsicht bestimmt ist.