Explainable Disentangled Representation Learning for Generalizable Authorship Attribution in the Era of Generative AI

1. Problemstellung

Das Paper adressiert ein fundamentales Problem im Bereich der Autorenschaftsanalyse (Authorship Attribution) und der Erkennung KI-generierter Texte: die Verschlingung von Inhalt und Stil (Content-Style Entanglement).

• Das Kernproblem: Bestehende Methoden lernen oft spuriose Korrelationen zwischen dem Schreibstil eines Autors und den von ihm behandelten Themen (Topics). Ein Modell lernt beispielsweise fälschlicherweise, dass ein Text über „Detektivfiktion" automatisch von Arthur Conan Doyle stammt, anstatt den eigentlichen, themenunabhängigen Schreibstil zu erkennen.
• Folgen: Dies führt zu einer schlechten Generalisierung über verschiedene Domänen hinweg. Wenn sich das Thema ändert, versagen die Modelle oft, da sie den Stil nicht isoliert vom Inhalt verstanden haben.
• Mangelnde Interpretierbarkeit: Bisherige Ansätze bieten kaum Einblicke, welche stilistischen Merkmale tatsächlich für die Entscheidung des Modells verantwortlich sind.

2. Methodik: EAVAE

Die Autoren schlagen EAVAE (Explainable Authorship Variational Autoencoder) vor, ein Framework, das Stil und Inhalt durch eine „Architektur-trennung nach Design" (separation-by-design) explizit entkoppelt. Der Ansatz besteht aus zwei Hauptphasen:

A. Kontrastives Vortraining (Contrastive Pre-training)

• Ein Stil-Encoder wird auf großen, diversen Datenmengen mit überwachtem kontrastivem Lernen (Supervised Contrastive Learning) vortrainiert.
• Ziel ist es, Dokumente desselben Autors im Vektorraum zu clustern und die von verschiedenen Autoren zu trennen.
• Es werden Hard Negative Mining-Techniken (mittels BM25) eingesetzt, um Dokumente zu finden, die lexikalisch ähnlich, aber stilistisch unterschiedlich sind, um oberflächliche Merkmale zu vermeiden.
• Bidirektionale Aufmerksamkeitsmechanismen in großen Sprachmodellen (LLMs) werden genutzt, um Abhängigkeiten in beide Richtungen zu erfassen.

B. Feinabstimmung mit Entwirrtem VAE (Disentangled VAE Fine-tuning)

Dies ist der innovative Kern des Ansatzes, der die Entkoppelung erzwingt:

1. Getrennte Encoder: Es gibt zwei separate Encoder: einen für den Stil ($E_s$) und einen für den Inhalt ($E_c$). Diese erzeugen latente Repräsentationen $z_s$ und $z_c$, die als unabhängig voneinander angenommen werden.
2. Gemeinsamer Rekonstruktor: Ein geteilter Generator rekonstruiert das Originaldokument aus der Kombination von Stil- und Inhaltsvektoren.
3. Erklärbarer Diskriminator (Explainable Discriminator): Dies ist ein entscheidendes Novelty. Anstatt nur eine binäre Klassifizierung (gleicher/ungleicher Autor) durchzuführen, ist der Diskriminator ein generatives Modell, das:
   • Entscheidet, ob Stil- oder Inhaltsvektoren vom selben Autor/Quelle stammen.
   • Natürlichsprachliche Erklärungen generiert, die begründen, warum diese Entscheidung getroffen wurde (z. B. „Der Stil unterscheidet sich durch die Satzstruktur, während der Inhalt thematisch ähnlich ist").
   • Dies dient als adversarieller Verlust, der das Modell zwingt, irrelevante Informationen (Confounding Factors) zu entfernen.

C. Hybrid-Prompting

Der Generator nutzt einen Hybrid-Prompting-Mechanismus, der feste Templates mit lernbaren Soft-Prompts kombiniert. Platzhalter im Prompt werden dynamisch durch die latenten Vektoren ($z_s, z_c$) ersetzt. Dies ermöglicht es einem einzigen Modell, sowohl die Dokumentenrekonstruktion als auch die diskriminierende Erklärungsaufgabe zu bewältigen.

3. Schlüsselbeiträge

1. Entwirrtes Repräsentations-Lern-Framework: Ein neuartiges VAE-basiertes Framework, das Stil und Inhalt durch separate Encoder und adversarielles Training explizit trennt.
2. Erklärbarer adversarieller Diskriminator: Ein Mechanismus, der nicht nur die Trennung erzwingt, sondern auch natürliche Spracherklärungen für die Entscheidungen liefert, was die Interpretierbarkeit des Modells massiv erhöht.
3. State-of-the-Art Performance: Demonstration von überlegener Leistung bei Autorenschaftszuweisung und KI-Texterkennung, insbesondere in Few-Shot-Szenarien und über Domänengrenzen hinweg.

4. Ergebnisse

Die Evaluation erfolgte auf mehreren Benchmark-Datensätzen:

• Autorenschaftszuweisung (Authorship Attribution):
  • Amazon Reviews & PAN21 (Author-Level): EAVAE erreicht State-of-the-Art-Ergebnisse (z. B. 97,0% MRR auf Amazon Reviews, ein Anstieg von +3,6 gegenüber dem vorherigen Bestwert LUAR).
  • HRS Corpus (Document-Level): Dies ist eine besonders schwierige Aufgabe mit fünf heterogenen Domänen. EAVAE übertrifft den vorherigen State-of-the-Art (Man & Nguyen 2024) um über 10 Punkte im MRR und 27 Punkte im Recall@8. Dies unterstreicht die Robustheit gegenüber thematischen Verwirrungen.
• KI-generierte Texterkennung:
  • Auf dem M4-Benchmark (Single-Target und Multi-Target Szenarien) zeigt EAVAE starke Few-Shot-Leistungen, ohne spezifisches Fine-Tuning für die Detektionsaufgabe. Die Architektur-Entkoppelung ermöglicht es, die charakteristischen Muster von KI-Texten auch in neuen Domänen zu erkennen.
• Ablationsstudien:
  • Die Entfernung der getrennten Encoder („W/o Disentanglement by Design") führt zu den größten Leistungseinbußen, was die Notwendigkeit der architektonischen Trennung beweist.
  • Der erklärbare Diskriminator ist entscheidend; sein Ersatz durch einen einfachen MLP-Klassifikator verschlechtert die Ergebnisse signifikant.

5. Bedeutung und Fazit

Das Paper liefert einen wichtigen Beitrag zur Robustheit von NLP-Modellen im Zeitalter generativer KI.

• Generalisierung: Durch die explizite Trennung von Stil und Inhalt können Modelle besser auf neue Domänen und Themen verallgemeinern, da sie nicht auf themenspezifische Korrelationen angewiesen sind.
• Interpretierbarkeit: Die Fähigkeit des Modells, natürliche Erklärungen für seine Entscheidungen zu liefern, macht es für forensische Anwendungen und die Überprüfung von KI-Texten vertrauenswürdiger.
• Zukunft: Die Methode legt den Grundstein für weiterführende Forschung in mehrsprachigen Settings, bei der Einbeziehung weiterer stilistischer Dimensionen (z. B. Sentiment) und der Anwendung auf andere Modalitäten wie Code oder Sprache.

Zusammenfassend beweist EAVAE, dass eine prinzipielle architektonische Trennung von Stil und Inhalt zusammen mit erklärbarer Adversarial-Training die derzeit effektivste Methode für robuste Autorenschaftsanalyse ist.