Support-Contra Asymmetry in LLM Explanations

1. Problemstellung

Große Sprachmodelle (LLMs) generieren zunehmend natürliche Spracherklärungen (Rationale) zu ihren Vorhersagen, insbesondere in Aufgaben wie Textklassifizierung. Ein zentrales, ungelöstes Problem ist jedoch die Frage, ob diese Erklärungen tatsächlich auf den prädiktiven Hinweisen (predictive cues) im Eingabetext basieren, die die Vorhersage des Modells antreiben, oder ob sie lediglich plausible, aber inhaltlich lose narrative Konstruktionen sind.

Herausfordernd ist dies, da LLM-Erklärungen freitextbasiert und nicht-strukturiert sind. Im Gegensatz zu traditionellen Machine-Learning-Modellen, bei denen Feature-Importanz-Scores messbare Signale liefern, ist es schwierig zu verifizieren, ob eine LLM-Erklärung die tatsächlichen Entscheidungsgründe widerspiegelt (Faithfulness) oder nur plausibel klingt (Plausibility). Die Arbeit untersucht empirisch, ob LLM-Erklärungen lexikalische Hinweise im Eingabetext referenzieren, die für die Klassifizierung relevant sind, und wie sich dies zwischen korrekten und falschen Vorhersagen unterscheidet.

2. Methodik

Die Autoren entwickeln einen quantitativen Rahmen, um die Ausrichtung (Alignment) zwischen LLM-Erklärungen und externen, interpretierbaren Beweisen zu messen.

• Referenzmodelle: Anstatt sich auf die internen Mechanismen des LLM zu verlassen, werden transparente lineare Klassifikatoren (Logistische Regression und Lineare SVM) als „Referenz-Evidence-Extraktoren" verwendet. Diese Modelle werden auf den gleichen Datensätzen trainiert und nutzen TF-IDF-Features (Unigramme und Bigramme).
• Feature-Partitionierung: Für jede Instanz werden die top-$k$ einflussreichsten lexikalischen Features des Referenzmodells extrahiert. Diese werden in zwei Kategorien unterteilt:
  • Supporting Features (Stützende Hinweise): Features mit positiven Gewichten, die die Wahrscheinlichkeit der vorhergesagten Klasse erhöhen.
  • Contradicting Features (Widersprüchliche Hinweise): Features mit negativen Gewichten, die gegen die vorhergesagte Klasse sprechen.
• Matching-Verfahren: Es wird geprüft, ob diese Features im vom LLM generierten Erklärungstext vorkommen. Zwei Matching-Strategien werden angewendet:
  • Token-aware Matching: Nach Normalisierung (Lowercasing, Lemmatisierung, Entfernen von Satzzeichen).
  • Exact Matching: Strenger String-Vergleich.
• Metriken:
  • Coverage: Der Anteil der stützenden bzw. widersprüchlichen Features, die im Erklärungstext vorkommen.
  • Asymmetrie-Metrik ($\Delta^*$): Die Differenz zwischen der Differenz der Stütz-Coverage und der Differenz der Widerspruchs-Coverage zwischen korrekten und falschen Vorhersagen.
• Datensätze: Die Studie verwendet drei Benchmark-Datensätze: WIKIONTOLOGY (Entitätenklassifizierung), AG NEWS (Themenklassifizierung) und IMDB (Sentiment-Analyse).
• LLM: Alle Vorhersagen und Erklärungen wurden mit dem Modell DeepSeek-R1 generiert.

3. Wichtige Beiträge

1. Identifikation der Support–Contra Asymmetrie: Die Arbeit charakterisiert erstmals ein konsistentes empirisches Muster: Erklärungen zu korrekten Vorhersagen beziehen sich signifikant häufiger auf stützende lexikalische Hinweise und seltener auf widersprüchliche Hinweise. Bei falschen Vorhersagen ist das Gegenteil der Fall (hohe Referenzierung widersprüchlicher Hinweise).
2. Quantitatives Framework: Einführung einer einfachen Methode zur Messung der „Explanation–Evidence Alignment" durch den Vergleich von Freitext-Erklärungen mit den Feature-Gewichten transparenter linearer Modelle.
3. Robustheitsnachweis: Die Ergebnisse sind über verschiedene Datensätze, Referenzmodell-Familien (LR vs. SVM) und Feature-Tiefen ($k \in \{3, 5, 7\}$) hinweg konsistent.
4. Diagnostischer Ansatz: Die Studie zeigt, dass externe Quellen prädiktiver Evidenz genutzt werden können, um das Verhalten von LLM-Erklärungen zu analysieren, ohne auf komplexe interne Attributionen des LLM angewiesen zu sein.

4. Ergebnisse

Die experimentellen Ergebnisse bestätigen die Hypothese der Asymmetrie über alle getesteten Szenarien hinweg:

• Korrekte Vorhersagen (Match): Die zugehörigen Erklärungen weisen eine hohe Coverage an stützenden Features und eine niedrige Coverage an widersprüchlichen Features auf.
• Falsche Vorhersagen (Mismatch): Die Erklärungen zeigen eine signifikant höhere Coverage an widersprüchlichen Features (Hinweise, die gegen die Vorhersage des Referenzmodells sprechen) und eine geringere Coverage an stützenden Features.
• Statistische Signifikanz: Bootstrap-Resampling bestätigt, dass diese Unterschiede statistisch signifikant sind (95%-Konfidenzintervalle schließen Null nicht ein).
• Datensatz-spezifische Nuancen:
  • Der Effekt ist bei WIKIONTOLOGY und AG NEWS am stärksten ausgeprägt, da diese Aufgaben stark auf diskriminierenden lexikalischen Signalen basieren.
  • Bei IMDB (Sentiment) ist der Effekt moderater, da Sentiment-Analyse oft auf diffuseren kontextuellen Hinweisen beruht, aber die Richtung des Effekts bleibt gleich.
• Feature-Tiefe: Die Asymmetrie bleibt auch bei Variation der Anzahl der betrachteten Features ($k=3, 5, 7$) stabil, was darauf hindeutet, dass das Phänomen nicht nur auf die stärksten Features beschränkt ist.

5. Bedeutung und Implikationen

Die Studie liefert wichtige Erkenntnisse für die Bewertung von Explainable AI (XAI):

• Erklärungen sind nicht rein narrativ: Die Ergebnisse deuten darauf hin, dass LLM-Erklärungen nicht nur willkürliche Nachgeschichten sind, sondern systematisch die Verteilung prädiktiver lexikalischer Signale im Eingabetext widerspiegeln.
• Diagnose von Fehlern: Das Phänomen der Asymmetrie bietet einen neuen Blickwinkel zur Fehleranalyse. Wenn ein LLM falsch liegt, neigt die Erklärung dazu, Hinweise zu zitieren, die eigentlich gegen die Vorhersage sprechen (Widersprüche). Dies kann als Indikator für mangelnde Zuverlässigkeit der Erklärung dienen.
• Evaluation von Faithfulness: Die Arbeit unterstreicht, dass die Bewertung von Erklärungen nicht nur auf Plausibilität (menschliche Bewertung) basieren sollte, sondern auch auf der Übereinstimmung mit externen, messbaren Beweisen.
• Limitationen: Da lineare Modelle als Referenz dienen, werden keine hochkomplexen semantischen oder kompositionellen Muster erfasst, die LLMs nutzen könnten. Dennoch bietet der Ansatz einen robusten, empirisch überprüfbaren Baseline-Wert.

Fazit: Die Arbeit zeigt, dass LLM-Erklärungen eine robuste „Support–Contra Asymmetrie" aufweisen. Korrekte Vorhersagen werden durch Erklärungen begleitet, die stützende Evidenz betonen, während falsche Vorhersagen oft Erklärungen produzieren, die irreführende oder widersprüchliche Hinweise im Text hervorheben. Dies ermöglicht eine neue, datengetriebene Perspektive auf die Zuverlässigkeit und Interpretierbarkeit von LLM-Entscheidungen.