Technisches Resümee: GLARE – Eine natürliche Sprachschnittstelle zur Abfrage globaler Erklärungen

1. Problemstellung

Tiefe Visionsmodelle sind, obwohl sie in hochsensiblen Bereichen erfolgreich sind, intransparent. Während erklärbare KI (Explainable AI, XAI) sowohl lokale Erklärungen (z. B. Salienzkarten für einzelne Instanzen) als auch globale Erklärungen (z. B. aggregierte Regeln oder Prototypen, die das Modellverhalten über einen Datensatz hinweg zusammenfassen) bietet, besteht eine kritische Usability-Lücke. Aktuelle globale Erklärungen sind oft monolithische, statische Artefakte, die Tausende von logischen Regeln oder Prototypen enthalten. Die Präsentation dieser „Erklärungs-Dumps“ führt zu kognitiver Überlastung der Nutzer und verschleiert Erkenntnisse, statt sie offenzulegen.

Nutzer benötigen typischerweise keine statische Zusammenfassung; sie gehen einen iterativen, abfragegesteuerten Prozess durch, um spezifische Hypothesen zu testen (z. B. „Verlässt sich das Modell auf Hintergrundschnee, um Wölfe zu klassifizieren?“). Bestehende Werkzeuge zwingen Nutzer dazu, lokale Erklärungen manuell zu filtern und zu aggregieren, um solche Fragen zu beantworten, was eine Reibung erzeugt, die den praktischen Nutzen globaler Erkenntnisse einschränkt. Es besteht ein Bedarf an einer Schnittstelle, die es Nutzern ermöglicht, globale Erklärungen mittels natürlicher Sprache zu untersuchen, ohne sie mit Niedrig-Level-Repräsentationen zu konfrontieren oder Programmierkenntnisse zu erfordern.

2. Methodik

Die Autoren schlagen GLARE vor (Global Language-based Analysis and Retrieval of Explanations), ein interaktives System, das globale Erklärungen nicht als statische Dokumente, sondern als abfragbare Datenbank behandelt.

Systemarchitektur

Das System folgt einer Parse-Validate-Execute-Pipeline:

1. Input: Nutzer stellen Fragen in natürlicher Sprache bezüglich des aggregierten Modellverhaltens (z. B. „Welcher Prozentsatz der Schlafzimmerbilder enthält sowohl ein Bett als auch eine Wand?“).
2. Semantische Analyse (LLM): Ein fein abgestimmtes Large Language Model (LLM) fungt als semantischer Parser. Es übersetzt die natürliche Sprachabfrage des Nutzers in eine strukturierte SQL-Abfrage.
   • Das LLM wählt aus einer vordefinierten Taxonomie von 24 Abfrage-Templates aus, die Aufgaben wie Häufigkeitszählungen, boolesche Kombinationen, Kookkurrenz und kontrafaktische Analysen abdecken.
   • Es extrahiert Parameter (Klassen-Namen, Objekt-Namen, Schwellenwerte), um das Template zu instanziieren.
3. Ausführung: Die generierte SQL-Abfrage wird auf Sicherheit und Korrektheit geprüft und dann gegen eine relationale Datenbank ausgeführt, die die globalen Erklärungsdaten enthält.
   • Die Datenbank wird durch die Aggregation von lokalen minimalen hinreichenden Erklärungen (Minimal Sufficient Explanations, MSXs) in eine globale Disjunktive Normalform (DNF)-Struktur konstruiert.
   • Obwohl die Experimente mit Erklärungen durchgeführt wurden, die durch eine spezifische Methode (Vasu et al. [20]) generiert wurden, ist die Schnittstelle so konzipiert, dass sie mit jeder konzeptbasierten lokalen Erklärungsmethode funktioniert, die symbolische Formen produziert.
4. Output: Das System liefert:
   • Eine Zusammenfassung in natürlicher Sprache, ergänzt durch relevante Statistiken.
   • Unterstützende lokale Erklärungen (Evidenz-Bilder).
   • Visualisierungen, die auf die Absicht der Abfrage abgestimmt sind (z. B. Segmentierungskarten, die relevante Objekte hervorheben).

Trainingsstrategie

Um sicherzustellen, dass das LLM die Struktur der Erklärungsabfrage lernt, anstatt spezifische Entitäten eines Datensatzes auswendig zu lernen, setzen die Autoren einen spezialisierten Fine-Tuning-Ansatz ein:

• Synthetische Daten: 50.000 Trainingspaare werden generiert, indem zufällige Kombinationen von Objekten und Szenenklassen aus dem ADE20K-Vokabular gesampelt und natürliche Sprachvariationen (Synonyme, Phrasierungstemplate) angewendet werden.
• SQL-Fence Loss Masking: Während des Fine-Tunings (unter Verwendung von LoRA auf Gemma 2 und Qwen 2.5 Modellen) wird der Trainingsverlust maskiert, um sich ausschließlich auf die Token zwischen den SQL_START- und SQL_END-Markern zu konzentrieren. Dies zwingt das Modell, die relationale Algebra der Abfragesprache zu lernen, was einen Zero-Shot-Transfer auf neue Datensätze mit unterschiedlichen Vokabularen ermöglicht.

3. Kernbeiträge

Die Arbeit skizziert drei primäre Beiträge:

1. Natürliche Sprachschnittstelle für globale Erklärungen: Die Einführung von GLARE, das globale Erklärungen in abfragbare Datenbanken verwandelt und es Nutzern ermöglicht, das Modellverhalten über natürliche Sprache zu untersuchen.
2. SQL-basierte intermediäre Repräsentation: Die Definition eines strukturierten SQL-Schemas zur Aggregation, Filterung und Kontrastierung lokaler Erklärungen, welches die Lücke zwischen natürlicher Sprachabsicht und formaler logischer Aggregation schließt.
3. Robuste Abfrageinterpretation durch synthetisches Fine-Tuning: Der Nachweis, dass synthetisches Datentraining mit SQL-Fence-Loss-Masking eine robuste Abfrageinterpretation ermöglicht. Dieser Ansatz erlaubt den Zero-Shot Cross-Dataset-Transfer (z. B. von ADE20K zu Pascal VOC), ohne dass ein erneutes Training erforderlich ist, da das Modell generalisierte Argumentationsmuster anstatt datensatzspezifischer Entitätszuordnungen lernt.

4. Experimentelle Ergebnisse

Das System wurde anhand globaler Erklärungen des ADE20K Scene-Parsing-Datensatzes evaluiert, mit einer Cross-Dataset-Evaluierung auf Pascal VOC.

In-Distribution Genauigkeit

• Leistung: Fein abgestimmte Modelle (speziell Gemma 2 9B und 27B) erreichten eine Result-Match-Genauigkeit von >95 % bei gehaltenen Abfragen über den Trainingsdatensatz.
• Strukturelle Integrität: Diese Modelle erreichten nahezu perfekte Werte bei der Fence-Detektion, dem SQL-Parsing und den Ausführungsraten (in vielen Fällen 100 %).
• Baseline-Vergleich: Basismodelle (ungetrainiert) erreichten eine Genauigkeit von nahezu Null, was bestätigt, dass die Leistung ein Produkt der spezifischen Fine-Tuning-Pipeline ist und nicht auf bereits vorhandenem SQL-Wissen beruht. Eine nicht-lernende Regex-Baseline erreichte 74,4 % Genauigkeit, was signifikant niedriger ist als die der fein abgestimmten Modelle.

Robustheit gegenüber Perturbationen

Das System zeigte eine starke Resilienz gegenüber linguistischem Rauschen:

• Rechtschreibfehler: Das fein abgestimmte Modell hielt eine Match-Rate von 79,6 % aufrecht, verglichen mit der Regex-Baseline von 48,7 %, was einen Vorteil von +31 Prozentpunkten bedeutet.
• Synonym-Substitution: Das Modell zeigte eine 100%ige Robustheit gegenüber Synonymen und übertraf die Regex-Baseline um 17 Prozentpunkte.
• Konsistenz: Semantisch äquivalente Paraphrasen lieferten in 94,1 % der Fälle identische SQL-Ergebnisse.
• Sinnhaftigkeit: Alle Ausgaben erfüllten die Domänenbeschränkungen (z. B. keine negativen Zählungen oder Prozentsätze außerhalb von [0, 100]).

Generalisierung und Transfer

• Out-of-Distribution (OOD) Phrasierung: Das Modell handhabte neuartige Formulierungen der trainierten Templates gut (45,1 % exakter Match), hatte jedoch Schwierigkeiten mit komplexen Doppelnegationen oder hochgradig informellen Abfragen.
• Neuartige SQL-Konstrukte: Das Modell zeigte kompositionale Generalisierung, indem es vertraute SQL-Fragmente zu neuen Strukturen zusammensetzte (z. B. chained_filter mit 100 % Match), scheiterte jedoch an völlig unbekannter Syntax (z. B. window_function mit 0 % Match).
• Cross-Dataset Transfer: Ein ausschließlich auf ADE20K-Metadaten trainiertes Modell erreichte eine Genauigkeit von ~90 %, als es auf einer Pascal VOC-Datenbank mit einem völlig disjunkten Objekt-Vokabular getestet wurde. Dies bestätigt, dass das Modell die relationale Struktur des Schemas lernte und nicht spezifische Entitätsnamen.

Analyse der Modellskalierung

• Kapazitätsschwelle: Eine Mindestmodellkapazität ist erforderlich. Qwen 2.5 0.5B konnte die Aufgabe selbst nach dem Fine-Tuning nicht lernen, während 7B+ Modelle robust performten.
• Sättigung: Innerhalb der Gemma 2-Familie stagnierte die Leistung über 2B, 9B und 27B Parametern für In-Distribution-Aufgaben, was darauf hindeutet, dass die synthetische Pipeline selbst für kleinere, ausreichend große Modelle effektiv ist.

5. Bedeutung und Behauptungen

Die Arbeit behauptet, dass GLARE einen praktischen und zuverlässigen Weg zu einer menschenzentrierten XAI bietet. Durch den Wechsel von der passiven Inspektion statischer Artefakte hin zu einem aktiven, abfragegesteuerten Dialog macht das System globale Erklärungen auch für Nicht-Experten zugänglich.

Die Autoren betonen, dass ihr Ansatz:

• Flexibilität in formale Korrektheit einbettet: Durch die Nutzung von LLMs als logikbeschränkte Parser, die auf verifizierbare SQL-Templates abbilden, vermeidet das System die Halluzinationen, die bei direkter LLM-basierter Generierung von Erklärungen üblich sind.
• Zero-Shot-Transfer ermöglicht: Die „SQL-Fence“-Trainingsstrategie erlaubt es dem System, auf neue Domänen und Vokabulare zu generalisieren, ohne ein erneutes Training durchzuführen, sofern eine neue Liste der Entitätsnamen verfügbar ist.
• Die kognitive Belastung reduziert: Es ermöglicht Nutzern, gezielte Fragen zu stellen, ohne die zugrunde liegende Komplexität von tausenden logischen Regeln verstehen zu müssen.

Die Arbeit schließt mit dem Hinweis, dass die aktuelle Template-Taxonomie zwar erweiterbar, aber nicht erschöpfend ist, die demonstrierte Fähigkeit zum Transfer über Datensätze hinweg und der Umgang mit linguistischen Variationen jedoch darauf hindeuten, dass die LLM-vermittelte Abfrage eine praktikable Lösung zur Skalierung der globalen Erklärungsanalyse darstellt.