Assessing Model-Agnostic XAI Methods against EU AI Act Explainability Requirements

Die Studie schließt die Lücke zwischen bestehenden modellagnostischen XAI-Methoden und den Anforderungen der EU-KI-Verordnung, indem sie ein qualitativ-quantitatives Bewertungsframework entwickelt, das Praktizierenden hilft, die regulatorische Konformität von KI-Erklärungen zu bewerten und technische sowie rechtliche Forschungsbedarfe zu identifizieren.

Das Wesentliche

🕵️‍♂️ Der große Test: Wie gut verstehen wir die "Blackbox" der KI?

Stellen Sie sich vor, Sie kaufen ein hochmodernes Auto. Es fährt perfekt, aber unter der Motorhaube ist alles schwarz verpackt. Niemand weiß genau, wie der Motor funktioniert. Wenn das Auto plötzlich bremst, fragen Sie sich: „Warum?"

In der Welt der Künstlichen Intelligenz (KI) passiert genau das. Diese Systeme sind oft „Blackboxen": Sie geben eine Antwort (z. B. „Kredit abgelehnt"), aber niemand kann genau sagen, wie sie darauf gekommen sind.

Die Europäische Union hat nun ein neues Gesetz erlassen, den EU-AI-Act. Das ist wie eine strenge Verkehrsvorschrift: Sie sagt den Herstellern, dass sie die „Motorhaube" öffnen müssen und erklären müssen, wie das Auto funktioniert. Aber hier liegt das Problem: Die Techniker (die KI-Entwickler) und die Juristen (die Gesetzesmacher) sprechen unterschiedliche Sprachen.

Dieses Papier ist wie ein Übersetzer und ein Prüfschein, der beide Welten zusammenbringt.

---

1. Das Problem: Zwei Welten prallen aufeinander

• Die Juristen wollen: „Erkläre mir, warum die KI so entschieden hat, damit ich sie kontrollieren kann und die Rechte der Menschen gewahrt bleiben."
• Die Techniker bieten: „Hier ist ein mathematisches Diagramm, das zeigt, welche Zahlen am meisten gezählt haben."

Das Problem: Die technischen Erklärungen sind oft zu kompliziert für den Durchschnittsbürger oder nicht genau genug, um vor Gericht zu bestehen. Es gibt eine Lücke zwischen dem, was die Technik kann, und dem, was das Gesetz verlangt.

2. Die Lösung: Ein neuer „Bewertungs-Radar"

Die Autoren des Papiers haben sich eine clevere Methode ausgedacht, um zu testen, welche KI-Erklärungsmethode (XAI) am besten für das Gesetz geeignet ist. Sie nennen es einen qualitativ-quantitativen Bewertungsrahmen.

Klingt kompliziert? Stellen Sie es sich so vor:

Schritt A: Die Kriterien-Liste (Der Fahrplan)

Die Autoren haben das Gesetz genau gelesen und herausgefunden, was eigentlich verlangt wird. Sie haben drei Hauptfragen gestellt:

1. Treue (Faithfulness): Erklärt die Methode die KI wirklich so, wie sie ist? (Oder erfindet sie Dinge?)
   • Vergleich: Wenn ein Übersetzer eine Geschichte erzählt, die dem Original nicht entspricht, ist er untreu.
2. Stabilität (Robustness): Wenn man die Eingabe nur ganz leicht verändert (z. B. ein Komma ändert), bleibt die Erklärung gleich?
   • Vergleich: Ein stabiles Haus wackelt nicht, wenn ein Vogel darauf landet. Ein instabiles Haus fällt zusammen.
3. Komplexität: Ist die Erklärung einfach zu verstehen?
   • Vergleich: Ein Kochrezept für einen Anfänger vs. ein chemisches Formelwerk für einen Chemiker.

Schritt B: Der Testlauf (Die Prüfung)

Sie haben verschiedene bekannte KI-Erklärungsmethoden (wie SHAP, LIME, Entscheidungsbäume) durch diesen „Radar" geschickt. Jede Methode bekam Punkte von 1 bis 5 für die oben genannten Kriterien.

• SHAP war wie ein sehr genauer, aber etwas langsamer Wissenschaftler (hohe Treue).
• Entscheidungsbäume waren wie ein einfacher, aber manchmal wackelnder Schulkind-Lehrer (sehr einfach, aber nicht immer stabil).
• LIME war wie ein kreativer, aber etwas chaotischer Künstler (gut für schnelle Ideen, aber unzuverlässig bei kleinen Änderungen).

Schritt C: Der Punktezettel (Die Compliance-Score)

Am Ende haben sie die Punkte mit den gesetzlichen Anforderungen verrechnet. Das Ergebnis ist ein Compliance-Score (eine Art „Bestehensnote" für das Gesetz).

• Die Gewinner: Methoden wie SHAP und RuleSHAP schneiden am besten ab, weil sie sehr genau (treu) sind und das Gesetz vor allem auf Genauigkeit und Stabilität Wert legt.
• Die Spezialisten: Für bestimmte Aufgaben (z. B. wenn man eine sehr kurze, einfache Erklärung braucht) sind Methoden wie Anchors oder Entscheidungsbäume besser geeignet.

---

3. Was bedeutet das für die Praxis?

Stellen Sie sich vor, Sie sind ein KI-Hersteller, der sein Produkt in Europa verkaufen will. Früher waren Sie ratlos: „Welche Erklärungsmethode soll ich nehmen, damit ich keine Strafe bekomme?"

Mit diesem Papier haben Sie nun eine Landkarte:

• Wenn Sie eine technische Dokumentation für Experten brauchen (z. B. für die Aufsichtsbehörde), nehmen Sie SHAP. Es ist der „Goldstandard" für Genauigkeit.
• Wenn Sie eine einfache Erklärung für den Kunden am Schalter brauchen, nehmen Sie Entscheidungsbäume oder Regeln. Sie sind leichter zu verstehen.
• Die Autoren sagen: „Mischen Sie es!" Nutzen Sie SHAP im Hintergrund, um sicherzustellen, dass alles stimmt, und zeigen Sie dem Kunden dann eine vereinfachte Version.

4. Das Fazit in einem Satz

Dieses Papier füllt die Lücke zwischen Juristen und Technikern, indem es eine Bewertungsmethode entwickelt hat, die genau zeigt, welche KI-Erklärungswerkzeuge das neue EU-Gesetz erfüllen können – ähnlich wie ein Prüfling, der einem Studenten sagt: „Für diese Klausur musst du Mathe lernen, nicht Geschichte."

Kurz gesagt: Es hilft Unternehmen, die richtige „Brille" aufzusetzen, um ihre Blackbox-KI so zu erklären, dass sie nicht nur technisch korrekt, sondern auch rechtlich sicher ist.

Technische Zusammenfassung

1. Problemstellung

Die Arbeit adressiert eine kritische Lücke zwischen den technischen Fähigkeiten existierender Methoden für erklärbare Künstliche Intelligenz (XAI) und den rechtlichen Anforderungen der EU-KI-Verordnung (AI Act).

• Rechtlicher Kontext: Der AI Act verlangt von KI-Systemen (insbesondere Hochrisiko-Systemen) Transparenz, Rechenschaftspflicht und „klare und aussagekräftige Erklärungen" für betroffene Personen.
• Technische Lücke: Während XAI-Methoden oft als rein technische Werkzeuge zur Algorithmus-Interpretation definiert werden, behandeln Gesetze Erklärungen als Mittel zur Förderung der menschlichen Kontrolle und der Wahrung von Grundrechten.
• Praxisproblem: Es fehlt an systematischen Leitlinien für Praktiker, welche XAI-Techniken (insbesondere modellagnostische Methoden) welche spezifischen rechtlichen Anforderungen erfüllen können. Bestehende Übersichten fokussieren sich meist auf algorithmische Aspekte und vernachlässigen die Abbildung auf juristische Vorgaben.

2. Methodik

Die Autoren entwickeln einen hybriden Bewertungsrahmen, der qualitative Expertenbewertungen mit einer quantitativen Aggregation kombiniert, um einen „Compliance-Score" zu erzeugen.

• Definition von Erklärungen: Basierend auf der Philosophie der Alltagssprache werden Erklärungen als „Antworten auf implizite oder explizite Fragen" definiert, die das Verständnis fördern. Dies erlaubt eine breitere Interpretation als rein kausale oder personalisierte Modelle.
• Kategorisierung der XAI-Eigenschaften: Die Studie stützt sich auf eine Literaturanalyse und gruppiert XAI-Eigenschaften in drei Hauptcluster (basierend auf [8]):
  1. Treue (Faithfulness): Wie genau spiegelt die Erklärung das Modellverhalten wider? (Unterteilung in: Keine False Positives, Keine False Negatives, Vollständigkeit).
  2. Robustheit (Robustness): Wie stabil ist die Erklärung bei kleinen Eingabeänderungen? (Unterteilung in: Stabilität/Kontinuität, Adversarial Robustness).
  3. Komplexität (Complexity): Wie kompakt und verständlich ist die Erklärung? (Unterteilung in: Sparsität/Anzahl Features, Detailgrad/Granularität).
• Rechtliche Abbildung: Die Autoren analysieren die relevanten Artikel des AI Act (Art. 11, Anhang IV, Art. 13–14, Art. 86) und leiten daraus spezifische Anforderungen an die oben genannten Eigenschaften ab. Jede Anforderung wird als obligatorisch (✓), vorzugsweise (✓(preferable)) oder teilweise (✓(partial)) gewichtet.
• Bewertungsprozess (Qualitativ zu Quantitativ):
  • Datengrundlage: 30 umfassende Umfragen wurden analysiert, um die am häufigsten zitierten modellagnostischen XAI-Algorithmen zu identifizieren (z. B. SHAP, LIME, Decision Trees, RuleFit, Anchors, CEM, DiCE, PDP, ICE).
  • Scoring: Für jeden Algorithmus wurde eine qualitative Bewertung (Likert-Skala 1–5) für jede Eigenschaft erstellt. Diese Bewertung erfolgte durch eine Kombination aus KI-gestützten Erstbewertungen (ChatGPT 4o) und manueller Revision durch die Autoren.
  • Quantitative Aggregation: Ein mathematischer Rahmen (inspiriert von Multi-Criteria Decision Analysis, MCDA) berechnet einen Compliance-Score $S(a, r)$ im Bereich [0, 1].
    • Formel: $S(a, r) = \frac{1}{|R_r|} \sum w_{p_i}(a, r) \cdot \mathbb{1}_{[D3 \text{ satisfied}]}$
    • Die Gewichtung berücksichtigt die rechtliche Stärke ($\lambda_s$) der Anforderung (1 für obligatorisch, 0,75 für optional, 0,5 für teilweise).
    • Ein Filter ($D3$) stellt sicher, dass nur Algorithmen bewertet werden, deren Geltungsbereich (lokal/global) und Zeitpunkt (ex-ante/ex-post) mit der jeweiligen Rechtsvorschrift übereinstimmen.

3. Wichtige Beiträge

1. Systematische Abbildung: Erste detaillierte Zuordnung spezifischer modellagnostischer XAI-Algorithmen zu den konkreten Erklärungsverpflichtungen des AI Act.
2. Bewertungsframework: Entwicklung eines reproduzierbaren, gemischten Methoden-Ansatzes (Qualitativ $\to$ Quantitativ), der rechtliche Anforderungen in messbare technische Metriken übersetzt.
3. Compliance-Score: Einführung eines normierten Scores, der es Unternehmen ermöglicht, XAI-Lösungen nicht nur technisch, sondern auch im Hinblick auf die regulatorische Konformität zu vergleichen.
4. Differenzierte Analyse: Unterscheidung zwischen verschiedenen Anwendungsfällen (z. B. technische Dokumentation vs. Erklärungen für Endnutzer) und deren spezifischen Anforderungen an Treue, Robustheit und Komplexität.

4. Ergebnisse

Die Studie bewertete eine Reihe von Algorithmen (Decision Trees, RuleFit, RuleSHAP, PDP, ICE, LIME, SHAP, Anchors, CEM, DiCE) gegen die Anforderungen des AI Act.

• Allgemeine Trends:
  • Treue (Faithfulness) und Robustheit bilden die nicht verhandelbare Basis für die meisten Vorschriften.
  • SHAP (Shapley Additive Explanations) erreicht durchweg die höchsten Scores, insbesondere bei Treue (keine False Positives/Negatives) und Robustheit, ist jedoch rechenintensiv und weniger regelbasiert.
  • RuleSHAP und RuleFit bieten einen guten Kompromiss, indem sie die Treue von SHAP mit der menschlichen Lesbarkeit von Regeln verbinden.
  • Decision Trees und Anchors schneiden bei der Komplexität (Sparsität, Detailgrad) am besten ab, leiden aber oft unter geringerer Stabilität.
• Spezifische Empfehlungen nach Artikel:
  • Art. 86 (Lokale, ex-post Erklärungen für Betroffene): SHAP, RuleSHAP und CEM sind führend bei der Treue. Für die Komplexität sind Anchors und DiCE geeignet.
  • Art. 13–14 (Mischbereich, laufende Informationspflichten): SHAP und RuleSHAP dominieren. PDP (Partial Dependence Plots) ist nützlich für robuste globale Trends.
  • Art. 11 & Anhang IV (Globale, ex-ante Dokumentation): Hier sind Decision Trees und RuleFit aufgrund ihres hohen Detailgrads und ihrer Sparsität am besten geeignet, um technische Dokumentationen zu erstellen.
• Sensitivitätsanalyse: Die Ergebnisse sind robust gegenüber Variationen der rechtlichen Gewichtungsfaktoren ($\lambda$). Die Rangfolge der Top-Algorithmen (insbesondere SHAP) ändert sich nicht signifikant, selbst wenn die Gewichtung um bis zu 20 % variiert wird.

5. Bedeutung und Fazit

Das Paper schließt eine wichtige Lücke zwischen KI-Entwicklung und Regulierung.

• Für die Praxis: Es bietet Entwicklern und Unternehmen ein Werkzeug, um fundierte Entscheidungen darüber zu treffen, welche XAI-Methoden für die Einhaltung des AI Act geeignet sind. Es zeigt, dass keine einzelne Methode alle Anforderungen perfekt erfüllt; stattdessen ist oft eine Kombination (z. B. SHAP für technische Validierung, aufbereitet zu Regeln für die Dokumentation) notwendig.
• Für die Forschung: Es identifiziert Bereiche, in denen weitere Forschung nötig ist (z. B. Verbesserung der Stabilität von Counterfactual-Methoden wie CEM/DiCE).
• Zukunftsperspektive: Der Rahmen ist modular und erweiterbar. Neue Gesetze oder Algorithmen können durch Aktualisierung der Bewertungsmatrix integriert werden, ohne das gesamte System neu zu kalibrieren.

Zusammenfassend demonstriert die Arbeit, dass eine quantitative, rechtlich fundierte Bewertung von XAI-Methoden möglich ist und hilft, die „Black Box" der KI nicht nur technisch, sondern auch juristisch zu öffnen.