🤖 machine learning

A New Technique for AI Explainability using Feature Association Map

Dieser Beitrag stellt FAMeX vor, einen neuartigen graphentheoretischen Algorithmus für erklärbare KI, der auf Feature Association Maps basiert und im Vergleich zu bestehenden Methoden wie PFI und SHAP eine überlegene Leistung bei der Bewertung der Feature-Wichtigkeit für Klassifizierungsaufgaben zeigt.

Ursprüngliche Autoren: Sayantani Ghosh, Amit Kumar Das, Amlan Chakrabarti

Veröffentlicht 2026-05-13

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Sayantani Ghosh, Amit Kumar Das, Amlan Chakrabarti

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen superschlauen Roboter, der Dinge vorhersagen kann, etwa ob ein Patient eine Krankheit hat oder ob ein Aktienkurs steigen wird. Dieser Roboter ist unglaublich präzise, aber er ist eine „Blackbox". Wenn Sie ihn fragen: „Warum haben Sie diese Entscheidung getroffen?", antwortet er einfach: „Weil ich es sage." Das ist beängstigend, besonders wenn die Entscheidung echte Leben betrifft. Wir müssen wissen, warum der Roboter das denkt, was er denkt.

Dieser Artikel stellt ein neues Werkzeug namens FAMeX (Feature Association Map based eXplainability) vor, um dieses Problem zu lösen. So funktioniert es, unter Verwendung einfacher Analogien:

Das Problem: Der „volle Raum" der Daten

Stellen Sie sich vor, der Roboter trifft eine Entscheidung auf Basis eines Raumes voller Menschen (die Datenmerkmale). Manche Menschen rufen wichtige Fakten zu, während andere nur wiederholen, was ihre Nachbarn sagen.

Relevanz: Wie viel nützliche Information eine Person in das Gespräch einbringt.
Redundanz: Wie sehr eine Person nur das Echo eines anderen ist.

Alte Methoden zur Erklärung von KI (wie PFI und SHAP) sind so, als würde man jeden im Raum bitten, nacheinander die Hand zu heben, um zu sehen, wer wichtig ist. Sie könnten übersehen, dass drei Personen nur dasselbe wiederholen, was den Anschein erweckt, es gäbe drei wichtige Stimmen, obwohl es wirklich nur eine gibt.

Die Lösung: Der „FAMeX"-Partyplaner

Die Autoren schlagen FAMeX vor, das wie ein intelligenter Partyplaner funktioniert, der vor Beginn der Party eine Karte des Raumes zeichnet.

Die Karte zeichnen (Die Feature-Assoziationskarte):
FAMeX betrachtet jedes Paar von Personen (Merkmale) und zieht eine Linie zwischen ihnen, wenn sie über dasselbe sprechen.
- Wenn zwei Personen dasselbe Geheimnis flüstern (hohe Ähnlichkeit), zieht FAMeX eine dicke Linie zwischen ihnen.
- Wenn jemand eine einzigartige Geschichte erzählt, die niemand sonst kennt (geringe Ähnlichkeit), steht er allein da.
Die Gäste bewerten:
Der Algorithmus gibt jedem eine „Note" basierend darauf, wie sehr sie andere wiederholen:
- Note 1 (Die Originale): Personen, die niemanden wiederholen. Sie erhalten eine hohe Punktzahl für ihre Einzigartigkeit.
- Note 2 (Die Echos): Personen, die ein oder zwei andere wiederholen. Sie erhalten eine mittlere Punktzahl.
- Note 3 (Der Chor): Personen, die viele andere wiederholen oder jemanden sehr laut wiederholen. Sie erhalten eine niedrige Punktzahl für ihre Redundanz.
Die Endpunktzahl:
FAMeX berechnet eine endgültige „Wichtigkeitsscore" für jede Person.
- Wenn Sie einzigartige, wertvolle Informationen einbringen (hohe Relevanz) UND Sie nicht nur andere wiederholen (geringe Redundanz), erhalten Sie einen superhohen Score.
- Wenn Sie nur andere wiederholen, sinkt Ihre Punktzahl, selbst wenn das, was Sie sagen, wahr ist.

Hat es funktioniert?

Die Autoren haben diesen neuen „Partyplaner" gegen zwei andere berühmte Methoden (PFI und SHAP) getestet, wobei sie acht verschiedene reale Datensätze verwendeten (wie medizinische Aufzeichnungen, Weinqualität und Fahrzeugdaten).

Sie spielten ein Spiel:

Sie baten jede Methode, die top 30 % der wichtigsten Personen (Merkmale) auszuwählen.
Sie fütterten nur diese Top-Personen in einen Standardklassifikator (einen einfachen Entscheidungsträger), um zu sehen, wie gut er das Ergebnis vorhersagen konnte.
Sie testeten auch die unteren 30 % (die unwichtigsten Personen), um zu sehen, ob die Vorhersage scheiterte.

Die Ergebnisse:

FAMeX gewann. Wenn sie die top 30 % der von FAMeX ausgewählten Merkmale verwendeten, war die Vorhersagegenauigkeit durchgehend höher als bei der Verwendung der Top-Auswahlen von PFI oder SHAP.
Die Lücke war klar. Bei FAMeX war der Unterschied zwischen der Verwendung der „besten" und der „schlechtesten" Merkmale enorm (oft über 10 % bessere Genauigkeit). Dies beweist, dass FAMeX tatsächlich weiß, wer die wichtigen Personen sind.
Die Konkurrenten strauchelten. Manchmal wählten PFI und SHAP „wichtige" Merkmale aus, die die Vorhersage tatsächlich schlechter machten als die Auswahl der unwichtigsten Merkmale.

Das Werkzeug

Die Autoren haben nicht nur Code geschrieben; sie bauten ein visuelles Werkzeug (eine GUI), das jeder nutzen kann. Sie können Ihre Daten hochladen, und es zeigt Ihnen eine farbenfrohe Karte (wie in Abbildung 3 des Artikels), auf der die wichtigsten Merkmale aufleuchten, was Ihnen hilft, genau zu verstehen, was die Entscheidung der KI antreibt.

Auf den Punkt gebracht

FAMeX ist eine neue Art, KI zu erklären, die nicht nur fragt „Was ist wichtig?", sondern auch „Wer kopiert nur andere?". Durch das Filtern des Rauschens (Redundanz) und das Hervorheben der einzigartigen, wertvollen Signale (Relevanz) liefert es eine klarere und genauere Erklärung dafür, warum eine KI eine bestimmte Entscheidung getroffen hat. Der Artikel behauptet, diese Methode sei zuverlässiger als die aktuellen Top-Konkurrenten.

Technischer Überblick: FAMeX – Eine neue Technik für die Erklärbarkeit von KI mittels Feature Association Map

Problemstellung
Die zunehmende Verbreitung Künstlicher Intelligenz (KI) in kritischen Anwendungen der realen Welt – von der Krankheitsfrüherkennung und Wettervorhersage bis hin zur Aktienkursprognose – hat eine erhebliche Herausforderung aufgezeigt: die Undurchsichtigkeit von „Black-Box"-Systemen. Zwar liefern komplexe Lernalgorithmen oft eine hohe Vorhersagegenauigkeit, doch ihre Entscheidungsprozesse fehlen häufig an Transparenz. Dieser Mangel an Interpretierbarkeit erschwert die Feststellung, ob Entscheidungen auf wissenschaftlichen Fakten oder zufälligen Korrelationen beruhen, und behindert somit Vertrauen, Rechenschaftspflicht und Zuverlässigkeit in hochriskanten Umgebungen. Bestehende Methoden der Erklärbaren KI (XAI), wie die Permutation Feature Importance (PFI) und SHapley Additive exPlanations (SHAP), versuchen dieses Problem durch eine Rangfolge der Merkmalswichtigkeit zu adressieren. Die Autoren argumentieren jedoch, dass diese Methoden häufig versagen, eine ganzheitliche Analyse kritischer Merkmalsaspekte durchzuführen, insbesondere der Relevanz (Informationsbeitrag zum Ziel) und der Redundanz (Ähnlichkeit/Überlappung mit anderen Merkmalen).

Methodik: Der FAMeX-Algorithmus
Die Arbeit schlägt FAMeX (Feature Association Map based eXplainability) vor, einen neuartigen Algorithmus zur Bewertung der Merkmalswichtigkeit, der gleichzeitig Relevanz und Redundanz durch eine graphentheoretische Formulierung berücksichtigt.

Feature Association Map (FAM): Das Kernstück der Methodik ist die FAM, ein Graph, in dem Merkmale als Knoten modelliert werden und die Assoziationen zwischen ihnen als Kanten dargestellt werden.
Merkmalsähnlichkeit (Redundanz): Die Redundanz wird mittels des Pearson-Korrelationskoeffizienten gemessen. Merkmale werden basierend auf ihrer Korrelation mit anderen Merkmalen eingestuft:
- Stufe 1: Geringe Redundanz (Korrelation < 0,67 mit allen anderen Merkmalen).
- Stufe 2: Mäßige Redundanz (Korrelation > 0,67 aber < 0,9 mit mindestens einem Merkmal, jedoch weniger als drei).
- Stufe 3: Hohe Redundanz (Korrelation > 0,9 mit mindestens einem Merkmal ODER > 0,67 mit drei oder mehr Merkmalen).
  Ein Ähnlichkeitswert wird basierend auf diesen Stufen berechnet, wobei höhere Stufen (die eine höhere Redundanz anzeigen) zu einem höheren Wert führen.
Merkmalsrelevanz: Die Relevanz wird mittels der gegenseitigen Information (Mutual Information, MI) zwischen einem Merkmal und der Zielklassenvariable gemessen und normalisiert, um einen Relevanzwert zu berechnen.
Wert der Merkmalswichtigkeit: Der endgültige Wichtigkeitswert wird durch die Integration beider Metriken abgeleitet. Der Algorithmus geht davon aus, dass ein Merkmal wichtiger ist, wenn es eine hohe Relevanz und eine geringe Redundanz aufweist. Folglich wird der Wert wie folgt berechnet:
$\text{Wert der Merkmalswichtigkeit} = \frac{\text{Relevanzwert}}{\text{Ähnlichkeitswert}}$
Dieser inverse Zusammenhang stellt sicher, dass stark redundante Merkmale (hoher Ähnlichkeitswert) bestraft werden, während hochrelevante Merkmale belohnt werden.

Der Algorithmus arbeitet mit einer Zeitkomplexität von $O(n^2)$ , wobei $n$ die Anzahl der Merkmale ist.

Hauptbeiträge

Ganzheitliche Merkmalsanalyse: Im Gegensatz zu konkurrierenden Methoden, die sich möglicherweise primär auf den marginalen Beitrag konzentrieren, modelliert FAMeX explizit den Zielkonflikt zwischen Merkmalsrelevanz und Merkmalsredundanz.
Graphentheoretische Formulierung: Die Einführung der Feature Association Map bietet einen visuellen und mathematischen Rahmen zum Verständnis von Merkmalabhängigkeiten.
Algorithmische Implementierung: Die Autoren stellen einen vollständigen Algorithmus (Algorithmus 1) und ein plattformunabhängiges Werkzeug mit grafischer Benutzeroberfläche (GUI) bereit, um die Anwendung von FAMeX auf verschiedene Datensätze zu erleichtern.

Experimentelle Ergebnisse
Die Autoren bewerteten FAMeX im Vergleich zu PFI und SHAP unter Verwendung von acht Benchmark-Datensätzen aus dem UCI Machine Learning Repository (z. B. Wisconsin, ILPD, WineQuality, WBDC). Die Bewertung umfasste:

Aufbau: 10-fache Kreuzvalidierung, wiederholt für 100 Iterationen.
Metriken: Die Klassifikationsgenauigkeit wurde unter Verwendung von vier Standardklassifikatoren gemessen: Support Vector Machine (SVM), Random Forest (RF), Naive Bayes (NB) und Decision Tree (DT).
Validierungsstrategie: Die jeweils top 30 % und die bottom 30 % der von jedem Algorithmus identifizierten Merkmale wurden verwendet, um die Klassifikatoren zu trainieren. Ein überlegener XAI-Algorithmus sollte bei Verwendung seiner am höchsten bewerteten Merkmale eine signifikant höhere Genauigkeit erzielen als bei Verwendung seiner am niedrigsten bewerteten Merkmale.

Ergebnisse:

Überlegene Leistung: Über alle vier Klassifikatoren und acht Datensätze hinweg erzielte FAMeX konsistent eine höhere Klassifikationsgenauigkeit unter Verwendung der top 30 % der Merkmale im Vergleich zu PFI und SHAP. Beispielsweise erreichte FAMeX mit dem Random-Forest-Klassifikator eine durchschnittliche Genauigkeit von 80,16 %, verglichen mit 71,47 % für PFI und 71,82 % für SHAP.
Konsistenz: FAMeX zeigte einen klaren Unterschied zwischen wichtigen und unwichtigen Merkmalen. In den meisten Fällen war der Genauigkeitsabfall bei Verwendung der bottom 30 % der Merkmale signifikant (oft >10 % Unterschied).
Einschränkungen der Konkurrenten: Im Gegensatz dazu zeigten PFI und SHAP inkonsistente Ergebnisse. In mehreren Fällen (z. B. WBDC-Datensatz mit SVM) erzielten die von PFI oder SHAP ausgewählten „bottom 30 %"-Merkmale eine höhere Genauigkeit als die „top 30 %"-Merkmale, was auf ein Versagen hinweist, in diesen Kontexten kritische Merkmale korrekt zu identifizieren.

Bedeutung und Behauptungen
Die Arbeit behauptet, dass FAMeX ein vielversprechender Algorithmus zur Erklärung von KI-Vorhersagen ist, da er die Merkmalswichtigkeit im Kontext der Klassifikation effektiv bewertet, indem er sowohl Relevanz als auch Redundanz berücksichtigt. Die Autoren stellen fest, dass die experimentellen Ergebnisse die Wirksamkeit von FAMeX gegenüber PFI und SHAP belegen. Die Arbeit wird als ein Schritt hin zur Förderung des Vertrauens in KI-Systeme präsentiert, indem sie eine transparente, ganzheitliche Erklärung von Entscheidungsprozessen liefert. Die Autoren schließen bescheiden und schlagen vor, dass zukünftige Arbeiten die Anwendung von FAMeX auf komplexere, groß angelegte Datensätze sowie den Vergleich mit zusätzlichen state-of-the-art XAI-Algorithmen umfassen sollten.