🤖 AI

Explainable AI Through a Democratic Lens: DhondtXAI for D'Hondt-Projected Feature Attribution

Dieses Paper stellt DhondtXAI vor, ein neuartiges, SHAP-unabhängiges Framework für erklärbare KI für tabellarische Daten, das das D'Hondt'sche Proporzverfahren anpasst, um Merkmalsattributionen durch Hintergrund-Interventionseffekte, Merkmalsallianzen und Schwellenwerte zuzuweisen, wobei es eine hohe Genauigkeit in synthetischen Tests und eine starke Übereinstimmung mit SHAP auf Gesundheitsdatensätzen demonstriert, während es die Vollständigkeit durch Konstruktion bewahrt.

Ursprüngliche Autoren: Turker Berk Donmez

Veröffentlicht 2026-06-02

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Turker Berk Donmez

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten ein sehr intelligentes, aber geheimnisvolles Computerprogramm (eine KI), das Ärzten hilft vorherzusagen, ob ein Patient Brustkrebs oder Diabetes hat. Das Problem ist, dass dieser Computer eine „Black Box“ ist. Er liefert zwar eine Antwort, erklärt aber nicht ohne Weiteres, war Warum er sich so entschieden hat. Er betrachtet Dutzende von Hinweisen (wie Zellgröße, Alter oder Symptome), aber wir wissen nicht, welche Hinweise am wichtigsten sind.

Dieses Paper stellt eine neue Methode vor, um diese Hinweise zu verstehen, die DhondtXAI genannt wird. Anstatt komplexen Fachjargon zu verwenden, entscheidet sich der Autor, Türker Berk Dönmez, dazu, den Entscheidungsprozess der KI wie eine demokratische Wahl zu behandeln.

So funktioniert es, unterteilt in einfache Konzepte:

1. Die Merkmale sind politische Parteien

In einer normalen Wahl treten verschiedene politische Parteien an. In diesem KI-System wird jeder „Hinweis“ (oder jedes Merkmal), den der Computer betrachtet, wie eine politische Partei behandelt.

Die Stimmen: Der Computer berechnet, wie wichtig jeder Hinweis ist. Dieser Wichtigkeitswert wird in „Stimmen“ umgewandelt. Ein Hinweis, der sehr wichtig ist, erhält Millionen von Stimmen; ein weniger wichtiger erhält weniger.
Die Sitze: Das Ziel ist es zu sehen, wie viele „Sitze“ in einem Parlament jeder Hinweis gewinnt. Die Gesamtzahl der Sitze ist fest vorgegeben (wie zum Beispiel 600 Sitze in einem Parlament).

2. Die D'Hondt-Methode: Eine faire Art zu zählen

Das Paper verwendet eine spezielle Regel namens D'Hondt-Methode, um die Stimmen zu zählen. Dies ist eine reale Regel, die in Ländern wie der Türkei und Spanien verwendet wird, um sicherzustellen, dass auch kleinere Parteien eine faire Chance auf Repräsentation haben und nicht nur die größten.

Wie es funktioniert: Stellen Sie sich vor, der Computer hat 600 leere Sitze zu füllen. Er schaut nach, wer die meisten Stimmen hat, und gibt ihnen einen Sitz. Dann berechnet er die Chancen für alle anderen neu. Er vergibt die Sitze nacheinander, bis alle 600 gefüllt sind.
Das Ergebnis: Die Hinweise, die die meisten „Sitze“ erhalten, sind diejenigen, auf die sich die KI bei ihrer Entscheidung am stärksten gestützt hat. Wenn „Zellform“ 124 Sitze erhält und „Alter“ nur 26, wissen Sie, dass der Computer viel mehr Wert auf die Form der Zelle als auf das Alter des Patienten gelegt hat.

3. Bündnisse bilden (Teamwork)

In der echten Politik schließen sich kleine Parteien manchmal zusammen, um eine „Koalition“ oder ein „Bündnis“ zu bilden, damit sie gemeinsam mehr Sitze gewinnen können. DhondtXAI erlaubt es Ihnen, genau das Gleiche mit KI-Hinweisen zu tun.

Das Beispiel: In der Diabetes-Studie hat der Autor zusammengehörige Symptome gruppiert. Anstatt „Durst“, „häufigen Harndrang“ und „Gewichtsverlust“ als drei separate Parteien zu betrachten, hat er sie in einem großen „Diabetes-Symptome“-Bündnis zusammengefasst.
Der Vorteil: Dieses Bündnis kombinierte ihre Stimmen. Plötzlich gewann diese „Super-Partei“ eine massive Anzahl an Sitzen (361 von 600), was zeigt, dass Symptome als Gruppe der wichtigste Vorhersagefaktor sind, selbst wenn einzelne Symptome für sich genommen klein erscheinen mögen.

4. Der Schwellenwert-Filter (Die Mindestlatte)

Manchmal gibt es zu viele kleine Parteien (oder unwichtige Hinweise), die das Parlament überfüllen. Das Paper führt einen Schwellenwert ein, der wie eine Mindestlatte funktioniert, die eine Partei überspringen muss, um in die Wahl einzuziehen.

Wie es funktioniert: Der Nutzer kann sagen: „Nur Parteien mit mindestens 10 % der Stimmen erhalten einen Sitz.“
Das Ergebnis: Jeder Hinweis, der die Hürde nicht geschafft hat, fliegt raus. Seine Stimmen werden dann auf die stärkeren Hinweise umverteilt, die es tatsächlich geschafft haben. Dies bereinigt das „Rauschen“ und hinterlässt Ihnen eine klare Liste der wirklich wichtigsten Faktoren.

Was haben sie herausgefunden?

Der Autor hat dieses neue „Wahlsystem“ gegen eine Standardmethode getestet, die als SHAP bekannt ist (welche komplexe Mathematik nutzt, um KI zu erklären).

Brustkrebs-Test: Als sie den Test an einem Brustkrebs-Modell durchführten, stimmten die „Wahl“ und die „Mathematik“ fast perfekt überein. Die Hinweise, die die meisten Sitze im Parlament gewannen, waren exakt dieselben Hinweise, die die Mathematik als am wichtigsten einstufte.
Diabetes-Test: Sie machten dasselbe für Diabetes. Auch hier stimmten die Ergebnisse überein. Das „Bündnis“ der Diabetes-Symptome gewann die Wahl und bestätigte, dass diese Symptome die entscheidenden Treiber der Vorhersage sind.

Warum ist das wichtig?

Das Paper argumentt, dass diese Methode großartig ist, weil sie trockene, verwirrende Daten in eine Geschichte verwandelt, die wir alle verstehen können: Politik.

Anstatt auf eine Tabelle voller Zahlen zu schauen, kann ein Arzt oder ein Patient ein „Parlament“ betrachten und sehen, welche „Parteien“ (Hinweise) die meiste Macht innehaben.
Es macht die KI transparenter und fairer – wie eine Demokratie, in der jede Stimme (jeder Hinweis) eine Chance bekommt, gehört zu werden, aber die lautesten Stimmen (die wichtigsten Hinweise) die meisten Sitze erhalten.

Kurz gesagt: DhondtXAI nimmt die beängstigende, unsichtbare Logik einer KI und verwandelt sie in eine sichtbare, demokratische Wahl, bei der man klar erkennen kann, wer das Sagen bei der Entscheidung hat.

Technische Zusammenfassung: Erklärbare KI durch eine demokratische Linse: DhondtXAI für proportionale Merkmalsrelevanz mittels der D'Hondt-Methode

Problemstellung
Die Arbeit befasst sich mit der Herausforderung der Interpretierbarkeit komplexer Machine-Learning-Modelle, insbesondere „Black-Box“-Systeme wie neuronale Netze und Ensemble-basierte Baummodelle (z. B. CatBoost, XGBoost). Während bestehende Techniken der erklärbaren KI (Explainable AI, XAI) wie SHAP (Shapley Additive Explanations) und LIME Post-hoc-Erklärungen liefern, argumentieren die Autoren, dass es Bedarf an alternativen Frameworks gibt, die intuitive, strukturierte und transparente Darstellungen der Merkmalsrelevanz bieten. Insbesondere sucht die Arbeit nach einem Weg, die Lücke zwischen technischer Modellmechanik und menschlichem Verständnis zu schließen, indem Prinzipien aus demokratischen Wahlsystemen auf die Domäne der Merkmalsattribution übertragen werden. Das Kernproblem besteht darin, die Merkmalsrelevanz so darzustellen, dass eine proportionale Repräsentation, Allianzbildung (Gruppierung verwandter Merkmale) und Schwellenwertbildung (Filterung von Merkmalen mit geringer Auswirkung) möglich sind, wodurch das Vertrauen und die Klarheit für den Nutzer in hochsensiblen Bereichen wie dem Gesundheitswesen erhöht werden.

Methodik
Die Studie führt DhondtXAI ein, eine Bibliothek und Methodik, die die D'Hondt-Methode – ein System der proportionalen Repräsentation, das in politischen Wahlen verwendet wird – anwendet, um „Sitze“ (representative Einheiten) basierend auf der berechneten Relevanz an Merkmale oder Merkmalsgruppen zuzuweisen. Die Methodik erfolgt durch die folgenden strukturierten Schritte:

Berechnung der Merkmalsrelevanz: Der Prozess beginnt mit der Standardextraktion der Merkmalsrelevanz aus baumbasierten Modellen (Random Forests, Gradient Boosted Trees). Dies wird durch die Aggregation der Reduktion der Unreinheit (Information Gain) über alle Knoten und Bäume hinweg berechnet, in denen ein Merkmal als Split-Kriterium verwendet wurde.
Benutzerdefinierte Parameter: Das Framework ermöglicht es Benutzern, Folgendes festzulegen:
- Gesamtstimmen ( $V$ ): Ein Skalar, der die zu verteilende Gesamtressource darstellt.
- Gesamtsitze ( $M$ ): Die Anzahl der zuzuweisenden repräsentativen Einheiten.
- Ausschlüsse: Merkmale, die aus der Analyse entfernt werden sollen.
- Allianzen: Benutzerdefinierte Gruppierungen von Merkmalen, die als einzelne stimmberechtigte Einheiten behandelt werden.
- Schwellenwert: Ein Mindestprozentsatz an Stimmen, der erforderlich ist, um für die Sitzzuweisung infrage zu kommen.
Stimmenverteilung: Die anfänglichen Stimmen werden proportional zu den Merkmals- oder Allianz-Scores im Verhältnis zur Gesamtrelevanz des Datensatzes zugewiesen.
Anwendung des Schwellenwerts und Umverteilung: Wenn ein benutzerdefinierter Schwellenwert festgelegt ist, werden Merkmale oder Allianzen, die unter dieser Stimmenanzahl liegen, ausgeschlossen. Ihre Stimmen werden dann proportional unter den verbleibenden „über dem Schwellenwert liegenden“ Entitäten basierend auf ihrer relativen Relevanz umverteilt.
Sitzzuweisung (D'Hondt-Methode): Die endgültigen Sitze werden iterativ verteilt. Für jedes Merkmal/jede Allianz $i$ wird ein Sitzverhältnis $S_i$ berechnet als $S_i = \frac{\text{umverteilte\_stimmen}_i}{k + 1}$ , wobei $k$ die aktuell gehaltenen Sitze ist. Die Entität mit dem höchsten $S_i$ erhält den nächsten Sitz, $k$ wird inkrementiert, und der Prozess wiederholt sich, bis alle $M$ Sitze zugewiesen sind.

Wesentliche Beiträge

Neuartiges Framework: Die Arbeit präsentiert DhondtXAI, einen neuartigen Ansatz, der die Merkmalsrelevanz in eine „parlamentarische“ Sichtweise übersetzt, in der Merkmale basierend auf proportionaler Repräsentation um Sitze konkurrieren.
Allianz-Mechanismus: Es führt das Konzept der „Merkmalsallianzen“ ein, das es Benutzern ermöglicht, verwandte Variablen (z. B. Symptome einer Krankheit) zu gruppieren, um deren kollektive Auswirkung zu bewerten, analog zur Bildung von Koalitionen durch politische Parteien.
Schwellenwertbildung: Es integriert einen elektoralen Schwellenwert, um Rauschen zu filtern, wodurch sichergestellt wird, dass nur Merkmale mit signifikanter Bedeutung in der endgültigen Interpretation hervorgehoben werden.
Integration mit Standard-XAI: Die Methode ist darauf ausgelegt, bestehende Techniken wie SHAP zu ergänzen, indem sie eine Perspektive der Ressourcenallokation neben der traditionellen mathematischen Attribution bietet.

Ergebnisse
Die Studie validiert DhondtXAI anhand von zwei Datensätzen:

Wisconsin Breast Cancer Dataset (CatBoost Modell):
- Das Modell erreichte eine Genauigkeit von 96 % und einen AUC von 1,00.
- DhondtXAI wies 600 Sitze 10 Merkmalen zu. „Mean concave points“ erhielt die meisten Sitze (124), gefolgt von „mean texture“ (121).
- Eine Spearman-Korrelationsanalyse zwischen den DhondtXAI-Sitzzahlen und den globalen SHAP-Werten ergab einen Koeffizienten von 0,83 ( $p=0,0029$ ), was auf eine starke, statistisch signifikante positive Korrelation hindeutet.
- Die parlamentarische Visualisierung spiegelte erfolgreich die Identifizierung der Top-Merkmale durch SHAP sowie deren gerichtete Korrelationen wider (z. B. Rot für negative Korrelation mit benignen Ergebnissen).
Early Stage Diabetes Risk Prediction Dataset (XGBoost Modell):
- Das Modell erreichte eine Genauigkeit von 98 % und einen AUC von 1,00.
- Merkmale wurden in Allianzen gruppiert (z. B. Diabetes_Symptoms, Metabolic_Body).
- Die Diabetes_Symptoms-Allianz dominierte die Zuweisung mit 361 von 600 Sitzen.
- Eine Spearman-Korrelation zwischen den Allianz-Sitzzahlen und den mittleren SHAP-Werten betrug 0,40 ( $p=0,505$ ), was nicht statistisch signifikant war. Die Autoren merken diese Diskrepanz an, argumentieren jedoch, dass der Allianz-basierte Ansatz eine andere, intuitivere Perspektive für gruppierte Merkmale bietet.
- Anwendung des Schwellenwerts: Die Anwendung eines 10 %-Stimmen-Schwellenwerts filterte die Vision_Nervous- und Psychological-Allianzen heraus (wodurch deren Sitze auf 0 reduziert wurden) und erhöhte gleichzeitig die Sitzzahlen der drei führenden Allianzen (Metabolic_Body, Diabetes_Symptoms, Skin_Infection), was die Fähigkeit der Methode demonstriert, den Fokus zu schärfen.

Bedeutung und Ansprüche
Die Arbeit behauptet, dass DhondtXAI ein komplementäres und intuitives Werkzeug für die erklärbare KI ist. Seine Bedeutung liegt in:

Demokratisierung der Interpretierbarkeit: Durch die Verwendung der vertrauten politischen Metapher (parlamentarische Sitze) wird die Entscheidungsfindung komplexer Modelle für nicht-technische Stakeholder zugänglich gemacht, was ein Gefühl der fairen Repräsentation für verschiedene Merkmale fördert.
Erhöhte Flexibilität: Die Möglichkeit, Allianzen zu bilden und Schwellenwerte anzuwenden, ermöglicht eine nuanciertere Analyse von Merkmalsinteraktionen und Rauschreduzierung, was herkömmliche punktbasierte Relevanzmetriken explizit nicht unterstützen.
Ausrichtung an ethischer KI: Der Rahmen der proportionalen Repräsentation wird als Schritt in Richtung ethischer KI präsentiert, der sicherstellt, dass der Einfluss von Merkmalen transparent verteilt wird und dass geringfügige, aber kollektiv signifikante Faktoren (über Allianzen) nicht übersehen werden.
Validierung: Die starke Korrelation mit SHAP im Brustkrebs-Datensatz legt nahe, dass DhondtXAI konsistente Rankings der Merkmalsrelevanz liefert, was seine Zuverlässigkeit als sekundäres Interpretationswerkzeug validiert.

Die Autoren kommen zu dem Schluss, dass DhondtXAI zwar keine granularen Methoden wie SHAP für die Analyse einzelner Vorhersagen ersetzen kann, aber einen wertvollen, strukturierten und gesellschaftlich resonanten Rahmen für das Verständnis des kollektiven Einflusses von Merkmalen in hochsensiblen Entscheidungsumgebungen bietet.