🤖 machine learning

Improving Performance in Classification Tasks with LCEN and the Weighted Focal Differentiable MCC Loss

Diese Arbeit stellt eine für Klassifizierungsaufgaben angepasste Version des LCEN-Algorithmus vor, der durch hohe Interpretierbarkeit und Feature-Selektion überzeugt, und evaluiert gleichzeitig die überlegene Leistung der gewichteten fokalen differenzierbaren MCC-Verlustfunktion (diffMCC) gegenüber dem gewichteten Kreuzentropieverlust.

Ursprüngliche Autoren: Pedro Seber, Richard D. Braatz

Veröffentlicht 2026-04-24

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Pedro Seber, Richard D. Braatz

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, einen Fall zu lösen. Sie haben einen riesigen Koffer voller Hinweise (Daten), aber die meisten davon sind nur Rauschen, Ablenkungen oder alte Zeitungsartikel, die nichts mit dem Verbrechen zu tun haben. Ihr Ziel ist es, den Täter zu finden (die richtige Klassifizierung zu treffen), aber Sie wollen nicht von hunderten unwichtigen Hinweisen überwältigt werden.

Genau an diesem Punkt setzt diese Forschung an. Die Autoren, Pedro Seber und Richard D. Braatz vom MIT, haben zwei magische Werkzeuge entwickelt, um diese Detektivarbeit effizienter und genauer zu machen.

Hier ist die Geschichte ihrer Entdeckungen, einfach erklärt:

1. Der scharfsinnige Assistent: LCEN (Der "Aussonderer")

Stellen Sie sich den LCEN-Algorithmus als einen extrem strengen, aber brillanten Assistenten vor. Früher konnte dieser Assistent nur bei "Zahlenrechnungen" (Regression) helfen, aber die Forscher haben ihn trainiert, jetzt auch bei "Entscheidungen" (Klassifizierung) mitzumachen.

Das Problem: Oft haben wir zu viele Daten. Es ist wie ein Koffer, der so vollgestopft ist, dass man den eigentlichen Beweis nicht mehr findet.
Die Lösung von LCEN: Dieser Assistent schaut sich jeden einzelnen Hinweis an und sagt: "Das hier ist wichtig, das hier ist Quatsch." Er wirft den Quatsch einfach weg.
Das Ergebnis: In den Tests hat LCEN im Durchschnitt 56 % aller Daten einfach entsorgt! Das ist, als würde man einen Koffer, der voll mit Steinen ist, leeren, bis nur noch die wertvollen Diamanten übrig sind.
Warum das toll ist:
1. Geschwindigkeit: Weniger Daten bedeuten schnellere Berechnungen.
2. Verständlichkeit: Wenn Sie nur 3 wichtige Hinweise haben, können Sie dem Chef (oder einem Menschen) viel leichter erklären, warum Sie zu einer bestimmten Schlussfolgerung gekommen sind. Das nennt man "Interpretierbarkeit".
3. Bessere Ergebnisse: Überraschenderweise wurden die Modelle oft besser, nachdem LCEN die schlechten Daten entfernt hatte. Es ist, als würde ein Marathonläufer schneller laufen, wenn er schwere Steine aus den Taschen nimmt.

Ein Beispiel aus dem Papier: Bei der Vorhersage von Herzversagen hat LCEN nur drei wichtige medizinische Werte behalten (Herzleistung, Alter, Nierenwerte) und alle anderen verworfen. Modelle, die nur mit diesen drei Werten trainiert wurden, funktionierten besser als solche, die mit allen verfügbaren Daten gearbeitet haben.

2. Der neue Kompass: Die "diffMCC"-Methode (Der "Ziel-Verfechter")

Stellen Sie sich vor, Sie trainieren einen Sportler für einen Wettkampf.

Der alte Weg (Cross-Entropy): Der Trainer sagt dem Sportler: "Laufe so, dass du den Ball nicht verlierst." Das ist okay, aber es ist nicht das eigentliche Ziel.
Der neue Weg (diffMCC): Der Trainer sagt: "Laufe so, dass du das Spiel gewinnst!"

In der Welt der künstlichen Intelligenz gab es ein Problem: Die Modelle wurden trainiert, um eine mathematische "Fehlerquote" zu minimieren (wie den Abstand zwischen Vorhersage und Wahrheit). Aber am Ende bewerten wir sie daran, wie oft sie richtig liegen (z. B. den "F1-Score" oder "MCC"). Das ist wie ein Schütze, der darauf trainiert wird, die Scheibe zu treffen, aber der Trainer bewertet ihn nur daran, wie nah er an der Mitte war, ohne zu schauen, ob er überhaupt getroffen hat.

Die Forscher haben eine neue "Verlustfunktion" (eine Art Trainingsanleitung) namens diffMCC entwickelt.

Was sie tut: Sie zwingt das Modell, direkt auf das zu optimieren, was wir am Ende wirklich wollen: Die beste Klassifizierung.
Das Ergebnis: Modelle, die mit dieser neuen Methode trainiert wurden, waren im Durchschnitt 4,9 % besser in ihrer Trefferquote und 8,5 % besser in der Gesamtqualität als Modelle mit der alten Methode. Es ist, als würde man dem Schützen plötzlich eine Zielscheibe geben, die sich genau dort befindet, wo er hinzielen muss.

Zusammenfassung der Abenteuer

Die Forscher haben diese beiden Werkzeuge an vier verschiedenen "Fällen" getestet:

Herzversagen vorhersagen: LCEN fand die wahren medizinischen Ursachen und machte die Vorhersagen genauer.
Bankmarketing: LCEN filterte die relevanten Kundenmerkmale heraus, während andere Methoden (die auf Expertenwissen basierten) in die Irre gingen.
Weinqualität: Hier half LCEN, die wichtigsten chemischen Eigenschaften des Weins zu finden.
Glasidentifikation: LCEN konnte die Art des Glases basierend auf wenigen chemischen Elementen perfekt bestimmen.

Die große Erkenntnis:
Man muss nicht immer "mehr Daten" haben, um bessere Ergebnisse zu erzielen. Manchmal ist es besser, einen klugen Filter (LCEN) zu haben, der den Müll entfernt, und einen klugen Trainer (diffMCC), der das Modell direkt auf das Ziel hinarbeitet.

Warum ist das wichtig für uns alle?
In der echten Welt (Medizin, Finanzen, Sicherheit) ist es nicht genug, wenn eine KI nur "richtig" liegt. Wir müssen auch verstehen, warum sie liegt. Wenn eine KI sagt: "Dieser Patient hat ein hohes Risiko", wollen wir wissen: "Weil sein Blutdruck und sein Alter so sind". LCEN liefert genau diese klare, verständliche Erklärung, während die neue Trainingsmethode (diffMCC) sicherstellt, dass die KI auch wirklich gut ist.

Kurz gesagt: Die Forscher haben einen Weg gefunden, KI nicht nur schlauer, sondern auch verständlicher und zielgerichteter zu machen.

Titel: Verbesserung der Leistung bei Klassifizierungsaufgaben mit LCEN und der gewichteten fokalen differenzierbaren MCC-Verlustfunktion

1. Problemstellung

Klassifizierungsprobleme sind in Wissenschaft und Technik allgegenwärtig. Bestehende Machine-Learning-Modelle weisen oft einen Zielkonflikt zwischen Interpretierbarkeit (Nachvollziehbarkeit der Vorhersage) und Leistung auf.

Interpretierbarkeit & Sparsity: Modelle, die auf wenigen, wichtigen Merkmalen basieren und deren Funktionsweise für Menschen verständlich ist, sind in kritischen Anwendungen (z. B. Medizin) essenziell. Post-hoc-Methoden wie SHAP oder LIME sind oft unzuverlässig.
Diskrepanz zwischen Verlustfunktion und Metrik: Herkömmliche Klassifizierungsmodelle (z. B. neuronale Netze) werden meist mit der (gewichteten) Kreuzentropie-Verlustfunktion (Cross-Entropy, CE) trainiert. Diese minimiert den Fehler zwischen Vorhersage und Label, optimiert aber nicht direkt die eigentlichen Evaluierungsmetriken wie den F1-Score oder den Matthews-Korrelationskoeffizienten (MCC). Da diese Metriken oft nicht differenzierbar sind, können sie nicht direkt als Verlustfunktion dienen.
Lücken in der Literatur: Der LASSO-Clip-EN (LCEN)-Algorithmus wurde bisher nur für Regressionsaufgaben entwickelt. Es fehlte eine interpretierbare, sparse Methode für nichtlineare Klassifizierungsaufgaben. Zudem war die Anwendbarkeit der weighted focal differentiable MCC (diffMCC)-Verlustfunktion auf nicht-biologische Datensätze unklar.

2. Methodik

Die Autoren führen zwei Hauptentwicklungen ein und evaluieren diese systematisch:

A. Anpassung des LCEN-Algorithmus für Klassifizierung

Der LCEN-Algorithmus (LASSO-Clip-EN) wurde von einem Regressions- auf einen Klassifizierungs-Algorithmus übertragen, wobei folgende Modifikationen vorgenommen wurden:

LASSO-Schritt: Die lineare Regression mit L1-Strafterm wurde durch logistische Regression mit L1-Strafterm ersetzt.
Clip-Schritt: Für binäre Klassifizierung bleibt er unverändert. Bei multiklassigen Aufgaben wird für jede Klasse ein Merkmalsatz generiert. Ein neuer Hyperparameter, LCEN_clip_min_classes_selected, steuert, wie viele Klassen einen Merkmalsatz auswählen müssen, damit das Merkmal nicht verworfen wird.
EN-Schritt (Elastic Net): Die lineare Regression mit L1-L2-Strafterm wurde durch logistische Regression mit kombinierter L1-L2-Strafe ersetzt.

Komplexität: Der Algorithmus bleibt skalierbar und ist in den meisten Fällen schneller als reine Elastic-Net-Modelle (ENC), da durch den LASSO-Clip-Schritt die Merkmalsanzahl ( $p$ ) vor dem EN-Schritt stark reduziert wird.

B. Evaluierung der diffMCC-Verlustfunktion

Die bereits von Seber (2024) eingeführte weighted focal differentiable MCC (diffMCC)-Verlustfunktion wird hier umfassend getestet. Sie dient als differenzierbare Approximation des MCC und soll Modelle direkt auf die Optimierung von MCC und F1-Score trainieren, anstatt nur die Kreuzentropie zu minimieren.

C. Experimentelles Setup

Datensätze: Vier reale Datensätze (zwei binär: "Heart Failure", "Bank Marketing"; zwei multiklassig: "Wine Quality", "Glass Identification") sowie ein künstlicher Datensatz.
Benchmarks: Vergleich mit 10 anderen Modelltypen (Logistische Regression, LASSO, Ridge, EN, Random Forest, GBDT, SVM, MLP mit CE-Verlust).
Feature Selection: Es wurde getestet, ob Modelle, die nur mit den von LCEN ausgewählten Merkmalen trainiert werden, besser abschneiden als Modelle mit allen Merkmalen oder Merkmalen, die durch andere Methoden (z. B. Expertenwissen, Korrelationsanalysen) ausgewählt wurden.
Statistik: 5-fache Kreuzvalidierung mit 3 verschiedenen Seeds; Signifikanztests mittels Tukey's HSD und gepaarten t-Tests.

3. Wichtige Beiträge und Ergebnisse

Leistung des LCEN als ML-Algorithmus

LCEN erreicht auf allen getesteten Datensätzen hohe Werte für den makroskopischen F1-Score und den MCC.
Im Vergleich zum besten Modell pro Datensatz liegt LCEN im Durchschnitt nur 7,3 % (F1) bzw. 15,0 % (MCC) zurück.
LCEN schneidet in vielen Fällen besser ab als Deep-Learning-Modelle (MLP), die mit der Standard-CE-Verlustfunktion trainiert wurden, und ist dabei interpretierbar und sparse.

Leistung des LCEN als Feature-Selection-Algorithmus

Sparsity: LCEN eliminiert im Durchschnitt 56 % aller Eingabemerkmale.
Leistungssteigerung: Wenn andere Modelle (Lineare Modelle, RF, SVM, MLP) nur mit den von LCEN ausgewählten Merkmalen neu trainiert wurden, verbesserte sich deren Leistung in 3 von 4 Datensätzen signifikant. Im vierten Fall blieb die Leistung unverändert.
Vergleich: LCEN übertraf Feature-Selection-Methoden basierend auf Expertenwissen (Bank Marketing) oder Korrelationsanalysen (Glass Identification), die oft zu Leistungsabfällen führten.
Effizienz: Die Verwendung von LCEN-Merkmalen ermöglichte das Training kleinerer MLPs (bis zu 88 % kleiner), die dennoch die gleiche oder bessere Leistung erbrachten.

Leistung der diffMCC-Verlustfunktion

MLPs, die mit der diffMCC-Verlustfunktion trainiert wurden, erzielten immer die höchsten Test-Set-Werte, sowohl bei binären als auch bei multiklassigen Aufgaben.
Im Vergleich zu MLPs mit gewichteter Kreuzentropie (CE) erreichten die diffMCC-Modelle im Durchschnitt:
- +4,9 % höherer makroskopischer F1-Score.
- +8,5 % höherer MCC.
Dies bestätigt, dass die Optimierung direkt auf MCC/F1-Ziele (durch die differenzierbare Approximation) effektiver ist als die Minimierung der Kreuzentropie.

Hyperparameter-Untersuchung

Der neue Hyperparameter LCEN_clip_min_classes_selected beeinflusst die Feature-Auswahl bei Multiklassen-Problemen stark.
Empfehlung: Der Wert sollte nicht mehr als 2/3 der Anzahl der Klassen betragen, um Leistungsabfälle und Instabilität zu vermeiden.

4. Bedeutung und Fazit

Diese Arbeit demonstriert erfolgreich, dass:

Der LCEN-Algorithmus eine leistungsstarke, interpretierbare und sparse Alternative für Klassifizierungsaufgaben darstellt, die nicht nur für Regressionsaufgaben geeignet ist. Er verbindet hohe Vorhersagegenauigkeit mit der Fähigkeit, irrelevante Merkmale zu eliminieren.
Die diffMCC-Verlustfunktion eine überlegene Methode zum Training von Klassifizierungsmodellen ist, die die Lücke zwischen Trainingsziel (Verlustfunktion) und Evaluierungsmetrik (MCC/F1) schließt.
Die Kombination aus LCEN-basierter Feature-Selektion und diffMCC-basiertem Training zu robusten, effizienten und hochpräzisen Modellen führt, die in physikalischen, biologischen und sozialen Wissenschaften anwendbar sind.

Die Ergebnisse unterstreichen die Notwendigkeit, Verlustfunktionen und Feature-Selection-Methoden gezielt auf die Zielmetriken der Klassifizierung abzustimmen, anstatt sich auf Standardansätze wie Kreuzentropie zu verlassen. Zukünftige Arbeiten könnten diese Methoden auf nicht-tabellarische Daten (z. B. Bilder, Text) und hybride physikalisch-gestützte Modelle erweitern.