🤖 machine learning

CI-CBM: Class-Incremental Concept Bottleneck Model for Interpretable Continual Learning

Die Arbeit stellt CI-CBM vor, ein interpretierbares Modell für das kontinuierliche Lernen, das durch Konzept-Regularisierung und Pseudo-Konzept-Generierung das katastrophale Vergessen in der Klassen-incrementellen Lernumgebung effektiv bekämpft und dabei sowohl die Genauigkeit als auch die menschliche Nachvollziehbarkeit der Entscheidungsfindung erhält.

Ursprüngliche Autoren: Amirhosein Javadi, Tuomas Oikarinen, Tara Javidi, Tsui-Wei Weng

Veröffentlicht 2026-04-17

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Amirhosein Javadi, Tuomas Oikarinen, Tara Javidi, Tsui-Wei Weng

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stell dir vor, du hast einen sehr klugen Assistenten, der dir hilft, Dinge zu erkennen – zum Beispiel verschiedene Vogelarten. Anfangs lernt er nur den „Rotkehlchen" und den „Amsel". Er ist super darin, sie zu unterscheiden, und er kann dir sogar erklären, warum er das tut: „Aha, der hat einen roten Bauch, also ist es ein Rotkehlchen." Das ist interpretierbar – du verstehst seine Gedanken.

Jetzt kommt das Problem: Du willst, dass dein Assistent auch noch den „Kuckuck", den „Fink" und später den „Adler" lernt. Aber wenn du ihn einfach nur auf die neuen Vögel trainierst, passiert oft das, was man „katastrophales Vergessen" nennt. Er lernt die neuen Vögel, vergisst aber plötzlich alles über Rotkehlchen und Amseln. Er denkt vielleicht, ein Rotkehlchen sei jetzt ein Kuckuck, weil er die neuen Merkmale vermischt.

Das ist das große Rätsel im Bereich des maschinellen Lernens: Wie lernt man ständig dazu, ohne das Alte zu verlieren? Und wie bleibt man dabei ehrlich und verständlich?

Hier kommt die neue Methode CI-CBM aus dem Papier ins Spiel. Sie ist wie ein genialer Lehrer für deinen KI-Assistenten. Hier ist die Erklärung in einfachen Bildern:

1. Der „Bottleneck" (Der Engpass) – Die Liste der Merkmale

Stell dir vor, dein Assistent hat normalerweise einen riesigen, undurchsichtigen Kopf (eine „Blackbox"), in dem alles durcheinanderwirbelt. CI-CBM zwingt ihn, einen Engpass zu nutzen.

Die Idee: Bevor der Assistent sagt „Das ist ein Adler", muss er erst eine Liste von einfachen, menschlichen Merkmalen abhaken: „Hat er eine scharfe Kralle?", „Ist er groß?", „Hat er eine gelbe Schnabel?".
Der Vorteil: Du siehst genau, worauf er sich stützt. Wenn er einen Adler erkennt, weil er „groß" und „scharfe Krallen" hat, verstehst du das sofort. Das ist der interpretierbare Teil.

2. Das Problem: Neue Vögel, alte Regeln

Wenn du dem Assistenten neue Vögel zeigst (z. B. im nächsten Monat), muss er seine Liste erweitern. Aber wie behält er die alten Regeln für das Rotkehlchen bei, ohne sie zu zerstören?

Das alte Problem: Wenn er neu lernt, überschreibt er oft die alten Regeln. Das Rotkehlchen wird vergessen.
Die CI-CBM-Lösung: Sie nutzt zwei clevere Tricks:

Trick A: Der „Geister-Trainingspartner" (Pseudo-Konzepte)

Stell dir vor, du hast keine Fotos von den alten Vögeln mehr (aus Datenschutzgründen oder weil der Speicher voll ist), aber du willst sie trotzdem im Kopf behalten.

Die Metapher: Der Assistent nimmt einen neuen Vogel (z. B. einen Falken), der dem alten Rotkehlchen ähnlich ist. Er sagt: „Okay, wenn ich den Falken so verändere, dass er wie ein Rotkehlchen aussieht, dann habe ich quasi ein 'Geister-Rotkehlchen'."
Er erzeugt also fiktive Beispiele (Pseudo-Konzepte) für die alten Vögel, indem er die Merkmale der neuen Vögel leicht verschiebt. So kann er den alten Vögeln „beibringen", dass sie noch existieren, ohne echte Fotos von ihnen zu speichern. Er trainiert quasi mit Schatten, die wie die alten Freunde aussehen.

Trick B: Der „Anker" (Regularisierung)

Wenn der Assistent lernt, neue Dinge zu erkennen, neigt er dazu, die alten Definitionen zu verwässern.

Die Metapher: Stell dir vor, du baust ein neues Zimmer an dein Haus an. Wenn du nicht aufpasst, rutscht das ganze Fundament und das alte Wohnzimmer wird schief.
CI-CBM setzt einen Anker unter das Fundament. Es sagt dem Assistenten: „Die Definition von 'roter Bauch' für das Rotkehlchen darf sich nicht ändern, auch wenn du jetzt Falken lernst." Es bestraft ihn, wenn er die alten Bedeutungen zu stark verändert. So bleiben die alten Konzepte stabil.

3. Das Ergebnis: Ein kluger, ehrlicher Assistent

Durch diese Kombination (Geister-Trainingspartner + Anker) passiert Magie:

Er vergisst nichts: Er kann immer noch perfekt zwischen Rotkehlchen und Amsel unterscheiden, auch nachdem er 20 neue Vogelarten gelernt hat.
Er bleibt ehrlich: Du kannst ihn immer noch fragen: „Warum hast du das so gemacht?" und er zeigt dir seine Liste: „Weil er einen roten Bauch und eine spitze Schnabel hatte."
Er ist schnell und effizient: Er braucht keine riesige Datenbank mit alten Fotos, sondern nur die „Durchschnittsmerkmale" der alten Vögel.

Zusammenfassung in einem Satz

CI-CBM ist wie ein Lehrer, der seinem Schüler beibringt, ständig neue Sprachen zu lernen, ohne die alten zu vergessen, indem er dem Schüler hilft, alte Wörter durch geschickte Vergleiche mit neuen Wörtern im Gedächtnis zu behalten und gleichzeitig sicherstellt, dass die Bedeutung der alten Wörter sich nicht verändert.

Das Papier zeigt, dass man KI nicht nur „schwarz" (undurchsichtig) und stark machen muss, sondern dass man sie auch verständlich und stabil halten kann, selbst wenn sie ständig neue Dinge lernt. Das ist ein riesiger Schritt für KI in Bereichen wie Medizin oder Recht, wo man wissen muss, warum eine Entscheidung getroffen wurde.

1. Problemstellung

Das Paper adressiert zwei zentrale Herausforderungen im Bereich des maschinellen Lernens: Katastrophales Vergessen (Catastrophic Forgetting) und Mangelnde Interpretierbarkeit (Interpretability).

Kontinuierliches Lernen (Continual Learning): Deep-Learning-Modelle verlieren oft ihr bisheriges Wissen, wenn sie auf neuen Daten trainiert werden. Dies ist besonders kritisch im Szenario des Class-Incremental Learning (CIL), bei dem ein Modell sequenziell neue Klassen lernt, ohne Zugriff auf die Daten früherer Phasen zu haben (Exemplar-Free CIL).
Der Trade-off: Bestehende Methoden zur Bekämpfung des katastrophalen Vergessens opfern entweder die Genauigkeit oder die Interpretierbarkeit. Black-Box-Modelle sind oft genau, aber undurchsichtig. Interpretierbare Modelle (wie Concept Bottleneck Models, CBM) sind transparent, leiden jedoch oft unter signifikanten Genauigkeitsverlusten im Vergleich zu Black-Box-Modellen, insbesondere im CIL-Szenario.
Spezifisches Ziel: Die Entwicklung eines Modells, das sowohl hochpräzise als auch inhärent interpretierbar ist und in der Lage ist, neue Klassen zu lernen, ohne alte zu vergessen, ohne dabei auf gespeicherte Beispieldaten (Exemplare) zurückgreifen zu müssen.

2. Methodik: CI-CBM

Die Autoren stellen CI-CBM (Class-Incremental Concept Bottleneck Model) vor, eine Erweiterung des Label-free Concept Bottleneck Models (LF-CBM) für das Exemplar-Free CIL-Szenario. Der Ansatz besteht aus drei Hauptmodulen, die in einem mehrstufigen Prozess ablaufen:

A. Inkrementelle Erweiterung des Konzept-Sets (Concept Set Expansion)

Für jede neue Phase werden neue, menschenlesbare Konzepte für die neuen Klassen automatisch generiert (z. B. mittels GPT-3).
Diese Kandidaten werden gefiltert, um Redundanzen zu vermeiden (z. B. durch Berechnung der kosinussimilarität zu bestehenden Konzepten und Klassennamen).
Das Konzept-Set wächst somit dynamisch mit den neuen Phasen, bleibt aber konsistent und eindeutig.

B. Verhinderung von Konzept-Drift durch Distillation (Concept Drift Mitigation)

Ein Hauptproblem beim inkrementellen Lernen ist, dass die gelernten Konzepte (die im „Concept Bottleneck Layer" kodiert sind) ihre semantische Bedeutung verlieren oder sich verschieben (Drift), wenn das Modell auf neuen Daten trainiert wird.
Lösung: CI-CBM verwendet eine Wissens-Distillation. Beim Training des Concept Bottleneck Layers ( $W_C$ ) für neue Daten wird eine zusätzliche Verlustfunktion eingeführt. Diese stellt sicher, dass die Ausgaben des aktuellen Modells für die alten Konzepte auf den neuen Daten nicht zu stark von den Ausgaben des vorherigen Modells abweichen.
Dies stabilisiert die Bedeutung der bereits gelernten Konzepte, ohne sie komplett einzufrieren.

C. Dynamische Anpassung der Vorhersageschicht & Pseudo-Konzepte

Da keine Daten der alten Klassen mehr verfügbar sind, kann der Sparse Predictor (die letzte Schicht, die Konzepte auf Klassen abbildet) nicht direkt auf alten Daten trainiert werden.
Pseudo-Feature-Generierung: Um das Vergessen zu verhindern, generiert CI-CBM Pseudo-Features für alte Klassen. Dies geschieht durch eine geometrische Verschiebung: Die Merkmalsverteilung der am nächsten gelegenen neuen Klasse wird so verschoben, dass sie dem Mittelwert (Centroid) der alten Klasse entspricht.
Pseudo-Konzepte: Diese Pseudo-Features werden durch den aktuellen Concept Bottleneck Layer projiziert, um Pseudo-Konzepte für alte Klassen zu erzeugen.
Training: Der Sparse Predictor wird nun mit echten Konzepten für neue Klassen und Pseudo-Konzepten für alte Klassen trainiert. Dies ermöglicht es dem Modell, die Entscheidungsgrenzen zwischen alten und neuen Klassen zu lernen, ohne die Originaldaten der alten Klassen zu speichern.

3. Schlüsselbeiträge

Neuheit: CI-CBM ist das erste interpretierbare CIL-Modell, das in beiden Szenarien (mit vortrainiertem Backbone und Training von Grund auf / from scratch) robust funktioniert.
Leistung: Das Modell schließt die Lücke zwischen interpretierbaren und Black-Box-Modellen. Es erreicht eine durchschnittliche Genauigkeitssteigerung von 36 % gegenüber vorherigen interpretierbaren Ansätzen in CIL.
Technische Innovationen:
- Einführung von Konzept-Regularisierung (Concept Regularization) zur Verhinderung von Drift.
- Entwicklung einer Pseudo-Konzept-Generierung, die es erlaubt, alte Klassen ohne Exemplare zu repräsentieren.
- Demonstration, dass interpretierbare Modelle im CIL-Szenario nicht zwangsläufig eine schlechtere Genauigkeit haben müssen.
Öffentlichkeit: Der Code ist öffentlich verfügbar, was die Reproduzierbarkeit fördert.

4. Ergebnisse

Die Evaluierung erfolgte auf sieben Datensätzen (CIFAR-10/100, CUB, TinyImageNet, ImageNet, Places365) unter verschiedenen Bedingungen:

Vergleich mit interpretierbaren Baselines: CI-CBM übertrifft bestehende interpretierbare CIL-Methoden (wie ICICLE, IN2, CONCIL) deutlich. Auf CIFAR-100 und TinyImageNet wurden Verbesserungen von über 35–40 % erzielt.
Vergleich mit Black-Box-Modellen:
- Im nicht-vortrainierten Szenario (Backbone wird nur auf den ersten Phasendaten trainiert) erreicht CI-CBM eine Genauigkeit, die nur ca. 7,5 % unter den State-of-the-Art (SOTA) Black-Box-Modellen liegt, aber deutlich besser ist als andere interpretierbare Ansätze.
- Im vortrainierten Szenario (z. B. ViT auf ImageNet) liegt CI-CBM nur ca. 3–7 % unter den besten Black-Box-Methoden und übertrifft dabei den interpretierbaren Baseline CLG-CBM.
Robustheit: Das Modell bleibt stabil, selbst wenn die Anzahl der Phasen (T) zunimmt, während andere Methoden oft stark an Leistung verlieren.
Ablationsstudien: Diese zeigten, dass sowohl die Pseudo-Konzept-Generierung als auch die Konzept-Regularisierung essenziell sind. Ohne Pseudo-Konzepte bricht die Genauigkeit für alte Klassen fast vollständig zusammen.

5. Bedeutung und Fazit

Das Paper beweist, dass Interpretierbarkeit und hohe Genauigkeit im kontinuierlichen Lernen keine Gegensätze sein müssen.

Praktische Relevanz: In sensiblen Bereichen wie der Medizin oder Robotik ist es oft unerlässlich, warum ein Modell eine Entscheidung trifft. CI-CBM bietet diese Transparenz durch menschenlesbare Konzepte (z. B. „roter Schnabel", „nicht gelbe Federn"), ohne die Leistung zu opfern.
Zukunftsperspektive: Die Methode ermöglicht es Systemen, lebenslang zu lernen und neues Wissen zu akquirieren, während sie ihre früheren Fähigkeiten bewahren und ihre Entscheidungsfindung für Menschen nachvollziehbar bleibt.
Schlussfolgerung: CI-CBM stellt einen bedeutenden Fortschritt dar, der die Hürde für den Einsatz interpretierbarer Modelle in realen, sich wandelnden Umgebungen senkt und zeigt, dass „Exemplar-Free" CIL auch für komplexe, interpretierbare Architekturen machbar ist.