🤖 machine learning

Concept Flow Models: Anchoring Concept-Based Reasoning with Hierarchical Bottlenecks

Dieses Paper führt Concept Flow Models (CFMs) ein, ein hierarchisches Framework, das flache Konzept-Bottlenecks durch einen differenzierbaren Entscheidungsbaum ersetzt, um Informationslecks zu minimieren und die Interpretierbarkeit zu verbessern, während eine mit bestehenden Concept Bottleneck Models vergleichbare Vorhersageleistung beibehalten wird.

Ursprüngliche Autoren: Ya Wang, Adrian Paschke

Veröffentlicht 2026-06-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Ya Wang, Adrian Paschke

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Der „Alles-auf-einen-Streich“-Ansatz

Stellen Sie sich vor, Sie versuchen, ein Bild einer Katze zu identifizieren.

Aktuelle KI-Modelle, die versuchen, „erklärbar“ zu sein (genannt Concept Bottleneck Models oder CBMs), arbeiten wie ein Koch, der alle Zutaten aus der Speisekammer auf den Tresen schüttet, bevor er versucht, eine Mahlzeit zuzubereiten. Sie betrachten das Bild und fragen: „Hat es Fell? Hat es einen Schwanz? Ist es ein Fahrzeug? Hat es eine Tür? Ist es ein Vogel?“

Sie prüfen alle diese Konzepte gleichzeitig, ungeachtet dessen, ob sie Sinn ergeben.

Der Fehler: Weil das Modell alles prüft, kann es „Schummel-Antworten“ erhalten. Es sieht vielleicht eine Katze und sagt: „Ah, ich sehe eine ‚Tür‘ und ‚Lackierung‘ (Konzepte, die normalerweise für Autos sind), also muss es eine Katze sein!“ Es hat eine seltsame, zufällige Verbindung zwischen Katzen und Autos in seinen Trainingsdaten gefunden. Dies nennt man Information Leakage (Informationsleck). Das Modell findet die richtige Antwort aus den falschen Gründen, was es unzuverlässig und schwer vertrauenswürdig macht.

Die Lösung: Das „Detektiv-Flussdiagramm“

Die Autoren schlagen ein neues Modell vor, das Concept Flow Models (CFMs) genannt wird. Anstatt alles auf den Tresen zu werfen, nutzen CFMs einen hierarchischen Entscheidungsbaum. Denken Sie an einen Detektiv, der einen Fall löst, oder einen Arzt, der einen Patienten diagnostiziert.

Die Analogie: Das Verhörzimmer des Detektivs
Stellen Sie sich einen Detektiv vor, der versucht, einen Verdächtigen zu identifizieren. Er stellt nicht alle möglichen Fragen auf einmal. Er folgt einem spezifischen Pfad:

Schritt 1 (Die Wurzel): „Ist diese Person ein Mensch oder ein Fahrzeug?“
- Antwort: Mensch.
- Ergebnis: Der Detektiv hört sofort auf, nach „Rädern“ oder „Türen“ zu fragen. Diese Konzepte sind in einem anderen Raum weggesperrt.
Schritt 2 (Der Zweig): „Ist dieser Mensch ein Erwachsener oder ein Kind?“
- Antwort: Erwachsener.
- Ergebnis: Der Detektiv hört auf, nach „Schnullern“ oder „Schuluniformen“ zu fragen.
Schritt 3 (Das Blatt): „Ist dieser Erwachsene ein Arzt, ein Feuerwehrmann oder ein Katzenbesitzer?“
- Antwort: Katzenbesitzer.

Warum das besser ist:

Kein Schummeln: Im ersten Schritt sieht das Modell das Konzept „Autotüren“ gar nicht erst, weil es bereits entschieden hat, dass das Subjekt ein Mensch ist. Es kann physisch nicht „Autotüren“ verwenden, um eine „Katze“ zu erraten.
Fokus: In jedem Schritt betrachtet das Modell nur eine kleine, relevante Liste von Hinweisen (Konzepten).
Nachvollziehbarkeit: Sie können in das Notizbuch des Detektivs schauen und den exakten Pfad sehen, den er genommen hat: Mensch → Erwachsener → Katzenbesitzer. Sie wissen genau, warum er die Entscheidung getroffen hat.

Wie sie es gebaut haben (Der „magische“ Teil)

Die Arbeit erklärt, wie sie dies gebaut haben, ohne dass Menschen manuell jede Regel aufschreiben mussten (was langsam und teuer ist).

Die Landkarte (Hierarchie): Sie nutzten eine leistungsstarke KI (CLIP), um alle Bilder anzusehen und sie natürlich zu gruppieren. Die KI erkannte, dass „Hunde“ und „Katzen“ näher beieinander liegen als „Flugzeuge“. So baute sie automatisch einen Stammbaum der Klassen.
Die Hinweise (Konzepte): Sie nutzten eine andere KI (ein Large Language Model), um Beschreibungen für jede Gruppe zu generieren. Für die Gruppe „Tier“ könnte es beispielsweise „hat Fell“ oder „hat Schnurrhaare“ vorschlagen. Für die Gruppe „Fahrzeug“ schlägt es „hat Räder“ vor.
Das Training: Sie brachten dem Modell bei, diesen Baum entlang abzulaufen. Wenn das Bild eine Katze zeigt, lernt das Modell, im Schritt „Tier“ die Konzepte „Schnurrhaare“ und „Fell“ zu aktivieren und dann im Schritt „Katze“ die „Spitzohren“. Es lernt, „Räder“ komplett zu ignorieren, da dieser Pfad blockiert ist.

Die Ergebnisse: Was haben sie herausgefunden?

Die Autoren testeten das Modell an vielen verschiedenen Bilddatensätzen (wie dem Erkennen von Vögeln, Autos oder Handlungen).

Genauigkeit: Das neue Modell (CFM) war genauso gut darin, die richtige Antwort zu erraten, wie die alten „Alles-auf-einen-Strich“-Modelle.
Ehrlichkeit: Dies ist der große Sieg. Als sie die Modelle mit zufälligen, unsinnigen Konzepten testeten (wie „blauer Himmel“ oder „Pizza“, während sie versuchten, einen Vogel zu identifizieren), erhielten die alten Modelle immer noch hohe Werte, weil sie durch Zufallskorrelationen schummeln konnten. Das neue Modell (CFM) scheiterte jedoch kläglich bei unsinnigen Konzepten. Dies beweist, dass es tatsächlich nach den echten Merkmalen (wie „Federn“ oder „Schnäbeln“) sucht und nicht schummelt.
Effizienz: Das neue Modell verwendet viel weniger Konzepte, um eine Entscheidung zu treffen. Anstatt 500 Dinge zu prüfen, prüft es vielleicht nur 10 relevante Dinge entlang seines spezifischen Pfades.

Zusammenfassung

Die Arbeit führt einen klügeren Weg ein, um KI erklärbar zu machen. Anstatt die KI zu verlangen, alle Fakten der Welt gleichzeitig zu prüfen (was zu Schummeln und Verwirrung führt), zwingt sie die KI, einem Schritt-für-Schritt-Flussdiagramm zu folgen.

Alter Weg: Alles gleichzeitig prüfen. Hohes Risiko zu schummeln. Schwer nachzuvollziehen.
Neuer Weg (CFM): Nur prüfen, was für den aktuellen Schritt relevant ist. Geringes Risiko zu schummeln. Leicht nachzuvollziehen.

Es ist der Unterschied zwischen einem Schüler, der das ganze Lehrbuch auswendig lernt und wahllos rät, und einem Schüler, der ein logisches Flussdiagramm nutzt, um ein Problem Schritt für Schritt zu lösen. Beide mögen das richtige Ergebnis erzielen, aber der zweite versteht tatsächlich, warum.

Technisches Resümee: Concept Flow Models (CFMs)

Problemstellung

Concept Bottleneck Models (CBMs) zielen darauf ab, die Interpretierbarkeit von tiefen neuronalen Netzen zu verbessern, indem sie gelernte Merkmale in einen für Menschen verständlichen Konzeptraum projizieren, bevor sie endgültige Vorhersagen treffen. Während jüngste Post-hoc-CBMs Vision-Language-Modelle (VLMs) nutzen, um die Notwendigkeit manueller Konzeptannotationen zu eliminieren, leiden sie unter einer kritischen Einschränkung, die als Information Leakage (Informationsleckage) bekannt ist.

Wenn die Anzahl der Konzept-Embeddings die Dimensionalität des Feature-Embedding-Raums erreicht, kann das Modell ausдуspuriösen oder semantisch irrelevanten Korrelationen eine hohe Genauigkeit erzielen. In diesem Szenario kann das Modell auf zufälligen oder aufgabenirrelevanten Konzepten basieren (z. B. „Fahrzeuglackierung“ zur Klassifizierung von Katzen) anstatt auf dem beabsichtigten semantischen Inhalt. Dies untergräbt die Interpretierbarkeit des Modells, da eine hohe Genauigkeit nicht mehr garantiert, dass die Argumentation auf bedeutungsvollen Konzepten basiert. Bestehende Minderungsstrategien, wie etwa die Erzwingung von Sparsamkeit durch Regularisierung oder die Auswahl kompakter Konzeptsätze, scheitern oft an der Skalierbarkeit mit der Aufgabenkomplexität oder verhindern die Nutzung irrelevanter Konzepte nicht strukturell.

Methodik: Concept Flow Models (CFMs)

Die Autoren schlagen Concept Flow Models (CFMs) vor, eine hierarchische Architektur, die die flache Bottleneck-Schicht traditioneller CBMs durch einen hierarchischen, konzeptgesteuerten Entscheidungsbaum ersetzt. Diese strukturelle Änderung erzwingt „strukturelle Sparsamkeit“, wodurch sichergestellt wird, dass jede Klassenvorhersage nur auf einer lokalisierten Teilmenge von Konzepten entlang eines spezifischen Entscheidungspfades basiert.

Das CFM-Framework operiert durch drei primäre Phasen:

Extraktion der Baumhierarchie & Semantische Annotation:
- Das Framework nutzt ein vortrainiertes VLM (speziell CLIP), um klassenspezifische Bild-Embeddings zu generieren.
- Agglomeratives Clustering (Ward-Verfahren) wird auf diese Embeddings angewendet, um eine semantische Baumhierarchie zu konstruieren.
- Interne Knoten werden basierend auf den Verschmelzungsdistanzen (Merge Distances) beschnitten, um übermäßig tiefe Bäume mit schwach getrennten Knoten zu vermeiden.
- Large Language Models (LLMs) werden verwendet, um deskriptive Labels für interne Knoten basierend auf den Blattklassen in deren Subtrees zu generieren, wodurch eine menschenorientierte semantische Hierarchie entsteht.
Konzeptselektion & Distribution:
- LLMs generieren Kandidatenkonzepte für jede Blattklasse unter Einbeziehung von Bildbeispielen und hierarchischem Kontext.
- Konzepte werden an interne Knoten aggregiert. Redundante Konzepte sowie solche, die Klassennamen enthalten, werden herausgefiltert.
- Eine Lasso-regularisierte Multi-Class-Logistische-Regression wird eingesetzt, um die diskriminativsten Konzepte für jeden internen Knoten auszuwählen. Die Anzahl der einem Knoten zugewiesenen Konzepte wird durch eine hybride Strategie bestimmt, die die Anzahl der Kindknoten und ein globales Konzeptbudget ausbalanciert.
Differenzierbares Concept Flow Training:
- Das Modell wird End-to-End trainiert. Jeder interne Knoten $v$ wird durch eine Konzeptmatrix $C_v$ (vorselektierte Embeddings) und eine trainierbare Gewichtmatrix $W_v$ parametrisiert.
- Übergangswahrscheinlichkeiten: Für ein Eingabebild-Embedding $\tilde{z}$ berechnet das Modell die Konzeptaktivierungen, projiziert diese via $W_v$ und wendet eine temperaturgesteuerte Softmax-Funktion an, um die Wahrscheinlichkeit des Übergangs zu den Kindknoten zu bestimmen.
- Pfadaggregation: Die Wahrscheinlichkeit, einen Blattknoten (finale Klasse) zu erreichen, ist das Produkt der Übergangswahrscheinlichkeiten entlang des eindeutigen Wurzel-zu-Blatt-Pfades, kalibriert durch einen lernbaren Bias-Term.
- Zielobjektiv: Das Modell minimiert die negative Log-Likelihood des Pfades der Ground-Truth-Klasse.

Zentrale Beiträge

Architektonische Innovation: Die Einführung von CFMs, welche die Klassifizierung in eine Sequenz lokalisierter, konzeptgesteuerter Teilprobleme über einen hierarchischen Bottleneck zerlegt. Dieses Design isoliert verwandte Konzepte strukturell vom Entscheidungspfad einer spezifischen Klasse.
Theoretische Analyse: Die Autoren liefern theoretische Beweise, die zeigen, dass hierarchische Bottlenecks eine höhere Barriere für Information Leakage schaffen. Speziell erfordert das Erreichen globaler Separabilität mit Zufallskonzepten in einem CFM ein Gesamtkonzeptbudget proportional zu $O(md)$ (wobei $m$ die Anzahl der internen Knoten ist), während ein flaches CBM nur $O(d)$ benötigt. Dies impliziert, dass CFMs signifikant resistenter gegen Genauigkeitsgewinne durch zufällige, aufgabenirrelevante Konzepte sind.
Semantische Effizienz: Das Framework demonstriert, dass CFMs eine Genauigkeit vergleichbar mit flachen CBMs erreichen können, während sie eine wesentlich geringere Anzahl an effektiven Konzepten (Effective Concepts, NEC) pro Vorhersage verwenden. Die Anzahl der pro Vorhersage verwendeten Konzepte wird von $O(R)$ in flachen Modellen auf $O(\frac{R}{m} \log_b m)$ in CFMs reduziert.
End-to-End Pipeline: Eine vollständige Pipeline wurde entwickelt, die Entscheidungshierarchien aus visuellen Embeddings konstruiert, diskriminative Konzepte ohne manuelle Annotation auswählt und das Modell mittels probabilistischer Baumtraversierung trainiert.

Experimentelle Ergebnisse

Experimente wurden auf fünf Benchmarks durchgeführt: CIFAR-10, CIFAR-100, UCF-101, CUB-200 und TinyImageNet.

Resistenz gegenüber Zufallskonzepten: In Szenarien mit zufälligen (nicht-semantischen) Konzepten zeigten CFMs im Vergleich zu flachen CBMs eine signifikant geringere Genauigkeit, wenn das Konzeptbudget anstieg. Beispielsweise erreichte die Genauigkeit von CBMs auf CIFAR-10 mit 64 Zufallskonzepten fast die Linear-Probe-Baseline, während die CFM-Genauigkeit deutlich niedriger blieb (75 % vs. 90 %), was die strukturelle Barriere gegen Information Leakage bestätigt.
Performance mit semantischen Konzepten: Bei Verwendung kuratierter semantischer Konzepte erreichten CFMs eine Genauigkeit, die der von State-of-the-Art flachen CBMs (PCBM und Labo) entspricht oder diese übertrifft, während sie weit weniger effektive Konzepte nutzten.
- Auf CIFAR-10 erreichte CFM eine Genauigkeit von 91,59 % mit nur 6,9 effektiven Konzepten, verglichen mit ca. 57 bei PCBM und Labo.
- Auf TinyImageNet erreichte CFM 70,79 % Genauigkeit mit 92 effektiven Konzepten und übertraf damit Labo (69,86 %) und entsprach PCBM (71,07 %), welches über 360 Konzepte verwendete.
Semantische Verbesserungsrate (Semantic Improvement Ratio, SIR): CFMs wiesen signifikant höhere SIR-Scores auf, was auf eine stärkere Abhängigkeit von bedeutungsvollen semantischen Konzepten anstelle von Spuriösität hindeutet. Beispielsweise lag der SIR von CFM auf CIFAR-10 bei 19,78 %, verglichen mit 1,94 % für Labo.
Ablationsstudien: Die Studie bestätigte, dass die durch CLIP induzierte Hierarchie eine zufällige oder gewichtsbasierte Hierarchie übertrifft. Sie hob zudem hervor, dass das Beschneiden des Baums zur Kontrolle der Anzahl der internen Knoten entscheidend ist, um das Gleichgewicht zwischen Interpretierbarkeit (sparsamere Pfade) und Genauigkeit (ausreichende Konzeptkapazität pro Knoten) zu halten.

Bedeutung und Ansprüche

Das Paper behauptet, dass CFMs eine vielversprechende Richtung zur Verbesserung der Interpretierbarkeit darstellen, ohne die Vorhersageleistung zu opfern. Durch die Verankerung von Entscheidungen in menschenorientierten, hierarchischen Strukturen bieten CFMs nachvollziehbare, schrittweise Begründungspfade, die auditierbar und transparent sind.

Die Autoren betonen, dass ihr Ansatz das grundlegende Dilemma konzeptbasierter Modelle adressiert: das Risiko, dass eine hohe Genauigkeit durch Information Leakage statt durch semantische Fundierung erreicht wird. Durch die strukturelle Begrenzung des verfügbaren Konzeptraums für jeden Entscheidungsschritt zwingen CFMs das Modell dazu, sich auf relevante, lokalisierte Konzepte zu verlassen. Diese strukturelle Isolation ergänzt bestehende Regularisierungstechniken und bietet einen robusten Mechanismus zur Reduzierung von Information Leakage, insbesondere bei komplexen, feingranularen Klassifizierungsaufgaben. Die Arbeit legt nahe, dass hierarchische Bottlenecks menschliche kognitive Denkmuster widerspiegeln können, was Modellentscheidungen in sicherheitskritischen Anwendungen besser mit menschlichen Erwartungen in Einklang bringt.

Anerkannte Limitationen:
Die Autoren merken an, dass die Interpretierbarkeit weiterhin von der Qualität der visuellen-sprachlichen Ausrichtung des VLM und der Konzeptgenerierung des LLM abhängt. Probleme, wie etwa Konzepte, die nicht originalgetreu in spezifischen Bildregionen verankert sind (Halluzinationen), bestehen insbesondere in spezialisierten Domänen fort. Zudem setzt die Abhängigkeit von einer festen Baumhierarchie voraus, dass Klassenbeziehungen inhärent hierarchisch sind, was nicht für alle Aufgaben gelten muss. Zukünftige Arbeiten sollen adaptive Strukturen und verbesserte visuelle Fundierung untersuchen.