How Well Do Multimodal Models Reason on ECG Signals?

Diese Arbeit stellt einen reproduzierbaren Rahmen vor, der die reasoning-Fähigkeiten multimodaler Modelle bei EKG-Signalen durch eine duale Verifikation von Wahrnehmung (mittels Code-Generierung) und Deduktion (durch Abgleich mit klinischen Kriterien) skalierbar bewertet, um die Validität klinischer Logik jenseits oberflächlicher Metriken zu überprüfen.

Das Wesentliche

Das Problem: Der „Blackbox"-Arzt

Stell dir vor, du gehst zu einem sehr klugen, aber mysteriösen Arzt (einem KI-Modell). Dieser Arzt schaut dir auf dein EKG (ein Herz-Zeit-Schreibgerät) und sagt: „Sie haben Vorhofflimmern." Das ist die Diagnose. Aber wie ist er darauf gekommen?

Früher sagten KIs oft nur das Ergebnis. Heute sagen sie: „Ich habe das gesehen, weil die Wellen hier unregelmäßig sind, und das bedeutet Vorhofflimmern." Das nennt man Denkspur (Reasoning).

Das Problem ist: Vertrauen wir dieser Denkspur?
Oder hat die KI einfach nur geraten, die richtige Diagnose zu nennen, und sich danach eine plausible Geschichte ausgedacht, um gut zu wirken? Das ist wie ein Schüler, der die richtige Antwort auf eine Matheaufgabe schreibt, aber den Lösungsweg erfunden hat. In der Medizin ist das gefährlich.

Die Lösung: ECG ReasonEval (Der „Zwei-Augen"-Test)

Die Forscher haben ein neues System entwickelt, um zu prüfen, ob diese KI-Arzt wirklich denkt oder nur halluziniert. Sie haben den Denkprozess in zwei Teile zerlegt, wie bei einem Detektiv, der einen Fall löst:

1. Die Wahrnehmung (Perception) – „Sieht der Detektiv das Richtige?"

Stell dir vor, der Detektiv sagt: „Ich sehe eine Blutspur am Fenster."
Der erste Test prüft: Ist da wirklich eine Blutspur?

• Wie funktioniert es? Die KI schreibt automatisch einen kleinen Computer-Code (ein Skript), der das EKG-Signal genau nachmisst.
• Der Vergleich: Es ist wie ein Koch, der sagt: „Ich habe frische Tomaten verwendet." Der Test prüft, ob im Kühlschrank wirklich Tomaten liegen. Wenn die KI sagt „Ich sehe unregelmäßige Herzschläge", prüft der Code, ob die Wellen auf dem Papier wirklich unregleich sind.
• Ergebnis: Viele moderne KIs sind hier schlecht. Sie sehen die Wellen gar nicht richtig, erfinden aber trotzdem Details.

2. Die Schlussfolgerung (Deduction) – „Ist die Logik medizinisch sinnvoll?"

Angenommen, der Detektiv sieht die Blutspur wirklich. Sagt er dann auch die richtige Schlussfolgerung? „Da ist Blut, also war ein Mord."
Der zweite Test prüft: Passt diese Schlussfolgerung zu den medizinischen Regeln?

• Wie funktioniert es? Die KI muss ihre Begründung in eine riesige digitale Bibliothek mit medizinischen Lehrbüchern eingeben. Das System sucht: „Haben andere Experten auch gesagt, dass dieses Symptom zu dieser Krankheit führt?"
• Der Vergleich: Es ist wie ein Schüler, der eine Antwort gibt. Der Lehrer (die KI) prüft nicht nur, ob die Antwort stimmt, sondern ob der Gedankengang mit dem Lehrbuch übereinstimmt.
• Ergebnis: Hier sind die großen Sprach-KIs (wie Claude oder Gemini) oft gut. Sie kennen die medizinischen Regeln auswendig.

Was haben die Forscher herausgefunden?

Sie haben verschiedene KI-Modelle getestet und ein überraschendes Muster entdeckt:

1. Die „Sensoren" (Spezialisierte Zeitreihen-KIs):
   Diese Modelle sind wie sehr gute Mikroskope. Sie sehen die EKG-Wellen genau (gute Wahrnehmung), aber sie wissen nicht, was die Wellen bedeuten. Sie können dir sagen: „Da ist eine Welle", aber sie wissen nicht, ob das krank ist. Sie sind wie ein Fotograf, der ein Foto macht, aber nicht weiß, was auf dem Bild passiert.

2. Die „Bücherwürmer" (Große Sprach-KIs wie Claude):
   Diese Modelle sind wie kluge Medizinstudenten. Sie kennen alle medizinischen Regeln und können eine Diagnose perfekt begründen (gute Schlussfolgerung). Aber sie schauen oft gar nicht auf das Bild! Sie raten die Diagnose und erfinden dann Details, die sie hätten sehen müssen.

   • Beispiel: Sie sagen: „Ich sehe tiefe Q-Wellen" (was auf einen Herzinfarkt hindeutet), aber auf dem EKG sind gar keine. Sie halluzinieren die Beweise, um ihre Antwort zu stützen. Das ist gefährlich!

3. Der Gewinner (Gemini 3.1):
   Das Modell von Google war das einzige, das beides halbwegs gut konnte: Es sah die Wellen und verstand die Regeln. Aber selbst es ist noch nicht so gut wie ein echter menschlicher Arzt.

Das große Fazit

Die Studie zeigt eine wichtige Wahrheit: Eine richtige Diagnose bedeutet nicht, dass die KI richtig gedacht hat.

Man kann eine KI bauen, die 99 % der Diagnosen richtig nennt, aber dabei völlig falsche Begründungen erfindet. Das ist wie ein Glücksspieler, der zufällig gewinnt, aber nicht weiß, wie das Spiel funktioniert.

Warum ist das wichtig?
Für die Medizin reicht es nicht, dass die KI „richtig liegt". Sie muss auch ehrlich sein. Wenn sie sagt „Ich habe das gesehen", muss sie es wirklich gesehen haben. Das neue System (ECG ReasonEval) ist wie ein Polizist, der überprüft, ob der KI-Arzt wirklich die Beweise vor sich hat oder ob er nur blufft.

Nur so können wir KI in der Medizin wirklich vertrauen.

Technische Zusammenfassung

1. Problemstellung

Multimodale Large Language Models (LLMs) werden zunehmend im Gesundheitswesen eingesetzt, um durch generierte „Reasoning Traces" (Schlussfolgerungspfade, oft Chain-of-Thought) die Interpretierbarkeit von KI-Entscheidungen zu erhöhen. Ein zentrales Problem besteht jedoch darin, die Validität dieser Schlussfolgerungen zu überprüfen.

• Aktuelle Limitationen: Bestehende Evaluierungsmethoden sind entweder nicht skalierbar (abhängig von manueller Überprüfung durch Ärzte) oder oberflächlich (nutzen Proxy-Metriken wie Frage-Antwort-Accuracy oder n-Gram-Matches), die die semantische Korrektheit der klinischen Logik nicht erfassen.
• Spezifische Herausforderung: Im Gegensatz zu mathematischen Problemen gibt es in der klinischen Diagnostik oft mehrere gültige Schlussfolgerungswege. Eine starre Bewertung (wie bei Schrit-für-Schritt-Lösungen in der Mathematik) ist daher ungeeignet. Zudem fehlen große Datensätze, die Biosignale mit Experten-Reasoning-Traces koppeln.

2. Methodik: ECG ReasonEval Framework

Die Autoren stellen ECG ReasonEval vor, das erste reproduzierbare Framework zur Evaluierung der semantischen Korrektheit von Reasoning-Traces in multimodalen Zeitreihenmodellen. Der Kernansatz ist die Zerlegung der Reasoning-Evaluierung in zwei unabhängige Achsen:

A. Wahrnehmung (Perception)

Ziel ist die Überprüfung, ob die im Reasoning-Trace beschriebenen Merkmale tatsächlich im Rohsignal (ECG) vorhanden sind.

• Agentic Framework: Ein Data-Science-Agent (basierend auf einem starken LLM, z. B. Claude 4.5 Opus) extrahiert aus dem unstrukturierten Text diskrete, überprüfbare Behauptungen (z. B. „RR-Intervalle sind unregelmäßig").
• Code-Generierung: Der Agent generiert und führt Python-Code aus, um diese Behauptungen empirisch gegen das ECG-Signal zu validieren.
• Tools: Um die Komplexität zu reduzieren, nutzt der Agent spezialisierte Tools, darunter ein Deep-Learning-Segmentierungstool (SOTA), das Wellenformen (P, QRS, T) präzise abgrenzt, anstatt auf fehleranfällige regelbasierte Algorithmen zu setzen.
• Metrik: Boolean-Verifikation (True/False) pro Behauptung, aggregiert zu Global Accuracy und Accuracy@Threshold (z. B. wie viele Behauptungen in einem Trace korrekt sind).

B. Deduktion (Deduction)

Ziel ist die Überprüfung, ob die logische Schlussfolgerung des Modells mit dem medizinischen Konsens übereinstimmt.

• Wissensdatenbank: Es wird eine strukturierte Datenbank diagnostischer Kriterien erstellt, die aus autoritativen Quellen (LITFL, Wikipedia, ECGPedia, WikiEM) gescraped und durch einen „Text Cleaning Agent" bereinigt und strukturiert wurde.
• Retrieval-Ansatz: Der finale diagnostische Label wird aus dem Reasoning-Trace entfernt (Censoring), um Datenlecks zu vermeiden. Der restliche Trace wird eingebettet (Embedding) und gegen die Wissensdatenbank abgefragt (RAG).
• Validierung: Es wird geprüft, ob die top-k zurückgegebenen Kriterien mit dem Ground-Truth-Label des Signals übereinstimmen.
• Metrik: Precision@k (Anteil der korrekten Labels in den top-k Ergebnissen).

3. Wichtige Beiträge

1. Neues Evaluierungsframework (ECG ReasonEval): Ein skalierbarer, automatisierter Ansatz, der die Notwendigkeit manueller Experten-Reviews für jedes neue Modell eliminiert.
2. Zerlegungsmethodik: Die Trennung von Perception (Signal-Grundierung) und Deduction (Wissensausrichtung) ermöglicht eine differenzierte Analyse von Modellfehlern.
3. Erkenntnisse über Multimodale Modelle:
   • TSLMs (Time-Series Language Models): Zeigen gute Perception (erkennen Signalmerkmale), aber schwache Deduktion (fehlendes medizinisches Weltwissen).
   • Frontier LLMs (z. B. Claude Opus 4.5): Zeigen gute Deduktion, neigen aber zu „Post-hoc-Halluzinationen" (sie erraten die Diagnose und erfinden dann Merkmale im Signal, die nicht existieren).
   • Gemini 3.1 Pro: Zeigt das ausgewogenste Profil, ist jedoch immer noch weit von der Leistung eines menschlichen Arztes entfernt.

4. Ergebnisse und Experimente

Die Evaluierung wurde an Modellen wie QoQ-Med, OpenTSLM, Claude Opus 4.5 und Gemini 3.1 Pro durchgeführt.

• Perception-Leistung: Kein Modell erreicht das Niveau eines Arztes. TSLMs schneiden bei der Erkennung von Signalmerkmalen besser ab als generische VLMs. Die Acc@Thresh100% (alle Behauptungen korrekt) liegt meist unter 10–15 %, was die Schwierigkeit der Aufgabe unterstreicht.
• Deduction-Leistung: Frontier-Modelle (insbesondere Gemini) erreichen höhere Precision-Werte, da sie besser mit medizinischem Konsens übereinstimmen. TSLMs scheitern hier oft, da sie die klinische Relevanz der erkannten Merkmale nicht verknüpfen können.
• Kritische Entdeckung: Es gibt eine schwache Korrelation zwischen der finalen Vorhersagegenauigkeit und der Qualität des Reasoning (Perception). Modelle können hohe Klassifikationsgenauigkeit erreichen, ohne das Signal tatsächlich korrekt zu „sehen" (sie merken sich Text-Diagnose-Paare).
• Qualitätssicherung für menschliche Daten: Das Framework ist so robust, dass es in 17 % der Fälle Fehler in den Ground-Truth-Notizen von Kardiologen aufdecken konnte (z. B. beschriebene Merkmale, die im Signal nicht vorhanden waren).

5. Bedeutung und Ausblick

• Vertrauenswürdigkeit: Das Paper zeigt, dass hohe Vorhersagegenauigkeit nicht automatisch vertrauenswürdige Reasoning-Fähigkeiten bedeutet. Ein Modell, das nur deduziert, aber nicht wahrnimmt, erzeugt eine „Illusion des Denkens".
• Skalierbarkeit: Der vorgeschlagene agentenbasierte Ansatz bietet eine skalierbare Alternative zur manuellen Überprüfung, was für die klinische Zulassung und das Auditing von KI-Systemen essenziell ist.
• Zukunft: Das Framework ist modality-agnostisch und kann auf andere medizinische Domänen (z. B. Radiologie) erweitert werden. Es unterstreicht die Notwendigkeit, Modelle nicht nur auf Klassifikationsgenauigkeit, sondern auf die Validität ihrer internen Schlussfolgerungsprozesse zu trainieren und zu bewerten.

Zusammenfassend liefert ECG ReasonEval einen rigorosen, automatisierten Standard, um zu unterscheiden, ob ein KI-Modell tatsächlich medizinische Logik anwendet oder lediglich plausible Texte generiert.