💬 NLP

Bridging the Version Gap: Multi-version Training Improves ICD Code Prediction, Especially for Rare Codes

Dieser Artikel zeigt, dass das Training eines modifizierten, labelweisen Aufmerksamkeitsmodells auf einer Kombination aus ICD-9- und ICD-10-Daten die Leistung bei der Vorhersage von ICD-10-Codes, insbesondere für seltene Codes, signifikant verbessert, indem es Versionslücken effektiv überbrückt und das Long-Tail-Problem mit weniger Parametern adressiert.

Ursprüngliche Autoren: Jinghui Liu, Anthony Nguyen

Veröffentlicht 2026-05-19

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Jinghui Liu, Anthony Nguyen

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Ein sich bewegendes Ziel und ein langer Schweif

Stellen Sie sich vor, Sie versuchen, eine riesige Bibliothek medizinischer Aufzeichnungen zu organisieren. Um dies zu tun, müssen Sie jedem Patienten ein spezifisches „Tag" (einen ICD-Code) zuweisen, das seine Krankheit beschreibt. Bei dieser Aufgabe gibt es zwei enorme Kopfschmerzen:

Das Wörterbuch ändert sich ständig: Das offizielle Wörterbuch medizinischer Tags (genannt ICD) wird ständig aktualisiert. Manchmal passt ein Tag aus dem alten Wörterbuch (ICD-9) nicht perfekt zu einem Tag im neuen Wörterbuch (ICD-10). Es ist, als würde man versuchen, eine neue Sprache zu lernen, während Ihre alten Schulbücher noch im Regal stehen. Die meisten Computerprogramme sind darauf trainiert, nur eine „Version" der Sprache zu sprechen, daher geraten sie in Verwirrung, wenn sich die Regeln ändern.
Das Problem des „langen Schweifs": Die meisten Patienten haben häufige Erkrankungen (wie die Grippe oder Bluthochdruck), die leicht zu taggen sind. Aber es gibt Tausende seltener Krankheiten, von denen nur eine Handvoll Menschen betroffen ist. In der Welt der Daten sind dies der „lange Schweif". Da es so wenige Beispiele für diese seltenen Krankheiten gibt, haben Computermodelle Schwierigkeiten, sie zu lernen, und ignorieren sie oft vollständig.

Die Lösung: Alte und neue Bücher mischen

Die Forscher stellten eine einfache Frage: Was wäre, wenn wir den Computer gleichzeitig mit sowohl den alten medizinischen Aufzeichnungen (ICD-9) als auch den neuen (ICD-10) unterrichten würden?

Normalerweise denken die Leute, dass das Mischen dieser beiden eine Katastrophe wäre, da die Tags nicht perfekt übereinstimmen (nur etwa 24 % der alten Tags haben eine direkte Entsprechung im neuen System). Es ist, als würde man versuchen, einem Schüler Englisch beizubringen, indem man einige französische Wörter einmischt; man würde erwarten, dass er verwirrt wird.

Doch die Forscher bauten ein spezielles Modell namens DUALLAAT und versuchten genau das. Sie fütterten es mit einem „Smoothie" aus:

Alten Aufzeichnungen aus MIMIC-III (ICD-9)
Neueren Aufzeichnungen aus MIMIC-IV (ICD-9)
Neuesten Aufzeichnungen aus MIMIC-IV (ICD-10)

Was ist passiert? (Die Ergebnisse)

Die Ergebnisse waren überraschend gut und wirkten wie eine „geheime Zutat" für das Computermodell:

Der Schub für seltene Krankheiten: Der größte Gewinn war für die seltenen Krankheiten (den „langen Schweif"). Durch das Hinzufügen alter Daten stieg die Fähigkeit des Modells, seltene ICD-10-Codes zu erkennen, um 27 %. Es ist, als enthielten die alten Aufzeichnungen versteckte Hinweise auf die Konzepte der Krankheiten, selbst wenn die spezifischen Tag-Namen unterschiedlich waren. Das Modell lernte die Bedeutung der Krankheit, nicht nur das Etikett.
Der Schub für häufige Krankheiten: Das Modell wurde auch besser im Umgang mit häufigen Krankheiten und verbesserte seine Gesamtgenauigkeit, ohne komplexer gemacht werden zu müssen.
Effizienz: Anstatt drei verschiedene Modelle zu benötigen (eines für jede Datensatzversion), benötigten sie nur ein Modell, um alle zu bewältigen. Dies sparte eine enorme Menge an Computerspeicher und Trainingszeit. Es ist, als hätte man einen universellen Übersetzer, anstatt für jedes Land, das man besucht, ein anderes Wörterbuch zu benötigen.

Das „Warum" (Die geheime Zutat)

Das Papier legt nahe, dass der Erfolg nicht daraus resultierte, dass die Tags perfekt übereinstimmten. Stattdessen rührte er von gemeinsamer klinischer Bedeutung her.

Stellen Sie es sich so vor: Selbst wenn das Wort für „Herzinfarkt" sich im alten Buch von „Myokardinfarkt" zu „Akuter Myokardinfarkt" im neuen Buch änderte, blieb die Beschreibung der Patientensymptome in den Notizen ähnlich. Indem es sowohl alte als auch neue Notizen las, lernte das Modell, die Geschichte der Krankheit zu erkennen, was es viel schlauer machte als ein Modell, das nur die neuen Notizen las.

Zusammenfassung

Das Papier beweist, dass man alte medizinische Daten nicht wegwerfen muss, wenn sich Systeme aktualisieren. Durch das Mischen alter und neuer Aufzeichnungen kann man ein einzelnes, schlaueres Computermodell trainieren, das besser darin ist, seltene Krankheiten zu erkennen und nicht zusammenbricht, wenn sich das Codierungssystem ändert. Es verwandelt „veraltete" Daten in ein wertvolles Trainingswerkzeug.

Problemstellung

Das Paper adressiert zwei kritische Herausforderungen bei der automatisierten Kodierung nach der Internationalen Klassifikation der Krankheiten (ICD):

Versionsentwicklung: ICD-Systeme durchlaufen kontinuierliche Updates (z. B. von ICD-9 zu ICD-10 und das kommende ICD-11). Modelle, die auf einer spezifischen Version mit einem festen Labelraum trainiert wurden, haben Schwierigkeiten, diese Verschiebungen zu bewältigen, was zu Diskrepanzen in der Datenverteilung führt, sobald neue Versionen eingeführt werden.
Long-Tail-Verteilung: Die Verteilung der ICD-Codes ist stark schief. In Datensätzen wie MIMIC-IV machen seltene Codes (die weniger als 10 Mal auftreten) etwa 70 % des gesamten Code-Sets aus (18.000 von 26.000 Codes). Aktuelle Modelle schneiden bei diesen seltenen Codes aufgrund unzureichender Trainingsstichproben oft schlecht ab, was einen Engpass für robuste, implementierbare Systeme darstellt.

Eine zentrale Frage bleibt unerforscht: Ist es machbar, Daten zu kombinieren, die in verschiedenen ICD-Versionen annotiert wurden (z. B. eine Mischung aus ICD-9 und ICD-10), um ein einzelnes, versionsunabhängiges Modell zu trainieren, oder führt die terminologische Inkonsistenz zu Rauschen, das die Leistung beeinträchtigt?

Methodik

Die Autoren schlagen einen Multi-Version-Trainingsansatz unter Verwendung eines modifizierten Label-Wise Attention (LWA)-Modells namens DUALLAAT (Dual Label-wise Attention) vor.

Modellarchitektur:
- Dual Encoder: Im Gegensatz zu Standard-LWA-Modellen, die nur klinische Notizen codieren, verwendet DUALLAAT zwei Textencoder: einen für klinische Notizen und einen separaten für ICD-Code-Beschreibungen.
- Code-Embeddings: Anstatt feste Embeddings für Codes zu verwenden, generiert das Modell Code-Embeddings dynamisch aus den textuellen Beschreibungen der ICD-Codes. Dies ermöglicht es dem Modell, Codes aus verschiedenen Versionen (ICD-9 oder ICD-10) zu verarbeiten, solange sie als Textstrings bereitgestellt werden.
- Aufmerksamkeitsmechanismus: Das Modell verwendet eine labelweise Aufmerksamkeit, um relevante Token in der klinischen Notiz mit der spezifischen Code-Beschreibung abzugleichen, und gibt eine Wahrscheinlichkeitsmatrix für $N$ Notizen und $C$ Codes aus.
- Varianten: Die Autoren testeten zwei Encoder-Konfigurationen: DUALLAATcnn (unter Verwendung eines einfachen CNN) und DUALLAAT (unter Verwendung eines RNN/GRU).
Datenstrategie:
- Datensätze: Die Studie nutzte drei von MIMIC abgeleitete Datensätze: MIMIC-III (ICD-9), MIMIC-IV (ICD-9) und MIMIC-IV (ICD-10).
- Erweiterung des Labelraums: Die Autoren extrahierten alle Codes aus MIMIC erneut, um seltene Codes (Häufigkeit < 10) einzuschließen, und erweiterten so den ICD-10-Labelraum von 8.000 (häufig) auf 26.000 (vollständiger Satz).
- Trainingsverfahren: Die Trainingssets aller drei Datensätze wurden aggregiert. Um das Batch-Training mit gemischten Versionen zu handhaben, implementierten die Autoren einen Sampler, der sicherstellt, dass jeder Batch nur eine ICD-Version enthält (entweder ICD-9 oder ICD-10), während Batches verschiedener Versionen während des Trainingsprozesses gemischt werden. Dies stabilisiert die Größe des Labelraums, während das Modell gleichzeitig Multi-Version-Daten ausgesetzt wird.
Benchmarks:
- PLM-ICD: Ein starker Benchmark, der in-domain BERT mit Gleitfenstern und LWA verwendet.
- CoRelation: Ein Modell, das bipartite Graphen nutzt, um Beziehungen zwischen Codes zu modellieren.
- CAML & LAAT: Frühere LWA-Modelle auf CNN- und RNN-Basis.

Wichtige Ergebnisse

Die Experimente zeigten, dass das Mischen von ICD-9-Daten in das ICD-10-Training signifikante Verbesserungen liefert, insbesondere für seltene Codes.

Leistung bei seltenen Codes (ICD-10):
- Das Hinzufügen von ICD-9-Daten zum Trainingsset führte zu einer relativen Steigerung des Micro-F1-Scores um 27,4 % für 18.000 seltene ICD-10-Codes (Verbesserung von 8,4 auf 10,7) im Vergleich zum Training nur mit ICD-10-Daten.
- Diese Verbesserung wurde mit einem deutlich kleineren Modell erreicht (37 Millionen Parameter für DUALLAAT gegenüber 137 Millionen für PLM-ICD).
Leistung bei häufigen Codes:
- Für die 8.000 häufigen ICD-10-Codes verbesserte das Multi-Version-Training den Macro-F1-Score um etwa 7 % (von 27,9 auf 29,9).
- Das gemischt trainierte DUALLAAT erreichte auf vollständigen Code-Sets eine vergleichbare oder überlegene Leistung im Vergleich zu PLM-ICD und CoRelation, mit deutlich höheren Macro-F1-Scores (11,2 gegenüber 6,3 für CoRelation), was auf eine bessere Robustheit über den Long Tail hinweg hindeutet.
Effizienz:
- Parameter-Effizienz: Ein einzelnes DUALLAAT-Modell, das auf gemischten Daten trainiert wurde, kann mehrere ICD-Versionen verarbeiten, während für jede Version separate PLM-ICD-Modelle erforderlich wären.
- Trainingszeit: Das gemischt-datenbasierte DUALLAAT konvergierte in etwa 18 Stunden (57 Stunden für den vollständigen gemischten Datensatz), was deutlich schneller ist als die 95 Stunden, die zum Trainieren von drei separaten PLM-ICD-Modellen für die drei Benchmarks erforderlich waren.

Bedeutung und Behauptungen

Das Paper behauptet, dass die Kombination von Multi-Version-Datensätzen einen synergetischen Effekt für die ICD-Kodierung erzeugt und die Annahme in Frage stellt, dass Versionsinkonsistenzen zwangsläufig schädliches Rauschen einführen.

Geteilte Semantik statt direkter Überlappung: Die Autoren stellen fest, dass nur etwa 24,3 % der ICD-9-Codes exakte Entsprechungen in ICD-10 haben. Die beobachteten Leistungssteigerungen deuten darauf hin, dass die Vorteile aus dem Erlernen geteilter klinischer Semantik über die Versionen hinweg resultieren und nicht aus einer direkten Label-Überlappung.
Nutzung von Altbestandsdaten: Die Studie zeigt, dass Altbestands-Patientendaten (z. B. ICD-9) effektiv genutzt werden können, um robustere Modelle für aktuelle Systeme (ICD-10) zu trainieren, was potenziell Cold-Start-Probleme für zukünftige Versionen (ICD-11) lösen könnte.
Daten vs. Architektur: Die Ergebnisse legen nahe, dass die Erweiterung der Vielfalt der Trainingsdaten (durch Multi-Version-Mischung) ebenso wirkungsvoll sein kann wie architektonische Verbesserungen, die in der jüngeren Literatur im Mittelpunkt standen.
Praktische Implementierung: Der Ansatz bietet eine effizientere Lösung für ressourcenarme Umgebungen, indem er die Anzahl der erforderlichen Modellparameter und die Trainingszeit reduziert, während gleichzeitig eine hohe Leistung über verschiedene ICD-Versionen hinweg aufrechterhalten wird.

Die Autoren schließen, dass ihre Studie zwar auf MIMIC-Datensätze und englische ICD-CM beschränkt ist, die Prinzipien des Multi-Version-Trainings jedoch eine vielversprechende Richtung für die Skalierung der ICD-Kodierungsforschung und den Umgang mit laufenden Systemänderungen bieten.