💬 NLP

Bridging the Version Gap: Multi-version Training Improves ICD Code Prediction, Especially for Rare Codes

Dit artikel toont aan dat het trainen van een aangepast labelgewijze attentiemodel op een combinatie van ICD-9- en ICD-10-data de prestaties bij het voorspellen van ICD-10-codes aanzienlijk verbetert, met name voor zeldzame codes, door versieverschillen effectief te overbruggen en het long-tail-probleem aan te pakken met minder parameters.

Oorspronkelijke auteurs: Jinghui Liu, Anthony Nguyen

Gepubliceerd 2026-05-19

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jinghui Liu, Anthony Nguyen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: Een Bewegend Doel en een Lange Staart

Stel je voor dat je een enorme bibliotheek met medische dossiers probeert te organiseren. Om dit te doen, moet je elke patiënt een specifiek "label" toekennen (een ICD-code) die hun ziekte beschrijft. Er zijn twee enorme hoofdpijndossiers in deze baan:

Het Woordenboek Verandert Continu: Het officiële woordenboek van medische labels (genaamd ICD) wordt voortdurend bijgewerkt. Soms komt een label uit het oude woordenboek (ICD-9) niet perfect overeen met een label in het nieuwe woordenboek (ICD-10). Het is alsof je probeert een nieuwe taal te leren terwijl je oude schoolboeken nog steeds op de plank liggen. De meeste computerprogramma's zijn getraind om slechts één "versie" van de taal te spreken, dus wanneer de regels veranderen, raken ze in de war.
Het "Lange Staart"-Probleem: De meeste patiënten hebben veelvoorkomende aandoeningen (zoals de griep of hoge bloeddruk), die makkelijk te labelen zijn. Maar er zijn duizenden zeldzame ziektes die slechts door een handvol mensen worden gehad. In de wereld van data zijn dit de "lange staart". Omdat er zo weinig voorbeelden zijn van deze zeldzame ziektes, hebben computermodellen moeite om ze te leren, en negeren ze ze vaak volledig.

De Oplossing: Oude en Nieuwe Boeken Maken

De onderzoekers stelden een simpele vraag: Wat als we de computer trainden met zowel de oude medische dossiers (ICD-9) als de nieuwe (ICD-10) tegelijkertijd?

Meestal denken mensen dat het mengen van deze twee een ramp zou zijn omdat de labels niet perfect overeenkomen (slechts ongeveer 24% van de oude labels heeft een directe match in het nieuwe systeem). Het is alsof je probeert een student Engels te leren door er wat Franse woorden doorheen te mengen; je zou verwachten dat ze in de war raken.

Echter, de onderzoekers bouwden een speciaal model genaamd DUALLAAT en probeerden precies dit. Ze voerden het een "smoothie" toe gemaakt van:

Oude dossiers van MIMIC-III (ICD-9)
Nieuwere dossiers van MIMIC-IV (ICD-9)
Nieuwste dossiers van MIMIC-IV (ICD-10)

Wat Gebeurde Er? (De Resultaten)

De resultaten waren verrassend goed, en werkten als een "geheime saus" voor het computermodel:

De Boost voor Zeldzame Ziektes: De grootste winst was voor de zeldzame ziektes (de "lange staart"). Door het toevoegen van de oude data, steeg het vermogen van het model om zeldzame ICD-10-codes te signaleren met 27%. Het is alsof de oude dossiers verborgen aanwijzingen bevatten over de concepten van de ziektes, zelfs als de specifieke labelnamen anders waren. Het model leerde de betekenis van de ziekte, niet alleen het label.
De Boost voor Veelvoorkomende Ziektes: Het model werd ook beter in het afhandelen van veelvoorkomende ziektes, waardoor de algehele nauwkeurigheid verbeterde zonder dat het model complexer hoefde te worden.
Efficiëntie: In plaats van drie verschillende modellen nodig te hebben (één voor elke dataset-versie), hadden ze slechts één model nodig om ze allemaal te verwerken. Dit bespaarde een enorme hoeveelheid computergeheugen en trainingstijd. Het is alsof je één universele vertaler hebt in plaats van een ander woordenboek nodig te hebben voor elk land dat je bezoekt.

De "Waarom" (Het Geheime Ingrediënt)

Het artikel suggereert dat het succes niet kwam doordat de labels perfect overeenkwamen. In plaats daarvan kwam het voort uit gedeelde klinische betekenis.

Denk er zo over: Zelfs als het woord voor "hartinfarct" veranderde van "Myocardial Infarction" in het oude boek naar "Acute Myocardial Infarction" in het nieuwe boek, bleef de beschrijving van de symptomen van de patiënt in de notities vergelijkbaar. Door zowel oude als nieuwe notities te lezen, leerde het model het verhaal van de ziekte te herkennen, waardoor het veel slimmer werd dan een model dat alleen de nieuwe notities las.

Samenvatting

Het artikel bewijst dat je oude medische data niet hoeft weg te gooien wanneer systemen worden bijgewerkt. Door oude en nieuwe dossiers te mengen, kun je één enkel, slimmer computermodel trainen dat beter is in het signaleren van zeldzame ziektes en niet kapotgaat wanneer het coderingssysteem verandert. Het verandert "verouderde" data in een waardevol trainingsinstrument.

Hier volgt een gedetailleerde technische samenvatting van het artikel "Bridging the Version Gap: Multi-version Training Improves ICD Code Prediction, Especially for Rare Codes."

Probleemstelling

Het artikel adresseert twee kritieke uitdagingen in geautomatiseerde International Classification of Diseases (ICD)-codering:

Versie-evolutie: ICD-systemen ondergaan continue updates (bijvoorbeeld van ICD-9 naar ICD-10, en de aankomende ICD-11). Modellen die zijn getraind op een specifieke versie met een vaste labelruimte, hebben moeite om met deze verschuivingen om te gaan, wat leidt tot mismatches in de data-distributie wanneer nieuwe versies worden geadopteerd.
Langstaart-distributie: De distributie van ICD-codes is sterk scheef. In datasets zoals MIMIC-IV vormen zeldzame codes (die minder dan 10 keer voorkomen) ongeveer 70% van de totale code-set (18.000 van de 26.000 codes). Huidige modellen presteren vaak ondermaats op deze zeldzame codes vanwege onvoldoende trainingsvoorbeelden, wat een knelpunt vormt voor robuuste, implementeerbare systemen.

Een belangrijke vraag blijft onontgonnen: Is het levensvatbaar om data die is geannoteerd in verschillende ICD-versies te combineren (bijvoorbeeld het mengen van ICD-9 en ICD-10) om een enkel, versie-onafhankelijk model te trainen, of introduceert de terminologische mismatch ruis die de prestaties schaadt?

Methodologie

De auteurs stellen een multi-versie trainingsbenadering voor met een gewijzigd Label-Wise Attention (LWA)-model genaamd DUALLAAT (Dual Label-wise Attention).

Modelarchitectuur:
- Dubbele Encoders: In tegenstelling tot standaard LWA-modellen die alleen klinische notities coderen, maakt DUALLAAT gebruik van twee tekst-encoders: één voor klinische notities en een aparte voor ICD-codebeschrijvingen.
- Code-embeddings: In plaats van vaste embeddings voor codes te gebruiken, genereert het model code-embeddings dynamisch vanuit de tekstuele beschrijvingen van de ICD-codes. Dit stelt het model in staat om codes uit verschillende versies (ICD-9 of ICD-10) te verwerken, zolang ze maar als tekststrings worden aangeleverd.
- Attention-mechanisme: Het model gebruikt label-wise attention om relevante tokens in de klinische notitie af te stemmen op de specifieke codebeschrijving, waarbij een waarschijnlijkheidsmatrix wordt gegenereerd voor $N$ notities en $C$ codes.
- Varianten: De auteurs testten twee encoder-configuraties: DUALLAATcnn (met een basis-CNN) en DUALLAAT (met een RNN/GRU).
Data-strategie:
- Datasets: De studie gebruikte drie van MIMIC afgeleide datasets: MIMIC-III (ICD-9), MIMIC-IV (ICD-9) en MIMIC-IV (ICD-10).
- Uitbreiding van de labelruimte: De auteurs extraheren alle codes opnieuw uit MIMIC om zeldzame codes (frequentie < 10) op te nemen, waardoor de ICD-10 labelruimte werd uitgebreid van 8.000 (frequente) naar 26.000 (volledige set).
- Trainingsprocedure: De trainingssets van alle drie de datasets werden geaggregeerd. Om batch-training met gemengde versies te hanteren, implementeerden de auteurs een sampler die garandeert dat elke batch slechts één ICD-versie bevat (ofwel ICD-9 ofwel ICD-10), terwijl batches van verschillende versies tijdens het trainingsproces worden geschud. Dit stabiliseert de grootte van de labelruimte terwijl het model wordt blootgesteld aan multi-versie data.
Benchmarks:
- PLM-ICD: Een sterke benchmark die in-domein BERT gebruikt met schuifvensters en LWA.
- CoRelation: Een model dat bipartiete grafen gebruikt om relaties tussen codes te modelleren.
- CAML & LAAT: Eerdere op CNN en RNN gebaseerde LWA-modellen.

Belangrijkste Resultaten

De experimenten toonden aan dat het mengen van ICD-9-data in ICD-10-training aanzienlijke verbeteringen oplevert, met name voor zeldzame codes.

Prestaties voor zeldzame codes (ICD-10):
- Het toevoegen van ICD-9-data aan de trainingsset resulteerde in een relatieve toename van 27,4% in Micro F1 voor 18.000 zeldzame ICD-10-codes (een verbetering van 8,4 naar 10,7) in vergelijking met training op alleen ICD-10-data.
- Deze verbetering werd bereikt met een aanzienlijk kleiner model (37M parameters voor DUALLAAT versus 137M voor PLM-ICD).
Prestaties voor frequente codes:
- Voor de 8.000 frequente ICD-10-codes verbeterde multi-versie training de Macro F1-score met ongeveer 7% (van 27,9 naar 29,9).
- De gemengd-getrainde DUALLAAT behaalde vergelijkbare of superieure prestaties ten opzichte van PLM-ICD en CoRelation op volledige code-sets, met opmerkelijk hogere Macro F1-scores (11,2 versus 6,3 voor CoRelation), wat wijst op betere robuustheid over de langstaart heen.
Efficiëntie:
- Parameter-efficiëntie: Een enkel DUALLAAT-model getraind op gemengde data kan meerdere ICD-versies hanteren, terwijl er voor elke versie aparte PLM-ICD-modellen nodig zouden zijn.
- Trainingstijd: De gemengde-data DUALLAAT convergeerde in ongeveer 18 uur (57 uur voor de volledige gemengde dataset), aanzienlijk sneller dan de 95 uur die nodig waren om drie aparte PLM-ICD-modellen te trainen voor de drie benchmarks.

Betekenis en Claims

Het artikel stelt dat het combineren van multi-versie datasets een synergetisch effect creëert voor ICD-codering, wat de aanname uitdaagt dat versiemismatches per definitie schadelijke ruis introduceren.

Gedeelde semantiek boven directe overlap: De auteurs merken op dat slechts ongeveer 24,3% van de ICD-9-codes exacte overeenkomsten heeft in ICD-10. De waargenomen prestatiewinst suggereert dat de voordelen voortkomen uit het leren van gedeelde klinische semantiek over versies heen in plaats van directe label-overlap.
Benutting van legacy-data: De studie toont aan dat legacy-patiëntregistraties (bijvoorbeeld ICD-9) effectief kunnen worden ingezet om robuustere modellen te trainen voor huidige systemen (ICD-10), wat potentieel koude-startproblemen voor toekomstige versies (ICD-11) kan oplossen.
Data versus architectuur: De bevindingen suggereren dat het vergroten van de diversiteit van trainingsdata (via multi-versie-menging) even impactvol kan zijn als architecturale verbeteringen, welke de primaire focus zijn geweest van recente literatuur.
Praktische implementatie: De benadering biedt een efficiëntere oplossing voor settings met beperkte middelen door het aantal benodigde modelparameters en de trainingstijd te verminderen, terwijl hoge prestaties over verschillende ICD-versies worden behouden.

De auteurs concluderen dat hoewel hun studie beperkt is tot MIMIC-datasets en Engelse ICD-CM, de principes van multi-versie training een veelbelovende richting bieden voor het schalen van ICD-coderingsonderzoek en het hanteren van voortdurende systeemwijzigingen.