Pediatric Bone Age Prediction Using Deep Learning

Technische Samenvatting: Voorspelling van de Botleeftijd bij Kinderen via Deep Learning

Probleemstelling
De voorspelling van de botleeftijd bij kinderen is een cruciale klinische taak die wordt gebruikt voor het diagnosticeren van endocriene stoornissen en het beoordelen van de groei en ontwikkeling van een kind. Traditioneel berust dit proces op handmatige radiologische analyse, waarbij experts röntgenfoto's van patiënten vergelijken met leeftijdsspecifieke atlassen of scoresystemen gebruiken. Deze conventionele methoden zijn arbeidsintensief, tijdrovend en gevoelig voor menselijke fouten. Hoewel geautomatiseerde oplossingen zoals BoneXpert bestaan, blijven uitdagingen bestaan met betrekking tot afbeeldingen van lage kwaliteit en de behoefte aan efficiëntere, nauwkeurigere computationele benaderingen. Dit artikel adresseert de behoefte aan een geautomatiseerde, hoogprecisie methode om de botleeftijd te schatten op basis van handröntgenfoto's.

Methodologie
De studie maakt gebruik van de RSNA Bone Age Assessment dataset, bestaande uit meer dan -12.000 handröntgenfoto's met bijbehorende leeftijd en geslachtsmeta-data. Het voorgestelde framework volgt een driefasige pijplijn:

1. Preprocessing: De ruwe röntgenfoto's ondergaan normalisatie, ruisonderdrukking en histogramequalisatie. Om variaties in beeldresolutie (variërend van 800 tot 2200 pixels) en grootte aan te pakken, worden de afbeeldingen geschaald en getransformeerd naar drie-kanaals inputs die geschikt zijn voor Convolutional Neural Networks (CNN's). Technieken voor data-augmentatie, inclusief rotatie, zoomen en spiegelen, worden toegepast om de dataset uit te breiden en onderfitting te voorkomen. De dataset is gesplitst in 70% voor training/validatie en 30% voor testen.
2. Kenmerkextractie en Modelarchitectuur: De kern van de aanpak maakt gebruik van variaties van de EfficientNet-architectuur, specif kindelijk EfficientNetB0 en EfficientNetB4, die zijn voorgetraind op ImageNet.
   • EfficientNetB0: Gebruikt als een compact basismodel met 5,3 miljoen parameters, waarbij gebruik wordt gemaakt van compound scaling om diepte, breedte en resolutie in balans te brengen.
   • EfficientNetB4: Een grotere variant die wordt gebruikt voor verbeterde kenmerkextractie.
   • EN-AA (EfficientNetB4 met Additive Attention): Een innovatieve adaptatie waarbij het Additive Attention-mechanisme, dat traditioneel wordt gebruikt in Natural Language Processing (NLP), is geïntegreerd in de EfficientNetB4-architectuur.
3. Modelintegratie: Het systeem verwerkt twee inputstromen:
   • Afbeeldingsstroom: De röntgenfoto (inputgrootte 256x256x1) gaat door de EfficientNet-backbone, wat resulteert in een afgeplatte vector die wordt verwerkt door dense lagen (128, 64, 32 neuronen).
   • Geslachtsstroom: Geslachtsinformatie wordt verwerkt via een aparte dense netwerk (64, 32 neuronen).
   • Concatenatie & Attention: De output-tensoren van beide stromen worden geconcateneerd. In het EN-AA-model wordt een Additive Attention-mechanisme toegepast op deze gecombineerde tensor om essentiële kenmerken selectief te benadrukken. De resulterende gewogen som wordt door aanvullende dense lagen (32, 16 neuronen) geleid voordat deze een finale lineaire outputlaag bereikt die de botleeftijd in maanden voorspelt.

Belangrijkste Bijdragen
Het artikel beschrijft drie primaire bijdragen:

• Toepassing van Voorgetrainde Modellen: Het onderzoekt de effectiviteit van voorgetrainde EfficientNet-modellen (B0 en B4) binnen het specifieke domein van de voorspelling van de botleeftijd bij kinderen, en demonstreert hun nut in medische beeldvorming.
• Vergelijkende Analyse: Het biedt een vergelijkende prestatieanalyse van verschillende EfficientNet-varianten, wat inzichten geeft in hoe de schaal van een model de nauwkeurigheid van de botleeftijd-schatting beïnvloedt.
• Innovatieve Adaptatie: Het introduceert de adaptatie van het Additive Attention-mechanisme aan het EfficientNetB4-model voor beeldregressie-taken, waardoor de verbeterde EN-AA-model is gecreëerd die is afgestemd op de eisen van medische beeldvorming.

Resultaten
De studie evalueerde de modellen met de RSNA-dataset, waarbij gebruik is gemaakt van transfer learning en hyperparameter-tuning.

• Prestatievergelijking: De resultaten wijzen uit dat EfficientNetB4 en het EN-AA-model beter presteren dan het basismodel EfficientNetB0. Het grotere B4-model en de aandacht-verbeterde variant vertoonden een superieure nauwkeurigheid in het voorspellen van botleeftijden die dichter bij de grondwaarheid liggen vergeleken met het kleinere B0-model.
• Specifieke Voorspellingen: Casestudies illustreerden dat terwijl B0 afwijkingen vertoonde (bijv. het voorspellen van 115,9 maanden voor een kind van 96 maanden oud), B4 en EN-AA veel dichter bij de werkelijke leeftijden voorspellingen leverden (bijv. het voorspellen van 15 maanden voor een kind van 17 maanden oud).
• Leercurves: De trainings- en validatieverliescurves voor EfficientNetB4 en EN-AA vertoonden een consistente daling over de epochs, wat bevestigt dat er effectief wordt geleerd zonder significante overfitting of onderfitting.

Betekenis en Claims
Het artikel claimt dat de voorgestelde Deep Learning-aanpak een effectievere en nauwkeurigere oplossing biedt voor de voorspelling van de botleeftijd bij kinderen vergeleken met handmatige methoden. Door het evenwicht tussen diepte, breedte en resolutie van EfficientNet te benutten en een aandachtmechanisme te integreren, demonstreert de studie een levensvatbaar pad naar geautomatiseerde, precieze botleeftijd-beoordeling. De auteurs positioneren dit werk als een stap naar het ondersteunen van de diagnose van pediatrische endocriene ziekten. Zij suggereren bescheiden dat toekomstig werk zich moet richten op het implementeren van geavanceerde EfficientNet-versies met gespecialiseerde aandachtmodules om regio's van belang beter te targeten, en het verlengen van de trainings-epochs om de modelnauwkeurigheid voor bredere klinische toepassing verder te verfijnen.