PyRadiomics-cuda: 3D features extraction from medical images for HPC using GPU acceleration

PyRadiomics-cuda is een GPU-versnelde extensie van de PyRadiomics-bibliotheek die de extractie van driedimensionale vormen uit medische afbeeldingen aanzienlijk versnelt, volledig compatibel blijft met de bestaande API en zich bewezen heeft op uiteenlopende hardware van thuiscomputers tot HPC-clusters.

De kern

De "Superkracht" voor Medische Beelden: PyRadiomics-cuda

Stel je voor dat artsen en onderzoekers duizenden 3D-scanfoto's van patiënten (zoals hersenen of longen) hebben. Ze willen deze scans analyseren om kanker of andere ziektes te vinden. Om dit te doen, gebruiken ze een digitale "schrijnwerker" genaamd PyRadiomics. Deze schrijnwerker meet de vorm van de organen: hoe groot is het? Hoeveel oppervlak heeft het? Hoe breed is het op zijn breedste punt?

Het probleem? Voor grote, gedetailleerde scans is deze schrijnwerker ontzettend traag. Het is alsof je probeert een heel huis te bouwen met een lepeltje in plaats van een hamer. Voor één scan kan het uren duren, en als je 40.000 scans hebt (zoals in dit onderzoek), duurt het jaren.

De Oplossing: Een Raketmotor voor je Computer

De auteurs van dit paper, een team van de Technische Universiteit Warschau, hebben een oplossing bedacht: PyRadiomics-cuda.

Stel je PyRadiomics-cuda voor als een superkrachtige raketmotor die je aan die trage schrijnwerker plakt. In plaats van dat één persoon (de CPU van je computer) alle metingen één voor één doet, zet deze nieuwe software duizenden kleine robots (de GPU-cores van je videokaart) aan het werk.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het "Marching Cubes" Avontuur

De eerste stap is het maken van een 3D-model van het orgaan uit de scan. De oude software deed dit door elke kleine blok (voxel) in de scan één voor één te controleren: "Is dit deel van het orgaan of niet?"

• De oude manier: Een enkele postbode die bij elke deur in een heel dorp langsgaat om te kijken of er iemand thuis is.
• De nieuwe manier (PyRadiomics-cuda): Een heel leger postbodes dat tegelijkertijd bij elke deur in het dorp staat. Ze werken in parallel. Wat er normaal uren duurt, is nu in een flits klaar.

2. De "Afstandsrekenmachine"

De moeilijkste en langzaamste taak is het berekenen van de maximale breedte (diameter) van het orgaan. De oude software moest elke mogelijke combinatie van punten met elkaar vergelijken.

• De analogie: Stel je voor dat je in een volle zaal met 10.000 mensen staat en je moet uitrekenen wie het verst van elkaar verwijderd staat. De oude software liet één persoon elke paar mensen meten.
• De nieuwe manier: Je deelt de zaal in stukken op. Elke robot op de videokaart meet een klein groepje mensen tegelijk. Aan het einde worden de resultaten samengevoegd. Dit gaat honderden keren sneller.

3. Geen Nieuwe Regels, Gewoon Sneller

Een van de grootste troeven is dat je niets hoeft te veranderen aan je bestaande werk.

• Het is alsof je een oude, betrouwbare auto hebt. Je kunt er een nieuwe, krachtige motor in zetten, maar het stuur, de remmen en de versnellingen werken precies hetzelfde.
• De software is "slim": als je een krachtige videokaart hebt, gebruikt hij die automatisch. Heb je een oude computer zonder speciale kaart? Dan schakelt hij netjes terug naar de normale, langzamere manier. Je hoeft geen code te herschrijven.

Wat hebben ze ontdekt?

Ze hebben dit getest op drie soorten computers:

1. De "Formule 1" (H100 Supercomputer): Hier was de versnelling ongelooflijk. Soms wel 2000 keer sneller.
2. De "Standaard Auto" (Gaming PC): Ook hier een enorme winst, vaak 50 keer sneller.
3. De "Oude Bestelbus" (Budget GPU): Zelfs op een goedkope, oude videokaart was het 8 tot 24 keer sneller.

De Conclusie in het Kort
Vroeger duurde het analyseren van duizenden medische scans maanden of jaren. Met PyRadiomics-cuda duurt het dagen of zelfs uren. Dit betekent dat artsen en onderzoekers sneller nieuwe inzichten krijgen, goedkoper kunnen werken (want ze hoeven minder dure computerkracht te huren) en dat we sneller betere behandelingen kunnen vinden voor patiënten.

Het is een voorbeeld van hoe je bestaande technologie kunt "turbo-chargen" door slimme gebruik te maken van de krachtige videokaarten die we al in onze computers hebben.

Technische samenvatting

Titel: PyRadiomics-cuda: Versnelling van 3D-kenmerkextractie uit medische beelden voor HPC met GPU-acceleratie

Auteurs: Jakub Lisowski, Piotr Tyrakowski, Szymon Zyguła, en Krzysztof Kaczmarski (Technische Universiteit Warschau).

---

1. Het Probleem

Radiomics is een proces waarbij numerieke kenmerken uit medische beelden (zoals CT, MRI en PET) worden gehaald om voorspellende modellen te bouwen voor kankerdiagnose en behandelingsrespons. De bibliotheek PyRadiomics is de industriestandaard voor deze taak.

Echter, er is een significant computatief probleem:

• Bottleneck bij 3D-vormkenmerken: Het extraheren van geometrische kenmerken (zoals mesh-volume, oppervlakte en maximale 3D-diameter) is extreem rekenintensief.
• Complexiteit: Voor grote regio's van interesse (ROI) kunnen diameterberekeningen een complexiteit van $O(m^2)$ hebben, waarbij $m$ het aantal voxels is.
• Schaalbaarheid: In grote datasets kan PyRadiomics tot 99,9% van de verwerkingstijd besteden aan het berekenen van diameters. Dit beperkt de schaalbaarheid van AI-workflows, vooral bij grote datasets (bijv. duizenden scans).
• Bestaande oplossingen: Eerdere pogingen om GPU-acceleratie toe te passen (zoals experimentele forks of cuRadiomics) misten vaak volledige API-compatibiliteit met PyRadiomics, ondersteunden niet alle kenmerkclasses (vooral geen geometrie), of waren niet langer onderhouden.

2. Methodologie

De auteurs hebben PyRadiomics-cuda ontwikkeld, een GPU-versnelde extensie die de originele PyRadiomics-API volledig behoudt.

Kernarchitectuur en Implementatie:

• Compatibiliteit: De integratie is "transparant". Via een build-time injectie mechanisme wordt de CPU-functie voor vormberekening vervangen door een dispatcher. Deze dispatcher detecteert runtime of een CUDA-apparaat beschikbaar is. Zo ja, wordt de berekening naar de GPU verplaatst; zo nee, valt het systeem terug op de CPU-implementatie zonder dat de gebruiker code hoeft aan te passen.
• Algoritme-optimalisatie: De focus ligt op twee stappen binnen de vormkenmerk-extractie:
  1. Mesh Generatie (Marching Cubes): Een brute-force benadering wordt vervangen door een parallelle kernel. Elke voxel wordt door een aparte thread verwerkt. Als een isovlak de voxel doorkruist, worden driehoeken gegenereerd en worden volume/oppervlakte bijgewerkt.
  2. Diameter Berekening: Het vinden van de verste paren punten (maximale diameter) is een $O(n^2)$ probleem. Dit wordt parallelisatie opgelost waarbij threads subsets van puntparen berekenen en lokale maximumwaarden accumuleren, gevolgd door een reductie-operatie om het globale maximum te vinden.
• Geheugenoptimalisatie: Er wordt gebruikgemaakt van gedeeld geheugen (shared memory), gecoalesceerde geheugentoegangen en verschillende strategieën voor atomaire operaties om race conditions en latentie te minimaliseren.

Testomgeving:
De prestaties zijn getest op drie verschillende hardware-configuraties:

1. Modern Cluster: NVIDIA H100 (14.592 cores, 80GB VRAM).
2. Desktop: NVIDIA RTX 4070 (5.888 cores, 12GB VRAM).
3. Budget/Oud: NVIDIA T4 (2.560 cores, 16GB VRAM) op een oude server.
   Dataset: 20 samples uit de KITS19 (Kidney Tumor Segmentation Challenge), variërend van kleine tot zeer grote 3D-volumes (tot 236.588 vertices).

3. Belangrijkste Bijdragen

• API-Compatibiliteit: Het eerste systeem dat volledige backward-compatibiliteit biedt met PyRadiomics, waardoor het naadloos in bestaande AI-pipelines kan worden geïntegreerd zonder code-aanpassingen.
• Transparante Versnelling: Automatische detectie van GPU's met een elegante fallback naar CPU, wat de bruikbaarheid voor diverse gebruikersgroepen vergroot.
• Focus op Geometrie: In tegenstelling tot andere GPU-tools (zoals cuRadiomics) die zich voornamelijk richten op statistische of textuurkenmerken, lost PyRadiomics-cuda specifiek het probleem van 3D-geometrische berekeningen op.
• Open Source: De code is beschikbaar onder de BSD-licentie op GitHub.

4. Resultaten

De tests tonen aanzienlijke snelheidswinsten, afhankelijk van de datasetgrootte en de hardware:

• Snelheidswinst (Speedup):
  • Op budget hardware (T4): 8x tot 24x sneller dan CPU.
  • Op moderne hardware (H100/RTX 4070): Snelheidswinsten van 50x tot meer dan 2000x in vergelijking met de originele CPU-implementatie op een Intel Xeon.
  • Voor een dataset met ~236.000 vertices daalde de verwerkingstijd van 121 seconden (CPU) naar 59 milliseconden (H100).
• Optimalisatie Strategieën:
  • De beste strategie varieerde per GPU-architectuur. Voor de oudere T4 was "block-based reduction" het meest effectief. Voor de moderne H100 waren atomaire operaties zeer snel, maar vereisten ze zorgvuldig geheugentoegang. De RTX 4070 presteerde het beste met "local thread accumulators".
• Data-overdracht: De tijd die nodig is voor het overdragen van data van CPU naar GPU werd volledig gecompenseerd door de snellere verwerking. Er was geen prestatieverlies waargenomen, zelfs niet bij kleinere bestanden, hoewel bij zeer kleine bestanden de I/O-tijd (bestandslezen) de totale snelheid domineerde.
• Bottleneck Analyse: De analyse bevestigde dat diameterberekening de grootste bottleneck is (tot 99,9% van de tijd). Door dit te versnellen, wordt de totale workflow drastisch verbeterd.

5. Betekenis en Conclusie

PyRadiomics-cuda lost een kritieke schaalbaarheidsprobleem op in de biomedische beeldanalyse.

• Kostenreductie: Het maakt het mogelijk om duizenden scans (zoals in het xLUNGS-project met 40.000 long-CT scans) veel sneller te verwerken, wat leidt tot aanzienlijke besparingen in dure HPC-infrastructuur.
• Toegankelijkheid: Het democratiseert high-performance radiomics door het ook op betaalbare hardware (zoals desktops met budget GPU's) bruikbaar te maken.
• Toekomstperspectief: Het biedt een fundament voor verdere uitbreiding naar gedistribueerde en multi-modale workflows en ondersteunt reproduceerbaar onderzoek door de open-source aard.

Kortom, PyRadiomics-cuda combineert de kracht van GPU-acceleratie met de gebruiksgemak en compatibiliteit van een bewezen Python-bibliotheek, waardoor grote-scale radiomics-analyses nu haalbaar en efficiënt zijn.