Technische Samenvatting: Progressieve J-Invariante Zelftoezicht-Learning voor Ruisonderdrukking bij Laag-dosis CT

Probleemstelling

Laag-dosis computertomografie (LDCT) is cruciaal voor het verminderen van blootstelling aan straling in klinische settings zoals kankerscreening en detectie van pulmonale knopen. De verlaagde stralingsdosis introduceert echter inherent aanzienlijke ruis en artefacten, wat de beeldhelderheid en de diagnostische zekerheid in gevaar brengt. Hoewel toezicht-gebaseerde deep learning-methoden (zoals U-Net, RED-CNN) sterke prestaties in ruisonderdrukking hebben bereikt, zijn ze sterk afhankelijk van gekoppelde normale-dosis CT (NDCT) en LDCT-data, die vaak schaars zijn of onmogelijk te verkrijgen zijn vanwege ethische en stralingsbeperkingen.

Bestaande alternatieven voor zelftoezicht, met name "blind-spot"-methoden zoals Noise2Void en Noise2Self, proberen de behoefte aan schone doelen te elimineren door conditionele onafhankelijkheid (J-invariantie) af te dwingen, waarbij de voorspelling van een pixel onafhankelijk is van zijn eigen ruizige waarneming. Deze conventionele benaderingen lijden echter aan twee primaire beperkingen:

1. Onderwijsinefficiëntie: Ze leggen doorgaans conditionele onafhankelijkheid op in één stap met beperkte receptieve velden, wat leidt tot suboptimale learning van structurele details.
2. Overfitting en Instabiliteit: Zonder schone referenties zijn deze modellen vatbaar voor overfitting op de ruis of falen ze om robuuste contextuele kenmerken te leren, vooral gezien de complexe, niet-Gaussische en ruimtelijk gecorreleerde ruiskenmerken van LDCT (wat verschilt van de additieve ruismodellen die vaak worden aangenomen bij ruisonderdrukking van natuurlijke afbeeldingen).

Methodologie

De auteurs stellen Progressieve J-Invariante Learning (PJSL) voor, een nieuw zelftoezicht-framework dat is ontworpen om LDCT-ruisonderdrukking te verbeteren door de bruikbaarheid van de J-invariante eigenschap te maximaliseren via een meerstaps trainingsproces.

Kernmechanisme

De methode herformuleert de taak van ruisonderdrukking als een temporair progressief proces in plaats van een eenstaps-mapping.

• Stapsgewijze Blind-Spot Ruisonderdrukking: In plaats van één doorvoer, werkt het netwerk over $K$ tijdstappen. Bij elke stap $t$ dient de gedenoiste output $\hat{x}_t$ als input voor de volgende stap $\hat{x}_{t+1}$.
• Progressieve Maskering: Om J-invariantie af te dwingen, wordt een willekeurige binaire masker $M$ toegepast op de input bij elke tijdstap. Dit masker wordt toegepast op de ruwe LDCT-input of de intermediaire gedenoiste output. Deze strategie behandelt progressieve ruisonderdrukkingsstadia als "geleidelijk-versterkte data-augmentatie", waardoor het netwerk structurele details stapsgewijs kan verfijnen en contextuele informatie over meerdere stappen kan aggregeren.
• Gereguleerde Ruisinjectie: Om overfitting te voorkomen en het leren van pixelcorrelaties te verbeteren, injecteren de auteurs gecontroleerde zero-mean additieve witte Gaussische ruis (AWGN) in zowel de input als het doel tijdens het trainen. Theoretische analyse suggereert dat het minimaliseren van het verlies tussen ruizige inputs en ruizige doelen (waarbij ruis onafhankelijk en zero-mean is) indirect het toezicht-gebaseerde verlies minimaliseert tussen de netwerkoutput en de schone ground truth.

Training en Inferentie

• Training: Eén model wordt getraind over verschillende tijdstappen met variërende willekeurige maskers. De verliesfunctie minimaliseert het verschil tussen de gemaskerde, met ruis verstoorte input en de met ruis verstoorde doel.
• Inferentie: Tijdens het testen worden $k$ verschillend gemaskerde versies van dezelfde LDCT-afbeelding ingevoerd in het getrainde model. De uiteindelijke gedenoiste afbeelding wordt verkregen door het middelen van de corresponderende outputs, waarbij het ensemble-effect wordt benut om het resultaat te stabiliseren.

Belangrijkste Bijdragen

1. Progressieve J-Invariante Strategie: Het paper introduceert een stapsgewijze maskering- en ruisonderdrukkingsmechanisme dat de trainingsinefficiënties van conventionele blind-spot-methoden overwint. Door progressief conditionele onafhankelijkheid af te dwingen, leert het model fijnkorrelige anatomische structuren effectiever te herstellen.
2. Op Ruis Gebaseerde Regularisatie: De auteurs injecteren expliciet gecontroleerde Gaussische ruis in zowel inputs als doelen. Dit dient als een regularisatiemechanisme dat overfitting mitigeert en de robuustheid van het zelftoezicht-leringsproces verbetert zonder de J-invariante aannames te schenden.
3. Architectuur-onafhankelijke Prestaties: De voorgestelde strategie wordt aangetoond compatibel te zijn met diverse backbone-architecturen (U-Net, Swin-Unet, RED-CNN), waardoor consistente verbeteringen worden geboden over verschillende netwerkontwerpen.
4. Theoretische Rechtvaardiging: Het paper biedt een theoretische afleiding die aantoont dat de voorgestelde ruisinjectie en progressieve verliesformulering overeenkomen met het doel om het toezicht-gebaseerde verlies te minimaliseren, zelfs bij afwezigheid van schone NDCT-doelen.

Experimentele Resultaten

Uitgebreide experimenten werden uitgevoerd op het Mayo LDCT Grand Challenge-dataset, waarbij 27 patiënten werden gebruikt voor training en 9 voor evaluatie (zorgend voor scheiding op subjectniveau).

• Kwantitatieve Prestaties: De voorgestelde methode (PJSL) presteerde consistent beter dan bestaande zelftoezicht-benaderingen (Noise2Void, Neighbor2Neighbor, BM3D) over alle metrieken (PSNR, SSIM, RMSE).
  • Op het abdominale dataset bereikte PJSL met een U-Net backbone een PSNR van 31,510 dB, wat de toezicht-gebaseerde RED-CNN (31,748 dB) overtrof en aanzienlijk beter presteerde dan andere zelftoezicht-methoden.
  • Op de uitdagendere borstkas-dataset bereikte PJSL een PSNR van 18,131 dB, wat beter was dan de toezicht-gebaseerde RED-CNN (19,792 dB) en zelftoezicht-baselines.
• Vergelijking met Toezicht-gebaseerde Methoden: PJSL behaalde prestaties die vergelijkbaar waren met, en in sommige gevallen superieur aan, representatieve toezicht-gebaseerde methoden (zoals CycleGAN, RED-CNN) zonder gekoppelde NDCT-data te vereisen.
• Ablatiestudies:
  • Tijdstappen ($k$): De prestaties verbeterden naarmate $k$ toenam van 1 tot 5, met een optimum bij $k=5$. Verdere toenames leidden tot degradatie door foutopstapeling.
  • Ruisinjectie: Het combineren van progressieve maskering met ruisinjectie leverde de beste resultaten op, wat bevestigt dat ruisinjectie overfitting voorkomt die wordt veroorzaakt door hoge gelijkenis tussen input en doel.
  • Masker Ratio ($\alpha$): Een optimale masker ratio van 0,1 werd geïdentificeerd; lagere ratios boden zwak toezicht, terwijl hogere ratios te veel contextuele informatie verwijderden.

Betekenis en Claims

Het paper beweert dat Progressieve J-Invariante Learning de prestatiekloof tussen zelftoezicht- en toezicht-gebaseerde ruisonderdrukkingsmethoden aanzienlijk verkleint zonder de modelcomplexiteit te verhogen. Door de trainingsinefficiënties van traditionele blind-spot-netwerken en de overfittingproblemen inherent aan zelftoezicht-lering aan te pakken, maakt de methode hoogwaardige LDCT-ruisonderdrukking mogelijk in scenario's waar gekoppelde schone data niet beschikbaar is.

De auteurs benadrukken dat hun benadering de restrictieve aannames van Noise2Noise (vereisen van gekoppelde ruizige waarnemingen) en de beperkingen van data-schaarste van toezicht-gebaseerd lerings loslaat. Ze positioneren de methode als een praktische oplossing voor klinische omgevingen waar het verkrijgen van NDCT-LDCT-paren niet haalbaar is, en bieden een robuust, architectuur-onafhankelijk framework dat ruisonderdrukking in evenwicht brengt met het behoud van kritieke anatomische details. Het werk sluit af met het noemen van beperkingen met betrekking tot foutopstapeling in diepe progressieve stappen en de huidige beperking tot het LDCT-dataset, wat toekomstige uitbreidingen suggereert naar andere beeldvormingsmodaliteiten zoals LDPET.