FreqFuseNet: Resolving Feature-Scale Mismatch in Dual-Frequency Fusion for Thin-Wall Head-and-Neck OAR Segmentation

Technische Samenvatting: FreqFuseNet voor de segmentatie van dunwandige OAR's in hoofd- en halsregio's

Probleemstelling
Nauwkeurige segmentatie van dunwandige organen-at-risk (OAR's)—specifiek de cochlea, de vestibulaire semicirculaire kanalen, het interne gehoorgang (IAC), de trommelholte en de middenoor—is cruciaal voor radiotherapieplanning in het hoofd- en halsgebied. Deze structuren, met wanddiktes van 0,5–2 mm en volumes onder de 1,5 cm³, bevinden zich vaak op de resolutiegrens van standaard klinische CT. Hoewel state-of-the-art ruimtelijke architecturen (bijv. 3D U-Net, MedNeXt) goed presteren op volumetrische context, hebben zij vaak moeite met de hoogfrequente grensovergangen die nodig zijn voor deze kleine structuren.

De auteurs onderzochten een dual-frequency fusie-aanpak die een ruimtelijke encoder combineert met frequentiedomein-takken (FFT en FcaNet). Zij identificeerden echter een kritieke foutmodus in de onderzochte FP16 (mixed-precision) trainingsinstelling: een ernstige feature-scale mismatch. De FFT-tak, geïnitialiseerd met kleine waarden voor numerieke stabiliteit, vertoonde een standaarddeviatie van de activatie ($\sigma_{FFT} \approx 0,0007$) die ongeveer 863 keer kleiner was dan die van de FcaNet-tak ($\sigma_{FcaNet} \approx 0,586$).

In een naïef residu-fusieontwerp ($F_{fused} = F_{FFT} + \beta F_{FcaNet}$) met een nominale coëfficiënt $\beta=0,05$, veroorzaakte deze schaaldispariteit dat de "residuele" FcaNet-term de fusie met een factor van ongeveer 43 domineerde ($\rho_{naive} \approx 43$). Dit keerde het beoogde ontwerp om (FFT-dominant met een kleine FcaNet-verfijning), waardoor de architectuur effectief een FcaNet-dominante model werd. Bovendien slaagden leerbare fusiegewichten onder FP16 autocast er niet in om zich aan te passen; ze bleven nabij hun initialisatie na 100 epochs, wat aangeeft dat optimalisatie alleen de mismatch niet kon overwinnen.

Methodologie: FreqFuseNet
Om dit op te lossen, stellen de auteurs FreqFuseNet voor, die schaal-genormaliseerde residu-fusie introduceert. Het kernmechanisme behelst het normaliseren van de FcaNet-tak om de FFT-activatiestatistieken te matchen voordat de residu-injectie plaatsvindt.

1. Schaalnormalisatie: De FcaNet-features worden geschaald met behulp van de ratio van de standaarddeviaties van de twee takken:
   $$\hat{F}_{FcaNet} = F_{FcaNet} \times \frac{\sigma_{FFT}}{\sigma_{FcaNet} + \epsilon}$$
   Dit zorgt ervoor dat de residu-tak opereert op dezelfde amplitude-schaal als de primaire FFT-tak.

2. Residu-injectie: De genormaliseerde features worden gefuseerd met een vaste, laag-amplitude coëfficiënt:
   $$F_{fused} = F_{FFT} + \beta \hat{F}_{FcaNet}, \quad \text{waarbij } \beta = 0,05$$
   Na normalisatie wordt de residu-magnitude ratio $\rho_{norm} \approx \beta = 0,05$, waardoor het beoogde ontwerp wordt hersteld waarbij FcaNet fungeert als een gekalibreerdeerde 5% verfijning in plaats van een dominante term.

3. Architectuur: Het model maakt gebruik van een 3D U-Net ruimtelijke encoder die een bottleneck voedt. De bottleneck wordt parallel verwerkt door een 3D real-valued FFT-tak en een DCT-gebaseerde FcaNet-tak. De schaal-genormaliseerde fusie wordt gevolgd door cross-domain aandacht en een adaptieve router (overgenomen van de eerdere AFS-DSN arbeid van de auteurs) om de uiteindelijke segmentatiemasker te produceren.

4. Trainingsprotocol: De methode werd geëvalueerd op de SegRap2023 benchmark met behulp van een gecontroleerd binair per-OAR crop-protocol (128×128×128 voxels) over 10 dunwandige OAR's. De training maakte gebruik van FP16 mixed-precision, AdamW optimizer, en een gecombineerde Dice + Cross-Entropy loss.

Belangrijkste Bijdragen

1. Identificatie van Feature-Scale Mismatch: De auteurs kwantificeren een ~863× activatie-schaaldispariteit in de FP16 FFT–FcaNet fusie, en tonen aan hoe een nominale 5% residu-coëfficiënt effectief een ~43× dominante term wordt, wat de architecturale intentie omkeert.
2. Analyse van Naïeve Fusie-falen: Zij formaliseren de residu-magnitude ratio ($\rho_{naive} \approx 43$) en leveren empirisch bewijs dat leerbare fusiegewichten onder deze mismatch in FP16-omgevingen niet convergeren naar betekenisvolle waarden.
3. Schaal-genormaliseerde Residu-fusie: Zij stellen FreqFuseNet voor, een enkelvoudige operatie-correctie die de residu-tak normaliseert naar de schaal van de primaire tak, waardoor een vaste $\beta=0,05$ kan fungeren als een interpreteerbare laag-amplitude coëfficiënt.
4. Prestatie-efficiëntie: De voorgestelde methode bereikt concurrerende prestaties met aanzienlijk minder parameters (29,7 M) vergeleken met een volledige wavelet-baseline (414,6 M).

Resultaten
Geëvalueerd op 180 binaire per-OAR testmonsters (18 gevallen × 10 OAR's) uit de SegRap2023-dataset:

• Primaire Metrieken (Seed 2): FreqFuseNet behaalde een Dice-score van 0,849, HD95 van 0,824 mm, en SDice@1mm van 0,959.
• Reproduceerbaarheid: Een onafhankelijke tweede seed leverde vergelijkbare resultaten op (Dice 0,843, HD95 0,823 mm).
• Vergelijkende Prestaties:
  • FreqFuseNet vertoonde statistisch significante case-level aggregatieverbeteringen ten opzichte van 3D U-Net (Wilcoxon $p < 0,01$) en MedNeXt-S (Wilcoxon $p < 0,05$) over Dice, HD95, en SDice@1mm.
  • Het presteerde beter dan de DWT-Full baseline (414,6 M parameters) terwijl het 92,8% minder parameters gebruikte.
  • Per-OAR analyse toonde consistente Dice-verbeteringen over alle 10 structuren, met de grootste winsten op de meest geometrisch complexe structuren (Trommelholte en IAC).
• Ablatie: De "FixedFusion" (naïeve fusie zonder normalisatie) presteerde slechter dan de FcaNet-alleen tak op HD95, wat het falen van naïeve fusie onder schaal mismatch bevestigt.

Betekenis en Claims
De paper claimt dat de primaire barrière voor effectieve dual-frequency fusie in deze context niet het gebrek aan informatieve frequentie-features is, maar de incompatibiliteit van activatieschalen, met name onder mixed-precision training.

De betekenis van FreqFuseNet ligt in:

• Herstel van het Ontwerp-intentie: Door schalen te normaliseren, zorgt de methode ervoor dat de residu-tak fungeert als een gekalibreerde verfijning, waardoor wordt voorkomen dat deze de primaire route overstemt.
• Grenssensitiviteit: De verbeteringen in HD95 en oppervlakte Dice (SDice) suggereren dat de FFT-dominante route, wanneer deze correct wordt gefuseerd met FcaNet, fijnmazige grensovergangen vastlegt die ruimtelijke convoluties missen, wat cruciaal is voor dunwandige OAR's.
• Parameter-efficiëntie: De methode demonstreert dat high-performance grensgevoelige segmentatie kan worden bereikt met een lichtgewicht architectuur (29,7 M parameters) vergeleken met zware wavelet-gebaseerde baselines.

De auteurs blijven bescheiden over klinische implementatie en merken op dat de studie beperkt is tot non-contrast CT, een specifiek binair crop-protocol, en een kleine testset (18 gevallen). Zij benadrukken dat hoewel de methode geometrische metrieken die relevant zijn voor dosimetrie verbetert, de directe klinische dosimetrische impact (dose-volume histogram analyse) nog in toekomstig werk gevalideerd moet worden.