Technische Samenvatting: DisMix – Order-Aware Mixup voor Medische Beeldvorming via Ontwarring van Ordinale en Niet-Ordinale Kenmerken

Probleemstelling

Standaard image mixup augmentatie, een techniek die breed wordt gebruikt om de generalisatie in deep learning te verbeteren door het genereren van tussenliggende monsters, is fundamenteel ongeschikt voor ordinale classificatietaken die veel voorkomen in medische beeldvorming (bijv. de ernstgradatie van ziekten). In deze domeinen vertegenwoordigen labels een progressie van ernst (bijv. de Kellgren–Lawrence schaal 0–4) in plaats van discrete, onafhankelijke categorieën.

Conventionele mixup-strategieën mengen willekeurig twee verschillende soorten kenmerken:

1. Ordinale kenmerken: Aanwijzingen die de rang of ernst definiëren (bijv. laesiegrootte, vernauwing van de gewrichtsspleet).
2. Niet-ordinale kenmerken: Verschillende aspecten op uiterlijk niveau die niet gerelateerd zijn aan de ernst (bijv. beeldvormingsartefacten, achtergrond, verschillen in kleuring).

Deze verstrengde menging corrumpeert de onderliggende ordinale structuur. Zoals in het artikel wordt aangetoond, produceert standaard mixing monsters met biologisch onwaarschijnlijke structuren (bijv. gedisoriënteerde kniegewrichtsspleten of meerdere optische schijven) en verstoort het de feature-distributie, waardoor monsters van verschillende rangen verstrengeld raken. Deze foutmodus belemmert het leren van robuuste ordinale classifiers, met name in de aanwezigheid van gradatievariabiliteit (meningsverschillen tussen annotatoren).

Methodologie: DisMix

Om de incompatibiliteit tussen conventionele mixup en ordinaal leren aan te pakken, stellen de auteurs DisMix voor, een order-bewuste mixup-framework. De kerninnovatie is de expliciete ontwarring (disentanglement) van ordinale en niet-ordinale kenmerken in afzonderlijke latente subruimten voordat de mixing plaatsvindt.

1. Ontwarrend Representatie-leren

DisMix maakt gebruik van een dual-codebook Vector Quantized Variational Autoencoder (VQ-VAE) om invoerbeelden te factoriseren in twee afzonderlijke latente componenten:

• Ordinaal Latent ($z_o$): Legt de rangbepalende structuur vast.
• Niet-ordinaal Latent ($z_n$): Codeert rang-onafhankelijke variaties (uiterlijk).

De architectuur wordt geoptimaliseerd met behulp van de volgende mechanismen:

• Ordinale tak: De encoder-features worden geconditioneerd op ordinale zachte labels (afgeleid van meerdere annotatoren) om de representatie te sturen naar rang-semantiek. Een attention-gebaseerde quantizer selecteert discrete codes uit een ordinale codebook ($M_o$). Een hulp-lineaire classifier dwingt af dat $z_o$ ordinale informatie behoudt via een Soft Ordinal Regression (SOR) loss.
• Niet-ordinale tak: Om ordinale informatie te onderdrukken, maakt deze tak gebruik van een adversariële doelstelling. Een lineaire classifier probeert de rang te voorspellen vanuit $z_n$, maar de gradiënten hiervan worden omgekeerd via een Gradient Reversal Layer (GRL). Dit dwingt de niet-ordinale quantizer om rang-gevoelige signalen te verwerpen.
• Ontwarrings-regularisatie: De cosinus-gelijkenis tussen de twee latente representaties wordt geminimaliseerd om ervoor te zorgen dat de subruimten onderscheidend blijven.
• Adversariële training: Een multi-task discriminator waarborgt de perceptuele realiteit en de ordinale consistentie van de gereconstrueerde beelden.

2. Order-Bewuste Mixup-policies

Zodra de VQ-VAE is getraind en bevroren, genereert DisMix geaugmenteerde monsters door de latente codes onafhankelijk te manipuleren. Het artikel definieert vier mixing-policies (Tabel 1):

• Ordinal Mix: Interpoleert ordinale codes ($\tilde{z}_o = \lambda z_o^i + (1-\lambda)z_o^j$) terwijl de niet-ordinale codes vast blijven staan. Dit genereert tussenliggende rangen met zachte labels.
• Non-Ordinal Mix: Interpoleert niet-ordinale codes terwijl de ordinale code (en daarmee de rang-label) vast blijft staan. Dit introduceert variatie in het uiterlijk zonder de ernst te veranderen.
• Order Swap: Wisselt de ordinale en de niet-ordinale codes tussen twee monsters uit.
• Generate & Mix: Genereert een variant met een aangrenzende rang van een ankerbeeld door de ordinale code te conditioneren op een nieuwe rang, en past vervolgens Ordinal Mix toe.

Deze policies maken gecontroleerde augmentatie mogelijk die het ordinale manifold respecteert terwijl de diversiteit in uiterlijk wordt vergroot.

Belangrijkste Bijdragen

1. DisMix Framework: Introductie van een order-bewuste mixup-methode die ordinale en niet-ordinale kenmerken ontwarrt in afzonderlijke latente subruimten, wat de synthese van orde-consistente geaugmenteerde monsters mogelijk maakt.
2. Ontwarrende Latente Policies: Voorstel van specifieke mixing-strategieën (Ordinal Mix, Non-Ordinal Mix, Order Swap, Generate & Mix) die afzonderlijk opereren op de ontwarrende subruimten om de corruptie van ordinale signalen te voorkomen.
3. Uitgebreide Evaluatie: Uitgebreide benchmarking over vier medische beeldvormingsdatasets (Knie Osteoartritis, Diabetische Retinopathie, Colorectale Histopathologie, Prostaat Histopathologie) tegen zes state-of-the-art mixup baselines en zes ordinale classifiers.

Experimentele Resultaten

De auteurs evalueerden DisMix over 24 combinaties van mixup-methoden en ordinale classifiers. Belangrijkste bevindingen zijn:

• Geaggregeerde Prestaties: DisMix behaalde de beste nauwkeurigheid in 20 van de 24 settings en de beste Mean Absolute Error (MAE) in 15 van de 24 settings.
• Statistische Significantie: Vergeleken met de sterkste baseline leverde DisMix statistisch significante geaggregeerde nauwkeurigheidswinsten op (eenzijdige Wilcoxon signed-rank test, $p = 0.0075$) en verminderde de MAE met 4–6%.
• Dataschaarste: Onder dataschaarste (training op slechts 10% van de monsters per klasse) presteerde DisMix beter dan de baselines, waarbij de nauwkeurigheid op de IDRID-dataset met ongeveer 1,5% verbeterde met minimale trainingsdata.
• Robuustheid tegen Gradatievariabiliteit: DisMix bleef effectief bij hoge gradatievariabiliteit (tot 70% onenigheid), terwijl andere methoden last hadden van prestatievermindering, vooral bij hoge mixing-kansen.
• Reductie van Boundary Errors: DisMix bereikte consequent de laagste fouten op grensniveau (bijv. het reduceren van C2↔C3 fouten met 9% op IDRID vergeleken met de beste baseline).
• Kwalitatieve Analyse: Visualisaties bevestigden dat DisMix biologisch plausibele transities produceert (bijv. donkere laesies, vernauwde gewrichtsspleten) terwijl niet-ordinale attributen behouden blijven, terwijl andere methoden vaak anatomisch inconsistente artefacten genereerden.

Betekenis en Claims

Het artikel betoogt dat de fundamentele incompatibiliteit tussen conventionele mixup en ordinaal leren voortkomt uit de verstrengeling van rangbepalende kenmerken met irrelevante variaties in het uiterlijk. Door deze factoren te ontwarren, maakt DisMix gecontroleerde mixing mogelijk die de onderliggende ordinale geometrie respecteert.

De auteurs beweren dat DisMix de noodzaak van order-bewuste mixing voor ordinale data aantoont. In tegenstelling tot eerdere methoden die ofwel labels corrumperen of augmentatie onderbenutten door uiterlijke aanwijzingen te negeren, biedt DisMix een mechanisme om de labelgetrouwheid te bewaren terwijl de semantische diversiteit wordt vergroot. De resultaten onderstrepen dat ontwarrings-gebaseerde methoden een veelbelovende richting zijn voor robuust ordinaal leren in de medische beeldvorming, met name in scenario's met gradatievariabiliteit en beperkte data.

Het artikel hanteert een bescheiden standpunt met betrekking tot de reikwijdte, waarbij wordt opgemerkt dat de gegenereerde beelden bedoeld zijn voor data-augmentatie en niet voor directe klinische interpretatie, en dat de geïntrapoleerde rangen dienen als zachte supervisie in plaats van nieuwe klinisch gedefinieerde graden. Daarnaast erkennen de auteurs de computationele overhead bij het trainen van de ontwarrende representatie, hoewel zij opmerken dat dit een eenmalige kostenpost per dataset is die wordt afgeschreven over de downstream taken.