Technische Samenvatting: Ontdekken van Latente Groepen voor Robuuste Classificatie via Neural Classification Trees (NCT)

1. Probleemstelling

Diepe neurale netwerken maken vaak gebruik van spuria-correlaties—kenmerken die gecorreleerd zijn met labels in de trainingsset maar die geen causale geldigheid missen—om een hoge gemiddelde nauwkeurigheid te bereiken. Dit gedrag leidt tot een onevenredige prestatieverslechtering op ondervertegenwoordigde subgroepen wanneer deze correlaties tijdens de testfase verschuiven (bijv. het classificeren van vogels op basis van de achtergrond in plaats van vogelkenmerken).

Bestaande methoden zoals Group Distributionally Robust Optimization (Group DRO) of pseudo-groep inferentie technieken (bijv. JTT, GEORGE) verbeteren de worst-group nauwkeurigheid, maar lijden aan een kritieke beperking: gebrek aan interpreteerbaarheid. Deze methoden passen netwerkparameters aan om bias te mitigeren, maar produceren bij inferentie slechts een klassevoorspelling. Ze onthullen niet naar welke latente subgroep een specifieke steekproef behoort, noch isoleren ze conflicterende kenmerken structureel. Bovs staat veel robuuste methoden afhankelijk van dure, fijnmazige groep-annotaties of validatie-groeplabels, die in de praktijk vaak niet beschikbaar zijn.

2. Methodologie: Neural Classification Trees (NCT)

De auteurs stellen Neural Classification Trees (NCT) voor, een framework dat de subgroepstructuur direct in de boomvormige architectuur van het model codeert. In plaats van tijdelijk gebruik te maken van moeilijkheidssignalen voor herweging, behoudt NCT de partitionering van de data als de inferentie-architectuur zelf.

Kernmechanisme

De methode werkt op de observatie dat trainingsmoeilijkheid een betrouwbare proxy is voor semantische groepsidentiteit. Steekproeven die in lijn zijn met spuria-correlaties zijn "makkelijk" te leren, terwijl tegenvoorbeelden (minderheidsgroepen) "moeilijk" zijn.

1. Iteratieve Routing:

   • Het proces begint met een standaard classificatiekop.
   • In elke iteratie $t$ worden steekproeven naar kindknopen gerouteerd op basis van de voorspellingscorrectheid ten opzichte van hun toegewezen knoop.
   • Easy Branch: Correct geclassificeerde steekproeven gaan naar de even genummerde kindknoop ($2j$).
   • Hard Branch: Misgeclassificeerde steekproeven gaan naar de oneven genummerde kindknoop ($2j+1$).
   • Deze routing is deterministisch en wordt gedreven door de trainingsdynamiek. De binaire reeks van routingbeslissingen ($d^{(1)}_i d^{(2)}_i \dots$) codeert de geschiedenis van de trainingsmoeilijkheid van de steekproef.

2. Hiërarchische Feature Architectuur:

   • NCT maakt gebruik van een gedeelde backbone $f_\theta$ en een hiërarchie van classificatiekoppen.
   • Feature Flow: In tegen tegenstelling tot standaard bomen die vorige lagen weggooien, behoudt NCT alle koppen van eerdere iteraties. Een kindknoop in iteratie $t$ ontvangt input van de representatie van de ouderknoop uit $t-1$, waardoor wordt gewaarborgd dat gespecialiseerde koppen opereren op features die geconditioneerd zijn door de ouder-semantiek.
   • Asymmetrische Capaciteit: Om de complexiteit van "harde" partities aan te kunnen, gebruiken harde kinderen een linear–ReLU–dropout blok, terwijl gemakkelijke kinderen een simpelere lineaire laag gebruiken.

3. Optimalisatie en Stabiliteit:

   • Auxiliary Loss: Om catastrofaal vergeten van ouder-representaties tijdens het trainen van kindknopen te voorkomen, wordt een hulpverlies (auxiliary loss) afgedwongen op ouderknopen tijdens de training van kinderen.
   • Two-Phase Training: Elke iteratie omvat het bevriezen van de backbone om nieuwe koppen aan te passen, gevolgd door het finetunen van het gehele netwerk om eerder onscheidbare harde knopen op te lossen.

4. Dieptecontrole (Ongesuperviseerd):

   • Omdat er geen groepslabels beschikbaar zijn, gebruikt NCT een Pseudo Worst-Group Accuracy (pWGA) criterium om te bepalen wanneer de boom dieper moet worden.
   • Het groepeert validatiesamples op basis van hun iteratie-2 voorouder en houdt de minimale nauwkeurigheid over deze groepen bij.
   • Een Wilson-tolerantie early-stopping grens zorgt ervoor dat de boom stopt met groeien wanneer de pWGA niet langer significant verbetert, wat overfitting aan ruis voorkomt.
   • Sparse-Node Merging: Harde kinderen met zeer weinig steekproeven worden samengevoegd met hun gemakkelijke broers/zussen om statistische betrouwbaarheid te behouden.

3. Belangrijkste Bijdragen

Het artikel schetst vier primaire bijdragen:

1. Architectuur als Partitie: In tegen tegenstelling tot eerder werk dat correctheidssignalen tijdelijk gebruikt voor herweging, behoudt NCT de moeilijkheid-gebaseerde partitie als de inferentie-architectuur. Elk blad codeert zowel de voorspelde klasse als het moeilijkheidspad, wat een transparante mapping biedt tussen architectuur en latente datastructuur.
2. Ongesuperviseerde Diepteselectie: De introductie van een pWGA-criterium met een Wilson-tolerantie grens stelt het model in staat om autonoom de optimale boomdiepte te bepalen zonder dat daar groepslabels voor nodig zijn.
3. Theoretische Motivatie:
   • Minderheid Herstel: De auteurs bewijzen (Theorema 4.2) dat onder een "simplicity bias" aanname (neurale netwerken leren eenvoudige kenmerken eerst), de set van misgeclassificeerde steekproeven in de eerste iteratie verrijkt is met minderheidsgroep-steekproeven.
   • Structurele Separatie: Ze demonstreren (Theorema 4.4) dat wanneer er feature-conflict bestaat (optimale hypothesen voor gemakkelijke en harde groepen verschillen), structurele separatie via aparte classifiers een positieve minimax-risk gap oplevert vergeleken met een enkele verenigde classifier.
4. Empirisch Bewijs: Experimenten op vijf benchmarks tonen aan dat NCT consistent minderheidsgroepen isoleert in "harde" takken terwijl het een concurrerende worst-group nauwkeurigheid behaalt ten opzichte van state-of-the-art baselines.

4. Experimentele Resultaten

De auteurs hebben NCT geëvalueerd op vijf benchmarks: Waterbirds (achtergrondbias), CelebA (demografische bias), ISIC (acquisitie-artefacten), UMNIST (digitale identiteitsbias) en CMNIST (kleurbias).

• Robuustheid: NCT bereikt een worst-group nauwkeurigheid (WGA) die concurrerend is met of superieur is aan sterke baselines. Met name op de ISIC-dataset leidt NCT over alle supervisieniveaus (inclusclusief Group DRO) ondanks het feit dat er geen trainingsgroeplabels worden gebruikt. Op Waterbirds en CelebA komt het overeen met of overtreft het marginaal gevalideerde methoden zoals JTT en DFR.
• Latente Groepontdekking: Kwantitatieve analyse van de "iteratie-2 capture rates" laat zien dat NCT erin slaagt minderheidsgroepen naar harde takken te routeren. Bijvoorbeeld:
  • Waterbirds: 82% van de minderheidsgroep "landbird-on-water" wordt gerouteerd naar de harde tak.
  • CelebA: 73% van de "blond-male" subgroep wordt gerouteerd naar de harde tak.
  • ISIC: 47% van de "benign-no-patch" subgroep wordt geïsoleerd in de harde tak.
• Interpreteerbaarheid: Kwalitatieve analyse met LayerGradCAM bevestigt dat "gemakkelijke" bladen vertrouwen op spuria-kenmerken (bijv. waterachtergrond, kleurvlakken), terwijl "harde" bladen de aandacht verleggen naar semantische kenmerken (bijv. vogellichaam, laesiegrenzen).

5. Betekenis en Claims

Het artikel positioneert NCT als een belangrijke stap richting transparante robuustheid. De primaire claim is dat de latente groepsstructuur van een dataset kan worden teruggevonden als de modelarchitectuur zelf, ontdekt zonder supervisie en zichtbaar gemaakt tijdens inferentie.

• Interpreteerbaarheid: In tegenstelling tot "black-box" robuuste optimizers, biedt NCT een structurele verklaring voor zijn voorspellingen. Het pad dat naar een blad leidt, geeft expliciet aan of een steekproef "gemakkelijk" was (waarschijnlijk in lijn met spuria-correlaties) of "moeilijk" (waarschijnlijk een minderheid of een tegenvoorbeeld).
• Bescheidenheid over Beperkingen: De auteurs erkennen dat routing afhankelijk is van de "simplicity bias" aanname; als minderheidskenmerken zelf gemakkelijk te leren zijn, kan de routing falen om ze te isoleren. Daarnaast hangt de diepte-selectieregel af van de pWGA-proxy die de ware WGA volgt, wat imperfect kan zijn onder extreme klasse-imbalans.
• Toekomstige Richtingen: Het artikel suggereert het uitbreiden van NCT naar taalinstellingen en het verkennen van rijkere routing-signalen buiten eenvoudige correctheid (bijv. gradiënt- of attributie-gebaseerde criteria).

Samenvattend biedt NCT een framework waarbij robuustheid niet alleen wordt bereikt door gewichten aan te passen, maar door de data architecturaal te deconstrueren in subgroepen, waardoor de behandeling van latente biases door het model expliciet en interpreteerbaar wordt gemaakt.