DeepHistoViT: An Interpretable Vision Transformer Framework for Histopathological Cancer Classification

Probleemstelling

De histopathologische analyse van weefselmonsters blijft de gouden standaard voor kankerdiagnose. Echter, de handmatige beoordeling door pathologen is tijdrovend, arbeidsintensief en vatbaar voor variatie tussen verschillende waarnemers (inter-observer variabiliteit). Hoewel diep leren, en specifiek Convolutionele Neurale Netwerken (CNN's), succesvol zijn toegepast voor automatische classificatie, hebben deze modellen beperkingen:

1. Lokale receptieve velden: CNN's worstelen met het vastleggen van lange-afstandsafhankelijkheden en globale contextuele relaties binnen een afbeelding, wat cruciaal is voor het begrijpen van complexe weefselstructuren.
2. Interpreteerbaarheid: Veel bestaande modellen fungeren als "black boxes", wat het vertrouwen van clinici belemmert. Er is een gebrek aan transparantie over welke delen van de afbeelding tot de diagnose leiden.
3. Generaliseerbaarheid: Modellen die op geaugmenteerde datasets zijn getraind, presteren vaak slecht op real-world klinische data met variaties in kleuring (staining) en scanner-eigenschappen.

Methodologie

De auteurs stellen DeepHistoViT voor, een op Vision Transformer (ViT) gebaseerd deep learning-framework dat is aangepast voor de classificatie van histopathologische afbeeldingen van verschillende kankertypes.

1. Architectuur:

• Backbone: Het model maakt gebruik van een aangepaste ViT-16 architectie (gebaseerd op ViT-base-patch16-224), vooraf getraind op ImageNet. In tegenstelling tot CNN's, verdeelt de ViT de afbeelding in patches en verwerkt deze als een sequentie via zelf-attentie (self-attention) lagen. Dit stelt het model in staat om globale contextuele relaties tussen ruimtelijk verwijderde gebieden in het weefsel te modelleren.
• Aangepaste Classificatiekop: De standaard lineaire classifier wordt vervangen door een meervoudige lagenstructuur (multi-layer classification head). Deze bestaat uit twee volledig verbonden lagen met progressieve dimensiereductie (768 → 512 → 256), gevolgd door batch normalisatie, ReLU-activering en instelbare dropout. Dit verbetert de aanpassing van de kenmerken aan het doel-domein.
• Finetuning-strategie: Om overfitting te voorkomen en de generalisatie te verbeteren, worden alleen de laatste twee transformer-encoderblokken "ontvrozen" (unfrozen) tijdens het trainen, terwijl de lagere lagen de algemene visuele representaties behouden.

2. Data Voorbereiding:

• Datasets: Het framework wordt geëvalueerd op drie publieke datasets:
  • Longkanker (LC25000): 3 klassen (adenocarcinoom, plaveiselcelcarcinoom, benign).
  • Darmkanker (LC25000): 2 klassen (adenocarcinoom, benign).
  • Acute Lymfoblastische Leukemie (ALL): 4 klassen (benign, Early Pre-B, Pre-B, Pro-B).
• Preprocessing: Afbeeldingen worden herschaald naar 224x224 pixels. Er wordt geen stain normalisatie (kleuringnormalisatie) of domeinharmonisatie toegepast. Dit is een bewuste keuze om de intrinsieke variabiliteit van klinische data te behouden en de robuustheid van het model te testen.
• Data Augmentatie: Tijdens training worden willekeurige crops, horizontale spiegelingen, rotaties (tot 20°) en kleurtrillingen toegepast.

3. Training:

• Het model wordt getraind met de Adam-optimizer en categorische cross-entropy verliesfunctie.
• Hyperparameters (leerfrequentie, weight decay, dropout, batch size) worden geoptimaliseerd via grid search.
• Er wordt gebruikgemaakt van stratified 5-voudige cross-validatie voor modelselectie en een strikt onafhankelijke testset (20%) voor de definitieve evaluatie.

Belangrijkste Bijdragen

1. DeepHistoViT Framework: Een specifiek ontworpen ViT-16 model dat effectief complexe weefselkenmerken vastlegt zonder de noodzaak van stain normalisatie.
2. Interpreteerbaarheid: Door het gebruik van de zelf-attentie-mechanismen van de transformer, kunnen attentiekarten (attention maps) worden gegenereerd. Deze visualiseren welke ruimtelijke gebieden in de histopathologische afbeelding het meest bijdragen aan de classificatie, waardoor pathologen het redeneringsproces van het model kunnen verifiëren.
3. State-of-the-Art Prestaties: Het model demonstreert consistent top-prestaties over drie zeer verschillende kankertypes, wat de generaliseerbaarheid van de architectie aantoont.

Resultaten

De experimentele resultaten tonen uitzonderlijke prestaties aan op alle drie de datasets, gemeten aan de hand van nauwkeurigheid, precisie, recall, F1-score en ROC-AUC (met 95% betrouwbaarheidsintervallen):

• Longkanker (LC25000): 100% nauwkeurigheid, 100% precisie, 100% recall en 100% F1-score.
• Darmkanker (LC25000): 100% nauwkeurigheid en 100% op alle andere metrieken.
• Acute Lymfoblastische Leukemie (ALL): 99,85% nauwkeurigheid, 99,87% precisie, 99,75% recall, 99,81% F1-score en een ROC-AUC van 99,99%.

Vergelijking: DeepHistoViT presteert gelijk aan of beter dan recente state-of-the-art modellen (zoals ML3CNet, Multi-CNN en EfficientNet-varianten) die op dezelfde datasets zijn getest. De attentievisualisaties bevestigen dat het model zich richt op diagnostisch relevante structuren (zoals celkernen en weefselarrangementen) in plaats van irrelevante achtergrondruis.

Betekenis en Conclusie

DeepHistoViT bewijst dat transformer-architecturen, wanneer ze correct worden aangepast voor medische beeldvorming, superieur kunnen zijn aan traditionele CNN's voor histopathologische classificatie. De belangrijkste implicaties zijn:

• Robuustheid: Het vermogen om te presteren zonder stain normalisatie maakt het model praktischer voor real-world klinische toepassing, waar variatie in kleuring gebruikelijk is.
• Vertrouwen: De ingebouwde interpretatie via attentiekarten helpt de "black-box" aard van AI weg te nemen, wat essentieel is voor de adoptie door pathologen.
• Toekomstperspectief: Hoewel de resultaten veelbelovend zijn, waarschuwen de auteurs dat de datasets (vooral LC25000) beperkt kunnen zijn in variabiliteit. Toekomstig werk richt zich op validatie op grotere, multi-centrische klinische cohorten en het integreren van onzekerheidsschatting voor veiligheidskritische toepassingen.

Kortom, dit werk biedt een betrouwbaar en interpreteerbaar hulpmiddel om pathologen te ondersteunen bij vroege en accurate kankerdetectie.