Autoassociative Learning of Structural Representations for Modeling and Classification in Medical Imaging

Deze studie introduceert een neurosymbolisch systeem dat medische beelden reconstrueert via visuele primitieven om transparante en nauwkeurigere diagnoses van histologische afwijkingen te leveren dan traditionele deep learning-architecturen.

De kern

Titel: Hoe een AI-arts de wereld niet meer als pixels, maar als bouwstenen ziet

Stel je voor dat je een enorme muurschildering bekijkt. Een traditionele kunstenaar (of een standaard computerprogramma) kijkt naar de muur en ziet een eindeloos mozaïek van duizenden kleine, gekleurde steentjes. Als hij een boom moet tekenen, moet hij elke steen apart verplaatsen. Dit werkt, maar het is traag, en als je een steentje verplaatst, ziet de hele boom er misschien raar uit.

De onderzoekers uit dit paper hebben een slimme nieuwe manier bedacht om naar beelden te kijken. In plaats van naar de duizenden steentjes te kijken, laten ze de computer denken als een architect die met Lego-blokken werkt.

Hier is hoe hun systeem, genaamd ASR, werkt, vertaald naar alledaags taal:

1. Het probleem: De "Pixel-Blindheid"

De meeste moderne AI's (zoals die in je telefoon of bij medische scans) zijn getraind om beelden te zien als een raster van pixels. Ze zijn heel goed in het herkennen van patronen, maar ze begrijpen niet echt wat ze zien. Ze zien geen "boom" of "cel", ze zien alleen een hoopje gekleurde stippen.

• Het nadeel: Als je ze iets nieuws laat zien dat net iets anders is dan wat ze hebben geoefend, raken ze in de war. Ze zijn ook niet goed in het uitleggen waarom ze een bepaalde diagnose stellen. Het is een "black box": je stopt een foto erin, en er komt een antwoord uit, maar je weet niet hoe ze tot dat antwoord kwamen.

2. De oplossing: De "Lego-Architect" (ASR)

De onderzoekers hebben een systeem gebouwd dat beelden niet reconstructeert als pixels, maar als vormen.
Stel je voor dat je een foto van een schildering moet nabootsen. In plaats van elke steen te kopiëren, zegt het systeem: "Oké, ik zie daar een grote, ronde, paarse vorm. Ik zie daar een klein, langwerpig, groen ding."

Het systeem probeert de originele foto te "reconstrueren" door alleen maar ellipsen (ovale vormen) te tekenen.

• De truc: Het systeem mag alleen maar ovale vormen gebruiken. Het moet de foto dus "ontleden" in deze vormen.
• Het resultaat: Als het systeem een foto van een schildklier (een orgaan in je hals) moet analyseren, leert het dat gezonde cellen eruitzien als regelmatige, ronde ovale blokken. Zieke cellen (zoals bij de ziekte van Hashimoto) zien eruit als een rommelige hoopje donkere, kleine ovale blokken.

3. Waarom is dit zo slim? (De "Auto-associatie")

Het systeem werkt als een spiegel.

1. Je geeft een foto in.
2. Het systeem probeert die foto te tekenen met alleen maar ovale vormen.
3. Als de getekende versie er niet op lijkt, past het systeem de vormen aan (groter, kleiner, draaien, verkleuren).
4. Uiteindelijk leert het systeem: "Ah, om deze specifieke ziekte te tekenen, heb ik precies deze specifieke ovale vormen nodig."

Dit dwingt de computer om een logisch verhaal te vertellen over het beeld, in plaats van alleen maar patronen te onthouden.

4. De medische toepassing: De "Duidelijke Arts"

De onderzoekers testten dit op microscopische foto's van schildklierweefsel. Ze wilden weten of het systeem drie dingen kon onderscheiden:

• Gezond (Benign): Regelmatige, ronde cellen.
• Hashimoto: Veel kleine, donkere cellen (ontsteking).
• Nodulair: Veel bindweefsel en minder cellen.

Het verrassende resultaat:
Het nieuwe systeem was beter in het herkennen van de ziekte dan de traditionele, "slimme" AI's. Maar het belangrijkste verschil was de transparantie.

• Traditionele AI: "Ik denk dat dit Hashimoto is." (Je vraagt: "Waarom?" -> "Omdat de pixels zo lagen." -> Je snapt het niet).
• ASR (Nieuwe AI): "Ik denk dat dit Hashimoto is, omdat ik in dit beeld 50 kleine, donkere ovale vormen heb gevonden die dicht op elkaar zitten, terwijl gezonde schildklieren grote, lichte ovale vormen hebben."

Omdat het systeem werkt met duidelijke vormen (de "Lego-blokken"), kunnen de onderzoekers precies zien welke vormen de beslissing hebben bepaald. Het is alsof de AI een tekening maakt van zijn redenering.

5. De conclusie in één zin

De onderzoekers hebben bewezen dat het slim is om computers te dwingen de wereld te zien als een verzameling duidelijke, fysieke objecten (zoals ovale cellen) in plaats van een wazig mozaïek van pixels. Dit maakt de AI niet alleen accurater, maar ook begrijpelijk voor mensen, wat in de geneeskunde cruciaal is voor vertrouwen en veiligheid.

Kortom: Ze hebben de AI niet alleen "slimmer" gemaakt, maar ook "logischer" en "eerlijker" in zijn denken.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Autoassociative Learning of Structural Representations for Modeling and Classification in Medical Imaging", vertaald en samengevat in het Nederlands.

Titel: Auto-associatief Leren van Structurele Representaties voor Modellering en Classificatie in Medische Beeldvorming

Auteurs: Zuzanna Buchnajzer, Kacper Dobek, Stanisław Hapke, Daniel Jankowski, en Krzysztof Krawiec (Poznan University of Technology, Polen).
Doelwit: International Journal of Applied Mathematics and Computer Science.

---

1. Het Probleem

De huidige diepe leerarchitecturen (Deep Learning - DL), met name Convolutionele Neural Networks (CNN's), vertrouwen sterk op continue, gladde kenmerken en rasterverwerking. Hoewel dit robuustheid biedt, is het fundamenteel in strijd met de fysieke aard van de wereld zoals mensen deze waarnemen: de wereld bestaat uit discrete, scherp afgebakende objecten met welgedefinieerde eigenschappen (vorm, grootte, oriëntatie, kleur).

Deze incompatibiliteit leidt tot drie belangrijke nadelen in medische beeldvorming:

1. Overfitting: Rastergebaseerde verwerking is te expressief voor natuurlijke scènes, wat grote hoeveelheden gelabelde data vereist om overfitting te voorkomen.
2. Data-efficiëntie: Het gebrek aan inductieve bias voor objecten maakt het moeilijk om te generaliseren met beperkte datasets.
3. Gebrek aan transparantie: CNN's zijn "black boxes". Ze bieden weinig uitleg over waarom een beslissing is genomen, wat in de medische diagnostiek cruciaal is.

2. Methodologie: ASR Architectuur

De auteurs stellen ASR (Auto-associative Structural Representations) voor, een neurosymbolisch systeem dat beelden reconstrueert aan de hand van visuele primitieven in plaats van individuele pixels. Het doel is om een expliciete, fysiek plausibele beschrijving van de scène te leren.

Architectuurcomponenten:

• Encoder: Een conventioneel CNN (stapel van ConvBlocks) dat het invoerbeeld verwerkt en latente vectoren ($z_j$) genereert op verschillende ruimtelijke schalen.
• Modelers: Voor elke schaal $j$ is er een trainbare laag (1x1 convolutie) die de latente vectoren omzet in parameters voor grafische primitieven. In deze studie worden ellipsen gebruikt als primitieven. De parameters omvatten:
  • Schalingsfactoren ($w_j, h_j$) voor breedte en hoogte.
  • Rotatiehoek ($d_j$).
  • RGB-kleurcomponenten ($a_j$).
• Renderer: Een differentieerbare renderer die de parameters gebruikt om het beeld opnieuw te genereren. In plaats van scherpe ellipsen, worden "blurry blobs" gebruikt (via een sigmoid-functie) om differentiatie mogelijk te maken.
  • De primitieven worden gesparseerd gerenderd (niet op elke pixel, maar op een raster) om rekentijd te besparen.
  • De aggregatie gebeurt via vermenigvuldiging van complementen (transmissiemodus), wat passend is voor histologische beelden waar licht wordt geabsorbeerd.
• Training: Het systeem wordt getraind via auto-associatie. De loss-functie is de gemiddelde kwadratische fout (MSE) tussen het ingevoerde beeld en het gereconstrueerde beeld (Masked MSE om randeffecten te minimaliseren). Er is geen gebruik gemaakt van diagnostische labels tijdens de trainingsfase van de encoder.

Varianten:
Naast de basis-ASR, testen de auteurs twee geavanceerde configuraties om de representatie te verbeteren:

1. Regularized: Voegt een straffingsfactor toe (Appearance Regularization Value) om het gebruik van te veel primitieven te beperken en de focus op lagere resoluties te bevorderen.
2. Incremental: Een trainingstrategie waarbij het gebruik van fijnere schalen (hogere resolutie) geleidelijk wordt toegestaan, terwijl het model eerst wordt gedwongen te vertrouwen op grove schalen.

3. Experimentele Validatie

Dataset:

• Onderwerp: Microscopische beelden van menselijke schildklierweefsel (histologie).
• Classificatie: Drie klassen: Benign (gezond), Hashimoto (auto-immuunziekte), en Nodularity (knoptjes).
• Data: 30 volledige slides (WSI) uit de Biospecimen Research Database (BRD), opgesplitst in trainings-, validatie- en testsets.
• Verwerking: Slides worden opgesplitst in patches (256x256 pixels) die ten minste 80% weefsel bevatten.

Twee Stadia:

1. Stadium 1 (Reconstructie): Alle modellen (ASR-varianten en een baseline CNN-autoencoder) worden getraind om de beelden te reconstrueren zonder kennis van de ziekteklassen.
2. Stadium 2 (Classificatie): De geëxtraheerde structurele kenmerken (de parameters van de ellipsen) worden gebruikt als invoer voor een beslissingsboom (Decision Tree) om de ziekte te diagnosticeren. Dit wordt vergeleken met een baseline CNN-autoencoder.

4. Belangrijkste Resultaten

Reconstructie (Stadium 1):

• De traditionele baseline (CNN-autoencoder) presteerde iets beter op puur reconstructie-metrics (zoals MSE en MAE) dan de ASR-varianten.
• Echter, de ASR-varianten (vooral de Regularized en Incremental versies) behaalden een hogere SSIM (Structural Similarity Index), wat aangeeft dat ze beter in staat waren om de structurele samenstelling van het beeld vast te leggen in plaats van alleen pixelwaarden na te bootsen.

Classificatie (Stadium 2):

• Superieure Prestatie: Alle ASR-configuraties overtroffen de baseline aanzienlijk in classificatie-accuraatheid en F1-score. De beste ASR-modellen bereikten accuraten rond de 77%, terwijl de beste baseline slechts rond de 54% bleef.
• Interpreteerbaarheid: De beslissingsbomen getraind op ASR-kenmerken waren zeer compact (slechts 6 knopen en 7 bladeren).
  • De bomen konden de Hashimoto-klasse al bij de wortel van de boom onderscheiden op basis van de gemiddelde hoogte van ellipsen op een specifieke schaal.
  • De Nodularity-klasse was het moeilijkst te classificeren, waarschijnlijk vanwege de complexe connectieve weefsels die moeilijk met ellipsen te modelleren zijn.
• Kenmerkbelang: Analyse toonde aan dat kenmerken van de grootste, grofste ellipsen (schaal 0) het meest informatief waren voor de diagnose, gevolgd door schaal 1. Kleurvariaties (vooral groen) en oriëntatiehoeken bleken cruciaal.

5. Bijdragen en Significantie

1. Neurosymbolische Benadering: Het artikel demonstreert dat het dwingen van een leermodel om beelden te "verklaren" in termen van menselijk interpreteerbare objecten (ellipsen) leidt tot robuustere en betere representaties voor downstream-taken, zelfs zonder labels tijdens de trainingsfase.
2. Transparantie in Medische AI: In tegenstelling tot traditionele CNN's, biedt ASR een volledig transparant proces. De beslissingen van de classifier kunnen direct worden teruggespoord naar specifieke visuele primitieven in het originele beeld (bijv. "de diagnose Hashimoto wordt gesteld omdat er veel kleine, donkere ellipsen zijn").
3. Data-efficiëntie: De methode presteerde beter dan een geavanceerde baseline met een veel kleiner aantal parameters (36 kenmerken vs. 200 bij de baseline) en zonder dat de encoder direct op de labels was getraind. Dit suggereert een groot potentieel voor toepassingen waar gelabelde data schaars is.
4. Validatie van "Vision as Inverse Graphics": Het bewijst dat het benaderen van computerzicht als een "inverse graphics"-probleem (het reconstrueren van de scene uit het beeld) een effectief alternatief is voor pure pixelgebaseerde diepe leer voor specifieke domeinen zoals histologie.

Conclusie:
ASR biedt een veelbelovende weg voor medische beeldanalyse door de "black box" van deep learning te vervangen door een transparant, structuurgebaseerd model dat niet alleen nauwkeuriger diagnose stelt, maar ook begrijpelijk is voor medisch specialisten. De auteurs suggereren dat complexere primitieven (bijv. Fourier-vormen) de prestaties in de toekomst nog kunnen verbeteren.