IRIS: time-structured manifold projections

Technische Samenvatting: IRIS – Tijdgestructureerde Manifold-projecties

Probleemstelling
Hoogdimensionale biomedische data, zoals single-cell RNA-sequencing (scRNA-seq), vergelijkende metagenomica en embeddings van wetenschappelijke literatuur, worden steeds vaker gegenereerd met temporele dimensies (bijv. ontwikkelingsstadia, leeftijden van proefpersonen, publicatiedatums). Hoewel Manifold Learning-algoritmen zoals t-SNE en UMAP onmisbaar zijn voor het visualiseren van hoogdimensionale structuren door gelijkaardige items te groeperen, zijn ze inherent ongesuperviseerd en houden ze geen rekening met de tijdsvolgorde in hun lay-outstructuren. Bij gevolg is de dynamiek van celtypen of andere klassen over de tijd heen vaak verborgen.

Huidige werkoplossingen zijn ontoereikend:

1. Zij-aan-zij weergaven: Het kleuren van lay-outs door zowel klasse als tijd in aparte plots vereist intensief scannen, wat het moeilijk maakt om tijdsbereiken voor specifieke klassen in te schatten of temporele extremen te identificeren.
2. Aligned UMAP: Deze methode produceert meerdere lay-outs terwijl beweging tussen hen wordt bestraft. Dit vereist echter een klein aantal discrete tijdsintervallen en gaat ervan uit dat dezelfde items in meerdere intervallen voorkomen, wat zelden het geval is bij scRNA-seq of andere temporele datasets. Bovendien verergert dit het probleem van meerdere weergaven, wat vaak animaties of onhandelbare 3D-plots noodzakelijk maakt om trajecten te tonen.

Methodologie
De auteurs stellen IRIS voor (Incorporating Radial time-structured Inverse Structure), een nieuw Manifold Learning-algoritme dat laagdimensionale lay-outs zowel chronologisch als volgens de manifold-topologie structureert. IRIS werkt door circulaire lay-outs te creëren waarbij de tijd naar buiten toe straalt in concentrische ringen, waardoor de hoekdimensie wordt gebruikt om hoogdimensionale relaties te coderen.

Het algoritme verloopt in twee hoofdfasen:

1. Fase 1: Optimalisatie van de Radiale Exponent (Temporele Mapping)

   • Doel: Om tijdstempels te mappen naar annulaire radii zodat de dichtheid van punten radiaal uniform is, wat het "crowding problem" aanpakt en ervoor zorgt dat tijd af te leiden is uit de positie.
   • Mechanisme: Tijd $t$ wordt gemapt naar radius $r$ via een machtsfunctie: $r_i = \zeta + (1 - \zeta)t_i^\rho$, waarbij $\zeta$ een hyperparameter is die de binnenste radiusratio controleert, en $\rho$ een globale exponent die geoptimaliseerd moet worden.
   • Optimalisatie: Het algoritme definieert een ideale waarschijnlijkheidsdichtheidsfunctie (PDF) $P(X)$ die een uniforme verdeling van dichtheid over de annulus representeert. Vervolgens wordt Kullback-Leibler (KL) divergentie gebruikt om de optimale $\rho^*$ te vinden die de divergentie minimaliseert tussen de ideale PDF en de werkelijke distributie van radii $Q$ die uit de data wordt afgeleid. Deze fase houdt rekening met temporele scheefheid.
   • Resampling: Om artefacten door bandvorming te voorkomen die worden veroorzaakt door ijle of grove tijdlabels, biedt IRIS optionele probabilistische temporele resampling (homogeen of heterogeen) om een meer continue tijdsdistributie te creëren.

2. Fase 2: Optimalisatie van Hoeken (Manifold Structuur)

   • Doel: Om de hoek $\theta_i$ van elk punt te optimaliseren met behoud van hoogdimensionale relaties, terwijl de punten worden beperkt tot de radii die in Fase 1 zijn bepaald.
   • Mechanisme: Het algoritme herparameteriseert de Euclidische kostenfunctie van Cartesiaanse naar poolcoördinaten. Het maakt gebruik van een probabilistisch kader vergelijkbaar met LargeVis (een voorganger van UMAP), waarbij rand-waarschijnlijkheden worden gedefinieerd op basis van Approximate Nearest Neighbors (ANN).
   • Kostenfunctie: De objectieve functie $C$ balanceert de Euclidische afstand en de hoekafstand. Voor positieve paren (buren in de hoogdimensionale ruimte) minimaliseert de kosten de afstand in zowel radius als hoek. Voor negatieve paren wordt de scheiding gemaximaliseerd. De kosten bevatten een hyperparameter $\beta$ om de bijdrage van de Euclidische afstand versus de hoekafstand te balanceren.
   • Optimalisatie: Stochastic gradient descent wordt gebruikt om de hoeken $\Theta$ bij te werken om de divergentie van afstand-distributies tussen hoogdimensionale en laagdimensionale ruimtes te minimaliseren.

Belangrijkste Bijdragen

• Algoritmische Innovatie: IRIS introduceert een nieuwe inductieve bias die circulaire lay-outs creëert waarbij de tijd naar buiten straalt, waardoor temporele relaties direct zichtbaar zijn vanuit de lay-outgeometrie in plaats van te vertrouwen op kleurkanalen.
• Herparameterisering: Het artikel beschrijft een wiskundige herparameterisering van Euclidische kostenfuncties naar poolcoördinaten, wat gelijktijdige optimalisatie van de globale tijdmapping (radius) en lokale manifold-structuur (hoek) mogelijk maakt.
• Temporele Resampling: Een voorgestelde strategie om ijle of grove tijdlabels te behandelen om visuele artefacten te voorkomen.
• Implementatie: IRIS is geïmplementeerd in Python en C++, maakt gebruik van het LargeVis-framework, en is beschikbaar als een open-source pakket.

Resultaten
De auteurs evalueerden IRIS op vijf datasets verspreid over drie biomedische domeinen:

1. scRNA-seq (Embryo): Muis prenatale ontwikkeling (28.604 cellen).
2. scRNA-seq (Neuro): Neurodegeneratieve ziekte atlas (30.556 monsters).
3. Metagenomen (Gut): Darmmicrobioom data over 29 studies (4.479 monsters).
4. Literatuur (ADRD): Alzheimer's Disease and Related Dementias corpus (17.518 artikelen).
5. Literatuur (PD-1): Immune checkpoint pathway corpus (27.887 artikelen).

Evaluatiemetrieken:

• Class-structuring (KNN): Gemeten door de nauwkeurigheid van een K-Nearest Neighbors classifier die klasse-labels voorspelt vanuit lay-out coördinaten.
• Time-structuring (SVR): Gemeten door de $R^2$ goodness of fit van een Support Vector Regression model dat tijdstempels voorspelt vanuit lay-out coördinaten.
• TMPS: Een Time-structured Manifold Projection Score, gedefinieerd als het harmonisch gemiddelde van KNN en SVR.

Bevindingen:

• Visuele Helderheid: IRIS-lay-outs verduidelijken direct dynamische fenomenen (bijv. het vertakken van celtypen, duidelijke oorsprong van neuronale precursoren) die niet direct zichtbaar zijn in gepaarde UMAP-plots.
• Kwantitatieve Prestaties: Kwantitatieve metrieken bevestigen dat IRIS de lay-outs effectief structureert op basis van tijd (waar UMAP slecht presteert), terwijl het een vergelijkbare klasse-structurering behoudt als UMAP.
• Schaalbaarheid: De runtime van IRIS schaalt lineair met het aantal monsters.

Betekenis en Claims
Het artikel claimt dat IRIS een oplossing biedt voor de beperking van bestaande Manifold Learning-algoritmen bij het verwerken van temporele data. Door lay-outs zowel chronologisch als topologisch te structureren, maakt IRIS temporele relaties direct zichtbaar vanuit de lay-out zelf, waardoor het kleurkanaal vrijkomt voor het coderen van klasse-informatie. De auteurs positioneren IRIS als een instrument dat in staat is om een breed scala aan dynamische biomedische data te visualiseren, en biedt een intuïtiever en informatie-dichter alternatief voor zij-aan-zij vergelijkingen of multi-view animaties. Het werk wordt gepresenteerd als een open-source bijdrage aan het veld van datavisualisatie en machine learning in de biomedische wetenschap.