Interpretable models for scRNA-seq data embedding with multi-scale structure preservation

Deze paper introduceert ViScore, een robuust scorekader, en ViVAE, een interpreteerbaar deep learning-model, om de betrouwbaarheid en multi-schaal structuurbehoud van dimensiereductie in scRNA-seq-data te verbeteren.

De kern

Stel je voor dat je een enorme bibliotheek hebt met miljoenen boeken, maar elke pagina is volgepropt met duizenden cijfers. Dit is wat wetenschappers zien bij scRNA-seq (single-cell RNA-sequencing): een enorme hoeveelheid data over elke individuele cel in een organisme. Het probleem? Mensen kunnen niet goed denken in duizenden dimensies tegelijk. We hebben een manier nodig om deze complexe data te "verkleinen" tot iets dat we kunnen zien en begrijpen, zoals een platte kaart van een berglandschap.

Deze paper introduceert twee nieuwe hulpmiddelen om die kaart te maken en te controleren of hij eerlijk is: ViScore en ViVAE.

Hier is de uitleg in simpele taal, met wat creatieve vergelijkingen:

1. Het Probleem: De "Vervormde" Kaart

Bestaande methoden om deze data te verkleinen (zoals t-SNE en UMAP) zijn als een Google Maps-app die soms gekke trucs uithaalt.

• Ze zijn goed in het tonen van de straten direct om je heen (de "lokale" structuur). Ze laten zien welke huizen dicht bij elkaar staan.
• Maar ze zijn slecht in het tonen van de grote lijnen. Ze kunnen een heel dorp in losse eilandjes verdelen, of twee steden die ver weg zijn, plotseling naast elkaar zetten. Ze vergeten de "globale" vorm van het landschap.

Wetenschappers hebben tot nu toe geen goede manier gehad om te zeggen: "Hé, deze kaart is vals, want de afstand tussen stad A en stad B is hier volledig verkeerd weergegeven."

2. De Oplossing Deel 1: ViScore (De "Kwaliteitscontroleur")

De auteurs hebben ViScore bedacht. Denk hierbij aan een onpartijdige keurmeester of een GPS-test.

• Hoe werkt het? Stel je voor dat je een nieuwe kaart maakt. ViScore kijkt niet alleen naar de straten direct om je heen, maar ook naar hoe de hele stad eruitziet. Het gebruikt een slimme wiskundige truc (een "RNX-curve") om te meten: "Hoe goed is de afstand tussen punt A en punt B bewaard gebleven, of is het nu een stukje verder of dichter bij dan in het echt?"
• Het nieuwe: Vroeger moest je kiezen: "Kijk je alleen naar de buurt of naar de hele stad?" ViScore doet beide tegelijk. Het is als een keurmeester die zegt: "Deze kaart is goed voor de buurt, maar slecht voor de hele stad. Hier is een score voor elk."
• xNPE: Dit is een extra tool voor als je al weet welke cellen bij elkaar horen (bijvoorbeeld "dit zijn rode bloedcellen"). Het kijkt dan specifiek of die groepen in de nieuwe kaart nog steeds bij elkaar zitten, of dat ze per ongeluk door elkaar zijn gehaald.

3. De Oplossing Deel 2: ViVAE (De "Slimme Kaartenmaker")

Nu ze weten hoe ze een kaart moeten testen, hebben ze een nieuwe maker bedacht: ViVAE.

• Hoe werkt het? Stel je voor dat je een stukje klei hebt (de data). Je wilt het platdrukken tot een kaart.
  • Oude methoden (zoals t-SNE) knijpen de klei zo hard samen dat het land in losse eilandjes breekt.
  • Andere methoden (zoals PCA) drukken het heel zachtjes plat, maar dan verdwijnen de kleine details (de steegjes).
  • ViVAE is als een meester-kleimodelleur. Hij gebruikt een slimme techniek (een "stochastische MDS") om de klei zo plat te drukken dat de kleine steegjes en de grote rivieren behouden blijven. Hij probeert een perfect evenwicht te vinden tussen detail en het grote geheel.
• Denoising: Voordat ViVAE begint, veegt hij eerst het "stof" van de data. Net als een fotograaf die eerst het lensje schoonveegt voordat hij een foto maakt, zorgt dit voor een scherpere kaart.

4. De "Spiegel": Encoder Indicatrices

Een van de coolste dingen aan ViVAE is dat het niet alleen een kaart maakt, maar ook een spiegel biedt om fouten te zien.

• Stel je voor dat je een elastiekje op een kaart tekent. Als je het kaartje uitrekt, wordt het elastiekje langer.
• ViVAE gebruikt Encoder Indicatrices (EI's). Dit zijn kleine, onzichtbare cirkeltjes die over de hele kaart worden getrokken.
• Als de kaart eerlijk is, blijven die cirkeltjes ronde cirkels.
• Als de kaart vals is (bijvoorbeeld als een gebied kunstmatig is uitgerekt), worden die cirkels ovale ellipsen.
• Waarom is dit handig? Het geeft de wetenschapper direct een visueel signaal: "Kijk hier! Dit stukje van de kaart is uitgerekt als een kauwgom. Wees voorzichtig met je conclusies over dit gebied." Het maakt de "zwartkijkers" van de data zichtbaar.

Samenvatting in één zin

De auteurs hebben een slimme nieuwe manier bedacht om cellen op een kaart te zetten (ViVAE) die zowel de kleine details als het grote plaatje eerlijk weergeeft, en ze hebben een onvervalst keurmerk (ViScore) bedacht om te bewijzen dat deze kaart niet bedriegt, inclusief een spiegel om te zien waar de kaart misschien toch een beetje scheef is getrokken.

Dit helpt biologen om betere beslissingen te nemen over hoe cellen zich ontwikkelen en hoe ziektes werken, zonder dat ze in de valkuil lopen van een "vervormde" kaart.

Technische samenvatting

Probleemstelling

Dimensiereductie (DR) is een fundamentele stap in de analyse van single-cell RNA-sequencing (scRNA-seq) data. Het doel is om hoge-dimensionale genexpressiedata om te zetten in lage-dimensionale embeddings die biologische structuren (zoals celtypen, trajecten en clusters) zichtbaar maken.
De huidige uitdagingen zijn:

1. Gebrek aan betrouwbaarheid: Bestaande methoden (zoals t-SNE en UMAP) vertonen vaak een "locality bias". Ze behouden lokale nabijheidsrelaties goed, maar vervormen globale structuren (bijv. de relatieve afstand tussen verschillende celclusters of ontwikkelingspaden), wat leidt tot kunstmatige gaten of verkeerde globale lay-outs.
2. Onvoldoende evaluatiecriteria: Er ontbreekt een robuust, schaalbaar en eerlijk raamwerk om de kwaliteit van embeddings te beoordelen. Bestaande metrics gebruiken vaak willekeurige drempelwaarden voor wat "lokaal" of "globaal" is, of vertrouwen op downstream taken (zoals clustering) die slechts een proxy-score leveren.
3. Interpreteerbaarheid: Het is moeilijk om te diagnosticeren waarom een embedding vervormingen introduceert, vooral bij complexe niet-lineaire modellen zoals variational autoencoders (VAE's).

Methodologie

De auteurs introduceren twee hoofdcomponenten: ViScore (een evaluatieframework) en ViVAE (een nieuw DR-model).

1. ViScore: Een Evaluatieframework

ViScore biedt zowel onbewaakte (unsupervised) als bewaakte (supervised) methoden om structuurbehoud te meten:

• RNX-curven (Rank-based Neighborhood Preservation): Gebaseerd op co-ranking matrices, maar met een nieuwe, schaalbare benadering. In plaats van alle datapunten te verwerken (wat $O(N^2 \log N)$ complexiteit heeft), gebruiken ze een algoritme dat vantage-point trees gebruikt om representatieve steekproeven te nemen. Dit maakt de berekening haalbaar voor grote datasets.
  • Global SP: Meet behoud van structuur over alle schalen (schaal-onafhankelijk).
  • Local SP: Geeft meer gewicht aan kleinere schalen (lokaal vooroordeel).
• xNPE (Extended Neighbourhood-Proportion-Error): Een bewaakte metric die de verdeling van "zelf vs. niet-zelf" buren per gelabelde celpopulatie vergelijkt tussen de hoge-dimensionale input en de embedding, gebruikmakend van de Earth Mover's Distance (EMD).
• NCP (Neighbourhood Composition Plots): Kwalitatieve visualisaties die tonen welke populaties de buren vormen van een specifieke populatie van belang in verschillende schalen, om fouten zoals "intrusie" of "extrusie" van populaties te diagnosticeren.

2. ViVAE: Een Interpreteerbaar DR-model

ViVAE is een regulariseerde Variational Autoencoder (VAE) die is ontworpen om een balans te vinden tussen lokale en globale structuurbehoud.

• Architectuur: Het model bestaat uit een encoder en een decoder. De input data wordt eerst gedenoised (ruisvermindering) voordat het het model ingaat.
• Verliesfunctie: De totale loss bestaat uit drie delen:
  1. $l_{recon}$: Reconstructie-erreur (MSE) om de data te leren reconstrueren.
  2. $l_{kldiv}$: Kullback-Leibler divergentie (standaard voor VAE's) om de latente ruimte te regulariseren.
  3. $l_{MDS}$: Een nieuwe Stochastic Multidimensional Scaling regularisator. Dit is een differentieerbare versie van de "stochastic quartet" loss die de relatieve afstanden tussen groepen van 4 punten in de hoge-dimensionale ruimte probeert te behouden in de lage-dimensionale ruimte. Dit zorgt voor beter globaal structuurbehoud.
• Varianten: Er wordt ook een "ViVAE-EncoderOnly" variant getest, die geen decoder heeft en puur op de MDS-regularisatie vertrouwt.
• Encoder Indicatrixen (EIs): Een nieuw QC-tool om vervormingen in de latente ruimte te visualiseren. Door lokale linearisatie van de encoder (via de Jacobiaan) wordt een kleine hypersfeer in de inputruimte afgebeeld op de embedding. Afwijkingen van een cirkel (bijv. ellipsen) tonen aan waar de ruimte kunstmatig wordt uitgerekt, samengedrukt of vervormd.

Belangrijkste Bijdragen

1. ViScore Framework: Een schaalbaar en eerlijk evaluatieraamwerk dat de beperkingen van bestaande metrics overwint door geen harde grenzen te stellen tussen lokaal en globaal, en door gebruik te maken van geavanceerde benaderingsalgoritmen voor grote datasets.
2. ViVAE Model: Een deep learning-model dat via Stochastic-MDS regularisatie een superieure balans bereikt tussen lokale en globale structuurbehoud, zonder de noodzaak van een "scale"-hyperparameter (in tegenstelling tot t-SNE/UMAP).
3. Interpreteerbaarheid: De introductie van Encoder Indicatrixen (EIs) en FlowSOM-integratie maakt het mogelijk om specifieke vervormingen in embeddings visueel te inspecteren en te verklaren.
4. Uitgebreide Validatie: Een empirische studie op 8 verschillende scRNA-seq datasets (waaronder ontwikkelingsdata van zebravissen en immuunceldata van de menselijke borst) die de superioriteit van ViVAE aantoont.

Resultaten

• Pareto-optimale prestaties: In vergelijking met 12 andere DR-methoden (zoals PCA, UMAP, t-SNE, TriMap, PaCMAP, SQuad-MDS) liggen de ViVAE-modellen consistent op de Pareto-front. Dit betekent dat er geen andere methode is die zowel een betere lokale als een betere globale score behaalt.
  • t-SNE scoort het hoogst op lokale structuur, maar slecht op globaal.
  • SQuad-MDS scoort het hoogst op globaal, maar slecht op lokaal.
  • ViVAE combineert het beste van beide werelden.
• Case Study - Ontwikkeling (Farrell dataset): ViVAE slaagt erin om de gladde overgangen in ontwikkelingslijnen (pseudotime) beter weer te geven dan t-SNE en UMAP, die de data vaak in kunstmatige eilanden opdelen. De xNPE-scores voor specifieke celpopulaties waren lager (beter) voor ViVAE.
• Case Study - Immuuncellen (Reed dataset): Op niet-ontwikkelingsdata toonde ViVAE aan dat het grote celcompartimenten kan scheiden zonder de relatieve posities van subpopulaties (zoals NK-cellen ten opzichte van T-cellen) onnodig te vervormen, wat door NCP's werd bevestigd.
• Vervormingsdetectie: De Encoder Indicatrixen toonden aan dat standaard VAE's vaak last hebben van schaal-inconsistenties en "run-away" effecten (gericht uitrekken), terwijl ViVAE door de regularisatie een veel uniformere latente ruimte produceert.

Betekenis en Impact

Dit werk is significant voor het veld van single-cell bio-informatica omdat het:

• Betrouwbaarheid verhoogt: Het biedt wetenschappers betere tools om te beoordelen of een embedding biologisch zinvol is of dat het artefacten bevat.
• Interpreteerbaarheid bevordert: Door de introductie van EIs wordt "black-box" deep learning voor DR transparanter, wat essentieel is voor klinische en biologische toepassingen.
• Een nieuwe standaard stelt: De combinatie van een schaalbaar evaluatieframework (ViScore) met een robuust model (ViVAE) biedt een oplossing voor het fundamentele dilemma tussen lokale en globale structuurbehoud in DR.
• Open Source: De software (ViVAE en ViScore) is beschikbaar in Python, wat de adoptie en reproduceerbaarheid in de gemeenschap vergemakkelijkt.

Kortom, de auteurs leveren een complete oplossing: van het meten van de kwaliteit van embeddings tot het genereren van zelfde embeddings die zowel lokaal als globaal betrouwbaar zijn, met ingebouwde tools om fouten te diagnosticeren.