Technische Samenvatting: scGTN - Deep Siamese Graph Transformer Network voor Single-cell RNA Sequencing Clustering

1. Probleemdefinitie

Single-cell RNA sequencing (scRNA-seq) is een cruciale technologie voor het profileren van genexpressie op cellulair niveau, wat de identificatie van celtypen en het begrip van cellulaire heterogeniteit mogelijk maakt. Een centrale taak in dit domein is celclustering, wat cellen organiseert in biologisch betekenisvolle groepen op basis van expressiepatronen.

Ondanks de vooruitgang worden bestaande methoden geconfronteerd met twee primaire uitdagingen:

1. Sparsity en Ruis: scRNA-seq-data lijdt onder uitgebreide dropout-effecten en meetruis, wat resulteert in hoogdimensionale, ijle (sparse) matrices. Dit bemoeilijkt de betrouwbare constructie van cellulaire relaties, wat vaak leidt tot grafen die zeer iel en ruizig zijn.
2. Beperkte Structurele Exploitatie: Huidige Graph Neural Network (GNN) benaderingen richten zich primair op lokale buurtaggregatie. Ze negeren vaak rijkere structurele aanwijzingen die ingebed liggen in de celgraaf, zoals kortste paden en afstand tussen knopen. Bijgevolg slagen ze er niet in om de inherente informatie van de graaf volledig te benutten, wat leidt tot celovereenkomsten die zeer homogeen zijn en moeilijk te onderscheiden zijn.

2. Methodologie: scGTN Framework

De auteurs stellen scGTN (Deep Siamese Graph Transformer Network) voor, een framework dat genexpressieprofielen en intercellulaire structurele afhankelijkheden expliciet integreert. De architectuur bestaat uit drie hoofdmodules:

2.1 Dual Augmentation Module

Om de effecten van sparsity en ruis te mitigeren, genereert de methode twee complementaire weergaven van de data:

• Gene Expression Perturbation: Gaussische ruis wordt toegevoegd aan de genexpressieprofielen ($X$) om natuurlijke variabiliteit te simuleren. Dit wordt geformuleerd als $\tilde{X} = \{x_i \odot m\}$, waarbij $m$ een willekeurige mask uit een Gaussische distributie is.
• Intercellular Graph Structure Augmentation: Twee verschillende graafweergaven worden geconstrueerd vanuit de initiële $k$-nearest neighbor (kNN) graaf:
  • View 1 (Refinement): Spuriële randen worden verwijderd op basis van pairwise cosinus-gelijkenis om biologisch relevante verbindingen te behouden.
  • View 2 (Diffusion): Graafdiffusie wordt toegepast om informatie over de graaf te propageren, waardoor betekenisvolle verbindingen worden versterkt.

2.2 Siamese Graph Transformer Network Fusion

Een Siamese architectuur met gewichtsdelende encoders verwerkt de twee geaugmenteerde weergaven. In tegenstelling tot standaard GNN's, incorporeert deze module expliciet structurele informatie:

• Gene Expression Embedding: Een Siamese graafencoder verwerkt de geperturbeerde genmatrices ($\tilde{X}$) en adjacency matrices ($\tilde{A}$) om initiële embeddings te produceren.
• Explicit Structural Embedding: Om complexe relaties te vangen, integreert het model:
  • Position Embeddings: Gebaseerd op de intimiteit van buren met de centrale knoop.
  • Shortest Path Embeddings: Het expliciet modelleren van de verbindingsstructuur tussen knopen.
• Transformer Refinement: Deze embeddings (Gen + Positie + Kortste Pad) worden gefuseerd en verwerkt via een multi-head self-attention mechanisme met feed-forward netwerken (FFN) en residual connections.
• Correlation Loss: Een specifieke loss ($L_{cor}$) wordt geïntroduceerd om feature collapse en redundantie tussen de twee weergaven te voorkomen door de correlatie van diagonale elementen te maximaliseren en off-diagonal correlaties te minimaliseren.

2.3 Optimal Transport Clustering

De clusteringtaak wordt geformuleerd als een distributie-alignering probleem met behulp van een self-supervised strategie:

• Cluster Assignment: Gelijkenis tussen cel-embeddings en clustercentra wordt gemodelleerd met behulp van een Student's t-distributie.
• Target Distribution: De toewijzingskansen worden aangescherpt om een target distributie te creëren.
• Optimal Transport: Een optimal transport strategie brengt de voorspelde clusterdistributie in lijn met de mengverhoudingen om robuuste clustering te garanderen en degeneratieve oplossingen te voorkomen (bijv. alle cellen die naar één label mappen). Dit wordt geoptimaliseerd met behulp van de Sinkhorn distance methode met een entropie-constraint.

2.4 Overall Optimization

De uiteindelijke objectieve functie combineert vier componenten:
$$L = L_{clu} + \alpha L_{cor} + \beta L_{rec} + \gamma L_{ZINB}$$
Waarbij $L_{clu}$ de clustering loss is, $L_{cor}$ de correlatie loss, $L_{rec}$ de reconstructie loss (MSE) om de graafstructuur te behouden, en $L_{ZINB}$ de Zero-Inflated Negative Binomial loss om data sparsity en overdispersie te modelleren.

3. Belangrijkste Bijdragen

Het artikel schetst drie primaire bijdragen:

1. Nieuw Perspectief: De studie adresseert scRNA-seq clustering door gezamenlijk genexpressieprofielen en celgraafstructuren te overwegen, waarbij complementaire intercellulaire informatie wordt geëxploiteerd die verder gaat dan eenvoudige feature-level gelijkenissen.
2. Nieuwe Methodologie: De introductie van scGTN, een framework dat gebruikmaakt van een Siamese Graph Transformer Network. Dit incorporeert expliciet rijkere structurele informatie, specifiek kortste paden en afstand tussen knopen, om discriminerende celrepresentaties te leren.
3. Uitgebreide Experimenten: Een uitgebreide evaluatie op meerdere benchmark-datasets toont de superieure prestaties van het framework aan ten opzichte van bestaande methoden.

4. Experimentele Resultaten

De auteurs evalueerden scGTN op zeven publieke benchmark-datasets (dekend menselijke en muis pancreas, lever en immuuncellen) tegen tien baselines, inclusclusief traditionele methoden (k-means, hiërarchisch), deep learning methoden (DEC, scDeepCluster) en graafgebaseerde methoden (scGNN, scDSC).

• Kwantitatieve Prestaties: scGTN behaalde de beste prestaties over alle drie de metrieken (Accuracy, NMI en ARI) op alle zeven datasets. Gemiddeld presteerde het beter dan de op één na beste methode met 3,00% in ACC, 2,42% in NMI en 2,30% in ARI.
• Visualisatie: UMAP-visualisaties op de Human Liver dataset toonden aan dat scGTN zeer compacte clusters met duidelijke grenzen produceerde, terwijl baseline-methoden subtype-mixing of diffuse distributies vertoonden.
• Biologische Validatie:
  • Differential Gene Expression (DEG): Clusters gegenereerd door scGTN vertoonden een hoge overlap (>90%) met de grondwaarheid van celtypen op basis van top-100 DEGs. De top-5 markergenen geïdentificeerd door scGTN (bijv. PPY voor Pancreatic PP cellen) kwamen exact overeen met de gold standard rangschikkingen.
  • KEGG Pathway Enrichment: De methode identificeerde succesvol onderscheidende functionele subpopulaties, zoals "Insulin secretion" pathways voor $\beta$-cellen en "Ribosome" pathways voor acinaire cellen, wat de biologische interpreteerbaarheid bevestigt.

5. Betekenis en Claims

Het artikel claimt dat scGTN de kritieke beperkingen van huidige methoden aanpakt door verder te gaan dan lokale buurtaggregatie om globale structurele afhankelijkheden te vangen. Door expliciet shortest-path informatie en afstand tussen knopen te integreren via een Siamese Graph Transformer, leert het model meer discriminerende en robuuste embeddings. De auteurs stellen dat deze aanpak de inherente sparsity en ruis van scRNA-seq data effectief afhandelt, en een nauwkeuriger instrument biedt voor celtype-identificatie en biologische interpretatie vergeleken met bestaande graafgebaseerde en deep learning clustering frameworks.