📊 statistics

Cluster and then Embed: A Modular Approach for Visualization

Questo articolo propone un framework di visualizzazione trasparente e modulare che migliora metodi come t-SNE e UMAP raggruppando sequenzialmente i dati, incorporando ogni cluster individualmente e poi allineandoli per preservare sia la struttura locale che la geometria globale.

Autori originali: Elizabeth Coda, Ery Arias-Castro, Gal Mishne

Pubblicato 2026-07-13

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Elizabeth Coda, Ery Arias-Castro, Gal Mishne

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere una scatola gigante e disordinata di sculture LEGO 3D. Alcune sono piccoli castelli intricati; altre sono città vaste e piatte. Il tuo obiettivo è scattare foto a tutte e disporle su un tavolo piatto in 2D in modo da poter vedere come si relazionano tra loro.

Il problema? Se schiacci l'intera scatola sul tavolo tutto in una volta, le città piatte vengono stritolate e i castelli si sovrappongono in un enorme e confuso ammasso. Questo è il "problema dell'affollamento" (crowding problem) che affligge strumenti popolari come t-SNE e UMAP. Sono ottimi nel mantenere insieme i piccoli dettagli di ogni castello, ma spesso distorcono la mappa, facendo apparire castelli distanti come se fossero proprio accanto l'uno all'altro.

Entra in gioco l'approccio Cluster+Embed (C+E), un nuovo metodo proposto da Elizabeth Coda, Ery Arias-Castro e Gal Mishne. Pensa a questo metodo non come a una singola macchina fotografica magica, ma come a una catena di montaggio in tre fasi che tratta i tuoi dati come una collezione di quartieri distinti.

Fase 1: L'ordinamento dei quartieri

Per prima cosa, il metodo non cerca di fotografare l'intera scatola in una volta sola. Agisce invece come un bibliotecario super organizzato che smista le sculture LEGO in pile separate in base alla loro forma. Se hai una pila di castelli e una di città, queste vengono separate in contenitori diversi. Gli autori notano che puoi usare qualsiasi metodo di ordinamento ti piaccia (come i popolari algoritmi Leiden o DBSCAN), ma la chiave è che definisci i gruppi prima di scattare la foto.

Fase 2: Le foto individuali

Successivamente, il metodo scatta una foto di ogni pila individualmente. Poiché il bibliotecario sta guardando una sola pila di castelli alla volta, può disporre i castelli perfettamente per mostrarne i dettagli intricati senza preoccuparsi che le città si intralcino. Questo passaggio utilizza strumenti standard (come PCA o TriMap) per appiattire solo quel singolo gruppo. Il risultato? Una foto cristallina e di alta qualità dei castelli, e una foto separata, altrettanto chiara, delle città.

Fase 3: La mappa globale

Questa è la parte intelligente. Ora hai una pila di foto perfette e separate. L'ultimo passaggio consiste nel incollare queste foto su un grande muro per creare una grande mappa. Ma invece di incollarle casualmente, il metodo utilizza una "trasformazione rigida" — immagina di prendere un'intera foto della pila di castelli e di farla scorrere, ruotarla o capovolgerla, ma senza mai stirare o schiacciare la foto stessa.

L'obiettivo è posizionare queste pile in modo che la distanza tra la "pila dei castelli" e la "pila delle città" sul muro corrisponda alla distanza che avevano nella scatola originale. Per risolvere il problema dell'affollamento (ovvero quando non c'è abbastanza spazio sul muro per tutto), il metodo introduce una "manopola di scala" (chiamata $\alpha$ ). Se le pile sono troppo vicine e potrebbero sovrapporsi, gli autori suggeriscono di girare questa manopola per spingere delicatamente le pile lontano l'una dall'altra, creando lo spazio necessario affinché tutti siano visti chiaramente senza distorcere i dettagli interni delle foto.

Ciò a cui questo metodo dice "No"

Gli autori sono molto chiari su ciò contro cui stanno combattendo. Sostengono che l'idea che un singolo strumento tutto in uno (come t-SNE o UMAP) possa fare perfettamente due cose contraddittorie contemporaneamente — ovvero mantenere perfetti i piccoli dettagli locali e mantenere accurate le distanze globali — sia errata. Dimostrano che mentre t-S_NE è ottimo nel separare i cluster, spesso distorce la "mappa" così tanto che non puoi fidarti delle distanze tra i gruppi. Escludono anche esplicitamente l'idea che si possa semplicemente forzare un albero gerarchico su una mappa senza un processo strutturato; il loro metodo è una pipeline deliberata e trasparente in tre fasi, non una scatola nera.

Quanto sono sicuri?

Gli autori non pretendono che questo sia un rimedio magico che risolve tutto per sempre. Inve fogliamo prove solide da simulazioni e dati reali.

Sui dati sintetici: Hanno testato il loro metodo su un modello di miscela gaussiana a 10 dimensioni con 5.000 punti. In queste simulazioni, hanno dimostrato che con un fattore di scala di $\alpha = 2$ , il loro metodo evitava la sovrapposizione che affliggeva altri metodi, creando un anello di cluster che somigliava molto a t-SNE, ma ottenuto attraverso un processo trasparente e controllabile.
Sui dati reali: Hanno applicato questo approccio a tre dataset reali:
1. MNIST (Cifre scritte a mano): Un dataset di 60.000 immagini. Qui, C+E ha separato con successo le cifre in gruppi (come il fatto che i "quattro" e i "nove" siano vicini) e ha preservato la struttura globale meglio di t-SNE, che tendeva a spaziaggiare tutto in modo uniforme.
2. Organoidi cerebrali umani: Un dataset di 20.272 cellule. Il metodo ha rivelato una chiara "traiettoria di sviluppo" (un percorso di crescita nel tempo) che era visibile nella loro mappa, ma che risultava più "discreta" e meno continua in t-SNE e UMAP.
3. Corteccia murina: Un dataset di 23.822 cellule. Qui, C+E ha rivelato una struttura "dal macro al micro" (grandi gruppi che si suddividono in gruppi più piccoli) che altri metodi hanno mancato.

Gli autori ammettono che esiste un compromesso. Sebbene C+E sia eccellente nel preservare le distanze globali e le forme locali, a volte fatica a eguagliare la capacità di t-SNE di mantenere perfetti i vicini più prossimi (kNN recall) per piccoli valori di $k$ . Suggeriscono che ciò sia dovuto al fatto che t-SNE ha un modo misterioso di rompere i dati in minuscoli frammenti che C+E non replica. Tuttavia, sostengono che per una visualizzazione che sia sia trasparente che fedele alla forma complessiva dei dati, C+E è un'alternativa altamente competitiva e molto più comprensibile.

In breve, il saggio suggerisce che, scomponendo il problema in "ordina, appiattisci, poi allinea", possiamo ottenere una mappa che non mente su dove si trovino le cose, anche se richiede qualche passaggio in più per arrivarci.

Sintesi Tecnica: Cluster e poi Embedding: Un Approccio Modulare per la Visualizzazione

Definizione del Problema

I metodi di riduzione della dimensionalità, in particolare t-SNE e UMAP, sono ampiamente utilizzati per visualizzare dati ad alta dimensionalità con strutture latenti raggruppate. Sebbene questi metodi riescano efficacemente a raggruppare i punti dati e a preservare l'informazione locale, sono noti per distorcere la geometria globale dei dati sottostanti. Specificamente, spesso non riescono a preservare le posizioni relative, le distanze e le dimensioni dei diversi cluster. Questo limite deriva dal "problema dell'affollamento" (crowding problem), in cui gli spazi di embedding a bassa dimensionalità mancano della capacità sufficiente per ospitare tutti i punti alle loro scale di distanza originali ad alta dimensionalità, portando al collasso dei punti distanti e alla sovrapposzione di cluster distinti. I metodi esistenti spesso impongono un compromesso tra la preservazione della struttura locale (separazione dei cluster) e la preservazione delle distanze globali.

Metodologia: Il Framework Cluster+Embed (C+E)

Gli autori propongono un framework modulare in tre fasi chiamato Cluster+Embed (C+E) per affrontare il compromesso tra fedeltà locale e globale. L'approccio scinde il clustering, l'embedding locale e l'allineamento globale, permettendo all'analista di selezionare algoritmi specifici per ogni fase in base agli obiettivi di visualizzazione.

Fase 1: Clustering

I dati $\{x_i\}_{i=1}^n$ vengono prima partizionati in $\kappa$ cluster ( $C_1, \dots, C_\kappa$ ) utilizzando qualsiasi algoritmo di clustering scelto (ad es., Leiden, DBSCAN, k-means). Questa fase rivela esplicitamente la struttura di cluster presente nei dati. I punti identificati come rumore possono essere scartati in questa fase.

Fase 2: Embedding del Singolo Cluster

Ogni cluster $C_l$ viene embeddato separatamente in uno spazio a bassa dimensionalità (tipicamente $\mathbb{R}^2$ ) utilizzando un metodo di embedding scelto (ad es., PCA, Isomap, TriMap).

Razionale: L'embedding dei cluster individualmente riduce la distorsione rispetto all'embedding dell'intero dataset in un unico passaggio, poiché il "problema dell'affollamento" viene mitigato all'interno di sottoinsiemi più piccoli e localizzati.
Scaling: Se il metodo di embedding si basa su informazioni ordinali, viene applicato a ciascun cluster un fattore di scala $\gamma_l$ per minimizzare la perdita quadratica tra le distanze embeddate e le dissimilarità originali.

Fase 3: Allineamento Globale

I cluster embeddati vengono allineati in un singolo embedding globale utilizzando solo trasformazioni rigide (traslazioni, rotazioni e riflessioni). L'obiettivo è posizionare i cluster l'uno rispetto all'altro in modo che le dissimilarità a coppia tra i punti in diversi cluster siano preservate il più fedelmente possibile.

Ottimizzazione: L'allineamento minimizza una funzione di stress (stress di Kruskal) definita come:
$\min_{T_1, \dots, T_\kappa} \sum_{1 \le i < j \le \kappa} \sum_{l \in C_i} \sum_{m \in C_j} (\delta_{lm} - \|T_i(y_l) - T_j(y_m)\|)^2$
dove $\delta_{lm}$ è la dissimilarità originale e $T$ rappresenta le trasformazioni rigide.
Mitigazione dell'Affollamento tramite Scaling ( $\alpha$ ): Per prevenire la sovrapposizione nella visualizzazione finale, gli autori introducono un parametro di sintonizzazione $\alpha \ge 1$ $α \geq 1$ . La distanza target tra i cluster è scalata a $\alpha \delta_{lm}$ $α δ_{l m}$ . Questo espande efficacemente lo spazio tra i cluster nella mappa a bassa dimensionalità, evitando il problema dell'affollamento.
- $\alpha$ può essere regolato manualmente o automaticamente. Viene proposta un'euristica automatica: $\alpha = \max(1, \frac{\kappa \tau}{2\pi \Delta})$ , dove $\tau$ è il diametro medio del cluster e $\Delta$ è la distanza media inter-cluster.

Contributi Chiave

Framework Modulare: Il documento introduce un approccio modulare e trasparente in cui il clustering, l'embedding e l'allineamento sono fasi distinte. Ciò consente agli utenti di scegliere algoritmi specifici per ogni fase per mirare a specifiche proprietà di visualizzazione (ad es., utilizzare TriMap per il richiamo kNN o PCA per la preservazione della distanza).
Controllo Esplicito sulla Geometria Globale: A differenza di t-SNE e UMAP, che gestiscono la struttura globale in modo implicito e spesso opaco attraverso dinamiche guidate da forze, C+E ottimizza esplicitamente la preservazione delle distanze inter-cluster tramite allineamento rigido.
Soluzione al Problema dell'Affollamento: Il metodo affronta il problema dell'affollamento non alterando il kernel (come fa t-SNE con il kernel di Cauchy), ma scalando esplicitamente le distanze inter-cluster tramite il parametro $\alpha$ , garantendo che i cluster distinti non si sovrappongano pur mantenendo la loro organizzazione relativa.
Trasparenza: L'approccio è più interpretabile rispetto ai metodi end-to-end perché la preservazione della struttura locale (all'interno dei cluster) e della struttura globale (tra i cluster) è gestita da meccanismi separati e controllabili.

Risultati Sperimentali

Gli autori hanno valutato C+E su dataset sintetici e reali (MNIST, dati di organoidi cerebrali umani, dati della corteccia murina) rispetto ai baseline inclusi t-SNE, UMAP, PCA, Isomap, PHATE e TriMap.

Dataset di Forme Sintetiche: C+E ha ottenuto metriche locali perfette (recuperando le configurazioni esatte dei cluster) e ha mantenuto l'orientamento globale, mentre t-SNE e UMAP hanno introdotto una significativa distorsione locale.
MNIST: C+E ha separato con successo i cluster e li ha organizzati in raggruppamenti significativi (ad es., raggruppando cifre simili). Mentre t-SNE ha mostrato un richiamo kNN superiore per piccoli valori di $k$ , C+E ha superato t-SNE e UMAP nelle metriche globali (preservazione della classe e preservazione della distanza inter-cluster).
Dati di Organoidi Cerebrali Umani: Gli embedding C+E hanno rivelato una chiara traiettoria di sviluppo temporale e distinzioni tra tipi cellulari. Ha preservato le metriche globali comparabili o superiori a PCA e L-Isomap, offrendo al contempo una migliore struttura locale e meno collasso rispetto a t-SNE o UMAP.
Dati della Corteccia Murina: C+E ha rivelato una struttura da grossolana a fine (separando neuroni inibitori/eccitatori e non-neuroni) che non era presente in altri metodi. Sebbene la scala dell'embedding sia stata gonfiata (portando a uno stress normalizzato più elevato), le metriche globali invarianti per la scala hanno favorito C+E rispetto a UMAP e t-SNE.

Significato e Rivendicazioni

Il documento afferma che C+E offre un'alternativa competitiva ai metodi di visualizzazione esistenti, trovando un equilibrio tra fedeli embedding locali e una fedele organizzazione globale.

Gestione del Compromesso: Il metodo riconosce il compromesso intrinseco tra preservazione locale e globale, ma fornisce un meccanismo (il parametro $\alpha$ ) per gestire esplicitamente questo compromesso.
Flessibilità: Il framework permette agli utenti di dare priorità a metriche specifiche (ad es., richiamo kNN tramite TriMap o preservazione della distanza tramite PCA) senza sacrificare l'organizzazione globale dei cluster.
Limitazioni: Gli autori notano con modestia che t-SNE rimane lo stato dell'arte per massimizzare il richiamo kNN per piccoli valori di $k$ . Suggeriscono che il richiamo kNN di C+E può essere migliorato aumentando $\alpha$ o creando più cluster, sebbene ciò comporti il rischio di introdurre falsi cluster. La complessità computazionale del passaggio di allineamento scala quadraticamente con il numero di punti, sebbene vengano impiegate strategie di sottocampionamento per mitigarne l'impatto.

In conclusione, gli autori sostengono che C+E fornis la un approccio più trasparente e controllabile per visualizzare dati raggruppati, preservando sia la geometria interna dei cluster sia il posizionamento relativo dei cluster stessi, cosa che viene spesso persa nelle popolari tecniche di riduzione della dimensionalità non lineare.