🤖 machine learning

Class Angular Distortion Index for Dimensionality Reduction

Questo articolo introduce l'Indice di Distorsione Angolare di Classe (CADI), una metrica differenziabile basata sugli angoli interni che valuta la fedeltà dell'organizzazione dei cluster nelle proiezioni di riduzione della dimensionalità, affrontando i limiti delle metriche esistenti che non riescono a catturare le disposizioni relative dei cluster o presuppongono forme sferiche.

Autori originali: Kaviru Gunaratne, Stephen Kobourov, Jacob Miller

Pubblicato 2026-05-04

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Kaviru Gunaratne, Stephen Kobourov, Jacob Miller

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Il Grande Problema: Il Dilemma della "Mappa Piana"

Immagina di avere una gigantesca scultura tridimensionale composta da diverse palle di argilla di colori diversi. Alcune palle sono annidate all'interno di altre (come le bambole russe), alcune hanno la forma di anelli lunghi e altre sono attorcigliate in nodi complessi.

Ora, immagina di voler scattare una fotografia di questa scultura per mostrarla a qualcuno che comprende solo i disegni bidimensionali (come un foglio di carta). È esattamente ciò che fa la Riduzione della Dimensionalità (DR): schiaccia dati complessi ad alta dimensionalità in una semplice immagine 2D o 3D affinché gli esseri umani possano vederli.

Il problema è che schiacciare un oggetto 3D su una pagina 2D lo distorce inevitabilmente.

Il Vecchio Metodo: Per anni, strumenti popolari come t-SNE e UMAP sono stati gli "artisti" di questo mondo. Sono eccellenti nel raggruppare cose simili. Se hai un mucchio di argilla rossa e un mucchio di argilla blu, creeranno due distinti e compatti grumi sulla carta.
Il Problema: Sebbene rendano i grumi esteticamente gradevoli, spesso rovinano la relazione tra i grumi. Potrebbero posizionare il grumo rosso esattamente accanto a quello blu, anche se nel mondo 3D originale si trovavano su lati opposti della stanza. Oppure, potrebbero schiacciare un anello lungo e attorcigliato in un cerchio stretto, facendolo sembrare una palla solida.

I Vecchi Righelli: Perché Hanno Fallito

Gli scienziati avevano bisogno di un modo per valutare queste "fotografie" per vedere quale fosse la più fedele. Utilizzavano vecchi righelli come il Punteggio Silhouette e l'Indice di Davies-Bouldin.

Pensa a questi vecchi righelli come a giudici che si preoccupano solo di una cosa: "I gruppi sono compatti e separati?"

Se il giudice vede due grumi compatti, rotondi e separati, assegna un punteggio alto.
Se il giudice vede una catena lunga e sinuosa o un insieme di anelli annidati, si confonde. Potrebbe pensare che gli anelli annidati siano un unico grande grumo disordinato, o potrebbe preferire un disegno casuale e disordinato perché, per caso, sembra avere grumi separati.

Il documento sostiene che questi giudici sono ciechi alla forma e alla struttura. Non importa loro se un anello è effettivamente un anello o se una palla è all'interno di un'altra; vogliono solo vedere cerchi puliti, rotondi e separati.

La Nuova Soluzione: CADI (Il Giudice "Angolare")

Gli autori introducono una nuova metrica chiamata CADI (Class Angular Distortion Index, Indice di Distorsione Angolare di Classe).

L'Analogia: Il Turista con la Fotocamera
Immagina di essere un turista in un museo che osserva una scultura. Per comprendere la forma della stanza, non guardi solo la distanza tra gli oggetti; guardi gli angoli.

Se ti trovi nel punto A e guardi i punti B e C, qual è l'angolo tra la tua linea di vista verso B e la tua linea di vista verso C?
Se ti sposti in un punto diverso, quell'angolo cambia?

CADI funziona allo stesso modo. Invece di misurare quanto i cluster sono distanti tra loro, misura gli angoli formati da terne di punti.

Sceglie un punto in un gruppo (Classe A).
Sceglie due punti in un gruppo diverso (Classe B).
Misura l'angolo formato nel primo punto.

Se l'immagine 2D preserva la "forma" del mondo, quegli angoli rimarranno gli stessi. Se l'immagine schiaccia un anello in una palla, quegli angoli cambieranno drasticamente. CADI calcola l'"errore" in questi angoli. Un punteggio più basso significa che gli angoli sono preservati e che la mappa è più fedele.

Perché Questo È Importante: Il Test delle "Bambole Russe"

Il documento testa questo con un esempio specifico: Sfere Annidate (come le bambole russe).

La Realtà: Hai una sfera piccola all'interno di una media, all'interno di una grande.
I Vecchi Giudici (Silhouette): Li odiano. Vogliono vedere tre palle rotonde e separate. Potrebbero valutare un grafico a dispersione casuale e disordinato come "buono" perché i punti sembrano per caso separati, anche se la struttura annidata è completamente persa.
Il Nuovo Giudice (CADI): Guarda gli angoli. Vede che la sfera "interna" viene osservata dalla sfera "esterna" a un angolo specifico. Sa che se la proiezione appiattisce tutto in un caos, gli angoli saranno sbagliati. Identifica correttamente la proiezione che mantiene le "bambole" annidate.

Il Nuovo Strumento: AngleEmbedding

Poiché CADI si basa su una matematica che può essere calcolata passo dopo passo (è "differenziabile"), gli autori non hanno costruito solo un righello; hanno costruito un nuovo artista.

Hanno creato un nuovo metodo chiamato AngleEmbedding.

Pensa a questo come a un nuovo tipo di fotocamera che non cerca solo di raggruppare le cose insieme. Invece, cerca di minimizzare gli errori angolari.
Utilizza una rete neurale (un tipo di intelligenza artificiale) per aggiustare costantemente l'immagine finché gli angoli tra i gruppi non corrispondono il più possibile al mondo 3D originale.
Il risultato? Proiezioni che potrebbero sembrare un po' "più disordinate" o meno "perfettamente separate" rispetto a t-SNE, ma che raccontano la verità su come i gruppi si relazionano tra loro (ad esempio, mostrando che un gruppo è effettivamente all'interno di un altro, o che formano una catena).

Riepilogo dei Risultati

Le vecchie metriche sono distorte: Amano i grumi rotondi e separati e odiano forme complesse come anelli, catene o strutture annidate. Spesso assegnano punteggi alti a mappe casuali e scadenti.
CADI vede la forma: Misurando gli angoli, CADI può distinguere tra una vera struttura annidata e un mucchio disordinato. Premia le mappe che mantengono intatto lo "scheletro" dei dati.
AngleEmbedding funziona: Il nuovo metodo costruito utilizzando CADI ricrea con successo strutture complesse (come le sfere annidate e gli anelli collegati) che altri strumenti popolari non riescono a mostrare correttamente.

La Conclusione: Se vuoi vedere come diversi gruppi di dati sono separati, i vecchi strumenti (t-SNE/UMAP) vanno bene. Ma se vuoi comprendere la vera geometria e le relazioni tra quei gruppi (come chi è dentro chi, o come sono collegati tra loro), CADI è il giudice migliore e AngleEmbedding è l'artista migliore.

1. Enunciato del Problema

Le tecniche di Riduzione della Dimensionalità (DR) (ad es. t-SNE, UMAP, PCA) sono essenziali per visualizzare dati ad alta dimensionalità. Tuttavia, una limitazione critica nella valutazione attuale della DR è la rappresentazione fuorviante delle relazioni tra i cluster.

Il Problema Centrale: Sebbene molti metodi DR separino con successo i cluster (rendendoli distinti "blob"), spesso distorcono le relazioni geometriche globali tra questi cluster. Ad esempio, strutture annidate, varietà curve o cluster intrecciati possono essere appiattiti o riorganizzati arbitrariamente nella proiezione.
Limitazioni delle Metriche Esistenti: Le attuali metriche di qualità non riescono a catturare queste distorsioni perché si basano su assunzioni errate:
- Assunzione di Separabilità: Metriche come Silhouette Score e Davies-Bouldin Index assumono che i cluster siano compatti, globulari e ben separati. Premiano le proiezioni che creano "blob" compatti e isolati, anche se ciò distrugge la vera struttura topologica (ad es. trasformando sfere annidate in cerchi separati).
- Pregiudizio verso il Centroide: Metriche come Label Trustworthiness & Continuity (Label-T&C) si basano sui centroidi dei cluster. Se i cluster si sovrappongono o sono annidati (i centroidi coincidono), queste metriche non riescono a distinguere tra una proiezione fedele e una casuale.
- Punto vs Livello Cluster: La maggior parte delle metriche valuta le distanze punto-punto o coppia-punto, trascurando le relazioni geometriche di ordine superiore tra gruppi di punti.

2. Metodologia: Class Angular Distortion Index (CADI)

Gli autori propongono CADI, una nuova metrica progettata per valutare la preservazione delle relazioni geometriche inter-cluster utilizzando angoli interni.

Concetto Fondamentale

Invece di misurare le distanze tra centroidi o punti individuali, CADI misura gli angoli interni formati da terne di punti in cui il punto di riferimento appartiene a una classe, e gli altri due punti appartengono a una classe diversa.

Intuizione: Osservando come un cluster $C_b$ "appare" dalla prospettiva di un punto nel cluster $C_a$ (tramite l'angolo $\angle jik$ ), la metrica cattura la forma e l'orientamento relativo dei cluster.
Differenziabilità: Poiché si basa sulla similarità del coseno degli angoli, CADI è differenziabile, consentendone l'uso come funzione di perdita per l'ottimizzazione.

Definizione Matematica

Dato un dataset $X$ e una proiezione $Y$ , con una partizione di classi $C$ :
$\text{CADI}(X, Y, C) = \frac{1}{T} \sum_{i \in C_a, j,k \in C_b, j \neq k} \left( \cos(\theta_X(j,i,k)) - \cos(\theta_Y(j,i,k)) \right)^2$
Dove:

$i$ è un punto di riferimento nella classe $C_a$ .
$j, k$ sono punti in una classe diversa $C_b$ .
$\theta$ rappresenta l'angolo interno in $i$ formato dai vettori verso $j$ e $k$ .
$T$ è il numero totale di terne campionate.
Obiettivo: Minimizzare CADI (valori più vicini a 0 sono migliori).

Implementazione Pratica

Campionamento: Calcolare la somma completa è $O(n^3)$ . Gli autori dimostrano che campionare $k = O(n)$ terne (specificamente $40n$ ) produce risultati stabili con varianza trascurabile, rendendo la metrica scalabile.
Invarianza: CADI è invariante rispetto a traslazione, rotazione e scalatura uniforme, poiché si basa esclusivamente sugli angoli.
AngleEmbedding: Gli autori introducono un nuovo algoritmo DR, AngleEmbedding, che utilizza CADI come funzione di perdita ottimizzata tramite una rete neurale parametrica (rete feedforward) per generare proiezioni che preservano specificamente le relazioni angolari inter-classe.

3. Contributi Chiave

Nuova Metrica (CADI): Una metrica di qualità a livello di cluster che supera le assunzioni di "globalità" e "separabilità" delle metriche esistenti. Si rivolge specificamente alla preservazione di strutture complesse come cluster annidati, curvi o intrecciati.
Dimostrazione delle Modalità di Fallimento: Il documento fornisce prove estese che le metriche esistenti (Silhouette, Label-T&C, ecc.) spesso classificano proiezioni casuali o proiezioni a "blob" più in alto rispetto a proiezioni che preservano fedelmente topologie complesse.
Algoritmo AngleEmbedding: Una tecnica DR supervisionata innovativa che ottimizza CADI, dimostrando che la metrica può essere utilizzata efficacemente per guidare la generazione di proiezioni ad alta fedeltà.
Benchmarking Completo: Valutazione su oltre 20 dataset sintetici e reali (inclusi sfere annidate, anelli, espressione genica e dati testuali) confrontando CADI con altre 8 metriche e 8 algoritmi DR.

4. Risultati

La valutazione evidenzia discrepanze significative tra CADI e le metriche esistenti:

Dati Sintetici (Sfere Annidate e Anelli):
- Scenario: I dati consistono in 5 sfere annidate o una catena di anelli interbloccati.
- Metriche Esistenti: Silhouette Score e Label-T&C spesso classificano t-SNE o UMAP (che rompono gli anelli in blob separati o disperdono le sfere) come i migliori, o addirittura classificano Proiezioni Casuali in alto perché i centroidi si sovrappongono.
- CADI: Identifica correttamente AngleEmbedding e PCA (che preservano l'ordinamento lineare o annidato) come i migliori, assegnando i punteggi peggiori ai metodi che distruggono la topologia.
Dati Reali (Fegato, USPS, TREC):
- Dati sul Fegato: Le cellule tumorali (HCC) hanno una varianza maggiore rispetto alle cellule sane. t-SNE crea blob di dimensioni uguali e separati, nascondendo questa varianza. CADI premia AngleEmbedding e PCA, che mostrano correttamente il cluster HCC come più disperso.
- USPS (Cifre): Le dimensioni dei cluster variano significativamente in base alla cifra. t-SNE forza cluster di dimensioni uguali. CADI premia le proiezioni in cui le dimensioni dei cluster riflettono la vera distribuzione dei dati (preservata da AngleEmbedding).
- Correlazione: CADI mostra una bassa correlazione con altre metriche (ad es. la correlazione di Spearman con Silhouette è ~0,24), confermando che misura un aspetto distinto della qualità della proiezione.
Ottimizzazione degli Iperparametri: CADI è stato utilizzato con successo per guidare la selezione degli iperparametri per UMAP, identificando configurazioni che preservano meglio la struttura globale anche quando l'ispezione visiva è ambigua.

5. Significato e Conclusione

Cambiamento di Paradigma: Il documento sostiene che per compiti che coinvolgono l'analisi delle relazioni tra cluster (ad es. comprendere gerarchie, annidamenti o topologia globale), le attuali metriche focalizzate sulla "separabilità" sono fuorvianti. CADI offre un'alternativa necessaria per valutare la fedeltà strutturale.
Selezione degli Strumenti: Gli autori chiariscono i casi d'uso appropriati:
- Usare t-SNE/UMAP se l'obiettivo è semplicemente identificare il numero di cluster o per l'esplorazione iniziale.
- Usare CADI/AngleEmbedding se l'obiettivo è comprendere come i cluster si relazionano tra loro, le loro posizioni relative e le loro forme geometriche.
Lavori Futuri: Gli autori suggeriscono di estendere AngleEmbedding a spazi non euclidei (sfere, iperboloide) e di approfondire l'analisi teorica dell'aggregazione degli errori angolari.

In sintesi, CADI affronta un punto cieco critico nella valutazione della riduzione della dimensionalità quantificando la distorsione della geometria inter-cluster, fornendo una guida più affidabile per gli analisti che lavorano con strutture di dati complesse e non globulari.