Nel vasto panorama della moderna scienza dei dati, esiste una convinzione persistente secondo cui più uno strumento è complesso, migliore deve essere nel trovare schemi nascosti. Questa idea ha guidato l'ascesa del deep clustering, una tecnica che utilizza potenti reti neurali per raggruppare i punti dati insieme. Per anni, i ricercatori hanno assunto che questi sistemi sofisticati, che imparano a comprimere le informazioni in nuove forme semplificate, siano superiori ai metodi più vecchi e semplici. L'obiettivo è sempre lo stesso: smistare un mix caotico di dati in gruppi distinti, che si tratti di clienti con abitudini simili, geni con funzioni simili o pixel che formano un oggetto riconoscibile. La saggezza prevalente suggerisce che, per trovare gruppi che siano irregolari nella forma, varino molto nelle dimensioni o abbiano diversi livelli di densità, sia necessario utilizzare questi avanzati sistemi di deep learning.

Tuttamente, una nuova indagine sfida questa convinzione di lunga data. I ricercatori hanno scoperto che la stessa complessità del deep clustering potrebbe oscurare una verità più semplice. Hanno scoperto che questi sistemi avanzati spesso non riescono a raggiungere il proprio obiettivo prefissato: identificare cluster di qualsiasi forma, dimensione o densità. Al contrario, tendono a ricadere nelle stesse rigide limitazioni dei metodi più vecchi e semplici, forzando i dati in forme sferiche ordinate che non riflettono la realtà. Lo studio rivela che la soluzione non richiede computer più potenti o reti più profonde. Trattando un gruppo di dati non come una collezione di singoli punti da confrontare, ma come una singola distribuzione di probabilità, un approccio molto più semplice può avere successo laddove il deep learning fatica. Questo approccio, che si basa su una logica matematica diretta piuttosto che su un addestramento complesso, può scoprire la vera struttura dei dati senza dover prima apprendere una rappresentazione nascosta.

I ricercatori hanno iniziato mettendo in discussione la definizione fondamentale di ciò che un cluster sia effettivamente. Per decenni, la definizione standard è stata quella di trovare gruppi in cui i punti all'interno siano simili tra loro e diversi dai punti esterni. Questa definizione si basa sulla misurazione della distanza tra ogni singola coppia di punti. Il problema, come sottolineano gli autori, è che questo approccio costringe l'algoritmo a cercare gruppi rotondi e uniformemente spaziati, molto simile al tentativo di inserire un incastro quadrato in un buco rotondo. Anche quando vengono utilizzati sistemi di deep learning per trasformare i dati in un nuovo spazio, essi finiscono spesso per ricreare queste stesse forme rotonde e rigide. Lo studio ha testato questo aspetto fornendo ai sistemi di deep clustering dati che formavano forme a mezzaluna, gruppi di dimensioni vastamente diverse e cluster con densità variabili. I risultati sono stati chiari: i metodi di deep learning, inclusi il famoso Deep Embedded Clustering e le sue versioni migliorate, non sono riusciti a riconoscere queste strutture complesse. Hanno prodotto risultati che non erano migliori dei metodi base non profondi che avrebbero dovuto superare.

Il problema centrale risiede nel modo in cui questi sistemi sono progettati. Essi tentano di apprendere un nuovo modo di vedere i dati, una "rappresentazione latente", sperando che questa nuova visione renda i cluster facili da separare. I ricercatori sostengono che questo processo di apprendimento sia il collo di bottiglia. I sistemi sono addestrati per minimizzare la distanza tra i punti e un centro centrale, un metodo che favorisce intrinsecamente le forme rotonde. Non importa quanto i dati vengano trasformati, il sistema non può sfuggire ai vincoli geometrici del proprio design. Lo studio mostra che i modelli di deep learning non apprendono effettivamente una rappresentazione che permetta loro di vedere le vere forme irregolari dei dati. Inveve, rimangono intrappolati in un ciclo di tentativi di forzare dati complessi in stampi sferici semplici.

In contrasto, i ricercatori propongono un modo diverso di pensare al problema, che chiamano "Cluster-as-Distribution" (Cluster come Distribuzione). Inve instead di chiedere quanto un punto sia simile a un altro, questo metodo chiede se un gruppo di punti si comporti come una singola distribuzione statistica. Immaginate una nuvola di punti dati; invece di misurare la distanza tra ogni coppia di punti, questo approccio osserva la forma e la diffusione dell'intera nuvola nel suo insieme. Utilizzando uno strumento matematico che misura la similarità tra queste intere nuvole, il metodo può identificare gruppi di qualsiasi forma, dimensione o densità senza dover apprendere un nuovo modo di vedere i dati. Questo approccio non richiede l'addestramento di una rete neurale o la ricerca di una rappresentazione nascosta. Semplicemente guarda i dati così come sono e li raggruppa in base alla distribuzione sottostante dei punti.

L'evidenza a favore di questo metodo più semplice è convincente. Quando testato sugli stessi dataset difficili in cui il deep learning è fallito, questo approccio basato sulla distribuzione ha identificato con successo le forme, le dimensioni e le densità complesse. Ha funzionato su dati sintetici progettati per truffare gli algoritmi, ed è stato anche eccezionalmente efficace su dati reali ad alta dimensionalità, come immagini e dati biologici sui geni. In molti casi, ha superato significativamente i metodi di deep learning. Ad esempio, su un dataset di espressione genica a singola cellula con migliaia di dimensioni, i metodi di deep learning hanno faticato a trovare una struttura significativa, mentre il metodo basato sulla distribuzione ha trovato gruppi chiari e accurati. I ricercatori hanno scoperto che i metodi di deep learning non erano solo leggermente peggiori; erano fondamentalmente incapaci di raggiungere l'obiettivo per cui erano stati progettati perché ignoravano l'informazione distributiva inerente ai dati.

Lo studio ha anche esaminato se il deep learning potesse ancora avere un vantaggio negli spazi ad alta dimensionalità, un argomento comune per il suo utilizzo. I risultati hanno mostrato che, anche in questi scenari complessi e ad alta dimensionalità, il metodo basato sulla distribuzione ha mantenuto il passo, spesso superando gli approcci di deep learning. I sistemi di deep learning non hanno mostrato una svolta nelle prestazioni; anzi, spesso sono crollati, producendo risultati peggiori rispetto ai metodi di base più semplici. I ricercatori hanno concluso che la convinzione che il deep learning sia necessario per il clustering di dati complessi sia un malinteso. La capacità di trovare forme e densità arbitrarie non deriva dalla complessità del modello, ma dalla corretta definizione di cosa sia un cluster.

Questo lavoro suggerisce un cambiamento nel modo in cui il campo dovrebbe approcciare il clustering. I ricercatori sostengono che l'attenzione debba spostarsi dal tentativo di apprendere migliori rappresentazioni all'uso dell'informazione distributiva che è già presente nei dati. Propongono che la definizione di clustering debba essere aggiornata per riflettere che un cluster è un insieme di punti tratti da una specifica distribuzione, piuttosto che solo un insieme di punti simili. Questo cambio di prospettiva permette un metodo che è non solo più accurato, ma anche più veloce e facile da comprendere. Lo studio dimostra che l'obiettivo previsto del deep clustering — trovare gruppi di qualsiasi forma, dimensione e densità — può essere raggiunto ora, senza deep learning, semplicemente rispettando la natura statistica dei dati. Le scoperte mettono in discussione la dipendenza del settore dalle complesse reti neurali per compiti non supervisionati e suggeriscono che, a volte, lo strumento più efficace è quello che guarda i dati esattamente come sono, senza cercare di cambiarli prima.