Riepilogo Tecnico: GICDM – Mitigazione dell'Hubness per una Valutazione Affidabile dei Modelli Generativi Basata sulla Distanza

1. Enunciato del Problema

La valutazione dei modelli generativi si basa frequentemente su spazi di embedding ad alta dimensionalità (ad esempio, InceptionV3, DINOv2, CLAP) per calcolare le distanze tra campioni reali e sintetici. Tuttavia, questi spazi ad alta dimensionalità sono suscettibili al fenomeno dell'hubness, una conseguenza della maledizione della dimensionalità.

Nelle alte dimensioni, le relazioni di vicinato più prossimo diventano altamente asimmetriche. Certi punti, denominati hub, appaiono in modo sproporzionato come vicini più prossimi di altri punti, anche quando sono semanticamente non correlati. Al contrario, molti punti, denominati anti-hub, non appaiono mai come vicini più prossimi. Questa distorsione invalida l'assunzione che la prossimità implichi similarità semantica.

Il documento dimostra che l'hubness distorce severamente le metriche standard di fedeltà e copertura basate sulla distanza (ad esempio, Precisione, Recall, Densità, Copertura). Nello specifico:

• Falsità della Fedeltà: I punti "hub" generati appaiono artificialmente vicini a molti punti reali, gonfiando i punteggi di fedeltà.
• Falsità della Copertura: I punti reali nelle regioni "anti-hub" agiscono come punti ciechi, ricevendo punteggi di fedeltà nulli dai campioni generati.
• Fallimento delle Metriche: In scenari in cui le distribuzioni reali e generate sono disgiunte (ad esempio, miscele di ipersfere con raggi scambiati), le metriche standard producono erroneamente punteggi non nulli nelle alte dimensioni, fallendo nel rilevare la mancanza di sovrapposizione.

Le metriche esistenti spesso assumono la normalità o si basano su approssimazioni distribuzionali semplici che non tengono conto di queste distorsioni strutturali nello spazio di embedding.

2. Metodologia: GICDM

Gli autori propongono Generative ICDM (GICDM), un metodo progettato per mitigare l'hubness specificamente per la valutazione dei modelli generativi. GICDM estende la classica Misura di Dissimilarità Contestuale Iterativa (ICDM) (Jégou et al., 2010), che in precedenza era stata scartata per la valutazione generativa a causa di preoccupazioni computazionali e della mancanza di gestione dei campioni fuori dal campione (out-of-sample).

GICDM opera secondo tre requisiti fondamentali:

1. Uniformare la Densità dei Dati Reali: Ridurre l'hubness nel dataset reale in modo che le relazioni di vicinato più prossimo siano significative e simmetriche.
2. Preservare il Posizionamento Relativo: Mantenere la vera struttura geometrica locale tra i punti generati e la varietà (manifold) dei dati reali.
3. Indipendenza Condizionale: Garantire che la valutazione di un punto generato dipenda esclusivamente dalla sua relazione con l'insieme reale, non da altri punti generati.

Passaggi Algoritmici

1. ICDM sui Dati Reali: L'algoritmo ICDM viene applicato iterativamente all'insieme di punti di dati reali $\{x^r_i\}$. Questo processo calcola fattori di scala $\{\delta^r_i\}$ che appiattiscono efficacemente la densità locale della varietà dei dati reali. La regola di aggiornamento scala iterativamente le distanze per equalizzare la distanza media dei vicini per tutti i punti, convergendo a uno stato in cui le stime della densità locale sono uniformi.
2. Scalatura per Campioni Fuori dal Campione per i Punti Generati: Per ogni punto generato $x^g_j$, viene calcolato un fattore di scala $\delta^g_j$ in modo indipendente. Questo deriva dall'imposizione che la distanza media dei vicini del punto generato (rispetto ai vicini reali scalati) corrisponda alla distanza media di equilibrio dei dati reali.
   $$\delta^g_j = \frac{\mu_{r,eq}}{\frac{1}{K+1} \sum_{k=1}^{K+1} \delta^r_{NN^{eq}_k(x^g_j)} d(x^g_j, NN^{eq}_k(x^g_j))}$$
   Qui, $K+1$ è utilizzato invece di $K$ per tenere conto del fatto che il punto generato non fa parte dell'insieme reale.
3. Filtraggio Multi-Scala: Per prevenire una correzione eccessiva, il metodo impiega una strategia di filtraggio. Se il fattore di scala calcolato $\delta^g_j$ di un punto generato si discosta significativamente dalla scala media dei suoi vicini reali, viene segnalato come esterno alla varietà dei dati reali.
   • Il filtraggio viene eseguito a multiple scale (utilizzando due diverse dimensioni di vicinato, ad esempio $K_1$ e $K_2$). Questo affronta il "regime di incrocio" in cui, in specifiche dimensioni e densità, punti fuori dalla varietà potrebbero coincidentemente avere distanze simili a punti dentro la varietà.
   • I punti che non superano il filtro ricevono fedeltà zero e non contribuiscono alla copertura.

La dissimilarità finale tra un punto reale $x^r_i$ e un punto generato $x^g_j$ è definita come:
$$\text{GICDM}(x^r_i, x^g_j) = d(x^r_i, x^g_j) \cdot \delta^r_i \cdot \delta^g_j$$

3. Contributi Chiave

• Dimostrazione dell'Hubness negli Embedding: Il documento mostra empiricamente che gli spazi di embedding comuni utilizzati per la valutazione dei modelli generativi (VGG16, InceptionV3, DINOv2, DINOv3, CLAP) presentano un'hubness significativa, con il top 1% dei punti che appare 4–16 volte più frequentemente come vicini rispetto alla media, e il 10–30% dei punti che agisce come anti-hub.
• Rivitalizzazione dell'ICDM: Gli autori dimostrano che la Misura di Dissimilarità Contestuale Iterativa (ICDM), precedentemente trascurata a favore della NICDM non iterativa, supera costantemente altri metodi di riduzione dell'hubness (inclusi CSLS, DSL e proiezione sferica) su 17 combinazioni dataset-embedding.
• Framework GICDM: L'introduzione di un metodo su misura che applica l'ICDM ai dati reali gestendo al contempo i punti generati fuori dal campione tramite scalatura indipendente e filtraggio multi-scala.
• Validazione tramite Benchmark: Test estesi su benchmark sintetici (Räsä et al., 2025) e dataset reali (CIFAR-10, ImageNet, LSUN, FFHQ) che mostrano come GICDM risolva i fallimenti delle metriche causati dall'hubness.

4. Risultati Sperimentali

• Benchmark Sintetici: Sul benchmark proposto da Räsä et al. (2025), GICDM ha migliorato significativamente le prestazioni delle metriche standard. Ad esempio, Clipped Density ha superato 23 criteri (rispetto a 18) e Clipped Coverage ne ha superati 22 (rispetto a 18). Crucialmente, GICDM ha corretto il "Test dell'Ipersfera", in cui distribuzioni disgiunte producevano in precedenza punteggi non nulli a causa dell'hubness; con GICDM, i punteggi sono rimasti correttamente a zero.
• Correlazione Umana: Quando valutato contro i tassi di errore umani (discriminazione tra immagini reali e generate), GICDM ha mantenuto o migliorato la correlazione di Pearson della Clipped Density (la metrica migliore). Questo miglioramento è stato più pronunciato per gli embedding DINOv3, che sono fortemente influenzati dall'hubness.
• Guida Senza Classificatore: Negli esperimenti con DiT-XL-2 su ImageNet, le metriche standard suggerivano erroneamente che la guida senza classificatore aumentasse sia la fedeltà che la copertura. GICDM ha corretto questo, mostrando un aumento della fedeltà ma una diminuzione della copertura, allineandosi con le aspettative teoriche.
• Analisi Qualitativa: Le visualizzazioni dei dati LSUN Bedroom hanno mostrato che l'hub generato più frequente appariva in 64 quartieri reali prima della correzione, scendendo a 4 dopo GICDM. I vicini rimanenti erano semanticamente più simili all'hub, indicando una struttura di vicinato ripristinata.

5. Significato e Limitazioni

Il documento afferma che GICDM consente una valutazione più affidabile e attendibile dei modelli generativi negli spazi ad alta dimensionalità risolvendo i fallimenti indotti dal fenomeno dell'hubness. Ripristina la validità delle metriche basate sulla distanza, assicurando che si allineino meglio alla valutazione umana e alle aspettative teoriche.

Affermazioni Modeste e Limitazioni:

• Dipendenza dalla Robustezza: Gli autori dichiarano esplicitamente che l'efficacia di GICDM dipende dal fatto che la metrica sottostante sia robusta agli outlier reali. Metriche come Clipped Density e Clipped Coverage, che limitano l'influenza dei singoli punti, beneficiano maggiormente. Metriche non robuste (ad esempio, Precisione standard, Densità) potrebbero non migliorare o addirittura peggiorare la correlazione con i punteggi umani quando viene applicato GICDM.
• Non è una Metrica di Distanza: GICDM è una misura di dissimilarità che non obbedisce alla disuguaglianza triangolare. Tuttavia, gli autori sostengono che ciò sia accettabile per la valutazione generativa, che richiede principalmente la classificazione dei vicini e la determinazione dell'appartenenza al quartiere, operazioni che non richiedono strettamente la disuguaglianza triangolare.
• Costo Computazionale: Sebbene GICDM aggiunga un sovraccarico (ICDM iterativo e calcoli di scalatura), la complessità è $O(N(TN + M))$, che è comparabile ai calcoli di distanza brute-force $O(N^2)$ già richiesti per le ricerche di vicini più prossimi in alta dimensionalità.

In conclusione, il documento postula che l'hubness sia una causa fondamentale, spesso trascurata, di fallimenti delle metriche nella valutazione dei modelli generativi e che GICDM fornisca una correzione necessaria per ripristinare l'affidabilità di queste valutazioni.