t-SNE Exaggerates Clusters, Provably

Este artículo demuestra teórica y empíricamente que el t-SNE exagera las agrupaciones y distorsiona la estructura de los datos, haciendo imposible inferir de manera fiable la fuerza de los clústeres originales o la magnitud de los valores atípicos a partir de sus visualizaciones.

Lo esencial

¡Claro que sí! Imagina que el t-SNE es como un traductor de mapas muy famoso en el mundo de la ciencia de datos. Su trabajo es tomar un territorio enorme y complejo (datos de miles de dimensiones) y dibujarlo en una hoja de papel de dos dimensiones para que los humanos podamos entenderlo.

La gente confía ciegamente en este traductor, pensando que si ve dos islas separadas en el mapa, significa que en la realidad hay dos grupos de cosas muy diferentes. Si ve una isla solitaria, piensa que es un "monstruo" o un dato raro.

El problema que descubren estos autores es que el traductor es un gran mentiroso (o al menos, un gran exagerador).

Aquí te explico las tres grandes mentiras del t-SNE usando analogías simples:

1. La Ilusión de las Islas (Los grupos no son tan separados como parecen)

Imagina que tienes una caja llena de canicas de colores mezcladas al azar. No hay grupos; están todas revueltas. Si le pides al t-SNE que dibuje un mapa, ¡podría dibujarte dos islas perfectas y separadas!

• La analogía: Es como si un pintor decidiera que, aunque tus amigos están todos mezclados en una fiesta, los pintará en dos habitaciones separadas porque "se ven mejor así".
• La realidad: El t-SNE puede tomar datos que están casi pegados entre sí (una mezcla uniforme) y estirarlos para que parezcan dos grupos muy distintos. Y al revés: puede tomar dos grupos muy separados y, si le cambias un poquito los datos, hacer que parezcan una sola mancha.
• La lección: No puedes confiar en que si ves dos "manchas" separadas en el dibujo, es porque los datos originales estaban realmente separados. Podría ser solo una ilusión óptica del algoritmo.

2. El Efecto "Mariposa" (Un cambio pequeño, un desastre grande)

El t-SNE es extremadamente inestable. Es como un castillo de naipes.

• La analogía: Imagina que tienes un mapa de una ciudad. Si mueves una sola casa un milímetro hacia la izquierda, el t-SNE podría decidir que toda la ciudad debe reorganizarse: los barrios cambian de lugar, las calles se cruzan de forma diferente y el mapa final es totalmente distinto.
• El ataque del "Punto Veneno": Los autores demostraron que si añades un solo punto (un "punto veneno") en el centro de tus datos, el t-SNE puede colapsar todo el mapa.
  • Ejemplo: Tienes dos grupos de personas (deportes y política). Si pones a una persona neutral justo en el medio, el t-SNE podría mezclar a todos los deportistas y políticos alrededor de esa persona neutral, borrando la distinción entre los dos grupos. ¡Un solo punto destruyó la estructura!

3. El "Amigo que no deja ir" (Los outliers o datos raros desaparecen)

Normalmente, si tienes un dato que es un "raro" (un outlier), como una transacción bancaria fraudulenta en medio de millones de compras normales, querrías verlo separado, flotando lejos de todo.

• La analogía: Imagina que tienes una fiesta y llega un payaso muy extraño. Lo normal es que la gente se aleje de él. Pero el t-SNE es como un anfitrión obsesivo que nunca deja que nadie se aleje.
• La realidad: El t-SNE está programado para que todos los puntos se sientan "vecinos" de alguien. Si hay un punto muy lejos, el algoritmo lo "arrastra" hacia el grupo principal para que no se quede solo.
  • En el mundo real, esto es peligroso. Si estás buscando fraudes (datos raros), el t-SNE podría esconderlos dentro de la masa de datos normales, haciéndote creer que no hay fraude cuando en realidad sí lo hay. El t-SNE "suaviza" la realidad hasta que los monstruos desaparecen.

En resumen: ¿Qué nos dicen los autores?

El t-SNE es una herramienta visual hermosa pero engañosa.

1. No te fíes de la separación: Si ves grupos separados, no significa que los datos estén separados. Podría ser un "impostor" creado por el algoritmo.
2. No te fíes de la estabilidad: Un cambio minúsculo en los datos puede cambiar todo el dibujo.
3. No te fíes de los solitarios: Si buscas cosas raras o peligrosas (como fraudes), el t-SNE probablemente las esconderá entre la multitud.

La conclusión final: El t-SNE es genial para explorar y tener ideas, pero nunca debes usarlo para sacar conclusiones definitivas o para tomar decisiones importantes basándote solo en lo que ves en el dibujo. Es como mirar un mapa dibujado por un artista que a veces decide cambiar la geografía para que la pintura se vea más bonita. ¡Ten cuidado!

Resumen técnico

Aquí presento un resumen técnico detallado del artículo "T-SNE EXAGGERATES CLUSTERS, PROVABLY" (T-SNE Exagera los Clusters, Probablemente), publicado en ICLR 2026.

1. Problema y Contexto

El algoritmo t-SNE (t-Distributed Stochastic Neighbor Embedding) es una herramienta estándar en el análisis exploratorio de datos para visualizar datos de alta dimensión en espacios de baja dimensión (generalmente 2D o 3D). Su éxito práctico se basa en la creencia de que la estructura visual resultante refleja fielmente la estructura de agrupamiento (clusters) y la distribución de los datos de entrada.

Sin embargo, existe una falta de comprensión teórica sobre las falsas positivas (visualizar clusters cuando no existen) y las falsas negativas (no visualizar clusters cuando existen). El problema central abordado por los autores es determinar qué información sobre la entrada (fuerza de los clusters, presencia de valores atípicos o outliers) puede inferirse realmente de la salida de t-SNE. Los autores argumentan que la interpretación actual de las visualizaciones de t-SNE puede llevar a conclusiones científicas erróneas en campos como la genómica y la interpretabilidad de modelos de lenguaje.

2. Metodología

Los autores combinan un análisis teórico riguroso con experimentos empíricos para demostrar las limitaciones fundamentales de t-SNE.

• Análisis Teórico:

  • Definen formalmente el espacio de salida de t-SNE como el conjunto de puntos estacionarios ($\nabla L_X(Y) = 0$) de la función de pérdida basada en la divergencia de Kullback-Leibler (KL).
  • Utilizan métricas de validación de clusters (Puntuación Silueta, Índice Calinski-Harabasz, Índice Dunn) para cuantificar la "fuerza" de la separación de clusters en los datos de entrada.
  • Definen configuraciones de outliers basadas en la separación hiperplana y el diámetro de los datos.
  • Demuestran propiedades de invariancia del algoritmo, específicamente la invariancia aditiva respecto a los cuadrados de las distancias inter-punto.

• Experimentación:

  • Construyen conjuntos de datos "falsos" (impostor datasets) que tienen una estructura de clusters débil o inexistente pero que producen la misma visualización t-SNE que datos fuertemente agrupados.
  • Realizan ataques adversarios mediante la inyección de un solo punto ("punto venenoso" o poison point) o múltiples outliers para observar la degradación o distorsión de la visualización.
  • Comparan el comportamiento de t-SNE con el Análisis de Componentes Principales (PCA) y UMAP en escenarios controlados y con datos reales (genómica de células únicas, noticias de BBC, transacciones financieras).

3. Contribuciones Clave y Resultados Principales

El artículo presenta dos contribuciones teóricas principales que demuestran la incapacidad de t-SNE para inferir la realidad de los datos de entrada:

A. Mal Representación de la Saliencia de los Clusters (Teoremas 3, 5, 7)

Los autores prueban que la visualización de t-SNE no permite inferir la fuerza de la separación de los clusters en los datos originales.

1. Mismos Outputs, Diferentes Inputs (Teorema 3): Se demuestra que cualquier visualización t-SNE estacionaria (incluso una con clusters perfectamente separados) puede ser generada por un conjunto de datos con una separación de clusters arbitrariamente débil (cercana a cero).
   • Mecanismo: t-SNE es invariante bajo desplazamientos aditivos en los cuadrados de las distancias. Esto permite construir un "conjunto de datos impostor" que es esencialmente un simplex regular (sin estructura) pero que, tras un ajuste de distancias, produce la misma matriz de afinidad de entrada que un conjunto de datos fuertemente agrupado.
2. Inestabilidad ante Perturbaciones (Teorema 5): Pequeñas perturbaciones en las distancias de entrada (incluso $\epsilon$-perturbaciones en un simplex regular) pueden resultar en visualizaciones radicalmente diferentes.
3. Ataque de un Solo Punto (Teorema 7): La inserción de un solo punto "venenoso" (colocado en la media del conjunto de datos) puede destruir completamente la estructura de clusters visible en la salida, incluso si los datos originales estaban perfectamente agrupados. Esto ocurre porque en alta dimensión, el punto venenoso se convierte en el vecino más cercano de la mayoría de los puntos, alterando drásticamente la matriz de afinidad de entrada.

B. Mal Representación de los Outliers (Teorema 9)

Los autores prueban que t-SNE es incapaz de representar la extrema lejanía de los valores atípicos.

1. Límite Superior de Outliers: Se demuestra que, independientemente de qué tan lejos esté un punto de los demás en el espacio de entrada, en cualquier salida estacionaria de t-SNE, la medida de su extremidad ($\alpha$) está acotada superiormente por aproximadamente 3.266.
2. Asimetría de Afinidad: La causa raíz es la asimetría entre las matrices de afinidad de entrada ($P$) y salida ($Q$). Mientras que $P$ se comporta como un gráfico de vecinos más cercanos normalizado, $Q$ (basado en una distribución t) actúa como un gráfico de vecinos por radio. Esto fuerza al algoritmo a optimizar la posición del outlier para que esté cerca de al menos algunos puntos en la salida, "absorbiéndolo" en la estructura de los clusters principales.
3. Evidencia Empírica: En datos reales (ej. detección de fraude financiero), t-SNE mezcla a los outliers (fraudulentos) con la masa de datos normales, mientras que PCA logra mantenerlos separados.

4. Significado e Implicaciones

• Advertencia para la Práctica Científica: El trabajo advierte que la interpretación visual de t-SNE es engañosa. Un cluster bien definido en un gráfico t-SNE no garantiza que los datos de entrada tengan una separación fuerte. Del mismo modo, la ausencia de un cluster no implica necesariamente que los datos sean no estructurados.
• Fallo en la Detección de Anomalías: Dado que t-SNE suprime sistemáticamente la severidad de los outliers, no es una herramienta adecuada para tareas de detección de anomalías o fraude, donde la identificación visual de puntos lejanos es crucial.
• Inestabilidad Algorítmica: La demostración de que un solo punto puede alterar drásticamente la visualización (ataque adversario) sugiere que los resultados de t-SNE pueden ser frágiles y dependientes de la presencia de puntos específicos, lo que plantea dudas sobre la reproducibilidad en análisis exploratorios.
• Generalización: Aunque el foco es t-SNE, los autores sugieren que estas limitaciones podrían extenderse a otras técnicas de reducción de dimensionalidad basadas en fuerzas o optimización de afinidades (como UMAP, aunque con matices diferentes en su comportamiento con outliers).

Conclusión

El artículo "T-SNE Exaggerates Clusters, Provably" proporciona una refutación teórica sólida a la intuición común de que t-SNE preserva la estructura global de los datos. Demuestra que el algoritmo tiene sesgos inherentes que exageran la existencia de clusters (creando falsas positivas) y ocultan la existencia de outliers (creando falsas negativas). Los autores concluyen que los investigadores deben interpretar las visualizaciones de t-SNE con escepticismo y no inferir propiedades métricas o de separación de los datos originales basándose únicamente en la apariencia visual de la proyección.