📊 statistics

A novel k-means clustering approach using two distance measures for Gaussian data

Este artículo propone un nuevo algoritmo de agrupamiento k-means para datos gaussianos que utiliza métricas de distancia intra-cluster e inter-cluster junto con el criterio de Calinski-Harabasz para lograr una convergencia más robusta y un mejor manejo de valores atípicos en comparación con los métodos tradicionales.

Autores originales: Naitik Gada (Rochester Institute of Technology)

Publicado 2026-07-31

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Naitik Gada (Rochester Institute of Technology)

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que entras en una fiesta masiva y caótica donde miles de personas se mezclan, pero nadie sabe con quién pertenece cada uno. No hay etiquetas con nombres, no hay líderes de grupo y no hay letreros que indiquen las diferentes mesas. Tu trabajo es descubrir qué personas pasan tiempo juntas de forma natural. Este es el mundo del aprendizaje no supervisado, una rama de la informática donde los algoritmos intentan encontrar patrones ocultos en datos desordenados sin que se les den las respuestas de antemano. Una de las herramientas más populares para este trabajo se llama k-means clustering (agrupamiento de k-medias). Piensa en ello como un juego de sillas musicales donde la computadora intenta agrupar elementos similares encontrando un "centro" para cada grupo y atrayendo a todos más cerca de ese centro. El objetivo es asegurar que todos en un grupo sean muy similares entre sí, mientras son muy diferentes de las personas en otros grupos. Sin embargo, este juego tiene un defecto complicado: la computadora a menudo se queda estancada en una solución de "suficientamente buena" local porque comienza con una suposición aleatoria sobre dónde deberían estar los centros. Si elige el punto de partida equivocado, todo el agrupamiento puede salir mal. Esto es importante porque, en el mundo real, desde la organización de datos de clientes hasta el análisis de imágenes médicas, acertar con estos grupos es crucial para tomar decisiones inteligentes.

Este artículo presenta un nuevo giro al clásico juego de k-means para hacerlo más confiable. El autor, Naitik H. Gada, sugiere que el método tradicional solo observa qué tan cerca están las personas de su propio centro de grupo (llamado distancia intra-grupo o within-cluster distance). El nuevo enfoque añade una segunda regla: también comprueba qué tan alejados están los diferentes grupos entre sí (llamado distancia inter-grupo o inter-cluster distance). Imagina que, mientras agrupas a los asistentes a la fiesta, no solo preguntaras: "¿Estás cerca de tus amigos?", sino también: "¿Estás lo suficientemente lejos de las otras mesas?". Al equilibrar estas dos mediciones, el algoritmo intenta crear grupos que no solo sean estrechamente unidos, sino también claramente separados unos de otros.

Los investigadores probaron esta idea utilizando dos tipos de datos. Primero, crearon conjuntos de datos ficticios que parecían nubes de puntos redondas y ordenadas (simulando datos gaussianos) con diferentes niveles de "desorden" o varianza. También probaron el algoritmo con conjuntos de datos de referencia del mundo real, incluyendo los famosos datos de la flor Iris, un análisis químico de Vino y un conjunto de datos médicos de Cáncer de Mama. Los resultados mostraron que el nuevo método, que utiliza ambas mediciones de distancia, funcionó consistentemente mejor que el k-means tradicional. En las pruebas de datos ficticios, el nuevo algoritmo fue más preciso y menos propenso a cometer errores cuando los datos eran desordenados o cuando los puntos de partida eran complicados. Por ejemplo, en un conjunto de datos 2D con alta varianza, el nuevo método logró una precisión de 0.9801, comparado con 0.9508 para el método tradicional. En el conjunto de datos Iris, alcanzó una precisión de 0.8420 frente al 0.7751 del método antiguo.

El artículo también destaca que el nuevo método es mejor para manejar los "valores atípicos" (outliers), esos invitados a la fiesta que están parados un poco lejos de todos los demás. En el conjunto de datos de Vino, el método tradicional a veces clasificaba erróneamente estos puntos distantes, mientras que el nuevo método los identificaba correctamente. Sin embargo, los autores son cuidadosos al señalar que, si bien el nuevo método es una mejora, no es una solución mágica que resuelva todos los problemas. Todavía tiene dificultades con las posiciones iniciales de los grupos, y su rendimiento en datos de muy alta dimensión (como el conjunto de Cáncer de Mama de 9 dimensiones) fue solo ligeramente mejor que el del método tradicional. El estudio sugiere que añadir esta segunda medida de distancia hace que el agrupamiento sea "más sólido y robusto", pero sigue siendo un trabajo en progreso que abre la puerta a investigaciones aún más sofisticadas en el futuro.

Resumen Técnico: Un Nuevo Enfoque de Agrupamiento k-means Utilizando Dos Medidas de Distancia para Datos Gaussianos

Planteamiento del Problema
El análisis de agrupamiento (clustering) es una técnica fundamental de aprendizaje no supervisado utilizada para identificar la homogeneidad dentro de datos no estructurados y sin etiquetas. Entre varios métodos, el agrupamiento k-means es ampliamente utilizado debido a su eficiencia computacional en comparación con los enfoques jerárquicos. Sin embargo, el k-means tradicional sufre de dos limitaciones primarias:

Sensibilidad a la Inicialización: El algoritmo es altamente sensible a las posiciones iniciales de los centros de los grupos, lo que a menudo provoca la convergencia hacia mínimos locales en lugar del óptimo global.
Optimización de Métrica Única: El algoritmo estándar minimiza únicamente la Distancia Intra-Grupo (WCD, por sus siglas en inglés) para asegurar la homogeneidad dentro de los grupos. No maximiza explícitamente la separación entre diferentes grupos (Distancia Inter-Grupo o ICD).
Dependencia de un $k$ Predeterminado: El número de grupos ( $k$ ) debe especificarse de antemano, lo cual es difícil para datos de alta dimensión donde la visualización es poco práctica.

La literatura existente ha intentado abordar estos problemas mediante varios métodos de inicialización (por ejemplo, algoritmos genéticos, recocido simulado) y medidas de distancia alternativas (por ejemplo, Manhattan, Chebyshev). Sin embargo, muchos estudios dependen fuertemente de datos sintéticos, carecen de una cuantificación rigurosa utilizando métricas como la puntuación F1 o la sensibilidad, o no logran incorporar una métrica de distancia diseñada específicamente para maximizar la separación inter-grupal.

Metodología
El artículo propone una nueva modificación al algoritmo k-means estándar que incorpora tanto la Distancia Intra-Grupo (WCD) como la Distancia Inter-Grupo (ICD) como métricas de distancia.

Determinación de Grupos: El número de grupos ( $k$ ) no se elige arbitrariamente, sino que se determina mediante el índice Calinski-Harabasz, utilizando el método del codo (Elbow method) para la validación.
Lógica del Algoritmo:
- Inicialización: Los centros de los grupos se inicializan mediante una permutación aleatoria de índices del conjunto de datos.
- Optimización de Doble Métrica: A diferencia del k-means tradicional, que minimiza la suma de los cuadrados de las distancias euclidianas desde los puntos hasta sus centroides (WCD), el algoritmo propuesto optimiza una función de costo relativo. Esta función se define como la razón entre el WCD total y el ICD total.
- Definición de WCD: La suma de las distancias al cuadrado desde un centro de grupo a todos los puntos dentro de ese mismo grupo.
- Definición de ICD: La suma de las distancias al cuadrado entre un punto en el grupo $i$ y todos los puntos que no pertenecen al grupo $i$ , sumada sobre todos los grupos.
- Iteración: El algoritmo actualiza iterativamente los centroides minimizando este costo relativo. El proceso continúa hasta que los centroides se estabilizan.
Métricas de Evaluación: Para cuantificar el rendimiento, el estudio utiliza una Matriz de Confusión para calcular la Exactitud Global (OA), la Precisión (Valor Predictivo Positivo), la Sensibilidad (Recall) y la Puntuación F1.

Configuración Experimental
El algoritmo fue evaluado en dos categorías de conjuntos de datos:

Datos Sintéticos: Cuatro conjuntos de datos generados a partir de distribuciones normales con variaciones en dimensiones (2D y 3D) y varianzas (0.5 y 1.0). Estos fueron diseñados para probar el rendimiento tanto en grupos bien definidos como en grupos superpuestos (mal definidos).
Datos de Referencia (Benchmark): Tres conjuntos de datos del Repositorio de Aprendizaje Automático UCI:
- Iris: 150 instancias, 4 características, 3 clases.
- Wine: 178 instancias, 13 atributos químicos, 3 clases.
- Breast Cancer (Wisconsin): 569 instancias, 9 características, 2 clases (Benigno/Maligno).

Todos los experimentos se ejecutaron durante 100 iteraciones con semillas de inicialización aleatoria idénticas tanto para el algoritmo propuesto como para el algoritmo k-means tradicional para asegurar una comparación justa.

Resultos Clave
El algoritmo propuesto superó consistentemente al k-means tradicional en todos los conjuntos de datos, aunque la magnitud de la mejora varió:

Datos Sintéticos:
- En datos 2D con varianza 0.5, el método propuesto alcanzó un 97.05% de exactitud frente al 96.07% del k-means tradicional.
- En datos 2D con varianza 1.0 (grupos más superpuestos), la brecha se amplió al 98.01% frente al 95.08%.
- En datos 3D, el método propuesto mostró una robustez significativa, particularmente en escenarios de varianza 0.5 donde la exactitud del k-means tradicional cayó a ~60% en ciertas iteraciones debido a una mala inicialización, mientras que el método propuesto se mantuvo cerca del 100%.
Datos de Referencia:
- Iris: Exactitud propuesta del 84.20% frente al 77.51% (tradicional). El método propuesto también identificó correctamente valores atípicos específicos que el método tradicional clasificó erróneamente.
- Wine: Exactitud propuesta del 75.16% frente al 66.37%. El método propuesto demostró una volatilidad significativamente menor a través de las iteraciones.
- Breast Cancer: La diferencia fue mínima (96.12% frente a 95.82%), pero el método propuesto fue ligeramente más consistente y menos volátil.

Significancia y Reivindicaciones
El artículo sostiene que la inclusión de la métrica de Distancia Inter-Grupo (ICD) junto con la métrica WCD estándar crea un algoritmo de agrupamiento más robusto. Las principales contribuciones son:

Mejora de la Robustez: El enfoque de doble métrica reduce la sensibilidad a las posiciones iniciales de los centros de los grupos, resultando en una convergencia más consistente y en menos instancias de que el algoritmo se quede atrapado en malos mínimos locales.
Manejo de Valores Atípicos (Outliers): El método propuesto demuestra una capacidad superior para clasificar correctamente los valores atípicos en sus grupos reales en comparación con el método tradicional.
Validación Cuantificable: A diferencia de muchos estudios previos que dependen únicamente de datos sintéticos o evaluaciones cualitativas, este trabajo valida el algoritmo en conjuntos de datos de referencia del mundo real utilizando un conjunto exhaustivo de métricas (Exactitud, Precisión, Sensibilidad, F1).
Viabilidad en Alta Dimensión: Aunque el algoritmo fue conceptualizado para datos gaussianos de baja dimensión, la prueba de estrés en el conjunto de datos de Breast Cancer de 9 dimensiones sugiere que el enfoque es lo suficientemente robusto para aplicaciones de mayor dimensión.

Los autores concluyen que, si bien las ganancias de exactitud pueden ser modestas en algunos casos de alta dimensión, la reducción de la volatilidad y la mejora en el manejo de estructuras de datos ambiguas validan la hipótesis de que optimizar tanto la homogeneidad intra-grupo como la heterogeneidad inter-grupo produce una solución de agrupamiento superior. El trabajo establece un precedente para la investigación futura en métodos numéricos matizados para abordar la sensibilidad de la inicialización de k-means.

Más como este