Model--based clustering for spherical and hyper--spherical data using elliptically symmetric distributions

Résumé technique : Regroupement basé sur des modèles pour des données sphériques et hypersphériques utilisant des distributions à symétrie elliptique

Énoncé du problème
Les données directionnelles, contraintes à une norme unitaire ($S^d$), sont prévalentes dans des domaines tels que la géologie, les sciences de l'environnement et la robotique. Bien que le regroupement basé sur des modèles pour de telles données ait suscité un intérêt considérable, la plupart des méthodes existantes reposent sur des distributions à symétrie rotationnelle (par exemple, von Mises–Fisher, Normale projetée, Cauchy sphérique). Ces distributions supposent une covariance isotrope, ce qui limite leur capacité à modéliser des structures de données complexes où les groupes présentent des formes elliptiques plutôt qu'une symétrie circulaire ou sphérique. Bien que des distributions à symétrie elliptique comme la distribution de Kent aient été proposées, il existe un besoin de modèles de mélanges robustes utilisant des distributions récemment proposées offrant des avantages computationnels et des formes de contours flexibles.

Méthodologie
L'article propose un regroupement basé sur des modèles pour des données sphériques et hypersphériques en utilisant des mélanges de deux distributions spécifiques à symétrie elliptique :

1. Gaussien angulaire à symétrie elliptique (ESAG) : Proposé par Paine et al. (2018), cette distribution résulte de la projection d'une distribution normale multivariée sur la sphère. Elle impose des contraintes sur la matrice de covariance pour assurer l'identifiabilité, permettant des contours elliptiques qui correspondent à la distribution de Fisher–Bingham mais avec une constante de normalisation sous forme fermée.
2. Cauchy projeté sphérique à symétrie elliptique (SESPC) : Proposé par Tsagris et Alzeley (2025), cette distribution est dérivée en projetant une distribution de Cauchy tridimensionnelle sur la sphère sous des contraintes de symétrie elliptique similaires.

Estimation et mise en œuvre :

• Algorithme : L'algorithme de Maximisation de l'Espérance (EM) est utilisé pour estimer les paramètres des modèles de mélanges finis. L'étape E calcule les probabilités d'appartenance a posteriori, tandis que l'étape M met à jour les proportions de mélange et les paramètres de distribution.
• Optimisation : Puisque des maximisateurs sous forme fermée pour les paramètres de moyenne ($\mu$) et de forme ($\gamma$) n'existent pas pour ces densités, une optimisation numérique (par exemple, Nelder–Mead) est utilisée dans l'étape M.
• Sélection de modèle : Le critère de Vraisemblance Complétée Intégrée (ICL) est utilisé pour déterminer le nombre optimal de groupes ($K$).
• Initialisation : Pour éviter les maxima locaux, les auteurs comparent l'initialisation par la méthode des $k$-moyennes et par des modèles de mélanges gaussiens (GMM), constatant que les GMM avec covariance structurée offrent de meilleures performances pour ces distributions elliptiques.
• Covariables : Le cadre permet l'inclusion de covariables pour modéliser les probabilités de mélange (modèle concomitant) ou les vecteurs de moyenne (mélange de régressions), bien que cela augmente le coût computationnel.
• Données hypersphériques : Pour des données résidant sur des hypersphères ($d > 2$), les auteurs projettent les données sur une sphère tridimensionnelle en utilisant l'Analyse des Géodésiques Principales (PGA) avant d'appliquer les modèles de mélanges sphériques.

Contributions clés

• Extension des cadres de regroupement : L'article étend le regroupement basé sur des modèles au-delà des distributions à symétrie rotationnelle pour inclure ESAG et SESPC, permettant la modélisation de groupes aux contours elliptiques.
• Analyse comparative : L'étude fournit une comparaison complète entre les mélanges ESAG et SESPG concernant la précision de détection des groupes, la robustesse face à la forme des groupes et l'efficacité computationnelle.
• Adaptation aux données hypersphériques : Elle aborde l'application de ces modèles sphériques aux données hypersphériques via la projection, une étape nécessaire étant donné que SESPC a été défini à l'origine pour des sphères 3D.

Résultats

• Études de simulation :
  • Précision : Lorsque les données sont générées à partir de mélanges ESAG, les deux modèles performent de manière similaire. Cependant, lorsque les données sont générées à partir de mélanges SESPC, le modèle SESPC surpasse ESAG, en particulier pour détecter le bon nombre de groupes et atteindre des valeurs d'Indice de Rand Ajusté (ARI) plus élevées.
  • Forme des groupes : La distribution SESPC est notée comme étant plus « étalée » dans les queues par rapport à ESAG. Par conséquent, ESAG éprouve plus de difficultés lorsque la structure réelle des données est fortement dispersée ou lorsque les groupes se forment à des angles spécifiques.
  • Taille de l'échantillon et concentration : La performance s'améliore avec des tailles d'échantillon plus grandes et des paramètres de concentration ($\tau$) plus élevés. De petites tailles d'échantillon ou des paramètres de concentration faibles entraînent des difficultés à détecter le bon nombre de groupes.
  • Coût computationnel : Le modèle SESPC est constamment plus rapide que le modèle ESAG pour diverses tailles d'échantillon ($n=200, 500, 1000$).
• Applications sur des données réelles :
  • Données sismiques (Amérique du Nord et Fidji) : Les deux modèles ont identifié un nombre similaire de groupes pour les données nord-américaines (4 groupes), bien qu'ils aient assigné des emplacements spécifiques (par exemple, Hawaï) différemment. Les groupes SESPC se sont révélés plus linéairement séparables. Pour la région des Fidji, SESPC a sélectionné 4 groupes tandis qu'ESAG en a sélectionné 7 ; les groupes SESPC étaient à nouveau plus faciles à séparer. L'inclusion de la magnitude du séisme comme covariable a eu un effet faible sur les données nord-américaines mais a réduit le nombre de groupes pour le modèle ESAG des Fidji.
  • Données sur la qualité du vin : Les deux modèles ont correctement identifié 2 groupes. ESAG a obtenu un ARI plus élevé (0,700) par rapport à SESPC (0,546), suggérant qu'ESAG était plus approprié pour cet ensemble de données spécifique.
  • Données de gros : ESAG a détecté 3 groupes tandis que SESPC en a détecté 2.
  • Comparaison avec SC : Dans les deux ensembles de données hypersphériques réels (Vin et Gros), les modèles elliptiques proposés ont surpassé le modèle de mélange Cauchy sphérique (SC) à symétrie rotationnelle en termes d'ARI.

Signification et affirmations
Les auteurs affirment que la signification principale de ce travail réside dans l'assouplissement de l'hypothèse de covariance isotrope inhérente à la plupart des méthodes de regroupement directionnel. En utilisant des mélanges ESAG et SESPC, les modèles proposés peuvent capturer des structures de groupes ellipsoïdaux, offrant une alternative plus flexible aux distributions à symétrie rotationnelle.

L'article conclut modestement que, bien que les deux distributions soient efficaces, le choix entre elles dépend du processus de génération de données sous-jacent : ESAG convient aux données avec des groupes plus serrés et moins dispersés, tandis que SESPC est supérieur pour les données avec des queues plus lourdes ou des structures plus dispersées. De plus, l'étude démontre que la projection de données hypersphériques sur une sphère permet d'appliquer efficacement ces modèles de mélanges sphériques à des données directionnelles de dimension supérieure, surpassant les approches à symétrie rotationnelle traditionnelles dans les tests empiriques.