Bayesian local clustering of functional data via semi-Markovian random partitions

1. Problématique

L'analyse de données fonctionnelles (FDA) vise à traiter des données représentées sous forme de fonctions lisses (courbes, surfaces). Un défi majeur dans ce domaine est le clustering local. Contrairement au clustering global, où chaque courbe est assignée à un seul groupe pour l'ensemble de son domaine, le clustering local permet à une même observation fonctionnelle d'appartenir à différents groupes selon la région du domaine considérée.

Les méthodes existantes, souvent basées sur des processus de Dirichlet hiérarchiques ou des modèles à états cachés (HMM), présentent des limitations :

• Elles supposent souvent une dépendance de Markov d'ordre 1 entre les partitions successives, ce qui est insuffisant pour capturer la structure de dépendance locale inhérente aux expansions en bases de fonctions (comme les B-splines).
• Elles peinent à modéliser des comportements fonctionnels partiellement coïncidents (où deux courbes sont identiques sur un sous-intervalle mais diffèrent ailleurs) de manière naturelle et flexible.

L'objectif de cet article est de proposer un cadre bayésien pour effectuer un clustering local indirect de données fonctionnelles, en exploitant les propriétés de support local des B-splines et en introduisant un nouveau modèle de partition aléatoire dépendante.

2. Méthodologie

La méthodologie proposée repose sur trois piliers principaux :

A. Expansion en B-splines et Clustering Indirect

Les courbes observées $y_i(x)$ sont approximées par une expansion en B-splines de degré $d$ :
$$y_i(x) \approx \sum_{k=1}^K b_k(x) \theta_{ik}$$
Au lieu de regrouper les courbes entières, l'approche regroupe les coefficients de base $\theta_{ik}$. Une courbe $i$ est définie par un vecteur de labels locaux $c_i = (c_{i1}, \dots, c_{iK})^\top$.

• Propriété clé : Grâce à la propriété de support local des B-splines, une courbe est déterminée sur un sous-intervalle par $d+1$ paramètres contigus. Ainsi, deux courbes sont localement identiques si elles partagent $d+1$ coefficients contigus appartenant aux mêmes clusters.

B. Le Modèle de Partition Aléatoire Semi-Markovien (smRPM)

Pour modéliser l'évolution des partitions $c_{ik}$ le long du domaine (index $k$), les auteurs introduisent le smRPM (semi-Markovian Random Partition Model). Ce modèle généralise le modèle tRPM (temporal RPM) de Page et al. (2022) en relaxant l'hypothèse de dépendance de Markov d'ordre 1.

Le smRPM est caractérisé par deux ordres de dépendance :

1. Ordre de dépendance des partitions ($d_\rho$) : Il correspond au degré de la base de B-splines. Il impose que la réaffectation d'un point de données est bloquée sur une fenêtre de $d_\rho$ transitions successives.
2. Ordre de dépendance des variables auxiliaires ($d_\gamma$) : Des variables latentes binaires $\gamma_{ik}$ indiquent si une unité $i$ peut être réaffectée. Ces variables suivent un modèle autorégressif logistique d'ordre $d_\gamma$, capturant la persistance de l'interdiction de réaffectation.

La structure de dépendance est dite "semi-Markovienne" car elle impose des contraintes de blocage sur des séquences de partitions, ce qui est plus flexible et adapté à la structure des B-splines qu'une simple dépendance Markovienne.

C. Inférence Bayésienne

Le modèle est estimé via un échantillonneur de Gibbs. Les distributions conditionnelles complètes sont dérivées pour :

• Les partitions locales $c_{ik}$.
• Les variables auxiliaires $\gamma_{ik}$.
• Les paramètres de dépendance $\alpha$ (via une augmentation de données avec des distributions Polya-Gamma si $d_\gamma > 0$).
• Les paramètres des atomes (coefficients de base) $\theta^*_{kj}$, modélisés avec une hiérarchie assurant la régularité des courbes au sein des clusters.

3. Contributions Clés

1. Nouveau Modèle de Partition (smRPM) : Introduction d'un modèle de partition aléatoire dépendante d'ordre supérieur qui relaxe les hypothèses de Markovianité et d'indépendance des variables auxiliaires. Ce modèle est applicable au-delà des données fonctionnelles, pour tout problème impliquant des séquences de partitions dépendantes.
2. Alignement Théorique B-spline/Partition : Démonstration que l'ordre de dépendance du modèle de partition ($d_\rho$) doit correspondre au degré de la base de B-splines pour capturer correctement la propriété de support local et permettre un clustering fonctionnel cohérent.
3. Flexibilité et Efficacité : Le modèle permet une modélisation flexible des changements de clusters (changepoints) tout en maintenant la régularité des courbes. Les simulations montrent que le smRPM est computationnellement efficace, voire plus rapide que les modèles d'ordre inférieur dans certains cas de grande dimension.
4. Application Réelle : Application réussie à des données de marées dans la lagune de Venise, démontrant la capacité du modèle à détecter des comportements globaux et locaux (notamment lors de l'activation du système de protection contre les inondations MOSE).

4. Résultats

Les études de simulation et l'application réelle confirment l'efficacité de l'approche :

• Simulations (Données temporelles et fonctionnelles) :

  • Le smRPM surpasse systématiquement le modèle tRPM (Markovien d'ordre 1) et les modèles HMM (comme HMFLCM de Fan & Sarkar 2024) en termes d'indice Rand ajusté (ARI).
  • La performance est optimale lorsque l'ordre de dépendance des partitions $d_\rho$ et celui des variables auxiliaires $d_\gamma$ sont égaux au degré de la base de B-splines utilisée.
  • Le modèle est robuste face à une mauvaise spécification du nombre de nœuds ou du degré des splines, bien que la sous-estimation soit plus pénalisante que la surestimation.
  • En termes d'erreur quadratique moyenne (RMSE), le smRPM offre de meilleures prédictions que les méthodes concurrentes, surtout pour les petites tailles d'échantillon.

• Données de la Lagune de Venise :

  • Le modèle a identifié avec succès des clusters globaux (comportement similaire de toutes les stations) et des clusters locaux (comportements divergents lors des tempêtes ou de l'activation du MOSE).
  • Il a permis de visualiser la persistance de certains clusters (une station spécifique restant isolée) et la fusion/séparation dynamique d'autres groupes, offrant une analyse plus nuancée que le clustering global.
  • L'estimation postérieure du nombre de clusters fournit une mesure de l'incertitude, un avantage inhérent aux approches bayésiennes.

5. Signification et Impact

Cet article représente une avancée significative dans la statistique non paramétrique bayésienne et l'analyse de données fonctionnelles :

• Théorique : Il établit un lien fondamental entre la structure de support local des bases d'approximation (B-splines) et la structure de dépendance des modèles de partition. Il propose une alternative robuste aux hypothèses de Markov d'ordre 1, souvent trop restrictives pour les données fonctionnelles complexes.
• Pratique : La méthode offre un outil puissant pour l'analyse de séries temporelles et de données fonctionnelles où les régimes de comportement changent localement. Son application à la gestion des risques d'inondation à Venise illustre son utilité pour la prise de décision basée sur des données environnementales complexes.
• Généralité : Le cadre smRPM est conçu pour être modulaire et peut être adapté à d'autres contextes (données spatiales, covariables spécifiques) et à d'autres types de priors de partition (processus de Gibbs, processus Pitman-Yor).

En résumé, les auteurs proposent une solution élégante et performante au problème du clustering local fonctionnel, en combinant la flexibilité des B-splines avec une nouvelle structure de dépendance stochastique sophistiquée.