Résumé technique : Inférence variationnelle de Laplace pour les mélanges de processus de Poisson marqués avec processus de Dirichlet

Énoncé du problème

L'article aborde le défi du regroupement de processus de Poisson marqués (MPPP) répliqués observés sur des domaines continus. Dans de nombreuses applications (par exemple, biologie, cosmologie, analyse sportive), les données consistent en plusieurs sujets, chacun générant une collection finie d'événements avec des attributs associés (marques). L'objectif inférentiel est d'identifier des groupes latents de sujets partageant des structures d'intensité d'événements et des distributions de marques similaires.

Les approches existantes présentent des limitations significatives :

1. Discrétisation : De nombreuses méthodes nécessitent de mailler le domaine continu ou d'amincir le processus, ce qui introduit des erreurs d'approximation et une instabilité computationnelle, en particulier dans les hautes dimensions ou les géométries irrégulières.
2. Rigidité du modèle : Les méthodes de regroupement précédentes reposent souvent sur des familles paramétriques ou échouent à inférer conjointement le nombre de clusters et les surfaces d'intensité continues.
3. Complexité de l'inférence : Les modèles standards à lien logarithmique (Processus de Cox log-Gaussiens) souffrent d'intégrales de vraisemblance intraitables, tandis que les liens alternatifs (comme le lien au carré) introduisent une non-conjugaison et des pathologies d'optimisation (ambiguïté de signe et lignes nodales).

Les auteurs visent à développer un modèle bayésien non paramétrique qui infère conjointement les affectations de clusters latentes, le nombre de clusters et les surfaces d'intensité continues spécifiques aux marques sans discrétiser le domaine, tout en fournissant un algorithme d'inférence évolutif et théoriquement fondé.

Méthodologie

1. Formulation du modèle : DPM-MPPP

Les auteurs proposent un Mélange de Processus de Dirichlet de Processus de Poisson Marqués (DPM-MPPP).

• Structure des données : Pour chaque sujet $i$, les observations consistent en des points $Y_i$ dans un domaine $B$ et des marques binaires $m_i \in \{0, 1\}$. Un décalage $T_i$ (par exemple, temps, aire) rend compte des niveaux d'exposition variables.
• Mécanisme de regroupement : Les sujets sont affectés à des clusters $z_i$ via un Processus de Dirichlet (DP) avec un paramètre de concentration $\alpha$ et une mesure de base $G_0$. Le DP permet une inférence non paramétrique du nombre de clusters.
• Modélisation de l'intensité : Au sein du cluster $k$, l'intensité pour la marque $m$ est modélisée comme suit :
  $$\lambda_{km}(y) = h(W_{km}(y)) = (B(y)^\top \theta_{km})^2$$
  où $B(y)$ est un vecteur de fonctions de base non négatives (par exemple, B-splines), $\theta_{km}$ sont les coefficients, et $h(x)=x^2$ est la fonction de lien au carré.
• Caractéristique clé : Le modèle utilise un décalage $T_i$ pour séparer le volume global d'événements de la structure spatiale et spécifique aux marques. Cela garantit que le regroupement est piloté par les préférences spatiales et la composition des marques plutôt que par les comptes totaux d'événements.
• Dépendance des marques : Le modèle induit une surface de probabilité de marque variant spatialement $p_k(y) = \lambda_{k1}(y) / (\lambda_{k0}(y) + \lambda_{k1}(y))$, capturant les dépendances entre l'occurrence d'événements et les marques.

2. Algorithme d'inférence : Inférence variationnelle de Laplace contrainte

Pour effectuer une inférence postérieure, les auteurs développent un algorithme Variational Bayes (VB).

• Défi : La fonction de lien au carré produit une intégrale de vraisemblance traitable (évitant le besoin de discrétisation sur grille) mais résulte en une postérieure non conjuguée pour les coefficients de base $\theta_{km}$. L'ascension de coordonnées standard échoue à fournir des mises à jour sous forme fermée.
• Solution : Les auteurs introduisent une approximation de Laplace contrainte pour le bloc non conjugué $\theta_{km}$.
  • Ambiguïté de signe et lignes nodales : Le lien au carré est invariant sous $\theta \to -\theta$, créant une ambiguïté de signe. De plus, si $\theta^\top B(y)$ traverse zéro, cela crée des "lignes nodales" où l'intensité s'annule, conduisant à une optimisation instable et à des modes locaux.
  • Optimisation contrainte : Pour résoudre cela, le problème de recherche de mode est restreint à une chambre strictement positive $D_\delta = \{ \theta : \|\theta\|_2 \le R, \inf_{y \in B} B(y)^\top \theta \ge \delta \}$.
  • Étapes de l'algorithme :
    1. Mettre à jour les blocs conjugués (poids de rupture de bâton, affectations de clusters, paramètres de variance) par ascension de coordonnées sous forme fermée.
    2. Mettre à jour les coefficients non conjugués $\theta_{km}$ en trouvant le mode de l'objectif variationnel dans $D_\delta$ en utilisant une optimisation contrainte (par exemple, L-BFGS-B).
    3. Approximer la covariance postérieure de $\theta_{km}$ en utilisant l'inverse de la Hessienne évaluée au mode contraint.

3. Garanties théoriques

L'article fournit un soutien théorique rigoureux pour l'approximation de Laplace contrainte :

• Consistance : Le maximiseur de population de l'objectif sur la chambre positive est unique et se situe strictement à l'intérieur de l'ensemble réalisable $D_\delta$, loin de la frontière nulle.
• Séparation : Les coefficients changeant de signe (qui causent des lignes nodales) sont montrés avoir des valeurs d'objectif empirique strictement inférieures aux modes de la chambre positive (ou négative).
• Dominance exponentielle : Le poids exponentiel des configurations changeant de signe est asymptotiquement négligeable par rapport à la chambre positive. Ainsi, restreindre l'optimisation à la chambre positive ne rejette pas de masse asymptotiquement pertinente.

Contributions clés

1. Modèle novateur : Introduction du DPM-MPPP, la première méthode d'inférence variationnelle de Bayes pour le regroupement de processus de Poisson marqués répliqués inférant conjointement la structure de cluster, le nombre de clusters et les surfaces d'intensité continues spécifiques aux marques.
2. Inférence sans grille : Utilisation de la fonction de lien au carré pour obtenir des termes de vraisemblance continus traitables sans maillage, amincissement ou approximations par éléments finis.
3. Innovation algorithmique : Développement d'une approximation de Laplace contrainte qui résout l'ambiguïté de signe et les pathologies de lignes nodales inhérentes aux modèles à lien au carré, permettant une inférence stable, sans grille et efficace en haute dimension.
4. Rigueur théorique : Établissement de garanties théoriques prouvant que l'optimisation contrainte cible le bon mode global et que les régions changeant de signe sont asymptotiquement négligeables.

Résultats expérimentaux

Les auteurs ont évalué la méthode par le biais d'expériences synthétiques et d'une application réelle :

• Expériences synthétiques :

  • Testé sur des scénarios divers incluant des clusters avec marques échangées, un grand nombre de clusters (jusqu'à 9), des surfaces d'intensité irrégulières et des tailles d'échantillon variables (de clairsemé à dense).
  • Performance : La méthode proposée a récupéré avec précision les surfaces d'intensité spécifiques aux clusters, les affectations de sujets et le nombre de clusters. Elle a démontré une pureté de regroupement supérieure aux méthodes de base basées sur des caractéristiques (K-means et modèles de mélanges gaussiens sur des données binnées ou lissées par noyau), en particulier dans les régimes à échantillon réduit où les résumés de caractéristiques devenaient bruyants.
  • Robustesse : La méthode est restée stable même avec des comptes d'événements considérablement réduits, montrant seulement un léger sur-regroupement (division de petits groupes) plutôt qu'un mélange de clusters distincts.

• Application réelle (Cartes de tir NBA) :

  • Appliqué à 219 527 tentatives de tir de 566 joueurs NBA (saison 2024–2025), modélisant les emplacements de tir et les résultats réussite/échec.
  • Résultats : Le modèle a identifié 16 clusters actifs représentant des archétypes de joueurs distincts. Il a résolu avec succès l'hétérogénéité fine au sein de rôles larges (par exemple, distinguer différents types de marqueurs ou de grands joueurs en fonction de la sélection spatiale des tirs et des probabilités de succès spécifiques à l'emplacement).
  • Interprétabilité : Les surfaces ajustées ont fourni des insights interprétables sur les stratégies des joueurs, séparant la préférence spatiale de l'efficacité du tir.

Importance et affirmations

L'article affirme que le cadre proposé offre une approche fondée sur des principes, évolutive et théoriquement solide pour le regroupement de processus ponctuels marqués sur des domaines continus. En combinant les avantages computationnels du lien au carré avec une approximation de Laplace contrainte, la méthode surmonte les compromis entre traçabilité et flexibilité du modèle qui affectent les approches existantes. Les auteurs soulignent que leur méthode :

• Évite le "fléau de la dimensionnalité" associé aux méthodes basées sur grille.
• Fournit un cadre unifié pour modéliser l'intensité des événements et les distributions de marques sans rejeter la nature continue des données.
• Offre des performances robustes dans les régimes de données clairsemées où le regroupement traditionnel basé sur des caractéristiques échoue.

Ce travail est présenté comme une avancée significative dans l'inférence bayésienne non paramétrique pour les processus ponctuels spatiaux, avec une applicabilité immédiate aux domaines nécessitant l'analyse de données d'événements répliquées avec des structures de marques complexes.