Autoregressive networks with dependent edges

1. Problématique et Contexte

La modélisation des réseaux dynamiques (évoluant dans le temps) avec des arêtes dépendantes est un défi majeur en statistique et en science des réseaux. Dans les réseaux réels (sociaux, biologiques, économiques), l'état d'une arête à un instant $t$ dépend non seulement de son propre historique, mais aussi de l'état d'autres arêtes (phénomènes de réciprocité, transitivité, hétérogénéité des degrés).

Les modèles existants présentent des limitations :

• Les modèles à variables latentes (comme les modèles de blocs stochastiques dynamiques) induisent une dépendance implicite, difficile à configurer pour capturer des caractéristiques spécifiques comme la transitivité.
• Les modèles TERGM (Exponential Random Graph Models temporels) sont flexibles mais souffrent souvent de problèmes de calcul et de dégénérescence, et leur analyse asymptotique est complexe.
• Les modèles autorégressifs (AR) précédents supposaient souvent l'indépendance conditionnelle des arêtes, limitant ainsi leur capacité à modéliser des structures complexes.

L'objectif de cet article est de proposer un cadre général pour modéliser des réseaux dynamiques où les arêtes sont dépendantes, tout en permettant une estimation statistique rigoureuse et une analyse asymptotique, même lorsque le nombre de nœuds ($p$) et la taille de l'échantillon ($n$) divergent.

2. Méthodologie

Les auteurs proposent une classe de modèles AR(m) à arêtes dépendantes (dependent-edge AR).

A. Cadre du Modèle

Le processus est défini sur $p$ nœuds. La matrice d'adjacence $X_t$ évolue selon une chaîne de Markov d'ordre $m$. La clé de l'approche réside dans l'hypothèse d'indépendance conditionnelle :

• Conditionnellement aux valeurs passées du réseau ($X_{t-1}, \dots, X_{t-m}$), les arêtes $X_{t, i,j}$ sont mutuellement indépendantes.
• Cependant, les probabilités de transition (formation ou dissolution d'une arête) dépendent explicitement de l'historique des autres arêtes, permettant de capturer la dépendance structurelle.

Les probabilités de transition sont modélisées comme suit :

• $\alpha_{t-1}^{i,j}$ : Probabilité de former une nouvelle arête entre $i$ et $j$ (si elle n'existait pas).
• $\beta_{t-1}^{i,j}$ : Probabilité de dissoudre une arête existante.
  Ces probabilités sont des fonctions paramétriques (souvent logistiques) dépendant de statistiques du réseau (ex: nombre de voisins communs pour la transitivité) et de paramètres spécifiques aux nœuds.

B. Estimation et Théorie Asymptotique

Le défi principal est l'estimation dans un cadre de haute dimension où le nombre de paramètres croît avec le nombre de nœuds $p$.

1. Distinction Paramètres Globaux vs Locaux :

   • Paramètres globaux ($\theta_G$) : Influencent toutes les arêtes (ex: coefficients de transitivité).
   • Paramètres locaux ($\theta_{G^c}$) : Spécifiques à chaque nœud (ex: hétérogénéité de popularité $\xi_i, \eta_i$). Leur nombre diverge avec $p$.

2. Estimateur Initial (Maximum de Vraisemblance Partielle) :
   Les auteurs maximisent des fonctions de vraisemblance partielles pour estimer chaque composante. Cependant, les estimateurs initiaux souffrent de taux de convergence lents en raison de la haute dimensionnalité et de l'interdépendance des paramètres.

3. Estimateur Amélioré (Projection de la Fonction de Score) :
   Pour surmonter la lenteur de convergence, les auteurs proposent une méthode d'estimation en deux étapes inspirée de Chang et al. (2021, 2023) :

   • Calcul d'un estimateur initial $\tilde{\theta}$.
   • Projection : Projection de la fonction de score sur la direction du paramètre d'intérêt pour atténuer l'impact des paramètres de nuisance (les autres paramètres). Cela permet d'obtenir un estimateur $\hat{\theta}$ avec un taux de convergence optimal (de l'ordre de $O_p(n^{-1/2})$ pour les paramètres globaux).

4. Distribution Asymptotique :
   En exploitant une structure de différence de martingale, les auteurs dérivent la distribution asymptotique de l'estimateur amélioré sans supposer la stationnarité du processus.

   • La distribution limite est généralement un mélange de lois normales.
   • Elle devient normale si le processus satisfait certaines conditions de mélange (mixing conditions).

3. Contributions Clés

1. Cadre de Modélisation Flexible : Extension des modèles AR aux réseaux avec dépendance entre les arêtes, capable d'incorporer la transitivité, l'hétérogénéité des degrés et la persistance, tout en restant lié aux modèles TERGM.
2. Théorie Asymptotique en Haute Dimension : Développement d'une théorie rigoureuse pour l'estimation du maximum de vraisemblance lorsque le nombre de paramètres diverge avec la taille du réseau, sans hypothèse de stationnarité stricte.
3. Méthodologie d'Estimation Innovante : Introduction d'une procédure d'estimation par projection pour obtenir des estimateurs à convergence rapide et des intervalles de confiance valides dans des contextes de haute dimension.
4. Logiciel Open Source : Développement du package R arnetworks pour la simulation et l'estimation de ces modèles.

4. Résultats

A. Simulations

Des études de simulation sur le modèle de transitivité montrent que :

• L'estimateur amélioré (par projection) surpasse significativement l'estimateur initial en termes de précision (erreur absolue moyenne relative réduite de ~95% dans certains cas).
• Les taux de couverture des intervalles de confiance à 95% sont proches du niveau nominal, validant l'approximation asymptotique.
• La méthode reste efficace même pour de grands réseaux ($p=500$).

B. Analyse de Données Réelles

Les auteurs appliquent le modèle à deux jeux de données :

1. Interactions par email dans une entreprise polonaise :

   • Le modèle capture efficacement la transitivité (« l'ami de mon ami est mon ami ») et l'hétérogénéité des nœuds.
   • Comparé aux modèles concurrents (TERGM, modèles à arêtes indépendantes), le modèle AR avec transitivité offre un meilleur compromis entre la complexité (nombre de paramètres) et la qualité d'ajustement (critères AIC/BIC).
   • Les prévisions de liens (link prediction) sont compétitives, bien que les modèles très paramétrés par arête montrent une légère supériorité dans ce cas spécifique, suggérant une structure d'ordre supérieur non capturée par deux paramètres par nœud.

2. Interactions lors d'une conférence (SFHH) :

   • Le modèle confirme la présence de transitivité et d'hétérogénéité dans les interactions face-à-face.
   • Le modèle AR avec transitivité obtient les meilleurs critères BIC parmi les modèles comparés, démontrant son efficacité pour résumer la structure du réseau avec un nombre de paramètres gérable.

5. Signification et Impact

Cet article comble un vide important entre la flexibilité des modèles de réseaux complexes (comme les TERGM) et la rigueur théorique des modèles autorégressifs simples.

• Pratique : Il offre un outil robuste pour analyser des réseaux dynamiques réels où les dépendances structurelles (comme la transitivité) sont cruciales, sans sacrifier la capacité d'inférence statistique.
• Théorique : Il établit des résultats asymptotiques nouveaux pour les modèles de réseaux dynamiques en haute dimension, en particulier la dérivation de la distribution limite sans stationnarité, ce qui est une avancée majeure pour l'analyse de réseaux réels qui peuvent être non stationnaires.
• Applicabilité : La méthode est applicable à divers domaines (réseaux sociaux, biologiques, financiers) et le code disponible facilite son adoption par la communauté.

En résumé, les auteurs réussissent à formaliser mathématiquement et à estimer efficacement une classe de modèles de réseaux dynamiques qui reflètent fidèlement la complexité des données réelles, tout en fournissant des garanties théoriques solides pour l'inférence.