Autoregressive networks with dependent edges

1. Il Problema

La modellazione delle reti dinamiche è fondamentale in molte applicazioni (sociali, biologiche, economiche), ma presenta sfide tecniche significative quando si considerano archi dipendenti. Nelle reti reali, la formazione o la dissoluzione di un arco tra due nodi non è indipendente dal comportamento di altri archi nella rete. Fenomeni come la reciprocità, la transitività ("l'amico del mio amico è anche mio amico") e l'eterogeneità del grado (popolarità) governano l'evoluzione di queste reti.

I modelli esistenti affrontano queste sfide in modi limitati:

• I modelli a variabili latenti (es. Block Models dinamici) inducono dipendenza in modo implicito, rendendo difficile configurare caratteristiche specifiche come la transitività.
• I modelli ERGM temporali (TERGM) sono flessibili ma spesso computazionalmente onerosi e privi di una teoria asintotica solida per dimensioni elevate.
• I precedenti modelli autoregressivi (AR) per reti assumevano spesso l'indipendenza degli archi all'interno di ogni istante temporale, ignorando le dipendenze strutturali tra archi diversi.

L'obiettivo del paper è sviluppare un framework che modelli esplicitamente la dipendenza tra gli archi in un contesto temporale discreto, garantendo al contempo la fattibilità computazionale e una solida teoria statistica per l'inferenza, anche quando il numero di nodi ($p$) e il numero di parametri crescono con la dimensione del campione ($n$).

2. Metodologia

2.1 Framework dei Modelli AR(m) con Archi Dipendenti

Gli autori propongono una classe di modelli AR(m) con archi dipendenti (dep. edge AR).

• Definizione: Condizionatamente ai valori ritardati della rete ($X_{t-1}, \dots, X_{t-m}$), gli archi $X_{t, ij}$ sono indipendenti tra loro. Tuttavia, le probabilità di transizione (formazione o dissoluzione di un arco) dipendono esplicitamente dallo stato passato non solo dell'arco stesso, ma anche di altri archi nella rete.
• Probabilità di Transizione:
  • $\alpha_{t-1}^{i,j}$: Probabilità che un arco si formi ($0 \to 1$).
  • $\beta_{t-1}^{i,j}$: Probabilità che un arco si dissolva ($1 \to 0$).
    Queste probabilità sono modellate come funzioni di statistiche di rete (es. numero di amici comuni per la transitività, grado dei nodi per l'eterogeneità) e parametri specifici.
• Relazione con TERGM: Il framework estende i modelli TERGM (Temporal Exponential Random Graph Models) assumendo l'indipendenza condizionata degli archi, ma permettendo forme funzionali più flessibili per le probabilità di transizione rispetto alla semplice famiglia esponenziale.

2.2 Stima dei Parametri

Il problema principale è l'alto numero di parametri (spesso $O(p)$ o $O(p^2)$), che porta a tassi di convergenza lenti per gli stimatori di massima verosimiglianza (MLE) standard. Gli autori propongono una procedura in due fasi:

1. Stimatore Iniziale (Initial Estimator):

   • Si distinguono parametri globali (che influenzano tutti gli archi, es. coefficienti di transitività) e parametri locali (specifici per nodo, es. propensione a formare archi $\xi_i$).
   • Si massimizza una verosimiglianza parziale per ciascun parametro, ottenendo uno stimatore iniziale $\tilde{\theta}$.
   • Questo stimatore è consistente ma ha una velocità di convergenza lenta a causa dell'alta dimensionalità e della dipendenza temporale.

2. Stimatore Migliorato (Improved Estimator):

   • Per accelerare la convergenza e mitigare l'impatto dei parametri di disturbo (nuisance parameters), si utilizza una tecnica di proiezione della funzione di score (score function projection), ispirata a lavori precedenti (Chang et al., 2021, 2023).
   • Si proietta la funzione di score sul direzione del parametro di interesse, eliminando l'influenza degli altri parametri.
   • Questo porta a uno stimatore finale $\hat{\theta}$ con tassi di convergenza più rapidi e proprietà asintotiche migliori.

2.3 Teoria Asintotica

• Struttura di Martingala: Sfruttando l'assunzione di indipendenza condizionata, gli autori costruiscono una struttura di differenza di martingala.
• Assenza di Stazionarietà: Un risultato teorico chiave è la derivazione della distribuzione asintotica degli stimatori senza assumere la stazionarietà del processo sottostante.
• Distribuzione Limite: La distribuzione limite non è necessariamente normale; è una miscela di distribuzioni normali. Tuttavia, diventa normale se il processo soddisfa condizioni di mixing (tipiche di processi stazionari).
• Dimensione Alta: La teoria copre il caso in cui il numero di nodi $p$ diverge insieme alla dimensione temporale $n$ (alta dimensionalità).

3. Contributi Chiave

1. Nuovo Framework di Modellazione: Introduzione di una classe di modelli AR(m) che cattura esplicitamente la dipendenza tra gli archi (transitività, eterogeneità, persistenza) mantenendo la tracciabilità computazionale tramite l'indipendenza condizionata.
2. Teoria Asintotica in Alta Dimensionalità: Sviluppo di una teoria asintotica rigorosa per modelli di rete dinamica con un numero di parametri che cresce con la dimensione della rete, senza richiedere stazionarietà.
3. Metodologia di Stima Efficiente: Proposta di un algoritmo di stima a due stadi (iniziale + proiezione) che risolve il problema della lentezza di convergenza nei modelli ad alta dimensionalità, migliorando significativamente l'accuratezza rispetto agli stimatori MLE grezzi.
4. Software Open Source: Implementazione del metodo nel pacchetto R arnetworks, rendendo la metodologia accessibile alla comunità.

4. Risultati

4.1 Simulazioni

• Gli studi di simulazione confermano che lo stimatore migliorato ($\hat{\theta}$) supera significativamente lo stimatore iniziale ($\tilde{\theta}$) in termini di errore medio assoluto relativo (rMAE).
• Le probabilità di copertura degli intervalli di confidenza costruiti sulla distribuzione asintotica sono vicine al livello nominale (95%), validando l'approssimazione normale.
• Il metodo dimostra robustezza e scalabilità anche per reti grandi ($p=500$).

4.2 Analisi di Dati Reali

Gli autori applicano il modello (in particolare il modello di transitività) a due dataset:

1. Interazioni Email (Azienda Polacca):
   • Analisi di 39 snapshot settimanali tra 106 dipendenti.
   • I risultati confermano effetti di transitività: la probabilità di formare un arco aumenta con il numero di amici comuni.
   • Si osserva eterogeneità nei nodi: i manager tendono a formare più nuovi collegamenti rispetto ai non-manager.
   • Il modello proposto ottiene i migliori criteri di informazione (BIC) rispetto a modelli concorrenti (TERGM, modelli AR globali, modelli a media), dimostrando che catturare la transitività e l'eterogeneità è cruciale per dati sparsi.
2. Interazioni a Conferenza (Dataset SFHH):
   • Analisi di interazioni faccia-a-faccia tra partecipanti a una conferenza.
   • Conferma di pattern di transitività e persistenza degli archi.
   • Il modello AR con transitività performa meglio dei modelli che ignorano la struttura dipendente o che usano parametri eccessivi per ogni arco.

5. Significato e Impatto

Questo lavoro rappresenta un avanzamento significativo nella statistica delle reti dinamiche:

• Ponte tra Teoria e Pratica: Colma il divario tra la necessità di modelli flessibili per catturare fenomeni sociali complessi (come la transitività) e la necessità di metodi di inferenza statisticamente validi e computazionalmente fattibili.
• Superamento delle Limitazioni di Stazionarietà: La capacità di derivare distribuzioni asintotiche senza assumere stazionarietà rende il metodo applicabile a reti reali che spesso subiscono cambiamenti strutturali (es. cicli aziendali, eventi esterni).
• Gestione dell'Alta Dimensionalità: Fornisce una soluzione teorica e pratica al problema dell'inferenza in reti dove il numero di parametri è paragonabile o superiore alla dimensione del campione temporale, un problema comune nelle scienze sociali e biologiche moderne.
• Versatilità: Il framework è sufficientemente generale da includere come casi particolari molti modelli esistenti, offrendo una base unificata per la modellazione di reti dinamiche con archi dipendenti.

In sintesi, il paper offre un nuovo paradigma per l'analisi delle reti dinamiche, combinando modellazione flessibile, teoria asintotica robusta e strumenti computazionali efficienti, con applicazioni immediate nell'analisi di dati sociali, biologici e di comunicazione.