Learning effective models from network dynamics data with multiple initial conditions using weak form SINDy

Resumo Técnico: Aprendizado de Modelos Eficazes de Dados de Dinâmica de Redes com Múltiplas Condições Iniciais Usando SINDy de Forma Fraca

Enunciado do Problema
Sistemas sociais envolvem redes complexas onde atividades online e offline interagem e influenciam umas às outras. Embora existam modelos matemáticos para descrever essas dinâmicas espaciotemporais, um desafio significativo permanece em vincular esses modelos a dados empíricos para descobrir e validar os mecanismos governantes, particularmente em redes complexas. Abordagens tradicionais frequentemente assumem estruturas de modelo fixas ou mecanismos subjacentes específicos. Além disso, dados do mundo real provenientes de sistemas estocásticos ou de redes são frequentemente ruidosos, tornando os métodos padrão de identificação de sistemas baseados em derivadas (como o SINDy padrão) pouco confiáveis devido à estimativa instável de derivadas. Os autores visam abordar esses desafios investigando como métodos orientados a dados podem recuperar equações governantes para dinâmicas sociais online-offline acopladas, examinando especificamente o impacto dos níveis de ruído e do número de trajetórias de treinamento (condições iniciais) no desempenho do aprendizado.

Metodologia
O estudo utiliza o SINDy de Forma Fraca (WSINDy - Weak Form Sparse Identification of Nonlinear Dynamics), um método que evita a estimativa explícita de derivadas usando convolução com funções de teste de suporte compacto. Essa abordagem transforma o problema de aprendizado de equações diferenciais em um problema de regressão linear na forma fraca, aumentando a robustez contra o ruído.

Os autores avaliam o WSINDy usando dois modelos distintos:

1. Modelo de População Totalmente Misturada: Um sistema determinístico de Equações Diferenciais Ordinárias (ODEs) derivado de uma aproximação de campo médio de um processo de interação estocástica. Este modelo serve como um banco de testes de "verdade fundamental" (ground truth) onde as equações reais são conhecidas, permitindo a avaliação da recuperação de parâmetros e da precisão de seleção de termos sob diferentes níveis de ruído gaussiano aditivo.
2. Modelo de Rede Estocástica: Uma cadeia de Markov de tempo contínuo descrevendo indivíduos com estados híbridos online-offline interagindo em redes aleatórias de Erdős-Rényi. Neste cenário, as dinâmicas subjacentes não possuem um conjunto verdadeiro de ODEs contínuas. Os autores geram dados de treinamento através da média de múltiplas realizações do algoritmo de Gillespie para condições iniciais e estruturas de rede específicas.

O procedimento de aprendizado utiliza uma biblioteca de características contendo termos lineares, bilineares e polinomiais de ordem superior. Os autores variam sistematicamente o número de trajetórias de treinamento (condições iniciais distintas) e os níveis de ruído para avaliar o desempenho. As métricas principais incluem:

• Erros de Equação e de Saída: Para medir a fidelidade das dinâmicas aprendidas.
• Razão de Verdadeiros Positivos (TPR): Para avaliar a precisão da seleção de termos.
• Erro de Parâmetro: Para avaliar a precisão da recuperação de coeficientes.
• Taxa de Falha: Para o modelo estocástico, rastreando falhas de integração, soluções fora de intervalo e soluções planas.

Principais Contribuições e Resultados

1. Impacto de Múltiplas Trajetórias na Robustez ao Ruído:

   • Nos experimentos do modelo totalmente misturado, o uso de uma única trajetória funciona bem apenas em condições sem ruído. À medida que o ruído aumenta, a precisão cai significativamente.
   • A introdução de trajetórias adicionais (condições iniciais diferentes) melhora substancialmente a tolerância ao ruído.
   • Descoberta Crucial: O benefício marginal da adição de trajetórias diminui rapidamente. Aumentar o número de trajetórias de 1 para 2 ou 3 produz melhorias significativas na TPR, no erro de parâmetro e no erro de equação. No entanto, adicionar mais de 3 trajetórias proporciona pouco ou nenhum outro benefício no desempenho mediano, mesmo chegando a 10 trajetórias.

2. Aprendizado a partir de Dados de Redes Estocásticas:

   • Quando aplicado a dados estocásticos em redes aleatórias, o WSINDy consegue aprender modelos de ODE eficazes que aproximam as dinâmicas médias da amostra.
   • Semelhante ao caso totalmente misturado, aumentar o número de trajetórias de 1 para 3 reduz drasticamente a taxa de falha (falhas de integração, violações de limites e soluções planas) e diminui os erros de saída.
   • Além de 3 trajetórias, a taxa de falha e as métricas de erro se estabilizam, mostrando melhoria mínima adicional.

3. Comparação com Aproximações de Campo Médio:

   • Em regimes de rede esparsa (baixo grau médio), as aproximações tradicionais de campo médio frequentemente falham em capturar efeitos de conectividade local, levando a previsões imprecisas.
   • Os modelos orientados a dados aprendidos via WSINDy fornecem melhores aproximações das dinâmicas estocásticas do que os modelos derivados analiticamente por campo médio nesses regimes esparsos.
   • Os modelos aprendidos para o estado offline ($P$) alinham-se estreitamente com o modelo totalmente misturado, enquanto os estados online ($U, E$) incluem termos adicionais (ex: $E \cdot P$) que provavelmente servem como aproximações eficazes de efeitos de rede e de camadas cruzadas.

Significância e Alegações
O artigo posiciona-se como um passo inicial para conectar dados de dinâmicas sociais em estruturas de rede a modelos eficientes orientados a dados. Os autores alegam que seu trabalho demonstra:

• Eficiência no Uso de Dados: Um pequeno número de trajetórias (especificamente 2 ou 3) com diferentes condições iniciais é suficiente para obter a maior parte dos benefícios do aprendizado multitrajetória, tornando a abordagem prática para cenários onde a coleta de dados é limitada.
• Superioridade em Redes Esparsas: Métodos orientados a dados podem gerar modelos que melhor se ajustam às dinâmicas empíricas em cenários de redes esparsas, onde as aproximações de campo médio tradicionais falham devido à negligência da diferenciação local de nós.
• Robustez: A formulação de forma fraca lida efetivamente com o ruído inerente aos processos estocásticos e dados de rede, permitindo a descoberta de equações governantes onde métodos padrão poderiam falhar.

Os autores mantêm-se modestos quanto às implicações futuras, observando que, embora forneçam uma análise computacional, trabalhos futuros são necessários para estabelecer garantias teóricas sobre posto (rank), suficiência de dados e para aplicar esses métodos a dados do mundo real com informações faltantes ou estados ocultos. Eles também destacam a necessidade de métodos eficientes para selecionar qual informação de trajetória é mais valiosa para o aprendizado do modelo.