Causal Optimal Coupling for Gaussian Input-Output Distributional Data

Resumo Técnico: Acoplamento Ótimo Causal para Dados de Distribuição de Entrada-Saída Gaussianas

1. Problema Investigado

O artigo aborda o problema de identificar uma relação causal entre processos de entrada ($U$) e saída ($Y$) a partir de dados distribucionais, onde as realizações individuais dos pares $(U, Y)$ não são observadas diretamente, mas sim as distribuições marginais $\mu$ (entrada) e $\nu$ (saída).

O objetivo é encontrar um acoplamento ótimo $\pi$ entre $\mu$ e $\nu$ que satisfaça duas condições principais:

1. Restrições de Marginais: O acoplamento deve ter $\mu$ e $\nu$ como suas distribuições marginais.
2. Restrição de Causalidade: O acoplamento deve respeitar a estrutura temporal do sistema. Formalmente, para qualquer tempo $t$, o futuro da entrada $(U_{t+1}, \dots, U_T)$ deve ser independente do passado da saída $(Y_1, \dots, Y_t)$, dado o passado da entrada. Isso garante que o sistema não seja "antecipativo" (não pode usar informações futuras para gerar saídas passadas).

O problema é formulado como uma Ponte de Schrödinger, buscando o acoplamento $\pi$ que minimize a divergência de Kullback-Leibler (KL) em relação a um modelo de referência $\gamma$, sujeito às restrições acima. Isso é denominado Transporte Ótimo Causal Entópico (ECOT).

2. Metodologia e Formulação

Modelo de Referência e Custo:
Os autores assumem que o modelo de referência $\gamma$ é induzido por um modelo linear Gaussiano causal da forma:
$$Y_t = h_t^\top U_{1:t} + f_t^\top Y_{1:t-1} + b_t + w_t$$
onde $w_t$ é ruído Gaussiano. Essa escolha resulta em uma função de custo quadrática dependente do tempo:
$$c(u_{1:T}, y_{1:T}) = \sum_{t=1}^T \frac{1}{2\epsilon_t^2} (y_t - h_t^\top u_{1:t} - f_t^\top y_{1:t-1} - b_t)^2$$
Este custo é mais geral que a distância quadrática padrão, permitindo dependências temporais complexas dentro da dinâmica do sistema.

Algoritmo de Iteração de Sinkhorn:
Para resolver o problema de otimização, os autores utilizam o esquema de Iterações de Sinkhorn, que alternam projeções nos conjuntos de restrições de marginais:

1. Iteração Ímpar (Projeção Causal): Projeta o acoplamento atual no conjunto de acoplamentos que satisfazem a marginal de entrada $\mu$ e a restrição de causalidade ($\Pi_c(\mu, \cdot)$).
2. Iteração Par (Projeção de Marginal): Projeta o resultado no conjunto de acoplamentos que satisfazem a marginal de saída $\nu$ ($\Pi(\cdot, \nu)$).

Contribuição Técnica Principal (Caso Gaussiano):
A inovação central do trabalho é a derivação de fórmulas explícitas e tratáveis para essas iterações no caso onde as marginais e o modelo de referência são Gaussianos.

• Invariância Gaussiana: Demonstra-se que a família de distribuições Gaussianas é invariante sob as etapas de projeção. Isso permite que o algoritmo seja implementado inteiramente manipulando vetores de média e matrizes de covariância, sem necessidade de discretização de alta dimensão ou métodos de Monte Carlo.
• Parametrização Condicional: Os autores utilizam uma parametrização baseada na "desintegração temporal" (distribuições condicionais sequenciais) para caracterizar o acoplamento ótimo.
• Teoremas 1 e 2:
  • O Teorema 1 fornece a atualização explícita dos parâmetros condicionais na etapa ímpar (mantendo a marginal de entrada e a causalidade).
  • O Teorema 2 fornece a atualização na etapa par (ajustando para a marginal de saída).
• Recuperação do Modelo: Após a convergência do algoritmo, obtém-se um acoplamento Gaussiano conjunto $\pi^*$. A partir deste, é possível recuperar explicitamente os parâmetros do modelo de entrada-saída linear Gaussiano ($h_t, f_t, b_t, \epsilon_t$) através de condicionamento estatístico.

3. Resultados Numéricos

Os autores apresentam um exemplo numérico com processos estacionários Gaussianos em um intervalo de tempo discretizado ($T=128$).

• Comparação: O desempenho do acoplamento causal (ECOT) foi comparado com um acoplamento não-causal (Transporte Ótimo Entópico padrão, sem restrição temporal).
• Análise de Covariância Cruzada: A análise da covariância cruzada condicional $Cov(U_t, Y_s | U_{1:\tau})$ revelou:
  • No caso Causal: A covariância é zero quando a saída depende de entradas futuras (violação de causalidade), respeitando a estrutura não-antecipativa.
  • No caso Não-Causal: Ocorrem dependências não físicas (valores não nulos onde $s < \tau$ e $t > \tau$), indicando que o modelo "adivinha" o futuro, o que é indesejável para identificação de sistemas dinâmicos reais.
• O algoritmo convergiu rapidamente, demonstrando a viabilidade computacional da abordagem.

4. Contribuições Chave

1. Formulação ECOT para Gaussianos: Estabelecimento de uma formulação completa para o Transporte Ótimo Causal Entópico no regime Gaussiano com custos quadráticos gerais.
2. Algoritmo Explícito: Derivação de um algoritmo de Sinkhorn totalmente analítico (baseado em matrizes e vetores), superando a necessidade de métodos numéricos genéricos ou aproximações abstratas.
3. Identificação de Sistemas: Fornecimento de uma fundação principiológica para identificar modelos dinâmicos lineares diretamente a partir de dados distribucionais (marginais), sem necessidade de pares de dados acoplados.
4. Generalidade: O custo considerado é mais geral que a distância de Wasserstein-2 padrão, capturando dependências temporais complexas entre entradas e saídas passadas.

5. Significado e Impacto

Este trabalho preenche uma lacuna importante na interseção entre Transporte Ótimo, Teoria de Controle e Identificação de Sistemas.

• Aplicabilidade: Permite a identificação de sistemas dinâmicos em cenários onde apenas estatísticas agregadas (distribuições) de entrada e saída estão disponíveis, mas os pares de dados temporais correspondentes foram perdidos ou não podem ser observados.
• Eficiência: Ao explorar a estrutura Gaussiana, o método torna-se computacionalmente escalável para séries temporais de dimensão moderada, oferecendo uma alternativa viável a métodos de otimização convexa de alta dimensão.
• Futuro: O artigo sugere que a extensão para modelos não-lineares e marginais não-Gaussianas é o próximo passo lógico para aplicações em modelagem generativa de séries temporais.

Em suma, o paper oferece uma ferramenta matemática robusta e computacionalmente eficiente para inferir relações causais em sistemas dinâmicos a partir de dados estatísticos incompletos, garantindo que as leis físicas de causalidade sejam estritamente respeitadas.