When is multivariate kriging worthwhile? A design-geometry analysis of heterotopic multi-output Gaussian processes

Enunciado do Problema
Na pesquisa operacional, modelagem de multi-fidelidade e monitoramento ambiental, sistemas frequentemente geram múltiplos outputs relacionados observados em diferentes localizações de entrada, um padrão de amostragem conhecido como heterotópico. Uma questão central permanece sem resolução: um metamodelo de krigagem multivariada (processo gaussiano multi-saída) prevê melhor do que modelos univariados separados? A literatura empírica apresenta evidências conflitantes. Estudos de simulação cuidadosos sobre designs comuns (isotópicos) relatam pouco ou nenhum benefício da krigagem multivariada, sugerindo que modelos univariados simples são suficientes. Por outro lado, as literaturas de multi-fidelidade e geoestatística operam sob a premissa de que outputs auxiliares melhoram as previsões. Este artigo argumenta que esses achados não são contraditórios, mas sim governados pela geometria dos designs específicos de cada output. Especificamente, o artigo investiga quando a amostragem heterotópica permite o "empréstimo de força" (borrowing strength) entre outputs e quando o custo de estimar a dependência entre saídas supera os ganhos preditivos.

Metodologia e Estrutura Teórica
O artigo desenvolve uma estrutura teórica para processos gaussianos multi-saída (MGP) separáveis, onde a estrutura de covariância é definida por um kernel espacial $k(x, x')$ e uma matriz de corregionalização $\Lambda$. Os autores distinguem entre amostragem isotópica (todos os outputs nas mesmas localizações) e amostragem heterotópica (outputs em localizações diferentes).

1. Diagnósticos Geométricos Independentes de Modelo:
   Os autores introduzem diagnósticos computáveis antes do ajuste do modelo para caracterizar a geometria relativa dos designs:

   • Cobertura Direcionada ($DC_{p \to q}$): A proporção de localizações no design $X_p$ dentro de uma distância $r$ do design $X_q$.
   • Proximidade Direcionada ($\pi_{p \to q}$): A distância média do vizinho mais próximo de $X_p$ para $X_q$, normalizada pelo espaçamento interno de $X_q$ para criar uma métrica adimensional.
   • Índice de Potencial de Empréstimo (BPI): Um índice local $b_j(x^*)$ que mede se um design auxiliar está mais próximo de um ponto de predição $x^*$ do que o próprio design alvo, agregado em um índice global $B_j$.

2. Ganho de Predição Oracle:
   Sob a suposição de parâmetros de covariância conhecidos (configuração oracle), os autores derivam uma identidade exata para o ganho de predição $\Delta_j(x^*)$ da modelagem conjunta. Eles provam que o ganho é gerado exclusivamente através de um canal auxiliar residual: a parte do sinal auxiliar não explicada pelos dados do alvo. Eles estabelecem que este ganho é limitado por lacunas geométricas locais; especificamente, se o design alvo já estiver próximo do ponto de predição, os dados auxiliares oferecem pouco benefício além da filtragem de ruído.

3. Estimabilidade da Dependência Entre Saídas:
   O artigo analisa a informação de Fisher necessária para estimar os elementos fora da diagonal de $\Lambda$ (dependência entre saídas). Eles introduzem a massa de interação entre designs ponderada pelo kernel ($W_{pq}$), definida como a norma de Frobenius ao quadrado da matriz de kernel entre os designs $X_p$ e $X_q$.

   • O Teorema 5.2 estabelece que, no ponto de independência, a informação eficiente para estimar a dependência é exatamente a massa de interação "branqueada".
   • Os autores provam que o zero de sobreposição exata não implica zero informação. Designs podem ser entrelaçados (zero sobreposição, mas pequenas distâncias entre vizinhos mais próximos) ou separados (zero sobreposição e grandes distâncias). Apenas designs entrelaçados fornecem massa de interação suficiente para aprender a dependência.

4. Critério de Benefício Líquido:
   Combinando o ganho de predição oracle com a penalidade de estimativa de primeira ordem (derivada via método delta e informação eficiente), os autores formulam um critério de benefício líquido local. A modelagem conjunta só é valiosa quando o ganho de predição oracle excede o excesso de custo de estimativa induzido pelo aprendizado dos parâmetros de dependência cruzada.

Principais Resultados

• Reconciliação da Literatura: O artigo explica por que a krigagem multivariada falha em designs isotópicos (autokrigabilidade: a predição conjunta colapsa para a predição univariada em configurações isotópicas sem ruído), mas tem sucesso em configurações heterotópicas, onde os designs auxiliares preenchem lacunas locais no design alvo.
• Geometria sobre Sobreposição: O índice padrão de "sobreposição" (parcela de pontos coincidentes) é insuficiente. Dois designs com zero sobreposição podem gerar regimes inferenciais opostos: designs entrelaçados (alto potencial de empréstimo, dependência estimável) vs. designs separados (sem empréstimo, dependência inestimável).
• Massa de Interação: A estimabilidade da dependência entre saídas é estritamente controlada por $W_{pq}$. Se os designs estiverem separados por mais de alguns comprimentos de escala do kernel, $W_{pq}$ colapsa, tornando os parâmetros de dependência não identificáveis, independentemente do tamanho da amostra.
• Procedimento de Triagem: Os autores propõem um procedimento de triagem operacional de cinco etapas:
  1. Fixar alvos de predição e escalas de kernel.
  2. Mapear a geometria cruzada entre saídas (proximidade e cobertura).
  3. Priorizar outputs com alto Índice de Potencial de Empréstimo ($B_j$).
  4. Verificar a estimabilidade via massa de interação ($W_{pq}$).
  5. Ajustar seletivamente e verificar o benefício líquido.

Validação Experimental
A teoria é validada através de:

• Experimentos Sintéticos: Estudos controlados demonstram que designs entrelaçados com zero sobreposição geram ganhos oracle significativos e dependência estimável, enquanto designs separados com zero sobreposição não geram nem um, nem outro.
• Simulação de Fila M/M/1: Uma ilustração conectando diagnósticos a um metamodelo operacional.
• Rede de Monitoramento de Multi-poluentes: Um estudo de caso mostrando como os critérios se aplicam a dados heterotópicos do mundo real, identificando onde a modelagem conjunta é benéfica.

Significância e Alegações
O artigo afirma fornecer a primeira estrutura teórica que liga simultaneamente a geometria do design heterotópico tanto ao valor preditivo do empréstimo quanto à estimabilidade da dependência necessária para esse empréstimo. Ele oferece um "critério de benefício líquido de primeira ordem" que vai além de heurísticas qualitativas para uma ferramenta de triagem quantitativa. Os autores afirmam que seu trabalho resolve o conflito aparente na literatura ao mostrar que a modelagem conjunta não é universalmente superior ou inferior; em vez disso, seu valor é condicional ao arranjo geométrico específico dos designs de entrada. Os diagnósticos propostos permitem que os praticantes determinem a priori se o custo de ajustar um modelo multivariado complexo é justificado pela geometria dos seus dados disponíveis.