Fast Quadratic Manifold Learning For Nonlinear Dimensionality Reduction in Large-scale Systems using Riemannian Optimization

Resumo Técnico: Aprendizado de Variedade Quadrática Rápido para Redução de Dimensionalidade Não Linear

Declaração do Problema
Sistemas físicos em larga escala, como aqueles governados por equações diferenciais parciais (EDPs), são computacionalmente caros de simular, dificultando aplicações em tempo real, como projeto e otimização. Técnicas de redução de modelo, especificamente Modelos de Ordem Reduzida (MORs), abordam isso ao aproximar a dinâmica do sistema em subespaços de dimensão inferior. Embora a Decomposição Ortogonal Proper (POD) seja o padrão para redução de dimensionalidade linear, ela frequentemente falha em capturar a curvatura intrínseca de variedades de solução altamente não lineares (por exemplo, fluxos turbulentos) sem exigir dimensões de subespaço proibitivamente grandes.

Variedades Quadráticas (VQ) oferecem uma solução ao aumentar projeções lineares com termos de correção quadrática estruturados. No entanto, as abordagens de VQ existentes enfrentam limitações significativas:

1. Seleção de Base Subótima: Métodos padrão dependem dos principais componentes (modos POD) para o subespaço linear. Embora ótimos para reconstrução linear, esses modos são frequentemente subótimos para capturar as interações não lineares necessárias para correções quadráticas.
2. Complexidade Combinatória: Métodos de seleção gananciosa tentam melhorar a capacidade representacional ao buscar um conjunto maior de modos candidatos. No entanto, esses métodos são inerentemente discretos e combinatórios, sofrendo de complexidade fatorial à medida que o conjunto de candidatos cresce, o que limita os tamanhos de base viáveis na prática.
3. Escalabilidade: Muitas abordagens baseadas em otimização para construção de VQ envolvem funções de custo que escalam com a dimensão completa do espaço de estados ($N$), tornando-as computacionalmente intratáveis para sistemas em larga escala.

Metodologia: FastQM
O artigo propõe o FastQM, um quadro que reformula a identificação de uma aproximação quadrática ótima como um problema de otimização contínua na variedade de Stiefel.

• Identificação Contínua de Subespaço: Em vez da seleção discreta de modos POD, o FastQM trata a identificação da base como a busca de um quadro ortonormal ótimo dentro de um intervalo pré-definido de vetores singulares candidatos. O subespaço linear ($V_r$) e o subespaço de correção quadrática ($V_q$) são construídos como combinações lineares de $m$ modos candidatos (tipicamente os $m$ primeiros vetores singulares à esquerda dos dados de instantâneo).
• Otimização Riemanniana: A busca pela base ótima é formulada como a minimização de uma função objetivo de mínimos quadrados regularizada sujeita a restrições de ortogonalidade. As variáveis de otimização são matrizes de rotação $Q_r$ e $Q_q$ que mapeiam a base candidata para os subespaços lineares e quadráticos ótimos. Este problema é resolvido usando otimização Riemanniana (utilizando especificamente a biblioteca Pymanopt e JAX para diferenciação automática e aceleração de hardware).
• Formulação no Espaço de Características: Uma inovação crítica é a reformulação da função objetivo para garantir eficiência computacional. Ao pré-computar a projeção dos dados de instantâneo sobre a base candidata ($\tilde{S} = \tilde{V}^T S$) e utilizar identidades de traço, a avaliação da função de custo e de seus gradientes escala com o número de modos candidatos ($m$) e as dimensões reduzidas ($r, q$), em vez da dimensão completa do estado ($N$). Isso garante que o método permaneça escalável para problemas em larga escala onde $N \gg m$.
• Algoritmo: O processo envolve:
  1. Computar a SVD da matriz de instantânicos centralizada.
  2. Selecionar os $m$ vetores singulares superiores como o intervalo candidato.
  3. Resolver o problema de otimização restrita na variedade de Stiefel $St(m, r+q)$ para encontrar as matrizes de rotação ótimas $Q_r$ e $Q_q$.
  4. Reconstruir as bases ótimas e resolver para a matriz de ponderação quadrática $\Xi$ via mínimos quadrados lineares.

Principais Contribuições

1. Quadro de Otimização Inovador: O artigo introduz uma mudança da seleção de base discreta e combinatória para a identificação contínua de subespaço via otimização Riemanniana, permitindo a "rotação" da base para melhor alinhamento com estruturas não lineares.
2. Função Objetivo Escalável: A derivação de uma função objetivo cuja avaliação é independente da dimensão completa do espaço de estados $N$, permitindo aplicação a sistemas em larga escala.
3. Validação de Desempenho: Uma comparação abrangente demonstrando que o FastQM supera a POD padrão, VQs baseadas em POD e VQs construídas de forma gananciosa em precisão de reconstrução.

Resultados Numéricos
A eficácia do FastQM foi demonstrada em uma simulação de grandes vórtices (LES) de esteira de perfil aerodinâmico turbulento (NACA 0012 em $Re=23.000$), apresentando uma dimensão de estado de $N \approx 6,6 \times 10^5$.

• Precisão: Em várias dimensões reduzidas ($r$) e números de modos não lineares ($q$), o FastQM consistentemente alcançou o menor erro de reconstrução relativo comparado à POD, VQ baseada em POD e VQ Gananciosa.
• Comparação com Métodos Gananciosos: Embora a VQ Gananciosa tenha desempenho semelhante à VQ baseada em POD em baixas dimensões (devido à seleção inicial corresponder aos vetores singulares líderes), o FastQM evitou essa limitação ao otimizar a rotação contínua da base, capturando características não lineares críticas que a seleção discreta perdeu.
• Estrutura de Modos: Análise visual dos modos otimizados revelou que eles resolvem escalas significativamente mais finas em comparação com os modos POD padrão, facilitando uma melhor aproximação quadrática.
• Convergência: A otimização convergiu eficientemente (por exemplo, dentro de 86 iterações para o caso LES) com um custo computacional gerenciável (aproximadamente 20 segundos para o caso de teste específico).

Significado e Alegações
Os autores afirmam que o FastQM estabelece uma escolha viável para tarefas de redução de modelo em larga escala ao superar a suboptimalidade das variedades quadráticas padrão baseadas em POD. O artigo afirma que:

• A optimalidade das coordenadas POD é estritamente limitada a aproximações lineares; para variedades quadráticas, o sistema de coordenadas deve ser otimizado.
• A otimização contínua na variedade de Stiefel fornece um espaço de busca mais rico do que a seleção gananciosa, otimizando a sinergia entre termos lineares e quadráticos sem a explosão combinatória.
• O método alcança fidelidade de reconstrução superior com sobrecarga computacional mínima, tornando-o adequado para sistemas de alta dimensão onde abordagens tradicionais de otimização seriam intratáveis.

O trabalho conclui que, embora a aplicação específica tenha sido uma esteira de perfil aerodinâmico turbulento, o quadro é geral, e trabalhos futuros visam estendê-lo a uma variedade mais ampla de problemas de engenharia para avaliar ainda mais a generalizabilidade.