Resumo Técnico: Identificação de Relações Polinomiais por Partes Explícitas e Parsimoniosas em Séries Temporais Industriais

1. Declaração do Problema

O artigo aborda o desafio de identificar relações não lineares a partir de dados de séries temporais industriais, especificamente para aplicações como gêmeos digitais, projeto de controle e detecção de anomalias. Embora as Redes Neurais Profundas (DNNs) sejam amplamente utilizadas devido às suas propriedades de aproximação universal, os autores argumentam que elas são frequentemente inadequadas para contextos industriais devido a três restrições específicas:

1. Dados de Treinamento Incompletos: Equipamentos industriais operam em contextos diversos não totalmente representados nos conjuntos de treinamento, levando a altos riscos de sobreajuste, particularmente em DNNs de alto parâmetro.
2. Explicabilidade Obrigatória: Operadores industriais exigem modelos que se alinhem com leis físicas e permitam a análise de causa raiz de anomalias. DNNs, com sua natureza de "caixa preta" e centenas de milhares de parâmetros, falham em fornecer isso sem uma análise post-hoc tediosa.
3. Parsimônia Inerente: Sistemas industriais são governados por leis físicas que são estruturalmente parsimoniosas. Modelos que não impõem essa esparsidade são propensos a uma generalização pobre em contextos não vistos.

A lacuna técnica específica abordada é a transição de modelos de polinômios por partes implícitos (que fornecem resíduos ajustados para detecção de anomalias, mas não geram uma função de previsão explícita $\hat{y} = f(x)$) para representações explícitas e parsimoniosas de polinômios por partes. Modelos explícitos são necessários para tarefas como projeto de sensores virtuais ou controle feedforward.

2. Metodologia

2.1. Fundamento: Representação Implícita por Partes

A abordagem baseia-se em um algoritmo proposto anteriormente [3] que identifica um conjunto de $n_m$ polinômios multivariados esparsos $\{P_\kappa\}_{\kappa=1}^{n_m}$. Esses polinômios definem uma relação implícita onde o resíduo é minimizado como:
$$e(x, y) := \min_{\kappa=1}^{n_m} |y - P_\kappa(x)|$$
Nesta forma implícita, para qualquer vetor de características dado $x$, o rótulo $y$ está próximo de um dos polinômios no conjunto, mas o índice específico do polinômio não é mapeado explicitamente como uma função de $x$ de uma maneira que permita previsão direta sem re-solver a minimização.

2.2. Heurística Proposta: Construção Explícita por Partes

Para derivar um preditor explícito $\hat{y}$, o artigo propõe uma estratégia de agregação baseada em "votantes". A ideia central é construir um conjunto de mapas explícitos por partes que particionam o espaço de características e atribuem o polinômio mais adequado do conjunto implícito a cada região.

Passo 1: Tripletos de Particionamento
Um triplo de particionamento $\xi = (\pi, n_d, x_c)$ é definido, consistindo em:

• Um polinômio $\pi: \mathbb{R}^n \to \mathbb{R}$.
• Um inteiro $n_d \ge 2$ (número de sub-regiões).
• Um centro $x_c \in \mathbb{R}^n$.
  Este triplo particiona o espaço de características em $n_d$ regiões com base nos quantis de $\pi(x - x_c)$.

Passo 2: Construção de Votante Único
Para um triplo $\xi$ dado, o algoritmo atribui o polinômio "melhor" $P_{\kappa}$ a cada região $R^{(i)}_\xi$ minimizando o Erro Absoluto Médio (MAE) dentro daquela região. Isso cria um único preditor explícito (votante):
$$P_\xi(x) := P_{\kappa_\xi(\sigma_\xi(x))}(x)$$
onde $\sigma_\xi(x)$ mapeia $x$ para seu índice de região.

Passo 3: Agregação via Seleção Iterativa de Votantes
Como uma única partição aleatória pode ser subótima, o algoritmo gera um conjunto de $n_V$ votantes iterativamente:

1. Inicializar com um triplo aleatório $\xi^{(1)}$ (centro em 0, polinômio aleatório).
2. Calcular o erro de previsão $\epsilon^{(j)}$ do conjunto atual (média de $j$ votantes).
3. Gerar um novo triplo candidato $\xi^{(j+1)}$ por:
   • Selecionar um novo centro $x_c$ aleatoriamente dos 5% superiores de amostras com os maiores resíduos atuais.
   • Gerar um polinômio aleatório $\pi$ com um grau fixo e número fixo de monômios ativos.
4. Critério de Aceitação: O novo votante é adicionado ao conjunto apenas se o erro do novo conjunto satisfizer uma condição de contração: $\epsilon^{(j+1)} \le \gamma_c \times \epsilon^{(j)}$, onde $\gamma_c \in (0, 1)$.
5. O processo para quando o número máximo de tentativas é atingido.

A previsão explícita final é a média de todos os votantes aceitos:
$$\hat{y} := \frac{1}{n_V} \sum_{\ell=1}^{n_V} P_{\xi^{(\ell)}}(x)$$

3. Contribuições Principais

1. Derivação Heurística: O artigo apresenta uma heurística inovadora para converter resíduos de polinômios esparsos implícitos em preditores explícitos de polinômios por partes usando um triplo de particionamento e um mecanismo de agregação de votantes.
2. Prova de Conceito (Robô de 6 Eixos): O método é validado em um manipulador Staubli TX2-90 de 6 eixos. O algoritmo identificou com sucesso modelos explícitos para todos os seis torques das juntas, demonstrando escalabilidade para espaços de características de alta dimensão ($n=18$).
3. Estudo de Generalização (Robô de 4 Eixos): Um experimento dedicado em um robô de 4 eixos (Staubli TS0-80) testou a generalização para "contextos não vistos" (trajetórias com excursões significativamente maiores que os dados de treinamento). Isso destacou a robustez da abordagem parsimoniosa em comparação com DNNs.
4. Análise Comparativa: O estudo fornece uma comparação rigorosa contra arquiteturas DNNs de última geração (MLP, CNN, Transformer) quanto à precisão de previsão, lacunas de generalização, complexidade computacional e tempo de treinamento.

4. Resultados Experimentais

4.1. Caso de Uso 1: Robô de 6 Eixos (Escalabilidade e Desempenho)

• Precisão: No conjunto de dados de teste, os modelos polinomiais por partes explícitos propostos (xpwpol) alcançaram resíduos normalizados (nMAE/nMSE) comparáveis às DNNs para os primeiros três eixos. Para os eixos 4–6, os resíduos foram ligeiramente mais altos, mas permaneceram na mesma ordem de grandeza.
• Generalização: Os modelos xpwpol exibiram lacunas de generalização notavelmente baixas ($\alpha_c \approx 0,00 - 0,11$), indicando sobreajuste mínimo. Em contraste, as DNNs mostraram lacunas significativas (até $\alpha_c \approx 2,31$), com resíduos de treinamento muito menores que os resíduos de teste, confirmando o sobreajuste.
• Complexidade: Os modelos xpwpol utilizaram um máximo de ~700 coeficientes ativos (monômios). As DNNs exigiram entre 14.000 e ~800.000 parâmetros treináveis.
• Tempo de Computação: O ajuste do modelo para xpwpol levou segundos (por exemplo, 35s a 173s) em uma CPU padrão. O treinamento de DNNs exigiu horas (2h+) mesmo com aceleração por GPU.

4.2. Caso de Uso 2: Robô de 4 Eixos (Generalização para Contextos Não Vistos)

• Configuração: O treinamento foi realizado em trajetórias de "pequena excursão", enquanto o teste foi feito em trajetórias de "grande excursão" (uma mudança de distribuição significativa).
• Resultados:
  • DNNs: O modelo Transformer falhou em generalizar, mostrando aumentos massivos de erro no conjunto de teste de grande excursão (por exemplo, nMAE saltando de 0,08 para 1,38 para o Eixo 1).
  • xpwpol: Os modelos parsimoniosos mantiveram desempenho robusto nos primeiros três eixos, com valores de nMAE permanecendo baixos (por exemplo, 0,10 a 0,37) apesar da mudança de contexto.
  • Exceção: Para o Eixo 4, tanto a DNN quanto o modelo xpwpol tiveram dificuldades, sugerindo que dinâmicas físicas específicas daquele eixo não foram bem capturadas pelos dados disponíveis ou pela estrutura do modelo.
• Observação: Os modelos xpwpol exigiram apenas um triplo de particionamento ($n_V=1$) neste cenário, utilizando polinômios de primeira ordem, e ainda assim superaram as DNNs em generalização.

5. Significado e Alegações

O artigo afirma que a estrutura proposta oferece uma alternativa viável às DNNs para modelagem de séries temporais industriais, particularmente quando:

• Os dados são escassos ou incompletos: A natureza parsimoniosa dos modelos reduz o risco de sobreajuste a contextos de treinamento específicos.
• A explicabilidade é crítica: A estrutura explícita por partes permite que os operadores rastreiem previsões de volta para subconjuntos específicos de sensores e relações físicas, facilitando a análise de causa raiz.
• Os recursos computacionais são limitados: O método alcança ajuste em segundos em hardware padrão, ao contrário das horas exigidas para DNNs.
• A generalização é primordial: O teorema "No Free Lunch" é reconhecido; o método proposto não supera universalmente as DNNs em todas as métricas (por exemplo, a precisão bruta em alguns eixos foi ligeiramente menor), mas supera-as significativamente na generalização para contextos não vistos e na interpretabilidade do modelo.

Os autores concluem que, embora nenhuma solução única seja perfeita para todos os casos de uso, a abordagem explícita e parsimoniosa proposta é uma opção robusta, eficiente e explicável que merece adoção em ambientes industriais onde a confiabilidade e a compreensão do modelo são tão importantes quanto o poder preditivo bruto.