🤖 machine learning

Neural Discovery of Memory and Nonlocal Kernels in Integro-Differential Equations with Constrained Kolmogorov--Arnold Networks

Este artigo propõe um framework de solver diferenciável utilizando Redes de Kolmogorov–Arnold com restrições (especificamente MC-KAN com restrição rígida e Cheb-KAN com penalidade suave) para descobrir de forma robusta núcleos de memória e não locais interpretáveis em equações íntegro-diferenciais a partir de observações esparsas e ruidosas, demonstrando que impor restrições de forma física por construção produz uma precisão superior em relação a penalidades suaves, particularmente para problemas multidimensionais.

Autores originais: Aruzhan Tleubek, Salah A Faroughi

Publicado 2026-07-14

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Aruzhan Tleubek, Salah A Faroughi

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um detetive tentando descobrir as "regras fantasmagóricas" que governam uma máquina misteriosa. Você não consegue ver as engrenagens internas da máquina, mas pode observar como ela se move quando você a empurra. No mundo da física, muitos sistemas (como elásticos que retornam lentamente à forma original, ou o calor se espalhando por um material com memória) não reagem apenas ao que está acontecendo neste exato momento. Eles lembram do passado. Eles têm uma "memória que desaparece".

Matemáticos descrevem essa memória usando um ingrediente especial chamado kernel. Pense no kernel como um cartão de receita que diz ao sistema exatamente quanto peso dar a cada momento do seu passado. Se você conhece a receita, pode prever o futuro perfeitamente. Mas, geralmente, o cartão da receita está faltando! Os cientistas têm os movimentos da máquina (os dados), mas não conhecem a receita. Este é um quebra-cabeça complicado porque muitas receitas diferentes poderiam produzir o mesmo movimento, especialmente se suas observações forem borradas ou incompletas.

O Jeito Antigo vs. O Jeito Novo

Por muito tempo, os cientistas tentaram resolver isso fazendo derivações matemáticas complexas específicas para cada problema, ou adivinhando uma receita e esperando que ela servisse. Os autores deste artigo dizem: "Vamos tentar algo diferente". Eles construíram uma rede neural (um tipo de cérebro de IA) que atua como um detetive. Em vez de adivinhar, este cérebro de IA aprende a receita diretamente dos dados bagunçados e ruidosos de como o sistema se move.

Mas aqui está o detalhe: se você apenas deixar um cérebro de IA padrão adivinhar, ele pode criar uma receita que não faz sentido físico. Por exemplo, ele pode sugerir que a memória fica mais forte quanto mais antigo é o evento, ou que a influência do passado subitamente se torna negativa. No mundo real, a memória geralmente desaparece suavemente e nunca muda de sinal.

As Duas Estratégias de Detetive

Para impedir que a IA faça palpites sem sentido, os pesquisadores tentaram duas maneiras de forçar a IA a seguir as regras da física.

Estratégia 1: A Penalidade "Suave" (O Cheb-KAN)
Imagine que você está treinando um cachorro. Você diz a ele: "Não pule no sofá", e se ele pular, você dá um "não" gentil (uma penalidade suave). O cachorro pode ouvir, mas ele também pode pular de qualquer maneira se realmente quiser. É isso que o Cheb-KAN faz. Ele tenta aprender a receita, mas se a receita quebrar as regras (como tornar-se negativa ou curvar-se do jeito errado), o computador adiciona uma pequena pontuação de "punição" ao dever de casa da IA. A IA tenta minimizar a punição, mas não é estritamente proibido que ela quebre as regras.

Estratégia 2: A Restrição "Rígida" (O MC-KAN)
Agora, imagine que você constrói uma gaiola ao redor do cachorro. O cachorro fisicamente não consegue pular no sofá porque a gaiola está lá. Este é o MC-KAN (Rede Kolmogorov–Arnold Monótona–Convexa). Os pesquisadores não apenas pediram para a IA ser boa; eles construíram o cérebro da IA com blocos matemáticos especiais (polinômios de Bernstein) que tornam impossível para a IA gerar uma receita que quebre as regras. A IA é forçada por sua própria arquitetura a produzir apenas receitas que sejam positivas, que sempre desapareçam e que curvem da maneira correta. Não é uma sugestão; é uma lei da máquina.

O Grande Teste: A IA Consegue Encontrar a Receita?

A equipe colocou ambas as estratégias à prova em três cenários, variando do simples ao muito complexo.

1. A Memória Simples (Equação de Volterra 1D)
Eles começaram com um sistema simples onde a memória desaparece como uma curva exponencial padrão (como uma xícara de café esfriando). Eles deram à IA dados com diferentes níveis de "ruído" (estática ou imprecisão).

O Resultado: Ambas as estratégias encontraram a receita correta. Mesmo quando os dados eram muito ruidosos, ambas acertaram. No entanto, a Restrição Rígida (MC-KAN) foi ligeiramente mais precisa, encontrando a receita com cerca de 13% a 54% menos erro do que a versão de Penalidade Suave, dependendo de quanto ruído havia nos dados. Foi como se o cachorro na gaiola nunca tivesse cometido um único erro, enquanto o cachorro com o "não" gentil cometesse alguns pequenos deslizes.

2. A Memória Elástica (Onda Viscoelástica 1D)
Em seguida, eles observaram uma haste elástica vibrando. A memória aqui não era uma curva simples; era uma "exponencial esticada", que é uma forma mais complexa frequentemente encontrada em polímeros vítreos. Eles tornaram os dados muito esparsos, o que significa que deram à IA apenas alguns flashes do movimento da haste (apenas 11 instantâneos de um total possível de 1001).

O Resultado: Incrivelmente, ambos os métodos ainda consegravam encontrar a receita mesmo com tão poucos dados. Mas, novamente, a Restrição Rígida (MC-KAN) foi mais consistente. Ela encontrou a receita com cerca de 40% menos erro do que a versão de Penalidade Suave. A versão de Penalidade Suave às vezes oscilava um pouco, enquanto a versão de Restrição Rígida permanecia estável.

3. O Caos 2D (Reação-Difusão Não Local)
Finalmente, eles enfrentaram o desafio mais difícil: um sistema 2D onde a memória depende do espaço em duas direções (como um padrão se formando em uma superfície). Os dados eram esparsos (apenas 7 instantâções temporais em uma grade de 32x32) e ruidosos (até 0,15 de desvio padrão de ruído).

O Resultado: Foi aqui que a diferença se tornou enorme. A estratégia de Penalidade Suave começou a alucinar. Ela produziu receitas que tinham ondulações estranhas e não desapareciam corretamente. A Restrição Rígida (MC-KAN) permaneceu sólida como uma rocha.
- No nível de ruído mais alto (σ = 0,15), o método de Restrição Rígida teve um erro de kernel de 12,36%, enquanto o método de Penalidade Suave teve um erro de 21,95%. A Restrição Rígida foi quase duas vezes mais precisa.
- O método de Penalidade Suave até produziu formas "não admissíveis" (receitas que pareciam leis de potência em vez das formas exponenciais corretas) quando o ruído era alto. O método de Restrição Rígida nunca quebrou as regras.

O Veredito Final

O artigo conclui que, embora ambos os métodos funcionem bem quando os dados são limpos e simples, impor as regras construindo-as na estrutura da IA (Restrições Rígidas) é muito mais robusto quando os dados são bagunçados, esparsos ou de alta dimensão.

Os autores descobriram que, para o problema 2D mais difícil com ruído, o método de Restrição Rígida reduziu o erro em cerca de 44% em comparação com o método de Penalidade Suave. Eles também usaram com sucesso uma ferramenta chamada PySR para traduzir a receita de "caixa preta" aprendida pela IA de volta para uma fórmula matemática clara e legível (como $e^{-0,99\tau}$ ), provando que a IA não apenas adivinhou números; ela realmente aprendeu a lei física subjacente.

O que o artigo diz que NÃO é verdade:

O artigo não afirma que isso funciona para todo tipo de memória. Ele exclui explicitamente kernels que oscilam, mudam de sinal ou não desaparecem. O método de Restrição Rígida foi construído especificamente para uma "memória que desaparece" que seja positiva e suave.
O artigo não diz que isso é uma solução mágica para todos os problemas inversos. Ele admite que, para o problema 2D, eles tiveram que dividir a receita em partes para encontrar a fórmula completa, e o acoplamento entre as duas direções não foi perfeitamente recuperado de uma só vez.
Os resultados baseiam-se em simulações (dados gerados por computador), não em experimentos do mundo real ainda. Os autores sugerem que este é o próximo passo, mas a prova atual está nos números que eles geraram.

Em resumo: Se você quer encontrar a receita secreta de uma memória que desaparece a partir de dados bagunçados, construir uma gaiola ao redor da sua IA (Restrições Rígidas) funciona muito melhor do que apenas pedir gentilmente para ela se comportar (Penalidades Suaves).

Resumo Técnico: Descoberta Neural de Núcleos de Memória e Não Locais em Equações Integro-Diferenciais com Redes de Kolmogorov–Arnold Restritas

1. Enunciado do Problema

O artigo aborda o problema inverso mal posto de identificar núcleos de memória ou não locais desconhecidos que regem equações íntegro-diferenciais (IDEs) a partir de observações espaço-temporais esparsas e ruidosas. As IDEs modelam sistemas físicos com efeitos de memória (ex: relaxação viscoelástica, difusão anômala) ou não localidade espacial (ex: peridinâmica, reação-difusão não local), onde o estado depende da evolução histórica ou de interações espaciais distantes via um núcleo de convolução $K$ .

Os métodos de identificação existentes enfrentam limitações significativas:

Abordagens clássicas dependem de derivações analíticas específicas para o problema, requisitos de observação especializados (ex: medições de fluxo de fronteira) ou suposições restritivas para garantir a boa definição (well-posedness).
Métodos atuais de Aprendizado de Máquina Científico (SciML) frequentemente representam núcleos implicitamente dentro dos parâmetros de redes neurais, carecendo de interpretabilidade em forma fechada, ou exigem derivações de adjuntos específicas para o caso para o cálculo de gradientes. Além disso, muitos métodos têm dificuldade em impor restrições físicas (positividade, monotonicidade, convexidade) necessárias para a recuperação estável do núcleo em configurações mal postas.

O objetivo é desenvolver um framework flexível e orientado a dados que recupere diretamente a forma funcional do núcleo a partir de observações, aderindo estritamente às restrições de forma física, sem exigir fórmulas de inversão analítica específicas para cada problema.

2. Metodologia

Os autores propõem um framework baseado em solver diferenciável que incorpora uma representação de núcleo neural treinável dentro de um solver numérico para a IDE. O framework segue uma estratégia de "discretizar-então-otimizar", computando gradientes via diferenciação automática através do solver, evitando assim a necessidade de equações adjuntas específicas para cada caso.

2.1. Parametrização do Núcleo Neural

O núcleo desconhecido $K(\tau)$ (onde $\tau$ representa atrasos temporais e/ou espaciais) é parametrizado usando Redes de Kolmogorov–Arnold (KANs). Duas arquiteturas específicas são comparadas:

Cheb-KAN (KAN de Chebyshev com Restrição Suave):
- Utiliza bases de polinômios de Chebyshev para as funções de aresta (edge functions).
- Propriedades físicas (positividade, decréscimo monotônico, convexidade) são incentivadas via termos de penalidade suave adicionados à função de perda.
- A função de perda combina o erro de dados com penalidades para valores negativos, primeira derivada positiva e segunda derivada negativa.
MC-KAN (KAN Monotônico-Convexo com Restrição Rígida):
- Utiliza bases de polinômios de Bernstein para as funções de aresta.
- Propriedades físicas são impostas por construção através de restrições nos coeficientes polinomiais.
- Mecanismo: Ao restringir os coeficientes de Bernstein para satisfazer condições específicas de ordenação e convexidade (ex: $c_0 \ge c_1 \ge \dots \ge c_N$ para decréscimo monotônico), a função resultante é garantida como positiva, monotonicamente decrescente e convexa dentro do domínio $[0, 1]$ .
- A arquitetura emprega uma ordem de camadas específica: a primeira camada usa funções de aresta convexas decrescentes, enquanto as camadas subsequentes usam funções de aresta convexas crescentes. Esta composição garante que o núcleo final satisfaça os requisitos físicos necessários, independentemente dos coeficientes aprendidos.

2.2. Treinamento e Recuperação

Treinamento: O núcleo neural é incorporado em um solver de ida (usando quadratura ou FFT para integrais). Os parâmetros são otimizados para minimizar o descompasso entre os dados espaço-temporais previstos e observados.
Regressão Simbólica: Após o treinamento, o núcleo neural aprendido é amostrado, e a regressão simbólica (via PySR) é aplicada para extrair uma expressão matemática interpretável em forma fechada (ex: formas exponenciais ou de lei de potência).

3. Principais Contribuições

Framework de Solver Diferenciável: Um framework geral para descoberta de núcleos que integra representações neurais diretamente em solvers numéricos, eliminando a necessidade de derivações adjuntas específicas para cada caso.
Arquitetura KAN de Restrição Rígida: A introdução do MC-KAN, que utiliza polinômios de Bernstein para garantir restrições físicas (positividade, monotonicidade, convexidade) por construção, em vez de depender de penalidades suaves.
Análise Comparativa: Uma avaliação sistemática das abordagens de restrição rígida (MC-KAN) vs. restrição suave (Cheb-KAN) sob diferentes níveis de esparsidade, ruído e dimensionalidade.
Interpretabilidade: A integração bem-sucedida da regressão simbólica para converter núcleos neurais aprendidos em leis constitutivas de forma fechada.

4. Resultados Experimentais

O framework foi validado em três problemas de referência:

Experimento I: IDE de Volterra 1D (Memória Temporal)

Tarefa: Recuperar um núcleo de memória exponencial a partir de dados de séries temporais ruidosos.
Resultados: Ambos os métodos identificaram com sucesso a forma exponencial. No entanto, o MC-KAN alcançou consistentemente menores erros de reconstrução de núcleo do que o Cheb-KAN em todos os níveis de ruído e profundidades de rede.
Observação: Embora ambos os métodos tenham recuperado a forma analítica correta ( $K(\tau) = e^{-r\tau}$ ) via regressão simbólica, o MC-KAN de restrição rígida forneceu aproximações numéricas mais precisas, particularmente em níveis de ruído mais elevados.

Experimento II: PIDE de Onda Viscoelástica 1D (Memória Temporal)

Tarefa: Recuperar um núcleo de exponencial estendida (KWW) a partir de snapshots temporais esparsos da vibração de uma haste viscoelástica.
Resultados: Ambos os métodos foram robustos à esparsidade de dados (até 1% da grade completa). O MC-KAN obteve cerca de 40% menos erro de reconstrução de núcleo do que o Cheb-KAN em todos os níveis de esparsidade.
Observação: As reconstruções do MC-KAN permaneceram estritamente positivas, monótonas e convexas, enquanto o Cheb-KAN exibiu leves artefatos oscilatórios. Ambos os métodos recuperaram com sucesso os parâmetros reais de KWW ( $\tau_0, \beta$ ) via regressão simbólica.

Experimento III: Equação de Reação-Difusão Não Local 2D (Não Localidade Espacial)

Tarefa: Recuperar um núcleo de interação espacial 2D complexo e anisotrópico a partir de dados esparsos e ruidosos.
Resultados:
- No caso sem ruído, o Cheb-KAN teve um desempenho marginalmente superior.
- Sob condições de ruído ( $\sigma \ge 0.02$ ), o MC-KAN superou significativamente o Cheb-KAN. Em $\sigma = 0.15$ , o MC-KAN reduziu o erro do núcleo em quase um fator de dois em comparação ao Cheb-KAN.
- Robustez: As restrições rígidas no MC-KAN evitaram oscilações não físicas que apareceram nas reconstruções do Cheb-KAN quando os dados eram esparsos e ruidosos.
- Normalização: Uma normalização de entrada por lei de potência (concentrando a resolução perto da origem) melhorou ainda mais o desempenho do MC-KAN para núcleos com gradientes acentuados.
Recuperação Simbólica: Embora formas acopladas 2D tenham sido difíceis de recuperar diretamente, a regressão simbólica identificou com sucesso as fatias 1D separáveis e a estrutura de acoplamento (forma de produto) no espaço logarítmico.

5. Significância e Alegações

O artigo afirma que impor restrições de forma motivadas fisicamente por construção (via MC-KAN) proporciona maior robustez do que penalidades suaves para a descoberta de núcleos multidimensionais, particularmente quando as observações são esparsas e ruidosas.

Robustez: O principal benefito das restrições rígidas não é necessariamente um desempenho superior em problemas inversos simples e bem observados, mas sim a capacidade de manter representações fisicamente consistentes e precisas conforme a qualidade dos dados degrada.
Generalização: O framework é compatível com integradores de tempo e discretizações espaciais padrão, tornando-o aplicável a uma ampla classe de IDEs sem exigir derivações adjuntas customizadas.
Limitações: Os autores reconhecem que o atual MC-KAN é restrito a núcleos positivos, monótonos e convexos (excluindo núcleos oscilatórios ou que mudam de sinal). Adicionalmente, a regressão simbólica para núcleos multidimensionais totalmente acoplados continua sendo um desafio, muitas vezes exigindo a recuperação em etapas de componentes separáveis.

Em resumo, o trabalho demonstra que combinar solvers diferenciáveis com redes neurais estruturalmente restritas (especificamente KANs baseadas em Bernstein) oferece uma abordagem poderosa, interpretável e robusta para resolver problemas inversos em sistemas não locais ou dependentes de memória.