🤖 machine learning

An Embedded RISC-V Evaluation of Kolmogorov--Arnold Networks in Hard-Constrained Recurrent Physics-Informed Models

Este artigo demonstra que, embora as Redes de Kolmogorov–Arnold (KANs) ofereçam eficiência de parâmetros como ramos residuais em modelos de física informada recorrentes com restrições rígidas, elas apresentam um desempenho significativamente inferior ao de perceptrons multicamadas (MLPs) em núcleos RISC-V embarcados em termos de latência de execução, consumo de energia e robustez à quantização, tornando os MLPs a opção padrão mais confiável para tais implementações.

Autores originais: Enzo Nicolas Spotorno, Josafat Leal Filho

Publicado 2026-08-04

📖 3 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Enzo Nicolas Spotorno, Josafat Leal Filho

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está construindo um robô que precisa entender as leis da física para se mover corretamente. Se você apenas ensinar o robô a adivinhar como as coisas se movem olhando milhões de imagens, ele pode ficar confuso ao ver algo novo ou, pior, pode cometer um erro perigoso porque "alucinou" uma lei da física que não existe. Para corrigir isso, os cientistas usam um truque inteligente chamado modelo "Informado pela Física" (Physics-Informed). Pense nisso como dar ao robô um livro didático de leis conhecidas (como gravidade ou fricção) e dizer a ele: "Você conhece estas regras perfeitamente. Agora, apenas use seu cérebro para descobrir os pequenos detalhes bagunçados que o livro didático esqueceu". Este "cérebro" é geralmente um programa de computador simples e rápido chamado rede neural.

Recentemente, um novo tipo de rede neural chamado Rede de Kolmogorov–Arnold (ou KAN, para abreviar) tornou-se muito popular. Ela foi comercializada como uma versão supereficiente e leve da antiga "mente", prometendo fazer o mesmo trabalho com menos números armazenados em memória. Isso é um grande negócio para dispositivos pequenos e movidos a bateria, como drones ou sensores médicos, onde cada bit de memória e cada gota de energia contam. Mas há um porém: embora as KANs sejam ótimas para economizar espaço no papel, elas podem ser desajeitadas e lentas quando estão realmente rodando em um chip de computador real e minúsculo. A grande questão é: esse novo "cérebro eficiente" realmente economiza energia e tempo quando é implantado no mundo real, ou sua matemática sofisticada o torna lento demais para ser útil?

Este artigo coloca essa questão à prova, colocando frente a frente a "mente" da velha guarda (chamada de MLP) contra a nova KAN em um chip de computador pequeno e real (um processador RISC-V). Os pesquisadores não apenas observaram o quão bem elas aprenderam; eles mediram exatamente quanto tempo levou para tomar uma decisão e quanta energia de bateria cada uma consumiu. Eles descobriram que, embora a KAN seja de fato menor em tamanho, ela é surpreendentemente lenta e faminta por energia. Ao executar a mesma tarefa, descobriu-se que a KAN foi de 8,0 a 13,5 vezes mais lenta que a tradicional MLP. Pior ainda, ela consumiu de 5,6 a 11,3 vezes mais energia para cada passo de seu cálculo.

Os pesquisadores também testaram o que acontece quando você tenta tornar esses modelos ainda menores arredondando seus números (um processo chamado quantização), o que é comum para economizar espaço em dispositivos minúsculos. Aqui, as KANs desmoronaram muito mais rápido. Em um teste, as previsões da KAN ficaram loucamente erradas após apenas 6,5 passos, enquanto a tradicional MLP continuou trabalhando corretamente por 282 passos — uma diferença de 43 vezes na confiabilidade. O estudo conclui que, nesses chips de computador pequenos e padrão, a promessa de eficiência da KAN não se sustenta. A menos que os engenheiros projetem hardware especial especificamente para as KANs, a antiga e tradicional MLP continua sendo a escolha mais confiável, rápida e energeticamente eficiente para rodar modelos baseados em física em dispositivos embarcados.

Resumo Técnico: Avaliação de RISC-V Embarcado de Redes Kolmogorov–Arnold em Modelos de Física Informados por Recorrência com Restrições Rígidas

Definição do Problema
Redes neurais informadas por física recorrentes com restrições rígidas (HRPINNs) incorporam a dinâmica física conhecida em um integrador numérico recorrente, restringindo o componente neural a aprender apenas a dinâmica residual. As Redes Kolmogorov–Arnold (KANs) foram propostas como alternativas de eficiência de parâmetros aos Perceptrons de Camada Multicamadas (MLPs) para esses ramos residuais, mas seu perfil de execução difere significamente devido às ativações B-spline treináveis. Trabalhos anteriores estabeleceram que as KANs podem igualar ou subperformar os MLPs em precisão de descoberta, mas não avaliaram sua eficiência computacional ou confiabilidade em implantação. Este artigo investiga se a eficiência de parâmetros das KANs se traduz em custo de implantação em núcleos escalares embarcados, abordando especificamente três hipóteses: (H1) as KANs incorrem em maior latência de execução por passo do que os MLPs com precisão comparável; (H2) essa diferença de latência resulta em maior consumo de energia por passo de integração; e (H3) as KANs perdem fidelidade de trajetória mais cedo do que os MLPs sob quantização pós-treinamento dentro de um loop recorrente fechado.

Metodologia
O estudo avalia pesos idênticos de ramos residuais MLP e KAN implantados em uma plataforma StarFive VisionFive 2 (SiFive U74, RV64GC), um núcleo RISC-V sem extensões vetoriais. Esta escolha de hardware garante que ambas as arquiteturas sejam compiladas para sequências de instruções escalares, isolando a diferença de desempenho para a mistura de operações e padrões de acesso à memória das topologias em si.

Modelos e Benchmarks: A avaliação utiliza dois sistemas de referência: o oscilador de Duffing (resíduo additivemente separável) e o oscilador de Van der Pol (resíduo multiplicativamente acoplado). A arquitetura HRPINN utiliza um integrador Euler explícito.
Implementação: Um motor de inferência escalar livre de alocação foi desenvolvido em C++17. O motor suporta FP32 e quantização estática pós-treinamento (INT16, INT8, INT6, INT4). Duas variantes KAN foram testadas: uma implementação padrão correspondente à numeracia do PyTorch e uma variante otimizada com pré-computação de recíprocos de diferença de nós.
Métricas:
- Latência: Medida como o tempo de mediana por chamada para o ramo residual e para o passo completo da HRPINN.
- Energia: Medida via um contador de Coulomb USB inline ao longo de uma janela de execução de 120 segundos, calculando a energia diferencial por passo ( $E_{step} = (P_{load} - P_{idle}) / \text{passos/s}$ ).
- Confiabilidade: Avaliada através de rollouts de ciclo fechado de 2.000 passos a partir de 20 condições iniciais. A divergência é definida como o passo onde a distância euclidiana entre o rollout quantizado e a linha de base FP32 excede 0,1.
- Atribuição: O impacto da quantização foi isolado quantizando componentes específicos (pesos, ativações, estado ou entradas) individualmente.

Resultos Principais
Os experimentos confirmaram todas as três hipóteses:

Latência (H1): As KANs são significativamente mais lentas que os MLPs. Para pares de precisão comparável, o ramo residual KAN executou de 13,5× e 8,0× mais devagar que seus contrapartes MLP. Em todos os quatro níveis de tamanho pareados por parâmetros, a razão de latência variou de 4,7× a 14,5×. Normalizado por parâmetro, as KANs gastaram 41–93 ns por parâmetro comparado a 6,2–8,0 ns para os MLPs. A variante de recíproco otimizada recuperou apenas 6–18% desta latência, deixando uma lacuna substancial.
Energia (H2): O consumo de energia escala diretamente com a latência. Os pares KAN consumiram 11,3× e 5,6× mais energia por passo de integração do que os MLPs (ex: 3,7 µJ vs. 0,33 µJ para o menor par). A diferença de potência ativa incremental entre as arquiteturas foi indistinguível de zero, confirmando que a penalidade de energia é impulsionada inteiramente pelo tempo de execução, e não por um maior consumo de potência por ciclo.
Confiabilidade sob Quantização (H3): As KANs divergem muito mais cedo que os MLPs sob quantização. No modo de quantização total INT8, a KAN Duffing Very Small divergiu em uma mediana de 6,5 passos, enquanto o MLP Tiny correspondente divergiu em 282 passos (uma diferença de 43×).
- Análise de Atribuição: A divergência é causada primariamente pela quantização de pesos, não pelo erro de atribuição de intervalo de nó no lado da entrada. Quantizar apenas as entradas teve efeito negligenciável. No entanto, quantizar os pesos causou uma queda severa na precisão de descoberta das KANs (ex: $R^2$ de Duffing caindo de 0,90 para -0,10 em INT8), enquanto os MLPs permaneceram estáveis. A distribuição heterogênea dos coeficientes de spline das KANs as torna altamente sensíveis ao escalonamento por tensor, o que comprime desproporcionalmente os coeficientes pequenos.

Significância e Conclusões
O artigo conclui que a eficiência de parâmetros relatada para resíduos separáveis nas KANs não se transfere para o custo de implantação em núcleos escalares embarcados. A formulação B-spline introduz custos de execução e de nível de precisão que compensam a economia de parâmetros.

Orientação de Implantação: Para implantação de HRPINN embarcada, um ramo residual MLP é o padrão mais confiável, a menos que um co-design de quantização seja empregado.
Limitações de Otimização: A engenharia de kernel clássica (ex: tabelas de busca para funções transcendentais ou recíprocos pré-computados) pode fechar apenas uma fração da lacuna de latência. Um kernel escalar totalmente otimizado ainda permaneceria uma ordem de magnitude atrás dos MLPs.
Direções Futuras: Os autores sugerem que trabalhos futuros devem focar em esquemas de quantização co-projetados (ex: escalonamento por aresta ou por canal para pesos de spline) e avaliar essas arquiteturas em núcleos capazes de vetorização, embora a recursão densa em termos de gather e ramificada das KANs seja inerentemente mais difícil de vetorizar do que produtos de matriz densos.

O estudo enfatiza que, embora as KANs possam ser defensáveis onde a pegada de memória é a restrição limitante e a execução permanece em FP32 ou INT16, elas carecem atualmente da robustez e eficiência necessárias para a implantação geral em Sistemas Ciberfísicos (CPS) embarcados sob quantização padrão pós-treinamento.

Mais como este