6217 artigos
Este artigo estabelece limites superiores de generalização para osciladores neurais baseados em equações diferenciais de segunda ordem, demonstrando teoricamente que seus erros de estimação crescem polinomialmente com o tamanho da rede e o tempo, evitando a maldição da complexidade paramétrica, e validando que a regularização das constantes de Lipschitz melhora o desempenho em sistemas não lineares sob excitação sísmica estocástica.
O artigo estabelece teoremas de aproximação universal global para funcionais de trajetórias lineares por partes, demonstrando que os funcionais lineares das assinaturas correspondentes são densos sob certas condições de integrabilidade, o que permite obter resultados de aproximação para funcionais dependentes de trajetória, equações diferenciais ordinárias aleatórias e equações diferenciais estocásticas impulsionadas por movimento browniano.
Este artigo demonstra que conceitos ausentes, cuja falta ativa neurônios, são comuns em redes neurais e frequentemente ignorados pelos métodos padrão de IA explicável, propondo extensões simples para técnicas de atribuição e visualização de recursos a fim de revelar e explorar essas "ausências codificadas" para melhorar a interpretabilidade e a mitigação de viés.
Este artigo propõe e valida um framework híbrido quântico-clássico que combina redes LSTM com Máquinas de Nascimento de Circuitos Quânticos (QCBM) para prever a volatilidade financeira, demonstrando superioridade em métricas de erro em comparação com modelos puramente clássicos em dados reais do mercado chinês.
Este artigo propõe o esquema ACP-SL, que utiliza um módulo de pontuação de importância de canais sensível ao rótulo para realizar a poda adaptativa de canais no aprendizado dividido, reduzindo assim a sobrecarga de comunicação sem comprometer a precisão.
Este artigo apresenta o -GaBO, uma nova família de algoritmos de otimização bayesiana fundamentada na geometria da informação para otimizar funções no simplex de probabilidade, demonstrando superioridade em relação às abordagens euclidianas convencionais em diversas aplicações reais.
O artigo propõe o "In-Context RLVR", um método que utiliza a capacidade de aprendizado em contexto do próprio modelo para medir a utilidade das demonstrações e reponderar implicitamente as recompensas, priorizando traços de raciocínio de alta qualidade e melhorando assim tanto a precisão quanto a qualidade do raciocínio em benchmarks matemáticos.
Este artigo apresenta o "pseudo-projetor", uma modificação leve inspirada no paradigma multigrid que atua como um corretor de representações ocultas para reduzir a sensibilidade ao ruído e melhorar a dinâmica de treinamento e a robustez em modelos baseados em transformers, sem alterar sua arquitetura central.
Este artigo apresenta um novo framework hierárquico de aprendizado multi-tarefa e multi-fidelidade baseado em processos gaussianos que unifica a exploração de similaridades entre tarefas e a heterogeneidade dos dados para criar modelos substitutos mais precisos e eficientes em termos de dados para sistemas de manufatura.
Este artigo apresenta o HR-GAT, um modelo de rede de atenção hierárquica baseado em grafos que utiliza dados geoespaciais para prever a demanda de espectro com 21% mais precisão que modelos existentes, superando desafios de autocorrelação espacial em cinco cidades canadenses.
O artigo apresenta o GAST, um método inovador de ajuste fino eficiente em parâmetros que otimiza simultaneamente a seleção de dados e de camadas em modelos de linguagem grandes, superando as abordagens existentes ao adaptar dinamicamente os pontos de dados mais impactantes para cada camada específica.
O artigo apresenta o CarbonBench, o primeiro benchmark global padronizado que utiliza mais de 1,3 milhão de observações de fluxos de carbono para avaliar e comparar rigorosamente métodos de aprendizado zero-shot na generalização espacial de modelos de troca de carbono terrestre entre diferentes ecossistemas e regimes climáticos.
O artigo propõe o MSSR, um framework de replay adaptativo que estima a força de memória em nível de amostra e agenda a reutilização de dados em intervalos dinâmicos para mitigar o esquecimento catastrófico durante o ajuste contínuo de grandes modelos de linguagem, superando os métodos existentes em eficiência e desempenho.
O artigo apresenta o OptEMA, um otimizador adaptativo baseado em Média Móvel Exponencial que, ao eliminar a necessidade de constantes de Lipschitz e parâmetros pré-definidos, garante taxas de convergência quase ótimas no regime sem ruído e adaptativas ao nível de ruído sob condições padrão de descida de gradiente estocástica.
Este artigo estabelece que a modelagem generativa via derivação (drifting) é teoricamente equivalente ao *score matching*, revelando suas bases variacionais e espectrais para explicar limitações de kernels, propor um novo esquema de annealing de banda e justificar a necessidade do operador *stop-gradient* para treinamento estável.
O artigo apresenta o SignalMC-MED, um novo benchmark multimodal baseado em dados sincronizados de ECG e PPG de longa duração para avaliar modelos fundamentais de biosinais, demonstrando que a fusão multimodal e o uso de sinais completos superam abordagens unimodais e segmentos curtos, enquanto características manuais de ECG oferecem um forte baseline complementar.
Este artigo apresenta o Indicador de Superajuste-Subajuste (OUI) como um sinal estrutural precoce e eficiente para identificar taxas de aprendizado ideais em algoritmos PPO, demonstrando que a análise das ativações neuronais permite descartar execuções promissoras muito antes do término do treinamento com maior precisão do que métricas tradicionais.
Este trabalho apresenta os "neural debuggers", modelos de linguagem que emulam depuradores tradicionais permitindo controle interativo sobre a execução de código Python, superando as limitações dos interpretadores neurais existentes e estabelecendo as bases para sistemas de codificação autônomos mais avançados.
Este artigo propõe uma nova família de normas de operador normalizadas por média que permitem o controle independente da largura das constantes de Lipschitz e suavidade, resultando no otimizador MOGA, que garante transferência estável de taxas de aprendizado entre diferentes larguras de modelo e supera o Muon em regimes de baixa perda e grandes tokens.
O artigo apresenta o C2FMAE, um autoencoder mascarado de coarse-to-fine que resolve a tensão entre aprendizado de semântica global e detalhes locais ao aprender representações visuais hierárquicas através de um decodificador em cascata e um currículo de mascaramento progressivo, resultando em ganhos significativos em tarefas de visão computacional.