5680 artigos
Este artigo demonstra que o algoritmo de dualidade do espaço de estados do Mamba-2 pode ser implementado inteiramente usando primitivas padrão do XLA, eliminando a dependência de kernels CUDA personalizados e permitindo uma inferência autônoma com cache que funciona de forma idêntica em CPUs, GPUs NVIDIA e TPUs a partir de uma única fonte JAX.
Este artigo investiga a aprendizagem de estrutura de redes de Markov e Bayesianas na presença de um oráculo de independência condicional não confiável, demonstrando que redes de Markov podem ser identificadas mesmo com erros moderadamente exponenciais sob certas condições de conectividade, enquanto redes Bayesianas não toleram erros para identificação garantida, e apresentando algoritmos para casos onde a estrutura é unicamente identificável.
Este artigo apresenta o algoritmo a-TMFG, uma abordagem escalável que supera as limitações de memória e tempo do TMFG tradicional ao utilizar grafos de k-vizinhos mais próximos e gerenciamento de memória para construir representações gráficas eficientes em conjuntos de dados com milhões de observações.
Este artigo propõe uma abordagem de controle ótimo rigorosa para o treinamento de Transformers, modelando a arquitetura como um sistema de partículas controlado com dinâmica de McKean-Vlasov e utilizando um processo de decisão de Markov levantado em medidas de probabilidade para estabelecer políticas globalmente ótimas e robustas, oferecendo uma alternativa viável aos métodos baseados em gradiente que não exigem suavidade ou convexidade.
O artigo apresenta o SCDP, uma abordagem que utiliza um modelo de difusão condicionado a sensores e treinamento com observações mistas para aprender locomoção em humanoides apenas com dados onboard, alcançando desempenho comparável a métodos que usam estados privilegiados e demonstrando sucesso em robôs reais sem necessidade de estimativa de estado externa.
O artigo apresenta o "Routing without Forgetting" (RwF), uma arquitetura de transformador que utiliza camadas de recuperação associativa baseada em energia para realizar o aprendizado contínuo online sem esquecer, gerando prompts dinâmicos via recuperação associativa de um único passo em vez de depender de otimização iterativa baseada em gradiente.
Este trabalho demonstra que o algoritmo Adam possui propriedades de autoconvergência inerentes em polinômios altamente degenerados, alcançando convergência linear local sem agendadores externos graças a um mecanismo de desacoplamento que amplifica exponencialmente a taxa de aprendizado, superando significativamente métodos como o Gradiente Descendente e Momentum.
Este trabalho introduz uma estratégia de recorte de parâmetros fundamentada teoricamente para o Nonparametric Variational Differential Privacy (NVDP), que melhora a estabilidade numérica e otimiza o equilíbrio entre privacidade e utilidade ao restringir os parâmetros do modelo para minimizar o limite superior da Divergência de Rényi.
Este artigo caracteriza a capacidade de memorização de redes neurais profundas com ativação ReLU, estabelecendo que o produto dos quadrados da largura e da profundidade () deve ser da ordem de para memorizar pontos de dados, demonstrando que essa construção é ótima até fatores logarítmicos e definindo explicitamente o trade-off entre largura e profundidade nesse regime.
Este artigo apresenta um quadro unificado para a fatoração de matrizes não negativas (NMF) tradicional e convexa, utilizando funções de custo baseadas nas distribuições Tweedie e Binomial Negativa, derivando regras de atualização multiplicativa via algoritmos MM e validando empiricamente a superioridade desses modelos em dados com sobredispersão.
O artigo apresenta o BrainHO, um novo método que aprende a organização hierárquica intrínseca de redes cerebrais a partir de dados de fMRI, superando as limitações das abordagens baseadas em sub-redes pré-definidas para alcançar diagnóstico superior de transtornos neurológicos e identificar biomarcadores clinicamente relevantes.
O artigo apresenta o SparseLoom, um sistema demonstrador que utiliza a técnica de "model stitching" para recombinação de subgrafos de modelos esparsos sem retreinamento, permitindo a execução eficiente de múltiplas DNNs em SoCs de borda e reduzindo significativamente as violações de objetivos de nível de serviço (SLO), aumentando o throughput e diminuindo a sobrecarga de memória em comparação com sistemas existentes.
Este artigo de revisão analisa sistematicamente as fontes de ruído em sistemas de Aprendizado de Máquina Quântica Fotônica (PQML), examinando suas arquiteturas e algoritmos, categorizando os mecanismos de ruído e seus impactos no desempenho, além de revisar técnicas de caracterização e estratégias de mitigação para o desenvolvimento de sistemas robustos e escaláveis.
Este artigo apresenta um framework baseado em Redes Adversariais Generativas Condicionais (cGANs) que utiliza dados de perfis de poço para sintetizar imagens contínuas de seções delgadas de rochas carbonáticas, preenchendo lacunas na caracterização de reservatórios e apoiando aplicações de transição energética.
O artigo apresenta o FreqCycle, um novo framework de previsão de séries temporais que integra módulos de aprendizado no domínio do tempo e da frequência para capturar padrões de baixa, média e alta frequência, além de sua extensão hierárquica MFreqCycle para lidar com periodicidades acopladas, alcançando desempenho superior e maior eficiência em comparação com métodos existentes.
Este trabalho analisa empiricamente como o viés de rótulo e os subtipos de viés de seleção impactam a avaliação, o desempenho e a eficácia das mitigações em modelos de classificação, introduzindo um novo framework que revela a ausência de trade-off entre justiça e precisão quando os modelos são avaliados em dados não enviesados e destaca a dependência dos métodos de mitigação em relação ao tipo específico de viés presente.
Este trabalho apresenta um framework de código aberto para detecção de anomalias em séries temporais usando Redes Neurais em Grafos (GNNs), que não só demonstra melhor desempenho e interpretabilidade em comparação com modelos de base, mas também oferece uma avaliação crítica das práticas atuais de métricas e thresholding no campo.
O artigo apresenta o EsoLang-Bench, um novo benchmark que utiliza linguagens de programação esotéricas para avaliar o raciocínio genuíno de modelos de linguagem, revelando que, apesar de seu alto desempenho em tarefas de codificação convencionais, eles falham drasticamente ao aprender novas linguagens a partir de documentação, indicando que seus resultados anteriores derivam mais de memorização do que de capacidade de raciocínio transferível.
Este trabalho demonstra que o esquecimento catastrófico no ajuste fino eficiente de parâmetros baseado em decomposição de baixo posto é fortemente influenciado pela geometria e parametrização do subespaço de atualização, destacando que abordagens tensoriais e alinhadas estruturalmente mitigam esse problema ao preservar representações pré-treinadas em cenários de aprendizado sequencial.
O artigo apresenta o ActiveUltraFeedback, um pipeline de aprendizado ativo que utiliza estimativas de incerteza e métodos inovadores de seleção de pares de respostas para gerar dados de preferência de alta qualidade, permitindo o alinhamento eficiente de modelos de linguagem com até seis vezes menos dados anotados em comparação com baselines estáticas.