11279 artigos
O VSPrefill é um mecanismo de atenção esparsa com treinamento leve que explora padrões estruturais verticais e diagonais para reduzir a complexidade do pré-preenchimento de contexto longo para linear, alcançando um aceleramento médio de 4,95x em 128k tokens com apenas 1,65% de perda de precisão em modelos como Qwen3 e LLaMA-3.1.
Este artigo apresenta o MAD-SmaAt-GNet, uma rede neural multimodal que aprimora a previsão de precipitação de curto prazo ao combinar a arquitetura leve SmaAt-UNet com um codificador para múltiplas variáveis meteorológicas e um componente de advecção baseado em física, resultando em uma redução de 8,9% no erro quadrático médio em comparação com o modelo de base.
Este estudo revela que os modelos de linguagem exibem uma estrutura computacional de duas fases ao lidar com exemplos conflitantes no aprendizado em contexto, onde cabeças de atenção específicas em camadas iniciais e tardias amplificam a vulnerabilidade a regras corrompidas, e a ablação direcionada dessas cabeças consegue melhorar significativamente o desempenho.
O artigo apresenta o framework Act-Observe-Rewrite (AOR), no qual um agente de linguagem multimodal melhora políticas de manipulação robótica sintetizando e reescrevendo código executável entre tentativas com base em observações visuais e falhas estruturadas, alcançando alto desempenho em tarefas sem necessidade de demonstrações, engenharia de recompensas ou atualizações de gradiente.
Este estudo apresenta um modelo de previsão de trajetória de navios em vias navegáveis interiores baseado em LSTM e atenção, que, embora atinja uma precisão comparável a trabalhos similares, revela através de sua arquitetura interpretável que as melhorias de desempenho não são inteiramente impulsionadas por relações causais com os navios vizinhos, destacando a importância da explicabilidade para garantir a confiança nesses sistemas.
O artigo propõe o framework de Entropia de Padrão Baseada em Dicionário (DPE), que integra a Teoria da Informação de Shannon e a Teoria da Informação Algorítmica para inferir a direção causal e os subpadrões específicos em sequências simbólicas, demonstrando desempenho robusto e competitivo em diversos sistemas sintéticos e dados biológicos.
O artigo apresenta um sistema de reconhecimento de atividades baseado em uma Rede Neural Convolucional Circular Dilatada (CDCNN) que processa dados multimodais de palmilhas inteligentes, alcançando 86,42% de precisão na classificação de quatro atividades e demonstrando viabilidade para implantação em sistemas embarcados.
Este trabalho propõe o framework MTDP, que utiliza a destilação multi-professor de modelos fundacionais de visão e séries temporais para pré-treinar modelos fundacionais de EEG com apenas 25% dos dados, superando os métodos de auto-supervisão tradicionais em diversas tarefas downstream.
Este artigo analisa os tempos de parada da conjectura de Collatz para através de uma perspectiva de aprendizado de máquina probabilístico, demonstrando que um modelo hierárquico bayesiano de regressão Negativa Binomial supera aproximações geradoras baseadas em decomposição de blocos ímpares, enquanto evidencia que a estrutura modular de baixa ordem é um fator crucial para a heterogeneidade observada nos dados.
Este estudo apresenta o Ab-Affinity, um novo modelo de linguagem grande capaz de prever com precisão a afinidade de ligação de anticorpos contra o peptídeo alvo da proteína spike do SARS-CoV-2, aproveitando avanços em inteligência artificial e o aumento de dados experimentais para auxiliar no design de anticorpos neutralizantes.
Este trabalho apresenta um framework de aprendizado contrastivo que alinha espectros de raios X com conhecimento extraído de artigos científicos, criando representações multimodais compartilhadas que melhoram a estimativa de variáveis físicas e facilitam a identificação de fontes astrofísicas raras ou pouco compreendidas.
O artigo apresenta o Aprendizado de Hessiano Projetado (PHL), um método escalável que treina potenciais interatômicos de aprendizado de máquina utilizando produtos vetor-Hessiano para incorporar informações de curvatura com precisão próxima à do Hessiano completo, mas com custo computacional e de memória significativamente reduzidos.
O artigo propõe a assinatura de Volterra como uma representação de recursos explícita e matematicamente fundamentada para séries temporais não markovianas, demonstrando suas propriedades de universalidade, invariância à reparametrização temporal e eficiência computacional, o que resulta em melhor desempenho em tarefas de aprendizado dinâmico em comparação com assinaturas de caminho clássicas.
Este artigo propõe o quadro de governança "Roteamento Causal Invariante" (ICR), que integra raciocínio contrafactual e descoberta causal invariante para identificar regras de política interpretáveis e estáveis que orientam normas sociais emergentes em economias de mercado online, superando as limitações de abordagens baseadas em correlação ao garantir eficácia sob mudanças de distribuição.
Este artigo apresenta um novo framework generativo profundo que realiza amostragem de posterior em dimensões altas de forma dez vezes mais rápida que abordagens baseadas em difusão, demonstrando eficácia e robustez na aplicação de delensing da Radiação Cósmica de Fundo (CMB).
O artigo apresenta o KG-WISE, um sistema de inferência orientado a consultas que utiliza Grandes Modelos de Linguagem (LLMs) para decompor e carregar dinamicamente componentes específicos de modelos de Redes Neurais em Grafos (GNNs) em grandes Grafos de Conhecimento, alcançando ganhos significativos de velocidade e redução de uso de memória sem comprometer a precisão.
Este artigo apresenta um algoritmo de aprendizado híbrido eficiente em termos de oráculo que alcança otimalidade estatística sob adversários restritos, superando o compromisso anterior entre eficiência computacional e desempenho estatístico e permitindo o cálculo de equilíbrios em jogos de soma zero estocásticos com estruturas de baixa dimensão.
Este estudo apresenta um framework baseado em aprendizado profundo que utiliza um ensemble de modelos ConvLSTM treinados em grades espaciais sobrepostas para prever com maior precisão o risco de acidentes de trânsito relacionados ao clima na Carolina do Norte, superando modelos tradicionais ao capturar dependências espaciais e dinâmicas temporais em dados heterogêneos.
O artigo apresenta o Latent Particle World Model (LPWM), um modelo de mundo auto-supervisionado e centrado em objetos que descobre autonomamente características visuais a partir de vídeos para modelar dinâmicas estocásticas e auxiliar em tarefas de tomada de decisão.
Este estudo analisa estratégias de fusão e agrupamento em redes neurais convolucionais para classificação de Zonas Climáticas Locais (LCZ) usando dados de sensoriamento remoto multimodais, demonstrando que uma abordagem híbrida combinada com agrupamento de bandas e fusão de rótulos alcança a maior precisão geral (76,6%) e melhora significativamente a detecção de classes sub-representadas no conjunto de dados So2Sat LCZ42.