9095 artigos
Este artigo apresenta o Planner Aware Path Learning (PAPL), um novo esquema de treinamento que deriva uma nova evidência inferior planejada (P-ELBO) para alinhar o treinamento e a inferência em modelos de difusão de linguagem, corrigindo a incompatibilidade causada por estratégias de planejamento e resultando em melhorias significativas na geração de texto, código e sequências de proteínas.
O artigo apresenta o DAV, um novo framework que formula o alinhamento de modelos de difusão como um processo variacional de Expectation-Maximization, alternando entre busca no momento de teste para gerar amostras diversas e alinhadas a recompensas e a refinamento do modelo, superando assim problemas como a superotimização de recompensas e o colapso de modos em tarefas contínuas e discretas.
Este artigo propõe um algoritmo de duas etapas baseado em bandits de matriz de baixo posto para minimizar a polarização e o desacordo no modelo de dinâmica de opiniões de Friedkin-Johnsen em um cenário online com informações incompletas, alcançando um limite de arrependimento cumulativo que supera abordagens lineares existentes.
O artigo apresenta as "Self-Speculative Masked Diffusions", um novo modelo de difusão mascarada para dados discretos que utiliza amostragem especulativa integrada ao modelo para gerar previsões não fatorizadas em uma única passagem, reduzindo em cerca de duas vezes o número de avaliações de rede neural necessárias para a geração de amostras de alta qualidade em comparação com os modelos padrão.
O artigo propõe o TCR-EML, um modelo de aprendizado de máquina com camadas explicáveis por design que integra mecanismos bioquímicos conhecidos de ligação para prever a interação entre receptores de células T e complexos peptídeo-MHC com alta precisão e interpretabilidade.
Este artigo demonstra que, embora os modelos de linguagem apenas decodificadores (decoder-only) performem pior que os baseados em codificadores (encoder-only) na adaptação para equações diferenciais parciais, o uso de duas novas técnicas que simulam bidirecionalidade, chamadas "Parallel Flipping" e "Sequence Doubling", permite que os modelos decoder-only alcancem desempenho comparável, fechando a lacuna de performance.
O artigo conclui que o micro-benchmarking de linguagem frequentemente falha em classificar modelos de forma consistente em comparação com benchmarks completos ou até mesmo amostras aleatórias, exigindo tamanhos de amostra tão grandes que comprometem sua eficiência e utilidade prática.
O artigo apresenta o CanvasMAR, um modelo autoregressivo inovador para previsão de vídeo que utiliza uma "tela" global desfocada e um currículo de amostragem do fácil ao difícil para gerar vídeos de alta fidelidade com menos etapas de amostragem, superando métodos anteriores e rivalizando com abordagens baseadas em difusão.
Este artigo demonstra que a injeção de informações por meio de um verificador de dados sintéticos externo pode evitar o colapso de modelos durante o re-treinamento iterativo, proporcionando melhorias de curto prazo, embora a convergência de longo prazo seja limitada ao "centro de conhecimento" do próprio verificador.
Este artigo propõe um novo método de análise de alcançabilidade baseado em intervalos para Redes Neurais de Equações Diferenciais Ordinárias (Neural ODEs), que utiliza técnicas de monotonicidade mista para oferecer aproximações superiores computacionalmente eficientes e adequadas a aplicações de alta dimensão e tempo real, priorizando a eficiência em detrimento da precisão máxima.
Este artigo apresenta um framework online que utiliza a decomposição de modo dinâmico de Hankel (Hankel-DMD) com projeção de Cadzow e thresholding de valor singular para aprender em tempo real modelos preditivos não lineares de obstáculos dinâmicos, permitindo a remoção de ruído e a previsão de trajetórias para planejamento de movimento robótico seguro.
O artigo apresenta o KLASS, um método de amostragem adaptativa que acelera significativamente a inferência em modelos de difusão mascarada ao identificar e desmascarar múltiplos tokens estáveis em cada iteração, alcançando ganhos de velocidade de até 2,78 vezes e melhor desempenho sem necessidade de treinamento adicional.
O artigo propõe o CADM, uma métrica de distância adaptativa e personalizada por cluster para agrupamento de dados categóricos e mistos, que considera as diferentes distribuições de atributos em cada cluster para superar limitações de medições tradicionais, demonstrando alto desempenho em experimentos com quatorze conjuntos de dados.
O artigo apresenta o FireScope, um novo framework baseado em modelos de linguagem visual que utiliza raciocínio passo a passo para prever mapas de risco de incêndio com alta generalização entre continentes, apoiado pelo conjunto de dados e benchmark FireScope-Bench.
O artigo apresenta o EgoCogNav, um framework de navegação egocêntrica multimodal que prevê incerteza percebida como estado latente para antecipar trajetórias e movimentos da cabeça, apoiado pelo novo conjunto de dados CEN que captura comportamentos de navegação em cenários reais.
O artigo apresenta o SPINE, um framework de aprendizado por reforço em tempo de teste que seleciona tokens decisivos para atualizações e aplica regularização por banda de entropia, melhorando a estabilidade e o desempenho de modelos de linguagem sem necessidade de rótulos ou modelos de recompensa.
O artigo apresenta o DAISI, um algoritmo de assimilação de dados escalável baseado em modelos generativos de fluxo que supera as limitações das aproximações gaussianas tradicionais ao utilizar uma amostragem inversa inovadora para integrar previsões de modelos dinâmicos complexos com observações esparsas e ruidosas.
O artigo apresenta o SQDF, um novo método de ajuste fino para modelos de difusão que utiliza um gradiente de política reparametrizado baseado na função Soft Q para mitigar a superotimização de recompensas, preservando a diversidade e a naturalidade das amostras geradas.
Este trabalho propõe um método que utiliza a família de divergências para aproximar uma distribuição-alvo filtrada, permitindo controlar o compromisso entre precisão e diversidade em modelos de linguagem e alcançando desempenho superior em provas de teoremas ao superar as limitações de perda de diversidade típicas do Aprendizado por Reforço.
O artigo apresenta o A-3PO, uma abordagem que acelera o treinamento assíncrono de modelos de linguagem grandes ao aproximar a política proximal necessária no PPO desacoplado via interpolação simples, eliminando a sobrecarga computacional de uma passagem extra e alcançando um aumento de velocidade de 1,8x sem comprometer o desempenho.