9284 artigos
Este trabalho demonstra que abordar a falácia ecológica ao modelar o contexto linguístico do autor, seja através de pré-treinamento HuLM ou de ajuste fino (HuFT) com QLoRA em um modelo Llama de 8B, resulta em melhor desempenho em diversas tarefas downstream em comparação com métodos padrão.
Este artigo apresenta um acelerador em FPGA que elimina o gargalo de memória no processo de decodificação do mecanismo de atenção linear Gated DeltaNet, mantendo o estado recorrente em memória on-chip e alcançando uma velocidade 4,5 vezes superior e uma eficiência energética 60 vezes maior em comparação com GPUs de última geração.
O artigo propõe um framework de reescrita de estilo estruturado que, ao combinar a desentrelaçação explícita de características estilísticas com uma estratégia de condicionamento implícito via raciocínio encadeado, permite que modelos de linguagem pequenos (SLMs) gerem personagens com alta fidelidade estilística e semântica, superando modelos maiores em cenários de poucos dados.
Este artigo desenvolve modelos interpretáveis que integram traços psicológicos individuais e contextos situacionais inferidos a partir de dados de mídia social para prever o bem-estar, demonstrando que abordagens baseadas em teoria psicológica oferecem desempenho competitivo e maior transparência em comparação com embeddings de modelos de linguagem.
O artigo propõe o Omni-Masked Gradient Descent (OMGD), um método de otimização leve e compatível com os principais otimizadores que utiliza travessia de máscaras para treinamento eficiente em memória e oferece uma complexidade de iteração estritamente melhorada de em cenários não convexos, superando as abordagens existentes tanto em garantias teóricas quanto em desempenho empírico.
O artigo apresenta o TADPO, uma nova formulação de gradiente de política que combina trajetórias off-policy e on-policy para permitir a navegação em alta velocidade em terrenos off-road complexos, marcando a primeira implementação bem-sucedida de políticas baseadas em aprendizado por reforço em um veículo off-road em escala real com transferência zero-shot de simulação para a realidade.
O artigo apresenta o EvoESAP, um método de poda de especialistas não uniforme para modelos MoE esparsos que utiliza uma métrica baseada em aceitação especulativa (ESAP) e busca evolutiva para otimizar a alocação de orçamento entre camadas, resultando em ganhos significativos de desempenho na geração de texto aberto sem comprometer a precisão em tarefas de múltipla escolha.
O artigo demonstra que o estagnamento de aprendizado no PPO ocorre quando as estimativas baseadas em amostras se tornam proxies ruins do objetivo real, propondo que escalar para mais de 1 milhão de ambientes paralelos, ajustando adequadamente os hiperparâmetros, permite reduzir o ruído e o tamanho do passo para alcançar melhorias monotônicas de desempenho até um trilhão de transições.
Este artigo melhora os limites conhecidos para a complexidade de aprendizado agnóstico sob marginais gaussianas, demonstrando que um grau polinomial de é suficiente para aproximar classes de conceitos com área de superfície gaussiana , resultando em limites quase ótimos para funções de limiar polinomial no modelo de consultas estatísticas.
Este artigo demonstra que a dinâmica de Langevin, combinada com a média dos iterados, consegue recuperar uma direção oculta em cenários de alta dimensão com uma complexidade de amostragem ótima de , superando limites anteriores sem a necessidade de suavização explícita do terreno.
O artigo apresenta o TempoSyncDiff, um framework de difusão latente baseado em distilação que utiliza um modelo professor-aluno e regularização temporal para gerar cabeças falantes acionadas por áudio com alta fidelidade, estabilidade temporal e baixa latência, viabilizando sua implementação em dispositivos de borda.
O artigo apresenta o IR-GeoDiff, um modelo de difusão latente inovador que recupera geometrias moleculares tridimensionais a partir de espectros de infravermelho ao integrar informações espectrais nas representações de nós e arestas, superando as limitações das abordagens anteriores baseadas em estruturas bidimensionais.
O artigo propõe o otimizador SGDF, que utiliza princípios de filtragem linear ótima para recalibrar dinamicamente os coeficientes de momento no aprendizado por gradiente, superando métodos convencionais ao equilibrar idealmente a supressão de ruído e a preservação do sinal.
Este artigo propõe um mecanismo zero-shot que utiliza a representação latente do prompt para estimar e ajustar dinamicamente o tamanho do contexto em Modelos de Linguagem de Difusão antes da geração, resultando em ganhos significativos de eficiência computacional sem comprometer o desempenho em diversas tarefas.
Este artigo propõe a DQE, uma nova métrica de avaliação para detecção de anomalias em séries temporais que supera as limitações das abordagens existentes ao incorporar uma segmentação semântica das anomalias e uma agregação de qualidade sobre todo o espectro de limiares, resultando em uma avaliação mais estável, discriminativa e interpretável.
O artigo propõe uma abordagem de Gradientes de Política Parciais para Aprendizado por Reforço em LLMs, que otimiza subconjuntos de recompensas futuras para modelar diferentes classes de políticas (como planejamento completo, gananciosa ou com horizonte limitado), demonstrando empiricamente que diferentes políticas se destacam em diferentes problemas de alinhamento conversacional.
O artigo demonstra que os Grafos de Codificação Preditiva (PCGs) constituem um conjunto matematicamente superior às redes neurais feedforward, posicionando-os como uma generalização mais ampla dentro do aprendizado de máquina contemporâneo.
Este artigo demonstra que a aplicação de perturbações de entrada estruturadas, como ruído de Perlin, em redes neurais gráficas (GNNs) permite gerar previsões probabilísticas de temperatura da superfície do mar bem calibradas e eficientes para a região das Ilhas Canárias, sem a necessidade de custos adicionais de treinamento.
O artigo apresenta o OMEGA, um método de busca aprendida que, ao treinar um modelo base apenas para K=1 e aplicar refinamentos dinâmicos, permite atender consultas de múltiplos valores de K com alta precisão e desempenho, reduzindo significativamente o tempo de latência e os custos de pré-processamento em comparação com métodos existentes.
Este artigo propõe uma estrutura de duas etapas que combina aprendizado contrastivo supervisionado em alfabetos inventados com destilação de conhecimento para aprendizado auto-supervisionado em scripts históricos, permitindo a extração de representações de glifos que capturam tanto distinções claras quanto similaridades evolutivas latentes sem depender de relações de ground-truth.