11526 artigos
O artigo propõe o AMiD, um novo framework unificado para destilação de conhecimento em LLMs que introduz uma distribuição de assistente baseada em mistura- e uma família generalizada de divergências, superando as limitações de estabilidade e desempenho dos métodos anteriores ao explorar sistematicamente o espaço de interpolação e otimização.
Este trabalho apresenta o MAYA, um modelo de aprendizado por imitação baseado em bandits multi-braços que replica as decisões de forrageamento de abelhas considerando sua memória limitada, superando modelos clássicos e permitindo a inferência de trajetórias realistas para aplicações ecológicas.
Este artigo demonstra teoricamente e valida empiricamente que as matrizes de pesos de Query, Key ou Value em Transformers são redundantes e podem ser substituídas por matrizes identidade, reduzindo os parâmetros em 25% e simplificando a otimização sem comprometer o desempenho.
Este trabalho demonstra que o viés implícito do Adam com amostras individuais (incremental) em dados linearmente separáveis pode divergir do regime de lote completo, convergindo para classificadores de margem máxima em normas diferentes (como em vez de ) dependendo do conjunto de dados, ao contrário do Signum, que mantém invariância no viés para qualquer tamanho de lote.
Este artigo propõe o CNFP, um novo framework baseado em Modelos Probabilísticos de Difusão que otimiza o placement de Funções de Rede Nativas em Nuvem no continuum nuvem-continuum, superando as limitações de escalabilidade e generalização de abordagens clássicas ao gerar soluções viáveis e de alta qualidade com inferência acelerada.
O artigo apresenta o NeuCLIP, um novo framework de otimização que reformula a perda de contraste em CLIP utilizando análise convexa e variacional para substituir estimadores de normalização por uma rede neural compacta, permitindo um treinamento mais eficiente e preciso em larga escala sem depender de lotes massivos.
O artigo caracteriza o viés implícito do esquema JKO de segunda ordem, demonstrando que ele equivale a um fluxo de gradiente de Wasserstein em uma energia modificada que subtrai um termo proporcional à curvatura métrica da energia original, resultando em um desaceleramento direcional que se manifesta como informações de Fisher ou energia cinética em casos específicos.
Este estudo demonstra que modelos de áudio auto-supervisionados com alto desempenho em tarefas downstream apresentam representações internas mais alinhadas à atividade cerebral auditiva, sugerindo que a similaridade com o cérebro é um subproduto emergente da aprendizagem para reconstruir dados de áudio naturais.
O artigo apresenta o EnECG, um framework de aprendizado de conjunto baseado em Mixture of Experts que integra modelos fundacionais especializados para tarefas múltiplas de eletrocardiograma, utilizando uma estratégia de adaptação leve (LoRA) para reduzir custos computacionais e de memória enquanto mantém alta performance clínica.
Este artigo apresenta a "Soft QD", uma nova formulação para otimização qualidade-diversidade que elimina a necessidade de discretização do espaço de comportamentos, permitindo o desenvolvimento do algoritmo diferenciável SQUAD, que supera os métodos atuais em escalabilidade para problemas de alta dimensionalidade.
Este trabalho demonstra que a adaptação LoRA multiplicativa em campos neurais, ao restringir o espaço de otimização através de um modelo base pré-treinado, induz uma estrutura semântica e distintiva nos pesos, permitindo representações de alta qualidade que superam métodos existentes na geração de dados 2D e 3D com modelos de difusão latente.
O artigo apresenta o ceLLMate, um framework de sandboxing em nível de navegador que mitiga ataques de injeção de prompt em agentes de IA ao impor políticas de segurança na camada HTTP, superando as limitações das abordagens baseadas em UI e introduzindo uma sobrecarga de latência mínima.
O artigo propõe o NRR-Core, um novo quadro computacional que desafia as limitações arquitetônicas atuais da IA ao rejeitar a resolução prematura de ambiguidades, mantendo múltiplas interpretações coexistentes através de princípios como não-identidade e rastreamento de identidade contextual para preservar a flexibilidade interpretativa até a chegada de informações suficientes.
Este artigo introduz um orçamento de deriva intrínseco baseado na distância de Fisher-Rao para caracterizar o aprendizado sob deriva distribucional em ambientes de malha fechada, estabelecendo limites de reprodutibilidade pré-sequencial que demonstram que a taxa de deriva média impõe um limite inferior irreduzível à precisão de previsão.
O artigo apresenta o BumpNet, um framework de MLP esparsa baseado em expansão de funções de base treináveis para resolver EDPs e aprender operadores, que, embora superficialmente semelhante às redes RBF, aproveita técnicas modernas de treinamento de MLPs e demonstra ser um aproximador universal em variantes como Bump-PINNs, Bump-EDNN e Bump-DeepONet.
Este trabalho propõe um algoritmo totalmente online de Aprendizado por Reforço Robusto com aproximação de função geral, que aprende políticas robustas apenas através de interação sem dados prévios e estabelece garantias de arrependimento sublinear baseadas na dimensão de Eluder de Bellman robusta.
O artigo propõe o OASI, um método de inicialização de surrogate para otimização bayesiana multiobjetivo que utiliza soluções geradas por simulated annealing para identificar rapidamente modelos de reconhecimento de voz viáveis em microcontroladores, superando métodos tradicionais em eficiência e robustez sob restrições rigorosas de memória.
Este estudo demonstra que o Aprendizado por Reforço com Recompensas Verificáveis (RLVR) melhora a generalização em tarefas de raciocínio causal, especialmente em consultas complexas, mas apenas quando aplicado a modelos com competência inicial suficiente para otimizar estratégias de marginalização e reduzir erros de cálculo.
Este artigo apresenta o primeiro algoritmo iterativo determinístico para construir um coreset de tamanho ótimo que garante uma incorporação de subespaço para qualquer , eliminando fatores logarítmicos no tamanho do coreset e permitindo a resolução determinística de problemas de regressão .
O artigo apresenta o DevRev-Search, um benchmark para recuperação de passagens em suporte técnico construído via pipeline automatizado, e propõe uma estratégia de adaptação que preserva o índice ao fine-tunar apenas o codificador de consultas, permitindo a evolução eficiente de sistemas de busca multi-tenant sem a necessidade de reindexação completa.