5622 artigos
O artigo apresenta o ActiveUltraFeedback, um pipeline de aprendizado ativo que utiliza estimativas de incerteza e métodos inovadores de seleção de pares de respostas para gerar dados de preferência de alta qualidade, permitindo o alinhamento eficiente de modelos de linguagem com até seis vezes menos dados anotados em comparação com baselines estáticas.
Este trabalho apresenta o PF-PINO, um operador neural informado pela física que supera os métodos convencionais ao garantir maior precisão, generalização e estabilidade de longo prazo na modelagem paramétrica de evolução microestrutural complexa, como corrosão e solidificação.
O artigo apresenta o Mousse, um novo otimizador que melhora o método Muon ao incorporar a estimativa estrutural do Shampoo para criar um sistema de coordenadas branqueado, permitindo atualizações espectrais adaptativas à curvatura que reduzem o número de etapas de treinamento em cerca de 12% com custo computacional insignificante.
Este artigo propõe uma abordagem de destilação de conhecimento federada guiada por múltiplos protótipos (MP-FedKD) para sistemas de computação de borda multiacesso habilitados por IA-RAN, que utiliza agrupamento hierárquico aglomerativo condicional e uma nova função de perda para mitigar a heterogeneidade de dados não independentes e identicamente distribuídos (não-IID) e evitar a perda de informações inerente às estratégias de protótipo único.
Este artigo estabelece limites superiores de generalização para osciladores neurais baseados em equações diferenciais de segunda ordem, demonstrando teoricamente que seus erros de estimação crescem polinomialmente com o tamanho da rede e o tempo, evitando a maldição da complexidade paramétrica, e validando que a regularização das constantes de Lipschitz melhora o desempenho em sistemas não lineares sob excitação sísmica estocástica.
O artigo estabelece teoremas de aproximação universal global para funcionais de trajetórias lineares por partes, demonstrando que os funcionais lineares das assinaturas correspondentes são densos sob certas condições de integrabilidade, o que permite obter resultados de aproximação para funcionais dependentes de trajetória, equações diferenciais ordinárias aleatórias e equações diferenciais estocásticas impulsionadas por movimento browniano.
Este artigo demonstra que conceitos ausentes, cuja falta ativa neurônios, são comuns em redes neurais e frequentemente ignorados pelos métodos padrão de IA explicável, propondo extensões simples para técnicas de atribuição e visualização de recursos a fim de revelar e explorar essas "ausências codificadas" para melhorar a interpretabilidade e a mitigação de viés.
Este artigo propõe e valida um framework híbrido quântico-clássico que combina redes LSTM com Máquinas de Nascimento de Circuitos Quânticos (QCBM) para prever a volatilidade financeira, demonstrando superioridade em métricas de erro em comparação com modelos puramente clássicos em dados reais do mercado chinês.
Este artigo propõe o esquema ACP-SL, que utiliza um módulo de pontuação de importância de canais sensível ao rótulo para realizar a poda adaptativa de canais no aprendizado dividido, reduzindo assim a sobrecarga de comunicação sem comprometer a precisão.
Este artigo apresenta o -GaBO, uma nova família de algoritmos de otimização bayesiana fundamentada na geometria da informação para otimizar funções no simplex de probabilidade, demonstrando superioridade em relação às abordagens euclidianas convencionais em diversas aplicações reais.
O artigo propõe o "In-Context RLVR", um método que utiliza a capacidade de aprendizado em contexto do próprio modelo para medir a utilidade das demonstrações e reponderar implicitamente as recompensas, priorizando traços de raciocínio de alta qualidade e melhorando assim tanto a precisão quanto a qualidade do raciocínio em benchmarks matemáticos.
Este artigo apresenta o "pseudo-projetor", uma modificação leve inspirada no paradigma multigrid que atua como um corretor de representações ocultas para reduzir a sensibilidade ao ruído e melhorar a dinâmica de treinamento e a robustez em modelos baseados em transformers, sem alterar sua arquitetura central.
Este artigo apresenta um novo framework hierárquico de aprendizado multi-tarefa e multi-fidelidade baseado em processos gaussianos que unifica a exploração de similaridades entre tarefas e a heterogeneidade dos dados para criar modelos substitutos mais precisos e eficientes em termos de dados para sistemas de manufatura.
Este artigo apresenta o HR-GAT, um modelo de rede de atenção hierárquica baseado em grafos que utiliza dados geoespaciais para prever a demanda de espectro com 21% mais precisão que modelos existentes, superando desafios de autocorrelação espacial em cinco cidades canadenses.
O artigo apresenta o GAST, um método inovador de ajuste fino eficiente em parâmetros que otimiza simultaneamente a seleção de dados e de camadas em modelos de linguagem grandes, superando as abordagens existentes ao adaptar dinamicamente os pontos de dados mais impactantes para cada camada específica.
O artigo apresenta o CarbonBench, o primeiro benchmark global padronizado que utiliza mais de 1,3 milhão de observações de fluxos de carbono para avaliar e comparar rigorosamente métodos de aprendizado zero-shot na generalização espacial de modelos de troca de carbono terrestre entre diferentes ecossistemas e regimes climáticos.
O artigo propõe o MSSR, um framework de replay adaptativo que estima a força de memória em nível de amostra e agenda a reutilização de dados em intervalos dinâmicos para mitigar o esquecimento catastrófico durante o ajuste contínuo de grandes modelos de linguagem, superando os métodos existentes em eficiência e desempenho.
O artigo apresenta o OptEMA, um otimizador adaptativo baseado em Média Móvel Exponencial que, ao eliminar a necessidade de constantes de Lipschitz e parâmetros pré-definidos, garante taxas de convergência quase ótimas no regime sem ruído e adaptativas ao nível de ruído sob condições padrão de descida de gradiente estocástica.
Este artigo estabelece que a modelagem generativa via derivação (drifting) é teoricamente equivalente ao *score matching*, revelando suas bases variacionais e espectrais para explicar limitações de kernels, propor um novo esquema de annealing de banda e justificar a necessidade do operador *stop-gradient* para treinamento estável.
O artigo apresenta o SignalMC-MED, um novo benchmark multimodal baseado em dados sincronizados de ECG e PPG de longa duração para avaliar modelos fundamentais de biosinais, demonstrando que a fusão multimodal e o uso de sinais completos superam abordagens unimodais e segmentos curtos, enquanto características manuais de ECG oferecem um forte baseline complementar.