4565 artigos
Este artigo apresenta o \texttt{InFusionLayer}, uma ferramenta de ensemble em Python baseada na Análise de Fusão Combinatória (CFA) que integra funções de característica de pontuação-rank (RSC) e diversidade cognitiva (CD) para otimizar problemas de classificação multiclasse em fluxos de trabalho de aprendizado de máquina, como PyTorch, TensorFlow e Scikit-learn.
O artigo propõe o FlowSem-MAE, um paradigma de pré-treinamento tabular nativo de protocolos que, ao tratar as unidades semânticas de fluxo como prioridades arquitetônicas e corrigir vieses indutivos da modelagem baseada em bytes, supera significativamente os métodos atuais de classificação de tráfego criptografado com apenas metade dos dados rotulados.
O artigo apresenta o OMNIGUIDE, um framework universal que aprimora significativamente o desempenho de políticas robóticas generalistas (VLA) em tarefas complexas ao integrar diversas fontes de orientação como funções de energia diferenciáveis que influenciam a geração de ações no espaço 3D.
Este artigo apresenta o CAADRL, um framework de Aprendizado por Reforço Profundo baseado em atenção que explora explicitamente a estrutura de aglomerados dos problemas de coleta e entrega por meio de codificação multiescala e decodificação hierárquica, alcançando desempenho competitivo com tempos de inferência significativamente menores em comparação com métodos colaborativos existentes.
Este artigo resolve uma conjectura de 20 anos sobre a quantização da curvatura de Ricci em bitnets, provando que a média do escalar de Ricci é quantizada em semi-inteiros positivos para redes em árvore e completas, mas refutando a generalidade da conjectura ao apresentar contraexemplos com ciclos e estendendo a análise para redes Gaussianas, onde se observa uma dicotomia de sinal entre curvaturas positivas e negativas.
O artigo propõe o uso de autômatos celulares neurais para gerar dados sintéticos não linguísticos que, ao serem utilizados em uma fase de pré-pré-treinamento, melhoram significativamente a eficiência, a convergência e o desempenho em tarefas de raciocínio de modelos de linguagem grandes, superando até mesmo o pré-treinamento com grandes volumes de texto natural.
O artigo apresenta o HTMuon, um otimizador que melhora o treinamento de modelos de linguagem grandes ao corrigir a supressão de espectros de pesos de cauda pesada no Muon original, resultando em melhor desempenho e fundamentação teórica baseada na teoria de auto-regularização de cauda pesada.
O artigo propõe o SAPO, uma modificação de uma única linha no algoritmo GRPO que estabiliza o treinamento de agentes de busca ao aplicar uma restrição condicional de KL em nível de token, eliminando o colapso catastrófico causado pelo desvio na distribuição de amostragem e resultando em melhorias significativas de desempenho em benchmarks de perguntas e respostas.
Este estudo aplica autoencoders esparsos ao modelo Chronos-T5-Large para revelar uma hierarquia causal de características em séries temporais, demonstrando que os recursos mais críticos para a previsão residem nas camadas intermediárias de detecção de mudanças abruptas, e não nas camadas finais semanticamente mais ricas.
O artigo demonstra que redes neurais aprendem primeiro a distribuição marginal de uma tarefa ambígua, estabilizando-se em um platô de erro determinado pelo nível de ambiguidade, antes de sofrer uma transição abrupta para a solução condicional completa, um processo governado pelo ruído do gradiente e pela formação antecipada de um mecanismo de roteamento seletor.
O artigo apresenta as Redes Neurais Port-Hamiltonianas Estocásticas (SPH-NNs), que garantem passividade e demonstram capacidade de aproximação universal para sistemas dinâmicos estocásticos, superando redes neurais tradicionais na preservação de propriedades energéticas e na precisão de previsões de longo prazo.
O artigo analisa o treinamento de SGD em redes neurais rasas sob a escala NTK, estabelecendo um critério explícito baseado em uma função que determina a probabilidade de ocorrência de grandes picos de achatamento do NTK durante a fase de catapultas.
O artigo propõe o "Amnesia", um ataque adversarial leve que manipula os estados internos de modelos de linguagem grandes (LLMs) para contornar mecanismos de segurança existentes e induzir a geração de conteúdo prejudicial sem a necessidade de ajuste fino ou treinamento adicional.
Este artigo propõe e valida uma abordagem de aprendizado residual multiestágio no domínio quântico para mitigar o viés de aprendizado de frequência, demonstrando que essa técnica melhora significativamente a capacidade dos modelos de aprender componentes espectrais complexos em comparação com baselines de estágio único.
O artigo apresenta o Multi-Level Concept Splitting (MLCS) e o Deep-HiCEMs, métodos que superam as limitações de hierarquias rasas ao descobrir hierarquias de conceitos multinível a partir de supervisão de alto nível e permitir intervenções em múltiplos níveis de abstração, mantendo alta precisão e interpretabilidade.
O KernelSkill é um framework multiagente que otimiza kernels de GPU substituindo heurísticas implícitas de modelos de linguagem por habilidades de especialistas baseadas em conhecimento e uma arquitetura de memória dupla, alcançando sucesso de 100% e acelerações significativas em relação ao Torch Eager e a métodos anteriores.
O artigo apresenta o ES-dLLM, um framework de aceleração de inferência sem treinamento para modelos de linguagem difusivos (dLLMs) que reduz o custo computacional ao pular tokens em camadas iniciais com base na variação de representações intermediárias e em scores de confiança, alcançando ganhos de velocidade significativos sem comprometer a qualidade da geração.
Este artigo apresenta a primeira taxonomia unificada de Aprendizado no Espaço de Pesos (WSL), categorizando métodos em compreensão, representação e geração de pesos de redes neurais para habilitar aplicações como recuperação de modelos, aprendizado federado e reconstrução sem dados.
O artigo apresenta o Equivariant Asynchronous Diffusion (EAD), um novo modelo de difusão que combina agendamento assíncrono e mecanismos de agendamento dinâmico para superar as limitações dos métodos existentes e alcançar desempenho state-of-the-art na geração de conformações moleculares 3D.
Este artigo apresenta o TS_Adam, uma variante leve do otimizador Adam que remove a correção de viés de segunda ordem para melhorar a adaptabilidade e o desempenho em tarefas de previsão de séries temporais não estacionárias, sem exigir hiperparâmetros adicionais.