11488 artigos
Este artigo investiga o desempenho assintótico do ensembling de modelos de linguagem (LLMs) via votação majoritária, propondo um esquema adaptativo de geração e uma otimização de pesos para ensembles múltiplos que superam modelos individuais com eficiência computacional.
O artigo apresenta o CAD-Tokenizer, um novo framework que utiliza tokenização específica de modalidades e um VQ-VAE baseado em sequências para representar dados de CAD em tokens conscientes de primitivas, superando as limitações dos tokenizadores de linguagem padrão e melhorando significativamente a geração e edição de protótipos de CAD guiados por texto.
Este trabalho apresenta uma abordagem que utiliza agentes de LLMs com ferramentas de raciocínio para induzir árvores de decisão leves e interpretáveis a partir de pequenos conjuntos de dados tabulares, alcançando desempenho competitivo com modelos de caixa preta enquanto permite a verificação de viés e a incorporação de restrições de justiça e monotonicidade.
Este artigo propõe uma nova formulação do problema de agrupamento -means como uma otimização suave em uma variedade Riemanniana, permitindo o uso de um algoritmo de Newton com regularização cúbica de segunda ordem que resolve subproblemas em tempo linear e converge significativamente mais rápido que os métodos de primeira ordem existentes, mantendo a mesma precisão estatística.
O artigo apresenta o Ssiuu, um novo método de esquecimento que utiliza regularização guiada por atribuição para eliminar com fidelidade o conhecimento sensível e evitar a formação de "neurônios de esquecimento espúrios" que permitem a reaprendizagem acidental em modelos de linguagem.
Este artigo propõe o protocolo EDGE para superar as limitações das avaliações atuais de Aprendizado Incremental de Classes, que subestimam a variabilidade de desempenho, ao introduzir a amostragem adaptativa de "sequências extremas" baseada na similaridade entre tarefas para caracterizar com precisão a distribuição completa de desempenho dos modelos.
O artigo apresenta o Uni-NTFM, um modelo de fundação unificado para representação de sinais de EEG que, inspirado em mecanismos neurais biológicos, integra projeção de características heterogêneas, incorporação topológica e uma rede Transformer com mistura de especialistas para superar os modelos existentes em diversas tarefas de decodificação cerebral.
Este estudo apresenta um benchmark abrangente de oito Modelos Fundamentais de ECG em 26 tarefas clínicas, revelando que a arquitetura do modelo (especificamente o ECG-CPC) é mais determinante para o desempenho e a eficiência de aprendizado do que a escala, embora lacunas significativas persistam em áreas como estrutura cardíaca e previsão de desfechos.
Este artigo introduz o modelo de Aprendizado Online com Adversário de Replay para analisar o risco de sistemas de aprendizado reforçarem erros em dados autoanotados, propondo a Dimensão de Limiar Estendido como a medida exata de aprendibilidade e demonstrando que algoritmos baseados em fechamento alcançam limites ótimos de erro, superando as limitações de métodos clássicos e de aprendizagem própria neste cenário.
Este artigo propõe algoritmos mais rápidos para operações de álgebra linear em matrizes de kernel, utilizando estimativa de densidade de kernel (KDE) para reduzir a dependência computacional no número de pontos e no erro de aproximação em comparação com métodos anteriores, ao mesmo tempo que estabelece limites inferiores que indicam a complexidade fundamental desses problemas.
O artigo apresenta o FLOWR.root, um modelo fundamental baseado em fluxo de correspondência (flow matching) e equivariante a SE(3) que integra a geração 3D de ligantes conscientes da estrutura do sítio de ligação com a previsão de afinidade e confiança, demonstrando desempenho superior em benchmarks de afinidade e permitindo a otimização de fármacos por meio de adaptação de domínio eficiente e amostragem orientada por propriedades.
O artigo apresenta as Redes Neurais Mecanicistas Celulares (Cell-MNN), uma arquitetura de rede neural totalmente end-to-end que utiliza representações de equações diferenciais ordinárias (ODE) para modelar explicitamente e de forma interpretável as interações gênicas durante a diferenciação celular, superando os métodos atuais em escalabilidade e eficiência computacional.
O artigo apresenta o ELMUR, uma arquitetura de transformador com memória externa estruturada que supera as limitações de dependências de longo prazo em problemas de RL de horizonte estendido, alcançando desempenho superior em tarefas sintéticas e robóticas complexas com observações parciais.
O artigo apresenta o "Value Flows", um método de aprendizado por reforço distribucional que utiliza modelos de fluxo para estimar distribuições completas de retornos futuros e quantificar a incerteza, alcançando um desempenho superior em diversas tarefas de benchmark ao priorizar o aprendizado em transições com alta variância.
Este trabalho propõe um novo quadro geométrico que modela o raciocínio de grandes modelos de linguagem como fluxos suaves no espaço de representações, demonstrando que o treinamento por previsão de próximo token permite a internalização de invariantes lógicos como geometria de ordem superior e desafia a visão de que esses modelos são meros "papagaios estocásticos".
O artigo apresenta o ToMCLIP, um framework que utiliza alinhamento topológico baseado em homologia persistente para corrigir o viés linguístico e melhorar a coerência estrutural e o desempenho de modelos de visão e linguagem multilíngues.
O artigo apresenta o Gym-TORAX, um pacote de código aberto em Python que integra algoritmos de Aprendizado por Reforço (RL) com simuladores de dinâmica de plasma em tokamaks, permitindo a criação de ambientes compatíveis com diversas bibliotecas de RL para otimizar o controle e a estabilidade do plasma, com uma implementação inicial baseada no cenário de ramp-up do reator ITER.
O artigo apresenta o WeightLens e o CircuitLens, dois métodos complementares que superam as limitações das análises baseadas apenas em ativações ao interpretar características diretamente a partir dos pesos e capturar dinâmicas de circuitos, permitindo uma análise mecânica escalável e robusta de redes neurais.
O artigo apresenta o COGS, um framework de síntese de dados que aprimora a capacidade de raciocínio de modelos de linguagem multimídia em domínios com poucas anotações, como gráficos e documentos, decompondo perguntas em fatores primitivos para gerar conjuntos de dados sintéticos que permitem treinamento com recompensas de processo em nível de fator.
Este artigo investiga a dependência da detecção de dados fora de distribuição (OOD) baseada em Mahalanobis em relação à geometria das representações de fundo, identificando a estrutura espectral e a dimensionalidade intrínseca como fatores críticos e propondo uma normalização radial escalada () que ajusta os raios das características para melhorar o desempenho sem alterar suas direções.