11952 artigos
Este artigo apresenta o método Param, uma técnica inovadora que transfere capacidades de pós-treinamento de um modelo para uma nova base atualizada simplesmente misturando seus pesos, permitindo a criação de modelos instruídos de alto desempenho sem custos computacionais adicionais.
Este artigo propõe o framework ASL, que utiliza o algoritmo AMPO para permitir que agentes de linguagem adaptem dinamicamente sua profundidade de raciocínio em interações sociais, alcançando desempenho superior e maior eficiência de tokens em comparação com métodos existentes.
Este estudo analisa as percepções da "Geração GenAI" sobre a tecnologia, revelando que, embora os estudantes mostrem entusiasmo, a falta de exposição curricular gera uma lacuna na preparação e levanta preocupações significativas sobre ética, deslocamento de empregos e a adequação das estruturas educacionais atuais.
O artigo apresenta o ViPlan, o primeiro benchmark de código aberto que compara abordagens de planejamento simbólico com VLMs como fundamentadores versus planejamento direto com VLMs em dois domínios visuais, revelando que a eficácia de cada método depende do domínio (sendo o fundamentador superior em Blocksworld e o planejador direto em robótica doméstica) e que o Chain-of-Thought não oferece benefícios consistentes.
O artigo apresenta o PC Agent-E, um framework de treinamento eficiente que supera o Claude 3.7 Sonnet no benchmark WindowsAgentArena-V2 ao combinar apenas 312 trajetórias humanas anotadas com dados sintetizados por IA, reduzindo drasticamente a dependência de demonstrações humanas em larga escala.
Este trabalho propõe e valida novos métodos para classificação seletiva sob deslocamento de covariáveis, demonstrando que o uso de razões de verossimilhança, fundamentadas no lema de Neyman-Pearson, supera as abordagens existentes ao permitir que modelos abstêm-se de previsões incertas de forma mais robusta em tarefas de visão e linguagem.
O artigo propõe o ANSE, um framework que seleciona automaticamente as melhores sementes de ruído para geração de vídeo em modelos de difusão, utilizando uma função de aquisição bayesiana baseada em atenção (BANSA) para medir a incerteza do modelo e melhorar a qualidade e a coerência temporal com custo computacional marginal.
Este artigo apresenta o OptMerge, um novo benchmark e método de fusão de modelos para Multimodal LLMs que unifica diferentes modalidades e otimiza vetores de tarefas para melhorar o desempenho sem necessidade de dados de treinamento.
Este artigo apresenta o , um método que combina o esquema JKO com técnicas de otimização inversa para aprender a dinâmica de populações a partir de amostras discretas, oferecendo garantias teóricas e desempenho superior sem exigir escolhas arquitetônicas restritivas.
Este artigo propõe o Interaction Field Matching (IFM), uma generalização do Electrostatic Field Matching que supera suas limitações ao utilizar campos de interação inspirados na física de quarks para gerar e transferir dados de forma mais eficiente.
O artigo apresenta o DiaBlo, uma abordagem de ajuste fino eficiente em parâmetros que atualiza apenas os blocos diagonais das matrizes de peso de modelos de linguagem, eliminando a necessidade de produtos de matrizes de baixo posto e oferecendo convergência estável e desempenho competitivo comparável ao ajuste fino completo.
Este artigo apresenta o HSSBench, um novo benchmark multilíngue com mais de 13.000 amostras e um pipeline de geração de dados colaborativo, projetado especificamente para avaliar e superar as limitações dos Modelos de Linguagem Grandes Multimodais (MLLMs) em tarefas de Humanidades e Ciências Sociais que exigem raciocínio interdisciplinar horizontal.
O artigo apresenta o Frame Guidance, um método sem treinamento que permite o controle de geração de vídeos em nível de quadro (como keyframes, estilos e esboços) em modelos de difusão existentes, utilizando técnicas de processamento de latente para reduzir o uso de memória e garantir coerência global sem a necessidade de ajuste fino do modelo.
O artigo apresenta o Perception-R1, um método que aprimora o raciocínio multimodal de Grandes Modelos de Linguagem Multimodais (MLLMs) ao introduzir uma recompensa de percepção visual baseada em verificação de consistência, superando as limitações dos métodos atuais de Aprendizado por Reforço com Recompensas Verificáveis (RLVR) e alcançando desempenho de ponta com poucos dados de treinamento.
Este artigo apresenta o SatSOM, uma extensão dos Mapas Auto-Organizáveis que utiliza um mecanismo de saturação para reduzir progressivamente a taxa de aprendizado e o raio de vizinhança de neurônios saturados, mitigando assim o esquecimento catastrófico em cenários de aprendizado contínuo.
Este artigo propõe o ManyICL, uma abordagem de ajuste fino em contexto com muitos exemplos que utiliza um novo objetivo de treinamento para tratar todas as respostas no contexto como alvos supervisionados, reduzindo significativamente a lacuna de desempenho entre o aprendizado em contexto e o ajuste fino dedicado enquanto mitiga o esquecimento catastrófico.
Este artigo introduz o "Fator de Ramificação" (BF) como uma métrica para quantificar como o alinhamento de modelos de linguagem reduz a diversidade de geração ao concentrar as probabilidades de saída, explicando por que modelos alinhados são mais previsíveis e como técnicas como o raciocínio em cadeia (CoT) exploram essa determinação para estabilizar respostas complexas.
Este trabalho propõe um agendador de guia de recozimento que ajusta dinamicamente a escala de orientação durante o processo de amostragem de modelos de difusão, melhorando significativamente a qualidade da imagem e a aderência ao prompt de texto sem consumir memória ou ativações adicionais.
O artigo apresenta o LEDOM, um modelo de linguagem autoregressivo treinado exclusivamente da direita para a esquerda que desenvolve capacidades de raciocínio distintas e, ao combinar suas estimativas de probabilidade reversa com modelos forward através da técnica "Reverse Reward", reduz alucinações e alcança ganhos significativos em benchmarks de raciocínio matemático.
O artigo apresenta o Skywork-Reward-V2, uma série de modelos de recompensa de código aberto que alcançam desempenho state-of-the-art em diversos benchmarks ao serem treinados no conjunto de dados SynPref-40M, criado por meio de um pipeline de curadoria em duas etapas que combina a qualidade da anotação humana com a escalabilidade da inteligência artificial.