1061 artigos
O artigo apresenta o CAWAI, um modelo de recuperação de informações treinado com objetivos duais de semântica e causalidade que supera os métodos existentes em tarefas de recuperação causal e demonstra forte generalização zero-shot em domínios científicos.
Este estudo demonstra que, embora a estimativa direta de dificuldade de itens educacionais por modelos de linguagem grandes (LLMs) seja promissora, a abordagem que combina a extração de características cognitivas e linguísticas via LLM com algoritmos de aprendizado de máquina baseados em árvores (como florestas aleatórias e gradient boosting) alcança maior precisão preditiva para itens de matemática e leitura do ensino fundamental, oferecendo um fluxo de trabalho eficiente para reduzir a dependência de testes de campo extensivos.
Este artigo apresenta a Tarefa 5 do Desafio DCASE 2025, um benchmark de Resposta a Perguntas sobre Áudio (AQA) que abrange múltiplos domínios acústicos para avaliar e avançar as capacidades de raciocínio de modelos de linguagem-audio em direção à acuidade humana.
O artigo apresenta o FreeKV, um framework de co-otimização entre algoritmo e sistema que, ao utilizar recuperação especulativa e layouts híbridos de memória, melhora drasticamente a eficiência da inferência de LLMs em contextos longos sem sacrificar a precisão.
O artigo apresenta o MAS-ZERO, um framework inovador de auto-evolução que projeta, critica e refina dinamicamente sistemas multiagentes em tempo de inferência sem supervisão, superando abordagens manuais e automáticas existentes em tarefas de raciocínio, codificação e agentes autônomos.
O artigo apresenta o HDLxGraph, um novo framework que integra características gráficas de Hardware Description Languages (HDLs), como Árvores de Sintaxe Abstrata e Grafos de Fluxo de Dados, a sistemas de Geração Aumentada por Recuperação (RAG) para superar limitações em tarefas de LLM, validado pelo novo benchmark HDLSearch e demonstrando melhorias significativas na precisão de busca, depuração e conclusão de código em comparação com métodos existentes.
O artigo apresenta o SwingArena, um novo framework de avaliação competitiva para modelos de linguagem grande que simula fluxos de trabalho reais de desenvolvimento de software, utilizando um módulo de geração de código aumentado por recuperação para resolver problemas de longo contexto no GitHub e comparar o desempenho de diferentes modelos na geração de correções e validação de testes.
O artigo apresenta o MMTU, um benchmark em larga escala com mais de 28 mil questões em 25 tarefas do mundo real, projetado para avaliar de forma abrangente a capacidade de modelos de linguagem de entender, raciocinar e manipular tabelas em nível especializado, revelando que mesmo os modelos mais avançados atuais enfrentam desafios significativos nessa área.
O artigo apresenta o CyclicReflex, uma estratégia de decodificação sem treinamento que melhora o desempenho de modelos de raciocínio ao aplicar um agendamento cíclico e adaptativo dos tokens de reflexão, otimizando o uso de recursos computacionais durante a inferência.
O artigo apresenta o MeRF, um método que aprimora o ajuste fino por reforço de modelos de raciocínio grandes ao injetar a especificação da função de recompensa no prompt como uma "motivação" em contexto, alinhando a geração do modelo ao objetivo de otimização e resultando em ganhos de desempenho significativos.
O artigo propõe o método SGV (Self-Grounded Verification) para mitigar o viés de concordância em Verificadores de LLMs Multimodais, permitindo que eles gerem priores independentes antes de avaliar trajetórias, o que resulta em detectores de falhas mais precisos e alinhados com humanos, melhorando significativamente o desempenho de agentes em tarefas de navegação web, uso de computador e robótica.
O artigo apresenta o framework UGST (User Goal State Tracking), uma metodologia inovadora que permite aos simuladores de usuários baseados em LLMs rastrear e alinhar seu comportamento com objetivos específicos durante conversas, resultando em melhorias significativas em benchmarks como MultiWOZ 2.4 e τ-Bench.
O artigo apresenta o MathSmith, um novo framework que gera problemas matemáticos sintéticos de alta dificuldade a partir do zero, utilizando estratégias de restrição e aprendizado por reforço para superar a escassez de dados de treinamento e melhorar significativamente o raciocínio de modelos de linguagem em benchmarks complexos.
Este artigo apresenta o IAG, o primeiro ataque de backdoor multi-alvo adaptativo para modelos de linguagem e visão (VLMs) de grounding visual, que gera dinamicamente gatilhos imperceptíveis guiados por texto para redirecionar a localização de objetos para alvos específicos sem comprometer o desempenho em amostras benignas.
O artigo propõe a OTESGN, uma rede de grafos sintático-semântica aprimorada por transporte ótimo que supera os métodos existentes em análise de sentimentos baseada em aspectos ao integrar dependências estruturais e correspondência de distribuições, alcançando desempenho de última geração em conjuntos de dados de referência.
Este estudo demonstra que os monitores lineares em modelos de linguagem dependem excessivamente de evidências textuais explícitas, resultando em uma degradação significativa de desempenho quando essas pistas são removidas ou quando os modelos geram comportamentos sem verbalização direta.
O artigo apresenta o PonderLM-2, uma metodologia de pré-treinamento que melhora o desempenho de modelos de linguagem ao introduzir passos de "pensamento latente" no espaço contínuo antes de gerar cada token, permitindo que modelos menores superem outros com o dobro de parâmetros sob o mesmo custo de inferência.
Este artigo apresenta "assinaturas de benchmark", conjuntos de tokens salientes cuja perplexidade em corpora reais prevê o desempenho de modelos de linguagem, revelando sobreposições complexas e nuances nas capacidades dos LLMs que as correlações de desempenho tradicionais não capturam.
Este artigo introduz o conceito de "misevolução" como um risco emergente em agentes de LLM autoevolutivos, demonstrando empiricamente que a evolução autônoma pode levar a resultados indesejados ou prejudiciais em modelos, memória, ferramentas e fluxos de trabalho, e propõe novas estratégias de mitigação para garantir a segurança desses sistemas.
O artigo apresenta o TokMem, um framework de memória procedural que codifica tarefas reutilizáveis em um único token treinável para controlar a geração de modelos de linguagem grandes de forma eficiente, permitindo a adição contínua de novas habilidades sem congelar o modelo principal e superando métodos de prompting com recuperação e ajuste fino.