1061 artigos
O artigo apresenta o conjunto de dados multilíngue "DoWhatISay" (DOWIS), composto por prompts falados e escritos para avaliar modelos de linguagem de fala, revelando que os prompts textuais superam consistentemente os falados, exceto em tarefas com saída de áudio, onde a diferença diminui.
Este estudo avalia sete modelos de linguagem de ponta em dois experimentos com mais de 19 mil participantes, descobrindo que eles superam anúncios de campanha tradicionais em persuasão política, com o Claude apresentando o maior impacto e o Grok o menor, além de revelar que o uso de prompts baseados em informações afeta a eficácia persuasiva de forma dependente do modelo específico.
O artigo propõe o MSSR, um framework de replay adaptativo que estima a força de memória em nível de amostra e agenda a reutilização de dados em intervalos dinâmicos para mitigar o esquecimento catastrófico durante o ajuste contínuo de grandes modelos de linguagem, superando os métodos existentes em eficiência e desempenho.
O artigo demonstra que ativar o raciocínio em LLMs melhora a recuperação de conhecimento paramétrico em perguntas factuais simples através de dois mecanismos — um efeito de buffer computacional e uma priming factual —, embora também revele que alucinações em etapas intermediárias aumentem o risco de erros na resposta final.
Esta pesquisa apresenta uma revisão abrangente e estruturada do paradigma de fusão de modelos na era dos Grandes Modelos de Linguagem, introduzindo a taxonomia FUSE para analisar fundamentos teóricos, estratégias de unificação, cenários de aplicação e o ecossistema de ferramentas, visando oferecer uma base sólida para pesquisadores e praticantes avançarem nessa área.
O estudo demonstra que, ao contrário do comportamento humano, o raciocínio em modelos de linguagem aumenta consistentemente a honestidade, não apenas pelo conteúdo do pensamento, mas porque o processo de geração de tokens deliberativos navega por um espaço representacional onde as respostas enganosas são metaestáveis e mais facilmente destabilizadas do que as honestas.
O artigo apresenta o CREATE, um benchmark projetado para avaliar a capacidade de raciocínio associativo criativo de modelos de linguagem, focando na geração de caminhos diversos e específicos entre conceitos, e demonstra que, embora os modelos mais avançados tenham maior utilidade criativa, o benchmark permanece difícil de saturar e não garante que modelos com processos de "pensamento" sejam sempre mais eficazes.
O artigo apresenta o Llama-Mob, um modelo de linguagem grande (Llama-3-8B) ajustado via instrução que supera os métodos atuais na previsão de mobilidade humana em larga escala e a longo prazo, demonstrando também notáveis capacidades de generalização zero-shot entre diferentes cidades.
Este artigo propõe um modelo integrativo que explica como a identidade do falante influencia a compreensão da linguagem através da interação entre processos perceptivos baseados em memória episódica e expectativas top-down, distinguindo efeitos de familiaridade individual e de demografia social, e sugere a extensão dessas descobertas para a interação com agentes de inteligência artificial.
Este artigo apresenta um gargalo discreto chave-valor (DKVB) para modelos de linguagem pequenos, permitindo um aprendizado contínuo eficiente que mitiga o esquecimento catastrófico através de atualizações localizadas e uma inicialização independente de tarefas, alcançando desempenho competitivo com custos computacionais reduzidos.
O artigo apresenta o HarmonicEval, uma métrica de avaliação automática sem referência que agrega pontuações por critério de forma bottom-up, e o benchmark MMHE, composto por 18.000 julgamentos humanos em quatro tarefas multimodais, demonstrando que essa abordagem supera as métricas convencionais ao alinhar-se melhor com os julgamentos humanos em cenários de múltiplas tarefas e critérios.
Este artigo investiga o fenômeno de colapso de embeddings no Prompt-Tuning, demonstrando que priores de embedding influenciam significativamente a posição dos embeddings ajustados e que as trajetórias geradas formam clusters distintos para tarefas distantes, levantando questões sobre a importância de um único cluster de ativação para a generalização dos modelos de linguagem.
Este artigo apresenta um novo framework de ensemble de modelo único para tradução automática neural que utiliza tradução pivô para gerar e agregar candidatos diversos e de alta qualidade, superando os custos computacionais e limitações dos métodos tradicionais de ensemble.
O artigo apresenta o GRADIEND, um método inovador de codificação e decodificação que utiliza gradientes de modelos para identificar e reescrever pesos neurais, permitindo a remoção de vieses sociais (como gênero, raça e religião) em sistemas de IA sem comprometer suas outras capacidades.
Este artigo demonstra que a adaptação de baixo rank (LoRA) reduz significativamente a memorização indesejada em modelos de linguagem grandes treinados por aprendizado federado, preservando o desempenho e podendo ser combinada com outras técnicas de privacidade para proteger dados sensíveis em domínios críticos.
O artigo apresenta o LaVCa, uma abordagem baseada em modelos de linguagem grandes (LLMs) que gera legendas em linguagem natural para descrever com maior precisão e detalhe a seletividade de voxels no córtex visual humano, superando métodos anteriores e revelando diferenciações funcionais de alta granularidade.
Este artigo propõe o framework COD (Clustering-On-Difficulty), que agrupa tarefas por características de escalabilidade de dificuldade para prever com alta precisão o desempenho de modelos de linguagem grandes em benchmarks downstream, superando as limitações das metodologias atuais devido ao fenômeno de emergência e à variabilidade de métricas.
O artigo propõe o HaLoRA, um método de adaptação de baixo rank consciente de hardware que combina pesos pré-treinados em memória RRAM ruidosa com ramos LoRA treinados para robustez em SRAM silenciosa, permitindo a execução eficiente de modelos de linguagem grandes com economia de energia de até 97% e ganhos significativos de precisão.
Este estudo revela que, embora os Grandes Modelos de Linguagem (LLMs) superrepresentem personagens femininas em suas histórias geradas devido ao ajuste fino e ao aprendizado por reforço, eles continuam a alocar essas personagens em ocupações que refletem estereótipos de gênero humanos em vez da realidade do mercado de trabalho, evidenciando um paradoxo que exige medidas de mitigação equilibradas para promover a equidade.
O artigo apresenta o EDU-PRM, um novo modelo de recompensa de processo baseado em entropia que elimina a necessidade de anotações manuais ao segmentar automaticamente os passos de raciocínio em pontos de alta incerteza, alcançando desempenho superior com apenas 1,5% dos dados de treinamento e reduzindo o uso de tokens em 32%.