1898 artigos
Este estudo demonstra que, embora o direcionamento contrastivo em LLMs seja robusto a uma quantidade moderada de corrupção de dados, efeitos maliciosos podem ocorrer com frações significativas de dados alterados, mas que podem ser mitigados substituindo o cálculo de média padrão por um estimador de média robusto.
O artigo apresenta a Otimização de Resposta Guiada por Densidade (DGRO), um método que alinha modelos de linguagem às normas de comunidades diversas explorando a estrutura geométrica de aceitação implícita em seus dados, eliminando a necessidade de supervisão explícita de preferências.
Este estudo demonstra que um pipeline de geração de rubricas baseado em progressões de aprendizagem pode produzir feedback de IA para explicações científicas de estudantes do ensino médio com qualidade comparável àquela obtida com rubricas elaboradas por especialistas humanos.
Este artigo examina os desafios de facticidade e os riscos de desinformação apresentados pelos Grandes Modelos de Linguagem (LLMs), propondo soluções tecnológicas, regulatórias e educacionais para mitigar a disseminação de conteúdo enganoso na era da IA generativa.
Este artigo avalia o potencial do ChatGPT como copiloto quantitativo em fluxos de trabalho de ciência de dados, demonstrando suas capacidades em exploração, visualização e modelagem supervisionada e não supervisionada, ao mesmo tempo em que destaca a necessidade de considerar cuidadosamente suas limitações.
Esta pesquisa oferece uma revisão abrangente sobre o uso de agentes de modelos de linguagem grandes (LLMs) em negociações financeiras, analisando suas arquiteturas, dados de entrada, desempenho em testes retrospectivos e os desafios atuais, com o objetivo de mapear o estado da arte e orientar futuras direções de pesquisa.
O artigo apresenta o SynthKG, um pipeline de síntese de dados que gera pares documento-grafo de alta qualidade para treinar modelos menores via destilação (Distill-SynthKG), superando métodos baseados em LLMs maiores na construção de grafos de conhecimento e melhorando significativamente tarefas de recuperação e resposta a perguntas.
Este artigo demonstra que funções de ativação baseadas em bases ortonormais, como polinômios de Hermite, trigonometria e tropicalização, podem ser utilizadas com sucesso no treinamento de modelos profundos sem mecanismos de clamping, resolvendo problemas de explosão e desaparecimento de gradientes e permitindo aproximações eficientes para ajuste fino.
O artigo apresenta o AStar, uma metodologia de raciocínio multimodal livre de treinamento que utiliza "cartões de pensamento" recuperados automaticamente para estruturar o raciocínio do modelo, superando a eficiência e a precisão de métodos baseados em busca ou pós-treinamento, como demonstrado por resultados superiores ao GPT-4o em tarefas complexas de matemática e visão.
Este trabalho propõe uma abordagem simples e sem treinamento que melhora significativamente a detecção de alucinações em Grandes Modelos de Linguagem ao injetar ruído nos parâmetros ou ativações do modelo durante a amostragem, superando os métodos de amostragem padrão ao incorporar melhor a incerteza do modelo no sentido bayesiano.
Este artigo apresenta o LLM-ProS, uma nova técnica de avaliação que analisa o desempenho de modelos de linguagem de última geração na resolução de problemas do ICPC, revelando diferenças significativas em suas capacidades de raciocínio, precisão e generalização.
Este artigo propõe um quadro de adaptação robusto para Modelos Multimodais de Grande Escala que supera as limitações de métodos existentes, alcançando desempenho superior e maior generalização na detecção de memes de ódio, ao mesmo tempo que preserva as capacidades gerais do modelo e melhora a interpretabilidade através de explicações de alta qualidade.
O artigo apresenta o MemeIntel, um novo conjunto de dados explicativo e uma abordagem de otimização multiestágio com modelos de visão e linguagem que superam o estado da arte na detecção de memes propagandísticos em árabe e de discurso de ódio em inglês, ao mesmo tempo que geram justificativas para suas previsões.
Este artigo propõe uma abordagem inovadora de Aprendizado por Reforço que ajusta finamente Grandes Modelos de Linguagem para expressar estimativas de confiança calibradas junto às suas respostas, integrando a calibração ao processo generativo e demonstrando melhorias significativas na precisão e generalização sem necessidade de ajuste adicional.
Este artigo apresenta uma meta-análise de 92 modelos de linguagem que demonstra que incorporar decisões de design, como a composição dos dados e escolhas arquiteturais, melhora significativamente a previsão do desempenho downstream em comparação com o uso exclusivo da escala do modelo.
Esta pesquisa oferece uma revisão sistemática sobre como os Modelos de Linguagem de Grande Escala (LLMs) estão revolucionando a bioinformática ao analisar dados genômicos e proteicos, abordando desafios atuais e explorando futuras aplicações clínicas e multimodais.
O artigo apresenta o LLaVE, um modelo de incorporação multimodal que supera o estado da arte ao utilizar aprendizado contrastivo ponderado por dificuldade para melhorar a distinção de pares negativos, alcançando desempenho superior com maior eficiência e generalização zero-shot.
O artigo apresenta o Vision-R1, um modelo de linguagem multimodal que aprimora o raciocínio complexo por meio de aprendizado por reforço, utilizando um conjunto de dados de cadeia de pensamento gerado automaticamente e uma estratégia de supressão progressiva do pensamento excessivo para alcançar desempenho competitivo em benchmarks matemáticos.
Este artigo apresenta um modelo teórico que demonstra que a previsão do próximo token em LLMs permite aprender conceitos latentes discretos interpretáveis por humanos, provando que suas representações correspondem aproximadamente aos logaritmos das probabilidades posteriores desses conceitos e oferecendo uma base teórica unificada para entender a hipótese de representações lineares e avaliar autoencoders esparsos.
Este artigo apresenta o MoBLLM, um modelo fundamental de previsão de mobilidade individual baseado em modelos de linguagem grandes (LLM) de código aberto e técnicas de ajuste fino eficientes em parâmetros, que supera os métodos tradicionais em precisão, robustez e transferabilidade entre diferentes contextos espaciais e temporais, oferecendo uma solução custo-eficiente para serviços de transporte personalizados.