1072 artigos
Este artigo propõe substituir a projeção de saída densa na atenção multi-cabeça por uma Transformada de Hadamard estruturada e livre de parâmetros seguida de um redimensionamento afim leve, reduzindo significativamente o número de parâmetros e o custo de inferência sem comprometer o desempenho em tarefas padrão.
Este estudo avalia como modelos de linguagem lidam com o problema da provisão em pragmática, descobrindo que, embora alinhados com julgamentos humanos, eles dependem de correspondência de padrões superficiais em vez de raciocínio semântico ou pragmático profundo.
Este capítulo revisa o avanço de modelos computacionais de aprendizado não supervisionado e fundamentado visualmente que demonstram como os princípios de percepção podem explicar a aquisição inicial da linguagem a partir de sinais acústicos e audiovisuais, sem a necessidade de pressupostos linguísticos prévios.
Este trabalho demonstra que combinar loops adaptativos por camada e bancos de memória com portões em modelos Transformer melhora o raciocínio matemático e a compreensão do senso comum, permitindo que um modelo com menos parâmetros supere uma linha de base isoflop com três vezes mais camadas.
O artigo apresenta o framework QUORUM e o pipeline COACH, que unificam as perspectivas de desenvolvedores, especialistas e usuários para gerar e avaliar aconselhamento de estilo de vida personalizado por LLMs para pacientes com câncer, demonstrando que, embora haja consenso sobre a qualidade e relevância do conteúdo, existem divergências significativas quanto ao tom, sensibilidade a erros e alucinações.
Este trabalho revela a plasticidade comportamental inerente aos Grandes Modelos de Linguagem e propõe o ToCoRL, um quadro de aprendizado por reforço que internaliza essa adaptabilidade condicional a tokens, permitindo um controle preciso do comportamento do modelo sem degradação de capacidades.
O artigo apresenta o Sandpiper, um sistema de iniciativa mista que combina dashboards interativos para pesquisadores com motores de LLMs agênticos para permitir a análise qualitativa escalável e rigorosa de grandes volumes de dados de discurso educacional, garantindo privacidade, precisão e confiabilidade através de infraestrutura segura e validação contínua.
O artigo demonstra que tanto humanos quanto modelos de linguagem são vulneráveis a "cegueira de escolha" ao avaliar preferências, revelando que o sinal de recompensa no RLHF é facilmente corrompido por contextos de elicitação e falhas de auto-monitoramento, o que compromete a eficácia do alinhamento sem que métricas padrão detectem o problema.
Este artigo propõe um método que capacita agentes de LLM a realizar recuperação nativa de conhecimento diretamente a partir de seus estados ocultos, eliminando a necessidade de um modelo de incorporação separado e mantendo 97% da qualidade de recuperação original.
O artigo apresenta o VET-Bench, um teste diagnóstico que revela as limitações atuais dos modelos de visão e linguagem no rastreamento de entidades, e propõe o método SGCoT, que alcança mais de 90% de precisão ao gerar trajetórias de objetos como estados intermediários explícitos.
Este estudo prospectivo de viabilidade demonstrou que um sistema de IA conversacional baseado em LLM (AMIE) foi seguro, bem recebido por pacientes e clínicos, e produziu diagnósticos diferenciais e planos de manejo de qualidade comparável à dos médicos de atenção primária em um ambiente de urgência real, embora os médicos tenham superado a IA na praticidade e custo-efetividade dos planos de tratamento.
Este artigo apresenta o primeiro conjunto de dados gratuito em inglês-sueco para investigar as preferências de "translationese" em modelos de linguagem, revelando que esses modelos tendem a favorecer traduções literais em detrimento de alternativas idiomáticas, especialmente quando expostos ao texto fonte.
O LycheeCluster é um método inovador para gerenciamento eficiente de cache KV em modelos de linguagem grandes que, ao utilizar fragmentação consciente de limites e indexação hierárquica recursiva, reduz a complexidade de recuperação de linear para logarítmica, alcançando até 3,6 vezes mais velocidade de inferência com degradação mínima de desempenho.
O artigo apresenta o Fanar-Sadiq, um assistente islâmico bilíngue baseado em arquitetura multiagente que supera as limitações de alucinação dos modelos de linguagem ao rotear consultas para módulos especializados, oferecendo respostas fundamentadas em textos canônicos, citações verificadas e calculadoras determinísticas para questões jurídicas e financeiras islâmicas.
O artigo apresenta o Drift2Act, um controlador que transforma a monitorização de sistemas de aprendizagem automática em tomada de decisão com segurança explícita, utilizando certificados de risco online para orçamentar intervenções e garantir respostas fiáveis à deriva de distribuição com violações de segurança próximas de zero.
O artigo apresenta o OfficeQA Pro, um novo benchmark que avalia a capacidade de agentes de IA de realizar raciocínio fundamentado em grandes corpora de documentos heterogêneos, revelando que os modelos de ponta atuais ainda apresentam desempenho insuficiente para aplicações empresariais confiáveis, embora representações estruturadas de documentos possam melhorar significativamente sua precisão.
O artigo apresenta o CODA, um método que otimiza a alocação de recursos computacionais em modelos de raciocínio adaptativo, utilizando um sinal interno de dificuldade para reduzir custos em tarefas simples e aumentar a profundidade de raciocínio em tarefas complexas, maximizando assim a utilidade sem necessidade de anotações externas.
Este artigo analisa o Aprendizado por Reforço Não Supervisionado com Recompensas Verificáveis (URLVR), demonstrando que os métodos intrínsecos enfrentam limites de escala devido ao alinhamento entre confiança e correção, enquanto propõe métricas para identificar esses limites e explora recompensas externas como uma alternativa promissora para superar essas barreiras.
O artigo propõe o Agentic Critical Training (ACT), uma abordagem de aprendizado por reforço que supera as limitações da aprendizagem por imitação ao treinar agentes para autonomamente julgar e refletir sobre a qualidade de suas ações, resultando em melhor desempenho e generalização em benchmarks desafiadores.
O estudo avalia o desempenho do ChatGPT em perguntas de cardiologia e patologias vasculares, demonstrando que o modelo superou dois estudantes de medicina com uma taxa de acerto de 92,10%, evidenciando seu potencial como ferramenta eficaz na educação médica.