1018 artigos
O artigo apresenta o PonderLM-3, um framework de pré-treinamento que permite a alocação adaptativa e diferenciável de computação extra por token durante a inferência, otimizando o desempenho e reduzindo o custo computacional em comparação com métodos anteriores.
Este estudo empírico mapeia as interações entre diferentes classes de modelos de linguagem e estratégias de engenharia de prompts na geração de código Verilog, identificando padrões de desempenho e generalização através de um design experimental controlado.
Este artigo apresenta um pipeline autônomo e sem dependência de APIs externas que converte PDFs de aulas em bancos de questões de múltipla escolha usando modelos de linguagem locais, garantindo qualidade através de verificações determinísticas e promovendo privacidade, responsabilidade e sustentabilidade ambiental no contexto educacional.
O artigo apresenta o Fish Audio S2, um sistema de texto-para-fala de código aberto que oferece geração multi-falante e multi-turno com controle por instruções em linguagem natural, destacando-se por uma receita de treinamento escalável e um motor de inferência otimizado para streaming com baixa latência.
O artigo apresenta o MASEval, uma biblioteca independente de frameworks que preenche a lacuna de avaliação ao tratar sistemas de agentes LLM completos como unidade de análise, demonstrando que a escolha do framework impacta o desempenho tanto quanto a escolha do modelo.
Este artigo demonstra que os recursos aprendidos por Autoencoders Esparsos (SAEs) em modelos Gemma capturam significados abstratos independentes da ortografia, provando que a invariância de script no digrafismo sérvio supera até mesmo a variação de paráfrases, sugerindo que tais representações transcendem a tokenização superficial.
O artigo apresenta o MultiGraSCCo, um benchmark multilíngue de anonimização em dez idiomas com mais de 2.500 anotações de identificadores pessoais, criado por meio de tradução neural para superar a escassez de dados reais e facilitar o desenvolvimento e validação de sistemas de proteção de privacidade em saúde.
Este artigo avalia uma estratégia de triagem sem rótulos que utiliza embeddings de texto derivados de Word2Vec e Transformers para filtrar candidatos a eletrocatalisadores em espaços composicionais vastos, demonstrando que o modelo Word2Vec leve, baseado em combinações lineares de elementos, frequentemente alcança a maior redução de candidatos mantendo desempenho próximo ao ótimo medido.
O artigo apresenta o ConFu, um novo framework de decodificação especulativa que permite aos modelos de rascunho antecipar a direção futura da geração por meio de tokens de contemplação e prompts suaves, resultando em taxas de aceitação e velocidade de geração superiores às do EAGLE-3.
O artigo apresenta o SciTaRC, um benchmark de perguntas sobre dados tabulares científicos que exige raciocínio linguístico e computação complexa, demonstrando que os modelos de IA atuais falham significativamente devido a um "gargalo de execução" que afeta tanto a compreensão inicial quanto a precisão nos cálculos.
O artigo apresenta o PathoScribe, um framework unificado baseado em modelos de linguagem (LLM) que transforma arquivos de patologia estáticos em uma biblioteca viva e inteligente, permitindo recuperação semântica, construção automatizada de coortes e raciocínio clínico com alta precisão, conforme demonstrado em uma avaliação com 70.000 relatórios cirúrgicos.
O artigo apresenta o VoxEmo, um benchmark abrangente para avaliar Modelos de Linguagem de Áudio em Reconhecimento de Emoções, oferecendo um toolkit padronizado e protocolos de avaliação que capturam a ambiguidade inerente às emoções humanas e demonstram que, embora os modelos zero-shot tenham menor precisão em rótulos rígidos, eles se alinham melhor com as distribuições subjetivas humanas.
O artigo apresenta o BiCLIP, um framework simples e eficiente que adapta modelos de linguagem e visão a domínios especializados aplicando uma transformação geométrica canônica baseada em poucos exemplos, alcançando resultados state-of-the-art em diversos benchmarks.
O artigo apresenta o Guardian, um sistema de pipeline multi-LLM que utiliza modelos especializados, um mecanismo de consenso e ajuste fino QLoRA para extrair e processar informações de forma auditável e coordenada, visando otimizar as investigações de pessoas desaparecidas nas primeiras 72 horas críticas.
O artigo apresenta um framework automatizado para análise temática de dados clínicos qualitativos que combina refinamento iterativo de codificação com rastreamento completo de proveniência, demonstrando superioridade em qualidade e alinhamento com especialistas em comparação a abordagens existentes.
Este artigo apresenta um framework de autoconsistência consciente da confiança que analisa uma única trajetória de raciocínio para decidir adaptativamente entre métodos de caminho único ou múltiplo, mantendo a precisão enquanto reduz o custo computacional em até 80%.
O artigo apresenta o "Sentinel", um agente de IA autônomo que supera os médicos individuais na triagem de sinais vitais de monitoramento remoto de pacientes, alcançando alta sensibilidade e consistência a um custo mínimo, o que resolve o problema de escalabilidade que limitou estudos clínicos anteriores.
O artigo apresenta a Atenção Exclusiva (XSA), uma modificação simples da atenção auto-referencial que restringe a atenção a informações ortogonais ao próprio vetor do token, melhorando consistentemente o desempenho de modelagem de sequências em Transformers, especialmente em contextos longos.
Este estudo diagnostica a lacuna de desempenho entre o processamento de texto em formato de imagem e em tokens textuais em Modelos de Linguagem Multimodais, identificando que erros de leitura e formatação são os principais culpados, e propõe um método de auto-distilação que elimina essa lacuna ao treinar o modelo com seus próprios raciocínios textuais, elevando drasticamente a precisão em tarefas matemáticas e em documentos reais.
Este estudo apresenta o "Bioalignment", um framework de avaliação que revela que a maioria dos modelos de linguagem de grande escala (LLMs) possui viés em favor de soluções sintéticas em detrimento das biológicas, demonstrando que o ajuste fino (fine-tuning) com um corpus especializado pode reverter essa preferência sem comprometer as capacidades gerais do modelo.