11519 artigos
Este artigo avalia técnicas de elicitação de honestidade e detecção de mentiras em modelos de linguagem abertos chineses que censuram tópicos politicamente sensíveis, descobrindo que métodos como amostragem sem template de chat e prompts de few-shot aumentam respostas verdadeiras, embora nenhuma técnica elimine completamente as falsidades.
Este artigo demonstra que as ativações massivas e os sumidouros de atenção, embora frequentemente co-ocorram devido a artefatos arquitetônicos como a configuração pré-norm, desempenham funções distintas e separáveis nos modelos Transformer: as primeiras atuam globalmente como parâmetros implícitos, enquanto os segundos operam localmente para modular a atenção.
O POET-X é uma variante escalável e eficiente em termos de memória do framework POET que, ao otimizar transformações de equivalência ortogonal com custo computacional reduzido, permite o pré-treinamento de modelos de linguagem de bilhões de parâmetros em uma única GPU, superando as limitações de memória de otimizadores padrão como o AdamW.
O RoboPocket é um sistema portátil que utiliza realidade aumentada em smartphones para permitir a iteração instantânea de políticas robóticas sem a necessidade de um robô físico, identificando falhas proativamente e refinando o modelo em tempo real, o que duplica a eficiência de dados em comparação com estratégias offline.
O artigo propõe o Recurrent Action Transformer with Memory (RATE), uma nova arquitetura baseada em transformers que integra um mecanismo de memória recorrente para superar as limitações de contexto em ambientes parcialmente observáveis, demonstrando desempenho superior em tarefas dependentes de memória e competitividade em benchmarks padrão de RL offline.
Este artigo propõe um novo método para segmentação de instâncias camufladas em vocabulário aberto, utilizando técnicas de difusão texto-para-imagem para aprender representações visuais e textuais multiescala que superam as limitações atuais na identificação de objetos que se fundem ao fundo, abrindo caminho para aplicações em vigilância, monitoramento da vida selvagem e reconhecimento militar.
O artigo apresenta o Export3D, um método de animação de retratos em uma única imagem que gera um tri-plano condicional 3D-aware para controlar expressões faciais e ângulos de câmera sem trocar a aparência do sujeito, graças a um novo quadro de pré-treinamento contrastivo que isola os parâmetros de expressão dos traços de identidade.
Este artigo revisa as funções de recompensa para aprendizado por reforço no contexto de direção autônoma, categorizando objetivos como segurança, conforto, progresso e conformidade com regras de trânsito, identificando limitações como a falta de padronização e a incapacidade de lidar com contextos, e propondo futuras direções de pesquisa para criar recompensas estruturadas, conscientes do contexto e validadas.
Este trabalho propõe um sistema inovador de processamento de consultas semânticas que integra Modelos de Linguagem de Grande Escala (LLMs) ao Grafo de Conhecimento Acadêmico da ANU, utilizando o Modelo de Documento Profundo (DDM) e o Processamento de Consultas Aprimorado por KG (KGQP) para superar as limitações das abordagens tradicionais e permitir a recuperação precisa e eficiente de informações detalhadas sobre a pesquisa em Ciência da Computação.
O artigo apresenta o Merlin, um modelo fundacional de linguagem e visão 3D treinado em um vasto conjunto de dados clínicos de tomografias computadorizadas abdominais, registros eletrônicos de saúde e laudos radiológicos, que supera os modelos existentes na interpretação de imagens médicas e demonstra alta generalização em diversas tarefas diagnósticas, prognósticas e de qualidade.
Este artigo apresenta um framework bayesiano unificado que combina um filtro de partículas personalizado e superfícies implícitas de processos gaussianos para permitir que robôs realizem reconhecimento ativo de objetos, estimativa de pose e transferência de aprendizado de formas, utilizando exploração guiada para adquirir dados e reconstruir objetos novos com base no conhecimento prévio.
O artigo propõe uma nova abordagem para medir a similaridade semântica entre expressões textuais baseada nas imagens que elas evocam, calculando a distância entre as distribuições de imagens geradas por modelos difusivos através da divergência de Jeffreys, o que resulta em métricas alinhadas com avaliações humanas e oferece maior interpretabilidade.
Este artigo propõe o OVMSE, um novo framework de Aprendizado por Reforço Multiagente Offline-para-Online que utiliza Memória de Função de Valor Offline e Exploração Sequencial para mitigar o esquecimento de conhecimento pré-treinado e otimizar a exploração em espaços de estado-ação conjuntos, demonstrando desempenho superior em eficiência de amostras e resultados no desafio StarCraft Multi-Agent.
O artigo apresenta o ANOMIX, uma abordagem baseada em mixup que sintetiza negativos difíceis ao interpolar representações de subgrafos normais e anômalos, superando as limitações dos métodos atuais na detecção de anomalias de fronteira camufladas em grafos.
Este artigo propõe o CeGDRO, uma abordagem que integra Aprendizado de Currículo ao GroupDRO para inicializar os pesos do modelo de forma imparcial e priorizar amostras desafiadoras, superando os métodos atuais de estado da arte em cenários de deslocamento de subpopulação.
Este artigo propõe definições precisas de memória para agentes de Aprendizado por Reforço, inspiradas na ciência cognitiva, e estabelece uma metodologia padronizada para classificar e avaliar objetivamente suas capacidades de memória, demonstrando empiricamente a importância de seguir esse protocolo para evitar julgamentos equivocados.
O artigo apresenta o LMUnit, um modelo de avaliação unificado que utiliza testes unitários em linguagem natural para decompor a qualidade das respostas, demonstrando melhor concordância entre anotadores e desempenho superior em benchmarks comparado aos métodos tradicionais.
Este artigo demonstra, através de uma análise teórica e validação empírica, que a remoção de exemplos difíceis, juntamente com o ajuste de margens e escalonamento de temperatura, melhora os limites de generalização e o desempenho de classificação em aprendizado contrastivo não supervisionado, ao contrário do que ocorre no aprendizado supervisionado.
Este trabalho identifica e demonstra empiricamente o "vazamento de preferências", um problema de contaminação e viés em que modelos de linguagem atuando como juízes tendem a favorecer modelos geradores de dados sintéticos com os quais compartilham relação de origem, família ou identidade.
O artigo apresenta o DCENWCNet, uma nova rede neural convolucional emsemble que integra três arquiteturas CNN com configurações distintas para superar os desafios de desequilíbrio de dados na classificação de glóbulos brancos, alcançando desempenho superior em métricas de precisão e incorporando a técnica LIME para garantir a interpretabilidade e confiança nas previsões de diagnóstico automatizado.