12085 artigos
Este artigo propõe um quadro teórico baseado na complexidade de Kolmogorov para objetivos de comprimento de descrição assintoticamente ótimos em Transformers, demonstrando sua existência teórica e viabilidade prática através de um objetivo variacional que, embora promova a generalização e compressão, enfrenta desafios significativos de otimização.
Este trabalho oferece uma perspectiva teórica sobre os benefícios e limitações do Aprendizado por Reforço no planejamento de Modelos de Linguagem, demonstrando que, embora o Aprendizado por Reforço supere o Ajuste Fino Supervisionado ao evitar soluções espúrias através da exploração, o Gradiente de Política sofre de colapso de diversidade, enquanto o Aprendizado Q oferece vantagens superiores como aprendizado off-policy e preservação da diversidade, desde que o design da recompensa seja cuidadoso.
Este estudo demonstra que a novidade baseada em n-gramas é uma métrica insuficiente para avaliar a criatividade textual, pois ignora a adequação pragmática e falha em capturar a percepção de criatividade de escritores humanos, sugerindo que modelos de linguagem de ponta (LLMs) são mais eficazes ao julgar a criatividade quando atuam como avaliadores do que ao depender de métricas estatísticas tradicionais.
O artigo apresenta o MedLA, um framework multiagente baseado em LLMs que utiliza árvores de raciocínio lógico explícitas e discussões guiadas por grafos para detectar inconsistências e alcançar consenso, superando métodos existentes em tarefas complexas de raciocínio médico.
Este artigo propõe o P-GRAFT, um método que otimiza o ajuste fino de modelos de difusão ao moldar distribuições em níveis de ruído intermediários para melhorar a maximização de recompensas e corrigir erros de aprendizado sem recompensas explícitas, demonstrando ganhos significativos em benchmarks de geração de imagens e moléculas.
O artigo apresenta o LaDiR, um novo framework de raciocínio que aprimora os Grandes Modelos de Linguagem ao unificar representações latentes contínuas com modelos de difusão latente, permitindo a geração paralela e a refinamento iterativo holístico de trajetórias de raciocínio, o que resulta em maior precisão, diversidade e interpretabilidade em tarefas matemáticas e de planejamento.
O artigo apresenta o D2E, um framework que valida a pré-treinagem em dados de desktop (como jogos) como uma abordagem escalável e eficaz para transferir habilidades sensoriomotoras para robótica física, alcançando desempenho superior a modelos maiores com apenas 1 bilhão de parâmetros.
Este artigo investiga a capacidade de modelos de linguagem de raciocínio colaborarem em trajetórias compartilhadas, revelando que modelos mais fortes são frequentemente mais frágeis a distrações e incapazes de superar suas limitações inatas ao seguir orientações de outros, além de destacar como estratégias de pós-treinamento influenciam essas falhas.
Este trabalho apresenta a "Energy Landscape Steering" (ELS), uma abordagem livre de ajuste fino que utiliza um modelo externo baseado em energia para orientar as ativações internas de modelos de linguagem durante a inferência, mitigando eficazmente a recusa excessiva a solicitações benignas sem comprometer a segurança.
O artigo propõe o método , que detecta e truncar trajetórias de treinamento com desvio de crença excessivo em agentes de raciocínio ativo de LLMs, melhorando a estabilidade do treinamento, o desempenho e a eficiência de custos ao preservar créditos para ações informativas.
Este artigo apresenta o "Self-Aug", uma estratégia de decodificação sem treinamento para Modelos Visuais-Linguísticos de Grande Escala que combina uma estratégia de prompt de auto-aumento dependente da consulta e um algoritmo de limiar adaptativo baseado em entropia para mitigar alucinações e melhorar a consistência factual.
Este trabalho demonstra que as saídas de todos os modelos de linguagem possuem uma assinatura de forgery-resistente baseada em restrições geométricas naturais (uma elipse de alta dimensão), permitindo a identificação da fonte do modelo e a verificação de autenticidade sem acesso aos seus pesos ou entradas.
O artigo apresenta o xLLM, um framework de inferência de LLMs de alto desempenho e escala empresarial que utiliza uma arquitetura desacoplada de serviço e motor com agendamento inteligente, gerenciamento global de KV Cache e otimizações de execução para maximizar a eficiência e o throughput em diversos aceleradores de IA.
Este trabalho propõe o uso de um modelo de difusão incondicional treinado em dados do HiRISE para reconstruir com maior precisão e coerência geométrica as áreas faltantes de mapas de altura de Marte, superando significativamente as técnicas tradicionais de interpolação e preenchimento de vazios.
O artigo apresenta o WebDevJudge, um benchmark sistemático para avaliar o desempenho de modelos de linguagem (LLMs e MLLMs) como juízes na qualidade do desenvolvimento web, revelando uma lacuna significativa entre esses modelos e especialistas humanos devido a limitações fundamentais na avaliação de tarefas complexas e interativas.
O artigo apresenta o VeriStruct, um novo quadro de trabalho que estende a verificação automatizada assistida por IA para módulos de estruturas de dados complexos em Verus, utilizando um planejador para gerar especificações e um mecanismo de reparo para corrigir erros de sintaxe, alcançando uma taxa de sucesso de 99,2% na verificação de funções em módulos Rust.
O artigo apresenta o CASR-Net, uma rede de aprendizado profundo de três estágios que combina pré-processamento avançado, um codificador DenseNet121 e um decodificador Self-ONN para realizar a segmentação e refinamento precisos de artérias coronárias em angiogramas, superando modelos existentes e oferecendo uma ferramenta robusta para auxiliar no diagnóstico clínico.
O artigo apresenta o STAN, uma rede de atenção espaciotemporal adversarial que alcança desempenho de ponta na previsão de crises epilépticas ao modelar dinamicamente a conectividade cerebral e as variações temporais, permitindo detecção precoce e confiável com baixa taxa de falsos alarmes e eficiência computacional para implantação em tempo real.
Este artigo propõe uma nova estrutura que reinterpreta a ambiguidade em consultas de linguagem natural para análise de dados tabulares como um recurso de interação cooperativa entre usuário e sistema, distinguindo consultas cooperativas de não cooperativas para orientar o design e a avaliação mais precisos de interfaces futuras.
O artigo investiga o fenômeno de "eco" em interações entre agentes de LLM, onde estes abandonam seus papéis para espelhar parceiros, resultando em altas taxas de falha que persistem mesmo em modelos avançados, mas que podem ser mitigadas por meio de um protocolo de resposta estruturada.