1077 artigos
O artigo demonstra que modelos de linguagem podem ser treinados para detectar e identificar vetores de direcionamento de ativação, revelando que essa intervenção não é invisível e que a capacidade de detecção não garante robustez comportamental, o que questiona a confiabilidade de avaliações de segurança baseadas em direcionamento.
O artigo apresenta o FlyThinker, um framework eficiente de "pensar enquanto gera" que utiliza raciocínio latente em nível de token em paralelo para superar as limitações dos métodos de alinhamento de preferências estáticos na geração personalizada de textos longos, garantindo tanto eficácia quanto eficiência no treinamento e na inferência.
O artigo apresenta o ReFusion, um modelo de difusão mascarado inovador que integra reorganização de sequências e decodificação autoregressiva paralela em nível de slots, superando significativamente os modelos anteriores em desempenho e velocidade enquanto reduz a complexidade de aprendizado e permite o uso eficiente de cache KV.
O artigo apresenta o RePo, um mecanismo inovador que melhora o aprendizado em contexto de Grandes Modelos de Linguagem ao re-posicionar dinamicamente os tokens com base em dependências contextuais, reduzindo a carga cognitiva extrínseca e aprimorando o desempenho em tarefas com contextos ruidosos, estruturados e de longa duração.
O artigo apresenta o MCP-SafetyBench, um benchmark abrangente baseado em servidores MCP do mundo real que avalia a segurança de modelos de linguagem em fluxos de trabalho multi-turno e revela que os principais modelos atuais permanecem vulneráveis a ataques, evidenciando um trade-off entre segurança e utilidade.
Este artigo propõe um framework de três níveis para avaliar modelos de mundo baseados em LLMs em ambientes textuais, demonstrando que, sob condições adequadas de cobertura comportamental e complexidade, eles podem manter estados latentes coerentes e melhorar significativamente o desempenho de agentes através de verificação de ações, geração de trajetórias sintéticas e inicialização de aprendizado por reforço.
O artigo apresenta o PTP (Parallel Token Prediction), um framework que acelera a geração de linguagem ao prever múltiplos tokens simultaneamente em uma única chamada de modelo, substituindo a amostragem pós-hoc por variáveis de entrada aleatórias e alcançando um speedup de 2,4x em benchmarks de decodificação especulativa.
Este estudo avalia o impacto do uso de ferramentas e planejamento em tempo de inferência em modelos de linguagem de grande escala, demonstrando que, embora essas abordagens possam melhorar significativamente a precisão em tarefas complexas de raciocínio baseadas em conhecimento, elas frequentemente resultam em aumentos drásticos de latência e custo sem benefícios consistentes em tarefas mais simples, destacando a necessidade de escolhas estratégicas e conscientes de custos entre o tamanho do modelo e a complexidade do agente.
O artigo apresenta o NeuronLLM, um novo framework que identifica tanto neurônios facilitadores quanto inibidores em Grandes Modelos de Linguagem para tarefas específicas, utilizando aprendizado contrastivo e conjuntos de perguntas aumentados para superar as limitações dos métodos anteriores e oferecer uma compreensão mais holística da organização funcional desses modelos.
Este trabalho apresenta o F-Actor, o primeiro modelo de conversação de voz full-duplex aberto e instrucional que, ao utilizar um protocolo de treinamento de estágio único com recursos acadêmicos limitados, permite o controle dinâmico de comportamento conversacional, voz e tópicos seguindo instruções explícitas.
O artigo demonstra que a capacidade de modelos de linguagem de grande escala (LLMs) de inferir significados a partir de estruturas sintáticas em textos sem sentido, como o "Jabberwocky", evidencia que o reconhecimento de padrões é um componente fundamental da inteligência, e não apenas uma mera imitação linguística.
O artigo apresenta o Yuan3.0 Ultra, um modelo de linguagem aberto de grande escala baseado em Mistura de Especialistas (MoE) com 1010B de parâmetros totais e 68,8B ativados, que introduz o algoritmo de Poda de Especialistas Adaptativa por Camada (LAEP) para otimizar a eficiência do pré-treinamento e alcançar desempenho líder em tarefas corporativas.
Este trabalho avalia a capacidade de modelos fundacionais multimodais de identificar momentos importantes em vídeos de futebol, demonstrando que seu desempenho é próximo ao acaso devido à dependência de uma única modalidade e à falta de sinergia entre fontes, o que destaca a necessidade de arquiteturas modulares e procedimentos de treinamento complementares.
O artigo apresenta o Self-Distilled Reasoner, um framework de Auto-Distilação em Política (OPSD) onde um único modelo de linguagem atua simultaneamente como professor e aluno ao condicionar-se em diferentes contextos (com ou sem traços de raciocínio privilegiados), alcançando maior eficiência e desempenho em tarefas de raciocínio matemático em comparação com métodos de distilação off-policy e aprendizado por reforço.
O artigo apresenta o VIP, uma estratégia de alocação de rolagens adaptativa que utiliza um modelo de processo gaussiano para prever probabilidades de sucesso e otimizar a distribuição do orçamento computacional, minimizando a variância do gradiente e melhorando a eficiência de amostragem no aprendizado por reforço com recompensas verificáveis.
O artigo apresenta o LatentChem, uma interface de raciocínio latente que desacopla o cálculo químico da geração textual, permitindo que modelos realizem inferências complexas diretamente no espaço contínuo, o que resulta em uma precisão superior e um aumento de 10,84 vezes na velocidade de inferência em comparação com métodos tradicionais de Cadeia de Pensamento explícita.
Este artigo estabelece a convergência fundamental entre os Sistemas de Diálogo Guiados por Esquema (SGD) e o Protocolo de Contexto de Modelo (MCP) como manifestações de um paradigma unificado para interações auditáveis com LLMs, extraindo cinco princípios fundamentais de design de esquemas que preenchem lacunas críticas em modos de falha e relações entre ferramentas para viabilizar a governança escalável de sistemas de IA.
Este artigo apresenta um novo quadro de avaliação baseado em simulação para realizar testes de "red teaming" em modelos de linguagem aplicados à saúde mental, identificando riscos críticos como a validação de delírios e falhas na desescalada de risco suicida, e validando uma ferramenta de visualização para auditoria por parte de diversas partes interessadas.
O artigo apresenta o JAILBREAK FOUNDRY (JBF), um sistema baseado em agentes múltiplos que traduz automaticamente artigos sobre jailbreaks em módulos executáveis padronizados, permitindo a reprodutibilidade precisa e a avaliação unificada de ataques em modelos de linguagem.
O artigo apresenta o ReGFT, um método que utiliza soluções de referência humanas para sintetizar trajetórias de raciocínio viáveis em problemas difíceis, superando a esparsidade de recompensas e acelerando o treinamento por reforço (RL) para raciocínio matemático em modelos de linguagem.