315 artigos
Este artigo apresenta a primeira construção de criptografia incloneável reutilizável no modelo de oráculo aleatório de Haar, demonstrando a existência de tal esquema em um cenário onde funções de mão única podem não existir, graças à introdução de um lema de reprogramação unitária baseado na estrutura de gravação de caminhos.
O artigo apresenta o KEPo, um novo método de ataque de envenenamento projetado especificamente para sistemas GraphRAG, que explora a evolução de conhecimento e a estrutura de grafos para manipular com sucesso as respostas de modelos de linguagem, superando as limitações das técnicas de ataque tradicionais.
Este artigo estabelece a otimalidade estrita na precisão para estimativa de frequência sob privacidade diferencial local, propondo um estimador com configuração simétrica e extremal que minimiza o custo de comunicação e demonstrando, através de uma versão modificada do Count-Mean Sketch, que é possível atingir essa otimalidade teórica na prática.
Este artigo apresenta uma análise de segurança abrangente do agente autônomo OpenClaw, introduzindo um framework de cinco camadas para identificar ameaças complexas ao longo de seu ciclo de vida e propondo estratégias de defesa holísticas para mitigar riscos sistêmicos que as soluções pontuais atuais não conseguem abordar.
O artigo unifica os principais ataques de inferência de associação (LiRA, RMIA e BASE) sob um único framework de razão de verossimilhança da família exponencial e propõe o BaVarIA, um ataque baseado em inferência bayesiana de variância que supera ou iguala o desempenho dos métodos existentes, especialmente em cenários com orçamento limitado de modelos sombra.
O artigo identifica e quantifica a "Dilema do Executor Confiável", uma vulnerabilidade estrutural em agentes LLM de alto privilégio que, ao seguirem cegamente instruções embutidas em documentação externa, permitem a exfiltração de dados com altas taxas de sucesso, revelando uma lacuna crítica entre a conformidade funcional e a segurança que as defesas atuais não conseguem mitigar.
O artigo apresenta o "Mirror", um padrão de design que prioriza a geometria rigorosa dos dados em vez da escala do modelo, utilizando um classificador linear leve e determinístico para detectar injeções de prompts com alta precisão e latência sub-milissegundo, superando modelos de grande porte na camada inicial de filtragem.
Este artigo demonstra que esquemas de esteganografia imagem-em-imagem são facilmente detectáveis, pois o processo de mistura resultante é identificável por análise de componentes independentes, permitindo que um método de esteganálise baseado nos quatro primeiros momentos desses componentes alcance alta precisão na distinção entre imagens originais e modificadas.
Este estudo revela que os atuais Grandes Modelos de Linguagem (LLMs), incluindo os mais recentes, frequentemente falham em rejeitar conteúdo prejudicial fornecido pelo usuário quando este é inserido em tarefas aparentemente inofensivas, expondo uma vulnerabilidade ética de nível de conteúdo que requer medidas de segurança aprimoradas.
Este artigo introduz os Ataques de Backdoor Adiado (DBA), uma nova classe de ameaças que desacopla a ativação maliciosa da exposição ao gatilho no tempo, demonstrando através do protótipo DND que é possível usar palavras comuns como gatilhos para manter os modelos inativos por um período controlado antes de desencadear uma falha generalizada com alta precisão.
Este artigo apresenta o HomeSafe-Bench, um novo benchmark para avaliar a detecção de ações inseguras em ambientes domésticos por modelos de visão e linguagem, e propõe a arquitetura HD-Guard, que combina um processamento rápido e contínuo com uma análise profunda assíncrona para garantir monitoramento de segurança eficiente e preciso em agentes corporificados.
Este artigo investiga como vulnerabilidades tradicionais de software e hardware podem ser combinadas com falhas algorítmicas em sistemas de IA compostos para amplificar ameaças adversariais, demonstrando novos vetores de ataque que comprometem a segurança e a confidencialidade desses sistemas.
Este artigo introduz a "vantagem de reconstrução" como uma métrica de risco unificada e mais precisa para calibrar o ruído e auditar a Privacidade Diferencial, superando as limitações das abordagens atuais baseadas em reconstrução robusta que podem fornecer estimativas de risco enganosas.
Este artigo, baseado na experiência da Perplexity com sistemas agênicos, detalha as novas ameaças de segurança introduzidas por agentes de IA, mapeia suas superfícies de ataque e propõe uma defesa em camadas e diretrizes para preencher lacunas de pesquisa alinhadas aos princípios de gerenciamento de riscos do NIST.
O artigo apresenta o STAMP, um novo mecanismo de privacidade para texto que otimiza o equilíbrio entre proteção e utilidade ao alocar orçamentos de privacidade seletivamente por token com base na importância da tarefa e na sensibilidade, utilizando um mecanismo polar que perturba apenas a direção dos embeddings para preservar a semântica.
Este artigo apresenta um algoritmo clássico inspirado em redes de tensores que, ao aplicar o método de peneiração de Schnorr para fatoração de inteiros, demonstra evidências numéricas de escalabilidade polinomial para números de até 130 bits, reforçando a necessidade urgente de adoção de criptografia pós-quântica.
O artigo apresenta o PrometheusFree, um framework para redes neurais ópticas que detecta concorrentemente ataques de injeção de falhas a laser, utilizando uma técnica inovadora de perturbação de divisão de comprimento de onda (WDP) para reduzir significativamente a taxa de sucesso dos ataques e melhorar a precisão da detecção.
Este artigo investiga a aplicação de contadores probabilísticos, como o de Morris e o MaxGeo, como mecanismos de proteção de privacidade em agregação de dados, demonstrando que sua aleatorização inerente é suficiente para garantir privacidade diferencial sem necessidade de randomização adicional, mesmo em múltiplos usos.
Este artigo apresenta o AUTOTEE, a primeira abordagem baseada em Grandes Modelos de Linguagem (LLMs) que automatiza a identificação, transformação e portabilidade de funções sensíveis para Ambientes de Execução Confiáveis (TEEs), alcançando altas taxas de sucesso na adaptação de código Java e Python com intervenção mínima do desenvolvedor.
Este trabalho propõe uma abordagem inovadora de caso médio para a seleção precisa dos parâmetros do esquema BGV, que considera as dependências entre erros de chave para modelar com exatidão o crescimento de ruído e otimizar a eficiência e segurança do sistema.