315 artigos
O artigo apresenta o AttriGuard, uma defesa de runtime para agentes de LLM que combate a injeção indireta de prompts ao utilizar atribuição causal baseada em testes contrafactuais para distinguir chamadas de ferramentas motivadas pela intenção do usuário daquelas induzidas por observações não confiáveis, alcançando uma taxa de sucesso de ataque de 0% com perda mínima de utilidade.
O artigo apresenta uma abordagem baseada em Funções de Hardware Inimitáveis (PUFs) para vincular os pesos de modelos de Redes Neurais às propriedades únicas do hardware subjacente, impedindo assim a execução precisa desses modelos em hardware clonado e protegendo a Propriedade Intelectual incorporada.
Este estudo analisa o desempenho de modelos de aprendizado incremental federado com LSTMs para detecção de intrusão em redes IoT sob cenários de ameaças em evolução, demonstrando que abordagens de aprendizado cumulativo e representativo oferecem maior estabilidade contra o desvio de conceito, enquanto métodos baseados em retenção equilibram bem precisão e latência.
Este artigo reavalia o benchmark EVMbench, demonstrando que, devido a limitações metodológicas como contaminação de dados e falta de controle de scaffolding, os agentes de IA atuais não são estáveis nem capazes de exploração completa em incidentes reais, indicando que a auditoria automatizada total ainda não é viável e que a colaboração humano-IA permanece essencial.
Este artigo investiga como ataques de backdoor são representados em Vision Transformers, identificando uma "direção de gatilho" causal nas ativações do modelo que permite rastrear o processamento de diferentes tipos de gatilhos, analisar sua relação com ataques adversariais e propor um esquema de detecção baseado em pesos para gatilhos sigilosos.
O artigo apresenta o MAD, uma abordagem inovadora que combina alocação de memória com princípios de diversidade de software para mitigar vulnerabilidades de erros em DRAM e ataques RowHammer, oferecendo uma defesa eficaz, de fácil implementação e com impacto de desempenho negligenciável.
O artigo apresenta o TOSSS, um novo benchmark baseado no banco de dados CVE que avalia a capacidade de Grandes Modelos de Linguagem (LLMs) de distinguir entre trechos de código seguros e vulneráveis, atribuindo uma pontuação de segurança que varia de 0 a 1.
Este estudo de laboratório analisa o impacto dos algoritmos de criptografia pós-quântica (pura e híbrida) em comparação com os tradicionais em todas as camadas de transações HTTP sobre TLS 1.3, utilizando testes de carga para avaliar o desempenho em diferentes tamanhos de resposta.
Este trabalho resolve uma questão em aberto demonstrando a primeira separação explícita entre os cenários de privacidade diferencial "oblivious" e "adaptativo" na observação contínua, apresentando um algoritmo preciso para o primeiro caso que falha drasticamente no segundo após apenas um número constante de passos de tempo.
Este artigo investiga a robustez adversarial de classificadores quânticos particionados, demonstrando que perturbações direcionadas a técnicas de divisão de circuitos ou teletransporte equivalem à implementação de portas adversariais em camadas intermediárias, analisando esse fenômeno tanto teoricamente quanto experimentalmente.
O artigo apresenta o HVAC-EAR, um sistema que reconstrói fala inteligível a partir de dados de pressão de baixa resolução de sistemas de HVAC, demonstrando pela primeira vez em cenários reais que essa tecnologia pode comprometer a privacidade até 1,2 metro de distância.
O artigo apresenta o SPARK, um framework de jailbreak para modelos de texto-para-vídeo que contorna as barreiras de segurança combinando âncoras de cena neutras, gatilhos auditivos latentes e moduladores estilísticos para induzir a geração de vídeos semanticamente inseguros de forma imperceptível.
Este trabalho apresenta o primeiro estudo sistemático sobre o Risco de Privacidade na Orquestração de Ferramentas (TOP-R) em agentes autônomos, propondo um novo benchmark, identificando causas raízes de vazamento de dados e validando estratégias de mitigação que melhoram significativamente o equilíbrio entre utilidade e segurança.
Este artigo apresenta o WBC (Window-Based Comparison), um novo método de ataque de inferência de associação que supera as abordagens globais ao utilizar janelas deslizantes para capturar sinais localizados de memorização em modelos de linguagem grandes, demonstrando superioridade significativa em precisão e taxas de detecção em diversos conjuntos de dados.
Este artigo propõe uma fórmula de pontuação "Pico + Acumulação" para detectar ataques de injeção de prompts em múltiplas voltas em proxies de LLM sem invocar modelos de linguagem, superando as limitações da média ponderada e alcançando 90,8% de recall com uma taxa de falsos positivos de apenas 1,20% em um conjunto de dados de mais de 10.000 conversas.
O artigo apresenta o Scrambler, uma ferramenta de ofuscação baseada em e-graphs que utiliza Expansão de Igualdade para gerar expressões de Aritmética Booleana Mista (MBA) complexas e diversas com equivalência garantida, demonstrando superioridade em expressividade e complexidade em comparação com ferramentas existentes.
O artigo propõe o "Traversal-as-Policy", um método que distila logs de execução em Árvores de Comportamento Portãoizadas (GBTs) executáveis para substituir a geração livre de LLMs por uma política de controle verificável e segura, demonstrando melhorias significativas em taxas de sucesso, redução de violações e eficiência de custos em benchmarks como SWE-bench Verified e WebArena.
Este trabalho propõe um framework de treinamento regularizado por privacidade que aborda o vazamento de informações composicional em sistemas sequenciais de agentes LLM, demonstrando que a privacidade nesses ambientes deve ser tratada como uma propriedade sistêmica e não apenas através de restrições locais.
Este artigo propõe o conceito de "perfis de confiança de ecossistema" para permitir que ecossistemas digitais e espaços de dados definam autonomamente credenciais confiáveis, demonstrando como a interoperabilidade e a resolução do dilema de confiança cruzada dependem diretamente da governança coordenada e da sobreposição desses perfis.
Este artigo apresenta o PPCMI-SF, um framework colaborativo de segmentação de imagens médicas que preserva a privacidade ao utilizar transformações latentes criptografadas para permitir treinamento multi-institucional com alta precisão e resistência a ataques, sem a necessidade de compartilhar dados brutos.