312 artículos
Este artículo expone por primera vez los riesgos de privacidad en la caché KV de los modelos de lenguaje grandes, demostrando cómo un atacante puede reconstruir entradas sensibles mediante tres vectores de ataque, y propone KV-Cloak, un mecanismo de defensa ligero y reversible que elimina estas vulnerabilidades sin degradar el rendimiento ni la precisión del modelo.
Este artículo presenta un marco de olvido selectivo jerárquico de doble estrategia que, mediante actualizaciones de gradiente geométricamente restringidas e intervenciones a nivel de tokens conscientes de conceptos, elimina eficazmente conocimientos médicos específicos de grandes modelos de lenguaje preservando sus competencias fundamentales y garantizando la privacidad con una modificación mínima de parámetros.
Este estudio presenta una arquitectura multi-tenant segura combinada con un mecanismo de "destrucción tras el uso" para entornos de LLM empresariales, logrando aislar instancias y eliminar contextos efímeros para prevenir eficazmente la fuga de datos mediante una alta tasa de éxito en pruebas de defensa contra ataques de filtración y persistencia.
Este artículo presenta un ataque de denegación de servicio económico y sigiloso para agentes de LLM que, mediante la manipulación de llamadas a herramientas bajo el Protocolo de Contexto del Modelo (MCP) y optimizado con Búsqueda de Árbol Monte Carlo, genera cadenas de interacción prolongadas que multiplican drásticamente los costos y el consumo de recursos sin ser detectado por filtros convencionales.
El artículo presenta "hubscan", un escáner de seguridad de código abierto diseñado para detectar y mitigar el envenenamiento por hubness en sistemas de Generación Aumentada por Recuperación (RAG) mediante un análisis estadístico y estructural avanzado de índices vectoriales, logrando una alta tasa de recuperación de ataques adversarios en diversos entornos y bases de datos.
El estudio revela que la alineación de seguridad en los modelos de lenguaje grandes genera un "sesgo de rechazo defensivo", negando asistencia a tareas cibernéticas legítimas y críticas cuando contienen palabras sensibles, incluso con autorización explícita, debido a que priorizan la similitud semántica con contenido dañino sobre el análisis de la intención del usuario.
Este trabajo presenta "Kraken", el primer ataque de canal lateral electromagnético de alto orden capaz de extraer parámetros de modelos de aprendizaje profundo directamente de las unidades Tensor Core de las GPUs, demostrando la vulnerabilidad de estos sistemas tanto en campo cercano como en campo lejano a través de obstáculos.
Este estudio evalúa la robustez y seguridad pedagógica de modelos de lenguaje offline en la educación del idioma turco, demostrando mediante una suite de anomalías que los modelos de 8B a 14B parámetros ofrecen el mejor equilibrio entre costo y seguridad, ya que la resistencia a anomalías no depende únicamente de la escala del modelo.
Este artículo evalúa la capacidad de generalización de agentes de ciberataque autónomos ante cambios en la asignación de direcciones IP, concluyendo que aunque los agentes impulsados por LLM logran el mejor rendimiento en escenarios no vistos, lo hacen a costa de un mayor consumo computacional, menor transparencia y la aparición de fallos prácticos como bucles de acciones inválidas.
Este trabajo presenta Flip-Agent, el primer marco de ataque de inversión de bits dirigido diseñado para explotar vulnerabilidades en agentes basados en LLM manipulando tanto sus respuestas finales como sus invocaciones de herramientas.
El artículo propone FlowSem-MAE, un paradigma de preentrenamiento tabular nativo de protocolos que supera las limitaciones de los enfoques basados en secuencias al preservar la semántica de los campos definidos por el protocolo mediante unidades semánticas de flujo (FSU), logrando una clasificación superior de tráfico cifrado con la mitad de datos etiquetados.
El artículo presenta OAuthHub, un marco de desarrollo que utiliza dispositivos personales como intermediarios para mitigar el acceso excesivo a datos en OAuth mediante un modelo de permisos centralizado y patrones de acceso discretos, logrando reducir significativamente el tiempo de codificación y la complejidad del código en comparación con las APIs tradicionales.
Este artículo presenta los AIBOMs (Facturas de Materiales de Inteligencia Artificial), una extensión de las SBOMs tradicionales mediante una arquitectura multiagente autónoma que captura el comportamiento en tiempo real y la deriva del entorno para generar afirmaciones de explotabilidad contextualizadas y reproducibles, mejorando así la seguridad de la cadena de suministro de software.
El artículo presenta NabaOS, un marco de verificación ligero inspirado en la epistemología india que utiliza recibos de ejecución de herramientas firmados criptográficamente para detectar alucinaciones en agentes de IA en tiempo real, ofreciendo un equilibrio superior entre cobertura, latencia y costo en comparación con los métodos de prueba de conocimiento cero.
Este artículo presenta FLA³, una plataforma de aprendizaje federado que integra controles de autenticación, autorización y contabilidad para habilitar la investigación clínica global segura y cumplir con las normativas de privacidad sin compartir datos.
El artículo presenta ADVERSA, un marco de red-teaming automatizado que evalúa la degradación progresiva de las defensas de seguridad en modelos de lenguaje grandes mediante interacciones multi-turno, revelando que los jailbreaks exitosos tienden a ocurrir en las primeras rondas y destacando la importancia de medir la fiabilidad de los jueces y los sesgos de los atacantes.
Este estudio analiza el rendimiento de los modelos de lenguaje grandes (LLM) en la generación de parches de seguridad para vulnerabilidades Java, revelando que, aunque preservan la funcionalidad, sufre un alto índice de fracaso debido a malentendidos semánticos que comprometen la seguridad, lo que subraya la necesidad de validación rigurosa antes de su despliegue.
El artículo presenta TASER, un marco de defensa descentralizado para enjambres de UAVs que mitiga ataques de puerta trasera sofisticados mediante el análisis y refinamiento de la concentración espectral de los gradientes, logrando así suprimir tareas maliciosas sin depender de la detección de valores atípicos.
El artículo presenta "Amnesia", un ataque adversarial ligero que manipula las activaciones internas de los modelos de lenguaje grandes (LLM) de peso abierto para eludir sus mecanismos de seguridad y generar contenido dañino sin necesidad de entrenamiento adicional.
Este artículo propone un ataque de perturbación multi-flujo que explota las vulnerabilidades de los modelos de lenguaje con modo de pensamiento al intercalar múltiples tareas simultáneas, logrando altas tasas de éxito en evadir mecanismos de seguridad y provocar el colapso del proceso de razonamiento en modelos avanzados.