← Últimos artículos
🤖 aprendizaje automático

A Rank-One Bypass of Fixed Linear Erasure

Este artículo demuestra que las capas de eliminación lineal fijas en los modelos de pesos abiertos son vulnerables a un bypass afín de rango uno, lo que permite a los atacantes restaurar la información objetivo eliminada mientras preservan las salidas de clasificadores benignos, demostrando así que tales garantías de eliminación aseguran la seguridad de la representación pero no la resistencia a la manipulación.

Autor original: Jai Kumar Sharma, Vanshaj Khattar

Publicado 2026-11-19
📖 7 min de lectura🧠 Análisis profundo

Autor original: Jai Kumar Sharma, Vanshaj Khattar

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por el autor. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo de la inteligencia artificial, la seguridad a menudo depende de una idea simple: si puedes hacer que una computadora sea incapaz de "ver" un concepto peligroso, no podrá generarlo. Imagine un modelo que ha sido entrenado para reconocer imágenes de personas, pero los investigadores han eliminado quirúrgicamente su capacidad de reconocer una categoría específica y dañina. Lo hacen editando la matemática interna del modelo para que cualquier intento de buscar esa categoría resulte en una señal plana y sin sentido. Esta técnica, conocida como borrado de conceptos, está diseñada para actuar como un filtro permanente. La esperanza es que, una vez que un modelo se libere al público con estos filtros implementados, permanecerá seguro, incluso si se permite a los usuarios descargar el código y ejecutarlo en sus propias computadoras. El supuesto es que el mecanismo de seguridad es una parte fija de la máquina, inalterable por el usuario.

Sin embargo, un nuevo estudio desafía este supuesto al plantear una pregunta crítica: ¿qué sucede si se le permite al usuario cambiar las partes de la máquina que alimentan la información hacia el filtro de seguridad? Los investigadores, trabajando con tareas estándar de reconocimiento de imágenes, descubrieron que una capa de seguridad fija no es una cerradura, sino simplemente una puerta. Si la puerta bloquea una dirección específica de información pero deja incluso una mínima grieta abierta en otra dirección, un usuario astuto puede reescribir los datos entrantes para que el concepto prohibido se filtre por esa grieta. El estudio demuestra que este bypass no es un error complejo e impredecible, sino una maniobra matemática directa que requiere muy poco esfuerzo para ejecutarse.

Los investigadores se centraron en un tipo específico de filtro de seguridad llamado capa de borrado lineal. En términos sencillos, esta capa toma la compleja imagen interna que un modelo ha formado y la proyecta sobre un nuevo conjunto de coordenadas, aplanando deliberadamente cualquier información relacionada con el objetivo prohibido. La garantía proporcionada por esta capa es precisa: si se observa la salida exactamente como sale del filtro, ningún detector lineal estándar puede encontrar el concepto prohibido. Los creadores del modelo afirman que esto hace que el concepto sea ilegible. El estudio acepta esta afirmación como verdadera para la salida no modificada, pero investiga qué sucede cuando el modelo está abierto para la modificación. Los investigadores se preguntaron si un atacante podría cambiar las capas antes del filtro para escribir directamente la puntuación prohibida en una dirección que el filtro, por casualidad, deja pasar.

La respuesta que encontraron es que la garantía del filtro es mucho más débil de lo que parece en un escenario del mundo real. Los investigadores demostlaron que si el filtro permite que incluso una sola dirección de información pase, un atacante puede calcular la puntuación "prohibida" deseada e inyectarla en esa dirección específica. Debido a que el filtro no bloquea esa dirección, la puntuación viaja sin cambios. Una vez que emerge al otro lado, un detector estándar puede leerla perfectamente. El estudio mostró que esto no requiere una reestructuración masiva del modelo. De hecho, el atacante solo necesita realizar un ajuste muy pequeño y específico en las capas anteriores del modelo, un cambio tan leve que se describe matemáticamente como un desplazamiento único y simple. Este ajuste es suficiente para desviar la información prohibida alrededor del filtro por completo.

Para probar esto, el equipo utilizó un conjunto estándar de datos de imágenes y seis pares diferentes de categorías para simular el borrado y el ataque subsiguiente. Encontraron que con una cantidad muy pequeña de edición —cambiando las características internas del modelo en un promedio de solo un diez por ciento— el atacante podía recuperar casi todo el rendimiento del concepto prohibido. Específicamente, el ataque recuperó aproximadamente el noventa y un por ciento de la ganancia potencial que el concepto habría tenido si nunca hubiera sido borrado. Esto sucedió incluso aunque el filtro permaneciera exactamente igual, bit por bit, como antes del ataque. Los investigadores también mostraron que este bypass podía realizarse sin romper la capacidad del modelo para realizar sus tareas pretendidas y seguras. Construyeron el ataque de modo que dejara las puntuaciones para otras categorías inofensivas completamente inalteradas, hasta el más mínimo decimal. Esto significa que un usuario podría, teóricamente, eludir el filtro de seguridad para un objetivo específico mientras el modelo continúa funcionando normalmente para todo lo demás.

El estudio también destacó una distincción crucial entre cómo se mide la seguridad y cómo se sostiene en la práctica. Los investigadores señalaron que si se prueba el filtro de seguridad utilizando un detector simple y estándar, este parece funcionar perfectamente. El concepto prohibido es, de hecho, ilegible en la salida no modificada. Sin embargo, esta prueba falla al no tener en cuenta el hecho de que la entrada al filtro puede ser reescrita. Los investigadores encontraron que un detector débil podría dar una falsa sensación de seguridad, haciendo que el borrado parezca más fuerte de lo que realmente es. Cuando utilizaron un método más preciso para verificar el filtro, encontraron que la garantía de seguridad solo se aplica al estado actual del modelo, no a un modelo que ha sido editado por un usuario.

El costo de este bypass es sorprendentemente bajo, pero no es cero. Los investigadores midieron cuánto tuvieron que cambiarse las características internas del modelo para lograr el bypass. Encontraron que a medida que el cambio permitido era menor, el éxito del ataque caía drásticamente. Con un cambio del uno por ciento, el ataque recuperó solo el veinticinco por ciento del potencial del concepto. Sin embargo, con un cambio del diez por ciento, la recuperación saltó a más del noventa por ciento. Esto sugiere que, si bien el ataque es fácil de realizar, no es gratuito; requiere una alteración mensurable del modelo. No obstante, debido a que los modelos de pesos abiertos permiten a los usuarios realizar estas alteraciones libremente, no existe un mecanismo para imponer un límite a cuánto se puede modificar el modelo. El estudio concluye que la seguridad de tales modelos no puede depender únicamente de la presencia de un filtro fijo.

Las implicaciones de estos hallazgos son significativas para nuestra forma de entender la seguridad de la IA. Los investigadores argumentan que la guardia lineal, o el uso de estos filtros, es una garantía válida sobre una representación de datos específica e inalterable. Demuestra que el modelo no puede leer el concepto tal como está. Pero no es una garantía de que el modelo no pueda ser llevado a leer el concepto después de que un usuario lo haya editado. El estudio no pretende afirmar que este bypass funcione para todos los tipos posibles de modelos de IA o para todo tipo de contenido dañino, ya que sus experimentos se limitaron a tareas de imágenes específicas y filtros lineales. Establecen explícitamente que sus resultados no prueban que los filtros no lineales o más complejos fallarían de la misma manera. Sin embargo, dentro del alcance de sus pruebas, los resultados son claros: un filtro fijo no es un sello a prueba de manipulaciones.

Al final, el artículo ofrece una realidad desalentadora para el campo de la seguridad de la IA. Muestra que la promesa de un modelo de pesos abiertos "seguro" es frágil. Si los pesos del modelo son públicos, los mecanismos de seguridad integrados en ellos pueden ser eludidos mediante la reescritura de la entrada. Los investigadores sugieren que las evaluaciones de seguridad futuras deben tener en cuenta esta posibilidad. En lugar de solo verificar si un filtro funciona en un modelo estático, debemos medir cuánto esfuerzo requiere un atacante para romperlo. El estudio proporciona una métrica clara para este costo, mostrando que, si bien establecer límites estrictos a la edición puede dificultar el ataque, la propia naturaleza de los lanzamientos de pesos abiertos significa que esos límites no pueden imponerse. La seguridad de estos sistemas, por lo tanto, depende no solo de la fuerza del filtro, sino de la suposición de que los usuarios no intentarán romperlo, una suposición que el estudio sugiere que ya no es seguro mantener.

¿Ahogado en artículos de tu campo?

Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.

Probar Digest →