🤖 machine learning

Safin-1: Safety from Within through Memory-Native State Evolution

Este artículo presenta Safin-1, una familia de modelos fundacionales que utiliza la arquitectura de Enrutamiento de Anclaje de Memoria a través del Historial de Contexto (MARCH, por sus siglas en inglés) para integrar la seguridad como una capacidad intrínseca y adaptativamente mantenible mediante la evolución de estados nativos de memoria, en lugar de depender de restricciones externas.

Autores originales: Ming Zhang, Kaisen Yang, Shu Yu, Ermo Hua, Zhekai Chen, Cheng Jin, Jingnan Zheng, Yi Zhang, Zhongtian Ma, Jiawei Zhou, Sirui Chen, Qiaosheng Zhang, Xiang Wang, Ning Ding, Xia Hu, Bowen Zhou, Youbang S

Publicado 2026-09-02

📖 5 min de lectura🧠 Análisis profundo

CC0 1.0

Autores originales: Ming Zhang, Kaisen Yang, Shu Yu, Ermo Hua, Zhekai Chen, Cheng Jin, Jingnan Zheng, Yi Zhang, Zhongtian Ma, Jiawei Zhou, Sirui Chen, Qiaosheng Zhang, Xiang Wang, Ning Ding, Xia Hu, Bowen Zhou, Youbang Sun, Chaochao Lu

Artículo original dedicado al dominio público bajo CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo de la inteligencia artificial, existe una tensión persistente entre la memoria y la seguridad. Los grandes modelos de lenguaje están diseñados para ser asistentes útiles, pero a medida que participan en conversaciones largas y complejas, deben recordar lo que se dijo anteriormente para no perder el hilo. Tradicionalmente, estos modelos gestionan la memoria manteniendo una lista continua de cada palabra pronunciada, lo que se vuelve pesado y lento a medida que la conversación crece. Al mismo tiempo, mantener estos modelos seguros frente a peticiones dañinas suele implicar la adición de reglas externas o el reentrenamiento de todo el sistema, lo que puede hacer que el modelo sea menos flexible o que rechace preguntas inofensivas. El desafío para los investigadores es construir un sistema que pueda retener el contexto a largo plazo de forma natural y que, al mismo tiempo, tenga la seguridad integrada en su propia estructura, en lugar de ser algo simplemente añadido como una ocurrencia tardía.

Un equipo de investigadores del Laboratorio de IA de Shanghái ha propuesto una nueva forma de resolver este problema con una familia de modelos llamada Safin-1. En lugar de tratar la seguridad como un conjunto de reglas externas o una capa de código separada, diseñaron el modelo para que lleve la seguridad como un estado interno, de forma muy parecida a cómo una persona lleva consigo un conjunto de valores personales que guían su comportamiento en diferentes situaciones. El núcleo de su innovación es un mecanismo que permite al modelo guardar instantáneas de su propio proceso de pensamiento interno a intervalos regulares. A medida que el modelo lee un documento largo o sigue una instrucción compleja, hace una pausa periódica para guardar un resumen compacto de su comprensión actual. Más tarde, cuando el modelo necesita recordar algo del pasado, puede buscar a través de estas instantáneas guardadas para encontrar la información más relevante, en lugar de intentar procesar todo el historial de la conversación a la vez. Este enfoque, que los investigadores llaman evolución de estado nativa de la memoria, convierte la memoria del modelo de un registro pasivo del pasado en una herramienta activa que puede ser consultada y actualizada según sea necesario.

Los investigadores probaron esta idea primero en modelos más pequeños para asegurar que la arquitectura funcionara correctamente. Descubrieron que, al añadir esta capacidad de recuperar estados pasados específicos, los modelos se volvieron significativamente mejores en la comprensión de contextos largos y en la localización de información oculta en lo profundo de un texto. En pruebas donde los modelos tenían que encontrar una aguja específica en un pajar de miles de palabras, el nuevo diseño superó a los métodos anteriores, especialmente cuando el texto era más largo de lo que el modelo había visto jamás durante su entrenamiento. Esto sugiere que la capacidad de recordar selectivamente estados pasados ayuda al modelo a mantener su enfoque y su poder de razonamiento durante periodos prolongados, sin perderse en el puro volumen de información.

Basándose en estos éxitos iniciales, el equipo escaló la tecnología a modelos mucho más grandes, que van desde los cuatro mil millones hasta los treinta y cinco mil millones de parámetros. Aplicaron el mismo sistema de enrutamiento de memoria a estos modelos más grandes y luego probaron una aplicación específica: la seguridad. Crearon un "estado de seguridad" especial y persistente que podía adjuntarse al modelo. Este estado fue entrenado para reconocer peticiones dañinas y guiar al modelo hacia respuestas seguras, pero fue diseñado para ser desprendible. Los investigadores descubrieron que, cuando este estado de seguridad estaba activo, el modelo se volvía mucho mejor resistiendo intentos de engañarlo para generar contenido dañino. En un conjunto de pruebas, este nuevo enfoque redujo la tasa de éxito de estos intentos de engaño en casi la mitad en comparación con el modelo estándar. Crucialmente, esta mejora en la seguridad no se produjo a costa de la capacidad del modelo para ser útil. A diferencia de otros métodos que a menudo causan que los modelos rechacen preguntas legítimas por un exceso de precaución, este nuevo enfoque mantuvo un alto nivel de utilidad, rechazando muchas menos peticiones inofensivas mientras seguía bloqueando las peligrosas.

El estudio destaca un cambio en la forma en que podríamos pensar en la construcción de inteligencia artificial segura. En lugar de depender únicamente de filtros externos o de reentrenar constantemente todo el cerebro del modelo, este trabajo sugiere que la seguridad puede ser una parte intrínseca de la maquinaria interna del modelo. Al permitir que el modelo lleve un estado especializado que puede encenderse o apagarse según la situación, los investigadores han creado un sistema que es tanto adaptable como robusto. Los resultados indican que este método ofrece un camino prometedor, donde la seguridad no es solo una restricción impuesta desde el exterior, sino una capacidad que evoluciona naturalmente dentro de los propios procesos de memoria y razonamiento del modelo. Si bien los investigadores señalan que esta es una exploración inicial y que se necesita más trabajo para realizar plenamente esta visión, los hallazgos proporcionan una demostración concreta de que la seguridad puede ser tejida en el tejido mismo de cómo una máquina piensa y recuerda.

Resumen Técnico: Safin-1 – Seguridad desde el Interior mediante la Evolución de Estados Nativos de Memoria

1. Planteamiento del Problema

Las tareas complejas de largo horizonte requieren que los modelos fundacionales acumulen información, mantengan estados internos y se adapten a lo largo de interacciones extendidas. Los enfoques actuales suelen separar estas funciones: el contexto se retiene mediante cachés de clave-valor a nivel de token o estados recurrentes, mientras que los comportamientos reutilizables (como la seguridad) se codifican mediante actualizaciones del modelo, adaptadores o restricciones externas durante la inferencia.

El artículo sostiene que la seguridad debe ser una propiedad intrínseca del propio modelo en lugar de una restricción de comportamiento que dependa únicamente de salvaguardas externas o alineación post-hoc (por ejemplo, el ajuste fino supervisado). Además, los diseños recurrentes convencionales exponen solo el estado más reciente para su lectura; una vez que las asociaciones previas se atenúan o sobrescriben, se vuelven irrecuperables. Esto crea un cuello de botella donde los estados históricos deben representarse de forma compacta y recuperarse eficientemente de acuerdo con el contexto actual. La pregunta central abordada es: ¿Puede el estado del modelo servir no solo como una compresión transitoria del contexto, sino también como un sustrato nativo para capacidades persistentes y de invocación selectiva?

2. Metodología: Safin-1 y MARCH

Safin-1 es una familia de modelos fundacionales construida sobre Anclaje de Memoria por Enrutamiento a través de la Historia del Contexto (MARCH, por sus siglas en inglés). Esta arquitectura transforma la trayectoria transitoria de la computación recurrente en un banco creciente y direccionable de estados internos.

2.1 Arquitectura Central: MARCH

MARCH consta de tres componentes primarios:

Anclajes de Estado Derivados del Contexto: El núcleo recurrente realiza un chequeo periódico de su estado evolutivo en límites específicos (por ejemplo, cada $C$ tokens) para formar "anclajes de estado". Cada anclaje se empareja con una clave de enrutamiento compacta y consciente del estado. A diferencia de los modelos recurrentes estándar que solo mantienen el estado actual, MARCH preserva el estado del prefijo acumulativo hasta ese límite, creando un historial direccionable.
Recuperación de Estado Dirigida por Contenido: Para cada token, un módulo de enrutamiento proyecta el estado oculto en una consulta para puntuar contra las claves de todos los anclajes de estado causalmente visibles (y una opción "nula" aprendida). El enrutador selecciona los estados históricos relevantes o elige omitir la recuperación. Las lecturas de los estados recuperados se fusionan residualmente con la ruta del estado actual, preservando la lógica de actualización recurrente subyacente.
Estados de Capacidad Persistente: El banco de estados enrutados puede albergar estados persistentes aprendidos (por ejemplo, un "Estado de Seguridad") junto con anclajes de contexto dinámicos. Estos son parámetros aprendibles disponibles desde el primer token, independientes de la longitud de la secuencia de entrada.

2.2 Detalles de Implementación

Mecanismo Productor-Lector: El sistema utiliza un productor eficiente en hardware (basado en kernels por fragmentos como Gated DeltaNet) para generar puntos de control de estado y un lector fusionado que agrupa tokens de consulta con candidatos de estado. Esto evita la materialización de matrices de enrutamiento densas, permitiendo el soporte de enrutamiento disperso (por ejemplo, Top-4) para reducir el costo computacional en longitudes de secuencia largas (hasta 128K tokens).
Especialización Nativa del Estado: La arquitectura permite la "Seguridad desde el Interior" mediante el aprendizaje de un Estado de Seguridad persistente. El núcleo del modelo de lenguaje permanece congelado; solo se optimizan los parámetros del estado persistente. El enrutador determina entonces la contribución dependiente del token y del contexto de este estado de seguridad, permitiendo que se adjunte o se elimine sin reescribir el núcleo compartido.

3. Contribuciones Clave

Arquitectura Safin-1: Una familia de modelos que convierte las trayectorias de computación recurrente en un banco direccionable de anclajes de estado, permitiendo el acceso selectivo a estados anteriores sin alterar la regla de actualización recurrente.
Estados de Capacidad Persistente: Una interfaz para la "Seguridad desde el Interior" donde la especialización de la seguridad se realiza como un estado persistente y desprendible dentro de la vía de enrutamiento nativa, en lugar de mediante la modificación del núcleo o prefijos externos.
Validación Controlada y Escalada:
- Escala Pequeña (0.8B): Estudios de preentrenamiento controlados a través de múltiples backbones recurrentes (Gated DeltaNet, Kimi Delta Attention, Gated DeltaNet-2) aislando las ganancias arquitectónicas.
- Escala Grande (4B y 35B-A3B): Preentrenamiento continuo y ajuste fino supervisado (SFT) sobre backbones de Qwen3.5 para validar la escalabilidad y la retención de capacidades.

4. Resultados Experimentales

4.1 Validación a Escala Pequeña (0.8B)

Modelado de Lenguaje General: MARCH logró el mejor rendimiento en los ocho benchmarks de sentido común de cero disparos (zero-shot), superando tanto a los baselines de atención completa como a otras variantes recurrentes.
Contexto Largo y Recuperación: MARCH mostró ganancias significativas en la recuperación asociativa (tareas NIAH), particularmente en escenarios de múltiples agujas y extrapolación de longitud (contextos de 32K–64K, a pesar de los 16K de entrenamiento). También mejoró la recuperación en contexto en conjuntos de datos del mundo real (SQuAD, TriviaQA, etc.) en un 14–23% respecto a los baselines.
Eficiencia: El enrutamiento disperso Top-4 duplicó el rendimiento (throughput) de extremo a extremo a 128K tokens en comparación con el enrutamiento denso y redujo el tiempo de ejecución central en un orden de magnitud.

4.2 Evaluación a Gran Escala (4B y 35B-A3B)

Ganancias de Capacidad: Safin-1 mejoró el rendimiento en benchmarks de razonamiento desafiantes (por ejemplo, MMLU-Pro, GPQA-Diamond) y matemáticas de nivel de competición (AIME 2025) mientras mantenía o mejoraba ligeramente el rendimiento en benchmarks estándar (GSM8K, MATH, generación de código).
Robustez de Seguridad (Base): Sin estados persistentes, Safin-1 mostró mejoras modestas en la tasa de éxito promedio de ataques de jailbreak (ASR) en comparación con los baselines de Qwen3.5 emparejados.

4.3 Seguridad desde el Interior (Estado de Seguridad Persistente)

Cuando se aprendió un Estado de Seguridad persistente sobre un backbone congelado:

Resistencia al Jailbreak: El Estado de Seguridad redujo el ASR promedio en un 42.3% (4B) y un 52.3% (35B-A3B) en comparación con el checkpoint de Safin-1 no adaptado.
Compromiso de Sobre-rechazo (Over-Refusal): En comparación con un control LoRA de rango-8 emparejado de entrenamiento, el Estado de Seguridad logró un ASR más bajo introduciendo sustancialmente menos sobre-rechazo en prompts benignos (XSTest). Por ejemplo, en 35B-A3B, LoRA aumentó el sobre-rechazo en 10.0 puntos porcentuales, mientras que el Estado de Seguridad solo lo aumentó en 2.0 puntos.
Retención de Capacidad: En 4B, el Estado de Seguridad preservó mejor las capacidades que LoRA en todas las tareas probadas. En 35B-A3B, la retención dependió de la tarea, con el Estado de Seguridad superando a LoRA en tareas de matemáticas pero mostrando resultados mixtos en conocimiento y código.

5. Significado y Reivindicaciones

El artículo posiciona a Safin-1 como una exploración arquitectónica inicial de la "Seguridad desde el Interior". Su importancia radica en redefinir la memoria del modelo no como un registro pasivo de contexto, sino como un sustrato activo para mantener y evolucionar el comportamiento del modelo.

Seguridad Nativa: Demuestra que la seguridad puede representarse e invocarse a través de la computación nativa del modelo (enrutamiento de estado) en lugar de depender únicamente de restricciones externas.
Modularidad: La naturaleza desprendible del Estado de Seguridad permite la especialización controlada sobre un fundamento de propósito general compartido sin necesidad de reentrenar el backbone.
Limitaciones: Los autores declaran explícitamente que este trabajo es un punto de partida. Las limitaciones incluyen el uso de un corpus de seguridad pequeño, benchmarks exclusivamente en inglés y la falta de pruebas contra ataques adaptativos/multilingües o manipulación de estados. El artículo enfatiza que se necesita un trabajo sustancial adicional para realizar la visión más amplia de la seguridad como una capacidad nativa del estado y adaptativamente mantenible.

Los autores concluyen que, si bien Safin-1 proporciona evidencia concreta para esta dirección arquitectónica, no establece una solución definitiva, y explorar arquitecturas alternativas y complementarias sigue siendo esencial.