🤖 AI

The Compaction Cliff in Long-Running AI Agent Memory

Este artículo identifica el "Acantilado de Compactación" (Compaction Cliff), un fenómeno donde la compresión de contexto estándar provoca que los agentes de IA pierdan reglas de seguridad críticas, y propone el "Triaje de Conocimiento" (Knowledge Triage), un marco que utiliza operadores específicos de tipo para preservar la fidelidad de seguridad y mejorar el rendimiento en tareas de orden descendente a través de múltiples dominios.

Autores originales: Saber Zerhoudi, Jelena Mitrovic, Michael Granitzer

Publicado 2026-08-25

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Saber Zerhoudi, Jelena Mitrovic, Michael Granitzer

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un asistente digital que nunca olvida. A diferencia de un humano, que podría perder el hilo de una conversación después de una hora, estos agentes de inteligencia artificial están diseñados para funcionar durante días, semanas o incluso meses, aprendiendo constantemente nuevos hechos, recordando eventos pasados y siguiendo una larga lista de reglas. Para funcionar, mantienen toda esta información en un espacio de trabajo temporal, de forma muy parecida a una persona que mantiene una pila de papeles sobre su escritorio. Sin embargo, este espacio de trabajo tiene un límite de tamaño estricto. A medida que la conversación crece y la pila de papeles se vuelve demasiado gruesa, el sistema debe desechar algunas cosas para hacer espacio a nuevos detalles. Aquí es donde reside el peligro. Si el sistema simplemente desecha los papeles más antiguos o menos obvios para ahorrar espacio, podría descartar accidentalmente una regla de seguridad crítica, como "no recetar este medicamento a pacientes con una alergia específica". El resultado es un agente que es eficiente pero peligrosamente olvidadizo, capaz de dar consejos perjudiciales porque perdió la instrucción misma destinada a prevenirlo.

Investigadores de la Universidad de Passau, en Alemania, han identificado un patrón de fallo específico que llaman el "Acantilado de Compactación" (Compaction Cliff). Descubrieron que cuando estos agentes de larga duración intentan reducir su memoria para ajustarse al límite de tamaño, tratan toda la información como si fuera igual. Una regla de seguridad es resumida y acortada de la misma manera que una observación casual sobre el clima. Los investigadores descubrieron que este enfoque es frágil. En sus pruebas, utilizando un modelo de IA popular, el sistema logró mantener aproximadamente la mitad de las reglas de seguridad después de una ronda de reducción. Pero a medida que el proceso se repetía a lo largo del tiempo, el número de reglas supervivientes caía en picado. Tras solo cinco rondas de compresión, solo una de cada diez de las reglas de seguridad originales permanecía intacta. El agente había escalado efectivamente un acantilado y se había caído, perdiendo las protecciones que lo mantenían seguro.

Para resolver esto, el equipo desarrolló un nuevo método que llaman "Triaje de Conocimiento" (Knowledge Triage). El nombre proviene de la práctica médica de clasificar a los pacientes por urgencia, decidiendo quién necesita atención inmediata y quién puede esperar. En esta versión digital, el sistema primero clasifica cada pieza de información en la memoria del agente en una de cinco categorías distintas. Algunos elementos son reglas de seguridad estrictas que nunca deben cambiarse. Otros son instrucciones paso a paso para tareas, que pueden reescribirse siempre que los pasos sigan funcionando. Luego hay creencias generales, preferencias suaves y registros de eventos pasados. La idea crucial es que estos diferentes tipos de información no necesitan ser tratados de la misma manera. Una regla de seguridad requiere una preservación perfecta, mientras que un recuerdo de un evento pasado puede ser resumido o incluso descartado si el espacio es escaso.

Los investigadores construyeron tres herramientas específicas para manejar estas diferentes categorías. La primera herramienta, diseñada para reducir la memoria, bloquea las reglas de seguridad en su lugar para que no puedan ser alteradas o eliminadas, permitiendo al mismo tiempo que la información menos crítica sea comprimida o reemplazada con marcadores de posición. La segunda herramienta gestiona situaciones en las que un tema es simplemente demasiado grande para caber, incluso después de reducirlo. En lugar de fragmentar el tema de una manera que pueda separar una regla del contexto al que se aplica, esta herramienta copia la regla de seguridad relevante en cada nueva sección que crea, asegurando que la regla viaje con la información que gobierna. La tercera herramienta gestiona la información que se almacena fuera del espacio de trabajo principal. Cuando el agente necesita buscar algo, esta herramienta asegura que cualquier regla de seguridad relevante para la pregunta se traiga de vuelta primero, antes de que el sistema siquiera considere buscar otros detalles menos críticos.

El equipo probó este enfoque en una colección masiva de configuraciones de agentes del mundo real, extrayendo casi 400,000 ejemplos de repositorios públicos de software. Encontraron que su nuevo método preservaba las reglas de seguridad mucho mejor que las herramientas estándar utilizadas en producción hoy en día. Mientras que los mejores métodos existentes mantenían solo alrededor de la mitad de las reglas tras una sola ronda de compresión, el nuevo sistema mantenía casi todas ellas. Crucialmente, el rendimiento del nuevo sistema se estabilizó en un 96% de recuperación (recall) a partir de la segunda ronda en adelante, mientras que los métodos antiguos habían caído al 10% para la quinta ronda. Esta diferencia se mantuvo constante a través de diferentes tipos de modelos de IA y diferentes formas de organizar los datos.

El impacto de esta mejora no fue solo mantener el texto intacto; cambió cómo se comportaban los agentes en tareas reales. En un escenario médico, el nuevo sistema siguió con éxito las directrices de seguridad en el 97% de los casos, superando significativamente al sistema estándar que fallaba con más frecuencia. En las pruebas de servicio al cliente de retail y de aerolíneas, los agentes que utilizaban el nuevo método completaron más tareas correctamente que aquellos que usaban los métodos antiguos, incluso cuando los métodos antiguos contaban con más espacio total para trabajar. Los investigadores concluyeron que la clave para una IA segura y de larga duración no es solo tener más memoria, sino saber cómo clasificarla. Al categorizar la información por su importancia y tratar las reglas de seguridad como no negociables, evitaron que el agente cayera por el acantilado de compactación, asegurando que el asistente digital siga siendo tanto capaz como seguro.

Resumen Técnico: El Acantilado de Compactación en la Memoria de Agentes de IA de Larga Duración

1. Planteamiento del Problema

Los agentes de IA de larga duración operan bajo un presupuesto finito de tokens, lo que requiere la gestión de la ventana de contexto mediante compactación (resumen), descomposición (división de temas) y recuperación (almacenamiento externo). Las estrategias actuales de producción tratan todos los elementos de conocimiento de manera uniforme, aplicando la misma lógica de compresión o retención independientemente de la naturaleza semántica del elemento.

Los autores identifican un modo de fallo crítico denominado el Acantilado de Compactación (Compaction Cliff): cuando las reglas de seguridad (p. ej., "El paciente es alérgico a la penicilina") compiten con los registros episódicos por el espacio de tokens, la compactación uniforme degrada las restricciones de seguridad al mismo ritmo que la información de fondo. El análisis empírico del prompt /compact de Claude Code sobre Sonnet 4.6 revela que la recuperación de reglas de seguridad cae del 53% tras una ronda de compactación a solo un 10% tras cinco rondas. Esto ocurre porque la sumarización abstractiva y el truncamiento jerárquico no logran distinguir entre elementos que toleran el parafraseo (p. ej., registros episódicos) y elementos que requieren una redacción exacta para seguir siendo aplicables (p. ej., restricciones de seguridad).

2. Metodología: Triaje de Conocimiento

Para abordar el Acantilado de Compactación, el artículo propone el Triaje de Conocimiento (Knowledge Triage), un marco que clasifica los elementos de conocimiento por tipo y los dirige a través de distintas políticas de retención. El marco consta de tres componentes principales:

A. Modelo de Conocimiento Tipificado

Los autores definen un modelo de cinco tipos derivado de un análisis de 396,934 configuraciones de agentes:

Restricción (C): Reglas que delimitan el comportamiento del agente donde la violación causa un fallo de seguridad (p. ej., "Nunca recete fármacos contraindicados"). La tolerancia a la distorsión es cero.
Procedimental (P): Instrucciones paso a paso donde la ejecución debe preservarse (p. ej., "Ejecutar pytest antes de realizar el merge").
Creencia (B): Afirmaciones fácticas tratadas como verdaderas (p. ej., "El backend expone una API REST"). Tolera una distancia semántica acotada.
Preferencia (F): Directrices suaves (p. ej., "Usar indentación de 2 espacios"). Alta tolerancia a la sumarización.
Episódico (E): Eventos u observaciones pasadas. Libre para ser descartado.

B. Clasificación ( $\tau$ )

Un clasificador asigna cada elemento a uno de los cinco tipos. El enfoque por defecto, SafetyMargin, estima la seguridad contrafáctica: puntúa un elemento basándose en cuánto aumenta la probabilidad de una acción insegura si dicho elemento se elimina de la base de conocimientos. Este enfoque captura reglas de seguridad declarativas (p. ej., "El paciente es alérgico a X") que las heurísticas gramaticales (como buscar verbos imperativos) suelen omitir.

C. Tres Operadores Deterministas

El marco implementa tres operadores, cada uno con requisitos de seguridad específicos que las estrategias uniformes violan:

TypeCompact (Compactación por Tipo):
- Mecanismo: Dirige los elementos hacia carriles de fidelidad. Las restricciones y procedimientos se fijan (distorsión cero) y se preservan textualmente. Las creencias y preferencias se comprimen. Los elementos episódicos se reemplazan por marcadores de posición (placeholders).
- Garantía de Seguridad: Cada restricción en la entrada debe existir en la salida con cero distorsión.
- Verificación: Un verificador post-compactación comprueba que todas las restricciones fijadas sobrevivieron; si falta alguna, el sistema escala a "Inseguro" o restaura el elemento.
TypeDecompose (Descomposición por Tipo):
- Mecanismo: Parte una base de conocimientos demasiado grande para una sola ventana de contexto en subtemas.
- Garantía de Seguridad (Localidad): Si una partición contiene un elemento cubierto por el alcance de una restricción, dicha restricción también debe replicarse en esa partición.
- Implementación: Replica las restricciones con alcance en cada partición que interseca su ámbito, incurriendo en un gasto de tokens proporcional a la amplitud del alcance.
TypeRetrieve (Recuperación por Tipo):
- Mecanismo: Recupera elementos de un almacenamiento externo basados en la relevancia de la consulta.
- Garantía de Seguridad (Prioridad): Todas las restricciones dentro del alcance de la consulta deben ser devueltas, independientemente de su puntuación de similitud.
- Implementación: Fija las restricciones en el alcance en la parte superior del conjunto de resultados antes de completar el presupuesto restante con elementos clasificados por relevancia.

3. Contribuciones Clave

El Acantilado de Compactación: Un fallo estructural documentado de la compactación ciega al tipo, que muestra cómo la recuperación de reglas de seguridad colapsa rápidamente a través de múltiples rondas de compactación secuenciales en diversas familias de LLM y líneas base estructurales.
Modelo de Conocimiento de Cinco Tipos: Una taxonomía que cubre el 97% del contenido de las configuraciones de agentes, distinguiendo entre elementos que requieren preservación exacta y aquellos que toleran la distorsión.
Marco de Triaje de Conocimiento: Un sistema de tres operadores (TypeCompact, TypeDecompose, TypeRetrieve) que imponen garantías de seguridad por tipo, demostrando que satisfacen requisitos que las estrategias uniformes no pueden cumplir.
Clasificador SafetyMargin: Un estimador de seguridad contrafáctica que supera a los clasificadores gramaticales en la detección de reglas de seguridad declarativas, las cuales son dominantes en los dominios clínico, legal y financiero.
AgentArtifactCorpus: Un nuevo conjunto de datos de 396,934 artefactos de conocimiento de agentes procedentes de 54,628 repositorios de GitHub, utilizado para la validación de la taxonomía y la evaluación de los operadores.

4. Resultados Empíricos

El marco fue evaluado en cinco corpora públicos y tres pruebas de comportamiento:

Rendimiento de Compactación: En 50 configuraciones de agentes, TypeCompact preservó de 2 a 4 veces más reglas de seguridad que el compactador de un solo paso más fuerte (Sonnet 4.6) en cada ratio de compresión. Tras cinco rondas de compresión del 50%, TypeCompact mantuvo un 96% de recuperación, mientras que Sonnet 4.6 cayó al 10%.
Rendimiento de Descomposición: TypeDecompose logró un 0% de violaciones de localidad (asegurando que las restricciones con alcance estén presentes en las particiones relevantes), en comparación con tasas de violación del 93% para las líneas base de partición uniforme. Esto conllevó un gasto medio de tokens del 14.5%.
Rendimiento de Recuperación: TypeRetrieve logró un 100% de recuperación@50 para restricciones en el alcance en todos los backends de recuperación, frente al 73% del mejor recuperador de un solo paso de LLM.
Pruebas de Comportamiento:
- Cumplimiento Médico (SafetyMed): TypeCompact superó al compactador de producción de Sonnet en tasa de aprobación ( $p=0.022$ ) y preservación de restricciones ( $p < 10^{-8}$ ), con una ventaja de 14.5 puntos en preservación.
- Tareas de Retail ( $\tau$ -bench): TypeCompact superó tanto a la política completa como a las líneas base de truncamiento jerárquico en tasa de aprobación ( $p < 0.01$ ).
- Dominio de Aerolíneas: TypeCompact superó al truncamiento jerárquico ( $p=0.024$ ) y empató estadísticamente con el techo de la política completa.

5. Significación y Reivindicaciones

El artículo sostiene que la preservación de la seguridad en agentes de larga duración no es simplemente una cuestión de mejores modelos de sumarización, sino un requisito estructural de la gestión del contexto. Los autores afirman que la retención ciega al tipo es fundamentalmente insuficiente para aplicaciones de seguridad crítica porque carece de un mecanismo para distinguir entre conocimiento "con pérdida" (lossy) y "sin pérdida" (lossless).

La importancia del Triaje de Conocimiento radica en su capacidad para:

Formalizar Garantías de Seguridad: Vincula la memoria del agente con la teoría de la información y la revisión de creencias, proporcionando pruebas formales de que las estrategias uniformes violan las restricciones de seguridad bajo presión de presupuesto.
Permitir el Despliegue en Producción: Al tratar la compactación, la descomposición y la recuperación como un problema unificado con políticas dependientes del tipo, ofrece una vía práctica para que los agentes operen indefinidamente sin degradar las reglas de seguridad.
Abordar la Seguridad Declarativa: A través del clasificador SafetyMargin, resuelve el modo de fallo específico donde las reglas de seguridad declarativas (comunes en textos médicos y legales) son ignoradas por las heurísticas gramaticales.

Los autores concluyen que, antes de delegar la compactación a los LLM de frontera, los sistemas deben clasificar los elementos por su rol de seguridad y retener la clase crítica para la seguridad sin modificación. Este enfoque transforma la preservación de la seguridad de un resultado probabilístico del comportamiento del modelo en una propiedad determinista de la capa de almacenamiento.