🤖 AI

Retain or Consolidate? Budget-Dependent Operator Selection for Language Agent Memory

Este artículo propone un marco de memoria para agentes de lenguaje dependiente del presupuesto que selecciona dinámicamente entre retener registros brutos y consolidarlos mediante operadores específicos (Fusionar, Abstraer o Reescribir) basándose en compensaciones de utilidad estimadas, demostrando a través de evaluaciones comparativas que la consolidación supera significativamente a la retención bajo presupuestos de contexto ajustados, mientras que la retención sigue siendo preferible cuando los recursos son abundantes.

Autores originales: Qingcan Kang, Mingyang Liu, Shixiong Kai, Kaichao Liang, Zhentao Tang, Yuqi Cui, Tao Zhong, Mingxuan Yuan

Publicado 2026-07-21

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Qingcan Kang, Mingyang Liu, Shixiong Kai, Kaichao Liang, Zhentao Tang, Yuqi Cui, Tao Zhong, Mingxuan Yuan

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando resolver un misterio masivo, pero solo tienes una pequeña libreta para anotar pistas. Esta es la realidad diaria de los "agentes de lenguaje": programas informáticos inteligentes impulsados por Modelos de Lenguaje Extensos (LLM) que charlan con nosotros, resuelven problemas y toman decisiones. Estos agentes son como detectives que necesitan recordar todo lo que han visto, oído o leído para obtener la respuesta correcta. Pero aquí está el problema: sus "libretas" (llamadas ventanas de contexto) tienen un límite estricto de páginas. Si intentan meter demasiadas pistas, la libreta se rompe, o el detective se siente abrumado y empieza a cometer errores. Además, cada página adicional cuesta dinero y tiempo de lectura.

Así que, la gran pregunta para estos detectives digitales es: ¿Cómo haces para que quepan las pistas más importantes en un espacio tan pequeño sin perder los detalles clave? Tienes dos opciones principales. Puedes mantener las pistas puras exactamente como son (Retención), esperando que todas quten, o puedes reescribirlas y combinarlas en un resumen más corto (Consolidación). El primer método es seguro pero voluminoso; el segundo es eficiente pero arriesgado porque podrías descartar accidentalmente un hecho crucial al intentar ahorrar espacio. Durante mucho tiempo, los científicos no estaban seguros de qué estrategia era mejor o cuándo cambiar entre ellas.

Este artículo, titulado "Retain or Consolidate? Budget-Dependent Operator Selection for Language Agent Memory", aborda precisamente ese dilema. Los investigadores descubrieron que no existe una única "mejor" manera de gestionar la memoria. En cambio, la elección correcta depende enteramente de qué tan ajustado esté el "presupuesto" (el límite de espacio). Descubrieron un "punto de inflexión" fascinante: cuando el presupuesto es extremadamente ajustado, resumir y combinar pistas es un salvavidas, aumentando la precisión hasta en un 48% porque logra meter información que de otro modo quedaría fuera. Sin embargo, una vez que el presupuesto es lo suficientemente amplio como para que las pistas puras quepan cómodamente, resumir en realidad perjudica el rendimiento porque desdibuja los detalles importantes. Los autores construyeron una herramienta inteligente y ligera llamada OAS (Offline Abstraction-Safety) que actúa como un policía de tráfico, observando la situación antes de escribir nada y decidiendo: "¿Necesitamos comprimir o podemos mantener el original?". Sus experimentos muestran que este cambio inteligente funciona mejor que simplemente aferrarse a una sola regla, demostrando que saber cuándo resumir es tan importante como saber cómo.

El dilema del detective: ¿Mantener o resumir?

Imagina que eres un detective tratando de resolver un caso, pero tu libreta se está encogiendo. Tienes un montón de evidencia: declaraciones de testigos, fotos y recibos. Si intentas pegar la foto entera en tu libreta, puede que no quepa. Si no cabe, pierdes la evidencia. Si intentas describir la foto en una frase, cabe, pero podrías perder un pequeño detalle como el color del sombrero del sospechoso.

En el mundo de la IA, esta es la batalla entre la Retención y la Consolidación.

La Retención es como fotocopiar la evidencia y pegarla. Es perfecta porque no se pierde nada, pero ocupa mucho espacio.
La Consolidación es como escribir un resumen. Ahorra espacio y puede combinar diez páginas de notas en una, pero hay un riesgo: el resumen podría pasar por alto el único hecho que resuelve el caso.

Durante mucho tiempo, los sistemas de IA simplemente elegían una estrategia y se mantenían con ella. Algunos siempre resumían; otros siempre mantenían el texto puro. Pero los investigadores de este artículo se hicieron una pregunta más inteligente: ¿Por qué no tener un asistente inteligente que decida qué estrategia usar basándose en cuánto espacio queda?

El descubrimiento del "Punto de Inflexión"

El equipo realizó una serie de experimentos utilizando dos famosos conjuntos de acertijos (llamados benchmarks) para ver qué sucede cuando cambias el tamaño de la libreta. Probaron presupuestos que iban desde muy pequeños (32 tokens) hasta bastante grandes (256 tokens).

Esto es lo que encontraron, y es un poco como un sube y baja:

Cuando el presupuesto es súper ajustado (32 o 64 tokens): La evidencia pura simplemente no cabe. Si intentas mantener el texto original, tienes que desechar la mayor parte y la IA obtiene una puntuación de casi cero. Pero si utilizas la Consolidación (específicamente un método llamado "Abstract" o "Merge"), la IA puede resumir las pistas, hacer que quepan todas, y la precisión salta un masivo 48%. En esta zona, resumir es un héroe.
Cuando el presupuesto es amplio (256 tokens): La evidencia pura cabe perfectamente. En este caso, resumir se convierte en un villano. Empieza a desdibujar los detalles y la precisión de la IA cae aproximadamente un 8% a 11% en comparación con solo mantener el texto original. Aquí, "menos es más" es una mala idea; quieres que "más sea más".

El artículo llama a esto el Cruce de Presupuesto (Budget Crossover). Demuestra que la mejor estrategia no es fija; cambia dependiendo de cuánta presión tengas encima.

El policía de tráfico inteligente: OAS

Entonces, ¿cómo sabe una IA cuándo cambiar? Los investigadores construyeron una herramienta llamada OAS (Offline Abstraction-Safety). Piensa en OAS como un policía de tráfico superinteligente parado en la intersección de "Mantener" y "Resumir".

Antes de que la IA siquiera empiece a escribir un resumen, OAS observa algunas pistas:

¿Cuánto espacio queda?
¿Cuántas pistas hay?
¿Qué tan desordenadas o repetitivas son las pistas?

Basándose en estas notas preescritas, OAS predice la puntuación para cada opción. Pregunta: "Si resumo, ¿ganaré más puntos al incluir nueva información, o perderé puntos al arruinar los detalles?".

Si la ganancia predicha es alta, OAS dice: "¡Ve! ¡Resume!"
Si la ganancia predicha es baja o negativa, OAS dice: "¡Detente! ¡Mantén el original!"

Los investigadores probaron este "policía de tráfico" en los conjuntos de acertijos. Encontraron que OAS aprendió con éxito a cambiar de estrategia en el momento adecuado. Cuando el presupuesto era ajustado, eligió la síntesis y aumentó la puntuación. Cuando el presupuesto era amplio, eligió mantener el texto original y evitó la caída en la precisión.

¿Cuál es el mejor resumidor?

El artículo también probó tres formas diferentes de resumir, como diferentes estilos de escritura de un resumen:

Merge (Combinar): Unir varias notas en un solo bloque grande.
Abstract (Abstraer): Escribir un resumen de alto nivel que capture la idea principal.
Rewrite (Reescribir): Parafrasear cada nota individualmente para hacerla más corta.

Descubrieron que, cuando el espacio es limitado, Merge y Abstract suelen ser los ganadores. Son mejores para combinar información de diferentes notas para ahorrar espacio. Rewrite suele ser menos efectivo porque trata cada nota por separado y no ahorra tanto espacio. Sin embargo, el artículo señala que no existe un "resumidor perfecto" para cada situación; depende de las pistas específicas.

Lo que el artículo NO dice

Es importante saber lo que este artículo no afirma. Los autores son muy cuidadosos de no decir que resumir es siempre mejor, o que es siempre peor. Excluyen explícitamente la idea de que existe un único "número mágico" de palabras que funcione para todos. En su lugar, muestran que el "número mágico" cambia según la situación.

Tampoco afirman que su herramienta (OAS) sea perfecta o que funcione para todas las IA del mundo. La probaron en conjuntos de datos específicos y encontraron que funciona bien allí, pero admiten que en el mundo real, las cosas podrían ser más desordenadas. Tampoco encontraron una forma de hacer que el proceso de resumen en sí mismo sea perfecto; simplemente encontraron el mejor momento para usarlo.

La Conclusión

La principal lección de este artículo es que la flexibilidad es la clave. Así como un detective humano no usaría la misma estrategia para un robo de barrio que para una conspiración internacional masiva, una IA no debería usar la misma estrategia de memoria para cada pregunta.

Los investigadores demostraron que, al observar la "presión del presupuesto", una IA puede decidir si mantener sus notas puras o comprimirlas. Cuando el espacio es escaso, comprimir es un salvavidas. Cuando el espacio es amplio, mantener los detalles originales es la apuesta más segura. Su herramienta, OAS, actúa como el cerebro que realiza este cambio automáticamente, asegurando que la IA obtenga la mejor puntuación posible sin desperdiciar espacio ni perder hechos críticos. Es un paso pequeño pero poderoso hacia la creación de detectives de IA más inteligentes, más eficientes y menos propensos a olvidar las pistas que realmente importan.

Resumen Técnico: ¿Retener o Consolidar? Selección de Operadores Dependiente del Presupuesto para la Memoria de Agentes de Lenguaje

Planteamiento del Problema

Los agentes de lenguaje que dependen de Modelos de Lenguaje Grande (LLMs) enfrentan una restricción fundamental: las ventanas de contexto finitas y los costos de inferencia limitan la cantidad de memoria (historial, observaciones, hechos recuperados) que se puede procesar simultáneamente. Los sistemas existentes emplean generalmente una de dos estrategias para gestionar esto:

Retención de Memoria: Seleccionar registros brutos para mantener sin cambios. Esto preserva los detalles exactos y la procedencia, pero es ineficiente en términos de tokens; bajo presupuestos estrictos, la evidencia relevante puede quedar excluida por completo.
Consolidación de Memoria: Generar reemplazos compactos (resumir, fusionar, reescribir) para los registros brutos. Esto mejora la cobertura de evidencia por token, pero conlleva el riesgo de omitir detalles críticos para la consulta, desdibujar el orden temporal o introducir contenido no sustentado.

La investigación actual trata estas estrategias de forma separada (por ejemplo, qué notas brutas mantener frente a cómo resumir), dejando un vacío crítico: Cuándo debería un agente cambiar de la retención a la consolidación, y qué operador de consolidación (Fusionar, Abstraer o Reescribir) debería seleccionarse. El artículo postula que la elección óptima no es universal, sino que depende de la "presión del presupuesto": la relación entre la evidencia requerida y los tokens de contexto disponibles.

Metodología

Los autores formalizan esto como un problema de decisión finito y dependiente del presupuesto. El objetivo es maximizar la utilidad esperada de la respuesta final (calificada contra una referencia) seleccionando una acción del conjunto $A = \{\text{Retener, Fusionar, Abstraer, Reescribir}\}$ .

1. Modelo de Mecanismo Idealizado
Para explicar la lógica de decisión, el artículo introduce un modelo de utilidad sustituto que descompone el valor de la consolidación en dos términos:

Efecto de Cobertura ( $C$ ): El beneficio obtenido cuando la consolidación permite incluir evidencia que habría sido omitida por la retención (debido a los límites del presupuesto) en el contexto.
Efecto de Reemplazo ( $R$ ): El cambio con signo en la fidelidad cuando la consolidación reemplaza la evidencia bruta que ya cabía dentro del presupuesto. Esto suele ser negativo, ya que la generación puede perder detalles exactos.

El modelo predice un punto de "cruce": cuando la presión del presupuesto es alta (la evidencia no cabe), el efecto positivo de la cobertura domina, haciendo que la consolidación sea beneficiosa. Cuando la presión del presupuesto es baja (la evidencia cabe), el efecto negativo del reemplazo domina, haciendo que la retención sea preferible.

2. Abstracción de Seguridad Offline (OAS)
Dado que la utilidad de las acciones no ejecutadas (contrafácticas) es desconocida en el despliegue, los autores proponen OAS, un aprendiz ligero que estima las utilidades de las acciones a partir de características previas a la generación.

Características: El modelo utiliza características de 11 dimensiones observadas antes de la generación, incluyendo presupuesto normalizado, conteo de constituyentes, presión de tokens, fracción de ajuste al presupuesto, conteo de sesiones, inconsistencia de embeddings y tipo de consulta.
Aprendizaje: OAS utiliza regresión de Ridge para predecir la utilidad de cada acción basándose en evaluaciones emparejadas offline (donde todas las acciones se ejecutan y se califican).
Seguridad: Una variante de "OAS Calibrado" aplica un umbral de seguridad de validación. Solo selecciona un operador de consolidación si su ventaja predicha sobre la retención supera un margen que garantice cero selecciones dañinas observadas en un conjunto de validación.

Contribuciones Clave

Formulación Unificada "Cuándo–Cuál": El artículo sitúa la retención y tres operadores generativos en un único espacio de decisión con utilidad con signo, dependiente del presupuesto, modelando explícitamente el compromiso entre cobertura y fidelidad.
Mecanismo Probable Dependiente del Presupuesto: Los autores derivan una descomposición teórica que muestra que el valor de la consolidación es una función de la presión relativa del presupuesto, no de los conteos absolutos de tokens. Esto predice una reversión en la estrategia óptima a medida que el presupuesto se reduce.
Aprendiz Ligero (OAS): Una implementación práctica que aprende a estimar utilidades contrafácticas a partir de características previas a la generación, permitiendo el enrutamiento dinámico sin requerir una generación costosa durante la fase de decisión.

Resultados Experimentales

El enfoque fue evaluado en los benchmarks LongMemEval y LoCoMo utilizando DeepSeek-V3.2 y GLM-5.2 como modelos de respuesta.

Cruce de Presupuesto (Q1): Los experimentos confirman la reversión predicha.
- Presupuestos Estrictos: La consolidación supera significativamente a la retención. En LongMemEval con 32 tokens, Abstraer logró un 52.0% de precisión frente al 4.0% de la retención (una ganancia absoluta del 48%).
- Presupuestos Holgados: La retención supera a todos los operadores de consolidación por un 8–11% una vez que la evidencia bruta cabe mayoritariamente en el presupuesto.
- Presión Relativa: El punto de cruce se desplaza según la longitud de la evidencia. LoCoMo (evidencia más corta) mostró el cruce en un presupuesto absoluto menor (64 tokens) comparado con LongMemEval (128 tokens), lo que respalda la hipótesis de la "presión de presupuesto relativa" sobre un umbral fijo de tokens.
Selección de Operador (Q2):
- Bajo compresión, los operadores de notas cruzadas (Fusionar y Abstraer) generalmente superan al Reescribir local.
- No existe un único "mejor" operador universal; la elección depende de la estructura específica de la evidencia y el presupuesto.
Desempeño de OAS (Q3):
- OAS logra aprender la decisión conjunta. En regímenes de estrés, mejora la precisión sobre una política de retención fija.
- OAS Calibrado reduce significativamente los reemplazos dañinos (donde la consolidación perjudica el desempeño; por ejemplo, reduciendo el daño de 12 a 1 en el régimen de 64 tokens en LongMemEval) con un compromiso menor en la precisión general.
- La variante de historial completo de OAS no superó a la política fija más fuerte, lo que indica que la fuerza del método reside en la selección consciente del presupuesto más que en un enrutamiento de propósito general a nivel de instancia.

Significado y Reivindicaciones

El artículo afirma resolver la decisión conjunta de cuándo consolidar y qué operador utilizar, demostrando que esta decisión está fundamentalmente impulsada por la presión relativa del presupuesto.

Validación del Mecanismo: Los resultados validan la descomposición teórica: la consolidación es beneficiosa principalmente cuando recupera la evidencia omitida (efecto de cobertura), mientras que es perjudicial cuando reemplaza la evidencia que ya cabía (efecto de reemplazo).
Enrutamiento Práctico: El estudio demuestra que un aprendiz ligero, previo a la generación, puede aproximar eficazmente la decisión contrafáctica óptima, proporcionando un mecanismo práctico para la gestión de memoria adaptativa en agentes de lenguaje.
Modestia: Los autores delimitan explícitamente sus afirmaciones, señalando que, si bien OAS mejora la toma de decisiones controlada bajo estrés de presupuesto, no pretende superar a los sistemas de memoria de extremo a extremo optimizados en todos los escenarios, ni pretende resolver el problema ascendente del descubrimiento de evidencia candidata. La contribución principal es la validación del mecanismo dependiente del presupuesto y la viabilidad de aprender la política de enrutamiento.