Resumen Técnico: Agentes de Modelos de Lenguaje con Autocompactación

Problema: Rotación de Contexto y Compactación Rígida

A medida que los agentes de modelos de lenguaje (LM) abordan tareas de largo horizonte —que van desde matemáticas de competición que requieren decenas de miles de tokens hasta la orquestación de búsqueda agéntica que coordina cientos de llamadas a herramientas—, sus trayectorias generadas acumulan "contenido estancado". Este fenómeno, denominado rotación de contexto (context rot), ocurre cuando un razonamiento erróneo temprano, resultados de búsqueda desactualizados o programas candidatos abandonados anclan las generaciones subsecuentes, degradando el rendimiento.

Las soluciones existentes gestionan esto mediante una compactación de intervalo fijo, activando la sumarización cuando se alcanza un umbral de tokens (por ejemplo, el 30% de la ventana de contexto). El artículo argumenta que este enfoque es fundamentalmente defectuoso porque ignora la estructura de la trayectoria. Un activador fijo no puede distinguir entre un modelo que acaba de resolver un subproblema (un momento seguro para resumir) y uno que está a mitad de una derivación o estancado (un momento peligroso para resumir). Como ilustra la Figura 1 del artículo, una sumarización mal cronometrada puede eliminar hechos verificados en medio del razonamiento, obligando al modelo a rediscurrir la información o a adivinar, desperdiciando así el presupuesto computacional y reduciendo la precisión.

Metodología: SELFCOMPACT

Los autores proponen SELFCOMPACT, un andamiaje (scaffold) libre de entrenamiento que permite al agente de LM decidir cuándo y cómo compactar su propio contexto. El sistema opera sin ajuste fino (fine-tuning) ni supervisión externa, basándose en dos elementos de inferencia acoplados:

1. La Herramienta de Compactación: Una herramienta de sumarización integrada ($S$) que el modelo puede invocar para resumir el contexto acumulado ($x, y_{1:t}$) en una versión condensada ($\tilde{y}$). La generación continúa entonces desde el nuevo contexto $(x, \tilde{y})$.
2. La Rúbrica Ligera: Un conjunto de criterios específicos de la tarea que controla la invocación de la herramienta. En intervalos de sondeo periódicos (cada $N$ tokens o llamadas a herramientas), se le pide al modelo que evalúe su estado actual frente a la rúbrica.
   • Cuándo Activar (COMPRESS): Cuando se resuelve una subtarea (por ejemplo, una respuesta final se encierra en un cuadro en matemáticas, o una unidad de búsqueda se cierra con hechos verificados) o la trayectoria está convergiendo.
   • Cuándo Suprimir (CONTINUE): Cuando el modelo está a mitad de una derivación, a mitad de una búsqueda o atrapado en un bucle.

Detalles de Implementación:

• Reutilización del KV Cache: Para minimizar el costo, el sondeo de la rúbrica y los prompts de sumarización se añaden al contexto existente en lugar de sustituirlo. Esto preserva el caché de Clave-Valor (KV) de la trayectoria ($y_{1:t}$), lo que significa que el modelo solo paga por el prefill de la nueva instrucción, no por todo el historial.
• Flujo de Trabajo: El andamiaje ejecuta un bucle donde el modelo genera, hace una pausa en intervalos, evalúa la rúbrica y dispara condicionalmente la sumarización. Si la rúbrica devuelve COMPRESS, la sumarizadora se activa; de lo contrario, el sondeo se descarta y la generación continúa.

Principales Contribuciones

1. Andamiaje Novedoso: Introducción de SELFCOMPACT, que expone la sumarización como una herramienta integrada junto con una rúbrica que dicta el tiempo de invocación. Esto no requiere actualizaciones de parámetros.
2. Validación Empírica: Demostración a través de siete modelos (cuatro variantes de Qwen para matemáticas; tres agentes desplegados para búsqueda) y seis benchmarks (IMO-Answerbench, HMMT, BrowseComp, etc.).
3. Perspectivas de Ablación: Prueba de que la rúbrica es esencial. Proporcionar la herramienta por sí sola conduce a un uso desigual y a menudo inútil (los modelos la llaman en momentos incorrectos o no la llaman en absoluto). La rúbrica cierra esta "brecha metacognitiva", permitiendo una compactación adaptativa fiable.

Resultados

El artículo reporta que SELFCOMPACT iguala o supera la sumarización de intervalo fijo, reduciendo significativamente los costos de tokens.

• Matemáticas de Competición: En benchmarks como IMO-Answerbench y HMMT, SELFCOMPACT mejoró la precisión respecto a una línea base sin compactación hasta en 18.1 puntos. Superó a la sumarización de intervalo fijo en 11 de 12 configuraciones de benchmark/modelo.
• Búsqueda Agéntica: En BrowseComp y DeepSearch QA, SELFCOMPACT añadió entre 5 y 9 puntos de precisión sobre la línea base.
• Eficiencia de Costos: A pesar de la sobrecarga de una llamada adicional al LLM para el sondeo de la rúbrica, SELFCOMPACT logró costos de tokens por pregunta entre un 30% y un 70% menores en comparación con la línea base sin compactación. Esto se debe a que evita el costo masivo de procesar el contexto estancado y no sumarizado en turnos posteriores.
• Análisis de Tiempo: A diferencia de los métodos de intervalo fijo que comprimen estrictamente en un umbral del 30%, la rúbrica de SELFCOMPACT activa la compresión antes (a menudo cuando se resuelve un subobjetivo), evitando la acumulación de "rotación" antes de que sea perjudicial.

Significado y Reivindicaciones

El artículo afirma ser el primero en introducir y evaluar la temporización de compactación adaptativa basada en rúbricas en un entorno libre de entrenamiento. Su principal significancia radica en replantear el "cuándo compactar" no como una capacidad que deba integrarse en los pesos del modelo mediante ajuste fino o aprendizaje por refuerzo, sino como una capacidad metacognitiva que puede suministrarse mediante un andamiaje ligero.

Los autores destacan una "brecha metacognitiva": mientras que los modelos sin inducción no pueden detectar de forma fiable cuándo su propio contexto se está pudriendo, una rúbrica simple cierra esta brecha. Esto sugiere que las estrategias complejas de gestión de contexto pueden extraerse de modelos estándar sin el gasto computacional del entrenamiento, ofreciendo una solución práctica para desplegar agentes de largo horizonte bajo las restricciones actuales de hardware.

El trabajo mantiene una escala modesta en su alcance, centrándose en intervenciones libres de entrenamiento y reconociendo que los modelos de frontera con una introspección inherente más fuerte podrían eventualmente requerir menos andamiaje. Sin embargo, para la generación actual de agentes de pesos abiertos y desplegados, SELFCOMPACT ofrece un mecanismo robusto y rentable para mantener el rendimiento durante horizontes de razonamiento extendidos.