Resumen Técnico: AGORA – Retención de Observación-Acción Anclada en Adaptador para Compresión de Prompts sin Inferencia en Agentes LLM

1. Definición del Problema

Los agentes de Modelos de Lenguaje Grande (LLM) acumulan largas trayectorias de acciones y observaciones a medida que interactúan con entornos. A medida que se extienden los horizontes de las tareas (por ejemplo, superando los 100k tokens en el paso 30 en WebShop), comprimir este contexto se vuelve una necesidad práctica. Sin embargo, el artículo argumenta que las técnicas estándar de compresión de prompts diseñadas para modelos de lenguaje (LM) generales de un solo turno son estructuralmente inadecuadas para los agentes LLM.

El problema central identificado es la destrucción de la gramática de acción. En las trayectorias de los agentes, los tokens que portan semántica crítica de acción (identificadores, corchetes, verbos de acción como search[...] o click[...]) suelen ser altamente predecibles a partir del contexto de lenguaje natural circundante. En consecuencia, los compresores extractivos a nivel de tokens, que clasifican los tokens por información propia o perplejidad y eliminan los de menor puntuación, borran sistemáticamente estos tokens semánticos. El prompt "comprimido" resultante contiene inglés gramatical pero comandos de agente no gramaticales, lo que provoca que el entorno rechace la acción y el agente falle.

Los autores demuestran que, en 17 configuraciones experimentales que abarcan dos familias independientes de métodos a nivel de tokens (Contexto Selectivo y LLMLINGUA-2), cada configuración colapsa a una recompensa media ($m_r$) de $\leq 0.05$, a pesar de lograr una compresión de 1.3–13.3×.

2. Metodología: AGORA

Para abordar esto, los autores proponen AGORA (Arquitectura de Retención de Observación-Acción Anclada en Adaptador), un compresor a nivel de paso sin inferencia. A diferencia de los métodos a nivel de tokens, AGORA opera con la granularidad de pares completos (acción, observación), asegurando que la sintaxis de la acción permanezca intacta.

AGORA consta de tres componentes principales:

1. Analizador de Prompt Estructural:

   • Segmenta la trayectoria del agente en bloques tipados por rol (Sistema, Tarea, Pasos Anteriores, Observación Actual, Respuesta Pendiente).
   • Agrupa las interacciones pasadas en pares de pasos discretos $(a_i, o_i)$.
   • Este análisis es determinista y agnóstico a la tarea, dependiendo de marcadores de rol (por ejemplo, [ASSISTANT], [USER]).

2. Suelo de Conservación Obligatoria (Suelo de Calidad Determinista):

   • Retiene incondicionalmente contenido crítico específico para preservar el formato y la recencia:
     • Mensaje del sistema ($c_{sys}$) e instrucción de la tarea ($c_{task}$).
     • Observación actual ($c_{now}$) y cualquier respuesta pendiente ($c_{pend}$).
     • Los $K_{recent}=2$ pasos más recientes.
   • Esta capa asegura que el "invariante" requerido para que el agente funcione (por ejemplo, conocer el estado actual y la historia reciente) nunca se pierda.

3. Puntador de Relevancia de Pasos Aprendido:

   • Un clasificador RoBERTa-base de 125M parámetros entrenado para puntuar la relevancia de los pasos pasados restantes frente a la observación actual.
   • Señal de Entrenamiento: El modelo se entrena con etiquetas de cambio de acción siguiente contrafácticas. Para cada paso pasado $s_i$ y observación actual $c_{now}$, se consulta la columna vertebral del agente $K=8$ veces (la mitad con $s_i$, la mitad sin él). La etiqueta es la fracción de veces que cambia la siguiente acción canonizada. Esto crea una etiqueta suave $y_i \in [0, 1]$ que indica la criticidad del paso.
   • Inferencia: El puntador realiza una sola pasada hacia adelante ($\sim 2$ms/paso) sin llamadas a API. Produce una probabilidad $p_i$ de que eliminar el paso $s_i$ cambiaría la siguiente acción.

4. Relleno Avaricioso del Presupuesto:

   • Dado un presupuesto de caracteres objetivo (por ejemplo, el 25% de la longitud original), el sistema llena el espacio restante después del "Suelo de Conservación Obligatoria" seleccionando avariciosamente los pasos no del suelo en orden descendente según sus puntuaciones de relevancia $p_i$.
   • Los pasos eliminados se reemplazan por un único marcador de elisión (por ejemplo, [... N paso(s) elidido(s) ...]).

3. Contribuciones Clave

El artículo realiza tres contribuciones principales:

1. Identificación de la Destrucción de la Gramática de Acción: Los autores diagnostican y nombran formalmente el modo de fallo estructural donde los compresores a nivel de tokens fallan en agentes. Proporcionan evidencia sistemática (17 configuraciones) que muestra que estos métodos colapsan el rendimiento del agente porque eliminan tokens de baja información propia que son esenciales para la sintaxis de la acción.
2. Arquitectura AGORA: Un compresor novedoso a nivel de paso, sin inferencia, que combina un analizador estructural, un suelo determinista de "conservación obligatoria" y un puntador de relevancia aprendido entrenado con etiquetas contrafácticas. Logra una compresión adaptativa (1.0–11.5×) con cero sobrecarga de LLM por paso.
3. Atribución de Componentes: A través de estudios de ablación, el artículo aísla el valor específico de cada elección de diseño:
   • El Suelo de Conservación Obligatoria es la palanca dominante para la retención de calidad (eliminarlo reduce significativamente el rendimiento).
   • El Puntador Aprendido es el motor principal del rango de compresión adaptativa, permitiendo que el sistema varíe los ratios de compresión según la complejidad de la trayectoria mientras mantiene un ratio de conservación fijo.

4. Resultados Experimentales

Los autores evaluaron AGORA en 9 configuraciones (3 entornos: ALFWorld, ScienceWorld, WebShop; 3 columnas vertebrales: qwen3.5-flash, gpt-4o-mini, gpt-5-mini) frente a 10 líneas base (incluyendo métodos extractivos a nivel de tokens y compresores abstractivos basados en LLM).

• Retención de Calidad: AGORA es el único método sin inferencia que retiene $\geq 75\%$ del rendimiento sin compresión en 8 de 9 configuraciones (la excepción es ScienceWorld con gpt-5-mini al 73%).
  • Recompensa media ($m_r$) promedio con AGORA: 0.387 (92% de retención frente a Sin Compresión).
  • En contraste, los métodos a nivel de tokens (Contexto Selectivo, LLMLINGUA-2) colapsaron a $m_r \leq 0.05$.
• Eficiencia de Compresión: AGORA logra un rango de compresión adaptativa de extremo a extremo de 1.0–11.5× utilizando una única configuración fija ($\rho=0.25$), adaptándose al régimen de trayectoria específico sin ajuste por configuración.
• Costo: AGORA incurre en cero costos adicionales de tokens de LLM por paso (sin inferencia). Aunque los compresores basados en LLM (HiAgent, AgentDiet, ACON) a menudo logran costos menores por tarea en escenarios de trayectorias largas debido a la compresión agresiva, pagan 8–126k tokens extra por tarea por sus propias llamadas al compresor. AGORA es superior en escenarios donde la sobrecarga de LLM por paso es prohibitiva o donde la retención es la restricción vinculante.
• Ablación: Eliminar el "Suelo de Conservación Obligatoria" causó la mayor caída de rendimiento ($\Delta m_r \approx -0.088$). Eliminar el puntador redujo el rendimiento solo ligeramente ($\Delta m_r \approx -0.031$) pero eliminó el rango de compresión adaptativa, confirmando que el suelo maneja la calidad mientras que el puntador maneja el volumen de compresión.

5. Significado y Afirmaciones

El artículo afirma que AGORA representa un cambio necesario en cómo abordamos la compresión de prompts para agentes. Los autores argumentan que el paradigma de "clasificar y eliminar" de la compresión a nivel de tokens está estructuralmente mal especificado para agentes porque optimiza la densidad de información en lugar de la integridad estructural de los comandos de acción.

Significado:

• Cambio de Paradigma: Mueve el espacio de diseño de la compresión a nivel de tokens a la compresión a nivel de pasos, preservando la integridad sintáctica de los comandos del agente.
• Viabilidad sin Inferencia: Demuestra que la compresión de alta calidad para agentes no requiere llamadas costosas a LLM por paso, haciéndola viable para su implementación con columnas vertebrales congeladas y de caja negra.
• Robustez: Al priorizar la preservación estructural (el "suelo") sobre el resumen semántico, AGORA evita los modos de fallo catastróficos observados en compresores de propósito general.

Los autores permanecen modestos, señalando que AGORA no es un ganador universal de costos (los métodos basados en LLM a menudo ganan en términos de $/tarea en configuraciones de trayectorias largas) y que su evaluación se basa en estimaciones puntuales debido a amplios intervalos de confianza ($n=30$). Sin embargo, afirman que AGORA proporciona la única solución viable sin inferencia que mantiene un alto rendimiento en diversos entornos de agentes sin romper la gramática de acción.