🤖 AI

Agent-Omit: Adaptive Context Omission for Efficient LLM Agents

Este artículo presenta Agent-Omit, un marco de entrenamiento unificado que mejora la eficiencia de los agentes de LLM al permitirles omitir de forma adaptativa pensamientos y observaciones redundantes mediante ajuste fino de inicio en frío y aprendizaje por refuerzo consciente de la omisión, logrando compensaciones superiores entre efectividad y eficiencia en múltiples puntos de referencia.

Autores originales: Yansong Ning, Jun Fang, Naiqiang Tan, Hao Liu

Publicado 2026-05-12

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Yansong Ning, Jun Fang, Naiqiang Tan, Hao Liu

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El Problema: El Agente "Sobre-explicador"

Imagina que contratas a un asistente de investigación muy inteligente, pero ligeramente obsesivo, para que encuentre un hecho específico en internet para ti.

La Buena Noticia: Son brillantes. Encuentran la respuesta.
La Mala Noticia: Para llegar allí, escriben una entrada de diario de 50 páginas por cada paso individual que dan. Escriben: "Estoy pensando en hacer clic en el botón azul", luego hacen clic. Luego escriben: "Estoy leyendo el texto en la pantalla", luego lo leen. Incluso cuando solo están haciendo clic en un botón que era obvio desde el paso anterior, escriben un párrafo completo sobre ello.

Esto es exactamente lo que hacen los agentes de IA actuales. Generan muchos "pensamientos" (razonamiento) y "observaciones" (leyendo los resultados de sus acciones). Aunque esto les ayuda a resolver problemas difíciles, crea una cantidad masiva de "desorden digital". Este desorden:

Cuesta mucho dinero (porque las empresas de IA cobran por palabra/token).
Ralentiza todo.
Confunde a la IA porque el historial de conversación se vuelve tan largo que olvida el principio.

La Idea Clave: No Todos los Pensamientos Son Iguales

Los investigadores detrás de este artículo se hicieron una pregunta sencilla: "¿Realmente necesitamos leer cada página de ese diario de 50 páginas?"

Analizaron el viaje de la IA y descubrieron que la importancia de estos pensamientos y observaciones cambia dependiendo de cuándo ocurren:

El Principio: La IA necesita pensar mucho para planificar su ruta. (Alto valor).
El Medio: La IA solo está haciendo clic en botones o leyendo resultados de búsqueda simples. A menudo, no necesita escribir una entrada de diario para esto; puede simplemente realizar la acción. (Bajo valor).
El Final: La IA necesita resumir los hallazgos. Necesita los resultados finales, pero no necesita volver a leer los resultados de búsqueda de hace tres horas. (Bajo valor para datos antiguos).

La Analogía: Imagina que estás siguiendo una receta. Necesitas leer las instrucciones cuidadosamente al principio (planificación). Pero cuando solo estás removiendo la olla por el décimo minuto, no necesitas escribir una novela sobre cómo estás removiendo. Simplemente remueves. Si sigues escribiendo sobre remover, te quedas sin papel antes de terminar de cocinar.

La Solución: Agent-Omit

El equipo construyó un nuevo marco de entrenamiento llamado Agent-Omit. Piensa en esto como enseñar a la IA un nuevo superpoder: El Arte de Saber Qué Saltar.

En lugar de obligar a la IA a escribir todo, Agent-Omit le enseña a decir: "Sé lo que estoy haciendo, no necesito escribir esto", o "No necesito volver a leer esa nota antigua".

Lo hicieron en dos pasos:

Paso 1: El "Arranque en Frío" (Enseñando lo Básico)

Primero, crearon un conjunto especial de problemas de práctica. Mostraron manualmente a la IA ejemplos de:

"Aquí hay un momento en que pensaste demasiado. La próxima vez, simplemente salta el pensamiento."
"Aquí hay un momento en que leíste una observación antigua que no ayudó. La próxima vez, salta su lectura."

Enseñaron a la IA las "señales manuales" específicas (códigos especiales) para usar cuando quiera saltarse un paso. Es como enseñarle a un estudiante que a veces, "Sé la respuesta" es una respuesta válida, y no necesitan mostrar su trabajo para cada problema de matemáticas individual.

Paso 2: El "Sistema de Recompensas" (Aprendizaje por Refuerzo)

Luego, dejaron que la IA jugara juegos (como navegar por un sitio web o resolver un rompecabezas científico) y le dieron un sistema de recompensas especial:

Recompensa por obtener la respuesta correcta.
Recompensa Extra por usar menos palabras.

Si la IA intentaba ser perezosa y saltaba un paso necesario, obtenía una mala puntuación. Pero si identificaba correctamente un paso redundante y lo saltaba, ahorrando dinero y tiempo, obtenía una gran bonificación. Con el tiempo, la IA aprendió a ser una "minimalista inteligente": haciendo el trabajo pero escribiendo menos sobre ello.

Los Resultados: El Agente "Ricitos de Oro"

Los investigadores probaron esta nueva IA (llamada Agent-Omit) contra otros siete agentes de IA de primer nivel.

Rendimiento: Resolvió los problemas tan bien como los gigantes "super-inteligentes" (como DeepSeek-R1 u o3).
Eficiencia: Utilizó significativamente menos palabras (tokens) para llegar allí.
El Compromiso: Encontró el equilibrio perfecto. No era tan perezosa que fallara, y no era tan charlatana que desperdiciara dinero.

La Analogía: Imagina dos conductores intentando llegar al mismo destino.

Conductor A (IA Antigua): Conduce todo el camino narrando cada giro, cada semáforo y cada nube que ven. Llegan, pero queman mucha gasolina y tardan mucho tiempo.
Conductor B (Agent-Omit): Conduce todo el camino, pero solo habla cuando necesita tomar una decisión compleja o consultar un mapa. Llegan tan rápido, pero usan mucha menos gasolina.

Por Qué Esto Importa (Según el Artículo)

El artículo afirma que al enseñar a la IA a "omitir" (saltar) el contexto innecesario, podemos hacer que estos agentes:

Sean más baratos de ejecutar.
Más rápidos.
Igualmente inteligentes.

Demostraron matemáticamente que este salto no perjudica la capacidad de la IA para pensar correctamente, siempre y cuando salte las cosas correctas. Mostraron que la IA aprendió naturalmente a saltar unas 3 o 4 rondas de charla innecesaria en medio de una tarea, que es exactamente donde suelen ocurrir las partes "aburridas" del trabajo.

En resumen, Agent-Omit es un método de entrenamiento que enseña a los agentes de IA a dejar de sobre-explicar, ahorrando tiempo y dinero sin perder su inteligencia.

) o emitir comandos específicos para omitir observaciones históricas (por ejemplo, <omit tool response N ...>`).
* Omisión de Múltiples Vueltas: Construye trayectorias completas donde las vueltas redundantes identificadas se reemplazan con comportamientos de omisión, obligando al agente a mantener la continuidad del razonamiento a pesar de la falta de contexto.

Ajuste Fino: El agente se ajusta fino sobre estos datos sintéticos utilizando la pérdida estándar de modelado de lenguaje con una máscara aplicada a las observaciones del entorno.

Etapa 2: Aprendizaje por Refuerzo Agente Consciente de la Omisión
Para generalizar más allá de los datos sintéticos y manejar interacciones dinámicas, los autores introducen un marco de aprendizaje por refuerzo (RL) que presenta:

Estrategia de Muestreo Dual: Para abordar el problema del "cambio de contexto" (donde un agente no puede aprender de una decisión que tomó después de una omisión), el entrenamiento desacopla el muestreo en:
- Trayectoria Completa (y): Evalúa la eficiencia general y el éxito final de la tarea.
- Trayectoria Parcial (y'): Muestra el contexto antes de que ocurra una omisión, permitiendo que el agente aprenda la política de omisión condicionada al estado previo a la omisión.
Recompensa Consciente de la Omisión: Una función de recompensa compuesta que equilibra la corrección de la tarea ( $R_{task}$ ) y la eficiencia de tokens ( $R_{omit}$ ). La recompensa de omisión se calcula en función de la relación de tokens ahorrados, pero se establece en cero si la recompensa de la tarea es cero, evitando la manipulación de recompensas.
Optimización de la Política: La política del agente se optimiza utilizando la Optimización de Política Relativa de Grupo (GRPO) para maximizar las recompensas esperadas en ambos tipos de trayectorias, minimizando al mismo tiempo la divergencia KL de una política de referencia.

2.3 Garantía Teórica

Los autores proporcionan una demostración teórica de que la desviación de la política de omisión aprendida respecto a la política óptima está acotada superiormente por la divergencia KL entre ambas. Asumiendo la continuidad Lipschitz semántica de las funciones de recompensa de la tarea y de costo de tokens, el marco garantiza que, a medida que la política aproxima la estrategia óptima de omisión, la desviación en efectividad y eficiencia converge.

3. Contribuciones Clave

Marco de Análisis Unificado: El artículo establece un marco de análisis a nivel de vuelta que demuestra cuantitativamente que los mecanismos de omisión pueden mejorar la eficiencia del agente sin sacrificar la efectividad.
Marco Agent-Omit: Un paradigma de entrenamiento novedoso que integra la síntesis de comportamientos de omisión (arranque en frío) con el aprendizaje por refuerzo agente consciente de la omisión para entrenar agentes capaces de gestionar el contexto de forma adaptativa.
Validación Empírica y Teórica: Experimentos extensos en cinco puntos de referencia y análisis teórico que demuestran la efectividad del enfoque para lograr compensaciones superiores entre efectividad y eficiencia.

4. Resultados Experimentales

El marco se evaluó en cinco puntos de referencia diversos: DeepSearch, WebShop, TextCraft, BabyAI y SciWorld.

Rendimiento frente a Modelos de Vanguardia: El modelo Agent-Omit-8B logró una precisión comparable a siete agentes LLM de vanguardia (incluyendo DeepSeek-R1-0528, o3 y Qwen3-32B) mientras reducía sustancialmente los costos de tokens.
Eficiencia frente a Métodos Existentes: Cuando se aplicó a Qwen3-8B, Agent-Omit superó consistentemente a siete métodos existentes de construcción eficiente de agentes (incluyendo Gestión de Pensamientos, Gestión de Observaciones y enfoques basados en resumen). Logró la mayor precisión Pass@1 con el menor costo promedio de tokens en todos los puntos de referencia.
Estudios de Ablación: Los resultados confirmaron que tanto el arranque en frío de SFT (específicamente datos de omisión de una sola vuelta) como la etapa de RL (específicamente el muestreo de trayectorias parciales y las recompensas de omisión) son críticos para el rendimiento.
Análisis Conductual: Los agentes entrenados omitieron de forma adaptativa un promedio de 3 a 4 vueltas de contexto redundante por trayectoria, con omisiones que ocurrieron predominantemente en vueltas intermedias, alineándose con los hallazgos cuantitativos iniciales.

5. Significado y Afirmaciones

El artículo afirma que Agent-Omit ofrece un nuevo paradigma para agentes LLM eficientes al alejarse de la compresión de contexto estática y basada en heurísticas hacia políticas de omisión adaptativas y aprendidas.

Eficiencia: El enfoque reduce significativamente el consumo de tokens y los costos computacionales, lo que, según los autores, podría contribuir a reducir la huella energética del despliegue de agentes de modelos de lenguaje grandes.
Escalabilidad: Al permitir que modelos más pequeños (por ejemplo, 8 mil millones de parámetros) igualen el rendimiento de modelos de vanguardia mucho más grandes mientras utilizan menos recursos, el método mejora la aplicabilidad práctica de los agentes LLM en entornos con recursos limitados.
Limitaciones: Los autores reconocen modestamente que el enfoque actual incurre en muestras de entrenamiento adicionales durante la etapa de RL, lo que limita la escalabilidad. Se propone trabajo futuro para escalar la tubería de síntesis de datos de omisión al preentrenamiento a gran escala y extender el paradigma a LLMs más grandes.

Los autores declaran no tener conflictos de interés financieros potenciales relacionados con el trabajo.