En el mundo de la inteligencia artificial, un tipo específico de software llamado agente actúa como un trabajador digital. Estos agentes no solo charlan; realizan tareas utilizando herramientas, leyendo archivos y ejecutando comandos. Para hacer esto, dependen de un modelo de lenguaje grande, un poderoso programa informático que entiende y genera lenguaje humano. Sin embargo, estos modelos tienen un límite de memoria. Cada vez que el agente da un paso, debe enviar todo el historial de su conversación de vuelta al modelo para que este sepa qué ha sucedido hasta el momento. A medida que una sesión crece, involucrando docenas de archivos y cientos de comandos, este historial se vuelve masivo. Enviar todo cada vez es lento y costoso.

Para resolver esto, los ingenieros han intentado dos trucos principales. El primero es simplemente cortar las partes más antiguas de la conversación, manteniendo solo los mensajes más recientes. Esto ahorra espacio pero conlleva el riesgo de borrar hechos importantes, como una contraseña o la ubicación de un archivo, que el agente podría necesitar más tarde. El segundo truco es pedirle al modelo que resuma las partes antiguas en una historia más corta. Esto también es arriesgado porque el resumen podría omitir un detalle crucial o inventar uno nuevo, y no hay forma de verificar si el resumen es preciso. Ambos métodos obligan a elegir entre ahorrar dinero y mantener la verdad.

Un investigador llamado Mohammad Mosafer ha propuesto un enfoque diferente que se niega a hacer esa elección. Construyó un sistema llamado Tessera, que actúa como un intermediario inteligente entre el agente y el modelo. En lugar de borrar la información antigua o reescribirla en un resumen, Tessera comprime la conversación encontrando y eliminando copias exactas y casi duplicados. Mantiene el texto original a salvo en un área de almacenamiento separada y reemplaza las partes repetidas en la conversación principal con punteros diminutos y precisos. Si el agente necesita ver el texto antiguo de nuevo, puede solicitarlo y el sistema recupera el original exacto instantáneamente. Este método permite que el agente trabre con un historial de conversación mucho más corto sin perder ningún hecho ni depender de la tecnología de una empresa específica.

El núcleo del problema reside en cómo funcionan estos agentes. Cuando un agente ejecuta un comando, obtiene un resultado. Si ejecuta el mismo comando de nuevo, a menudo obtiene exactamente el mismo resultado. En una sesión larga, el agente puede leer el mismo archivo de registro varias veces o verificar el mismo estado repetidamente. Debido a que el agente envía todo el historial cada vez, termina enviando los mismos bloques grandes de texto una y otra vez. Tessera nota esta repetición. Escanea el historial de la conversación e identifica cuándo una pieza de texto es idéntica a algo enviado anteriormente. En lugar de enviar el texto completo de nuevo, envía una marca corta que dice: "Esto es lo mismo que el texto de hace tres pasos". El modelo aún puede leer la marca y entender el contexto, pero la cantidad de datos que se envían se reduce drásticamente.

Tessera va más allá de solo encontrar copias exactas. También busca texto que es casi igual, como un archivo de registro que ha cambiado por solo unas pocas palabras. Cuando encuentra estos casi duplicados, envía una pequeña nota describiendo solo los cambios, en lugar del archivo completo. También maneja grandes bloques de datos, como largas listas de números o código, eliminando el formato innecesario y manteniendo solo la estructura esencial. Todo esto sucede sin utilizar un modelo de lenguaje grande para tomar decisiones. El sistema utiliza reglas deterministas simples, lo que significa que siempre producirá el mismo resultado para la misma entrada. Esto hace que el proceso sea rápido y confiable, añadiendo solo unos pocos milisegundos al tiempo que toma enviar un mensaje.

Para probar si este sistema realmente funciona, el investigador creó un entorno controlado. Construyó un generador que crea sesiones de agentes falsas llenas de datos realistas, como respuestas JSON, registros de servicio y salidas de comandos. Dentro de estas sesiones, plantó hechos específicos y únicos, como un código aleatorio o una configuración específica, en posiciones aleatorias. Luego pasó las sesiones por Tessera y midió cuántos de estos hechos plantados sobrevivieron en el historial comprimido. Comparó esto contra otros métodos que simplemente cortan los mensajes antiguos o mantienen solo los más recientes. Los resultados fueron claros. Cuando el sistema comprimió la conversación a aproximadamente el 29 por ciento de su tamaño original, mantuvo el 61.8 por ciento de los hechos en el historial principal. En contraste, los otros métodos, que estaban obligados a mantener la misma cantidad de espacio, mantuvieron solo alrededor del 26 al 30 por ciento de los hechos.

El sistema también incluye una forma de recuperar la información faltante si es necesaria. Esto se llama un nivel de recuperación (recall tier). Si el agente hace una pregunta específica sobre una parte más antigua de la conversación, el sistema puede buscar en su almacenamiento seguro de textos originales y traer de vuelta el pasaje exacto. Cuando se utiliza esta función, el sistema puede recuperar el 99.5 por ciento de los hechos, a pesar de que no estaban en el historial comprimido principal. Esto significa que el agente puede trabajar con un historial pequeño y eficiente pero aún puede acceder a los detalles completos cuando sea necesario. Los investigadores descubrieron que esta recuperación funciona mejor cuando el agente recuerda el contexto del evento antiguo, pero aún funciona bien incluso con preguntas vagas.

El estudio también analizó cómo se comportan diferentes tipos de agentes. Algunos agentes, como los diseñados para arreglar errores de software, tienden a repetir comandos y ver los mismos resultados a menudo. Para estos agentes, el sistema encontró que casi el 15 por ciento de la conversación eran duplicados exactos. Otros agentes, usando diferentes modelos, rara vez se repetían. El sistema se adaptó a ambas situaciones, demostrando que no necesita ser ajustado para un tipo específico de agente para funcionar. Simplemente elimina lo que hay, ya sea mucha repetición o muy poca. El tiempo que toma comprimir los datos es insignificante, añadiendo menos de ocho milisegundos por solicitud, lo cual es mucho menos que el tiempo que le toma al modelo generar una respuesta.

Uno de los hallazgos más importantes es que este método no requiere renunciar a la precisión. A diferencia de la síntesis o resumen, que puede perder detalles o cambiar significados, Tessera mantiene cada byte de texto original a salvo. Si un hecho es eliminado de la vista principal para ahorrar espacio, no ha desaparecido; simplemente está oculto detrás de un manejador que se puede abrir en cualquier momento. Esto hace que el sistema sea totalmente auditable. Un ingeniero puede mirar el historial comprimido y saber exactamente qué se eliminó y dónde encontrar el original. Este es un cambio significativo respecto a los métodos actuales, que a menudo dependen de que el modelo adivine qué es importante, un proceso que es difícil de verificar.

Los investigadores probaron su sistema contra varias otras formas de gestionar la memoria. Encontraron que mantener simplemente los mensajes más recientes, una práctica común, era la forma menos efectiva de mantener los hechos. Incluso un método que mantenía mensajes de forma aleatoria funcionaba mejor que cortar los mensajes más antiguos, pero aun así no podía igualar la precisión de Tessera. La clave del éxito de Tessera es que no desecha mensajes enteros. En su lugar, recorta la grasa del interior de los mensajes, manteniendo la cabeza y la cola de los textos largos y reemplazando el medio con un puntero. Esto permite que el agente mantenga el contexto de la conversación mientras se deshace del volumen de los datos.

El estudio también examinó qué tan sensible es el sistema a sus configuraciones. Los investigadores ajustaron las reglas para lo que cuenta como un duplicado y cuántos mensajes recientes están protegidos de la compresión. Encontraron que el sistema es robusto. Cambiar las reglas ligeramente no causó que el rendimiento colapsara. El sistema consistentemente ahorró alrededor del 70 por ciento de los datos mientras mantenía la gran mayoría de los hechos importantes. Esta estabilidad sugiere que el sistema podría usarse en aplicaciones del mundo real sin necesidad de ajustes constantes.

Al final, el trabajo demuestra que es posible hacer que las conversaciones de los agentes sean mucho más cortas sin perder la verdad. Al tratar el historial de la conversación como una colección de datos que pueden ser comprimidos y recuperados, en lugar de una historia que debe ser resumida o cortada, el sistema logra un nivel de eficiencia que anteriormente se pensaba que requería un compromiso. El agente puede ejecutar tareas más largas y complejas sin quedarse sin memoria o pagar por un exceso de transferencia de datos. El sistema sigue siendo independiente de cualquier proveedor de modelos, lo que significa que puede usarse con cualquier herramienta que hable el lenguaje estándar de estos agentes.

Los investigadores reconocen que su prueba se realizó con datos sintéticos, lo que significa que las sesiones fueron generadas por una computadora en lugar de ser registradas de un uso humano real. Planean probar el sistema en trayectorias de agentes del mundo real para ver cómo se desempeña en la práctica. También señalan que, si bien el sistema actual es excelente para eliminar la redundancia, aún no comprende el significado profundo de la conversación. Las versiones futuras podrían añadir capas que puedan identificar qué partes de la conversación son más importantes según la tarea en cuestión. Sin embargo, el sistema actual proporciona una base sólida. Demuestra que con una ingeniería cuidadosa, podemos mantener el registro completo del trabajo de un agente mientras enviamos solo una fracción de los datos, asegurando que ningún hecho se pierda verdaderamente.