Resumen Técnico: ConMem – Adaptación Estructurada Guiada por Memoria en Sistemas Multi-Agente Libres de Entrenamiento

1. Planteamiento del Problema

Los Sistemas Multi-Agente (MAS) basados en Modelos de Lenguaje Grande (LLM) sobresalen en tareas continuas complejas, pero enfrentan desafíos significográficos en la Adaptación Multi-Agente (MAA). Los enfoques existentes para la MAA generalmente se dividen en tres categorías, cada una con limitaciones distintivas:

• Métodos basados en memoria: Retienen historiales de interacción crudos. Aunque preservan el contexto, las trayectorias suelen ser largas, ruidosas y están entrelazadas con resultados de herramientas locales o desacuerdos intermedios, lo que conduce a señales de decisión distorsionadas y baja precisión en la recuperación.
• Métodos basados en memoria estructurada/habilidades: Abstraen las interacciones en procedimientos o habilidades reutilizables. Si bien reducen la redundancia, a menudo carecen de una coordinación consciente de las relaciones en el momento de la inferencia, dejando conflictos, dependencias y redundancias sin resolver al componerse.
• Métodos basados en entrenamiento: Utilizan aprendizaje por refuerzo o ajuste fino (fine-tuning) para gestionar la memoria. Aunque son efectivos, estos enfoques requieren entrenamiento adicional, supervisión de alta calidad y modificaciones en los roles de los agentes o la orquestación, lo que aumenta los costos computacionales y la complejidad de implementación.

El desafío central abordado por este trabajo es: ¿Cómo puede un MAS basado en LLM lograr una adaptación eficiente y libre de entrenamiento transformando experiencias fragmentadas en una memoria colectiva estructurada, coordinada y reutilizable sin modificar los pesos del modelo host?

2. Metodología: Marco de Trabajo ConMem

ConMem es un marco de trabajo consciente de las relaciones y libre de entrenamiento que permite una adaptación eficiente mediante la coordinación entre experiencias. Opera en un entorno de "host congelado", controlando únicamente el prefijo de memoria inyectado en el prompt sin alterar el LLM subyacente ni la orquestación del agente.

2.1 Unidad Central: La Tarjeta de Estrategia Firmada

En lugar de trayectorias crudas, ConMem destila las interacciones históricas en tarjetas de estrategia atómicas. Una tarjeta $c$ es una tupla estructurada que contiene:

• Descripción de la Tarea ($z$): El contexto de la interacción.
• Semántica de Disparo ($\chi$): Las condiciones bajo las cuales la tarjeta es relevante.
• Cuatro Espacios Estructurados ($\kappa$): Codificación de Estado, Plan, Ejecución y Evaluación.
• Signo: Un indicador binario que distingue entre tarjetas positivas (estrategias reutilizables) y tarjetas negativas (advertencias derivadas de fallos).

Esta abstracción permite al sistema tratar la memoria como una señal procedimental compacta, inspeccionable y reutilizable en lugar de un registro crudo.

2.2 El Pipeline

ConMem opera a través de dos rutas distintas: una Ruta de Escritura (construcción de memoria) y una Ruta de Lecta (adaptación en tiempo de inferencia).

A. Ruta de Escritura: Construcción del Banco de Tarjetas

Después de calificar una tarea, el sistema extrae tarjetas candidatas de la trayectoria:

1. Reflexión y Agregación: Los fallos informativos se reflejan en tarjetas negativas; los éxitos se convierten en tarjetas positivas.
2. Admisión: Las tarjetas se admiten solo si son coherentes (consistencia interna de estado/plan/ejecución) y cumplen con umbrales de calidad (fiabilidad, novedad, recencia, utilidad).
3. Fusión: Las tarjetas admitidas se almacenan en un banco persistente ($B$) y se vinculan en un Grafo de Relaciones Tipificadas ($G$).
   • Aristas del Grafo: Las aristas portan tipos como soporta, satisface, restringe y conflicto, codificando dependencias e incompatibilidades entre tarjetas.

B. Ruta de Lectura: Recuperación y Coordinación Consciente de Necesidades

En tiempo de ejecución, para una nueva tarea $t$, ConMem ejecuta un proceso de cuatro etapas para generar un prefijo de memoria acotado $\tilde{m}_t$:

1. Recuperación Consciente de Necesidades: Las tarjetas se clasifican según una función de puntuación que combina similitud semántica, coincidencia de disparadores, alineación con las necesidades de la tarea (estimadas a partir del contexto actual) y credibilidad de la tarjeta. Un filtro de diversidad (MMR) suprime duplicados cercanos.
2. Expansión del Grafo Tipificado: Las tarjetas "semilla" recuperadas se expanden mediante el recorrido del grafo de relaciones. El sistema sigue las aristas de soporta y satisface para recuperar dependencias mientras evita los conflictos. Esto asegura que el contexto recuperado sea un conjunto coherente y con dependencias completas en lugar de una lista plana.
3. Composición Presupuestada Coordinada: El conjunto expandido se reconcilia para resolver conflictos locales (reteniendo representantes de mayor calidad) y eliminar redundancias.
4. Serialización: El conjunto final se serializa en un prefijo de prompt que se adhiere estrictamente a un presupuesto de tokens ($B$). Si el presupuesto se excede, el sistema intenta una serialización compacta o salta las tarjetas de menor prioridad.

2.3 Fundamento Teórico

El marco se fundamenta en una visión de Control de Contexto Presupuestado. El objetivo no es la recuperación máxima, sino maximizar la utilidad bajo un presupuesto fijo de tokens. Los autores postulan que si la extracción de tarjetas es suficiente (es decir, la tarjeta contiene toda la información necesaria para el resultado posterior), entonces condicionar sobre la tarjeta es Bayes-óptimo y estrictamente más eficiente que condicionar sobre trayectorias crudas debido a la compresión de tokens.

3. Contribuciones Clave

1. Formulación de Adaptación Libre de Entrenamiento: Los autores proponen un enfoque de control de contexto para la adaptación de MAS continuos, enmarcando el problema como un control presupuestado sobre señales procedimentales reutilizables, evitando así la necesidad de entrenamiento adicional o modificación del host.
2. Unidades de Memoria Procedimental Atómica: Introducción de tarjetas tipificadas y firmadas que codifican estado, plan, ejecución y evaluación, proporcionando conocimiento compacto, reutilizable e inspeccionable.
3. Coordinación Consciente de Relaciones: Desarrollo de un mecanismo que resuelve conflictos y dependencias de memoria bajo un presupuesto de contexto utilizando un grafo tipificado, permitiendo una adaptación ligera sin modificar los pesos del modelo.
4. Validación Empírica: Experimentos extensos que demuestran mejoras consistentes en diversos benchmarks y arquitecturas de MAS.

4. Resultados Experimentales

Los autores evaluaron ConMem en cuatro benchmarks (TriviaQA, PopQA, KodCode, PDDL) a través de tres hosts de MAS (AutoGen, CAMEL, MacNet) utilizando el backbone Qwen/Qwen3-4B-Instruct-2507.

• Ganancias de Rendimiento: ConMem logró mejoras consistentes sobre las líneas base de "Sin memoria", con ganancias promedio que oscilan entre 10.9 y 12.9 puntos absolutos.
• Comparación con SOTA: ConMem superó a fuertes líneas base de memoria (incluyendo Generative Agents, Voyager, G-Memory) e igualó o superó ligeramente a métodos basados en entrenamiento como LatentMem y ReMe (dinámico), a pesar de estar libre de entrenamiento.
  • En el host AutoGen, ConMem alcanzó un puntaje promedio de 58.33, superando a LatentMem (57.38) y ReMe (57.46).
  • Clasificó en primer lugar en 8 de 15 comparaciones de métricas de host y en segundo lugar en las 7 restantes.
• Eficiencia: El mecanismo de coordinación podó agresivamente el conjunto de candidatos, eliminando más del 50% de los candidatos expandidos en configuraciones generales y más del 80% en tareas de planificación (PDDL), reduciendo significativamente la sobrecarga de planificación.
• Estudios de Ablación: Eliminar cualquier componente (Expansión de Grafo, Coordinación, Reflexión de Fallos o Admisión) resultó en caídas de rendimiento, confirmando que las ganancias provienen del pipeline integrado y no de un solo módulo. Notablemente, eliminar la Coordinación causó la mayor caída en las tareas de QA, resaltando la necesidad de la resolución de conflictos antes de la inyección del prompt.

5. Significado y Reivindicaciones

El artículo afirma que ConMem demuestra que la adaptación a largo plazo en entornos de host congelado puede lograrse mediante el control de contexto a nivel de prompt en lugar del reentrenamiento del modelo.

• Ventaja Estructural: A diferencia de los métodos que recuperan listas planas de historial, la coordinación consciente de relaciones de ConMem resuelve contradicciones y dependencias antes de que la información llegue al LLM host. Esto es particularmente crítico para tareas con altas dependencias entre tarjetas (ej. generación de código y planificación), donde la brecha de rendimiento entre ConMem y las líneas base de recuperación plana es mayor.
• Adaptación Ligera: Al transformar la experiencia histórica en tarjetas firmadas compactas, ConMem permite mejoras de rendimiento estables a través de diversos marcos sin el costo computacional del entrenamiento o la complejidad de modificar los roles de los agentes.
• Utilización de Fallos: El marco aprovecha de manera única las tarjetas negativas (advertencias derivadas de fallos) como señales accionables para evitar errores pasados, tratando los fallos como ciudadanos de primera clase en el sistema de memoria.

En conclusión, ConMem postula que el futuro de la adaptación eficiente de múltiples agentes no reside en recordar más historia, sino en curar y coordinar estrategias reutilizables bajo presupuestos estrictos de contexto.