Resumen Técnico: MEMLEAK: Diagnóstico de fugas de información en la memoria de agentes multimodales

1. Planteamiento del problema

Los agentes de IA multimodales a menudo no logran un "olvido" real cuando los usuarios solicitan la eliminación de hechos específicos. Si bien los sistemas actuales de memoria suelen eliminar la entrada de texto explícita asociada a un hecho e informan de éxito, este artículo demuestra que la información a menudo permanece recuperable. El problema central es que los agentes multimodales almacenan hechos a través de una pila heterogénea de representaciones: entradas de texto, embeddings de texto, archivos de imagen, embeddings de imagen, aristas de grafos y características visuales implícitas.

Cuando un usuario solicita la eliminación, los sistemas suelen abordar únicamente el nodo de texto "direccionable". Sin embargo, el hecho puede persistir a través de:

1. Texto correlacionado retenido: Otras memorias de texto que están semánticamente vinculadas al hecho eliminado.
2. Imágenes retenidas: Imágenes etiquetadas en otros hechos que contienen pistas visuales implícitas (por ejemplo, un reloj de buceo en una foto etiquetada como "voluntariado" que implica una "preferencia por el buceo").
3. Características visuales implícitas: Atributos codificados en los embeddings de imagen o por Modelos de Lenguaje-Visión (VLM) durante la inferencia (por ejemplo, geolocalización, estilo arquitectónico) que nunca se almacenan explícitamente como texto, pero que son recuperables por el modelo.

El artículo argumenta que la erradicación a nivel de hecho falla a través de estos múltiples canales, creando un "residuo de olvido" donde la información eliminada puede reconstruirse a partir de los datos retenidos del usuario, violando los criterios técnicos de fuga de información.

2. Metodología

El Grafo de Procedencia de la Información (IPG)

Los autores introducen el Grafo de Procedencia de la Información (IPG), una taxonomía descriptiva para modelar cómo un solo hecho se propaga a través de las capas de memoria del agente.

• Nodos ($V_f$): Representaciones de un hecho $f$ a través de las capas de almacenamiento (texto, imagen, embedding, grafo, características implícitas).
• Aristas ($E_f$): Flujo de información derivado de operaciones de almacenamiento o computación.
• Aptitud de eliminación ($\delta$): Los nodos se clasifican como:
  • Direccionables (addr): Eliminables directamente mediante la identidad del hecho.
  • Vinculados (link): Eliminables solo si se mantiene un vínculo de procedencia con el hecho.
  • Persistentes (unreach): No son objeto de la eliminación a nivel de almacenamiento actual; incluye características visuales implícitas y patrones de comportamiento derivados.

El IPG distingue entre Brechas de Ingeniería (falta de seguimiento de la procedencia para los nodos vinculados) y Residuos de Olvido (nodos persistentes que sobreviven a la eliminación incluso con un seguimiento de procedencia perfecto).

El Benchmark MEMLEAK

Para medir la fuga, los autores desarrollaron MEMLEK, un benchmark que evalúa el olvido a nivel de hecho a través de una cascada de eliminación.

• Dataset: 113 perfiles de entidades sintéticas con 20 hechos cada una (10 objetivos, 10 retenidos). Los hechos abarcan cinco categorías (ubicación, profesión, preferencia, relación, posesión) e incluyen fundamentación visual (explícita, implícita o ausente).
• Imágenes: Generadas usando Gemini 3.1 Flash basadas en prompts de GPT-5.4. También se utilizó un subconjunto de 523 fotografías reales con licencia de Unsplash para la validación ecológica.
• Tipos de sondeo (Probes):
  • P1 (Recuperación de Imagen Retenida): Eliminar el hecho de texto objetivo y sus imágenes etiquetadas; sondear el VLM con imágenes de otros hechos retenidos.
  • P2–P5: Sondeos piloto para la retracción de texto, persistencia invisible, reconstrucción entre imágenes y residuo conductual.
• Métricas de Evaluación:
  • Tasa de Fuga Multimodal (CMLR): El porcentaje de hechos eliminados recuperables a partir de los datos retenidos.
  • Juicio: Un ensamble de 3 modelos de LLM (GPT-4.1, Claude Sonnet 4, Gemini 2.5 Flash) determina si una respuesta revela el hecho olvidado. La validación humana (2 anotadores) confirmó una alta fiabilidad ($\kappa = 0.88$).
  • Baselines: La inferencia ciega (0.0% de fuga) y los controles negativos (0.3% de Tasa de Falsos Positivos) aseguran que las fugas se deban a los datos específicos del usuario y no a los conocimientos previos del modelo.

Sistemas Evaluados

El estudio evaluó cinco categorías de sistemas:

1. Contexto largo: Solo supresión conductual (sin eliminación).
2. Ingenuo (Naive): Elimina solo el texto; retiene todas las imágenes.
3. Mem0 (Producción): Eliminación de entradas de texto mediante búsqueda semántica.
4. Letta (Simulado): Eliminación de texto/embeddings decidida por el agente.
5. Oráculo (Oracle): Eliminación en cascada de texto, embeddings, imágenes y aristas de grafo basadas en la procedencia.

3. Resultados Clave

Fuga Multicanal

El benchmark revela que la eliminación falla a través de múltiples canales simultáneos:

• Sondeo Directo (Solo Texto): Los sistemas con capacidad de eliminación logran un <1% de fuga en sondeos directos, confirmando que la eliminación a nivel de almacenamiento funciona para los nodos de texto direccionables.
• Correlación de Texto Retenido: Cuando las entradas de texto se eliminan pero permanece el texto retenido correlacionado, el 18.3% de los hechos son recuperables.
• Correlación de Imagen Retenida (Hallazgo Principal): Incluso tras eliminar el texto del hecho objetivo y todas sus imágenes etiquetadas, el 12.0% de los hechos son recuperables a partir de imágenes etiquetadas en otros hechos retenidos.
  • Baseline Ciego: 0.0% (sin imágenes).
  • Control Negativo: 0.3% (imágenes no relacionadas).
  • Significancia: El 47% de los hechos con fuga de imagen no son recuperables únicamente desde el texto retenido, demostando que el canal visual es una vía de fuga distinta y más difícil de auditar.

Rendimiento del Sistema

• Recuperación del Mismo Hecho (Límite Superior): Si un sistema elimina el texto pero deja intactas las propias imágenes del hecho, el 48.7% de los hechos son recuperables. El seguimiento de la procedencia (Oráculo) reduce esto al 12.0% mediante la eliminación en cascada de las imágenes etiquetadas.
• Sistemas de Producción: Mem0 (extremo a extremo) mostró un 16.3% de fuga, combinando la inferencia visual con un posible residuo de recuperación de texto.
• Generalidad del Modelo: Los resultados se mantienen en diferentes VLMs (Claude Sonnet 4: 12.0%; GPT-4o: 9.3%).
• Validación en el Mundo Real: El uso de fotografías reales de Unsplash produjo un 10.6% de fuga, consistente con los resultados sintéticos, confirmando que el fenómeno no es un artefacto de la generación de imágenes.

Mitigación: Eliminación Semántica

Los autores probaron la eliminación semántica consciente del contenido, donde un auditor VLM escanea las imágenes retenidas en busca de correlaciones semánticas con los hechos eliminados y las marca para su eliminación.

• Resultado: Esto redujo el residuo de imagen del 12.0% al 2.0%.
• Costo: Requirió marcar y eliminar el 21.0% de las imágenes retenidas.
• Limitación: Persiste un residuo del 2.0%, atribuido a pistas visuales demasiado difusas para que los auditores actuales las detecten (nodos persistentes).

4. Contribuciones y Significancia

Contribuciones

1. Grafo de Procedencia de la Información (IPG): Una taxonomía que clasifica las representaciones de la memoria por su "aptitud de eliminación" (direccionable, vinculada, persistente), distinguiendo entre brechas de ingeniería y residuos arquitectónicos.
2. Evidencia Empírica de Fuga Multicanal: Demostración de que la erradicación a nivel de hecho falla a través de la correlación de texto (18.3%) y, crucialmente, a través de imágenes retenidas (12.0%), donde las imágenes proporcionan un canal de fuga invisible para la auditoría basada solo en texto.
3. Benchmark MEMLEAK: Un marco de evaluación escalable que descompone los canales de fuga, mostrando que mientras el seguimiento de la procedencia resuelve las fallas de los nodos vinculados, se requieren políticas conscientes del contenido para mitigar los residuos de los nodos persistentes.

Significancia

El artículo posiciona sus hallazgos como una herramienta de diagnóstico más que como una prueba de imposibilidad.

• Para Constructores de Sistemas: La eliminación a nivel de registro es necesaria pero insuficiente. La erradicación a nivel de hecho requiere auditar todos los datos retenidos (texto, imágenes y correlaciones). Los autores recomiendan implementar el seguimiento de la procedencia (para abordar la brecha del 48.7% $\to$ 12.0%) y auditores VLM (para abordar la brecha del 12.0% $\to$ 2.0%).
• Para Reguladores: El cumplimiento de las regulaciones de erradicación (por ejemplo, el Artículo 17 del RGPD) no puede verificarse únicamente revisando los registros de eliminación. Se requiere una verificación conductual (sondeo del sistema post-eliminación) porque la información puede recuperarse a través de canales que ningún mecanismo de auditoría actual inspecciona.
• Para Investigadores: El 2.0% de residuo de imagen restante y el canal de correlación de texto del 18.3% resaltan direcciones de investigación abiertas, incluyendo codificadores de visión conscientes de la privacidad, limpieza de embeddings y políticas de eliminación conscientes de la correlación.

El artículo concluye que, si bien el "residuo de olvido" es un límite inferior empírico bajo políticas de eliminación específicas, representa un riesgo de cumplimiento significativo para las plataformas de agentes multimodales en dominios sensibles como la salud y las finanzas.