🤖 AI

AgentMark: Utility-Preserving Behavioral Watermarking for Agents

AgentMark es un marco de marcas de agua conductuales que inserta identificadores en las decisiones de planificación de agentes basados en LLM para proteger su propiedad intelectual sin degradar su utilidad ni requerir acceso directo a su arquitectura interna.

Autores originales: Kaibo Huang, Jin Tan, Yukun Wei, Wanling Li, Zipei Zhang, Hui Tian, Zhongliang Yang, Linna Zhou

Publicado 2026-04-27

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Kaibo Huang, Jin Tan, Yukun Wei, Wanling Li, Zipei Zhang, Hui Tian, Zhongliang Yang, Linna Zhou

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El Problema: El "Agente Fantasma" en la Máquina

Imagina que hoy en día no solo usamos aplicaciones, sino que tenemos "asistentes digitales" (agentes de IA). Estos no solo te responden preguntas, sino que hacen cosas por ti: reservan un vuelo, compran comida o gestionan tus redes sociales.

El problema es que, si un agente empieza a portarse mal (por ejemplo, si un bot de una empresa empieza a publicar noticias falsas o a gastar dinero de forma sospechosa), es muy difícil saber quién le dio la orden o qué modelo de IA lo está controlando. Es como si un coche autónomo cometiera una infracción y no pudiéramos saber si fue un error del software, un hackeo o una instrucción maliciosa.

Actualmente, podemos ponerle una "marca de agua" al texto que escriben (como un sello invisible en una hoja de papel), pero los agentes no solo escriben; toman decisiones. Y ahí es donde fallan los métodos actuales.

La Solución: AgentMark (El "ADN de Comportamiento")

Los investigadores han creado AgentMark. En lugar de intentar ponerle un sello al texto final, AgentMark le pone una "marca de identidad" a la forma de pensar del agente.

La Analogía del Chef y la Receta

Imagina que tienes un chef robot que cocina platos para miles de personas.

El método antiguo (Marca de agua de contenido): Es como intentar ponerle un sello de tinta al plato terminado. Si alguien cambia la sal o le añade salsa, el sello se borra y ya no sabes quién lo cocinó.
El método AgentMark (Marca de comportamiento): No toca el plato. En su lugar, influye sutilmente en cómo el chef decide cocinar. Por ejemplo, el "sello" hace que, de forma casi imperceptible, el chef elija un 5% más de veces usar una cuchara de madera en lugar de una de metal, o que prefiera picar la cebolla en cubos en lugar de tiras.

¿Por qué es brillante esto?

Es invisible: El plato final sabe exactamente igual (el "sabor" o la utilidad no cambia). El cliente no nota la diferencia.
Es rastreable: Aunque el plato se vea distinto, si analizamos la "coreografía" del chef (sus decisiones paso a paso), podemos ver ese patrón secreto y decir: "¡Ajá! Este plato fue cocinado por el Robot Modelo X".

¿Cómo funciona técnicamente? (Sin matemáticas complicadas)

AgentMark utiliza tres trucos de magia:

El Menú de Decisiones: En cada paso, el agente tiene varias opciones (ej: "buscar vuelo", "comparar precios", "pagar"). AgentMark mira las probabilidades de cada opción y elige una que encaje con su "código secreto", pero sin alterar las probabilidades originales. Es como si te dieran a elegir entre caminar por la izquierda o la derecha, y tú eliges la derecha para cumplir tu código, pero para un observador externo, parece una elección totalmente natural.
El Código de Resiliencia (El mensaje en la botella): A veces, los registros de lo que hizo el agente se pierden o se cortan (como si se borraran páginas de un diario). AgentMark usa una técnica matemática (llamada RLNC) que es como escribir un mensaje en muchas botellas pequeñas repartidas por el mar. Aunque solo recuperes algunas botellas, ¡todavía puedes reconstruir el mensaje completo!
Compatibilidad: Puedes tener un sello en el texto (lo que dice) y un sello en el comportamiento (lo que hace) al mismo tiempo, sin que se estorben.

En resumen

AgentMark es como un rastreador de ADN para la personalidad de la IA. Permite que las empresas y los gobiernos puedan auditar a los agentes autónomos, asegurándose de que, si algo sale mal, podamos identificar exactamente qué sistema fue el responsable, sin arruinar la experiencia del usuario ni la eficiencia de la máquina.

Resumen Técnico: AgentMark

1. El Problema: La brecha en la procedencia de los Agentes

Con el auge de los agentes basados en Modelos de Lenguaje Extensos (LLM), surge una necesidad crítica de proteger la propiedad intelectual y garantizar la trazabilidad (procedencia) en entornos regulados. Los métodos actuales de marcas de agua (watermarking) se centran en el contenido (el texto generado), pero fallan en identificar el comportamiento de planificación (la elección de herramientas o subobjetivos) que guía la ejecución de tareas complejas.

Los autores identifican tres desafíos principales para marcar el comportamiento:

Degradación de la utilidad: Pequeñas desviaciones en la toma de decisiones pueden acumularse en ejecuciones de largo plazo, causando que el agente falle en su tarea (task drift).
Limitaciones de API: Muchos agentes operan como "cajas negras" a través de APIs cerradas, lo que impide modificar los pesos del modelo.
Desconexión semántica: Las marcas de agua a nivel de token no se alinean con las decisiones de alto nivel (comportamientos), ya que estas suelen compilarse en acciones estructuradas donde se pierde la señal de la marca de agua.

2. Metodología: AgentMark y AgentMark-F

Para resolver esto, los autores proponen AgentMark, un marco de trabajo que incrusta identificadores de múltiples bits en las decisiones de planificación preservando la distribución de probabilidad original.

Componentes clave:

Separación Comportamiento-Acción: El sistema interviene en la capa de planificación (qué hacer) pero no en la de ejecución (cómo hacerlo). Esto asegura que la lógica de decisión del agente permanezca intacta.
Muestreo Preservador de la Distribución: En lugar de sesgar las probabilidades de forma arbitraria (lo que causaría errores), AgentMark elicta una lista de probabilidades de comportamiento ( $P_t$ ) y utiliza un método de muestreo que garantiza que la distribución marginal de la elección sea idéntica a la original.
Implementación AgentMark-F: Utiliza una técnica de recombinación diferencial para transformar la distribución en "contenedores" (bins) uniformes. Dentro de estos contenedores, emplea un esquema de desplazamiento cíclico (CyclicShift) para codificar bits de forma casi óptima.
Robustez mediante RLNC: Para combatir la pérdida de datos (pasos borrados o truncados en los logs), utilizan Codificación de Red Lineal Aleatoria (RLNC) sobre el cuerpo finito $\mathbb{F}_2$ . Esto permite recuperar la identidad del agente incluso si solo se dispone de una fracción de la trayectoria, tratando cada bit como una ecuación lineal en un sistema que se resuelve mediante eliminación gaussiana.

3. Contribuciones Principales

Nuevo Paradigma de Marcado: Propone el primer marco de trabajo de nivel de planificación que no requiere modificar pesos del modelo ni el muestreo de tokens.
Preservación de la Utilidad: Garantiza matemáticamente que la marca de agua no altera la política de planificación del agente.
Resiliencia a la Erosión de Datos: Introduce un mecanismo de codificación que permite la recuperación de la identidad desde registros incompletos o fragmentados.
Compatibilidad: Demuestra que se pueden usar marcas de agua de comportamiento (AgentMark) y de contenido (como SynthID) de forma simultánea y complementaria.

4. Resultados Experimentales

Los autores evaluaron el sistema en tres entornos: ALFWorld (robótica/embodied), ToolBench (uso de herramientas) y OASIS (simulación social).

Utilidad: En comparación con métodos basados en sesgo (como Red-Green watermarking), AgentMark mantuvo tasas de éxito (SR) casi idénticas a la línea base, mientras que los métodos de sesgo degradaron significativamente el rendimiento en tareas de largo plazo.
Capacidad: Logró una capacidad práctica de varios bits por paso (bps) y por tarea (bpt), permitiendo identificar múltiples IDs distintos.
Robustez: El uso de RLNC permitió una recuperación exitosa incluso con altas tasas de borrado de pasos, mostrando una clara "transición de fase" donde la recuperación es casi segura una vez alcanzado un umbral de información.
Carga Computacional: El impacto en la latencia y el costo de tokens fue despreciable (menor al 0.5% en la mayoría de los casos).

5. Significado y Conclusión

AgentMark representa un avance fundamental para la gobernanza de la IA. Al permitir la auditoría de los procesos de razonamiento y planificación de los agentes (y no solo de su texto final), proporciona una herramienta esencial para la atribución de responsabilidad, la protección de sistemas de agentes propietarios y la mitigación de riesgos de manipulación automatizada en ecosistemas de agentes autónomos.