Resumen Técnico: PAAC (Colaboración Agente-Dispositivo-Nube Consciente de la Privacidad)

Enunciado del Problema

Los agentes de Modelos de Lenguaje Grande (LLM) enfrentan una tensión estructural fundamental: los agentes basados en la nube ofrecen capacidades superiores de razonamiento y planificación, pero requieren transmitir datos sensibles del usuario (PII) a servidores remotos, creando riesgos significativos de privacidad. Por el contrario, los agentes locales preservan la privacidad mediante el aislamiento local, pero sufren por recursos computacionales limitados y capacidades de razonamiento reducidas, fallando a menudo en tareas agénticas complejas y de múltiples pasos.

Los paradigmas existentes de colaboración dispositivo-nube tratan la frontera entre dispositivo y nube principalmente como una división de cómputo (por ejemplo, enrutamiento o pipelines fijos) en lugar de una frontera de confianza adecuada para cargas de trabajo agénticas. Además, los métodos actuales de saneamiento de privacidad fuerzan un compromiso entre flexibilidad y fidelidad estructural:

• Los métodos basados en reglas (por ejemplo, NER + regex) son fiables pero están limitados a taxonomías fijas, fallando en proteger entidades definidas por el usuario o específicas del dominio (por ejemplo, IDs de pedidos, nombres de productos personalizados).
• Los métodos de reescritura impulsados por LLM ofrecen flexibilidad de políticas, pero a menudo eliminan las señales estructurales necesarias para que el agente en la nube formule llamadas a herramientas precisas, rompiendo el flujo de trabajo agéntico.

Esto conduce a dos preguntas de investigación centrales:

1. ¿Cómo deben partitionarse el razonamiento y la ejecución entre dispositivo y nube para utilizar la capacidad de la nube sin que datos sensibles crucen la frontera?
2. ¿Cómo pueden identificarse los fragmentos sensibles bajo políticas de usuario arbitrarias y abstraerse en tokens proxy que preserven tanto el rol semántico para el razonamiento en la nube como la fidelidad estructural para la ejecución de herramientas locales?

Metodología: El Marco PAAC

PAAC (Colaboración Agente-Dispositivo-Nube Consciente de la Privacidad) aborda estos desafíos mediante una arquitectura desacoplada que alinea la especialización de roles con la frontera de confianza dispositivo-nube.

1. Arquitectura Alineada con la Frontera de Confianza

PAAC adopta un paradigma de Razonar y Planificar en la Nube, Ejecutar y Juzgar en el Dispositivo:

• Agente en la Nube (Razonador): Opera exclusivamente sobre representaciones saneadas. Recibe la descripción de la tarea y los conjuntos de herramientas con valores sensibles reemplazados por tokens marcadores tipados (por ejemplo, {SALDO: 1234} se convierte en {SALDO: TOKEN_1}). El agente en la nube razona sobre estos tokens para generar planes y llamadas a herramientas sin ver nunca los valores subyacentes.
• Agente Local (Saneador, Juez, Generador de Respuesta Final):
  • Saneamiento: Identifica fragmentos sensibles basándose en políticas definidas por el usuario y propone sustituciones candidatas.
  • Ejecución: Restaura los valores reales localmente para ejecutar llamadas a herramientas (por ejemplo, consultar una base de datos local o una API).
  • Juez: Evalúa el resultado de la ejecución y lo destila en hallazgos clave compactos (por ejemplo, "El saldo es suficiente") en lugar de transmitir registros de ejecución sin procesar. Esto previene la acumulación de trazas de razonamiento largas y sensibles en el dispositivo.
  • Respuesta Final: Sintetiza la respuesta final utilizando la entrada original del usuario, los hallazgos clave destilados y las sugerencias desaneadas de la nube.

Finalización por Consenso: Para manejar la asimetría donde la nube ve el plan completo pero no los resultados reales, y el dispositivo ve los resultados reales pero no el plan completo, PAAC requiere una finalización por consenso. Ambos agentes deben señalar la finalización; si no están de acuerdo, la retroalimentación del dispositivo guía la revisión de la nube.

2. Saneamiento Propositor-Verificador-Registro

Para resolver el compromiso entre flexibilidad y fidelidad, PAAC redefine el papel del LLM local de un saneador completo a un propositor:

• Propositor: El LLM local identifica fragmentos sensibles y propone una asignación a tokens proxy semánticos (por ejemplo, {NOMBRE_PRIMERO_1}).
• Verificador: Una verificación de alineación confirma que el texto saneado propuesto puede revertirse perfectamente a la entrada original. Si el LLM alucina o se desalinea, el sistema recurre a un subconjunto seguro de asignaciones verificables.
• Registro Determinista: Un registro basado en regex, de solo adición, maneja todas las sustituciones y reversiones reales. Este registro se inicializa en el primer turno y persiste durante la sesión.
  • Fidelidad Estructural: Debido a que la sustitución es determinista y basada en regex, el agente en la nube recibe llamadas a herramientas estructuralmente válidas (por ejemplo, restar(TOKEN_SALDO, TOKEN_ALQUILER)), asegurando que la nube pueda razonar correctamente.
  • Garantía de Privacidad: El registro asegura que, una vez que una entidad está enmascarada en el primer turno, permanezca enmascarada incluso si el LLM local se ve comprometido posteriormente. El LLM solo propone; el registro hace cumplir.

3. Gestión del Contexto

PAAC evita el problema del "crecimiento acoplado del contexto de la trayectoria" donde la longitud del contexto explota con cada paso. El agente local solo procesa los resultados de ejecución del paso actual, destilándolos en hallazgos clave. El agente en la nube mantiene su propio contexto de razonamiento sobre tokens saneados. Esto mantiene las entradas por paso compactas para ambos agentes.

Contribuciones Clave

1. Arquitectura Agéntica Desacoplada: PAAC alinea la descomposición planificador-ejecutor con la frontera de confianza dispositivo-nube. La nube razona sobre tokens proxy tipados, mientras que el dispositivo juzga y destila resultados. Este diseño convierte la especialización de roles en sí misma en un mecanismo de privacidad y mantiene las entradas del agente compactas.
2. Saneamiento Propositor-Verificador-Registro: El marco confina al LLM local a proponer pares de saneamiento, controla los compromisos mediante verificación de alineación y delega todas las sustituciones a un registro determinista. Esto preserva la fidelidad estructural de las llamadas a herramientas, asegura la consistencia referencial entre rondas y limita estructuralmente el impacto de cualquier compromiso posterior del LLM local.
3. Validación Experimental: PAAC fue evaluado en tres benchmarks agénticos (τ2-Bench Airline, τ2-Bench Retail, GAIA) y 17 tareas adicionales en 10 dominios (Matemáticas, Ciencias, Finanzas, etc.).

Resultados

Bajo configuraciones de privacidad estrictas, PAAC domina la frontera de Pareto de privacidad y precisión:

• Precisión: PAAC mejora la precisión promedio en un 15–36% en comparación con las líneas base estado del arte dispositivo-nube (por ejemplo, PAPILLON, PRISM).
• Filtrado: Reduce el filtrado promedio de privacidad en un 2–6×.
• Robustez: PAAC mantiene una alta precisión y costos de tokens estables incluso a medida que se endurecen las políticas de privacidad (de P0 a P3). Por el contrario, las líneas base degradan significativamente su precisión o sufren un alto filtrado.
• Generalización: PAAC destaca particularmente en categorías de vocabulario abierto (por ejemplo, IDs de productos personalizados, nombres no estándar) donde fallan los métodos de saneamiento basados en patrones. Logra un filtrado casi nulo en estas categorías mientras mantiene la fidelidad de las llamadas a herramientas.
• Estudios de Ablación:
  • La ganancia arquitectónica (desacoplamiento) por sí sola mejora el rendimiento incluso sin saneamiento.
  • El mecanismo de saneamiento (propositor LLM + registro determinista) supera significativamente a los métodos basados en patrones en tareas de vocabulario abierto.
  • El rendimiento de PAAC es robusto a través de diferentes paradigmas de razonamiento en la nube (ReAct, Plan-and-Solve, RecurrentGPT).

Significado y Afirmaciones

El artículo afirma que PAAC representa un cambio de tratar la frontera dispositivo-nube como una mera división de cómputo a tratarla como una frontera de confianza donde la especialización de roles hace cumplir inherentemente la privacidad.

• Privacidad Estructural: Al reemplazar valores sensibles con tokens proxy tipados, PAAC obliga estructuralmente al agente en la nube a despachar cálculos a herramientas en lugar de razonar sobre números sin procesar en contexto, previniendo ataques de inferencia semántica.
• Flexibilidad de Políticas sin Pérdida de Fidelidad: A diferencia de los enfoques basados en reescritura que rompen las estructuras de llamadas a herramientas, el registro determinista de PAAC asegura que el agente en la nube reciba entradas lo suficientemente ricas semánticamente para la planificación pero estructuralmente idénticas a lo que vería un agente no saneado.
• Escalabilidad: La arquitectura desacoplada permite que el sistema escale con la complejidad de la tarea sin abrumar al agente local con longitudes de contexto crecientes.

Los autores señalan una limitación: PAAC presupone un entorno de herramientas local suficientemente exhaustivo. Si una tarea requiere herramientas externas (por ejemplo, búsqueda web) a las que la nube no puede acceder porque la consulta está saneada, la nube no puede recurrir al conocimiento paramétrico para esas entidades específicas. Sin embargo, dentro del alcance de los conjuntos de herramientas definidos, PAAC logra un compromiso favorable entre privacidad y rendimiento inalcanzable por las líneas base existentes de agente único o dispositivo-nube.