SplitAgent: A Privacy-Preserving Distributed Architecture for Enterprise-Cloud Agent Collaboration

Le papier présente SplitAgent, une architecture distribuée innovante qui permet une collaboration privée entre agents d'entreprise et agents cloud grâce à une désanonymisation contextuelle dynamique, garantissant ainsi une protection des données sensibles sans sacrifier la précision des tâches.

L'essentiel

Imaginez que votre entreprise est une forteresse remplie de trésors secrets : des contrats confidentiels, des codes informatiques propriétaires, des données financières et des informations sur vos clients.

D'un autre côté, vous avez besoin d'un génie très puissant (une intelligence artificielle dans le cloud) pour vous aider à analyser ces trésors, à rédiger des stratégies ou à auditer vos systèmes.

Le problème ?
Le génie est si puissant qu'il doit voir les trésors pour vous aider. Mais si vous lui ouvrez les portes de la forteresse, vous risquez de tout perdre : vos secrets pourraient être volés ou fuités. C'est le dilemme classique : soit vous gardez tout secret mais vous n'avez pas l'aide du génie, soit vous donnez tout au génie mais vous perdez votre confidentialité.

Les solutions actuelles vous disent : « Choisis l'un ou l'autre ».

La solution de ce papier : SPLITAGENT
Les auteurs proposent une architecture intelligente appelée SPLITAGENT. Voici comment cela fonctionne, avec une analogie simple :

1. Le concept du « Traducteur de Confiance »

Au lieu d'envoyer vos documents bruts au génie, vous installez un agent de sécurité (le Privacy Agent) juste à la porte de votre forteresse.

• L'Agent de Sécurité (Côté Entreprise) : C'est un gardien très intelligent. Il ne laisse jamais sortir les documents originaux. À la place, il lit le document, comprend de quoi il s'agit, et crée une version « déguisée » ou abstraite.
• Le Génie (Côté Cloud) : Il reçoit uniquement cette version déguisée. Il est assez intelligent pour travailler avec ces abstraction pour vous donner des conseils, sans jamais avoir vu les noms réels, les montants exacts ou les mots de passe.

2. La Magie du « Déguisement Adaptatif »

C'est la grande innovation du papier. Imaginez que vous devez envoyer un message à votre ami pour qu'il vous aide à résoudre un problème.

• Scénario A : Révision d'un contrat.
  Si vous devez analyser un contrat de vente, le gardien va garder la structure juridique (les clauses, les obligations) mais effacer les noms (remplacer « Apple Inc. » par « L'Entreprise A ») et chiffrer les montants (remplacer « 1 million de dollars » par « Une somme importante »). Le génie peut toujours voir si le contrat est équilibré, mais ne sait pas qui est impliqué.
• Scénario B : Révision de code informatique.
  Si vous devez analyser un code, le gardien garde la logique et la structure du code, mais efface les mots de passe, les adresses internes et les clés secrètes. Le génie peut dire « ce code est bien écrit » sans savoir où il est hébergé.
• Scénario C : Analyse financière.
  Le gardien garde les tendances (les courbes montantes ou descendantes) mais cache les numéros de compte spécifiques.

C'est comme si le gardien savait exactement quoi cacher en fonction de ce que le génie doit faire. C'est ce qu'ils appellent la « désinfection contextuelle ».

3. Le Budget de Confidentialité

Imaginez que vous avez un compteur de confidentialité (un budget). Chaque fois que vous envoyez une information au génie, cela coûte un peu de ce budget.

• Si vous envoyez trop d'informations, le compteur descend vite.
• SPLITAGENT est intelligent : il gère ce budget. Il sait quand il peut envoyer un peu plus de détails pour obtenir une meilleure réponse, et quand il doit se taire pour protéger vos secrets. Il s'assure que vous ne dépensez pas tout votre budget en une seule fois.

Pourquoi est-ce génial ?

Les chercheurs ont testé leur système et ont découvert quelque chose d'étonnant :

• Les méthodes anciennes (qui masquaient tout de la même façon, comme un filtre noir) perdaient beaucoup d'informations utiles. Le génie faisait des erreurs.
• SPLITAGENT, grâce à son déguisement intelligent, réussit à garder 90% de la confidentialité tout en permettant au génie d'être 84% aussi précis que s'il avait vu les documents originaux.

En résumé

SPLITAGENT est comme un traducteur diplomatique entre votre entreprise et le cloud.
Il dit au génie : « Voici ce que vous devez savoir pour faire votre travail, mais voici ce que vous ne devez absolument pas savoir pour protéger nos secrets. »

Cela permet aux entreprises d'utiliser la puissance de l'IA moderne sans avoir peur de laisser fuir leurs données les plus sensibles. C'est la fin du choix impossible entre « sécurité » et « intelligence ». On peut enfin avoir les deux.

Résumé technique

Résumé Technique : SplitAgent

1. Problématique

L'adoption des agents d'intelligence artificielle (IA) par les entreprises se heurte à un dilemme fondamental entre capacité et confidentialité :

• Le Dilemme : Les modèles de langage (LLM) les plus performants résident dans le cloud et nécessitent le partage de données pour fonctionner. Cependant, les entreprises doivent protéger des informations sensibles (données clients, propriété intellectuelle, documents financiers).
• Limites des solutions actuelles : Les protocoles d'agents existants (comme le Model Context Protocol de Anthropic ou le protocole Agent-to-Agent de Google) supposent une confiance totale et un partage complet des données, ce qui les rend inadaptés aux environnements d'entreprise.
• L'échec des approches binaires : Les solutions actuelles forcent un choix binaire : soit tout traiter localement (capacité IA limitée), soit tout envoyer au cloud (risque de fuite de données). De plus, les méthodes de masquage statique (ex: remplacer tous les noms par des étoiles) dégradent inutilement l'utilité des tâches, car différentes tâches (révision de contrat, audit de code, analyse financière) nécessitent des niveaux de protection et de préservation sémantique différents.

2. Méthodologie : L'Architecture SplitAgent

Les auteurs proposent SplitAgent, une architecture distribuée nouvelle qui sépare la gestion des données sensibles du raisonnement, permettant une collaboration sécurisée entre un agent côté entreprise et un agent côté cloud.

A. Architecture à deux niveaux :

1. Agent de Confidentialité (Côté Entreprise) :
   • Gère toutes les données sensibles (documents, bases de données, code).
   • Exécute localement les opérations critiques et les outils sensibles.
   • Génère des abstractions sanitizées (données nettoyées) avant de les envoyer au cloud.
   • Inclut un moteur de recherche local (RAG) et un gestionnaire de budget de confidentialité.
2. Agent de Raisonnement (Côté Cloud) :
   • Opère exclusivement sur les abstractions sanitizées.
   • Utilise des LLM puissants pour le raisonnement logique, la planification et la génération de stratégies.
   • Ne possède jamais accès aux données brutes de l'entreprise.

B. Innovation Clé : Sanitisation Dynamique Sensible au Contexte
Contrairement aux règles statiques, le moteur de sanitisation de SplitAgent adapte la protection en fonction de la sémantique de la tâche :

• Révision de contrat : Préserve la structure juridique mais masque les identités des parties et les montants spécifiques.
• Audit de code : Préserve la syntaxe et les motifs d'API mais supprime les identifiants d'authentification et les URLs internes.
• Analyse financière : Conserve les tendances et les relations numériques tout en masquant les comptes spécifiques.

C. Protocole de Sécurité Étendu
Le système étend les protocoles d'agents existants avec des primitives de confidentialité :

• Partage de contexte avec Différential Privacy (DP) : Ajout de bruit calibré pour garantir $(\epsilon, \delta)$-DP.
• Vérification à Connaissance Zéro (Zero-Knowledge) : Permet au cloud de vérifier l'exécution d'outils sans voir les données sous-jacentes.
• Gestion du Budget de Confidentialité : Suivi dynamique de la consommation du budget $\epsilon$ sur l'ensemble des interactions pour éviter la fuite cumulative.

3. Contributions Principales

1. Architecture Distribuée : Une séparation stricte entre le traitement des données (local) et le raisonnement (cloud) sans sacrifier l'utilité.
2. Sanitisation Contextuelle : Un algorithme (décrit dans l'Algorithme 1 du papier) qui génère des abstractions adaptées à la tâche, maximisant l'utilité tout en respectant la confidentialité.
3. Garanties Formelles : Intégration de la Différential Privacy et de la gestion de budget dans le protocole de communication des agents.
4. Résultats Expérimentaux : Démonstration qu'il est possible d'atteindre un équilibre optimal entre précision de la tâche et protection des données, surpassant largement les méthodes statiques.

4. Résultats Expérimentaux

Les évaluations ont été menées sur six scénarios d'entreprise (contrats, code, finance, support client, etc.) en comparant SplitAgent à des approches de référence (Cloud complet, Local complet, Split statique).

• Performance Globale :
  • Précision de la tâche : 83,8 % (contre 73,2 % pour les approches statiques).
  • Protection de la confidentialité : 90,1 % (contre 79,7 % pour les approches statiques).
• Gain d'Utilité : La sanitisation contextuelle améliore l'utilité de la tâche de 24,1 % par rapport aux méthodes statiques (regex/NER fixes) tout en réduisant les fuites de confidentialité de 67 %.
• Gestion du Budget : Sur 50 tours d'interaction, la gestion intelligente du budget permet d'atteindre une utilité cumulative de 34,2 (vs 24,3 pour une allocation naïve) avec un taux de réussite de 96 %.
• Résistance aux Attaques :
  • Réduction de 89 % du taux de réussite des attaques par reconstruction par rapport aux méthodes sans défense.
  • Résistance particulièrement forte contre les attaques de liaison (linkability), avec un taux de réussite de l'attaquant de seulement 6,7 %.
• Compromis Optimal : Le point d'équilibre optimal entre utilité et confidentialité est atteint pour un budget $\epsilon = 0,5$, offrant 83,4 % de précision avec 94,5 % de protection.

5. Signification et Impact

Ce travail fournit une fondation pratique pour l'adoption de l'IA par les entreprises dans le cloud.

• Résolution du compromis : SplitAgent brise le compromis traditionnel entre confidentialité et performance, permettant aux entreprises d'utiliser des LLM puissants sans exposer leurs données sensibles.
• Adaptabilité : La capacité à adapter la protection à la nature de la tâche (juridique, technique, financière) rend la solution applicable à des cas d'usage réels complexes.
• Faisabilité : L'architecture est conçue pour s'intégrer aux systèmes existants via des API standard et peut être déployée sous forme de services conteneurisés, avec une surcharge de latence modeste (environ 15 %).

En conclusion, SplitAgent représente une avancée majeure vers un écosystème d'IA d'entreprise sécurisé, où la confidentialité des données n'est plus un obstacle à l'innovation, mais une composante intégrée de l'architecture de collaboration.