🤖 AI

Share No More Than the Request Requires: Federated Disclosure for Perspective-Aware AI

Ce document introduit les Provenance Preserving Chronicles (PPC), un protocole fédéré qui permet aux utilisateurs de maintenir leur souveraineté sur les données en transformant leurs informations personnelles en graphes de connaissances temporels et en appliant un principe de « divulgation minimale nécessaire » afin de ne partager avec des tiers que des contextes strictement autorisés et liés à leur provenance.

Auteurs originaux : Sourena Khanzadeh, Daniel Platnick, Marjan Alirezaie, Hossein Rahnama

Publié 2026-07-28

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Sourena Khanzadeh, Daniel Platnick, Marjan Alirezaie, Hossein Rahnama

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez votre vie numérique comme un immense album de scrapbooking en constante croissance. Chaque photo que vous prenez, chaque SMS que vous envoyez et chaque visite chez le médecin est collée dans cet album. En ce moment, la plupart des grandes entreprises technologiques du monde agissent comme si elles possédaient cet album. Elles le gardent dans un coffre-fort géant et verrouillé, et lorsque vous voulez montrer une photo de votre chat à un ami, vous devez leur remettre l'album entier — ou du moins les laisser jeter un coup d'œil à l'ensemble. C'est risqué car si le coffre est piraté, ou si l'entreprise décide de vendre vos secrets, votre vie entière est exposée.

Pour corriger cela, des scientifiques construisent un nouveau type d'identité numérique où vous détenez l'album de scrapbooking. Dans ce nouveau monde, vos données ne sont pas un énorme bloc ; elles sont décomposées en petits instantanés organisés appelés « Graphes de Situation ». Considérez-les comme des pages individuelles de votre album, chacune capturant un moment spécifique avec des étiquettes telles que « au parc », « en train de manger une pizza » ou « se sentant fatigué ». Lorsque vous empilez toutes ces pages dans l'ordre, elles forment une « Chronique » : une histoire complète et voyageant dans le temps de qui vous êtes. La grande question que cet article traite est la suivante : comment permettre à quelqu'un de poser une question spécifique sur votre histoire (comme « Quel médicament prenez-vous ? ») sans lui donner accidentellement tout votre album, incluant vos entrées de journal intime sur votre coup de foudre ou vos relevés bancaires ?

Les auteurs de cet article, Sourena Khanzadeh et son équipe, proposent une solution ingénieuse appelée Chroniques Préservant la Provenance (PPC - Provenance Preserving Chronicles). Ils suggèrent un système qui agit comme un bibliothécaire super intelligent et strict qui ne vous remet que la page exacte dont vous avez besoin, rien de plus.

Voici comment fonctionne leur « bibliothécaire », en utilisant une analogie ludique :

Imaginez que vous êtes un médecin essayant de déterminer si le nouveau médicament cardiaque d'un patient pourrait entrer en conflit avec son ancien médicament contre les allergies. Vous n'avez pas besoin de voir toute l'histoire de la vie du patient. Vous n'avez pas besoin de savoir ce qu'il a pris au petit-déjeuner il y a trois ans, ou qu'il a un jour écrit un poème triste sur un cœur brisé. Vous avez juste besoin des pages spécifiques concernant ses médicaments actuels et ses allergies.

Dans l'ancienne méthode, le patient pourrait vous envoyer par e-mail un PDF de l'intégralité de son historique médical. Dans le système PPC, la « Chronique » du patient reste sagement verrouillée sur son propre appareil (sa demeure « souveraine »). Lorsque vous, l'agent du médecin, envoyez une requête, il ne demande pas « tout ». Il demande un « sous-graphe de preuve » spécifique.

Considérez la Chronique comme une énorme pelote de laine emmêlée où chaque nœud est un morceau de donnée. Le système PPC est un robot capable de démêler instantanément uniquement le fil rouge (les médicaments) et le fil bleu (les allergies) qui sont connectés à votre question. Il coupe le fil vert (la poésie) et le fil jaune (les relevés bancaires) avant même que cela ne quitte la maison du patient.

L'article introduit une danse en deux étapes pour s'assurer que cela se passe en toute sécurité :

Le Texte d'abord : Le bibliothécaire (le système) vous envoie un résumé écrit en texte clair, du type : « Le patient prend de la Warfarine et est allergique à la Pénicilline. » Crucialement, ce texte est accompagné d'un « reçu » ou d'un pointeur qui dit : « J'ai obtenu ceci de la page de la visite de juin 2024. »
L'Artéfact plus tard : Si vous avez vraiment besoin de voir la photo réelle du flacon de prescription ou l'enregistrement audio de la note du médecin, vous devez le demander spécifiquement. Le patient doit alors donner un second « Oui, j'approuve ce fichier spécifique » avant qu'il ne soit libéré. Cela empêche le système de déverser accidentellement tout un dossier de fichiers simplement parce que vous avez posé une question.

Les chercheurs ont testé cette idée dans deux mondes très différents : la médecine et le droit.

Dans le scénario médical, ils ont montré comment un cardiologue pourrait obtenir la liste des médicaments cardiaques d'un patient sans voir accidentellement ses notes de thérapie psychiatrique. Le système a filtré avec succès les pages « psychiatriques » car la requête du médecin portait uniquement sur les « interactions médicamenteuses », et non sur la santé mentale.
Dans le scénario juridique, ils ont montré comment un avocat pourrait demander des e-mails concernant un contrat spécifique sans obtenir les notes privilégiées entre l'entreprise et ses propres avocats. Le système a su masquer les pages « privilégiées » même si elles étaient attachées à la même chaîne d'e-mails.

Cependant, l'article prend soin de ne pas promettre que ceci est une baguette magique qui résout tous les problèmes. Les auteurs admettent que, bien que le système soit excellent pour trouver l'ensemble le plus petit de faits nécessaires pour répondre à une question, parfois, « le plus petit » n'est pas toujours « le plus utile ». Par exemple, si un médecin pose une question sur un médicament, le système pourrait supprimer la raison pour laquelle le médicament a été prescrit (comme un problème de rythme cardiaque) parce que la question ne demandait pas explicitement le diagnostic. L'article suggère que, bien que le système soit mathématiquement efficace pour cacher des secrets, il pourrait parfois cacher trop de contexte dont un expert humain aurait réellement besoin pour prendre une bonne décision.

L'équipe prévient également que ce n'est pas une solution « blockchain » au sens traditionnel. Ils soutiennent que placer ces données sur un grand registre public partagé (comme Bitcoin) est la mauvaise approche car cela force tout le monde à copier les données de tout le monde. Au lieu de cela, ils proposent une approche « fédérée » où les données restent sur votre propre appareil, et seuls les minuscules extraits approuvés voyagent à travers le réseau.

En bref, cet article suggère une nouvelle façon de partager nos vies numériques : Partagez non plus que ce que la requête requiert. C'est comme avoir une conversation où vous ne répondez qu'aux questions spécifiques posées, plutôt que de raconter toute votre vie simplement parce que quelqu'un a demandé : « Comment allez-vous ? ». Les auteurs ont construit un blueprint pour ce système, montrant qu'il fonctionne en théorie et dans des scénarios simulés, mais ils notent que le véritable défi reste de déterminer exactement comment définir « assez » d'informations afin que nous restions en sécurité sans perdre le contexte dont nous avons besoin pour être utiles.

Résumé Technique : Ne Partager Que Ce que la Requête Exige : La Divulgation Fédérée pour une IA Sensible aux Perspectives

Énoncé du Problème
Les systèmes d'IA modernes reposent sur l'agrégation centralisée des données des utilisateurs, ce qui crée des risques de surveillance de masse et de perte d'autonomie des utilisateurs. Bien que les cadres d'identité souveraine de l'utilisateur (ex. : Solid, Identifiants Vérifiables) permettent aux individus de contrôler leurs données, ils manquent de mécanismes pour la divulgation minimale nécessaire lors d'échanges dynamiques médiés par des agents. Les solutions existantes soit centralisent les données (blockchains), soit distribuent la garde sans minimisation au moment de l'échange (superpositions P2P), soit fournissent un contrôle d'accès à grain grossier (politiques d'autorisation/refus) qui échoue à compiler un sous-graphe de preuves compact et spécifique à une tâche.

Le problème central abordé est le suivant : Étant donné un demandeur, une relation spécifique, un but énoncé et une requête, comment un détenteur de données peut-il libérer le plus petit sous-graphe autorisé de ses données personnelles suffisant pour répondre à la requête, sans centraliser les données ni transférer d'artefacts inutiles ? Ceci est critique pour l'IA sensible aux perspectives (Perspective-Aware AI ou PAi), où l'identité est modélisée comme une « Chronique » — un graphe de connaissances temporel et étiqueté par prédicats — plutôt que comme un document statique.

Méthodologie : Chroniques Préservant la Provenance (PPC - Provenance Preserving Chronicles)
Le document propose les Chroniques Préservant la Provenance (PPC), un protocole fédéré conçu pour compiler des sous-graphes de preuves autorisés à la volée. La méthodologie repose sur trois piliers :

Structure de Données (Chroniques) :
- Les données de l'utilisateur sont structurées en Graphes de Situation ( $G_{t_i}$ ), qui sont des graphes de connaissances étiquetés par prédicats capturant des moments spécifiques (entités, attributs, contexte).
- Une Chronique ( $C_u$ ) est la séquence ordonnée dans le temps de ces Graphes de Situation, consolidée en un graphe d'identité longitudinal ( $G^C_u$ ) avec des pointeurs de provenance vers les artefacts bruts.
La Fonction d'Autorisation ( $A$ ) :
- L'accès ne repose pas uniquement sur l'identité, mais sur la relation ( $r$ ) entre le demandeur et le détenteur (ex. : médecin traitant vs auditeur d'assurance) et sur le but ( $p$ ) de la requête.
- $A$ évalue les nœuds et les arêtes par rapport à des ontologies dées par des experts du domaine pour déterminer si un élément de preuve spécifique est autorisé pour un contexte donné.
Le Protocole de Compilation (Flux en deux phases) :
- Phase 1 : Compilation des Preuves Autorisées.
  - L'agent du demandeur envoie une requête ( $Q$ ) et une présentation vérifiable (identité/rôle).
  - Un planificateur décompose $Q$ en besoins d'informations au niveau du schéma ( $I(Q)$ ) en utilisant des ontologies de domaine.
  - Les détenteurs filtrent localement leurs Chroniques via $A$ , récupèrent les nœuds/arêtes pertinents et effectuent un élagage de minimalité pour extraire un sous-graphe compact ( $S_i$ ) qui couvre les besoins d'information tout en supprimant les données autorisées mais non nécessaires.
  - Un coordinateur assemble ces fragments, aligne les entités entre les détenteurs et re-valide la suffisance.
  - Résultat : Le demandeur reçoit des réponses textuelles liées à des références de provenance (pointeurs vers des triplets spécifiques), et non des artefacts bruts.
- Phase 2 : Libération des Artefacts.
  - Si le demandeur a besoin des données brutes sous-jacentes (ex. : une image de laboratoire), il doit les demander explicitement.
  - Cela déclenche un second contrôle d'autorisation plus strict nécessitant une approbation humaine explicite, par artefact, de la part du détenteur.

Contributions Clés

Formalisation de la Divulgation Minimale Nécessaire : Le document définit le problème comme un objectif de minimisation (Éq. 1) visant à trouver le plus petit sous-graphe $S^*$ qui soit à la fois autorisé et structurellement suffisant pour une requête.
Validation de la Suffisance : Il introduit l'Algorithme 1, un validateur qui vérifie la couverture des chemins, la complétude des types de prédicats, la connectivité et la provenance. Il distingue la suffisance structurelle (garantie par le protocole) de la suffisance clinique/fonctionnelle (dépendante du domaine et notée comme un défi ouvert).
Identification du Fossé Architectural : Les auteurs cartographient les systèmes existants (Blockchain, Solid, P2P) et démontrent qu'aucun ne supporte conjointement la souveraineté du détenteur, l'échange sans registre et la minimisation au moment de l'échange de graphes temporels étiquetés par prédicats.
Modèle de Menace : Le document définit explicitement les menaces liées aux demandeurs malveillants, à l'inférence par consommation (ex. : LLM inférant des données refusées) et à l'injection de prompts, tout en supposant un coordinateur honnête-mais-curieux et un usage correct des justificatifs (credentials).

Résultats et Instanciations de Domaine
Le document ne présente pas de benchmarks empiriques ou de prototype déployé, mais fournit des instanciations théoriques dans deux domaines réglementés pour démontrer la flexibilité du protocole :

Domaine Médical : Un cardiologue interrogeant la Chronique d'un patient pour des interactions médicamenteuses.
- Résultat : Le protocole filtre avec succès les notes psychiatriques et les dossiers de facturation tout en conservant les chaînes de prescriptions et les données d'allergies.
- Tension Identifiée : Le document note un conflit entre la « minimalité structurelle » (supprimer un diagnostic non explicitement demandé) et l'« utilité clinique » (où ce diagnostic pourrait être contextuellement nécessaire). Cela souligne que la « suffisance » dépend de la qualité de la décomposition des besoins d'information ( $I(Q)$ ).
Domaine du Contentieux : Un avocat de la partie adverse demandant des preuves pour la procédure de communication de pièces (discovery).
- Résultat : Le protocole filtre les communications privilégiées entre l'avocat et son client tout en libérant les termes contractuels et les communications non privilégiés.
- Insight : La minimalité peut être trompeuse si elle isole une clause contractuelle de son contexte de négociation, renforçant l'idée que l'ensemble « le plus petit et suffisant » est une fonction de la définition de la suffisance propre au domaine.

Signification et Revendications
Le document affirme que le PPC comble un fossé architectural distinct : il est la couche de compilation qui transforme « ce qu'un demandeur est autorisé à voir » (contrôle d'accès) en « ce dont la requête a réellement besoin » (divulgation minimale nécessaire).

Revendications Modestes : Les auteurs déclarent explicitement qu'ils ne résolvent pas la tension entre une minimisation agressive et l'utilité, ni le problème de l'estimation des distributions de réponses des LLM sur les sous-graphes (le « niveau distributionnel »). Ils présentent la cible de minimisation comme une question ouverte.
Valeur Fondamentale : Le protocole permet une divulgation fédérée axée sur la provenance où les données restent sous la souveraineté du détenteur, et où les artefacts bruts ne sont jamais transmis sans une approbation secondaire explicite. Il se positionne comme complémentaire aux piles d'identité souveraine existantes (comme Solid), en ajoutant la logique nécessaire pour la compilation dynamique et sensible au contexte de sous-graphes.

En résumé, le document propose un cadre rigoureux pour une IA fédérée et sensible aux perspectives où le partage de données est régi par le principe « ne partager que ce que la requête exige », appliqué via un protocole en deux phases qui sépare les résumés textuels autorisés de la libération des artefacts bruts.

Articles similaires