Privacy Specifications that do not Compose: Empirical and Formal Auditing of Sequentially Published Energy Data
Cet article démontre que les données énergétiques publiées de manière séquentielle ne parviennent souvent pas à respecter les promesses de confidentialité au fil du temps, car les publications annuelles répétées permettent l'inférence d'informations sensibles sur des groupes marginaux par une simple soustraction, nécessitant ainsi un passage de l'audit de fichiers isolés à l'évaluation de la séquence entière en utilisant de nouvelles mesures telles que la « demi-vie de spécification ».
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez une bibliothèque qui publie un rapport annuel sur la quantité d'électricité consommée par chaque quartier. Pour protéger la vie privée des gens, la bibliothèque applique une règle stricte : « Nous n'écrirons jamais de chiffres pour un quartier s'il ne contient pas au moins cinq maisons. » C'est comme dire : « Nous ne nommerons pas une personne spécifique ; nous parlerons seulement d'un petit groupe. »
Pendant des années, la bibliothèque a suivi cette règle à la perfection. Chaque rapport annuel, examiné isolément, est sûr. Personne ne peut savoir qui vit dans quelle maison en lisant simplement le livre de cette année-là.
Le Problème : Le tour de magie mathématique
Cet article soutient que si chaque livre individuel est sûr, la série entière de livres ne l'est pas. Les auteurs ont découvert un « tour de magie mathématique » que n'importe qui peut utiliser pour briser la promesse de confidentialité.
Voici l'analogie :
Imaginez que vous avez deux photos d'une foule prises une année d'intervalle.
- Photo A (Année 1) : Montre une foule de 100 personnes.
- Photo B (Année 2) : Montre une foule de 98 personnes.
Si vous regardez la Photo A seule, vous voyez un grand groupe. Si vous regardez la Photo B seule, vous voyez un grand groupe. Les deux sont sûres.
Mais, si vous prenez la Photo B et que vous soustrayez la Photo A de la Photo B (mathématiquement), il vous reste une image de exactement 2 personnes qui ont quitté la foule.
L'article a découvert que les éditeurs de données énergétiques font exactement cela. En prenant les données de l'année en cours et en soustrayant les données de l'année précédente, ils révèlent accidentellement de petits groupes de personnes (parfois seulement 1 ou 2 foyers) que la règle des « cinq maisons » était censée cacher.
La « Demi-vie » de la confidentialité
Les auteurs ont trouvé une nouvelle façon de mesurer la durée de vie réelle d'une règle de confidentialité. Ils appellent cela la « Demi-vie de la spécification ».
Voyez la promesse de confidentialité comme une pile.
- Lorsque la bibliothèque publie le premier rapport de l'année, la pile est chargée à 100 %. La promesse est forte.
- Après la deuxième année, la pile baisse un peu car le tour de magie mathématique devient possible.
- Après la troisième année, la pile est à moitié morte. La promesse que « nous protégeons tout le monde » n'est plus vraie pour la plupart des quartiers.
Dans les données du Royaume-Uni qu'ils ont étudiées, la promesse de confidentialité est « morte » (est devenue inutile) après seulement trois ans. Dans les données des États-Unis auxquelles ils ont comparé, la promesse a duré plus longtemps car les chiffres étaient plus stables, mais elle s'est quand même dégradée avec le temps.
Le travail de détective « formel »
Les auteurs n'ont pas seulement supposé que cela se passait ainsi ; ils ont utilisé deux types de travail de détective :
- Le détective empirique (Les mathématiques) : Ils ont réellement effectué la soustraction sur des données réelles. Ils ont découvert que dans 93 % des petites zones qu'ils ont vérifiées, ils pouvaient repérer un changement de seulement 1 à 4 maisons entre les années. Cela a prouvé que le « tour de magie mathématique » fonctionne dans le monde réel.
- Le détective formel (La logique) : Ils ont traduit les règles écrites de la bibliothèque dans un langage informatique (comme une énigme logique). Ils ont demandé à l'ordinateur : « Est-ce que votre règle écrite empêche réellement ce tour de soustraction ? » L'ordinateur a répondu « Non. » Il a souligné que la règle de la bibliothèque ne vérifiait qu'une seule année à la fois et oubliait de vérifier ce qui se passe lorsqu'on empile les années ensemble.
La conclusion principale
Le message principal de l'article est simple : Les règles de confidentialité ne fonctionnent pas si vous les vérifiez une par une.
Si vous publiez des données chaque année, vous devez vérifier toute la pile d'années, et pas seulement la nouvelle. Les auteurs suggèrent que les éditeurs ont besoin d'une nouvelle règle : « Avant de publier les données de cette année, nous devons vérifier si la soustraction de ces données par rapport à celles de l'année dernière révèle des petits groupes secrets. »
Ils ont également découvert que pour certains ensembles de données (comme les petits quartiers du Royaume-Uni), les chiffres changent si vite que la règle de confidentialité se brise très rapidement. Pour d'autres (comme les grandes compagnies d'électricité), les chiffres sont stables, donc la règle dure plus longtemps. Mais dans tous les cas, la règle de la « année unique » est un mensonge lorsqu'on regarde la série complète.
En bref : Vous ne pouvez pas simplement verrouiller la porte pour aujourd'hui et oublier hier. Si vous continuez à publier le même type de données, les « verrous » finissent par s'user, et les mathématiques peuvent crocheter la serrure.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.