🤖 machine learning

A Benchmark for Strategic Auditee Gaming Under Continuous Compliance Monitoring

Cet article présente un référentiel et un cadre formel pour analyser les stratégies de contournement des audités dans le cadre d'une surveillance continue de la conformité, révélant les limites inhérentes aux conceptions d'audit statiques et démontrant comment des stratégies adaptatives peuvent exploiter les lacunes temporelles en matière de couverture et de granularité.

Auteurs originaux : Florian A. D. Burnat, Brittany I. Davidson

Publié 2026-05-08

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Florian A. D. Burnat, Brittany I. Davidson

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un jeu de « Cache-Cache » joué entre un Régulateur (le chercheur) et une Entreprise Technologique (le caché). Mais au lieu de se cacher derrière un arbre, l'entreprise dissimule la véritable performance de son système d'IA.

Ce document présente une nouvelle méthode pour étudier comment les entreprises pourraient tenter de « contourner » (tromper) ces régulateurs lorsque les règles exigent qu'elles soient vérifiées de manière continue dans le temps, et non pas seulement une fois.

Voici la décomposition des idées du document à l'aide d'analogies simples :

1. Les Nouvelles Règles du Jeu

Par le passé, les chercheurs étudiaient principalement des jeux « en un seul coup » : une entreprise soumet un rapport, et un auditeur le vérifie une seule fois. Mais de nouvelles lois (comme la Loi européenne sur l'IA) exigent que les entreprises rapportent le comportement de leur IA tous les six mois pendant des années.

Cela crée un nouveau problème : l'entreprise peut s'adapter. Elle peut attendre que l'auditeur ne regarde pas, ou modifier légèrement les chiffres pour paraître conforme. Le document traite cela comme un jeu stratégique où l'entreprise tente de trouver les « failles » dans le calendrier de l'auditeur.

2. Les Cinq Façons dont les Entreprises Tentent de Tricher

Les auteurs ont créé un simulateur avec cinq « stratégies de triche » spécifiques que les entreprises pourraient utiliser :

La Tactique du « Délai » : L'entreprise rapporte de vieilles nouvelles. Si les choses ont mal tourné le mois dernier, elles attendent le prochain rapport pour l'admettre, espérant que le régulateur a déjà tourné la page.
La Tactique de la « Dérive » : L'entreprise ajoute un mensonge minuscule et constant à chaque rapport (par exemple, affirmer que son IA est 5 % plus équitable qu'elle ne l'est réellement). C'est assez petit pour ressembler à un bruit normal.
La Tactique du « Choix Sélectif » : L'entreprise exécute le test 5 fois et ne rapporte que le meilleur résultat, cachant les 4 fois où elle a échoué.
La Tactique de l'« Érosion » (La Sournoise) : C'est la grande découverte du document. Lorsque les choses tournent mal, l'entreprise réduit la taille des données qu'elle vous montre.
- Analogie : Imaginez un enseignant demandant à un élève de montrer ses devoirs de mathématiques. L'élève montre habituellement 1 000 problèmes. Mais lorsqu'il obtient une mauvaise note, il n'en montre que 100. Parce que l'échantillon est si petit, la « tolérance à l'erreur » de l'enseignant s'élargit. L'élève peut maintenant cacher une grosse erreur à l'intérieur de cet échantillon petit et flou, et l'enseignant ne la repérera pas.
La Tactique de la « Dérive Hors-Audit » (Le Tricheur Ultime) : L'entreprise sait exactement quand l'auditeur arrive (car l'auditeur doit s'engager sur un calendrier à l'avance). Ainsi, l'entreprise se comporte parfaitement les jours d'audit et triche tous les autres jours.

3. Le « Régime de Couverture » (Le Piège)

Les auteurs ont découvert une faille structurelle dans le fonctionnement de la plupart des auditeurs. Ils l'appellent le « Régime de Couverture ».

Imaginez un garde de sécurité vérifiant une clôture.

Si le garde vérifie chaque point de la clôture, le voleur peut simplement se cacher dans un petit endroit flou (la tactique de l'« Érosion ») où la vision du garde est trop floue pour voir le vol.
Si le garde vérifie seulement certains points (comme tous les trois points), le voleur peut se cacher dans les espaces entre les vérifications (la tactique de la « Dérive Hors-Audit »).

La Dure Vérité : Vous ne pouvez pas résoudre les deux problèmes à la fois avec une règle simple et statique. Si vous vérifiez plus souvent, vous vous exposez à l'astuce du « petit échantillon ». Si vous exigez des échantillons plus grands, vous risquez de manquer l'astuce du « se cacher dans les espaces ».

4. Deux « Solutions Partielles »

Le document teste deux nouvelles règles pour voir si elles peuvent résoudre le problème. Elles fonctionnent, mais seulement d'un côté du piège :

Solution A (La Règle de la « Taille Minimale ») : L'auditeur dit : « J'accepterai les rapports uniquement s'ils contiennent au moins 500 points de données. »
- Résultat : Cela stoppe la tactique de l'« Érosion » (le voleur ne peut plus réduire l'échantillon). Mais cela n'empêche pas le voleur de se cacher dans les espaces entre les jours d'audit.
Solution B (La Règle de la « Suspicion ») : L'auditeur dit : « Si je vois un chiffre étrange une fois, je vérifierai chaque jour par la suite. »
- Résultat : Cela stoppe la tactique de la « Dérive » (le voleur est rapidement pris). Mais cela n'arrête pas la tactique de l'« Érosion » car le voleur cache les mauvais chiffres à l'intérieur de l'échantillon flou et petit, de sorte que l'auditeur ne devient jamais assez suspicieux pour escalader.

Conclusion : Aucune solution ne résout tout. Vous avez besoin d'un auditeur plus intelligent et plus adaptatif pour battre une entreprise intelligente et tricheuse.

5. Le Coût Caché (Bien-être vs Couverture)

Le document introduit une nouvelle façon de mesurer le préjudice. Habituellement, nous additionnons simplement toutes les mauvaises choses. Mais ici, ils les séparent en deux catégories :

Préjudice Visible : Les mauvaises choses qui se produisent dans les rapports que l'auditeur voit.
Préjudice Invisible : Les mauvaises choses qui se produisent dans les données que l'auditeur ne voit pas (parce que l'entreprise a réduit l'échantillon).

La Découverte Choc : Lorsqu'une entreprise utilise la tactique de l'« Érosion », le « Préjudice Visible » chute à presque zéro (l'auditeur pense que tout va bien). Mais le « Préjudice Invisible » explose. La quantité totale de préjudice augmente en réalité, mais elle se déplace d'un endroit que le régulateur peut voir vers un endroit qu'il ne peut pas voir. C'est comme une entreprise qui nettoie la pelouse avant de la maison pendant que l'arrière-cour brûle ; l'inspecteur voit une belle pelouse et pense que la maison est sûre.

Résumé

Ce document construit un simulateur de jeu vidéo pour les régulateurs. Il montre que dans un monde de surveillance continue, des règles simples sont facilement battues par des entreprises intelligentes. Il prouve que vous ne pouvez pas simplement vérifier plus souvent ou exiger des échantillons plus grands ; vous avez besoin d'une stratégie dynamique qui s'adapte au comportement de l'entreprise, sinon le préjudice se déplacera simplement du monde « visible » vers le monde « invisible ».

Résumé technique : Un référentiel pour le jeu stratégique des audités sous surveillance de conformité continue

Énoncé du problème

Les réglementations émergentes, notamment la Loi européenne sur l'intelligence artificielle et le Règlement sur les services numériques (DSA), imposent une surveillance continue de la conformité après déploiement pour les systèmes d'intelligence artificielle et les grandes plateformes en ligne. Contrairement aux travaux antérieurs sur la classification stratégique et les jeux d'audit, qui modélisent généralement des interactions ponctuelles, ces nouveaux régimes créent une relation d'audit longitudinale. Dans ce contexte, une entreprise réglementée (l'audité) rapporte des métriques de résultats sur plusieurs tours, tandis qu'un auditeur (régulateur) sélectionne les tours à examiner selon une politique temporelle.

L'article identifie un vide critique : la littérature existante suppose largement des audités « honnêtes mais curieux » ou des interactions en un seul tour. Elle ne modélise pas comment un audité adaptatif, disposant d'un pouvoir discrétionnaire sur le moment du rapport, les définitions des métriques et la couverture de la population, pourrait stratégiquement « jouer » un système d'audit continu. Des preuves empiriques issues de la base de données de transparence du DSA montrent déjà des incohérences dans les rapports de modération et des « angles morts d'audit » créés par des restrictions d'API, suggérant que l'adaptation stratégique est un phénomène réel nécessitant une analyse formelle.

Méthodologie

Les auteurs formalisent l'audit de conformité continu comme un jeu de Stackelberg sur $T$ tours :

L'Auditeur (Leader) : S'engage sur une politique temporelle $\pi$ à $t=0$ (par exemple, un calendrier fixe ou une distribution aléatoire) qui détermine quels tours sont audités. La règle de décision sur les tours audités est un seuil de style Wald sensible au bruit, où la bande d'acceptation s'élargit pour les plus petites tailles d'échantillon ( $n_t$ ) afin de tenir compte de l'incertitude statistique.
L'Audité (Suiveur) : Observe la politique engagée par l'auditeur et choisit une métrique rapportée $\hat{m}_t$ et une taille d'échantillon $n_t$ pour chaque tour. L'audité peut adapter ses stratégies en fonction du calendrier d'audit et de l'historique de détection.

L'artefact de référence

Pour soutenir l'étude empirique, les auteurs contribuent à un simulateur Python reproductible comprenant :

Cinq stratégies d'audité :
- Retard (Delay) : Décalage des shifts de métriques défavorables.
- Dérive (Drift) : Ajout d'un biais fixe à la métrique réelle.
- Sélection de cerises (Cherry-pick) : Sélection du maximum parmi $K$ estimations stochastiques de métriques.
- Érosion (Attrition) : Réduction de la taille de l'échantillon ( $n_t$ ) lorsque les métriques sont défavorables pour élargir la tolérance au bruit de l'auditeur, tout en appliquant une petite dérive.
- Dérive hors audit (OffAuditDrift) : Une stratégie consciente de l'audit qui rapporte honnêtement lors des tours audités et dérive sur tous les autres, exploitant le calendrier engagé de l'auditeur.
Cinq politiques d'auditeur :
- Références statiques : Ponctuelle, Périodique et Aléatoire planifiée.
- Extensions : Plancher de taille d'échantillon minimale (imposant un $n_t$ minimum) et Escalade de suspicion (augmentation de la fréquence d'audit basée sur les écarts observés).
Métriques d'évaluation :
- Écart de jeu ( $G$ ) : Différence moyenne entre les métriques rapportées et les métriques réelles sur les tours audités.
- Temps jusqu'à la détection ( $\tau_d$ ) : Tours jusqu'à ce qu'un écart soit signalé.
- Décomposition du préjudice : Une répartition non additive en Perte de bien-être ( $W$ ) (préjudice aux individus à l'intérieur du rapport vérifié sur les tours non audités) et Perte de couverture ( $C$ ) (préjudice aux individus exclus du rapport en raison de l'érosion de l'échantillon).

Contributions clés

1. Formalisation de l'audit continu (C1)

L'article établit le complément longitudinal de la classification stratégique ponctuelle, modélisant l'interaction comme un jeu de Stackelberg sur $T$ tours où l'audité dispose d'un pouvoir discrétionnaire sur le timing, les définitions et la couverture.

2. Décomposition non additive du préjudice (C2)

Les auteurs introduisent un cadre séparant le préjudice en $W$ (surface auditée) et $C$ (surface exclue). Ils soutiennent qu'il ne s'agit pas de termes additifs d'une perte totale ; plutôt, l'objectif stratégique est souvent la réaffectation du préjudice de la surface responsable devant le régulateur ( $W$ ) vers la surface invisible pour le régulateur ( $C$ ). L'érosion ne réduit pas nécessairement le préjudice total ; elle le déplace vers un domaine « invisible pour le régulateur ».

3. L'observation du régime de couverture (C3)

L'observation 4.1 identifie un compromis structurel dans toute conception d'auditeur statique sensible au bruit (le « régime de couverture »). Pour un intervalle spécifique de magnitudes de dérive ( $\Delta$ ), une politique de couverture temporelle statique fait face à un compromis contraignant :

Échec de couverture : Si l'ensemble d'audit n'est pas exhaustif ( $\mathcal{A}_\pi \subsetneq \{0, \dots, T-1\}$ ), un audité peut dériver sur les tours non audités sans être détecté.
Échec de granularité : Si l'ensemble d'audit est exhaustif, un audité peut réduire la taille de l'échantillon ( $n_t$ ) pour élargir l'enveloppe de bruit, permettant à une dérive dans le « régime de couverture » d'échapper à la détection.
L'observation prouve qu'une politique statique ne peut pas combler les deux écarts simultanément. Elle identifie une règle statique consciente de la taille de l'échantillon (plancher de taille d'échantillon minimale) et une politique conditionnée par l'historique (escalade de suspicion) comme des sorties orthogonales de ce régime.

4. Validation empirique (C4)

En utilisant des paramètres calibrés sur les statistiques de la base de données de transparence du DSA, le simulateur démontre :

Effet d'érosion : La stratégie Érosion réduit $W$ d'environ 90 % tout en créant une $C$ significative, masquant efficacement le préjudice au régulateur.
Sorties orthogonales : La politique Plancher de taille d'échantillon minimale détecte avec succès l'Érosion (fermant l'échec de granularité) mais échoue face à la Dérive hors audit (échec de couverture). Inversement, l'Escalade de suspicion détecte la Dérive naïve plus rapidement mais échoue face à l'Érosion.
Exploitation consciente de l'audit : La stratégie Dérive hors audit bat toutes les politiques statiques en rapportant honnêtement uniquement sur les tours d'audit connus, validant le cas d'« Échec de couverture » du régime de couverture.

5. Calibration et reproductibilité (C5)

Le référentiel est calibré sur des statistiques résumées d'audits DSA publiés (par exemple, enveloppes de dérive, ratios de taille d'échantillon) et est fourni sous forme de package installable via pip avec des graines déterministes et une interface Python petite et extensible.

Résultats et signification

L'article affirme que l'audit continu crée une classe distincte de jeux stratégiques où l'audité peut exploiter la nature longitudinale de la relation pour déplacer le préjudice des surfaces visibles vers les surfaces invisibles.

Limitation structurelle : Le « régime de couverture » démontre que les politiques temporelles statiques sont intrinsèquement vulnérables. Augmenter la fréquence d'audit ne résout pas les échecs de granularité (manipulation de la taille de l'échantillon), et imposer des tailles d'échantillon ne résout pas les échecs de couverture (timing stratégique).
Adaptation stratégique : La stratégie Dérive hors audit prouve que si l'auditeur s'engage sur un calendrier déterministe ou aléatoire connu, un audité rationnel peut garantir une détection nulle sur les tours audités tout en maximisant le préjudice sur les tours non audités.
Implications politiques : Les résultats suggèrent qu'un audit continu efficace nécessite de dépasser les calendriers temporels statiques. L'article propose que les contraintes de taille d'échantillon et l'escalade conditionnée par l'historique sont des extensions minimales nécessaires, bien qu'aucune ne soit suffisante à elle seule face à un adversaire pleinement adaptatif.

La signification de ce travail réside dans la fourniture du premier environnement exécutable et fondé sur la théorie des jeux pour tester des hypothèses sur le comportement adaptatif des audités dans des contextes réglementaires, dépassant l'hypothèse « honnête mais curieux » prévalente dans la littérature actuelle sur l'équité de l'IA. Il met en évidence que, sans mécanismes d'auditeur adaptatifs, la conformité continue peut créer un faux sentiment de sécurité tandis que le préjudice est systématiquement réalloué aux populations non surveillées.