Sequential Fairness Auditing with Limited Output Access

Résumé Technique : Audit de l'Équité Séquentiel avec Accès Limité aux Sorties

Formulation du Problème
Les auditeurs externes sont de plus en plus chargés d'évaluer les systèmes d'IA pour la conformité réglementaire (par exemple, l'IA Act de l'UE), pourtant ils manquent généralement d'accès aux paramètres du modèle, aux données d'entraînement ou à la documentation interne. Au lieu de cela, ils doivent s'appuyer sur des interactions par requêtes avec les systèmes déployés. Les méthodes existentes d'évaluation de l'équité supposent principalement des ensembles de données statiques et des tests statistiques à échantillon fixe, ce qui est mal adapté aux scénarios réels où les preuves doivent être collectées séquentiellement sous des budgets de requêtes stricts.

Ce travail traite du défi de l'audit de l'équité sous un accès limité aux sorties, où l'auditeur n'observe que les sorties du modèle (décisions, scores ou logits) pour des entrées sélectionnées. Le problème central est formulé comme un problème de test d'hypothèse séquentiel sensible à la tolérance. Contrairement aux tests classiques de l'hypothèse nulle ponctuelle, le contexte réglementaire définit la conformité par rapport à un seuil de tolérance $\delta$. L'auditeur cherche à déterminer si une métrique d'équité $g(f)$ satisfait $g(f) \le \delta$ (conformité) ou $g(f) > \delta$ (violation) en accumulant des preuves séquentiellement et en s'arrêtant dès que le support statistique est suffisant ou que le budget de requêtes est épuisé.

Méthodologie
Les auteurs proposent un cadre de Rapport de Vraisemblance Généralisé (GLR) Séquentiel conçu pour des pools d'audit finis et des niveaux variables d'accès au modèle.

1. Métriques d'Équité et Hypothèses : Le cadre cible deux métriques primaires :

   • Parité Statistique (SP) : $|P(f(X)=1|A=a) - P(f(X)=1|A=b)| \le \delta$.
   • Égalité des Chances (EO) : $|P(f(X)=1|Y=1, A=a) - P(f(X)=1|Y=1, A=b)| \le \delta$.
     L'hypothèse nulle $H_0$ représente la conformité ($g(f) \le \delta$), et l'hypothèse alternative $H_1$ représente la violation ($g(f) > \delta$).

2. Régimes d'Accès : La méthodologie distingue trois niveaux d'observabilité :

   • Décision uniquement (Boîte noire) : L'auditeur observe des prédictions binaires $\hat{Y} \in \{0,1\}$. Le modèle de vraisemblance est Bernoulli.
   • Accès aux Scores (Boîte grise) : L'auditeur observe des scores de prédiction $S(x) \in [0,1]$. Le cadre traite ces derniers comme des audits par procuration utilisant un modèle de vraisemblance Gaussienne pour les moyennes de scores conditionnelles par groupe.
   • Accès aux Logits (Proxy de Boîte blanche) : L'auditeur observe les logits pré-sigmoïde $Z(x)$. Similaires aux scores, ils sont utilisés pour des audits par procuration avec un modèle de vraisemblance Gaussienne.

3. Procédure Séquentielle :

   • L'auditeur interroge un pool d'audit fixe, tenu à l'écart (ou un sous-pool filtré pour l'EO où $Y=1$) dans un ordre aléatoire et sans remplacement.
   • À chaque étape $t$, une statistique GLR $\Lambda_t$ est calculée sur la base des données accumulées.
   • Règles d'Arrêt : L'audit se termine si $\Lambda_t$ franchit une limite supérieure $u$ (rejet de $H_0$, violation détectée) ou une limite inférieure $\ell$ (acceptation de $H_0$, conformité certifiée). Si le budget maximal $B$ est atteint sans franchissement de limite, le résultat est déclaré non concluant.
   • Les limites sont fixées à l'aide d'approximations de type Wald ($u = \log((1-\beta)/\alpha)$, $\ell = \log(\beta/(1-\alpha))$) pour des taux d'erreur nominaux $\alpha=0.05$ et $\beta=0.2$.

Contributions Clés

1. Formulation Séquentielle : L'article formalise l'audit de l'équité sous accès limité comme un problème de décision statistique séquentiel avec des seuils de tolérance explicites, allant au-delà de l'évaluation par lots statiques.
2. Protocole GLR : Il développe un protocole de test GLR séquentiel avec des règles d'arrêt opérationnelles pour des contraintes d'équité composites, applicables tant aux audits basés sur les décisions qu'aux audits par procuration (scores/logits).
3. Analyse Sensible à l'Accès : Le travail analyse systématiquement comment différents régimes d'accès (décision uniquement vs observables plus riches) affectent l'efficacité de l'audit, en distinguant les tests exacts basés sur les décisions des audits par procuration.
4. Aperçus Empiriques : À travers des expériences sur les jeux de données ACS et Adult, les auteurs identifient des phénomènes pratiques en audit séquentiel, incluant l'impact du choix de la métrique (SP vs EO) et l'ambiguïté statistique près des seuils réglementaires.

Résultats
Des expériences ont été menées sur des jeux de données de référence (ACS et Adult) en utilisant diverses architectures de réseaux de neurones (modèles de base et contraints par l'équité). Les principales conclusions sont les suivantes :

• Impact des Régimes d'Accès : Des informations de sortie plus riches réduisent considérablement le nombre de requêtes nécessaires pour les audits de Parité Statistique (SP). Par exemple, sur le jeu de données ACS, l'accès aux logits a réduit le nombre moyen de requêtes d'un facteur d'environ trois par rapport à l'accès par décision uniquement. Cependant, pour l'Égalité des Chances (EO), les avantages d'un accès plus riche ne sont pas uniformes.
• Difficulté des Audits EO : Les audits EO sont intrinsèquement plus gourmands en échantillons que les audits SP. Cela est dû au fait que l'EO opère sur un sous-ensemble conditionnel ($Y=1$), qui est plus petit et peut présenter des compositions de groupes moins favorables pour l'accumulation de preuves. Dans les cas proches du seuil (ex: Adult EO), un accès plus riche (scores/logits) n'a pas systématiquement produit des audits plus rapides ou plus concluants ; de nombreuses exécutions se sont terminées de manière non concluante même avec des budgets de requêtes élevés.
• Compromis Efficacité vs Précision : L'audit séquentiel réduit considérablement le coût des requêtes par rapport aux lignes de base à échantillon fixe (par exemple, en utilisant seulement ~200 requêtes contre 4000 pour la SP sur Adult). Cependant, cette efficacité s'accompagne d'un compromis : dans les scénarios difficiles, proches du seuil, les audits séquentiels peuvent produire davantage de résultats non concluants ou une précision de décision plus faible par rapport aux tests à échantillon fixe qui utilisent l'intégralité du budget.
• Effets de Limite : Les modèles présentant des écarts d'équité proches de la tolérance réglementaire $\delta$ produisent fréquemment des résultats non concluants dans des budgets réalistes, soulignant la difficulté statistique de distinguer la conformité de la violation dans ces régimes.

Signification et Revendications
L'article affirme fournir un cadre statistique pratique pour l'audit séquentiel de l'équité qui reflète les contraintes de déploiement réelles où les auditeurs disposent d'un accès limité. Il démontre que :

• Les résultats de l'audit d'équité dépendent non seulement du modèle, mais aussi du protocole statistique et du niveau d'accès de l'auditeur.
• Bien que des sorties plus riches puissent améliorer considérablement l'efficacité de l'audit pour certaines métriques (comme la SP), elles ne garantissent pas des audits plus rapides pour toutes les métriques (comme l'EO), particulièrement lorsque les disparités sont proches du seuil de tolérance.
• Le cadre proposé opérationnalise le concept d'audit "sensible à la tolérance", reconnaissant que de faibles disparités peuvent être légalement admissibles, et fournit un mécanisme pour arrêter la collecte de données une fois que des preuves suffisantes ont été rassemblées.

Les auteurs notent des limitations, notamment l'accent mis sur les groupes binaires et la classification binaire, l'utilisation d'audits par procuration pour l'accès aux scores/logits (qui ne fournissent pas de garanties exactes pour les contraintes de décision dure), et l'utilisation de calibrations opérationnelles plutôt qu'exactes pour les échantillons finis concernant les limites d'arrêt. Ils suggèrent que les travaux futurs pourraient explorer les contextes multi-groupes, les stratégies de requête adaptatives et les séquences de confiance.