Résumé technique : Audit de sensibilité en boîte blanche avec vecteurs de pilotage

Énoncé du problème

Les audits algorithmiques actuels pour les grands modèles de langage (LLM) reposent principalement sur des évaluations en boîte noire, qui évaluent le comportement du modèle uniquement par des tests entrée-sortie. Ces méthodes font face à trois limitations critiques :

1. Contraintes de surface : Elles sont limitées à des tests construits dans l'espace d'entrée, souvent générés par des heuristiques, ce qui les rend vulnérables à la sensibilité des invites et à des résultats inconstants.
2. Difficulté des concepts abstraits : De nombreuses propriétés socialement pertinentes, telles que les biais de genre ou raciaux, impliquent des concepts abstraits difficiles à encapsuler ou à manipuler avec précision en utilisant uniquement des entrées textuelles. Les modèles peuvent sembler exempts de biais lorsque les attributs protégés explicites sont perturbés, mais exhibent toujours des biais via des proxys implicites.
3. Risque de Goodhart : Les fournisseurs peuvent optimiser les modèles pour passer des tests spécifiques en boîte noire sans résoudre les problèmes sous-jacents, conduisant à des évaluations peu fiables.

Bien que l'accès en boîte blanche (poids, activations, gradients) soit théoriquement supérieur pour comprendre les mécanismes internes, les travaux antérieurs n'ont pas fourni d'approche technique concrète pour mener de tels audits en pratique.

Méthodologie

Les auteurs proposent un cadre d'audit de sensibilité en boîte blanche qui exploite le pilotage d'activations pour manipuler les représentations internes du modèle et évaluer la sensibilité à des concepts spécifiques. Le cadre adapte la méthode d'interprétabilité a posteriori de Kim et al. (2018) et utilise la méthode non supervisée de Différence Moyenne Pondérée (WMD) (Cyberey et al., 2025) pour l'extraction de vecteurs.

Le processus d'audit suit un cadre en six étapes :

1. Contexte et exigences : Définir le contexte de déploiement et les exigences du système (par exemple, l'invariance au genre dans le scoring de crédit).
2. Construction des tests : Concevoir des modèles de test représentatifs alignés sur les usages prévus.
3. Extraction du vecteur de pilotage :
   • Un ensemble de données $D_C$ couvrant divers degrés d'un concept cible $C$ (par exemple, langage genré ou différences dialectales) est utilisé.
   • La méthode WMD calcule un vecteur de pilotage $v_C$ en pondérant les activations d'entrée par leurs scores de disparité (différence de probabilité de sortie entre concepts contrastés).
   • Des décalages neutres sont appliqués pour filtrer les informations non pertinentes, et la sélection des couches est basée sur la séparabilité linéaire.
4. Test de sensibilité :
   • Pour un ensemble d'entrées de test $D$, les marqueurs explicites de l'attribut protégé sont neutralisés ou supprimés.
   • La représentation interne $h_x$ d'une entrée est perturbée : $h'_x = h_x + \lambda v_C$, où $\lambda \in [-1, 1]$ est le coefficient de pilotage.
   • Le modèle génère des sorties pilotées $y'$ pour diverses valeurs de $\lambda$.
5. Évaluation de la conformité :
   • Une Métrique de Sensibilité ($S_C$) est calculée en ajustant une régression linéaire entre le coefficient de pilotage $\lambda$ et la sortie $y'$. La pente représente la dépendance moyenne du modèle au concept $C$.
   • Exigence d'invariance : Le modèle satisfait l'exigence si $|S_C| \le \epsilon$ (sensibilité négligeable).
   • Exigence de dépendance : Le modèle satisfait l'exigence si $|S_C| \ge \epsilon$ (sensibilité significative et prévisible).

Contributions clés

1. Cadre concret en boîte blanche : L'article introduit une méthode d'audit pratique et de bout en bout qui utilise des interventions ciblées sur les internes du modèle plutôt que des perturbations d'entrée de surface.
2. Nouvelle métrique d'évaluation : Elle applique le pilotage d'activations pour mesurer la sensibilité du modèle via des dérivées directionnelles, permettant une évaluation fine des propriétés du modèle (par exemple, biais) sur une échelle graduée plutôt que binaire (passer/échouer).
3. Généralisabilité : La méthode démontre que les vecteurs de pilotage extraits d'ensembles de données généraux (par exemple, langage genré) peuvent être appliqués pour manipuler des concepts dans des entrées spécifiques à une tâche (par exemple, demandes de prêt) qui peuvent être sans rapport avec les données d'extraction.
4. Robustesse : L'approche produit des résultats d'évaluation plus cohérents à travers différentes sources de vecteurs par rapport à la variabilité observée dans les stratégies de perturbation en boîte noire.

Résultats expérimentaux

La méthode a été évaluée sur quatre tâches de décision à fort enjeu : Procès judiciaires, Scoring de crédit, Admissions universitaires et Diagnostic médical, en utilisant des modèles incluant Llama-3.1, Ministral, Qwen2.5 et des variantes spécifiques au domaine.

• Discrépance avec la boîte noire : Dans les tâches de Scoring de crédit et Judiciaires, la méthode en boîte blanche a fréquemment détecté des biais substantiels (dépendance aux attributs protégés) là où les évaluations standard en boîte noire suggéraient peu ou pas de biais. Par exemple, dans la tâche judiciaire, le modèle Saul-7B a montré un biais d'environ 2,5 % dans les taux de condamnation via des tests en boîte noire, mais la méthode en boîte blanche a révélé une différence de sensibilité de 20 % entre les groupes raciaux.
• Validation des biais cachés : Dans le scoring de crédit, lorsque la méthode en boîte noire a été modifiée pour utiliser des perturbations de noms (indices implicites de genre) plutôt que des étiquettes de genre explicites, le biais mesuré a augmenté et s'est aligné sur les estimations en boîte blanche. Cela suggère que la méthode en boîte blanche capture les risques réels de biais que les perturbations explicites en boîte noire manquent.
• Isolement des variables : En utilisant les indices de Sobol', les auteurs ont montré que le pilotage en boîte blanche avait un impact minimal sur les variables de tâche non protégées (par exemple, historique de crédit, durée d'emploi), tandis que les perturbations d'entrée en boîte noire (comme l'ajout de noms) altéraient parfois la décomposition de ces variables par le modèle.
• Robustesse : Les résultats en boîte blanche sont restés cohérents lorsque les vecteurs de pilotage étaient dérivés de différents ensembles de données (identité dialectale vs raciale), tandis que les résultats en boîte noire variaient considérablement selon que la race était perturbée explicitement ou implicitement.

Importance et affirmations

L'article affirme que les évaluations en boîte noire de surface sont insuffisantes pour évaluer des propriétés abstraites du modèle comme le biais. En sondant directement les représentations internes, la méthode proposée en boîte blanche :

• Révèle les dépendances cachées : Identifie une dépendance substantielle aux attributs protégés qui échappe aux tests entrée-sortie traditionnels.
• Améliore la fiabilité : Fournit des résultats d'audit plus cohérents, moins sensibles à la construction spécifique des invites de test.
• Renforce l'interprétabilité : Permet aux auditeurs d'isoler des concepts spécifiques dans l'espace latent du modèle, offrant une évaluation plus rigoureuse de la fiabilité du modèle dans son contexte de déploiement prévu.

Les auteurs concluent que, bien que l'hypothèse de représentation linéaire fonde leur méthode, cette approche offre une voie pratique vers un audit algorithmique plus rigoureux, transparent et digne de confiance pour les LLM dans des contextes à fort enjeu.