Résumé Technique : Vers une Épidémiologie de l'IA

Énoncé du Problème

Les systèmes d'IA modernes, en particulier les grands modèles de langage (LLM), sont de plus en plus déployés dans des domaines réglementés à enjeux élevés (santé, finance, droit) où leurs calculs internes restent opaques (« boîte noire »). Les approches de gouvernance actuelles reposent largement sur l'interprétabilité par correspondance (par exemple, SHAP, LIME, traçage mécaniste), qui tente de relier les sorties du modèle à des mécanismes causaux internes. Cependant, à mesure que les modèles passent à l'échelle, ces méthodes font face à une intractabilité computationnelle et à une imprévisibilité épistémique ; les attributions de caractéristiques deviennent instables et les modèles génèrent souvent des explications plausibles en apparence mais infidèles à la réalité.

Par conséquent, il existe une lacune critique en matière de gouvernance : l'absence de méthodes non mécanistes et scalables pour détecter les défaillances de sortie de l'IA et les désalignements de politiques en temps réel lors du déploiement, sans accès aux composants internes du modèle. Les systèmes de signalement d'incidents existants sont rétrospectifs et sélectifs, tandis que l'audit algorithmique manque souvent d'unités d'analyse standardisées pour les interactions de routine.

Méthodologie

Le document propose un Cadre de Standardisation de la Mesure conçu pour compresser les interactions expert-IA en champs structurés et comparables afin de permettre la détection prospective des risques. Cette approche déplace le lieu de la détection des risques des processus internes du modèle vers des modèles de comportement observables, en s'appuyant sur une analogie avec l'épidémiologie (par exemple, l'identification de la source d'eau par John Snow ou le lien tabac-cancer de Bradford Hill), où les corrélations au niveau de la population justifient l'intervention malgré l'incertitude mécaniste.

Composante Centrale : La Grammaire

Le cadre définit un protocole structuré comprenant huit champs pour capturer les interactions :

1. Mission : La tâche extraite de l'entrée de l'expert (type de tâche + sujet).
2. Conclusion : L'action recommandée par l'IA, catégorisée plutôt que textuelle.
3. Justification : Les raisons fournies par l'IA, catégorisées.
4. Niveau de Risque : Une variable de stratification (Élevé/Moyen/Faible) basée sur la gravité potentielle du dommage si la conclusion est incorrecte.
5. Score d'Alignement avec la Politique : Un score ordinal à trois niveaux (Élevé/Moyen/Faible) évaluant la cohérence avec la politique institutionnelle ou réglementaire.
6. Score d'Alignement Évidentiel : Un score ordinal à trois niveaux évaluant si les affirmations factuelles de la justification sont soutenues par la base de preuves du domaine.
7. Override (Contestation) : Un indicateur binaire indiquant si un expert a explicitement contesté la conclusion de l'IA.
8. Option Corrective : La conclusion et la justification révisées exportées par l'expert après une contestation.

Le Mécanisme de l'LLM-en-tant-que-Juge

Pour atteindre l'échelle souhaitée, le cadre utilise un LLM-en-tant-que-Juge pour noter automatiquement l'alignement politique et évidentiel. Pour répondre à la circularité structurelle consistant à utiliser un modèle boîte noire pour juger un autre, le cadre impose des conditions de bornage :

• Rubriques Explicites et Échelles Ancrées : Utilisation d'une échelle ancrée à trois niveaux pour améliorer l'accord.
• Chaîne de Pensée Structurée (Chain-of-Thought) : Le juge raisonne étape par étape contre les rubriques avant d'attribuer un score.
• Ancrage RAG (Retrieval-Augmented Generation) : Les juges sont ancrés dans des documents de politique et de preuves spécifiques pour réduire la sycophantie et l'auto-préférence.
• Décodage à Basse Température : Pour assurer la stabilité et la répétabilité des scores.

Une Procédure de Vérification de la Fiabilité est obligatoire avant le déploiement, exigeant :

• Accord Humain-Juge : Mesuré via le $\kappa$ de Cohen linéairement pondéré (cible $\ge 0,61$).
• Cohérence : Mesurée via le coefficient de corrélation intraclasse (ICC) pour la stabilité test-retest (cible $\ge 0,75$).
• Diagnostics de Biais : Tests ciblés pour la sycophantie, la verbosité et l'auto-préférence.

Protocole d'Évaluation Empirique

Le document spécifie un protocole pour tester si les champs de la grammaire compressée conservent un pouvoir prédictif suffisant pour la détection des risques par rapport au texte conversationnel complet.

• Design : Un test de non-infériorité comparant un classificateur entraîné sur les champs de la grammaire ($X$) à un classificateur « entrée complète ».
• Métrique : Aire sous la courbe (AUC) pour séparer les interactions désalignées des alignées.
• Marge : Une marge de non-infériorité préspécifiée de $\delta = 0,05$.
• Inférence : Inférence par bootstrap apparié (10 000 rééchantillonnages) avec le test de DeLong pour la sensibilité et la correction de Holm–Bonferroni pour les tests multiples.
• Raffinement : Un processus itératif de raffinement de la grammaire (division des catégories, ajustement des rubriques) guidé par l'écart d'AUC jusqu'à ce que la non-infériorité soit atteinte sur un ensemble de test gelé.

Contributions Clés

1. Changement Conceptuel : Introduit l'« interprétabilité par correspondance » comme une catégorie distincte de l'approche proposée par « corrélation ». Il soutient que pour une gouvernance immédiate, l'observation des modèles de sortie est plus viable que l'attente d'une transparence mécaniste.
2. Standardisation de la Mesure : Définit une grammaire spécifique et un protocole de notation qui transforment les dialogues non structurés entre experts et IA en unités de données standardisées et comparables, adaptées à l'analyse au niveau de la population.
3. Signaux de Gouvernance : Propose trois signaux institutionnels exploitables dérivés des données :
   • Distributions d'Alignement Agrégées : Identifier les domaines où les sorties de l'IA sont systématiquement désalignées.
   • Modèles de Contestation (Override) : Mettre en évidence les cas où les experts contestent systématiquement les recommandations de l'IA.
   • Modèles d'Options Correctives : Révéler les fondements et les conclusions révisées que les experts préfèrent, offrant un ensemble de données « correctif » pour le futur réglage fin (fine-tuning) des modèles ou la mise à jour des politiques.
4. Programme Empirique en Trois Étapes : Décrit un parcours de recherche par étapes :
   • Étape 1 : Établir la standardisation de la mesure (fiabilité des juges LLM).
   • Étape 2 : Valider les signaux de gouvernance (utilité pour les experts et les institutions).
   • Étape 3 : Établir les associations de résultats (lier les scores d'alignement aux événements indésirables en aval).

Résultats et Revendications

En tant que document conceptuel, aucun résultat empirique n'est présenté. Le document stipule explicitement que les revendications de niveau population font l'objet d'un programme de recherche par étapes, et non de résultats présentés ici.

Le document formule trois revendications spécifiques et testables :

1. Revendication de Fiabilité : Sous des conditions de bornage (rubriques, RAG, basse température), les LLM peuvent produire des évaluations fiables et standardisées de l'alignement comparables à celles des évaluateurs humains.
2. Revendication de Gouvernance : Les scores d'alignement fournissent des signaux immédiats aux experts pendant le déploiement et permettent aux institutions de surveiller les modèles d'alignement à travers différents modèles et domaines.
3. Revendication Épidémiologique : Une fois la mesure standardisée, les scores d'alignement agrégés peuvent être utilisés pour étudier les associations avec les résultats en aval, permettant une « épidémiologie de l'IA » qui détecte les risques via des variables corrélées plutôt que par analyse mécaniste.

Signification

La signification du document réside dans la fourniture d'une voie pragmatique et scalable pour la gouvernance de l'IA en l'absence d'une interprétabilité parfaite. En traitant la détection des risques de l'IA comme un problème épidémiologique, il offre une méthode pour :

• Détecter les risques de manière prospective (avant que les incidents ne surviennent) plutôt que rétrospective.
• Opérer à échelle sans nécessiter d'accès aux poids du modèle ou aux états internes.
• Générer des pistes d'audit et des données correctives qui peuvent éclairer tant les décisions immédiates des experts que les politiques institutionnelles à long terme.

Le cadre reconnaît ses limites, notamment la « disanalogie exposition-instrument » (utiliser un LLM pour juger un LLM) et le potentiel d'effets d'observateur, mais soutient que les procédures de vérification et le raffinement itératif proposés peuvent atténuer ces menaces à la validité. L'objectif ultime est d'établir une base où l'« épidémiologie de l'IA » peut fonctionner comme une couche de sécurité robuste et non mécaniste pour les systèmes d'IA déployés.