Sequential statistical inference for Large Language Models: Representation, validity, and monitoring

Résumé Technique : Inférence Statistique Séquentielle pour les Grands Modèles de Langage

Énoncé du Problème
Les cadres statistiques actuels pour les grands modèles de langage (LLM) reposent souvent sur une perspective de « prédiction du prochain jeton » (next-token prediction), traitant les sorties des modèles comme des événements isolés et indépendants. Cependant, dans un déploiement pratique, les LLM opèrent au sein d'environnements dynamiques où ils sont interrogés de manière répétée, conditionnés par des contextes évolutifs, interagissent avec des utilisateurs et des outils, et incorporent des boucles de rétroaction. Cette réalité opérationnelle crée des processus stochastiques dépendants plutôt que des séquences de paires prompt-réponse indépendantes. Par conséquent, les hypothèses statistiques standards, telles que l'échangeabilité requise pour la prédiction conforme classique, sont fréquemment violées. L'article soutient que traiter les LLM comme des prédicteurs statiques ne permet pas de répondre aux défis critiques de déploiement : le besoin de garanties de validité sous dépendance, la gestion des interactions adaptatives et la détection des changements de comportement (par exemple, en matière de calibration, de sécurité ou de taux d'hallucinations) après des mises à jour de modèles ou des changements de distribution.

Méthodologie et Cadre
L'article propose un cadre unifié pour le déploiement de confiance des LLM, centré sur l'inférence statistique séquentielle, organisé autour de trois composantes interconnectées :

1. Représentation (L'unité d'analyse) :
   Les auteurs préconisent de passer de l'unité d'analyse statistique des paires prompt-réponse isolées aux trajectoires d'interaction dépendantes. Un flux de travail piloté par un LLM est modélisé comme un processus stochastique où chaque interaction $t$ est un tuple $X_t = (P_t, R_t, U_t)$, représentant le prompt/contexte, la réponse du modèle, et le feedback consécutif de l'utilisateur/outil/environnement. L'historique $H_t$ et la filtration $\mathcal{F}_t$ capturent la nature adaptative du système, où les futurs prompts sont choisis en fonction des interactions passées. Cette représentation reconnaît que la loi conditionnelle de la réponse $R_t$ dépend de l'historique complet $(P_t, \mathcal{F}_{t-1})$, rendant invalides les hypothèses d'échangeabilité standard.

2. Validité (Incertitude sous dépendance) :
   L'article recadre la quantification de l'incertitude, passant d'une métrique de « confiance » statique à une validité en ligne. Il distingue la confiance (une quantité orientée vers le modèle dérivée des probabilités de jetons) de la validité (une procédure orientée vers le processus garantissant qu'un énoncé d'incertitude reste vrai sous des conditions de déploiement spécifiques).

   • Inférence Conforme : Bien que la prédiction conforme classique repose sur l'échangeabilité, l'article suggère d'utiliser des extensions telles que l'inférence conforme en ligne, l'inférence conforme sous changement de distribution, et des méthodes pour les données de séries temporelles dépendantes.
   • Scores Séquentiels : La validité est évaluée sur un flux de scores spécifiques à la tâche $S_t = \phi_t(X_t, \mathcal{F}_{t-1})$, qui résument des propriétés telles que la fiabilité, la sécurité ou l'alignement. Cette approche traite les problèmes d'« arrêt optionnel » inhérents à la sollicitation répétée des prompts et garantit que les garanties restent significatives sous interaction adaptative.

3. Surveillance (Détection de points de rupture) :
   Le cadre traite la surveillance post-déploiement comme un problème de détection de points de rupture séquentiels. L'objectif est de détecter des changements de régime dans le système (par exemple, des changements de calibration, de comportement de refus ou d'équité) plutôt que des erreurs isolées.

   • Mécanisme : Une séquence de scores surveillés $\{Z_t\}$ est générée à partir du flux d'interaction. Un temps d'alarme $\tau$ est défini comme un temps d'arrêt où une statistique de détection $W_t$ dépasse un seuil $b$.
   • Étendue de la dérive : Contrairement à la dérive de concept traditionnelle qui se concentre sur les changements de distribution entrée-sortie, la surveillance des LLM doit tenir compte des changements dans la distribution des prompts, les mises à jour des modèles, les changements des systèmes de récupération, les environnements d'outils et les boucles de rétroaction des utilisateurs.
   • Intégration : La surveillance est étroitement couplée à la validité ; lorsqu'un point de rupture est détecté, les garanties de calibration précédentes peuvent être suspendues, nécessitant une recalibration ou une revue humaine.

Principales Contributions

• Changement Conceptuel : L'article établit que la « couche d'inférence séquentielle » est une composante statistique distincte et nécessaire pour les LLM, complétant les agendas existants sur l'incertitude, l'équité et l'interprétabilité.
• Recadrage de l'Unité d'Analyse : Il déplace explicitement l'attention des probabilités au niveau du jeton vers la fiabilité au niveau de la trajectoire, offrant une interface naturelle avec la théorie des processus stochastiques, les filtrations et l'évolution des états.
• Structure Unificatrice : Il identifie une structure opérationnelle commune à divers défis des LLM (incertitude, prédiction conforme, adaptation du modèle, équité), les unifiant sous le paradigme du Contrôle Statistique des Procédés (SPC) pour les systèmes adaptatifs.
• Pont Méthodologique : Il relie le déploiement des LLM à la littérature statistique établie sur les données dépendantes, incluant les modèles linéaires généralisés séquentiels, l'analyse de séries temporelles et la détection de points de rupture séquentiels, offrant un langage rigoureux pour traiter la dépendance et la non-stationnarité.

Résultats et Revendications
En tant qu'article de discussion, ce travail ne présente pas de nouveaux résultats expérimentaux ou de benchmarks empiriques. À la place, ses « résultats » sont théoriques et structurels :

• Il démontre que considérer les LLM comme des processus stochastiques dépendants résout l'incompatibilité entre les hypothèses statistiques standards (échangeabilité) et les réalités du déploiement (adaptation et rétroaction).
• Il soutient que les garanties de validité doivent être « valides à tout moment » (anytime-valid) pour accommoder l'utilisation répétée et l'arrêt optionnel.
• Il pose que la surveillance via des alarmes séquentielles est essentielle pour maintenir la confiance, car les évaluations statiques pré-déploiement ne peuvent pas rendre compte des changements de régime causés par les mises à jour de modèles ou l'évolution du comportement des utilisateurs.

Signification
L'article affirme que l'ère des LLM rend les questions statistiques classiques concernant la dépendance, la validité et la détection de changement nouvellement urgentes. En formulant le déploiement fiable des LLM comme un problème de validité en ligne et de contrôle statistique des procédés, les auteurs fournissent un langage naturel pour que les statisticiens contribuent à la recherche sur les LLM. Cette perspective ne remplace pas les agendas existants (tels que ceux de Ji et al., 2026) mais les complète en rendant explicite la structure séquentielle sous-jacente à la quantification de l'incertitude, à la prédiction conforme et à la collaboration humain-IA. L'implication ultime est que les systèmes de LLM robustes nécessitent une modélisation au niveau de la trajectoire, des procédures de validité qui tiennent sous la dépendance, et des mécanismes de surveillance continue liés à des flux de travail impliquant l'humain pour la recalibration et l'audit.