Résumé Technique : Conf-Gen : Quantification Conformale de l'Incertitude pour les Modèles Génératifs

Énoncé du Problème

Les récentes percées en intelligence artificielle, en particulier dans les modèles génératifs non supervisés tels que les grands modèles de langage (LLM) et les générateurs d'images, ont déplacé le paysage loin de l'apprentissage supervisé traditionnel. Cependant, la quantification de l'incertitude (UQ) demeure un défi critique pour ces systèmes génératifs, entravant leur déploiement dans des domaines à haut risque tels que la santé et la découverte scientifique.

Bien que la prédiction conforme (CP) et le contrôle conforme des risques (CRC) offrent des cadres rigoureux et sans distribution pour l'UQ dans l'apprentissage supervisé, ils ne sont pas directement compatibles avec les tâches génératives. Les tentatives existantes d'appliquer des idées conformes aux modèles génératifs sont souvent hautement spécifiques à la tâche, reposent sur des hypothèses restrictives (telles qu'une stricte monotonie des fonctions d'utilité) et se limitent aux sorties ensemblistes. De plus, les implémentations actuelles nécessitent souvent des étiquettes de vérité terrain et des fonctions d'utilité appelables, qui ne sont pas toujours disponibles dans des scénarios génératifs ouverts.

Méthodologie : Cadre Conf-Gen

Les auteurs proposent Conf-Gen (Génération Conforme), un cadre général qui adapte le CRC aux tâches génératives tout en assouplissant ses hypothèses théoriques. Conf-Gen unifie les tentatives antérieures spécifiques à la tâche et étend la méthodologie conforme à de nouveaux domaines, y compris les séquences et les sorties structurées au-delà des simples ensembles.

Composants Principaux

Le cadre fonctionne sur un ensemble de données d'étalonnage $G_{:n} = \{(X^{(i)}, Y^{(i)}, Y^{(i)}_{GT})\}_{i=1}^n$, où $X$ est l'entrée, $Y$ est une séquence de générations, et $Y_{GT}$ est une vérité terrain optionnelle. Il se compose de trois composants principaux :

1. Fonctions de Sélection ($C_\lambda$) : Une famille de fonctions potentiellement stochastiques $C_\lambda: \mathcal{X} \times \mathcal{Y}^* \to \mathcal{S}$, indexées par un paramètre $\lambda$. Contrairement à la CP traditionnelle qui produit des ensembles, $\mathcal{S}$ peut être des séquences ($\mathcal{Y}^*$) ou d'autres sorties structurées. Intuitivement, des valeurs de $\lambda$ plus élevées produisent des sorties plus conservatrices (par exemple, des séquences plus courtes ou des sous-ensembles plus stricts) qui atteignent une admissibilité plus élevée.
2. Fonction d'Admissibilité ($A$) : Une fonction $A: \mathcal{X} \times \mathcal{S} \times \mathcal{Y}_{GT} \to [0, \infty)$ qui généralise la fonction d'utilité dans le CRC. Elle mesure la qualité de la sortie sélectionnée. Crucialement, $A$ n'a pas besoin d'être une fonction appelable ; elle peut être définie par une évaluation humaine ou des procédures où la vérité terrain est indéfinie.
3. Étalonnage : La méthode trouve un seuil $\hat{\lambda}$ tel que l'admissibilité moyenne sur l'ensemble de données d'étalonnage atteigne une cible $\gamma$. Formellement, $\hat{\lambda} = \inf \{ \lambda \in \Lambda : \bar{A}_n(\lambda) \ge \frac{n+1}{n}\gamma \}$.

Contributions Théoriques

Conf-Gen introduit une définition d'instance $\gamma$-sensible qui assouplit les hypothèses du CRC :

• Monotonie Assouplie : Au lieu d'exiger que la fonction d'admissibilité soit non décroissante presque sûrement (une exigence stricte dans le CRC), Conf-Gen exige seulement que l'application $\lambda \mapsto \mathbb{E}[A^{(n+1)}(\lambda) \mid \hat{\lambda}, \lambda^*]$ soit non décroissante en espérance conditionnelle. Cela permet des scénarios où la relation entre $\lambda$ et l'admissibilité n'est pas strictement monotone dans chaque réalisation mais tient en espérance.
• Espaces de Sortie Généralisés : Le cadre prend en charge des sorties au-delà des ensembles (par exemple, des séquences), permettant des applications telles que la sélection d'une sous-séquence de réponses ou d'un sous-ensemble d'actions.
• Aucune Exigence de Vérité Terrain : Le cadre n'exige pas strictement une vérité terrain $Y_{GT}$ bien définie pour chaque instance, s'adaptant aux tâches ouvertes où l'admissibilité est déterminée par une évaluation humaine ou une cohérence sémantique.

Efficacité Computationnelle

L'article identifie des modèles de conception pour rendre Conf-Gen calculable :

• Sélection Basée sur les Scores : En définissant $C_\lambda$ sur la base de scores attribués à des éléments individuels (par exemple, sélectionner des éléments où $S_\downarrow(x, y_t) \le \lambda$), l'image de la fonction de sélection devient finie, permettant un étalonnage efficace même avec un $\Lambda$ infini.
• Décomposition au Niveau de l'Instance : Si la fonction d'admissibilité peut être décomposée en une agrégation de scores au niveau de l'instance (par exemple, $A = \text{agg}(A'_1, \dots, A'_T)$), l'étalonnage peut être effectué en évaluant $A'$ sur tous les éléments générés une seule fois, découplant l'évaluation du choix de $\lambda$.
• Génération Partielle : Dans de nombreux cas, le système peut arrêter la génération d'une séquence prématurément une fois que les critères de sélection sont remplis, économisant ainsi des ressources computationnelles.

Contributions Clés

1. Cadre : Propose Conf-Gen, un cadre UQ rigoureux pour les modèles génératifs qui généralise le CRC aux séquences et aux sorties structurées.
2. Théorie : Assouplit l'hypothèse de monotonie du CRC d'une condition presque sûre à une condition d'espérance conditionnelle, élargissant l'applicabilité aux tâches où la monotonie stricte ne tient pas.
3. Logiciel : Fournit un package Python flexible (conf-gen) supportant un étalonnage et une inférence efficaces à travers diverses configurations.
4. Validation Empirique : Démontre la polyvalence du cadre à travers des tâches nouvelles, surpassant les bases de l'état de l'art dans les questions-réponses de LLM et établissant les premières garanties conformes pour plusieurs nouveaux domaines d'application.

Résultats Expérimentaux

Les auteurs valident Conf-Gen sur diverses tâches, montrant qu'il satisfait les garanties conformes (admissibilité empirique $\ge \gamma$) tout en maintenant une utilité pratique (séquences plus courtes ou sorties de meilleure qualité par rapport aux bases).

• Questions-Réponses en Domaine Ouvert : Sur l'ensemble de données TriviaQA, Conf-Gen produit des séquences de réponses plus courtes que la base (Quach et al., 2024) tout en maintenant la même garantie de couverture, réduisant le nombre d'appels LLM requis.
• Génération d'Images Non Mémorisées : Appliqué à Stable Diffusion, Conf-Gen sélectionne des images vérifiées par des évaluateurs humains comme « non mémorisées » (c'est-à-dire non copiées sur les données d'entraînement) avec une probabilité garantie $\gamma$. Cela aborde les risques de droits d'auteur associés aux modèles génératifs.
• IA Conversationnelle : Le cadre garantit qu'un chatbot pose suffisamment de questions de clarification pour résoudre l'ambiguïté avant de répondre. Les résultats montrent un compromis où un $\gamma$ plus élevé conduit à plus de clarifications, mais le système ne se contente pas de poser le nombre maximum possible.
• IA Agentique : Pour les tâches basées sur le web (ensemble de données WebVoyager), Conf-Gen garantit qu'une séquence sélectionnée de trajectoires d'agents contient au moins une solution réussie avec une probabilité $\gamma$.
• Forêts Aléatoires : Le cadre est appliqué à l'apprentissage supervisé en sélectionnant un sous-ensemble d'arbres d'une forêt aléatoire qui garantit un nombre minimum de prédictions correctes, démontrant la généralité de la méthode au-delà des modèles génératifs.

Signification et Revendications

L'article affirme que Conf-Gen représente une étape significative vers une amélioration de la quantification de l'incertitude dans les modèles génératifs. En assouplissant les hypothèses théoriques du CRC, il permet l'application de garanties conformes à un éventail plus large de tâches génératives, y compris celles sans vérité terrain ou monotonie stricte.

Les auteurs soulignent que leur travail établit une fondation pour de nouvelles applications conformes, telles que s'assurer que les images générées ne sont pas mémorisées et vérifier que les agents IA ont posé suffisamment de questions de clarification. Ils postulent que ces améliorations pourraient augmenter la fiabilité des systèmes d'IA, facilitant leur déploiement dans des applications critiques pour la sécurité. L'article maintient un ton modeste concernant l'impact sociétal, reconnaissant que si l'UQ peut améliorer la fiabilité, elle pourrait également potentiellement améliorer les applications malveillantes, bien que l'impact net soit attendu comme positif.

Le travail ne prétend pas résoudre tous les défis de l'UQ mais fournit plutôt un cadre flexible et théoriquement fondé qui unifie les approches existantes et ouvre de nouvelles voies pour un contrôle rigoureux de l'incertitude à l'ère de l'IA générative.