🤖 machine learning

Bound to Disagree: Generalization Bounds via Certifiable Surrogates

Cet article introduit un nouveau cadre pour dériver des bornes de généralisation non triviales pour les modèles d'apprentissage profond en exploitant des substituts de désaccord certifiables entraînés via la compression d'échantillons, la compression de modèle ou la théorie PAC-Bayes, le tout sans modifier le modèle cible ou sa procédure d'entraînement.

Auteurs originaux : Mathieu Bazinet, Valentina Zantedeschi, Pascal Germain

Publié 2026-07-09

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Mathieu Bazinet, Valentina Zantedeschi, Pascal Germain

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous ayez construit un cerveau de robot géant et super intelligent (un réseau de neurones profonds) pour résoudre un puzzle. Il est incroyable à ce puzzle, mais personne ne sait exactement comment il s'en sortira sur un nouveau puzzle qu'il n'a jamais vu auparavant. En fait, la plupart des mathématiques que nous utilisons habituellement pour deviner sa performance future sont soit totalement inutiles (comme dire « il pourrait avoir raison à 100 % ou tort à 0 % »), soit nécessitent de modifier le cerveau du robot pour l'adapter aux mathématiques, ce qui gâche le robot.

Ce document, intitulé « Bound to Disagree », propose une nouvelle façon astucieuse de vérifier la performance future de ce robot sans toucher à son cerveau ni utiliser des mathématiques inutiles.

La Grande Idée : Le « Substitut » et le « Désaccord »

Considérez votre cerveau de robot géant comme un Modèle Cible. Il est complexe, puissant et difficile à mesurer. Les auteurs disent : « Construisons un tout petit cerveau de robot simple appelé Modèle Substitut ».

Ce substitut est assez petit pour que nous puissions facilement prouver sa capacité à résoudre des puzzles. Mais voici le piège : le substitut doit agir presque exactement comme le grand robot.

Le ingrédient secret des auteurs est de mesurer le Désaccord. Ils prennent un petit tas d'images non étiquetées (des données que le robot n'a pas encore vues) et demandent au grand robot et au petit robot de deviner la réponse.

Si ils sont d'accord sur presque tout, la piste de performance prouvée du petit robot est une excellente estimation de la performance future du grand robot.
S'ils sont en désaccord sur beaucoup de choses, le grand robot pourrait être en difficulté.

Les auteurs prouvent que l'écart entre la véritable performance du grand robot et la performance prouvée du petit robot est directement lié à la fréquence à laquelle ils sont en désaccord sur ces images non étiquetées.

Ce qu'ils ont écarté (La liste des « Ne vous donnez pas cette peine »)

Les auteurs sont très clairs sur ce qui ne fonctionne pas pour cet objectif spécifique, et ils ne veulent pas que vous perdiez du temps sur ces méthodes :

Ne tentez pas de changer le grand robot : Vous n'avez pas besoin de réentraîner le modèle cible ou de modifier son architecture. La méthode fonctionne sur le modèle exactement tel qu'il a été entraîné.
Ne vous reposez pas sur les bornes « basées sur la norme » : Ce sont de vieilles astuces mathématiques qui regardent la taille des poids du robot. Le document montre qu'elles sont généralement « vacues » (ce qui signifie qu'elles donnent des réponses si larges qu'elles sont inutiles, comme dire « l'erreur est comprise entre 0 et un milliard de pour cent »).
Ne vous reposez pas sur les bornes « basées sur la partition » : Elles tentent de découper les données en morceaux. Les auteurs ont constaté que celles-ci sont souvent triviales, estimant la performance comme si le robot ne faisait que deviner au hasard (environ 90 % d'erreur sur certaines tâches).
N'exigez pas de données étiquetées pour la vérification : Contrairement à beaucoup d'autres méthodes qui ont besoin d'un énorme tas de données étiquetées (où des humains ont déjà écrit les réponses) pour vérifier le modèle, cette méthode n'a besoin que d'un petit tas de données non étiquetées (des images sans réponses). C'est beaucoup moins cher et plus rapide à obtenir.

Comment ils l'ont testé (Les résultats du « Laboratoire »)

Les auteurs n'ont pas seulement imaginé cela ; ils l'ont construit et testé sur des puzzles du monde réel. Ils ont utilisé trois façons différentes de construire leurs substituts de « petit robot » :

Compression d'échantillon : Choisir un sous-ensemble minuscule et parfait des données d'entraînement pour représenter l'ensemble.
Compression de modèle : Envelopper le modèle de manière serrée (comme transformer une photo haute résolution en une petite vignette) sans perdre trop de qualité.
PAC-Bayes : Utiliser un cadre statistique qui traite le modèle comme une distribution de possibilités plutôt que comme un cerveau unique et fixe.

Ils ont testé cela sur :

MNIST : Reconnaître des chiffres manuscrits.
CIFAR10 : Identifier des objets comme des avions ou des chats dans de petites images.
Amazon Polarity : Lire des critiques de films pour décider si elles sont positives ou négatives (en utilisant de grands modèles de langage comme DistilBERT et GPT2).

Les Résultats :
Dans ces expériences, leurs bornes de « désaccord » étaient serrées et calculables.

Pour les chiffres manuscrits MNIST, leur méthode a trouvé une borne de généralisation (une limite de sécurité sur l'erreur) d'environ 3,45 % en utilisant la compression de modèle, alors que les anciennes méthodes « basées sur la norme » donna neient des chiffres si énormes qu'ils étaient insignifiants (comme $3,14 \times 10^8$ pour cent).
Pour CIFAR10, ils ont obtenu une borne de 35,06 % avec la compression de modèle, tandis que les anciennes méthodes étaient soit inutiles, soit estimaient la performance comme si le modèle était un simple devinateur aléatoire (environ 90 % d'erreur).
Ils ont même montré que si l'on réduit un modèle à 4 bits (le rendant minuscule et rapide), la borne de désaccord garantit que le modèle réduit performera presque aussi bien que le grand, avec un écart de désaccord d'environ 2 %.

À quel point sommes-nous sûrs ?

Le document fournit des preuves mathématiques (théorèmes) montrant que ces bornes tiennent avec une haute probabilité (spécifiquement, avec une confiance de 99 %, ou $1-\delta = 0,99$ ).

L'idée centrale — que l'écart d'erreur est limité par le désaccord — est prouvée mathématiquement pour la perte zero-one (réponses simples par oui ou par non) et les pertes Lipschitz (erreurs lisses et continues).
Les chiffres spécifiques (comme les bornes de 3,45 % ou 35,06 %) sont des résultats mesurés de leurs expériences sur des ensembles de données spécifiques. Ce ne sont pas des simulations ; ce sont des calculs réels sur des modèles entraînés.
Les auteurs admettent une limite : la qualité de la borne finale dépend entièrement de la qualité du « petit robot » (substitut). Si vous ne pouvez pas trouver un bon substitut qui soit en accord avec le grand robot, la borne ne sera pas très serrée.

La Conclusion

Ce document suggère une nouvelle façon pratique de faire confiance à votre IA. Au lieu d'essayer de forcer un modèle complexe dans une boîte qui ne lui convient pas, ou d'utiliser des mathématiques qui donnent des réponses inutiles, vous pouvez construire un jumeau petit et certifiable, vérifier la fréquence de ses désaccords sur quelques exemples non étiquetés, et utiliser cela pour garantir la performance du grand modèle dans le monde réel. C'est une façon « certifiable » de savoir que votre robot ne vous fera pas défaut, sans avoir à le reconstruire.

Résumé Technique : Bound to Disagree: Generalization Bounds via Certifiable Surrogates

Énoncé du Problème

Les modèles d'apprentissage profond, en particulier les réseaux de neurones sur-paramétrés, ont démontré un succès empirique qui contredit la théorie classique de l'apprentissage statistique, laquelle prédit souvent le surapprentissage. Malgré des recherches approfondies sur les bornes de généralisation basées sur la dimension VC, la complexité de Rademacher et la théorie PAC-Bayes, les bornes existantes pour les réseaux de neurones profonds souffrent de trois limitations principales :

Vacuité : De nombreuses bornes produisent des valeurs supérieures à 1 (ou des bornes supérieures triviales) lorsqu'elles sont appliquées à des réseaux de taille moyenne ou grande.
Non-calculabilité : Certaines bornes reposent sur des constantes universelles qui ne peuvent être calculées ou nécessitent des hypothèses intraitables sur l'espace d'entrée.
Restrictivité : De nombreuses bornes valides ne s'appliquent qu'à des versions modifiées du modèle (par exemple, élaguées ou quantifiées) plutôt qu'au prédicteur original, ou nécessitent des contraintes architecturales spécifiques (par exemple, des activations à porte/gated).

L'article répond au besoin de bornes de généralisation qui soient calculables, non vacues et applicables à n'importe quel prédicteur sans modifier le modèle cible ou sa procédure d'entraînement.

Méthodologie

Les auteurs proposent un cadre qui découple la certification d'un modèle cible complexe de la dérivation de la borne elle-même. La stratégie centrale consiste en :

Modélisation de Substitut (Surrogate Modeling) : Entraîner un modèle de substitution plus simple qui bénéficie de garanties de généralisation serrées et calculables. Ce substitut est conçu pour imiter le comportement du modèle cible.
Évaluation du Désaccord (Disagreement Bounding) : Mesurer l'écart entre le risque réel du modèle cible ( $f$ ) et le modèle de substitution ( $h$ ) en utilisant une métrique de « désaccord » évaluée sur un petit ensemble de données non étiquetées ( $U$ ) n'ayant pas été utilisé pendant l'entraînement.
Agrégation du Risque : Combiner la borne de généralisation serrée du substitut avec la borne de désaccord pour obtenir une borne supérieure du risque réel du modèle cible.

Contributions Théoriques

L'article formalise trois bornes spécifiques basées sur le désaccord, selon la fonction de perte :

Perte Zero-Un (Théorème 5) : Pour la perte zero-un, le désaccord est défini comme la fréquence empirique des prédictions divergentes entre $f$ et $h$ sur l'ensemble non étiqueté. La borne utilise l'inversion de la queue binomiale (Langford, 2005) pour borner par le haut l'écart de risque réel.
$R_D(f) \leq R_D(h) + \text{Bin}(m \cdot d_U^{0-1}(f, h), m, \delta)$
Pertes Lipschitz-continues (Théorème 6) : Pour les pertes comme la perte de Huber ou la perte logistique (qui sont Lipschitz par rapport à la sortie softmax), le désaccord est mesuré via la distance $L_1$ entre les distributions softmax des deux modèles. Cette borne utilise la borne de Chernoff pour les variables dans l'intervalle unité.
$L_D(f) \leq \mathbb{E}_{h \sim Q}[L_D(h)] + 2K_\ell \cdot kl^{-1}\left(\frac{\mathbb{E}_{h \sim Q}[d_U^{K_\ell}(f, h)]}{2}, \frac{\log(1/\delta)}{m}\right)$
Pertes Non-Lipschitziennes (Théorème 7) : Pour les pertes comme l'entropie croisée (qui peuvent ne pas être Lipschitz sans contraintes), les auteurs proposent d'utiliser un petit ensemble de données étiquetées réservé pour mesurer la différence absolue des valeurs de perte entre les modèles.
$L_D(f) \leq \mathbb{E}_{h \sim Q}[L_D(h)] + \lambda_\ell \cdot kl^{-1}\left(\frac{\mathbb{E}_{h \sim Q}[d_L(f, h)]}{\lambda_\ell}, \frac{\log(1/\delta)}{m}\right)$

Intégration du Cadre

La méthodologie est agnostique au cadre spécifique utilisé pour certifier le substitut. Les auteurs démontrent la polyvalence de leur approche en intégrant leurs bornes de désaccord à trois cadres théoriques distincts :

Compression d'Échantillons (Sample Compression) : Utiliser des algorithmes tels que Pick-To-Learn ou la sélection de Coreset (par exemple, Random Coreset, k-Center Greedy) pour définir un substitut basé sur un sous-ensemble des données d'entraînement.
Compression de Modèle (Model Compression) : Utiliser des techniques comme SubLoRA (Subspace Low-Rank Adaptation) et la quantification pour réduire la longueur de description du substitut.
Théorie PAC-Bayes : Entraîner des réseaux de neurones stochastiques où le substitut est une distribution sur les hypothèses, bornée via la divergence KL par rapport à un a priori.

Résultats Clés

Les auteurs ont évalué empiriquement leur cadre sur MNIST, CIFAR10 et le jeu de données Amazon Polarity (en utilisant DistilBERT et GPT2).

Étroitesse (Tightness) : Les bornes basées sur le désaccord proposées sont nettement plus serrées que les bornes calculables existantes. Par exemple, sur CIFAR10, les bornes basées sur la norme étaient vacues (valeurs $> 10^{21}$ ), et les bornes basées sur les partitions étaient triviales (environ 90 % d'erreur). En revanche, les nouvelles bornes ont obtenu des résultats non vacues (par exemple, 28,13 % pour les substituts PAC-Bayes sur CIFAR10).
Polyvalence : L'approche a réussi à certifier des cibles à travers différentes architectures (CNN, ResNets, Transformers) et fonctions de perte (zero-one, entropie croisée, Huber).
Sélection du Substitut : Les expériences ont révélé que l'approche Random Coreset donnait souvent les bornes les plus serrées pour la compression d'échantillons, tandis que SubLoRA était efficace pour la compression de modèle. Curieusement, minimiser le désaccord sur l'ensemble non étiqueté ne produisait pas toujours la borne finale la plus serrée ; dans certains cas, les substituts ayant les bornes de généralisation intrinsèques les plus serrées (même avec un désaccord plus élevé) étaient plus performants.
Cas d'utilisation :
- Certification : Fournir des bornes non vacues pour des modèles déterministes standards.
- Distillation : Certifier le risque d'un modèle distillé tout en minimisant le désaccord.
- Quantification : Borner l'écart de performance entre un modèle cible et sa version quantifiée, garantissant que la compression n'entraîne pas de chutes de performance significatives.

Signification et Revendications

L'article prétend fournir un cadre entièrement calculable, non vacue et sans hypothèse pour les bornes de généralisation. Sa principale importance réside dans :

Découplage de la Complexité : Il permet de certifier des modèles arbitraires complexes en transférant la charge des garanties théoriques vers un substitut plus simple et certifiable.
Exigences de Données Minimales : L'approche nécessite uniquement un petit ensemble de données non étiquetées (plus facile et moins coûteux à obtenir que les données étiquetées) pour évaluer le désaccord, ce qui la rend pratique pour les applications à grande échelle.
Aucune Modification Requise : Contraên l'autres travaux qui exigent l'élagage, la quantification ou des changements architecturaux du modèle cible pour dériver des bornes, cette méthode s'applique au modèle « tel quel ».
Large Applicabilité : Le cadre n'est pas restreint à des fonctions de perte spécifiques, accommodant les pertes zero-one, Lipschitz et non-Lipschitziennes, ainsi que les prédicteurs déterministes et stochastiques.

Les auteurs reconnaissent des limites, notant que l'étroitesse de la borne finale dépend intrinsèquement de la propre garantie de généralisation du substitut. De plus, trouver un substitut qui soit à la fois certifiable et suffisamment proche d'un modèle hautement complexe reste un défi. Cependant, ce travail établit un nouveau paradigme où les garanties de généralisation sont obtenues via le « désaccord » plutôt que par une analyse directe de la complexité du modèle cible.