Model Merging is Secretly Certifiable: Non-Vacuous Generalisation Bounds for Low-Shot Learning

Dans le monde de l'intelligence artificielle, il existe une tension croissante entre la puissance de ces systèmes et notre capacité à leur faire confiance. Nous comptons sur l'IA pour prendre des décisions dans des domaines à enjeux élevés comme la médecine et la sécurité, pourtant l'exigence la plus fondamentale pour la confiance est de savoir qu'un système fonctionnera de manière fiable sur de nouvelles données, non seulement sur les exemples sur lesquels il a été entraîné. Depuis des décennies, des scientifiques tentent de créer des garanties mathématiques prouvant qu'un modèle ne faillira pas de manière inattendue. Cependant, ces garanties se sont souvent révélées inutiles pour les réseaux massifs et complexes qui alimentent l'IA moderne. Les calculs requis pour prouver la sécurité de tels systèmes de grande envergure aboutissent généralement à des avertissements si larges et pessimistes qu'ils ne nous apprennent rien d'utile, indiquant essentiellement que le taux d'erreur pourrait se situer n'importe où entre zéro et cent pour cent. Ce problème devient encore plus difficile lorsqu'il y a très peu de données disponibles pour entraîner le système, une situation courante dans les domaines spécialisés où la collecte de milliers d'exemples est impossible.

Une équipe de chercheurs a découvert un moyen surprenant de contourner ces limitations en changeant la façon dont ils considèrent le processus d'apprentissage lui-même. Au lieu d'essayer de certifier l'intégralité du vaste réseau neuronal, ils se sont concentrés sur une technique appelée fusion de modèles (model merging), qui combine plusieurs experts pré-entraînés en un seul nouveau modèle. En traitant le processus de combinaison de ces modèles comme une forme d'apprentissage avec très peu de paramètres ajustables, les chercheurs ont découvert qu'ils pouvaient appliquer des contrôles de sécurité rigoureux qui étaient auparavant impossibles. Leur travail démontre qu'il est possible de fournir des garanties significatives et non vides sur la performance de vastes systèmes d'intelligence artificielle, même lorsqu'ils sont entraînés sur seulement cent exemples. Cette découverte suggère que les outils nécessaires pour certifier la sécurité des modèles d'IA les plus puissants d'aujourd'hui étaient déjà cachés à la vue de tous, attendant d'être reconnus à travers un prisme théorique différent.

Le cœur de cette découverte réside dans la réinvention de la façon dont nous entraînons et validons l'IA lorsque les données sont rares. Traditionnellement, pour prouver qu'un modèle fonctionne, les scientifiques divisent leurs données limitées en un ensemble d'entraînement et un ensemble de validation distinct. Mais quand vous n'avez que cent exemples, diviser ces derniers en deux vous laisse trop peu d'éléments pour entraîner un bon modèle et trop peu pour le tester de manière fiable. Les chercheurs ont réalisé que la fusion de modèles, une méthode populaire, offrait une solution. Dans cette approche, au lieu d'entraîner un réseau géant à partir de zéro, vous prenez plusieurs réseaux existants qui ont déjà appris différentes compétences et vous les mélangez. Le mélange est contrôlé par un petit ensemble de nombres, ou poids, qui déterminent la contribution de chaque réseau d'origine au résultat final. Parce que le nombre de ces poids de mélange est minuscule par rapport aux milliards de paramètres à l'intérieur des réseaux d'origine, le processus d'apprentissage devient beaucoup plus simple.

Les chercheurs ont montré que cette simplicité est la clé de la certification. Ils ont appliqué un cadre connu sous le nom de PAC-Bayes, qui est une méthode pour calculer la probabilité qu'un modèle performe bien sur de nouvelles données. Habituellement, cette méthode échoue pour les grands réseaux car les mathématiques deviennent trop imprécises pour être utiles. Cependant, parce que la fusion de modèles n'ajuste qu'une poignée de poids, les mathématiques restent serrées. L'équipe a démontré que les algorithmes de fusion existants, qui ont été conçus simplement pour créer le meilleur modèle combiné possible, fournissaient déjà ces garanties de sécurité serrées sans aucune modification spéciale. Dans de nombreux cas, la manière standard dont ces algorithmes fonctionnaient était suffisante pour prouver que le modèle résultant ne faillirait pas de manière catastrophique, même avec très peu de données d'entraînement.

Pour rendre ces garanties encore plus fortes, l'équipe a développé un moyen de modifier le processus d'apprentissage. Ils ont modifié l'objectif de l'algorithme de fusion pour minimiser explicitement la borne de sécurité elle-même, plutôt que de simplement chercher l'erreur la plus faible sur les données d'entraînement. Cet ajustement leur a permis de transformer des garanties « vides », qui n'offraient aucune assurance réelle, en limites concrètes et utiles sur la fréquence à laquelle le modèle pourrait échouer. Ils ont testé cette approche sur deux types d'intelligence artificielle très différents : un système de vision capable de reconnaître des images et un grand modèle de langage capable de comprendre le texte. Pour le système de vision, ils ont utilisé un modèle d'environ quatre-vingt-huit millions de paramètres, et pour le modèle de langage, un modèle de sept milliards de paramètres. Dans les deux cas, ils ont entraîné les systèmes sur seulement cent exemples par tâche.

Les résultats ont été frappants. Pour les tâches de vision, les chercheurs ont été capables de certifier que les modèles fusionnés fonctionneraient dans une plage de précision spécifique et étroite. Pour le modèle de langage, qui est nettement plus grand et complexe, ils ont obtenu le même résultat. Dans de nombreux cas, le modèle de langage de base performait mal sur de nouvelles tâches lorsqu'il ne recevait aucun exemple d'entraînement, mais après avoir été fusionné et entraîné sur seulement cent exemples, le système a non seulement amélioré ses performances, mais est également arrivé avec un certificat mathématique prouvant sa fiabilité. Les chercheurs ont constaté que pour tous les ensembles de données, l'erreur de test pouvait être certifiée à moins de 5 % de l'erreur d'entraînement.

Ce travail remet en question la croyance de longue date selon laquelle la certification des grands systèmes d'IA nécessite des quantités massives de données. Les chercheurs ont montré qu'en se concentrant sur le petit nombre de paramètres qui changent réellement pendant le processus de fusion, la complexité du système devient gérable pour les preuves de sécurité. Ils ont également exploré une technique appelée priors dépendants des données (data-dependent priors), qui consiste à utiliser une petite partie des données d'entraînement pour établir un meilleur point de départ pour le calcul de sécurité. Cela a permis de resserrer davantage les garanties, prouvant que la méthode est robuste et adaptable. L'étude n'a pas prétendu résoudre tous les problèmes de la sécurité de l'IA, mais elle a fourni une voie claire pour certifier les systèmes dans les régimes de faibles données, un scénario critique pour les applications réelles où les données sont coûteuses ou difficiles à obtenir.

Les implications de cette découverte dépassent le simple cadre des chiffres. Cela suggère que la sécurité des systèmes d'IA existants pourrait être plus facile à vérifier qu'on ne le pensait. Si les méthodes utilisées pour combiner les modèles peuvent être certifiées si facilement, alors les systèmes construits avec ces méthodes peuvent être utilisés avec une plus grande confiance. Les chercheurs ont souligné que cette approche fonctionne aussi bien pour la reconnaissance d'images que pour la compréhension du langage, indiquant que le principe est général et ne se limite pas à un type spécifique d'IA. En prouvant que des garanties non-vacues, ou significatives, sont possibles pour des modèles d'jusqu'à sept milliards de paramètres avec seulement cent exemples, l'équipe a ouvert une nouvelle voie pour garantir que l'intelligence artificielle puisse être déployée en toute sécurité dans les domaines les plus critiques de la vie humaine. Ce travail est une démonstration que, parfois, la clé pour résoudre un problème théorique complexe n'est pas de construire une machine plus grande, mais de regarder la machine existante sous un angle différent.