AIR-BENCH Live: An Evolving Safety Benchmark for Foundation Models
Cet article présente AIR-BENCH Live, un banc d'essai de sécurité auto-évolutif pour les modèles de fondation qui utilise un pipeline automatisé pour intégrer continuellement de nouvelles réglementations gouvernementales et générer des invites d'attaque multilingues, abordant ainsi les limites des bancs d'essai statiques dans un paysage de l'IA en mutation rapide.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez le monde de l'intelligence artificielle comme une immense bibliothèque en constante expansion où des robots apprennent à écrire des histoires, à résoudre des problèmes et même à discuter avec nous. Mais comme dans n'importe quelle bibliothèque, il existe des règles sur ce qui peut être écrit : pas d'instructions sur la fabrication de bombes, pas de discours de haine et pas de ruses pour voler des secrets. Les scientifiques créent des « tests de sécurité » pour voir si les robots respectent les règles. Considérez ces tests comme une série d'énigmes ou de pièges conçus pour inciter le robot à transgresser les règles. Si le robot refuse le piège, il obtient un score élevé ; s'il tombe dans le panneau, il obtient un score faible. Le problème est que le monde change vite. De nouvelles lois sont votées, de nouvelles façons de piéger les robots sont inventées, et les vieilles énigmes deviennent trop faciles à résoudre. Un test de sécurité de l'année dernière pourrait être inutile aujourd'hui parce que le robot a appris à ignorer les vieilles ruses, ou parce qu'une nouvelle loi a interdit quelque chose que le test n'avait même pas envisagé. C'est pourquoi les chercheurs cherchent toujours un moyen de rendre ces tests « vivants » et de les faire se mettre à jour, afin qu'ils restent pertinents dans un monde qui ne cesse de bouger.
Ce document présente un nouveau test de sécurité qui se met à jour automatiquement, appelé AIR-BENCH Live. Considérez cela comme un garde de sécurité qui ne se contente pas de se tenir à la porte avec une liste fixe d'objets interdits, mais qui possède plutôt un assistant robotique qui scanne constamment les actualités, lit les nouvelles lois du monde entier et crée instantanément de nouvelles énigmes complexes pour tester l'IA. Les chercheurs ont construit un pipeline qui « scrape » (lit) automatiquement les réglementations gouvernementales provenant de régions comme les États-Unis, la Chine et l'Union européenne. Lorsqu'il trouve une nouvelle règle — comme une loi contre le vol du cerveau d'un robot ou l'utilisation de fausses vidéos pour perturber des élections — il ajoute une nouvelle catégorie à sa liste de contrôle de sécurité. Ensuite, une équipe d'agents d'IA travaille ensemble pour rédiger des prompts réalistes et multilingues (les énigmes) basés sur ces nouvelles règles. Ils utilisent des « personas », qui sont comme des rôles de comédie, pour faire en sorte que les énigmes semblent provenir de vraies personnes dans différentes situations, plutôt que d'un robot lisant un script.
L'équipe a testé 14 modèles d'IA différents en utilisant ce nouveau benchmark évolutif. Ils ont constaté un énorme écart de sécurité : certains modèles étaient incroyablement sûrs, refusant presque toutes les ruses (score de 1,00), tandis que d'autres étaient assez faciles à piéger (score descendant jusqu'à 0,17). Curieusement, les nouveaux prompts modernisés étaient plus difficiles que les anciens, faisant en sorte que même les modèles les plus conformes commettent un peu plus d'erreurs. Les chercheurs ont également découvert que la plupart des modèles étaient légèrement moins sûrs lorsqu'on les interrogeait dans des langues autres que l'anglais, suggérant que maintenir les robots polis et sûrs dans toutes les langues humaines est encore un travail en cours. Le document conclut que, bien que nous ne puissions pas empêcher le monde de changer, nous pouvons construire des tests de sécurité qui évoluent parallèlement à lui, garantissant qu'à mesure que l'IA devient plus intelligente, notre capacité à tester sa sécurité devient plus intelligente aussi.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.