The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act

Résumé technique : Le cas en faveur d'ESM3 en tant que modèle d'intelligence artificielle à usage général présentant un risque systémique au titre du Règlement de l'Union européenne sur l'IA

Énoncé du problème
L'article identifie une lacune réglementaire critique au sein du Règlement de l'Union européenne sur l'IA concernant les modèles de base biologiques de pointe, en particulier la version 3 du modèle de mise à l'échelle évolutive (ESM3). Bien que le Règlement vise à atténuer les risques systémiques associés aux intelligences artificielles à usage général (IAUG), y compris les risques de double usage tels que le développement d'armes biologiques, ses définitions actuelles et ses lignes directrices d'appui semblent exclure les modèles biologiques non linguistiques. Les auteurs soutiennent qu'ESM3, malgré son potentiel pour abaisser les barrières à l'entrée dans le développement d'armes biologiques, pourrait ne pas répondre aux critères étroits de la classification IAUG en raison d'une sur-reliance sur le langage humain comme marqueur de « généralité ». Cela crée une situation où un modèle capable d'accroître significativement les risques biologiques reste exempté des obligations d'évaluation et d'atténuation des risques (article 55) requises pour les modèles présentant un risque systémique.

Méthodologie
Les auteurs adoptent une approche qualitative d'étude de cas centrée sur ESM3, une famille de modèles de base biologiques disponibles en versions open-source (1,4 milliard de paramètres) et sous contrôle d'accès (7 et 98 milliards de paramètres). La méthodologie se compose de trois composantes principales :

1. Cartographie de la chaîne des risques biologiques : Les auteurs cartographient les capacités spécifiques d'ESM3 (génération de séquences, prédiction de structures, repliement inverse et annotation fonctionnelle) par rapport à la « chaîne des risques biologiques » en sept étapes (intention, idéation, conception, apprentissage, construction, militarisation et libération). Ils utilisent le cadre de la « Règle de probabilité » pour évaluer subjectivement la probabilité qu'ESM3 rende certaines étapes de cette chaîne plus faciles pour des acteurs malveillants.
2. Analyse textuelle réglementaire : L'article mène une analyse juridique détaillée du Règlement de l'UE sur l'IA, en se concentrant spécifiquement sur les définitions de « l'intelligence artificielle à usage général » (article 3, paragraphe 63) et de « risque systémique » (article 3, paragraphe 65). Il croise ces textes législatifs avec les « Lignes directrices sur l'IA à usage général » (Lignes directrices IAUG) non contraignantes de la Commission européenne.
3. Identification des lacunes : Les auteurs comparent les attributs techniques d'ESM3 (utilisation de puissance de calcul, modalité et diversité des tâches) aux critères de classification figurant dans le Règlement et les Lignes directrices afin de déterminer si le modèle relève actuellement de la surveillance réglementaire.

Contributions principales
L'article apporte trois contributions spécifiques au domaine de la sécurité et de la gouvernance de l'IA :

1. Cartographie qualitative : Il fournit une cartographie détaillée des capacités d'ESM3 par rapport à la chaîne des risques biologiques, démontrant que le modèle peut potentiellement faciliter quatre des sept étapes critiques d'une attaque biologique (Conception, Apprentissage, Construction et Militarisation), en particulier en permettant des tests et une production efficaces de composants biologiques.
2. Identification des angles morts réglementaires : Les auteurs démontrent que la lacune réglementaire est renforcée par deux sources : les ambiguïtés du texte législatif du Règlement sur l'IA concernant la « généralité significative » et une interprétation restrictive dans les Lignes directrices IAUG qui limite la définition de la généralité aux modèles capables de générer du langage humain (texte, audio, image, vidéo).
3. Mesures correctives politiques : L'article propose quatre solutions potentielles pour corriger le statut réglementaire d'ESM3 et de modèles biologiques similaires :
   • La désignation directe d'ESM3 en tant que modèle IAUG présentant un risque systémique, en utilisant l'article 3, paragraphe 63, et l'article 51, paragraphe 1, point b), sur la base de capacités à fort impact.
   • La révision des Lignes directrices IAUG pour élargir les critères de modalité au-delà du langage humain afin d'inclure la généralité spécifique à un domaine (par exemple, la biologie des protéines).
   • Une modification législative pour dissocier la désignation de risque systémique du statut IAUG.
   • L'utilisation d'instruments complémentaires, tels que le régime de contrôle des exportations à double usage de l'UE et les politiques émergentes de biosécurité.

Résultats
L'analyse conclut que, selon l'interprétation actuelle du Règlement de l'UE sur l'IA et des Lignes directrices IAUG, ESM3 ne semble pas être réglementé de manière significative.

• Classification IAUG : Bien qu'ESM3 dépasse le seuil de calcul (1,07 × 10^24 opérations flottantes) et démontre une « généralité significative » dans le domaine de la biologie des protéines, il ne satisfait pas à l'exigence spécifique des Lignes directrices IAUG de « générer du langage » (texte ou audio humain). Les Lignes directrices excluent explicitement les modèles entraînés pour des domaines spécifiques tels que la météorologie ou les systèmes physiques, et l'absence d'entrée en langage humain d'ESM3 le place en dehors du champ d'application actuel.
• Risque systémique : Bien que les considérants du Règlement reconnaissent les risques chimiques, biologiques, radiologiques et nucléaires (CBRN) et la réduction des barrières au développement d'armes, le mécanisme de classification d'un modèle comme présentant un risque systémique est conditionné à sa classification préalable en tant que modèle IAUG. Comme ESM3 échoue probablement au test IAUG en raison de l'exigence linguistique, il ne peut déclencher les dispositions relatives au risque systémique (article 55) qui imposeraient une atténuation des risques de double usage.
• Impact sur les risques biologiques : La cartographie confirme que l'accès à ESM3, en particulier la variante open-source, pourrait rendre les phases de conception et de militarisation des attaques biologiques plus accessibles à des acteurs disposant de ressources limitées, raccourcissant ainsi efficacement la chaîne des risques biologiques.

Signification
L'article soutient que le cadre réglementaire actuel crée une faille dangereuse où les outils biologiques de pointe, qui présentent de véritables risques systémiques pour la santé publique et la sécurité, sont exemptés des obligations de sécurité. Les auteurs soulignent que l'approche réglementaire de l'UE est susceptible d'influencer d'autres juridictions via l'« effet Bruxelles ». Par conséquent, corriger cette ambiguïté est crucial non seulement pour la conformité de l'UE, mais aussi pour les normes de gouvernance mondiale. L'article postule que la dépendance au langage naturel en tant que signe principal de la généralité entrave l'efficacité des dispositions sur les risques systémiques du Règlement sur l'IA, les limitant effectivement aux grands modèles de langage (LLM) tout en laissant les modèles de base biologiques puissants non réglementés. Les auteurs concluent qu'une action immédiate, telle que l'utilisation de l'article 51, paragraphe 1, point b), pour une désignation directe ou la révision des Lignes directrices, est nécessaire pour garantir que les modèles biologiques à haute capacité soient soumis à des évaluations appropriées des risques de double usage.