The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act

Resumen Técnico: El Caso de ESM3 como Modelo de IA de Propósito General con Riesgo Sistémico bajo la Ley de IA de la UE

Declaración del Problema
El documento identifica una brecha regulatoria crítica dentro de la Ley de Inteligencia Artificial de la Unión Europea en relación con los modelos fundacionales biológicos de vanguardia, específicamente la versión 3 de Evolutionary Scale Modeling (ESM3). Aunque la Ley tiene como objetivo mitigar los riesgos sistémicos asociados con la Inteligencia Artificial de Propósito General (GPAI), incluidos los riesgos de doble uso como el desarrollo de armas biológicas, sus definiciones actuales y las directrices de apoyo parecen excluir los modelos biológicos no lingüísticos. Los autores argumentan que ESM3, a pesar de su potencial para reducir las barreras de entrada al desarrollo de armas biológicas, podría no cumplir con los criterios estrechos para la clasificación como GPAI debido a una dependencia excesiva del lenguaje humano como marcador de "generalidad". Esto crea una situación en la que un modelo capaz de generar un aumento significativo del riesgo biológico permanece exento de las obligaciones obligatorias de evaluación y mitigación de riesgos (Artículo 55) requeridas para los modelos con riesgo sistémico.

Metodología
Los autores emplean un enfoque de estudio de caso cualitativo centrado en ESM3, una familia de modelos fundacionales biológicos disponible en variantes de código abierto (1.4 mil millones de parámetros) y con acceso restringido (7 mil millones y 98 mil millones de parámetros). La metodología consta de tres componentes principales:

1. Mapeo de la Cadena de Riesgo Biológico: Los autores mapean las capacidades específicas de ESM3 (generación de secuencias, predicción de estructuras, plegamiento inverso y anotación funcional) frente a la cadena de "riesgo biológico" de siete pasos (intención, ideación, diseño, aprendizaje, construcción, weaponización y liberación). Utilizan el marco de la "Regla de Medición de Probabilidad" para evaluar subjetivamente la probabilidad de que ESM3 facilite pasos específicos de esta cadena para actores maliciosos.
2. Análisis Textual Regulatorio: El documento realiza un análisis legal detallado de la Ley de IA de la UE, centrándose específicamente en las definiciones de "inteligencia artificial de propósito general" (Artículo 3(63)) y "riesgo sistémico" (Artículo 3(65)). Coteja estos textos legales con las "Directrices de Inteligencia Artificial de Propósito General" (Directrices GPAI) no vinculantes de la Comisión Europea.
3. Identificación de Brechas: Los autores comparan los atributos técnicos de ESM3 (uso de computación, modalidad y diversidad de tareas) con los criterios de clasificación encontrados en la Ley y las Directrices para determinar si el modelo cae actualmente bajo supervisión regulatoria.

Contribuciones Clave
El documento realiza tres contribuciones específicas al campo de la seguridad y la gobernanza de la IA:

1. Mapeo Cualitativo: Proporciona un mapeo detallado de las capacidades de ESM3 a la cadena de riesgo biológico, demostrando que el modelo puede facilitar potencialmente cuatro de los siete pasos críticos en un ataque biológico (Diseño, Aprendizaje, Construcción y Weaponización), particularmente al permitir pruebas y producción eficientes de componentes biológicos.
2. Identificación de Brechas Regulatorias: Los autores demuestran que la brecha regulatoria se refuerza por dos fuentes: ambigüedades en el texto legal de la Ley de IA respecto a la "generalidad significativa" y una interpretación restrictiva en las Directrices GPAI que limita la definición de generalidad a modelos capaces de generar lenguaje humano (texto, audio, imagen, video).
3. Remedios de Política: El documento propone cuatro remedios potenciales para corregir el estatus regulatorio de ESM3 y modelos biológicos similares:
   • Designación directa de ESM3 como un modelo GPAI con riesgo sistémico utilizando el Artículo 3(63) y el Artículo 51(1)(b) basándose en capacidades de alto impacto.
   • Revisión de las Directrices GPAI para ampliar los criterios de modalidad más allá del lenguaje humano e incluir generalidad específica del dominio (por ejemplo, biología de proteínas).
   • Enmienda legislativa para desacoplar la designación de riesgo sistémico del estatus de GPAI.
   • Utilización de instrumentos complementarios, como el régimen de control de exportaciones de doble uso de la UE y las políticas emergentes de bioseguridad.

Resultados
El análisis concluye que, bajo la interpretación actual de la Ley de IA de la UE y las Directrices GPAI, ESM3 no parece estar regulado de manera significativa.

• Clasificación GPAI: Aunque ESM3 supera el umbral de computación (1.07 × 10^24 FLOPs) y demuestra "generalidad significativa" dentro del dominio de la biología de proteínas, no cumple con el requisito específico de las Directrices GPAI de "generar lenguaje" (texto o audio humano). Las Directrices excluyen explícitamente los modelos entrenados para dominios específicos como el clima o los sistemas físicos, y la falta de entrada de lenguaje humano de ESM3 lo sitúa fuera del alcance actual.
• Riesgo Sistémico: Aunque los considerandos de la Ley reconocen los riesgos Químicos, Biológicos, Radiológicos y Nucleares (CBRN) y la reducción de las barreras para el desarrollo de armas, el mecanismo para clasificar un modelo como de riesgo sistémico depende de que primero sea clasificado como un modelo GPAI. Dado que ESM3 probablemente no supera la prueba de GPAI debido al requisito de lenguaje, no puede activar las disposiciones de riesgo sistémico (Artículo 55) que exigirían la mitigación de riesgos de doble uso.
• Impacto del Riesgo Biológico: El mapeo confirma que el acceso a ESM3, particularmente la variante de código abierto, podría hacer que las fases de diseño y weaponización de los ataques biológicos sean más accesibles para actores con recursos limitados, acortando efectivamente la cadena de riesgo biológico.

Significado
El documento argumenta que el marco regulatorio actual crea una laguna peligrosa donde las herramientas biológicas de vanguardia, que plantean riesgos sistémicos genuinos para la salud pública y la seguridad, están exentas de obligaciones de seguridad. Los autores enfatizan que el enfoque regulatorio de la UE probablemente influirá en otras jurisdicciones a través del "Efecto Bruselas". Por lo tanto, corregir esta ambigüedad es crítico no solo para el cumplimiento de la UE, sino para los estándares globales de gobernanza. El documento postula que depender del lenguaje natural como el signo principal de generalidad obstaculiza la efectividad de las disposiciones de riesgo sistémico de la Ley de IA, limitándolas efectivamente a los Modelos de Lenguaje Grande (LLM) mientras deja modelos fundacionales biológicos potentes sin regular. Los autores concluyen que es necesaria una acción inmediata, como la utilización del Artículo 51(1)(b) para designación directa o la revisión de las Directrices, para garantizar que los modelos biológicos de alta capacidad estén sujetos a evaluaciones de riesgo de doble uso apropiadas.