The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act

Resumo Técnico: O Caso do ESM3 como Modelo de IA de Propósito Geral com Risco Sistêmico sob a Lei de IA da UE

Declaração do Problema
O artigo identifica uma lacuna regulatória crítica na Lei de IA da União Europeia relativa a modelos fundamentais biológicos de fronteira, especificamente o Evolutionary Scale Modeling versão 3 (ESM3). Embora a Lei vise mitigar riscos sistêmicos associados à IA de Propósito Geral (GPAI), incluindo riscos de uso duplo como o desenvolvimento de armas biológicas, suas definições atuais e diretrizes de apoio parecem excluir modelos biológicos não linguísticos. Os autores argumentam que o ESM3, apesar de seu potencial para reduzir barreiras de entrada para o desenvolvimento de armas biológicas, pode não atender aos critérios restritos para classificação como GPAI devido a uma dependência excessiva da linguagem humana como marcador de "generalidade". Isso cria uma situação em que um modelo capaz de promover um aumento significativo no risco biológico permanece isento das obrigações mandatórias de avaliação e mitigação de riscos (Artigo 55) exigidas para modelos com risco sistêmico.

Metodologia
Os autores empregam uma abordagem de estudo de caso qualitativo centrada no ESM3, uma família de modelos fundamentais biológicos disponível em variantes de código aberto (1,4 bilhão de parâmetros) e com acesso controlado (7 bilhões e 98 bilhões de parâmetros). A metodologia consiste em três componentes principais:

1. Mapeamento da Cadeia de Risco Biológico: Os autores mapeiam as capacidades específicas do ESM3 (geração de sequências, previsão de estrutura, dobramento inverso e anotação funcional) contra a cadeia de "risco biológico" de sete etapas (intenção, ideação, design, aprendizado, construção, weaponização e liberação). Eles utilizam o quadro de referência "Réguas de Probabilidade" para avaliar subjetivamente a probabilidade de o ESM3 tornar etapas específicas dessa cadeia mais fáceis para atores maliciosos.
2. Análise Textual Regulatória: O artigo conduz uma análise jurídica detalhada da Lei de IA da UE, focando especificamente nas definições de "inteligência artificial de propósito geral" (Artigo 3(63)) e "risco sistêmico" (Artigo 3(65)). Ele cruza esses textos legais com as "Diretrizes de IA de Propósito Geral" (Diretrizes GPAI) não vinculativas da Comissão Europeia.
3. Identificação de Lacunas: Os autores comparam os atributos técnicos do ESM3 (uso de computação, modalidade e diversidade de tarefas) com os critérios de classificação encontrados na Lei e nas Diretrizes para determinar se o modelo atualmente está sob supervisão regulatória.

Principais Contribuições
O artigo faz três contribuições específicas para o campo da segurança e governança da IA:

1. Mapeamento Qualitativo: Fornece um mapeamento detalhado das capacidades do ESM3 para a cadeia de risco biológico, demonstrando que o modelo pode potencialmente facilitar quatro das sete etapas críticas em um ataque biológico (Design, Aprender, Construir e Weaponização), particularmente ao permitir testes e produção eficientes de componentes biológicos.
2. Identificação de Lacunas Regulatórias: Os autores demonstram que a lacuna regulatória é reforçada por duas fontes: ambiguidades no texto legal da Lei de IA relativas à "generalidade significativa" e uma interpretação restritiva nas Diretrizes GPAI que limita a definição de generalidade a modelos capazes de gerar linguagem humana (texto, áudio, imagem, vídeo).
3. Remédios de Política: O artigo propõe quatro remédios potenciais para corrigir o status regulatório do ESM3 e modelos biológicos similares:
   • Designação direta do ESM3 como um modelo GPAI com risco sistêmico usando o Artigo 3(63) e o Artigo 51(1)(b) com base em capacidades de alto impacto.
   • Revisão das Diretrizes GPAI para ampliar os critérios de modalidade além da linguagem humana, incluindo generalidade específica de domínio (por exemplo, biologia de proteínas).
   • Emenda legislativa para desvincular a designação de risco sistêmico do status GPAI.
   • Utilização de instrumentos complementares, como o regime de controle de exportação de uso duplo da UE e políticas emergentes de biossegurança.

Resultados
A análise conclui que, sob a interpretação atual da Lei de IA da UE e das Diretrizes GPAI, o ESM3 não parece ser regulamentado de forma significativa.

• Classificação GPAI: Embora o ESM3 exceda o limite de computação (1,07 × 10^24 FLOPs) e demonstre "generalidade significativa" no domínio da biologia de proteínas, ele falha no requisito específico das Diretrizes GPAI de "gerar linguagem" (texto ou áudio humano). As Diretrizes excluem explicitamente modelos treinados para domínios específicos como clima ou sistemas físicos, e a falta de entrada de linguagem humana no ESM3 o coloca fora do escopo atual.
• Risco Sistêmico: Embora os considerandos da Lei reconheçam os riscos Químicos, Biológicos, Radiológicos e Nucleares (CBRN) e a redução de barreiras para o desenvolvimento de armas, o mecanismo para classificar um modelo como tendo risco sistêmico é contingente a ele primeiro ser classificado como um modelo GPAI. Como o ESM3 provavelmente falha no teste GPAI devido ao requisito de linguagem, não pode acionar as disposições de risco sistêmico (Artigo 55) que mandariam a mitigação de riscos de uso duplo.
• Impacto no Risco Biológico: O mapeamento confirma que o acesso ao ESM3, particularmente a variante de código aberto, poderia tornar as fases de design e weaponização de ataques biológicos mais acessíveis a atores com recursos limitados, efetivamente encurtando a cadeia de risco biológico.

Significância
O artigo argumenta que o quadro regulatório atual cria uma brecha perigosa onde ferramentas biológicas de fronteira, que apresentam riscos sistêmicos genuínos à saúde pública e segurança, estão isentas de obrigações de segurança. Os autores enfatizam que a abordagem regulatória da UE provavelmente influenciará outras jurisdições através do "Efeito Bruxelas". Portanto, corrigir essa ambiguidade é crítico não apenas para a conformidade da UE, mas para padrões de governança global. O artigo postula que confiar na linguagem natural como o principal significador de generalidade prejudica a eficácia das disposições de risco sistêmico da Lei de IA, limitando-as efetivamente aos Grandes Modelos de Linguagem (LLMs) enquanto deixa modelos fundamentais biológicos poderosos desregulados. Os autores concluem que ação imediata, como a utilização do Artigo 51(1)(b) para designação direta ou a revisão das Diretrizes, é necessária para garantir que modelos biológicos de alta capacidade estejam sujeitos a avaliações apropriadas de risco de uso duplo.