The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act

Sintesi Tecnica: Il Caso di ESM3 come Modello di Intelligenza Artificiale a Scopo Generale con Rischio Sistemico ai Sensi dell'AI Act dell'UE

Enunciato del Problema
Il documento individua una lacuna normativa critica nell'AI Act dell'Unione Europea riguardante i modelli fondazionali biologici all'avanguardia, in particolare l'Evolutionary Scale Modeling versione 3 (ESM3). Sebbene l'Act miri a mitigare i rischi sistemici associati all'Intelligenza Artificiale a Scopo Generale (GPAI), inclusi i rischi di duplice uso come lo sviluppo di armi biologiche, le sue definizioni attuali e le linee guida di supporto sembrano escludere i modelli biologici non linguistici. Gli autori sostengono che ESM3, nonostante il suo potenziale di abbassare le barriere all'ingresso per lo sviluppo di armi biologiche, potrebbe non soddisfare i criteri ristretti per la classificazione GPAI a causa di una sovraridondanza del linguaggio umano come marcatore di "generalità". Ciò crea una situazione in cui un modello capace di un significativo aumento del rischio biologico rimane esentato dagli obblighi mandatori di valutazione e mitigazione del rischio (Articolo 55) richiesti per i modelli con rischio sistemico.

Metodologia
Gli autori adottano un approccio qualitativo di studio di caso incentrato su ESM3, una famiglia di modelli fondazionali biologici disponibile in varianti open-source (1,4 miliardi di parametri) e a accesso controllato (7 miliardi e 98 miliardi di parametri). La metodologia consta di tre componenti principali:

1. Mappatura della Catena del Rischio Biologico: Gli autori mappano le capacità specifiche di ESM3 (generazione di sequenze, previsione della struttura, ripiegamento inverso e annotazione funzionale) rispetto alla "catena del rischio biologico" in sette fasi (intenzione, ideazione, progettazione, apprendimento, costruzione, militarizzazione e rilascio). Utilizzano il framework del "Righello di Probabilità" per valutare soggettivamente la probabilità che ESM3 renda più facili specifiche fasi di questa catena per attori malevoli.
2. Analisi Testuale Normativa: Il documento conduce un'analisi giuridica dettagliata dell'AI Act dell'UE, focalizzandosi specificamente sulle definizioni di "intelligenza artificiale a scopo generale" (Articolo 3, comma 63) e "rischio sistemico" (Articolo 3, comma 65). Incrocia questi testi legislativi con le "Linee Guida sull'Intelligenza Artificiale a Scopo Generale" (Linee Guida GPAI) non vincolanti della Commissione Europea.
3. Identificazione delle Lacune: Gli autori confrontano gli attributi tecnici di ESM3 (utilizzo di risorse computazionali, modalità e diversità dei compiti) con i criteri di classificazione presenti nell'Act e nelle Linee Guida per determinare se il modello rientri attualmente sotto la sorveglianza normativa.

Contributi Chiave
Il documento apporta tre contributi specifici al campo della sicurezza e della governance dell'IA:

1. Mappatura Qualitativa: Fornisce una mappatura dettagliata delle capacità di ESM3 rispetto alla catena del rischio biologico, dimostrando che il modello può potenzialmente facilitare quattro delle sette fasi critiche di un attacco biologico (Progettazione, Apprendimento, Costruzione e Militarizzazione), in particolare abilitando test e produzione efficienti di componenti biologici.
2. Identificazione di Lacune Normative: Gli autori dimostrano che il vuoto normativo è rafforzato da due fonti: ambiguità nel testo legislativo dell'AI Act riguardo alla "significativa generalità" e un'interpretazione restrittiva nelle Linee Guida GPAI che limita la definizione di generalità ai modelli capaci di generare linguaggio umano (testo, audio, immagine, video).
3. Rimedi Politici: Il documento propone quattro potenziali rimedi per correggere lo status normativo di ESM3 e di modelli biologici simili:
   • Designazione diretta di ESM3 come modello GPAI con rischio sistemico utilizzando l'Articolo 3(63) e l'Articolo 51(1)(b) basandosi su capacità ad alto impatto.
   • Revisione delle Linee Guida GPAI per ampliare i criteri di modalità oltre il linguaggio umano, includendo la generalità specifica di dominio (ad esempio, biologia delle proteine).
   • Emendamento legislativo per disaccoppiare la designazione del rischio sistemico dallo status GPAI.
   • Utilizzo di strumenti complementari, come il regime di controllo delle esportazioni a duplice uso dell'UE e le emergenti politiche di biosicurezza.

Risultati
L'analisi conclude che, secondo l'interpretazione attuale dell'AI Act dell'UE e delle Linee Guida GPAI, ESM3 non sembra essere regolamentato in modo significativo.

• Classificazione GPAI: Sebbene ESM3 superi la soglia computazionale (1,07 × 10^24 FLOPs) e dimostri una "significativa generalità" nel dominio della biologia delle proteine, non soddisfa il requisito specifico delle Linee Guida GPAI di "generare linguaggio" (testo o audio umano). Le Linee Guida escludono esplicitamente i modelli addestrati per domini specifici come il meteo o i sistemi fisici, e la mancanza di input in linguaggio umano da parte di ESM3 lo colloca al di fuori dell'attuale ambito di applicazione.
• Rischio Sistemico: Sebbene i considerando dell'Act riconoscano i rischi Chimici, Biologici, Radiologici e Nucleari (CBRN) e l'abbassamento delle barriere allo sviluppo di armi, il meccanismo per classificare un modello come avente rischio sistemico è condizionato al fatto che esso sia prima classificato come modello GPAI. Poiché ESM3 probabilmente fallisce il test GPAI a causa del requisito linguistico, non può attivare le disposizioni sul rischio sistemico (Articolo 55) che imporrebbero la mitigazione del rischio di duplice uso.
• Impatto sul Rischio Biologico: La mappatura conferma che l'accesso a ESM3, in particolare alla variante open-source, potrebbe rendere le fasi di progettazione e militarizzazione degli attacchi biologici più accessibili ad attori con risorse limitate, accorciando efficacemente la catena del rischio biologico.

Significato
Il documento sostiene che l'attuale quadro normativo crea una pericolosa scappatoia in base alla quale strumenti biologici all'avanguardia, che pongono rischi sistemici genuini per la salute pubblica e la sicurezza, sono esentati dagli obblighi di sicurezza. Gli autori sottolineano che l'approccio normativo dell'UE è destinato a influenzare altre giurisdizioni tramite l'"Effetto Bruxelles". Pertanto, correggere questa ambiguità è critico non solo per la conformità UE, ma anche per gli standard di governance globale. Il documento ipotizza che fare affidamento sul linguaggio naturale come principale indicatore di generalità comprometta l'efficacia delle disposizioni sul rischio sistemico dell'AI Act, limitandole effettivamente ai Grandi Modelli Linguistici (LLM) e lasciando senza regolamentazione potenti modelli fondazionali biologici. Gli autori concludono che è necessaria un'azione immediata, come l'utilizzo dell'Articolo 51(1)(b) per una designazione diretta o la revisione delle Linee Guida, per garantire che i modelli biologici ad alta capacità siano soggetti a appropriate valutazioni del rischio di duplice uso.