The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act
Dit artikel betoogt dat hoewel biologische foundation-modellen zoals ESM3 idealiter zouden moeten worden gereguleerd als algemene AI-modellen met systeemrisico onder de EU-AI-wetgeving om dubbelgebruik-biorisico's te mitigeren, de huidige ambiguïteiten in de wetgeving betekenen dat ze niet zinvol worden bestreken, wat de auteurs ertoe aanzet specifieke remedies voor te stellen om deze regelgevingskloof te dichten.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Plaatje: Een Veiligheidsnet met een Gat
Stel je voor dat de Europese Unie (EU) een enorm, high-tech veiligheidsnet heeft gebouwd, het EU AI Act genoemd. Het doel van dit net is om krachtige AI-systemen die ernstige schade aan de samenleving kunnen veroorzaken (zoals die welke kunnen helpen bij het creëren van biologische wapens) te vangen en hun makers te dwingen veiligheidsmaatregelen te nemen.
De auteurs van dit artikel wijzen op een gat in het net. Zij betogen dat een zeer krachtig nieuw AI-tool genaamd ESM3 precies door de spleten glipt. Hoewel ESM3 theoretisch het voor kwaadwillenden makkelijker zou kunnen maken om gevaarlijke biologische agentia te ontwerpen, lijkt de huidige regelgeving het niet te vangen.
Maak kennis met ESM3: De "Meesterkok" van Proteïnen
Om het probleem te begrijpen, moet je eerst het tool begrijpen.
- Wat is ESM3? Denk aan proteïnen als de "ingrediënten" of "machines" die het leven laten werken. ESM3 is een AI die fungeert als een Meesterkok die naar een recept (de sequentie van een proteïne), de vorm van het gerecht (de structuur) en wat het gerecht doet (de functie) kan kijken.
- Wat kan het doen? Als je ESM3 een gedeeltelijk recept geeft of een beschrijving van een maaltijd die je wilt koken, kan het de "leemtes invullen" en een gloednieuw, werkend proteïne uitvinden. Het kan dit ongelooflijk snel doen, waarbij het duizenden variaties in een computer test in de tijd die een menselijk laboratorium nodig heeft om er één te testen.
- Het Risico: Net zoals een Meesterkok per ongeluk een giftig gerecht kan creëren, kan een kwaadwillende ESM3 gebruiken om een nieuw, gevaarlijk virus of bacterie te ontwerpen. Het artikel betoogt dat ESM3 de stappen om een dergelijk wapen te creëren veel makkelijker en sneller maakt.
Het Regulatorische "Blind Vlak"
De EU AI Act heeft een specifieke regel: als een AI een "Algemeen Toepasbare AI" (GPAI) is met "Systeemrisico", moeten de makers strikte veiligheidsregels volgen.
De auteurs hebben echter ontdekt dat ESM3 momenteel onzichtbaar is voor deze regels vanwege twee verwarrende dingen:
1. De "Taal"-Valstrik (De Formulering van de Wet)
De wet definieert een "Algemeen Toepasbare AI" als iets dat zeer slim is en veel verschillende taken kan uitvoeren. De ondersteunende richtlijnen (het "handleiding" voor de wet) geven voorbeelden van deze taken: tekst schrijven, afbeeldingen maken op basis van tekst, of spreken.
- Het Probleem: De richtlijnen lijken te suggereren dat een AI "Algemeen Toepasbaar" moet zijn door menselijke taal (zoals Engels of Frans) te spreken.
- Het Gaten: ESM3 spreekt geen menselijke taal. Het spreekt "proteïnetaal" (sequenties van aminozuren). Omdat het niet met je chat of essays schrijft, zeggen de huidige regels: "Oh, dit is geen Algemeen Toepasbare AI. Het is gewoon een gespecialiseerd hulpmiddel." Daarom hoeft het niet de strikte veiligheidsregels te volgen.
2. De "Rekenkracht"-Drempel (De Groottebeperking)
De wet stelt ook dat als een AI is getraind met een enorme hoeveelheid rekenkracht (specifiek, meer dan bewerkingen), deze automatisch als gevaarlijk wordt beschouwd.
- Het Probleem: ESM3 is enorm, maar het is getraind met iets minder kracht dan dat magische getal (). Dus, het wordt ook niet gevangen door de automatische "gevaar"-trigger.
De "Biologisch Risico"-Keten Analogie
Het artikel gebruikt een concept genaamd de Biologisch Risico-Keten. Stel je voor dat een kwaadwillende die probeert een biologisch wapen te bouwen, vergelijkbaar is met een dief die probeert een hoogbeveiligde bank te beroven. Ze moeten een lange lijst met stappen voltooien:
- Beslissen de bank te beroven.
- De route plannen.
- Het slot openen.
- De kluis openen.
- Ontsnappen.
Het artikel betoogt dat ESM3 fungeert als een super-tool die verschillende van deze stappen (zoals het openen van het slot of de kluis) veel makkelijker maakt. Zelfs als het niet elke stap doet, vergroot het makkelijker maken van slechts een paar stappen de kans dat de dief slaagt. Omdat ESM3 open-source is (gratis te downloaden), kunnen zelfs kleine groepen met beperkte middelen het gebruiken.
Waarom Dit Belangrijk Is
De auteurs maken zich zorgen dat, omdat ESM3 niet voldoet aan de strikte definitie van "Algemeen Toepasbare AI" (omdat het geen menselijke taal spreekt), het ongereguleerd is. Dit betekent dat het bedrijf dat het heeft gemaakt niet hoeft aan te tonen dat ze veiligheidsmaatregelen hebben om te voorkomen dat kwaadwillenden het gebruiken om wapens te maken.
De Voorgestelde Oplossingen
Het artikel stelt vier manieren voor om het gat in het veiligheidsnet te dichten:
- "Algemeen" Herdefiniëren: De EU zou officieel kunnen verklaren dat "Algemeen Toepasbaar" AI omvat die een meester is op elk complex gebied (zoals biologie), niet alleen menselijke taal.
- De Richtlijnen Updaten: De mensen die de "handleiding" voor de wet schrijven, kunnen de regels aanpassen om biologische modellen op te nemen.
- De Wet Wijzigen: Ze kunnen de wet herschrijven om de eis te verwijderen dat een AI "Algemeen Toepasbaar" moet zijn om te worden gereguleerd op systeemrisico.
- Exportcontroles: Behandel de AI-software zelf als een gevaarlijk fysiek wapen dat niet vrijelijk kan worden geëxporteerd of gedeeld.
De Conclusie
Het artikel concludeert dat ESM3 momenteel onder de radar vliegt. Het heeft de kracht om aanzienlijke schade te veroorzaken (door de drempel voor het creëren van biologische wapens te verlagen), maar de huidige EU-regels zijn te gericht op "menselijke taal"-AI om het te vangen. De auteurs dringen er bij de EU op aan om deze definities te corrigeren, zodat krachtige biologische hulpmiddelen worden gehouden aan dezelfde veiligheidsnormen als andere gevaarlijke AI-systemen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.