The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act
Dieser Beitrag argumentiert, dass biologische Foundation-Modelle wie ESM3 zwar im Idealfall gemäß dem EU-KI-Gesetz als KI-Modelle mit systemischen Risiken reguliert werden sollten, um Dual-Use-Biorisiken zu mindern, doch die aktuellen Unschärfen in der Gesetzgebung bedeuten, dass sie nicht sinnvoll erfasst werden, was die Autoren dazu veranlasst, spezifische Abhilfemaßnahmen vorzuschlagen, um diese regulatorische Lücke zu schließen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Ein Sicherheitsnetz mit einem Loch
Stellen Sie sich vor, die Europäische Union (EU) hat ein riesiges, hochtechnisches Sicherheitsnetz namens EU-KI-Gesetz aufgebaut. Das Ziel dieses Netzes ist es, leistungsstarke KI-Systeme, die der Gesellschaft ernsthaften Schaden zufügen könnten (wie solche, die zur Herstellung biologischer Waffen beitragen könnten), abzufangen und ihre Entwickler zu zwingen, Sicherheitsvorkehrungen zu treffen.
Die Autoren dieses Papers weisen auf ein Loch im Netz hin. Sie argumentieren, dass ein sehr leistungsstarkes neues KI-Werkzeug namens ESM3 genau durch die Risse hindurchschlüpft. Obwohl ESM3 theoretisch es für Bösewichte erleichtern könnte, gefährliche biologische Agenzien zu entwerfen, scheint es die aktuellen Regeln nicht zu erfassen.
Kennenlernen von ESM3: Der „Meisterkoch" der Proteine
Um das Problem zu verstehen, müssen Sie zunächst das Werkzeug verstehen.
- Was ist ESM3? Denken Sie an Proteine als die „Zutaten" oder „Maschinen", die das Leben funktionieren lassen. ESM3 ist eine KI, die wie ein Meisterkoch agiert, der sich eine Rezeptur (die Sequenz eines Proteins), die Form des Gerichts (seine Struktur) und die Wirkung des Gerichts (seine Funktion) ansehen kann.
- Was kann es tun? Wenn Sie ESM3 ein unvollständiges Rezept oder eine Beschreibung eines Gerichts geben, das Sie kochen möchten, kann es die „Lücken füllen" und ein brandneues, funktionierendes Protein erfinden. Es kann dies unglaublich schnell tun und tausende Variationen in einem Computer testen, während es einem menschlichen Labor dauern würde, nur eine zu testen.
- Das Risiko: Genau wie ein Meisterkoch versehentlich ein giftiges Gericht kreieren könnte, könnte ein Bösewicht ESM3 nutzen, um ein neues, gefährliches Virus oder Bakterium zu entwerfen. Das Paper argumentiert, dass ESM3 die Schritte zur Schaffung einer solchen Waffe viel einfacher und schneller macht.
Der regulatorische „Blindfleck"
Das EU-KI-Gesetz hat eine spezifische Regel: Wenn eine KI eine „Allzweck-KI" (GPAI) mit „systemischem Risiko" ist, müssen die Entwickler strenge Sicherheitsregeln befolgen.
Die Autoren haben jedoch festgestellt, dass ESM3 aufgrund zweier verwirrender Faktoren für diese Regeln unsichtbar ist:
1. Die „Sprache"-Falle (Die Formulierung des Gesetzes)
Das Gesetz definiert eine „Allzweck-KI" als etwas, das sehr intelligent ist und viele verschiedene Aufgaben erledigen kann. Die unterstützenden Leitlinien (das „Bedienhandbuch" für das Gesetz) geben Beispiele für diese Aufgaben: Text schreiben, Bilder aus Text erstellen oder Sprechen.
- Das Problem: Die Leitlinien scheinen zu implizieren, dass eine KI, um „allzweckfähig" zu sein, menschliche Sprache (wie Englisch oder Französisch) sprechen muss.
- Die Lücke: ESM3 spricht keine menschliche Sprache. Es spricht „Proteinsprache" (Sequenzen von Aminosäuren). Da es nicht mit Ihnen chattet oder Aufsätze schreibt, besagen die aktuellen Regeln: „Oh, das ist keine Allzweck-KI. Es ist nur ein spezialisiertes Werkzeug." Daher muss es die strengen Sicherheitsregeln nicht befolgen.
2. Die „Rechenleistung"-Schwelle (Die Größenbegrenzung)
Das Gesetz besagt auch, dass eine KI, die mit einer massiven Menge an Rechenleistung trainiert wurde (speziell über Operationen), automatisch als gefährlich gilt.
- Das Problem: ESM3 ist riesig, wurde aber mit etwas weniger Leistung als diese magische Zahl () trainiert. Daher wird es auch nicht vom automatischen „Gefahren"-Auslöser erfasst.
Die Analogie der „Biorisiko-Kette"**
Das Paper verwendet ein Konzept namens Biorisiko-Kette. Stellen Sie sich vor, ein Bösewicht versucht, eine biologische Waffe zu bauen, ähnlich wie ein Dieb versucht, in eine Hochsicherheitsbank einzubrechen. Er muss eine lange Liste von Schritten abschließen:
- Den Entschluss fassen, die Bank zu überfallen.
- Die Route planen.
- Das Schloss knacken.
- Den Safe öffnen.
- Entkommen.
Das Paper argumentiert, dass ESM3 wie ein Super-Werkzeug wirkt, das mehrere dieser Schritte (wie das Knacken des Schlosses oder das Öffnen des Safes) viel einfacher macht. Selbst wenn es nicht jeden Schritt ausführt, erhöht das Erleichtern nur weniger Schritte die Wahrscheinlichkeit, dass der Dieb erfolgreich ist. Da ESM3 quelloffen ist (kostenlos herunterladbar), könnten sogar kleine Gruppen mit begrenzten Ressourcen es nutzen.
Warum das wichtig ist
Die Autoren sind besorgt, dass ESM3, weil es nicht in die strenge Definition einer „Allzweck-KI" passt (da es keine menschliche Sprache spricht), unreguliert ist. Das bedeutet, dass das Unternehmen, das es entwickelt hat, nicht nachweisen muss, dass es Sicherheitsvorkehrungen hat, um zu verhindern, dass böswillige Akteure es zur Herstellung von Waffen nutzen.
Die vorgeschlagenen Lösungen
Das Paper schlägt vier Wege vor, um das Loch im Sicherheitsnetz zu stopfen:
- „Allgemein" neu definieren: Die EU könnte offiziell festlegen, dass „Allzweckfähig" auch KI einschließt, die in jedem komplexen Feld (wie Biologie) meisterhaft ist, nicht nur in menschlicher Sprache.
- Leitlinien aktualisieren: Die Personen, die das „Bedienhandbuch" für das Gesetz verfassen, könnten die Regeln ändern, um biologische Modelle einzuschließen.
- Das Gesetz ändern: Sie könnten das Gesetz so umschreiben, dass die Anforderung entfernt wird, dass eine KI „allzweckfähig" sein muss, um wegen systemischen Risikos reguliert zu werden.
- Exportkontrollen: Die KI-Software selbst sollte wie eine gefährliche physische Waffe behandelt werden, die nicht frei exportiert oder geteilt werden darf.
Das Fazit
Das Paper kommt zu dem Schluss, dass ESM3 derzeit unter dem Radar fliegt. Es hat die Kraft, erheblichen Schaden anzurichten (indem es die Hürde zur Schaffung biologischer Waffen senkt), aber die aktuellen EU-Regeln sind zu sehr auf „menschliche Sprache"-KI fokussiert, um es zu erfassen. Die Autoren fordern die EU auf, diese Definitionen zu korrigieren, damit leistungsstarke biologische Werkzeuge denselben Sicherheitsstandards unterliegen wie andere gefährliche KI-Systeme.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.