Die Diskussion über künstliche Intelligenz fühlt sich oft so an, als stecke sie in einer einzigen, binären Frage fest: Sollten die leistungsfähigsten Computergehirne hinter einer verschlossenen Tür aufbewahrt werden, zugänglich nur über die Website eines Unternehmens, oder sollten ihre inneren Abläufe veröffentlicht werden, damit jeder sie herunterladen und studieren kann? Diese Debatte behandelt die Veröffentlichung eines Modells als eine einfache Wahl zwischen „offen“ und „geschlossen“. Die Realität dieser Systeme ist jedoch weitaus komplexer. Ein KI-System, das darauf ausgelegt ist, einem Kind das Alphabet beizubringen, unterscheidet sich grundlegend von einem System, das in der Lage ist, komplexe militärische Strategien zu planen oder Finanzmärkte zu manipulieren. Die Gefahr, die das eine System darstellt, ist nicht dieselbe wie die Gefahr, die das andere darstellt. Wenn wir für beide die gleichen Regeln anwenden, sperren wir entweder Werkzeuge weg, die Millionen lehren könnten, oder wir reichen jedem, der sie will, gefährliche Waffen aus. Die eigentliche Herausforderung für die Gesellschaft besteht nicht nur darin, zu entscheiden, wie intelligent eine Maschine sein kann, sondern zu entscheiden, wer diese Intelligenz nutzen darf und unter welchen Bedingungen.

Im September 2026 schlugen die Forscher Chai K. Toh und Vasu Raj Jain von der SAFE AI Foundation einen neuen Weg vor, um dieses Problem zu durchdenken. Sie argumentieren, dass die aktuelle Debatte eine entscheidende Unterscheidung übersieht: den Unterschied zwischen der Leistungsfähigkeit eines Systems und dem, wer Zugang dazu hat. Anstatt zu fragen, ob ein Modell offen oder geschlossen sein sollte, schlagen sie vor, den Zugang basierend darauf zu sortieren, was die Maschine tatsächlich tun wird und wie viel Schaden sie anrichten könnte, wenn etwas schiefgeht. Sie nennen dies das Multi-Tiered AI Accessibility Model (Mehrstufiges KI-Zugänglichkeitsmodell), ein System, das künstliche Intelligenz in drei verschiedene Ebenen unterteilt, ähnlich wie wir verschiedene Arten von Fahrzeugen oder Chemikalien basierend auf ihrem Risiko regulieren.

Die erste Ebene, die die Autoren als „KI für das Lernen“ bezeichnen, ist für Bildung und grundlegende Lese- und Schreibkompetenz konzipiert. Dies sind Systeme, die darauf ausgerichtet sind, Schülern beizubringen, wie sie Technologie nutzen, wie sie programmieren oder wie sie die Welt verstehen. Da das Potenzial für Schaden gering ist, sollten diese Modelle so offen wie möglich sein. Jeder sollte in der Lage sein, sie herunterzuladen, sie zu studieren und sie zu nutzen, ohne seine Identität nachweisen zu müssen. Die Forscher schlagen vor, dass diese Systeme absichtlich in ihrer Leistungsfähigkeit begrenzt sein sollten; sie müssen nicht die leistungsfähigsten Computer existierender Art sein, um eine Lektion zu erteilen. Indem die Gesellschaft die Leistungsfähigkeit dieser Lernwerkzeuge durch Design begrenzt hält, kann sie die Vorteile des offenen Zugangs genießen, ohne das Risiko einzugehen, dass ein Schüler versehentlich ein gefährliches System entfesselt.

Die zweite Ebene, „KI zur Exploration“, dient einer anderen Gruppe: Forschern, Entwicklern und Unternehmen, die mehr Leistung benötigen, um neue Anwendungen zu bauen oder wissenschaftliche Ideen zu testen. Diese Systeme sind leistungsfähiger als die Lernwerkzeuge, aber noch nicht an der Spitze dessen, was möglich ist. Der Zugang zu dieser Ebene ist nicht völlig offen, aber auch nicht weggeschlossen. Er arbeitet auf einer abgestuften Skala. Ein weniger leistungsfähiges System in dieser Kategorie könnte der Öffentlichkeit mit einigen Regeln zur Verfügung stehen, während ein leistungsstärkeres System erfordert, dass der Nutzer seine Identität registriert und spezifische Nutzungsbedingungen akzeptiert. Die Kernidee hier ist die Rechenschaftspflicht. Mit zunehmender Leistungsfähigkeit des Werkzeugs muss die Person oder Organisation, die es nutzt, identifizierbar sein. Wenn etwas schiefgeht, gibt es eine Aufzeichnung darüber, wer das System genutzt hat, und es gibt eine Möglichkeit, die Nutzung zu stoppen, falls dies notwendig ist.

Die dritte und letzte Ebene ist die „Vollskalige Frontier-KI“. Dies sind die leistungsfähigsten Systeme, die man sich vorstellen kann, fähig zu fortgeschrittener Argumentation, autonomer Planung und dem Betrieb in hochsensiblen Bereichen wie Verteidigung, Luftfahrt oder kritischer Infrastruktur. Die Forscher argumentieren, dass diese Systeme niemals als offene Dateien veröffentlicht werden sollten, die jeder herunterladen und modifizieren kann. Sobald ein leistungsstarkes Modell als Satz von Gewichten – den mathematischen Anweisungen, die es zum Funktionieren bringen – veröffentlicht wird, ist es unmöglich, es zurückzufordern. Wenn ein böswilliger Akteur es herunterlädt, kann er die Sicherheitsfunktionen entfernen, das Verhalten ändern oder es in einen Roboter einbetten, der eigenständig handelt. Der ursprüngliche Schöpfer verliert jede Kontrolle. Daher sollte der Zugang zu diesen Frontier-Systemen streng auf geprüfte Organisationen beschränkt sein, die ein legitimes Bedürfnis haben, wobei jede Interaktion protokolliert und überwacht wird. Das Ziel ist nicht, die Innovation zu stoppen, sondern sicherzustellen, dass die gefährlichsten Werkzeuge nur von verantwortungsbewussten Parteien gehandhabt werden, die zur Rechenschaft gezogen werden können.

Das Paper liefert starke Beweise dafür, warum diese Trennung notwendig ist. Die Autoren weisen darauf an, dass die Sicherheitsfunktionen, die einer KI hinzugefügt werden, oft oberflächlich sind und sehr kostengünstig entfernt werden können. Die Forschung zeigt, dass jemand mit nur ein paar hundert Dollar an Rechenleistung und einer kleinen Menge an Daten ein sicheres Open-Weight-Modell nehmen und dessen Sicherheitsbarrieren entfernen kann. Das bedeutet, dass selbst wenn ein Entwickler ein Modell testet und es vor der Veröffentlichung als sicher befunden hat, der Moment des Downloads das Sicherheitsversprechen zunichtemacht. Das Modell kann in etwas Gefährliches verwandelt werden, und der ursprüngliche Entwickler hat keine Möglichkeit mehr, dies zu stoppen oder zu korrigieren. In einem geschlossenen System, in dem das Modell über eine sichere Schnittstelle bereitgestellt wird, kann der Entwickler die Nutzung überwachen, erkennen, wenn jemand versucht, die Regeln zu brechen, und den Zugriff sofort entziehen. In einem offenen System, sobald die Datei heruntergeladen wurde, verliert der Entwickler all diese Hebel der Kontrolle.

Um dieses System zum Funktionieren zu bringen, schlagen die Forscher eine Reihe von Regeln vor, um zu entscheiden, welcher KI eine bestimmte Ebene zuzuordnen ist. Sie schlagen vor, vier Hauptfaktoren zu betrachten: wie leistungsfähig das System ist, wie sehr es eigenständig handeln kann, welche realen Auswirkungen seine Fehler haben könnten und wofür das System tatsächlich eingesetzt wird. Ein System kann sehr intelligent sein, aber nur dazu dienen, Poesie zu schreiben, was es in einer niedrigeren Ebene hält. Aber wenn ein etwas weniger intelligentes System dazu entworft ist, ein Stromnetz zu steuern oder biologische Agenzien zu entwickeln, muss es in eine höhere Ebene eingestuft werden, weil die Folgen eines Versagens so schwerwiegend sind. Die Entscheidung, welcher Ebene ein System angehört, sollte nicht allein den Unternehmen überlassen werden, die diese bauen. Stattdessen sollten unabhängige Regulierungsbehörden oder Sicherheitsinstitute die Beweise prüfen und die Ebene zuweisen, um sicherzustellen, dass die Regeln fair und konsistent angewendet werden.

Dieser Ansatz kombiniert zwei verschiedene Sicherheitsgrenzen. Die erste ist eine Grenze für die Leistungsfähigkeit, ein Konzept, das die Autoren als „Capability Boundary“ (Leistungsfähigkeitsgrenze) bezeichnen. Diese setzt eine Obergrenze für die rohe Intelligenz und Autonomie jeder KI und stellt sicher, dass kein System gebaut wird, das Menschen nicht mehr kontrollieren können. Die zweite ist die „Accessibility Boundary“ (Zugänglichkeitsgrenze), die neue Idee, die in diesem Paper eingeführt wird. Sie schreibt vor, dass mit zunehmender Annäherung an diese Obergrenze die Anzahl der Personen, die es nutzen dürfen, sinken muss und die Regeln für die Nutzung strenger werden müssen. Wenn wir zwar eine Obergrenze haben, aber keine Regeln darüber, wer sie erklimmen darf, könnten die gefährlichsten Werkzeuge in die Hände von jedem gelangen. Wenn wir zwar Regeln darüber haben, wer sie nutzen darf, aber keine Obergrenze für ihre Leistungsfähigkeit haben, könnten wir den kontrollierten Zugang zu Systemen zulassen, die zu gefährlich für jeden sind.

Die Forscher räumen ein, dass dieses System keine perfekte Lösung ist und darauf angewiesen ist, dass Institutionen funktionieren. Sie geben zu, dass entschlossene Individuen immer noch Wege finden könnten, mächtige Modelle zu leaken, und dass der Rahmen die Verbreitung gefährlicher Technologie nicht vollständig stoppen kann. Sie argumenten jedoch, dass dies die Kosten und die Schwierigkeit einer solchen Proliferation erhöht und es böswilligen Akteuren wesentlich erschwert, in den Besitz der leistungsfähigsten Werkzeuge zu gelangen. Durch die Organisation des Zugangs in klare Ebenen kann die Gesellschaft die Vorteile offener KI für das Lernen und die Forschung beibehalten und gleichzeitig eine Sicherheitszone für die leistungsfähigsten Systeme schaffen. Das Ergebnis ist eine Welt, in der die fähigsten Maschinen nicht vor allen verschlossen sind, aber auch nicht an alle herausgegeben werden, sondern statっdessen den Menschen und Organisationen zugeordnet sind, die am besten gerüstet sind, sie sicher zu nutzen.