Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions
Diese Arbeit kartiert die Governance-Rahmenbedingungen für KI der allgemeinen Nutzung (GPAI) von zwanzig Mittelmächten und zeigt auf, dass diese zwar in den zentralen Verantwortungsbereichen hinsichtlich der Regulierungsformen weitgehend konvergieren, sich jedoch in ihrer Durchsetzungskraft signifikant unterscheiden, wobei die meisten auf nicht bindende Maßnahmen, bestehende Mandate auf der Anwendungsebene und Beobachtungskapazitäten setzen, anstatt bindende Pflichten für Modellentwickler aufzuerlegen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der die leistungsfähigsten Systeme künstlicher Intelligenz in nur zwei Orten gebaut werden, doch ihre Auswirkungen spüren jede Nation auf der Erde. Diese Systeme, bekannt als General-Purpose-KI (universelle KI), sind keine einfachen Werkzeuge, die für eine einzige Aufgabe wie das Sortieren von Post oder das Erkennen von Gesichtern konzipiert sind. Stattdessen sind sie riesige, flexible Motoren, die fast alles lernen können, vom Schreiben von Programmcode bis hin zur Simulation biologischer Prozesse. Da sie so anpassungsfähig sind, bergen sie einzigartige Risiken: Sie könnten dazu verwendet werden, gefährliche Waffen zu erschaffen, Cyberangriffe zu starten oder sich auf eine Weise zu verhalten, die Menschen nicht mehr stoppen können. Während die Unternehmen, die diese Systeme bauen, in wenigen Ländern konzentriert sind, muss der Rest der Welt dennoch herausfinden, wie er mit ihnen zusammenlebt. Dies ist die Herausforderung, vor der die sogenannten „KI-Mittelmächte“ stehen: Nationen, die diese Grenzmodelle (Frontier Models) nicht selbst entwickeln, aber dennoch regulieren müssen, wie sie innerhalb ihrer Grenzen eingesetzt, verkauft und überwacht werden.
Ein Team von Forschern setzte sich zum Ziel, zu kartieren, wie zwanzig dieser Nationen dieses Problem handhaben. Sie sahen sich nicht politische Grundsatzerklärungen oder vage Versprechen an. Stattdessen tauchten sie tief in die tatsächlichen Gesetze, Verordnungen und offiziellen Leitfäden ein, um zu sehen, welche Regeln konkret geschrieben wurden. Sie konzentrierten sich auf vier spezifische Bereiche, in denen die Sicherheit gewährleistet werden muss: die Überprüfung von übergeordneten Risiken vor der Veröffentlichung eines Systems, das Testen und Verifizieren dessen, was das System tatsächlich leisten kann, das Verbot gefährlicher Anwendungen oder Fähigkeiten sowie die Meldung schwerwiegender Unfälle, wenn diese auftreten. Durch das Lesen des Kleingedruckten in Hunderten von Dokumenten erstellten sie ein detailliertes Bild der globalen Landschaft der KI-Governance.
Was sie fanden, war eine Geschichte von Form ohne Kraft. Über die zwanzig untersuchten Nationen hinweg gibt es eine klare Übereinstimmung über die Gestalt der Regeln. Fast jedes Land versucht, dieselben vier Sicherheitsbereiche anzugehen. Alle sprechen über Risikobewertungen, Tests, Verbote und Meldungen. Sie scheitern jedoch daran, diese Regeln verbindlich zu machen. Die Forscher entdeckten, dass viele Länder zwar diese Anforderungen aufgeschrieben haben, aber nur sehr wenige sie in bindende Gesetze umgewandelt haben, die tatsächlich durchsetzbar sind. Tatsächlich sind nur etwa 22 Prozent der gefundenen Regeln in hartem Recht verfasst. Der Rest besteht aus weichen Leitlinien, Strategien oder freiwilligen Kodizes, die Unternehmen ignorieren können. Noch frappierender ist, dass Länder, wenn sie bereits bindende Gesetze verabschieden, oft gar nicht definieren, was eine „General-Purpose-KI“ eigentlich ist. Sie erstellen Regeln für eine Technologiekategorie, ohne klar zu benennen, was diese Kategorie einschließt. Dies hinterlässt eine Lücke, in der ein Unternehmen argumentieren könnte, dass sein leistungsfähiges neues Modell nicht unter die Definition fällt und daher nicht den Regeln folgen muss.
Die Art und Weise, wie diese Nationen ihre Regeln durchsetzen, offenbart eine weitere Ebene der Komplexität. Meistens richten sich die Regeln nicht gegen die Unternehmen, die die KI-Modelle bauen. Stattdessen zielen die Gesetze auf die Menschen ab, die die Modelle nutzen, die Plattformen, die sie hosten, oder die Regierungsbehörden, die sie kaufen. Dies geschieht, weil die im Studium genannten Länder nicht die Standorte der Unternehmen sind, die die fortschrittlichste KI entwickeln. Sie können diese ausländischen Entwickler nicht ohne Weiteres dazu zwingen, ihren Code zu ändern oder sich Inspektionen zu unterziehen. Daher versuchen sie, die Technologie dadurch zu kontrollieren, wie sie in ihren eigenen Märkten eingesetzt wird. Ein Land könnte beispielsweise eine Bank dazu verpflichten, ein KI-Tool zu testen, bevor es verwendet wird, oder ein Krankenhaus dazu, zu melden, wenn eine KI einen Fehler macht. Obwohl dieser Ansatz praktisch ist, bedeutet dies, dass das Sicherheitsnetz oft um die Anwendung der Technologie herum gewebt wird und nicht um die Technologie selbst.
Die Forscher untersuchten auch, wer die Kontrolle übernimmt. In vielen Fällen sind die Stellen, die für das Testen von KI verantwortlich sind, dieselben, die ursprünglich für andere Zwecke geschaffen wurden, wie etwa die Regulierung des Finanzwesens oder den Schutz von Daten. Diese bestehenden Behörden werden nun gebeten, die KI-Aufsicht zu übernehmen, ohne dass sie immer über die spezifische technische Kompetenz dafür verfügen. Darüber hinaus fehlt den neuen Sicherheitsinstituten, die einige Länder zur Bewertung von KI aufgebaut haben, oft die Autorität, ein gefährliches System zu stoppen, falls sie eines finden. Sie können das Risiko messen und einen Bericht veröffentlichen, aber sie können den Entwickler nicht dazu zwingen, das Problem zu beheben. Es ist, als könnte eine Feuerwehr messen, wie heiß ein Gebäude ist, und einen Bericht über die Gefahr schreiben, aber keine Macht haben, dem Eigentümer vorzuschreiben, Sprinkleranlagen zu installieren oder das Gebäude zu schließen.
Die bedeutendste Erkenntnis betrifft die Meldung von Unfällen. Wenn ein schwerwiegender Schaden auftritt, wer soll dann die Behörden informieren? Die Studie ergab, dass die Hälfte der befragten Nationen überhaupt keine Regel hat, die jemanden dazu verpflichtet, einen schwerwiegenden KI-Zwischenfall zu melden. In den Ländern, die solche Regeln haben, sind die Anweisungen oft unvollständig. Eine Regel besagt vielleicht „melden Sie einen Unfall“, versäumt es aber zu sagen, an wen dies gemeldet werden muss, wie schnell es geschehen muss oder was passiert, wenn niemand meldet. Ohne diese vier Bestandteile – den Empfänger, den Auslöser, die Frist und die Konsequenz – ist eine Melderegel nur ein Vorschlag. Die Forscher merkten an, dass dies eine Blindstelle hinterlässt: Wenn ein KI-System auf eine Weise versagt, die keinen unmittelbaren Datendiebstahl oder finanziellen Verlust verursacht, wird es möglicherweise nie gemeldet, selbst wenn der langfristige Schaden gravierend ist.
Das Papier stellte auch die Idee infrage, dass mehr Gesetze gleich bessere Sicherheit bedeuten. Einige Länder haben Dutzende von Dokumenten und Leitlinien produziert und damit eine dicke Schicht an Papierarbeit geschaffen. Doch als die Forscher nach der rechtlichen Gewalt hinter diesen Dokumenten suchten, stellten sie fest, dass viele davon nicht bindend waren. Im Gegensatz dazu hatten einige Länder mit weniger Dokumenten strikte, durchsetzbare Gesetze verabschiedet. Die Studie zeigte, dass die Anzahl der Regeln ein schlechter Indikator dafür ist, wie sicher das KI-Umfeld eines Landes tatsächlich ist. Entscheidend ist, ob die Regeln so formuliert sind, dass sie durchsetzbar sind, und ob sie die richtigen Leute erreichen.
Am Ende zeichnet die durch diese Forschung entstandene Karte eine Welt, die versucht, mit einer Technologie Schritt zu halten, die sich schneller bewegt als ihre Gesetze. Die zwanzig Nationen haben sich zwar auf die Vokabeln der Sicherheit geeinigt – sie alle wissen, dass sie Risiken bewerten, Systeme testen, schlechte Anwendungen verbieten und Unfälle melden müssen. Aber sie haben noch nicht auf die Kraft dieser Worte geeinigt. Die Regeln sind oft vage, die Definitionen fehlen und die Durchsetzungsmechanismen sind schwach. Die Forscher schlagen vor, dass diese einzelnen Nationen, bevor die Welt zu einem einheitlichen Satz internationaler Regeln kommen kann, die Lücken in ihren eigenen Systemen schließen müssen. Sie müssen entscheiden, was genau sie regulieren, ihren Sicherheitsbehörden die Macht geben zu handeln und sicherstellen, dass jemand tatsächlich zur Rechenschaft gezogen wird, wenn etwas schiefgeht. Bis dahin bleibt das globale Sicherheitsnetz für künstliche Intelligenz voller Löcher, gewebt aus guten Absichten, aber ohne die Stärke, das Gewicht der Technologie zu tragen, die es zu schützen vorgibt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.