AI Security Priorities: A Field-Wide Agenda
Dieses Papier präsentiert eine prioritisierte, multisektorale Agenda zur Förderung der KI-Sicherheit, die in vier zentrale Themen unterteilt und aus Experteninterviews sowie Workshops abgeleitet wurde, um koordinierte Investitionen und Maßnahmen zum Schutz von KI-Systemen und -Infrastrukturen zu leiten, während deren Einführung die Bereitschaft zur Sicherheit überholt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich die Welt der Computer als eine riesige, geschäftige Stadt vor. Jahrzehntelang konzentrierten sich die Menschen, die diese Stadt bauten, darauf, die Gebäude höher und die Straßen schneller zu machen. Sie schufen mächtige Werkzeuge, um Probleme zu lösen, Geschichten zu schreiben und Daten zu organisieren. Aber vor kurzem begannen sie, etwas Neues zu bauen: Roboter, die nicht nur Befehlen folgen, sondern tatsächlich darüber nachdenken können, was sie als Nächstes tun sollen, Werkzeuge greifen und auf eigene Faust durch die Stadt laufen können. Diese werden „KI-Agenten“ genannt.
Das Problem ist, dass die Sicherheitskräfte der Stadt noch Uniformen von vor zehn Jahren tragen. Sie wissen, wie man eine Tür abschließt oder einen Dieb mit einem Brecheisen stoppt, aber sie sind nicht bereit für einen Roboter, der ein Schloss knacken, einen Wachmann austricksen kann, damit dieser ein Tor öffnet, oder die Blaupausen der Stadt umschreibt, während man schläft. Dieses Papier handelt von einer Gruppe von Experten – Menschen, die diese Roboter bauen, Menschen, die die Stadt bewachen, und Menschen, die die Regeln machen – die erkannt haben, dass die Lücke zwischen der Geschwindigkeit, mit der die Roboter klüger werden, und der Geschwindigkeit, mit der wir lernen, sie zu schützen, gefährlich groß wird. Sie kamen zusammen, um herauszufinden, was genau wir tun müssen, um die Stadt sicher zu halten, bevor die Roboter zu groß werden, um sie zu kontrollen.
Dieses Papier mit dem Titel „AI Security Priorities: A Field-Wide Agenda“ ist im Wesentlichen eine riesige To-Do-Liste, die von über 20 Experten aus der ganzen Welt erstellt wurde. Sie haben nicht einfach geraten; sie haben Führungspersönlichkeiten interviewt, Workshops abgehalten und Ideen basierend auf zwei Dingen bewertet: wie wichtig sie sind und wie viel Nutzen sie pro investiertem Aufwand bieten. Sie fanden heraus, dass wir Software nicht mehr nur mit Flicken reparieren können; wir brauchen eine völlig neue Art des Denkens über Sicherheit.
Hier ist das, was sie herausgefunden haben, unterteilt in vier Hauptviertel der Stadt:
1. Das Viertel Rathaus (Strategie und Regeln)
Die Experten sagen, wir müssen aufhören, KI-Sicherheit wie ein untergeordnetes IT-Problem zu behandeln, und anfangen, sie wie nationale Verteidigung zu behandeln. Sie schlagen vor, dass die Regierung eine klare „Abschreckungsstrategie“ benötigt. Denken Sie an ein Schild an einem Zaun, das sagt: „Wenn du versucht, unsere Robotergehirne zu stehlen, werden wir es wissen und wir werden hart zurückschlagen.“ Im Moment könnten Bösewichte denken, sie könnten diese mächtigen KI-Modelle ohne Konsequenzen stehlen, weil die Regeln vage sind. Das Papier sagt auch, dass wir ein gemeinsames Wörterbuch brauchen. Momentan nennt eine Gruppe ein Problem „Sicherheit“ (Safety) und eine andere nennt es „Sicherheit“ (Security), was zu Verwirrung führt. Wir müssen alle dieselbe Sprache sprechen, damit wir die richtigen Mauern bauen können. Schließlich wollen sie eine riesige Bibliothek (einen „Ressourcen-Hub“), in der jeder die besten Werkzeuge und Leitfäden finden kann, um seine KI abzusichern, damit wir nicht alle das Rad neu erfinden müssen.
2. Das Viertel der Nachbarschaftswache (Öffentlich-Private Koordination)
Die mächtigsten KI-Roboter werden von einigen wenigen privaten Unternehmen gebaut, aber die Bedrohungen gegen sie kommen von ganzen Ländern. Es ist, als würde eine kleine Nachbarschaftswache versuchen, eine ausländische Armee aufzuhalten; sie können das nicht allein schaffen. Das Papier schlägt vor, dass die Regierung und diese Unternehmen zusammenarbeiten müssen. Die Regierung verfügt über Geheimdienstinformationen über Bösewichte, die die Unternehmen nicht sehen, und die Unternehmen haben die Roboter, die geschützt werden müssen. Sie schlagen vor, spezielle „Berechtigungsausweise“ für die Menschen zu erstellen, die an diesen Robotern arbeiten, ähnlich wie Spione eine Sicherheitsüberprüfung erhalten, um sicherzustellen, dass niemand im Inneren für den Feind arbeitet. Sie wollen auch eine dedizierte Hotline, über die Unternehmen Geschichten über Angriffe teilen können, ohne Ärger zu bekommen, damit wenn ein Unternehmen gehackt wird, alle anderen sofort wissen, wie sie es beheben können.
3. Die Ingenieurswerkstatt (Technische Sicherheit)
Hier findet das eigentliche Bauen statt. Das Papier weist darauf hin, dass die aktuellen Werkzeuge nicht stark genug sind. Es schlägt vor, „Confidential Computing“ einzusetzen, was so ist, als würde man das Gehirn der KI in eine supergesicherte, unzerbrechliche Glaskiste setzen, in die nur die KI hineinsehen kann. Selbst wenn ein Hacker in das Gebäude einbricht, kann er nicht in die Kiste schauen, um die Geheimnisse des Roboters zu stehlen. Sie wollen auch KI nutzen, um besseren Code zu schreiben, in der Hoffnung, dass ein kluger Roboter seine eigenen Fehler erkennt, bevor ein Mensch es tut. Eine weitere große Idee ist das „Red-Teaming“, was so ist, als würde man ein Team von professionellen Dieben anheuern, um zu versuchen, in das System einzubrechen. Das Papier sagt, wir müssen die besten Diebe anheuern, diejenigen, die wie ausländische Regierungen denken, um unsere Verteidigungen zu testen, bevor die echten Bösewichte auftauchen.
4. Der Roboter-Kontrollraum (Steuerung von Agentic AI)
Dies ist der futuristischste Teil. Da Roboter beginnen, Dinge selbstständig zu tun – wie zum Beispiel Stromnetze zu verwalten oder Geld zu bewegen – brauchen wir neue Regeln. Das Papier schlägt vor, dass wir „Genehmigungsrahmen“ benötigen. Stellen Sie sich einen Roboter vor, der ein Auto kaufen möchte; er sollte nicht einfach in der Lage sein, dies zu tun. Er sollte einen Menschen fragen müssen: „Darf ich dieses Auto kaufen?“ und der Mensch muss „Ja“ sagen müssen. Wir müssen auch mathematisch beweisen können, dass der Roboter bestimmte gefährliche Dinge nicht tun kann, wie zum Beispiel das gesamte Geld des Unternehmens an einen Fremden zu senden. Das Papier warnt davor, dass wir diese Roboter ohne diese spezifischen Kontrollen laufen lassen, könnten sie versehentlich (oder absichtlich) die sehr Systeme angreifen, bei denen sie eigentlich helfen sollen.
Das Fazit
Das Papier behauptet nicht, alles gelöst zu zu haben. Tatsächlich gibt es zu, dass dies nur der erste Entwurf eines Plans ist. Die Experten sind sich sehr einig, dass sich die Bedrohungslage schnell verändert und was heute funktioniert, morgen vielleicht nicht mehr gilt. Sie sind jedoch zuversichtlich, dass wir die Chancen zu unseren Gunsten wenden können, wenn wir jetzt mit diesen spezifischen 18 Prioritäten beginnen – indem wir die Regeln bauen, die Geheimnisse teilen, die Technik härten und die Roboter kontrollieren. Sie wollen sicherstellen, dass diese mächtigen Werkzeuge, während sie heranwachsen, sicher, geschützt und hilfreich für alle bleiben, anstatt zu einer Gefahr für die Stadt zu werden, der sie gebaut wurden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.