AI Security Research Should Better Incentivize Defense Research
Dieser Beitrag argumentiert, dass die Sicherheitsforschung im Bereich der künstlichen Intelligenz aufgrund verzerrter Bewertungsstandards unter einem schiefen Ungleichgewicht leidet, das Angriffsstudien gegenüber Verteidigung begünstigt, was eine Verschiebung der Anreize erfordert, um die Entwicklung praktischer und einsetzbarer Schutzmaßnahmen zu priorisieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich die Welt der Sicherheit von Künstlicher Intelligenz (KI) als ein riesiges, hochriskantes Spiel aus Schlossbauern gegen Schlossknacker vor.
In diesem Spiel gibt es zwei Arten von Forschern:
- Die Schlossknacker (Angreifforschende): Ihre Aufgabe ist es, Wege zu finden, um in KI-Systeme einzudringen. Sie suchen nach Rissen in der Tür, knacken Schlösser oder täuschen die Sicherheitskameras.
- Die Schlossbauer (Verteidigungsforschende): Ihre Aufgabe ist es, bessere Schlösser zu bauen, die Türen zu verstärken und Alarme zu schaffen, die tatsächlich funktionieren, wenn jemand versucht, einzubrechen.
Diese Arbeit, verfasst von Youqian Zhang von der Hong Kong Polytechnic University, argumentiert, dass die akademische Welt von den Schlossknackern besessen ist und die Schlossbauer vernachlässigt.
Hier ist die Aufschlüsselung der Hauptpunkte der Arbeit unter Verwendung einfacher Analogien:
1. Die Anzeigetafel ist verzerrt
Der Autor zählte die Forschungsarbeiten, die auf führenden Sicherheitskonferenzen veröffentlicht wurden.
- Die Ergebnisse: Für jede Arbeit, die über die Schließung einer Sicherheitslücke geschrieben wurde, gibt es ungefähr 2 bis 3 Arbeiten, die darüber schreiben, wie man diese Lücke erstellt oder ausnutzt.
- Die Analogie: Stellen Sie sich eine Stadt vor, in der für jede Person, die einen besseren Feuerlöscher erfindet, drei Personen Bücher darüber schreiben, wie man ein Feuer entfacht. Die Stadt wird sehr gut darin, zu verstehen, wie Feuer entstehen, aber es werden immer weniger Menschen, die wissen, wie man sie effektiv löscht.
2. Die Regeln des Spiels sind unfair
Die Arbeit erklärt, dass die „Regeln" des akademischen Veröffentlichen es viel einfacher machen, ein Schlossknacker als ein Schlossbauer zu sein.
Das Problem „Ein Treffer" versus „Perfekter Schild":
- Für Angreifer: Wenn Sie unter bestimmten Bedingungen ein spezifisches KI-Modell einmal knacken können, haben Sie eine gewinnende Arbeit. Es ist so, als würden Sie zeigen, dass Sie ein Schloss in einem bestimmten Haus knacken können. Das reicht für eine Veröffentlichung.
- Für Verteidiger: Um eine Arbeit zu veröffentlichen, müssen Sie beweisen, dass Ihr Schloss gegen jeden Diebstyp, bei jedem Wetter funktioniert, ohne die Tür zu verlangsamen oder sie hässlich zu machen. Wenn Ihr Schloss nur gegen einen neuen Trick versagt, wird Ihre Arbeit möglicherweise abgelehnt.
- Das Ergebnis: Es ist viel einfacher, einen „Sieg" durch das Brechen von Dingen zu erzielen als durch das Reparieren.
Der „Neues Spielzeug"-Effekt:
- Jedes Mal, wenn ein neues KI-Modell veröffentlicht wird (wie eine neue Videospielkonsole), stürmen die Schlossknacker sofort, um Fehler darin zu finden. Das ist aufregend und leicht zu beschreiben.
- Schlossbauer müssen warten, die Fehler studieren und dann eine Lösung entwickeln. Bis sie veröffentlichen, ist das „neue Spielzeug" vielleicht schon alt, und die Lösung wird als „nur aufholend" angesehen.
3. Die Lücke der „Geheimindustrie"
Die Arbeit weist auch auf ein verstecktes Problem hin: Die Industrielücke.
- Die Analogie: Stellen Sie sich vor, die Schlossbauer arbeiten in geheimen Regierungslaboren oder privaten Unternehmen. Sie bauen tatsächlich großartige Sicherheitssysteme, können aber wegen Geschäftsgeheimnissen nicht darüber sprechen.
- Währenddessen schreien die Schlossknacker an den Universitäten über jeden kleinen Riss, den sie öffentlich finden.
- Die Illusion: Da die Öffentlichkeit nur die Arbeit der Schlossknacker sieht, sieht es so aus, als hätten wir keine Verteidigung. Aber die Arbeit warnt davor, dass selbst wenn geheime Verteidigungen existieren, die akademische Welt nicht genug Wissen darüber teilt, wie man sie aufbaut, was uns langfristig verwundbar macht.
4. Warum ist das wichtig?
Der Autor sagt nicht, dass wir aufhören sollten zu untersuchen, wie man KI knackt. Wir brauchen Schlossknacker, um die Löcher zu finden.
- Das Problem: Wir sind derzeit so gut darin, Löcher zu finden, dass uns die Leute ausgehen, die sie tatsächlich so patchen können, dass es in der realen Welt funktioniert.
- Das Risiko: Wenn wir uns nur auf das Brechen von Dingen konzentrieren, werden wir eine Bibliothek voller Bücher haben mit dem Titel „Wie man KI knackt", aber nur sehr wenige Baupläne für „Wie man KI sichert". Wenn KI für kritische Dinge wie selbstfahrende Autos oder medizinische Diagnosen eingesetzt wird, reicht es nicht zu wissen, wie man sie knackt; wir müssen wissen, wie man sie sicher macht.
Die Hauptaussage
Die Arbeit fordert eine Änderung der „Anreizstruktur".
- Aktueller Zustand: Das System belohnt das Finden von Schwachstellen (das Brechen von Dingen) mehr als das Reparieren.
- Vorgeschlagene Änderung: Wir müssen Verteidigungsforschung als „Bürger erster Klasse" behandeln. Wir müssen es genauso aufregend, genauso belohnt und genauso veröffentlichbar machen, einen starken Schild zu bauen, wie einen Riss in der Wand zu finden.
Kurz gesagt: Wir müssen aufhören, nur zu zählen, wie oft wir die KI knacken können, und anfangen zu zählen, wie oft wir sie erfolgreich schützen können.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.