"Abuse Risks are Often Inherent to Product Features": Exploring AI Vendors' Bug Bounty and Responsible Disclosure Policies
Diese Arbeit analysiert die Richtlinien zur Offenlegung von Schwachstellen von 264 KI-Anbietern und zeigt auf, dass viele keine klaren Leitlinien vorweisen oder kritische KI-spezifische Risiken wie Jailbreaking und Halluzinationen explizit ausschließen, wobei sie drei unterschiedliche Anbieterprofile identifiziert und eine erhebliche Lücke zwischen aktuellen Branchenpraktiken und der Dringlichkeit realer KI-Vorfälle hervorhebt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich die Welt der Künstlichen Intelligenz (KI) als eine riesige, geschäftige Stadt vor, in der Unternehmen jeden Tag neue, magische Werkzeuge bauen. Einige dieser Werkzeuge können Geschichten schreiben, andere können Krankheiten diagnostizieren, und manche können sogar Autos fahren. Aber wie jede neue Technologie haben auch diese Werkzeuge Risse in ihrem Fundament – Schwachstellen.
Wenn ein reguläres Software-Tool kaputt geht, gibt es ein etabliertes System, um es zu reparieren: Bug-Bounty-Programme. Betrachten Sie diese als „Steckbriefe“. Unternehmen setzen eine Belohnung (Geld) aus, wenn jemand ein Loch in ihrer Mauer findet und es ihnen meldet, anstatt es einem Dieb zu überlassen, der sich heranschleicht.
Dieses Papier ist ein Zeugnis darüber, wie gut KI-Unternehmen diese „Steckbriefe“ für ihre neuen, magischen Werkzeuge erstellen. Die Forscher der Universität Edinburgh haben 264 verschiedene KI-Unternehmen untersucht, um zu sehen, ob sie bereit sind, mit diesen neuen Arten von Rissen umzugehen.
Hier ist das, was sie herausgefunden haben, einfach aufgeschlüsselt:
1. Die „stille Mehrheit“ und die „Nicht-Anwesenden“
Die Forscher fanden heraus, dass 36 % der KI-Unternehmen überhaupt keinen „Steckbrief“ haben.
- Die Analogie: Stellen Sie sich vor, Sie gehen zu einem Laden, um dem Besitzer zu sagen: „Hey, Ihre Haustür steht offen“, aber der Besitzer hat keinen Briefkasten, keine Telefonnummer und kein Schild, auf dem steht: „Probleme hier melden“. Sie müssen raten, wem Sie es sagen sollen, oder schlimmer noch, er ignoriert Sie vielleicht einfach.
- Die Realität: Nur 18 % dieser Unternehmen sagen explizit: „Wir akzeptieren Meldungen über KI-spezifische Probleme.“ Der Rest hat entweder generische Regeln, die KI nicht erwähnen, oder sie schweigen völlig.
2. Was zählt als ein „Bug“? (Der Umfang)
Das Papier stellte fest, dass Unternehmen sehr wählerisch sind, was sie als einen „Bug“ betrachten, für den es sich zu bezahlen lohnt. Sie zogen eine klare Linie:
- Die „Ja, wir zahlen“-Liste (In-Scope):
- Die Analogie: Wenn jemand Ihre Schlüssel stiehlt, Ihr Schloss knackt oder in Ihren Tresor einbricht, ist das ein Verbrechen.
- Die Realität: Unternehmen sind bereit, für Dinge wie das Stehlen von Daten, das Einbrechen in das System oder das Kopieren ihrer geheimen KI-Modelle zu bezahlen. Dies sind traditionelle Sicherheitsverbrechen, die sich nur innerhalb einer KI abspielen.
- Die „Nicht unser Problem“-Liste (Out-of-Scope):
- Die Analogie: Wenn Sie einen Roboter bitten, ein Gedicht zu schreiben, und er versehentlich etwas Unhöfliches schreibt, oder wenn er anfängt zu halluzinieren (Dinge zu erfinden), sagt das Unternehmen: „Das ist einfach die Art, wie der Roboter denkt, kein kaputtes Schloss.“
- Die Realität: Unternehmen lehnen Meldungen über Jailbreaking (das Überlisten der KI, um ihre Regeln zu brechen), Halluzinationen (die KI lügt) oder schädliche Ausgaben (die KI ist unhöflich oder verbreitet Lügen) häufig ab. Sie behaupten oft, dies seien „inhärente Merkmale“ des Produkts und keine Fehler.
3. Die drei Arten von KI-Unternehmen
Die Forscher gruppierten die 264 Unternehmen in drei verschiedene „Persönlichkeiten“ ein:
- 🌟 Die proaktiven Klarsteller (17 %):
- Wer sie sind: Die großen Akteure wie Google, Microsoft und Meta.
- Was sie tun: Sie haben klare Schilder mit der Aufschrift: „Hier ist genau festgelegt, wofür wir bezahlen, hier ist es nicht der Fall, und hier ist die Höhe der Belohnung.“ Sie haben sogar spezielle Leitfäden dazu, wie man ihre KI sicher testet. Sie behandeln KI-Bugs als eine ernsthafte, eigenständige Kategorie.
- 🤐 Die Stillen (44 %):
- Wer sie sind: Meistens Apps, die KI nutzen (wie ein Chatbot in einer Kundenservice-App).
- Was sie tun: Sie haben einen „Steckbrief“, aber dieser ist für Old-School-Software geschrieben. Er erwähnt KI überhaupt nicht. Wenn Sie einen KI-Bug finden, werden sie ihn vielleicht beheben, aber sie sagen Ihnen nicht, ob Sie für eine Belohnung infrage kommen oder wie sie ihn bewerten werden. Es ist, als würde man in einen Laden kommen, in dem der Manager im Hinterzimmer ist und nicht herauskommt, um zu reden.
- 🚫 Die Restriktiven (39 %):
- Wer sie sind: Kleinere Anbieter oder solche, die einfach keine Lust auf den Aufwand haben.
- Was sie tun: Sie haben entweder gar keine Kontaktmöglichkeit oder sie sagen explizit: „Wir akzeptieren keine KI-Fehlermeldungen.“ Sie könnten sagen: „Wenn Sie versuchen, unsere KI zu knacken, werden wir Sie nicht bezahlen, und wir könnten sogar verärgert sein.“
4. Das „Lag“-Problem
Das Papier fand eine signifikante Zeitverzögerung, oder einen „Lag“, in der Reaktion der Branche.
- Die Analogie: Stellen Sie sich vor, Wissenschaftler in einem Labor entdecken, dass eine neue Art von Brücke instabil ist (Akademische Forschung). Dann fallen Menschen von der Brücke (Reale Vorfälle). Schließlich aktualisiert die Firma, die die Brücke gebaut hat, erst Jahre später ihr Sicherheitshandbuch mit dem Hinweis: „Ja, diese Brücke ist instabil, und so melden Sie das“ (Anbieter-Richtlinien).
- Die Realität: Akademische Forscher untersuchen die Schwächen von KI schon seit Jahren. Reale Unfälle mit KI passieren schon seit geraumer Zeit. Aber KI-Unternehmen beginnen erst jetzt (meist im Jahr 2023 und 2024), ihre offiziellen Regeln zu aktualisieren, um diese spezifischen Probleme anzuerkennen. Sie reagieren langsamer als die Forscher und die Unfälle selbst.
5. Die große Diskrepanz
Es gibt eine Diskrepanz zwischen dem, was die Öffentlichkeit befürchtet, und dem, was Unternehmen wichtig ist.
- Öffentliche Angst: Die Menschen sorgen sich hauptsächlich darum, dass KI unhöflich ist, Unwahrheiten verbreitet (Desinformation) oder voreingenommen ist (Diskriminierung). Dies sind Probleme der „Inhalts-Sicherheit“ (Content Safety).
- Fokus der Unternehmen: Unternehmen sind hauptsächlich besorgt über „Technische Sicherheit“ wie Hacker, die ihren Code oder ihre Daten stehlen.
- Das Ergebnis: Wenn Sie melden, dass eine KI Hassrede verbreitet, könnte ein Unternehmen sagen: „Das ist kein Sicherheitsfehler, sondern ein Sicherheitsproblem (Safety), und dafür zahlen wir nicht.“ Aber wenn Sie melden, dass ein Hacker das „Gehirn“ der KI gestohlen hat, werden sie Ihnen viel Geld dafür zahlen.
Zusammenfassung
Das Papier kommt zu dem Schluss, dass die KI-Industrie zwar schnell wächst, ihr „Sicherheitsnetz“ (die Bug-Bounty-Programme) aber noch am Gestricken ist. Viele Unternehmen haben noch gar nicht mit dem Stricken begonnen, und diejenigen, die es tun, konzentrieren sich meist darauf, Diebe zu fangen, anstatt das Problem zu beheben, dass die KI unhöflich oder falsch sein könnte. Die Forscher schlagen vor, dass Unternehmen, damit KI wirklich sicher ist, aufhören müssen, diese „unhöflichen KI“-Probleme einfach als „Merkmale“ zu behandeln, und stattden als Bugs behandeln müssen, die gemeldet und behoben werden müssen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.