WildCode Revisited: A Comprehensive Empirical Study on the Security of LLM-Generated Code
Diese Studie validiert empirisch, dass von ChatGPT generierter Code aus der Praxis häufig an Sicherheit mangelt, was vorangegangene Erkenntnisse aus synthetischen Experimenten bestätigt und gleichzeitig aufzeigt, dass Nutzer bei der Anforderung von Code selten nach Sicherheitsbedenken fragen.
Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten einen sehr talentierten, unglaublich schnellen, aber etwas naiven Assistenten, der für Sie Computercode schreiben kann. Sie fragen ihn nach einem Rezept, und er zaubert Ihnen in Sekundenschnelle eine Mahlzeit zu. Aber hier ist der Haken: Er hat das Kochen durch das Lesen von Millionen von Kochbüchern gelernt, aber er war noch nie selbst in einer Küche und versteht nicht wirklich, warum bestimmte Zutaten falsch kombiniert gefährlich sein könnten.
Dieses Paper, „WildCode Revisited“, ist wie eine massive, reale Gesundheitsinspektion des Essens, das dieser Assistent serviert. Anstatt den Assistenten zu bitten, eine spezifische Testmahlzeit in einem Labor zuzubereiten (was die meisten früheren Studien taten), sind die Forscher in die „Wildnis“ gegangen. Sie haben über 82.000 echte Konversationen untersucht, in denen normale Menschen diesen KI-Assistenten (ChatGPT) baten, Code für sie zu schreiben.
Hier ist das, was sie herausgefunden haben, aufgeschlüsselt in einfache Analogien:
1. Die „wilde“ Küche vs. die Testküche
Die meisten bisherigen Studien waren wie eine Kochshow, in der der Koch gefragt wird: „Mache eine perfekte Lasagne.“ Der Koch weiß, dass es ein Test ist, und gibt sein Bestes.
Diese Studie untersuchte den WildChat-Datensatz, der wie ein 24-Stunden-Imbiss ist, in dem die Leute bestellen, was immer sie wollen, in der Sprache, die sie gerade sprechen. Die Forscher fanden heraus, dass die KI oft Gerichte serviert, die voller Löcher sind, wenn die Leute einfach nur nach Code fragen, ohne die Sicherheit zu spezifizieren. Es ist, als würde der Assistent vergessen, die Hintertür abzuschließen, wodurch das Haus für Einbrecher (Hacker) weit offen steht.
2. Das Sicherheits-„Leck“
Die Forscher agierten wie Sicherheitsinspektoren und scannten den Code nach häufigen Fehlern. Sie fanden heraus, dass die KI häufig Folgendes serviert:
- Schwache Schlösser: Die Verwendung alter, leicht zu knackender Schlösser (schwache Verschlüsselung) anstelle moderner, unknackbarer Modelle.
- Offene Fenster: Fenster offen lassen, damit Fremde einfach hereinspazieren können (SQL-Injection-Schwachstellen).
- Falsche Zutaten: Die KI erfindet manchmal „Zutaten“ (Software-Bibliotheken), die gar nicht existieren. Wenn Sie versuchen, diese zu verwenden, stürzt Ihr Programm ab. Schlimmer noch: Ein böswilliger Akteur könnte eine gefälschte Zutat mit demselben Namen erstellen und so einen Virus einschleusen.
- Zerbrechliches Glas: Der Code besteht oft aus Glas, das zerbricht, wenn man es nur falsch ansieht (Speichersicherheitsprobleme), insbesondere in Sprachen wie C/C++.
Die große Überraschung: Obwohl der Code so aussieht, als würde er funktionieren (er läuft), ist er oft voller Sicherheitsfallen. Die KI ist großartig darin, Dinge funktionieren zu lassen, aber schlecht darin, sie sicher zu machen.
3. Die Kunden fragen nicht nach der Sicherheit
Die Forscher untersuchten auch, wonach die Kunden (die Nutzer) fragten.
- Die „Reparier-es-einfach“-Fraktion: Die meisten Leute wollten einfach nur, dass der Code funktioniert oder wollten einen Bug beheben. Sie waren wie Kunden, die sagen: „Mach mir ein Sandwich“, ohne darum zu kümieren, ob das Brot Schimmel hat.
- Das Schweigen zur Sicherheit: Sehr wenige Leute fragten: „Ist dieser Code sicher?“ oder „Hat dieser Code eine Hintertür?“ Es ist, als würden Kunden Essen bestellen, aber nie fragen: „Ist es frisch?“ oder „Ist hier ein Gesundheitsinspektor?“
- Der „Sicherheits“-Fehler: Selbst wenn Nutzer nach sicherem Code fragten, hörte die KI nicht immer zu, und die Nutzer kontrollierten auch nicht immer, ob die KI den Code tatsächlich sicher gemacht hatte.
4. Können wir den Assistenten besser trainieren? (Das „Prompt“-Experiment)
Die Forscher probierten einige Tricks aus, um zu sehen, ob sie die KI dazu bringen könnten, sicherere Mahlzeiten zu kochen. Sie versuchten:
- Rollenspiel: Der KI zu sagen: „Handle wie ein Sicherheitsexperte.“ (Ergebnis: Nicht sehr effektiv. Die KI tat zwar so, ein Experte zu sein, machte aber dennoch Fehler.)
- Warnhinweise: Der KI zu sagen: „Dieser Code hat Sicherheitsmängel.“ (Ergebnis: Etwas besser, aber kein Wunderheilmittel.)
- Der „Spickzettel“: Der KI eine Liste spezifischer Fehler zu geben, die von einem Sicherheits-Scanner gefunden wurden, und zu sagen: „Behebe diese.“ (Ergebnis: Dies funktionierte am besten. Wenn der KI genau gezeigt wurde, was falsch war, korrigierte sie den Code viel besser.)
5. Das „Verweigerungs“-Spiel
Manchmal weigert sich die KI, Code zu schreiben, wenn sie glaubt, dass die Anfrage gefährlich ist (wie das Schreiben eines Virus). Die Forscher fanden heraus, dass Nutzer die KI manchmal austricksen konnten, gefährlichen Code zu schreiben, indem sie dieselbe Frage nur leicht anders formulierten. Es ist wie bei einem Kind, das fragt: „Darf ich einen Keks haben?“ und ein „Nein“ bekommt, aber dann fragt: „Darf ich einen Keks haben, wenn ich hungrig bin?“ und ein „Ja“ erhält. Die Sicherheitsfilter der KI sind nicht so stark, wie wir hoffen.
Das Fazamit
Diese Studie ist ein Realitätscheck. Sie zeigt, dass KI zwar fantastisch darin ist, Code schnell zu generieren, aber derzeit kein sicherer Ersatz für einen menschlichen Sicherheitsexperten ist.
- Der Code: Ist oft voller versteckter Fallen und Schwachstellen.
- Die Nutzer: Fragen selten nach der Sicherheit und setzen voraus, dass die KI schon weiß, was sie tut.
- Die Lösung: Wir können der KI nicht einfach nur sagen, dass sie „sicher sein soll“. Wir müssen ihr spezifisches Feedback geben, was falsch ist (wie ein Sicherheits-Scanner), um ihr zu helfen, die Lücken zu schließen.
Die Studie kommt zu dem Schluss, dass wir in Eile sind, diese Werkzeuge zu nutzen, aber wir tun dies, ohne die Schlösser an den Türen zu prüfen. Wir müssen viel vorsichtiger und proaktiver in Bezug auf die Sicherheit sein, bevor wir der KI erlauben, den Code zu schreiben, der unsere Welt antreibt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.