Can AI Write Compliant Code, and to What Extent? Evaluating SOC 2 Compliance of Claude Fable 5, Claude Opus 4.8, and Claude Opus 5 Across Four Use Cases
Diese Studie bewertet die SOC 2-Konformität von drei Frontier-KI-Modellen über vier Anwendungsfälle hinweg und stellt fest, dass die ungeforderte Codegenerierung oft kritische Schwachstellen enthält und wesentliche Sicherheitskontrollen versäumt, während das Hinzufügen eines einzigen Satzes unter Bezugnahme auf SOC 2-Standards die Konformität signifikant auf 86–100 % verbessert und unsichere Konstruktionen eliminiert, wenngleich dies Kontrollen außerhalb der unmittelbaren Aufgabenkonzeption des Modells unberücksichtigt lässt und die Unzuverlässigkeit des automatisierten Musterabgleich-Scorings zugunsten einer semantischen Verifizierung hervorhebt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das unsichtbare Sicherheitsnetz
Stellen Sie sich vor, Sie stellen einen superintelligenten, unermüdlichen Lehrling ein, der für Sie ein Haus bauen soll. Dieser Lehrling, eine Künstliche Intelligenz, kann Blaupausen entwerfen, Beton mischen und Fenster einsetzen schneller als jedes menschliche Team. Aber hier ist der Haken: Dem Lehrling wurde nie etwas über Bauvorschriften erzählt. Er weiß, wie man ein Haus baut, das gut aussieht und stabil steht, aber er könnte vergessen, Rauchmelder zu installieren, die Hintertür zu verriegeln oder das Fundament gegen Erdbeben zu verstärzen. In der Welt der Software passiert genau das, wenn Teams die KI bitten, Code zu schreiben. Der Code funktioniert, aber ihm könnten die unsichtbaren Sicherheitsregeln fehlen, die erforderlich sind, um Daten vor Hackern zu schützen.
Dieses Papier befasst sich mit einer speziellen Nische der Informatik namens Compliance, was nur ein schicker Begriff für „das Befolgen eines Regelwerks“ ist. Konkret untersuchten die Forscher SOC 2, eine Gruppe von Regeln, die Unternehmen nutzen, um zu beweisen, dass sie Kundendaten schützen. Sie wollten zwei Dinge wissen: Wenn man eine KI bittet, Code zu schreiben, ohne Sicherheit zu erwähnen, wird sie trotzdem zufällig die Regeln befolgen? Und wenn man nur einen winzigen Satz hinzufügt, der besagt: „Hey, das muss den SOC 2-Regeln entsprechen“, behebt das alles? Es ist ein bisschen so, als würde man fragen: „Wenn ich einen Koch bitte, ein Sandwich zu machen, wird er sich daran erinnern, sich die Hände zu waschen? Und wenn ich ‚Hygienevorschriften‘ flüstere, wird er sich plötzlich daran erinnern, Handschuhe zu tragen?“
Der große KI-Codetest
Um die Antworten zu finden, richteten die Forscher bei Vanta ein massives, kontrolliertes Experiment ein. Sie behandelten drei verschiedene Versionen einer leistungsstarken KI (namens Claude Fable 5, Claude Opus 4.8 und Claude Opus 5) wie Teilnehmer eines Kochwettbewerbs. Sie gaben jeder KI vier verschiedene „Rezepte“ zum Codieren: ein Tool zur Verwaltung von Cloud-Speichern, ein Login-System, ein Datenbank-Setup und einen Handler für Datei-Uploads.
Sie führten den Test zweimal für jedes Rezept durch. In der ersten Runde gaben sie der KI einen neutralen Prompt, wie zum Beispiel: „Schreibe ein Tool zum Hochladen von Dateien.“ In der zweiten Runde geben sie exakt denselben Prompt, fügen aber einen einzigen Satz hinzu: „Diese Daten sind sensibel und müssen den SOC 2-Standards entsprechen.“
Die Forscher agierten daraufhin als strenge Inspektoren. Sie ließen den Code nicht nur laufen, um zu sehen, ob er funktionierte; sie prüften jede einzelne Zeile gegen eine Checkliste von Sicherheitsregeln. Sie suchten nach Dingen wie Verschlüsselung (Verschleierung von Daten, damit Diebe sie nicht lesen können), Zugriffskontrollen (sicherstellen, dass nur die richtigen Personen Dateien sehen können) und Protokollierung (ein Tagebuch darüber führen, wer was getan hat).
Was sie fanden: Der „magische Satz“ und die blinden Flecken
Die Ergebnisse waren eine Mischung aus überraschend guten Nachrichten und einigen sehr wichtigen Warnungen.
1. Der „magische Satz“ wirkt Wunder (aber nicht alles)
Wenn die KI gebeten wurde, Code ohne Sicherheitsanweisungen zu schreiben, war das Ergebnis ein Glücksspiel. Je nach Aufgabe befolgte der Code die Regeln zwischen 47 % und 88 % der Zeit. Die KI war gut in den Grundlagen, wie etwa dem Passwortschutz, aber schlecht in der „langweiligen“, unsichtbaren Arbeit, wie etwa der Absicherung von Cloud-Speicher-Buckets.
Doch in dem Moment, als die Forscher diesen einen einzigen Satz über SOC 2 hinzufügten, schoss die Leistung der KI in die Höhe. Jede einzelne Prüfung sprang auf zwischen 86 % und 100 % Compliance. Dieser eine Satz war 23 bis 50 Prozentpunkte Verbesserung wert. Es war, als ob die KI plötzlich aufwachte und sich erinnerte: „Oh richtig, ich muss einen Helm tragen!“ Entscheidend war, dass dieser Satz auch alle unsicheren Konstruktionen entfernte, die die Forscher gefunden hatten, wie etwa offene Debugger oder unauthentifizierte Downloads.
2. Das „Idiom“-Problem
Die Studie fand heraus, dass die KI Regeln befolgt, die Teil der „normalen Art“ sind, Code zu schreiben. Zum Beispiel erinnerte sie sich fast immer daran, Passwörter zu hashen (zu verschleiern, damit sie nicht gestohlen werden können), weil das eben die Standardmethode ist, um ein Login-System zu schreiben. Aber sie vergaß Dinge, die nicht Teil des „Standard-Rezepts“ sind, wie etwa das Hinzufügen zusätzlicher Schlösser zu einem Cloud-Speicher-Bucket oder die Einrichtung eines Multi-Faktor-Authentifizierungs-Hooks (MFA).
Selbst mit dem „magischen Satz“ blieben bestimmte Kontrollen stabil fehlend, da sie außerhalb der Standard-Vorstellung des Modells für die jeweilige Aufgabe lagen. Spezifische Funktionen wie MFA-Hooks, sichere Cookie-Flags und das Management des Kontenlebenszyklus wurden nicht automatisch hinzugefügt, nur indem man den Standard nannte; sie mussten im Prompt einzeln benannt werden. Der magische Satz reparierte das große Ganze und die verborgenen Gefahren, konnte aber nicht jedes winzige, spezifische Detail ausfüllen, sofern man nicht explizit danach fragte.
3. Die „unsichtbaren“ Gefahren
Hier wird es beängstigend. In drei von sechzehn „neutralen“ Tests (bei denen keine Sicherheit erwähnt wurde) schrieb die KI Code, der tatsächlich gefährlich war, obwohl er völlig normal aussah.
- Eine KI ließ einen „Debugger“ offen, was so ist, als ließe man eine Hintertür in einem Haus offen, durch die jeder einsteigen und die Kontrolle über den Computer übernehmen kann.
- Zwei andere erstellten Download-Links, die nicht prüften, wer gerade klickt, wodurch jeder private Dateien anderer Personen herunterladen konnte.
- Eine weitere KI erstellte eine Datenbank, die versehentlich alle ihre Daten löschen würde, wenn man versuchte, sie in einer Nicht-Produktionsumgebung herunterzufahren.
Der erste automatisierte Scanner der Forscher übersah all diese gefährlichen Fehler. Erst als ein Mensch genau hinsah, wurde klar, dass der Code fehlerhaft war. Dies beweist, dass Standard-Computerscanner nicht klug genug sind, um diese „unsichtbaren“ Fehler im KI-Code zu entdecken.
4. Das Modell spielt kaum eine Rolle
Die Forscher erwarteten, dass die neueste, intelligenteste KI (Opus 5) viel besser sein würde als die älteren. Doch der Unterschied war minimal. Der „magische Satz“ (der Prompt) machte einen viel größeren Unterschied als der Wechsel des KI-Modells selbst. Wenn man versucht, complianten Code zu erhalten, hilft es nicht viel, ein neueres KI-Modell zu wählen – es ist viel wichtiger, der KI einfach zu sagen, dass sie die Regeln befolgen soll.
Das Fazleit
Dieses Paper lehrt uns, dass die KI ein fantastischer Baumeister ist, aber kein Sicherheitsinspektor. Wenn man sie bittet, etwas zu bauen, ohne Sicherheit zu erwähnen, wird sie ein Haus bauen, das zwar steht, dem aber vielleicht Rauchmelder oder Schlösser fehlen. Wenn man einen einzigen Satz über die Einhaltung der Regeln hinzufügt, wird sie plötzlich die meiste Sicherheitsausrüstung installieren und die gefährlichen Hintertüren entfernen.
Es gibt jedoch weiterhin Lücken. Die KI wird nicht automatisch spezifische, komplexe Sicherheitsfunktionen (wie MFA oder bestimmte Cookie-Einstellungen) installieren, selbst wenn man die Regeln nennt. Und, was am wichtigsten ist: Man kann nicht einfach ein Computerprogramm darauf vertrauen, die Arbeit der KI zu prüfen; man braucht einen Menschen, der genau hinsieht, denn die KI kann gefährliche Fehler auf clevere Arten verstecken, die einfache Scanner übersehen.
Die Lektion für jeden, der KI zum Schreiben von Code nutzt, ist einfach: Gehen Sie nicht davon aus, dass die KI die Regeln kennt. Sie müssen ihr die Regeln sagen, und danach müssen Sie ihre Arbeit doppelt prüfen, denn ein Haus, das perfekt aussieht, kann immer noch eine versteckte Falltür haben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.