In der modernen digitalen Welt ist das Rückgrat fast jeder Online-Dienst einer riesigen, unsichtbaren Schicht aus Computern und Software, die als Infrastruktur bekannt ist. Jahrzehntelang erforderte die Einrichtung dieser Infrastruktur Teams von Ingenieuren, die Server, Datenbanken und Sicherheitseinstellungen manuell konfigurieren mussten – ein langsamer und fehleranfälliger Prozess. Um dies zu beheben, führte die Branche eine Methode namens „Infrastructure as Code“ ein, bei der die gesamte Einrichtung in Textdateien festgehalten wird, ähnlich wie ein detailliertes Rezept oder ein Bauplan. Diese Textdateien sagen den Computern genau, wie sie ein System aufbauen und absichern sollen, was eine schnelle, konsistente und automatisierte Bereitstellung ermöglicht. Doch genau wie ein Rezept mit einer fehlenden Zutat ein Mahl verderben kann, kann ein einziger Fehler in diesen Codedateien ein System für Hacker weit offen stehen lassen. Wenn der Code verborgene Schwachstellen enthält, wie etwa unverschlüsselte Passwörter oder zu weit gefasste Zugriffsregeln, werden diese Mängel in dem Moment, in dem das System aktiviert wird, sofort auf das Live-System übertragen.

Kürzlich ist ein neues Werkzeug in dieses Feld eingetreten: KI-gestützte Programmierassistenten. Diese Programme können eine einfache Anfrage in natürlicher Sprache lesen und automatisch den komplexen Code schreiben, der zum Aufbau dieser Systeme benötigt wird. Während dies verspricht, die Entwicklung zu beschleunigen, wirft es eine kritische Frage auf, die bis jetzt nie beantwortet wurde: Ist der Code, den diese Maschinen schreiben, tatsächlich sicher genug für die Systeme? Die Forscher der University of Waikato in Neuseeland machten sich auf die Suche nach der Antwort. Sie suchten nicht nur nach Fehlern; sie untersuchten, ob der von diesen KI-Tools generierte Code die strengen, realen Sicherheitsstandards erfüllt, die von Regierungen und Industrien zum Schutz von Daten gefordert werden. Ihre Arbeit zeigt eine erschreckende Lücke zwischen dem, was diese KI-Tools leisten können, und dem, was sie tatsächlich tun, wenn man sie sich selbst überlässt, und bietet einen klaren Weg, das Problem zu lösen, bevor auch nur eine einzige Zeile Code bereitgestellt wird.

Das Team begann mit dem Testen des Standardverhaltens von sechzehn verschiedenen KI-Modellen. Sie baten jedes Modell, eine spezifische Reihe von Anweisungen zu schreiben, bekannt als eine „Ansible Role“, um zwei gängige Arten von Software einzurichten: einen Webserver namens Apache Tomcat und ein Datenbanksystem namens MongoDB. Sie gaben den Modellen keine speziellen Sicherheitshinweise, keine Warnungen vor dem, was zu vermeiden ist, und keine Beispiele für guten Code. Sie baten die Maschinen einfach nur, die Aufgabe zu erledigen. Die Ergebnisse waren unmittelbar und besorgniserregend. Jedes einzelne der sechzehn Modelle erzeugte Code, der Sicherheitsmängel aufwies. Zu diesen Mängeln gehörten hartcodierte Passwörter, die jeder lesen konnte, fehlende Schutzmaßnahmen für sensible Dateien und eine mangelnde Fehlerbehandlung, die dazu führen könnte, dass das System abstürzt oder unvorhersehbar reagiert. Als die Forscher diesen KI-generierten Code mit Code verglichen, der von menschlichen Entwicklern aus öffentlichen Repositories stammt, schnitt der KI-Code schlechter ab. Er war nicht nur leicht fehlerhaft; er war fundamental unsicher und erfüllte nicht einmal die grundlegenden Sicherheitsanforderungen, die in der Branche Standard sind.

Die Forscher untersuchten daraufhin, warum dies geschah. Sie entdeckten, dass das Problem nicht unbedingt darin bestand, dass den KI-Modellen die Fähigkeit zum Schreiben von Code fehlte, sondern dass ihnen die Fähigkeit fehlte, komplexe Anweisungen bezüglich der Sicherheit zu befolgen. In einer zweiten Phase der Studie änderten die Forscher ihren Ansatz. Anstatt nur nach Code zu fragen, stellten sie den Modellen einen hochstrukturierten Satz von Regeln zur Verfügung. Sie verwendeten eine erweiterte Version eines Prompting-Frameworks, das explizit Best Practices für die Sicherheit und spezifische Sicherheitsstandards von Regierungen auflistete. Sie sagten den Modellen genau, welche Berechtigungen sie setzen sollten, wie sie Passwörter sicher verwalten und welche Dokumentation einzubeziehen ist, indem sie diese Anforderungen als verbindliche Randbedingungen statt als Vorschläge behandelten. Dieser Wechsel von einer einfachen Anfrage zu einer detaillierten, regelbasierten Instruktion änderte das Ergebnis dramatisch.

Als die Forscher diesen strukturierten Ansatz anwandten, verbesserten sich die Ergebnisse signifikant. Vier der sechzehn Modelle waren in der Lage, den komplexen Anweisungen zu folgen und Code zu generieren, der frei von den Sicherheitsmängeln der ersten Runde war. Das leistungsstärkste Modell erzeugte Code, der zwischen 95 und 100 Prozent der strengen Sicherheitsbenchmarks erfüllte – ein gewaltiger Sprung gegenüber der Basislinie. Tatsächlich übertraf dieses Top-KI-Modell den durchschnittlich von Menschen geschriebenen Code, der lediglich zwischen 23 und 43 Prozent derselben Standards erfüllte. Die Studie zeigte, dass es sich bei diesen fähigen Modellen nicht um einen Mangel an Wissen handelte, sondern um ein Versagen bei der Anwendung dieses Wissens, wenn die Anweisungen vage waren. Wenn die Regeln klar und die Randbedingungen explizit waren, konnte die KI in einem einzigen Versuch sicheren, hochwertigen Code synthetisieren, was die Notwendigkeit zeitaufwendiger Korrekturen nach der Code-Erstellung eliminierte.

Die Studie hob auch einen entscheidenden Unterschied zwischen den Modellen hervor. Die vier erfolgreichen Modelle waren alle Closed-Source-Systeme, was bedeutet, dass ihre internen Abläufe nicht öffentlich zugänglich sind, während viele der Open-Source-Modelle daran scheiterten, den komplexen Anweisungen zu folgen. Dies deutet darauf hin, dass die Fähigkeit, sicheren Code zu generieren, stark davon abhängt, wie das Modell trainiert wurde und welche spezifischen Fähigkeiten es während dieses Trainings entwickelt hat, und nicht nur von der Größe seines Speichers oder der Anzahl seiner Parameter. Die Forscher fanden heraus, dass die Modelle, die erfolgreich waren, in der Lage waren, die vielschichtigen Anweisungen zu parsen, den Unterschied zwischen verbindlichen Regeln und empfohlenen Praktiken zu verstehen und diese konsistent über den gesamten Code anzuwenden. Die Modelle, die scheiterten – selbst jene mit hohen Punktzahlen in anderen Coding-Tests –, konnten die multiplen Randbedingungen, die für den Aufbau eines sicheren Systems erforderlich waren, schlichtweg nicht einhalten.

Diese Arbeit stellt die aktuelle Art und Weise infrage, wie die Branche Sicherheit handhabt. Traditionell warten Sicherheitsexperten, bis der Code geschrieben ist, und scannen ihn dann, um Fehler zu finden und zu beheben – ein Prozess, der als Detektion bekannt ist. Die Forscher argumentieren, dass dieser Ansatz für KI-generierten Code unzureichend ist, da die Mängel in dem Moment eingeführt werden, in dem der Code erstellt wird. Stattdessen schlagen sie eine Methode der Prävention vor, bei der Sicherheitsanforderungen direkt in den Erstellungsprozess eingebaut werden. Durch die Einbettung von Sicherheitsregeln direkt in die Anweisungen, die an die KI gegeben werden, können Organisationen sicherstellen, dass der Code von Anfang an sicher ist. Dieser Ansatz erfordert weder ein Nachtrainieren der KI-Modelle noch eine Änderung ihrer zugrunde liegenden Architektur; er erfordert lediglich eine Änderung in der Art und Weise, wie Menschen mit ihnen kommunizieren. Die Studie kommt zu dem Schluss, dass KI-gestützte Programmierassistenten zwar großes Potenzial bergen, man ihnen jedoch ohne klare, explizite Anleitung nicht zutrauen kann, eine sichere Infrastruktur zu generieren. Mit den richtigen Prompts können sie jedoch Code produzieren, der nicht nur funktional, sondern auch sicherer ist als das, was viele menschliche Entwickler heute produzieren.