Die neuen Verkehrsregeln für Roboterbauer

Stellen Sie sich vor, Sie sind ein Meisterarchitekt, der jahrelang Baupläne für menschliche Bauteams gezeichnet hat. Sie wissen, dass, wenn Sie eine winzige Lücke in den Plänen lassen – etwa wenn Sie vergessen, die Farbe der Haustür anzugeben –, ein geschickter menschlicher Bauarbeiter einfach fragen würde: „Hey, welche Farbe wollen Sie eigentlich?“ oder basierend auf dem Stil der Nachbarschaft rät. Sie füllen die Lücken mit ihrem gesunden Menschenverstand und ihrer Erfahrung aus. So hat die Softwareentwicklung über Jahrzehnte funktioniert: Ein Mensch schreibt die Anforderungen, und ein menschliches Team baut die Software und füllt dabei die fehlenden Details aus.

Aber stellen Sie sich nun vor, Sie stellen eine Flotte von superschnellen, supersmarten Roboter-Bauern ein. Diese Roboter sind unglaublich; sie können Ziegel legen und Schaltkreise in Sekunden verdrahten. Sie haben jedoch einen entscheidenden Makel: Sie sind wörtlich zu nehmen. Sie besitzen keinen gesunden Menschenverstand, sie raten nicht und sie stellen auch keine Fragen. Wenn Sie einem Roboter sagen, er solle „eine Tür bauen“, aber nicht die Farbe angeben, malt er sie vielleicht neongrün, weil das die logischste Farbe in seiner Datenbank ist, oder er bleibt stehen und stürzt ab, weil er nicht weiß, was er tun soll. In der Welt der Software ist dies die Herausforderung der KI-gestützten Entwicklung. Die „Anforderungen“ (die Anweisungen), die für Menschen perfekt funktionierten, sind nun gefährlich für Roboter, weil Roboter die Lücken nicht selbstständig schließen können. Wenn die Anweisungen nicht perfekt sind, bauen die Roboter das Falsche, und das geschieht so schnell, dass der Fehler bereits im Endprodukt enthalten ist, bevor es überhaupt jemand bemerkt. Dieses Paper untersucht, wie man die Verkehrsregeln neu schreibt, damit diese Roboterbauer darauf vertraut werden können, sichere, funktionierende Software zu konstruieren, ohne dass ein Mensch jede Sekunde ihre Hand halten muss.

Von „Vielleicht“ zu „Muss“: Ein neuer Weg des Bauens mit KI

Das Paper, geschrieben von Mohamed Zahran, widmet sich einem großen Problem: KI-Coding-Agenten sind schnell, aber sie sind gefährlich, wenn die Anweisungen nicht perfekt sind. Der Autor argumentt, dass die alte Art, Anforderungen zu schreiben – Dokumente, die für menschliche Teams konzipiert wurden, die „zwischen den Zeilen lesen“ können – kaputt ist, wenn der Erbauer eine Maschine ist. Wenn ein Mensch eine unvollständige Anweisung liest, nutzt er sein Gehirn, um sie zu korrigieren. Wenn ein Roboter eine unvollständige Anweisung liest, rät er einfach, und dieses Raten wird oft zu einem Bug oder einer Sicherheitslücke.

Um dies zu lösen, hat der Autor nicht nur eine neue Theorie aufgestellt; er hat tatsächlich zwei echte, funktionierende Softwaresysteme mit einer von ihm entwickelten neuen Methode gebaut. Stellen Sie sich das wie einen Chefkoch vor, der, anstatt nur ein Kochbuch zu schreiben, tatsächlich zwei verschiedene komplexe Mahlzeiten in einer Hochstress-Küche gekocht hat, um zu beweisen, dass sein neues Rezept funktioniert.

Die Kernidee: Die „Single Source of Truth“ (Die einzige Quelle der Wahrheit)
Die Lösung des Autors ist ein „Governed AI-Ready Delivery Framework“. Die größte Änderung besteht darin, sich von losen Dokumenten (wie Word-Dateien) zu entfernen, die unordentlich werden können und in denen es verschiedene Versionen desselben Dings geben kann. Stattdessen hat er ein Kanonisches Anforderungsmodell geschaffen.

• Die Analogie: Stellen Sie sich einen digitalen Master-Bauplan vor, der in einem Tresor lebt. Dieser Bauplan ist die einzige wahre Version des Plans.
• Die Magie: Aus diesem einen Master-Bauplan generiert das System automatisch zwei verschiedene „Ansichten“:
  1. Die menschliche Ansicht: Ein schönes, lesbares Dokument für den Business Analyst und das Management zur Abnahme.
  2. Die Roboter-Ansicht: Ein strenges, maschinenlesbares Anweisungs-Paket für die KI-Coding-Agenten.
• Warum es wichtig ist: Da beide Ansichten aus demselben Master-Bauplan stammen, können sie niemals auseinanderdriften. Der Mensch kann keinen Plan absegnen, dem der Roboter nicht tatsächlich folgt. Es ist wie eine einzige Quelle der Wahrheit, die alle Beteiligten sofort aktualisiert.

Die „Vier-Augen-Regel“ für Roboter
Das Paper führt eine clevere Sicherheitsprüfung ein, die Separation of Duties (Aufgabentrennung) genannt wird, aber für Roboter.

• Der Aufbau: Der Autor verwendete zwei verschiedene KI-Coding-Tools von zwei verschiedenen Unternehmen (Vendoren).
• Der Prozess: Eine KI (Vendor A) war der „Baumeister“. Sie schrieb den Code basierend auf den Anweisungen. Eine völlig andere KI (Vendor B) war der „Inspektor“. Sie untersuchte den Code, um nach Fehlern, Sicherheitslücken und der Übereinstimmung mit dem Plan zu suchen.
• Das Ergebnis: Dies verhinderte, dass die KI ein Haus baut und sich dann selbst eine Bestnote gibt. Die „Inspektor“-KI entdeckte Dinge, die die „Baumeister“-KI übersehen hatte, genau wie es ein menschliches Team tun würde.

Die Erkenntnisse: Geschwindigkeit ohne Chaos
Der Autor testete dieses Framework bei zwei sehr unterschiedlichen Projekten:

1. Fall 1: Eine Safeguarding-Plattform für 170 nationale Organisationen (ein großes, komplexes, langsam laufendes Projekt).
2. Fall 2: Ein Multi-Tenant-Analyse-Workspace für Business Analysten (ein schnelleres, kleineres Projekt mit zusätzlichen Sicherheitsregeln für Kreditkarten).

Die Ergebnisse waren beeindruckend. Das Framework ermöglichte es der KI, unglaublich schnell zu arbeiten und gleichzeitig die Kontrolle zu behalten:

• Rückverfolgbarkeit (Traceability): Das System verfolgte, woher jedes einzelne Stück Code kam. In Fall 1 waren 94,9 % der Anforderungen perfekt mit dem Code und den Tests verknüpft; in Fall 2 waren es 97,8 %.
• Keine unbefugten Änderungen: In beiden Fällen lag die Rate der unbefugten Änderungen bei 0,00 %. Das System war so streng, dass niemand (oder kein Roboter) heimlich den Code ändern konnte, ohne dass das System es merkte.
• Weniger Fehler: Die „Defect Escape Rate“ (Bugs, die es in das Endprodukt geschafft haben) lag in Fall 1 bei 9,1 % und in Fall 2 bei 4,7 %. Der zweite Fall war tatsächlich besser als der branchenübliche „Best-in-Class“-Durchschnitt.
• Geschwindigkeit: Das Framework verlangsamte die Prozesse nicht. Tatsächlich wurde das zweite Projekt in nur 31 Kalendertagen geliefert (mit nur 12 aktiven Build-Tagen), was für diesen Grad an Komplexität unglaublich schnell ist.

Was der Autor als nicht die Antwort ansieht
Das Paper ist sehr deutlich darüber, was nicht funktioniert. Es spricht sich gegen die Idee aus, dass man einer KI einfach einen vagen Prompt geben kann und sie den Rest ausbaden lässt. Es warnt auch davor, KI einem Projekt hinzuzufügen, nur weil es gerade „modisch“ ist; manchmal ist eine einfache Prozessänderung besser, als überhaupt KI einzusetzen. Der Autor betont, dass KI das menschliche Urteilsvermögen, die geschäftliche Klarheit oder die Notwendigkeit eines menschlichen Abschluss-Approvals nicht ersetzen kann.

Wie sicher sind wir?
Der Autor ist vorsichtig damit, dies als ein Allheilmittel zu behaupten, das alles für immer löst. Die Studie basiert auf zwei spezifischen Fällen, die von der gleichen Person (dem Autor) durchgeführt wurden. Obwohl die Ergebnisse über zwei sehr unterschiedliche Arten von Projekten hinweg sehr stark und konsistent sind, gibt der Autor zu bedenken, dass wir aufgrund der Tatsache, dass er die einzige Person war, die die Arbeit ausführte, nicht zu 100 % sicher sein können, dass dies bei einem ganzen Team aus verschiedenen Personen exakt so funktionieren würde, ohne weitere Tests. Er fand auch heraus, dass das System zwar gut darin war, offensichtliche Fehler zu finden, aber manchmal „Silent Failures“ (Bugs, die nicht sofort auftreten) übersah, was bedeutet, dass Menschen immer noch gelegentlich eine tiefgehende Prüfung durchführen müssen.

Das große Fazit
Das Paper kommt zu dem Schluss, dass sich die Rolle des Business Analysten verändert. Sie sind nicht mehr nur Schreiber von Dokumenten für andere Menschen. Sie werden zu den Architekten von Kontrollsystemen. Ihr Job ist es, das „Governed Delivery Framework“ zu entwerfen – die Regeln, die Checks und den Master-Bauplan –, der es der KI ermöglicht, Software sicher zu bauen. Die Zukunft dreht sich nicht um Mensch gegen KI; es geht darum, dass Menschen die perfekten Anweisungen entwerfen, damit die KI die schwere Arbeit erledigen kann, ohne etwas kaputt zu machen. Wie der Autor sagt: „Im Zeitalter der KI definiert sich der Business Analyst nicht mehr nur durch das, was er schreibt, sondern durch das, was er andere – Menschen und KI – ermöglichen zu liefern.“