Requirements Debt in AI-Enabled Perception Systems Development: An Industrial RE4AI Perspective
Durch eine qualitative Studie mit 19 Experten aus den Bereichen Automobil und Forschung identifiziert dieser Beitrag, wie die rasante Evolution funktionaler und nicht-funktionaler Anforderungen in KI-gestützten Wahrnehmungssystemen „Requirements Debt" erzeugt und fortsetzt, was letztlich die Sicherheit, Zuverlässigkeit und Zertifizierungsbereitschaft dieser kritischen Systeme bedroht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie bauen ein autonomes Fahrzeug. In den alten Tagen der Softwareentwicklung war das Aufschreiben von Regeln wie das Verfassen eines Rezepts: Sie listen die Zutaten, die Schritte und den erwarteten Geschmack auf, und sobald das Rezept geschrieben ist, bleibt es unverändert, bis Sie beschließen, ein neues zu verfassen.
Doch mit KI befolgt das Auto kein statisches Rezept mehr. Es lernt, indem es Tausende verschiedener Mahlzeiten (Daten) probiert und sein eigenes Rezept ständig in Echtzeit neu schreibt.
Diese Arbeit handelt von einem versteckten Problem namens „Requirements Debt" (ReD). Denken Sie daran wie an finanzielle Schulden. Wenn Sie heute etwas kaufen, aber nicht dafür bezahlen, müssen Sie es später mit Zinsen zurückzahlen. In der Software bedeutet dies: Wenn Sie eine schnelle Änderung am „Gehirn" des Autos (der KI) vornehmen, aber vergessen, das offizielle Regelbuch (die Anforderungen) zu aktualisieren, häufen Sie Schulden an. Schließlich werden die Zinsen (Fehler, Sicherheitsrisiken, Verzögerungen bei der Zertifizierung) so hoch, dass das Projekt ins Stocken gerät.
Hier ist die einfache Aufschlüsselung dessen, was die Forscher herausfanden, unter Verwendung alltäglicher Analogien:
1. Das Kernproblem: Das Rezept vs. der Koch
In der traditionellen Software folgt der „Koch" (der Entwickler) dem „Rezept" (den Anforderungen) genau.
Bei der KI lernt der „Koch" ständig neue Tricks.
- Die Schulden: Der Koch lernt eine neue Art, Gemüse zu schneiden (ein neues KI-Modell-Update), aber das Rezeptbuch sagt immer noch „benutze ein Messer".
- Das Ergebnis: Die Küche ist chaotisch. Das Personal (Ingenieure) weiß nicht, welcher Regel sie folgen sollen. Das Auto könnte wegen einer Plastiktüte anhalten, weil das alte Regelbuch die „Vorstellungskraft" der neuen KI nicht berücksichtigt hat.
2. Wie die Schulden aufgebaut werden (Funktionale Anforderungen)
Die Forscher interviewten Experten von Automobilunternehmen und stellten fest, dass das „Rezept" auf sieben spezifische Arten veraltet:
- Das sich bewegende Ziel (Algorithmus-Updates): Die KI wird jede Woche schlauer. Sie beginnt vorherzusagen, wo ein Fußgänger sein wird, nicht nur, wo er ist. Doch das Regelbuch fragt immer noch nur: „Wo sind sie jetzt?" Die Lücke zwischen dem, was die KI kann, und dem, was das Regelbuch sagt, dass sie kann, wird Semantische Drift genannt. Es ist wie der Austausch des Motors Ihres Autos gegen eine Rakete, während die Bedienungsanleitung immer noch sagt: „Es läuft mit Benzin".
- Die neuen Werkzeuge (Sensor-Upgrades): Stellen Sie sich vor, Sie tauschen eine Standardkamera gegen einen hochmodernen 3D-Laserscanner aus. Die alten Regeln für „wie weit wir sehen können" sind nun falsch. Wenn Sie die Regeln nicht aktualisieren, wie diese neuen Werkzeuge miteinander kommunizieren, entsteht Interface Debt. Es ist wie der Versuch, ein USB-C-Ladekabel in einen alten USB-A-Anschluss zu stecken; nichts passt, und das System bricht zusammen.
- Die stillschweigenden Annahmen (Neue Funktionen): Die KI fängt an, etwas Cooleres zu tun, wie zum Beispiel zu erraten, ob ein Fahrer müde ist. Aber niemand hat das in den offiziellen Regeln niedergeschrieben. Später, wenn das Auto nicht korrekt rät, sagt das Team: „Das stand nicht in den Anforderungen!" Dies ist Implizite Schulden – Schulden, von denen Sie nicht einmal wussten, dass Sie sie hatten.
- Die unterschiedlichen Regeln für verschiedene Länder: Ein in Schweden verkauftes Auto muss möglicherweise mit Schnee umgehen können, während eines in Florida Hitze bewältigen muss. Wenn das Unternehmen versucht, ein einziges riesiges Regelbuch für beide zu verwenden, wird es unübersichtlich. Dies ist Variant Debt. Es ist wie der Versuch, einen Reiseführer zu schreiben, der sowohl die Arktis als auch die Sahara abdeckt; er endet verwirrend und nutzlos.
- Der sich ändernde Bauplan (Architektur): Das Gehirn des Autos wandelt sich von einer einfachen Liste von Anweisungen zu einem komplexen, selbstlernenden neuronalen Netzwerk. Die alten Sicherheitsregeln (wie „prüfe diesen spezifischen Sensor") funktionieren auf dem neuen Gehirn nicht. Dies erzeugt Architectural Debt. Es ist wie der Versuch, Verkehrsregeln, die für Pferde entwickelt wurden, auf eine Flotte autonomer Teslas anzuwenden.
- Die Geschwindigkeitsfalle (Echtzeit-Bedarf): Das Auto wird schneller bei der Datenverarbeitung, aber das Regelbuch sagt immer noch: „Sie haben 10 Sekunden Zeit zu reagieren." Jetzt reagiert das Auto in 0,1 Sekunden, aber die Regeln sind veraltet. Dies ist Timing Debt.
- Die neue Rechenleistung: Wenn Sie den Computer des Autos auf einen superschnellen Quantenprozessor aufrüsten, sind die alten Tests, die die Sicherheit des Autos bewiesen haben, nicht mehr gültig. Sie müssen alles neu testen, aber Sie verschieben dies ständig. Dies ist Verification Debt.
3. Die „weichen" Regeln (Nicht-funktionale Anforderungen)
Dies sind die Regeln darüber, wie gut sich das Auto verhält, nicht nur was es tut. Die Schulden hier sind noch trickreicher:
- Sicherheitsverzögerung: Sicherheitsregeln (wie ISO-Standards) sind wie ein langsam fahrender Zug. Die KI ist ein Hochgeschwindigkeitszug. Bis die Sicherheitsregeln mit der neuen KI Schritt halten, hat sich die KI bereits wieder verändert. Das Auto fährt in einer „Sicherheitslücke".
- Die Black Box (Transparenz): Die KI trifft eine Entscheidung, kann aber nicht erklären, warum (wie ein Mensch mit einem Bauchgefühl). Das Regelbuch verlangt eine Erklärung, aber die KI kann keine geben. Dies ist Transparency Debt. Es ist wie ein Richter, der ein Urteil fällt, sich aber weigert zu sagen, warum, was das Vertrauen der Öffentlichkeit erschüttert.
- Vertrauensprobleme: Wenn das Auto jede Woche sein Verhalten basierend auf neuen Daten ändert, wie können Sie ihm dann vertrauen? Wenn die Regeln diese Änderungen nicht verfolgen, entsteht Trustworthiness Debt.
- Skalierbarkeit: Das Auto sammelt so viele Daten, dass es darin ertrinkt. Die Regeln sagen „verarbeiten Sie die Daten", aber das System ist verstopft. Dies ist Scalability Debt.
4. Die Konsequenzen: Warum sollten Sie sich dafür interessieren?
Wenn sich diese Schulden aufsummieren, ist es nicht nur ein Papierkram-Problem. Es entsteht ein Qualitäts-Erosions-Zyklus:
- Verwirrung: Das Team weiß nicht, was das Auto tun soll.
- Verzögerungen: Sie müssen anhalten und alles neu testen, weil die alten Tests ungültig sind.
- Risiko: Das Auto könnte einen Fehler machen, weil die „Regeln", denen es folgt, im Vergleich zu seinem tatsächlichen „Gehirn" veraltet sind.
- Zertifizierungsversagen: Die Regierung wird das Auto nicht auf die Straße lassen, weil die Papiere nicht mit der Realität übereinstimmen.
Die Hauptaussage
Die Arbeit argumentiert, dass in der Welt der KI-Autos Sie kein Regelbuch schreiben und dann gehen können. Das Regelbuch muss ein lebendiges Dokument sein, das sich gemeinsam mit der KI verändert.
Wenn Sie Anforderungen wie eine statische Steintafel behandeln, werden Sie eine massive „Schuld" aufbauen, die das Projekt schließlich zum Absturz bringen wird. Stattdessen benötigen Sie ein „dynamisches Hauptbuch", in dem jedes Mal, wenn die KI etwas Neues lernt, die Regeln sofort aktualisiert werden. Tun Sie dies nicht, fahren Sie mit einem Auto, das eine kaputte Karte und einen schnellen Motor hat, und steuern direkt auf eine Klippe zu.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.