From Technical Debt to Cognitive and Intent Debt: Rethinking Software Health in the Age of AI
Der Artikel stellt ein „Drei-Schulden-Modell" vor, das technische Schulden durch kognitive Schulden (den Verlust des gemeinsamen Verständnisses) und Intent-Schulden (das Fehlen externer Begründungen) ergänzt, um die durch generative KI verursachten neuen Risiken für die Softwaregesundheit zu analysieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Von der „schmutzigen Küche" zur „vergessenen Speisekarte": Warum KI-Entwickler neue Schulden machen
Stellen Sie sich vor, Sie betreiben ein Restaurant. In den letzten Jahren haben wir uns nur um eine Sache Sorgen gemacht: Die Küche ist schmutzig. Töpfe liegen herum, die Böden sind klebrig, und die Arbeitsabläufe sind chaotisch. Das nennt man in der Software-Welt Technische Schulden (Technical Debt). Wenn Sie das nicht reparieren, brennt eines Tages die Küche ab, weil niemand mehr weiß, wo das Messer liegt.
Aber jetzt kommt ein neuer Koch-Assistent auf den Markt: Künstliche Intelligenz (KI). Dieser Assistent kann in Sekunden Tausende von Gerichten zubereiten. Das ist fantastisch! Das Restaurant kann jetzt viel schneller bedienen.
Doch hier liegt das Problem: Der Assistent kocht so schnell, dass die echten Köche gar nicht mehr mitbekommen, was genau er tut oder warum er diese Zutaten verwendet. Und noch schlimmer: Niemand hat sich die Zeit genommen, aufzuschreiben, was das Gericht eigentlich sein soll.
Die Autorin Margaret-Anne Storey sagt: Wir haben uns zu sehr auf die saubere Küche (den Code) konzentriert und vergessen, dass wir jetzt zwei neue, viel gefährlichere Schuldenarten haben: Kognitive Schulden und Absichts-Schulden.
Hier ist die einfache Erklärung dieser drei Schulden-Typen:
1. Technische Schulden: Die schmutzige Küche
Das kennen wir alle. Es ist der Müll im Code. Schnelle Lösungen, die nicht perfekt sind.
- Das Problem: Wenn die Küche zu schmutzig wird, dauert es ewig, bis man ein neues Gericht zubereiten kann.
- Die KI-Lösung: Die KI kann den Müll eigentlich gut aufräumen. Sie kann den Code säubern. Das ist gut, aber es ist nicht das einzige Problem mehr.
2. Kognitive Schulden: Das vergessene Rezept im Kopf
Stellen Sie sich vor, der KI-Assistent hat 100 neue Gerichte gekocht. Die Köche im Restaurant schauen sich das Essen an und denken: „Sieht lecker aus." Aber wenn sie gefragt werden: „Wie hast du das gemacht?" oder „Was passiert, wenn wir das Gewürz weglassen?", dann zucken sie mit den Schultern.
- Das Problem: Niemand im Team versteht wirklich, wie das Essen funktioniert. Sie haben das Rezept nicht im Kopf. Sie haben es einfach „übernommen".
- Die Gefahr: Wenn ein Gast etwas Besonderes bestellt (eine Änderung im Programm), trauen sich die Köche nicht, etwas zu verändern, weil sie Angst haben, das ganze Gericht zu verderben. Oder sie ändern etwas und plötzlich schmeckt alles nach Seife, weil sie nicht verstanden haben, wie die Zutaten zusammenhängen.
- Der Begriff: Das nennt man Kognitive Schulden. Es ist die Lücke zwischen dem, was der Code tut, und dem, was das Team versteht.
3. Absichts-Schulden: Die fehlende Speisekarte
Das ist das heimtückischste Problem. Stellen Sie sich vor, das Restaurant hat keine Speisekarte. Niemand weiß, ob wir ein italienisches oder ein chinesisches Restaurant sind. Der KI-Assistent kocht einfach irgendetwas, das gut aussieht.
- Das Problem: Der Assistent hat keine Ahnung, was das Ziel des Restaurants ist. Vielleicht wollte der Chef eigentlich nur Pizza servieren, aber der Assistent hat plötzlich Sushi gekocht, weil er keine Anweisung hatte.
- Die Gefahr: Das Essen ist vielleicht perfekt zubereitet (der Code funktioniert), aber es ist das falsche Essen für die Kunden. Das Team weiß nicht mehr, wofür das Restaurant eigentlich da ist.
- Der Begriff: Das nennt man Absichts-Schulden (Intent Debt). Es ist der Mangel an klaren Zielen, Regeln und Erklärungen, die festgehalten wurden.
Warum ist das mit der KI so schlimm?
Früher, wenn ein Koch ein neues Gericht kochte, musste er sich anstrengen. Er musste überlegen: „Welches Gewürz passt hier? Warum nehme ich das?" Durch diese Anstrengung hat er das Rezept verstanden.
Heute drückt die KI auf einen Knopf, und Zack – das Gericht ist fertig. Der Koch muss nicht mehr nachdenken. Er nimmt das Essen einfach an.
- Der Trick: Die KI macht uns schneller, aber sie macht uns auch faul beim Denken. Wir verlieren das Verständnis dafür, was wir eigentlich bauen.
- Das Ergebnis: Wir haben ein Restaurant, das super schnell arbeitet, aber niemand weiß mehr, was auf der Speisekarte stehen sollte. Wenn der Chef dann sagt: „Wir wollen jetzt Veganer bedienen", weiß niemand, wie man das anstellt, weil die ursprüngliche Idee (die Absicht) nie aufgeschrieben wurde und niemand verstanden hat, wie die Küche funktioniert.
Was können wir tun? (Die Lösung für das Restaurant)
Um nicht in diesen Schulden zu ertrinken, müssen wir unsere Arbeitsweise ändern:
- Verstehen ist ein Produkt: Nicht nur das fertige Gericht (der Code) ist wichtig. Es ist genauso wichtig, dass das Team das Rezept versteht. Das Team muss Zeit haben, um zu erklären, warum sie etwas so gemacht haben.
- Die Speisekarte schreiben (Intent First): Bevor die KI kocht, müssen wir ihr genau sagen, was wir wollen. Wir müssen Ziele, Regeln und den „Warum"-Faktor festhalten. Nicht nur für Menschen, sondern auch für die KI.
- Nicht alles automatisieren: Wir dürfen die KI nicht alles erklären lassen. Wenn die KI eine Erklärung schreibt, haben wir das Verständnis immer noch nicht selbst. Wir müssen selbst aktiv mitdenken, sonst verlieren wir den Bezug.
- Drei Dinge im Blick behalten:
- Ist die Küche sauber? (Technische Schulden)
- Versteht das Team, wie gekocht wird? (Kognitive Schulden)
- Wissen wir, was wir überhaupt kochen sollen? (Absichts-Schulden)
Fazit:
Die KI ist ein mächtiger Motor, aber sie ist kein Navigator. Wenn wir nur auf die Geschwindigkeit schauen und vergessen, wohin wir wollen (Absicht) und wie das Auto funktioniert (Verständnis), dann fahren wir zwar schnell, aber wir landen im falschen Land. Um Software gesund zu halten, müssen wir das „Verstehen" und die „Ziele" genauso sorgfältig pflegen wie den Code selbst.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.