To Copilot and Beyond: 22 AI Systems Developers Want Built
Basierend auf einer Umfrage unter 860 Microsoft-Entwicklern identifiziert diese Arbeit 22 gewünschte KI-Systeme, die den Fokus von der reinen Codegenerierung auf die Unterstützung des gesamten Entwicklungsprozesses verlagern, wobei sie ein Konzept der „begrenzten Delegation" betonen, bei dem KI die umgebende Arbeit übernimmt, aber die professionelle Identität und Kernkompetenz des Entwicklers respektiert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Softwareentwicklung ist wie das Bauen eines riesigen, komplexen Hauses.
In der Vergangenheit dachten die meisten Menschen: „Ein Programmierer ist jemand, der Ziegelsteine (Code) verlegt." Deshalb haben KI-Tools wie Copilot bisher fast nur darauf fokussiert, diese Ziegel schneller zu legen.
Aber die Studie „To Copilot and Beyond" (Über Copilot hinaus) zeigt ein ganz anderes Bild: Programmierer verbringen nur etwa 10 % ihrer Zeit mit dem eigentlichen Ziegellegen. Der Rest der Zeit – 90 % – wird damit verbracht, das Fundament zu prüfen, die Baupläne zu lesen, mit den Nachbarn zu verhandeln, die Bauvorschriften einzuhalten und sicherzustellen, dass das Haus nicht einstürzt, wenn der Wind weht.
Das Problem ist: Die KI wird immer schneller beim Ziegellegen, aber die anderen Aufgaben bleiben langsam, chaotisch und menschenintensiv. Das führt zu einem Stau: Es gibt zu viel „fertiges" Material, aber niemand hat Zeit, es zu prüfen.
Die Forscher haben 860 Microsoft-Entwickler gefragt: „Was wollt ihr eigentlich von der KI?"
Das Ergebnis sind 22 neue KI-Systeme, die die Entwickler sich wünschen. Hier ist die einfache Erklärung, was sie wollen und warum, mit ein paar bildhaften Vergleichen:
1. Das große Missverständnis: „Wir wollen keine KI, die für uns denkt"
Die Entwickler sagen nicht: „Mach das ganze Haus für mich." Sie sagen: „Mach mir den Schmutz weg, aber lass mich den Architekten bleiben."
Sie wollen, dass die KI die langweilige, mühsame Arbeit übernimmt (das „Assembly"), aber niemals die eigentliche kreative oder verantwortungsvolle Entscheidung trifft (das „Craft").
- Die Analogie: Stellen Sie sich einen Koch vor. Er möchte einen Roboter, der ihm das Gemüse schneidet, den Tisch deckt und den Abwasch macht. Aber er will nicht, dass der Roboter entscheidet, was auf dem Teller landet oder wie das Gericht schmeckt. Das ist seine Kunst. Wenn der Roboter das macht, fühlt sich der Koch wie ein unnötiger Zuschauer.
2. Die 22 Wünsche (in 5 Kategorien)
Die Forscher haben die Wünsche in fünf Bereiche unterteilt. Hier sind die wichtigsten Beispiele:
Beim Bauen (Development):
- Wunsch: Ein KI-System, das alte, kaputte Code-Stücke (technische Schulden) repariert.
- Die Bedingung: Die KI darf nicht einfach wild herumhantieren. Sie muss wie ein vorsichtiger Handwerker sein, der erst fragt: „Darf ich hier das Rohr tauschen?" und dann nur kleine, überschaubare Änderungen vorschlägt, die ein Mensch sofort prüfen kann.
- Das Problem: Bisher machen KIs oft zu große Änderungen, die niemand mehr versteht.
Beim Planen (Design & Planning):
- Wunsch: Ein KI-System, das hilft, Pläne in konkrete Aufgaben zu zerlegen.
- Die Bedingung: Die KI darf den Plan nicht selbst treffen. Sie soll nur Optionen aufzeigen („Hier sind drei Wege, wie wir das bauen könnten"), aber der Mensch muss entscheiden.
- Die Analogie: Ein KI-Planer ist wie ein Architekt-Assistent, der Skizzen macht, aber nicht den Schlüssel zum Grundstück besitzt.
Beim Prüfen (Quality & Risk):
- Wunsch: Ein KI-System, das Fehler findet, bevor das Programm fertig ist.
- Die Bedingung: Die KI darf niemals selbst sagen: „Alles okay, fertig!" Sie darf nur warnen: „Hier sieht es verdächtig aus." Die finale Freigabe muss immer ein Mensch geben.
- Das Problem: Wenn die KI selbst entscheidet, werfen wir die Verantwortung weg.
Beim Betrieb (Infrastructure):
- Wunsch: Ein KI-System, das Alarme sortiert.
- Die Bedingung: Die KI darf niemals selbst in den Produktions-Server greifen und Dinge ändern (z. B. einen Server neu starten). Sie darf nur „hören" und „berichten".
- Die Analogie: Ein KI-Wärter, der den Feueralarm hört und die Feuerwehr ruft, aber niemals selbst das Wasser aufdreht, um das Feuer zu löschen.
Beim Lernen und Kommunizieren (Meta-Work):
- Wunsch: KI, die hilft, neue Mitarbeiter einzuarbeiten oder Texte für Kunden zu formulieren.
- Die Bedingung: Die KI darf keine falschen Tatsachen erfinden (Halluzinationen) und darf keine sensiblen Daten lesen. Sie soll nur den Entwurf schreiben, den Mensch muss ihn prüfen.
3. Die vier goldenen Regeln (Die „Leitplanken")
Damit diese KI-Systeme akzeptiert werden, müssen sie vier strenge Regeln befolgen. Man kann sie sich wie Leitplanken auf einer kurvigen Straße vorstellen:
- Klare Grenzen (Authority Scoping): Die KI weiß genau, wo ihre Straße endet. Wenn es um eine wichtige Entscheidung geht, hält sie an und fragt den Menschen.
- Herkunftsnachweis (Provenance): Wenn die KI etwas sagt, muss sie zeigen können: „Ich habe das hier gelesen." Keine magischen Antworten aus dem Nichts.
- Unsicherheits-Signal (Uncertainty Signaling): Wenn die KI sich nicht sicher ist, muss sie laut sagen: „Ich bin mir nicht sicher!" statt mit falschem Selbstvertrauen eine falsche Antwort zu geben.
- Wenigstens Rechte (Least-Privilege Access): Die KI darf nur das tun, was sie muss. Sie bekommt keine Schlüssel für das ganze Haus, sondern nur den Schlüssel für das Zimmer, in dem sie arbeitet.
Das Fazit: Was ist der wahre Wert von KI?
Die Studie kommt zu einem überraschenden Schluss: Der Wert einer KI im Software-Bereich liegt nicht darin, wie viel Arbeit sie erledigt, sondern wo genau sie aufhört.
Die Entwickler wollen die KI als Super-Assistenten, der den Müll wegräumt, die Werkzeuge reicht und die Warnsignale gibt. Aber sie wollen die Verantwortung, die Kreativität und die letzte Entscheidung selbst behalten.
Wenn wir KI-Tools so bauen, dass sie diese Grenzen respektieren, werden sie nicht nur produktiver, sondern auch vertrauenswürdiger. Wenn wir sie aber so bauen, dass sie alles selbst entscheiden, verlieren die Entwickler das Gefühl, dass ihre Arbeit noch etwas mit ihnen zu tun hat – und das ist der Moment, an dem sie die Tools wieder abschalten.
Kurz gesagt: Wir wollen KI, die uns hilft, bessere Handwerker zu sein, nicht KI, die uns ersetzt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.