DevIntent: How Much Does LLM-Generated Code Violate Developer Intent?
Dieses Paper führt die Metrik der Intent Violation Rate (IVR) und einen entsprechenden Benchmark ein, um aufzuzeigen, dass LLM-generierter Code zwar häufig standardmäßige sichtbare Tests besteht, jedoch in über der Hälfte der Fälle systematisch die impliziten Absichten der Entwickler verletzt, was darauf hindeutet, dass aktuelle Erfolgsraten die Übereinstimmung zwischen generiertem Code und der tatsächlichen Intention der Entwickler erheblich überschätzen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie stellen einen supertalentierten, blitzschnellen Roboter-Koch ein, der Ihr Abendessen für Ihre Familie zubereitet. Sie sagen ihm: „Mach mir ein Sandwich.“ Der Roboter erwacht zum Leben, schnappt sich das Brot, schneidet den Truthahn und richtet ein wunderschönes, perfekt aussehendes Sandwich an. Sie nehmen einen Bissen, und es schmeckt exakt wie ein Truthahn-Sandwich. Nach jedem Standardtest, den Sie auch denken können – hat es Brot? Ja. Hat es Truthahn? Ja. Ist es essbar? Ja. Der Roboter hat den Test mit Bravour bestanden.
Aber hier kommt die Wendung: Ihre Familie ist Vegetarier, und Sie haben vergessen, dies zu erwähnen. Der buchstäblich denkende Roboter hat nicht um Klärung gebeten; er hat einfach angenommen, dass „Sandwich“ ein „Sandwich mit Fleisch“ bedeutet. Er hat Ihren Anweisungen perfekt gefoldet, aber er hat Ihre Absicht völlig verfehlt. In der Welt der Informatik, speziell im Bereich der Künstlichen Intelligenz (KI), ist dies ein wachsendes Problem. Wir haben leistungsstarke KI-Modelle, die Computer-Code schreiben können, aber sie agieren oft wie dieser buchstäblich denkende Koch. Sie können Code schreiben, der alle offiziellen „Tests“ besteht, die ein Programmierer schreibt, und dennoch tut der Code etwas leicht Abweichendes von dem, was der Programmierer eigentlich wollte. Diese Arbeit taucht in diese Lücke zwischen „was der Code tut“ und „was der Mensch meinte“ ein.
Die Forscher hinter dieser Studie, die mit Modellen wie Claude Sonnet 4.6 und OpenAI's GPT-4.1 arbeiteten, beschlossen, nicht mehr nur zu prüfen, ob der Code „funktioniert“, sondern ob er es „versteht“. Sie entwickelten eine neue Art, dies zu messen, die sie die Intent Violation Rate (IVR) nennen – also die Rate der Absichtsmissachtung. Denken Sie bei der IVR an einen „Gedankenlese-Test“ für die KI. Anstatt nur zu fragen: „Lief der Code ohne Absturz durch?“, fragen sie: „Hat der Code genau das getan, was der Mensch dachte, selbst die Teile, die der Mensch lautlos vergessen hat auszusprechen?“
Um dies zu testen, bauten die Forscher einen speziellen Spielplatz aus 49 kniffligen Programmierrätseln. Sie nahmen klare, detaillierte Anweisungen (den „Goldenen Prompt“) und entfernten die wichtigen, ungesagten Details, um eine vage, mehrdeutige Version (den „Ambivalenten Prompt“) zu erstellen. Dann baten sie die KI, das Rätsel nur unter Verwendung der vagen Version zu lösen. Die KI erhielt eine Basis-Checkliste (den „Ausgegebenen Test“), um zu beweisen, dass sie das Hauptproblem gelöst hatte, aber die Forscher versteckten auch eine geheime Checkliste (die „Verborgenen Randbedingungen“), die jene Details erfasste, die die KI hätte erraten sollen. Wenn der vage Prompt beispielsweise lautete „Sortiere diese Zahlen“, könnte die KI sie einfach nur auflisten. Aber die verborgene Randbedingung könnte sein: „Sortiere sie von klein nach groß.“ Wenn die KI sie in zufälliger Reihenfolge auflistet, würde sie den Basis-Test bestehen, aber die verborgene Bedingung verfehlen und somit die Absicht des Entwicklers verletzen.
Die Ergebnisse waren ein wenig schockierend. Als die Forscher betrachteten, wie oft die KI die sichtbaren Tests bestand, sahen die Zahlen fantastisch aus: Claude Sonnet 4.6 bestand 94,3 % der Fälle und GPT-4.1 bestand 92,7 %. Wenn man nur diese Zahlen betrachten würde, hielte man die KI für ein Codiergenie. Doch als sie die geheime „Intent Violation Rate“ überprüften, änderte sich das Bild dramatisch.
Obwohl der Code die sichtbaren Tests bestand, verletzte er die verborgene Absicht des Entwicklers in 54,5 % der Fälle bei Claude und in 63,5 % bei GPT-4.1. Das bedeutet, dass die KI in mehr als der Hälfte der Probleme Code schrieb, der technisch funktionierte, aber grundlegend falsch war in Bezug auf das, was der Mensch wollte. Die Forscher fanden heraus, dass dies nicht nur zufälliges Rauschen oder ein paar schlechte Vermutungen waren. Das Verhalten der KI war überraschend konsistent und „bimodal“, was bedeutet, dass sie dazu neigte, die verborgene Absicht entweder perfekt richtig zu verstehen oder sie völlig zu verfehlen, wobei es sehr wenige „fast richtige“ Antworten dazwischen gab.
Die Studie legt nahe, dass es nicht ausreicht, einfach nur zu zählen, wie viele Tests ein Stück Code besteht, um zu wissen, ob es gut ist. Eine hohe Erfolgsquote kann Entwicklern ein falsches Gefühl der Sicherheit vermitteln und sie glauben lassen, der Code sei bereit zur Bereitstellung, während er in Wirklichlichkeit entscheidende, ungesagte Anforderungen vermissen lässt. Die Autoren merken an, dass, obwohl ihre Ergebnisse auf einem spezifischen Satz von 49 Problemen und zwei spezifischen KI-Modellen basieren, das gefundene Muster systematisch ist. Sie argumentieren, dass wir neue Wege brauchen, um die Codequalität zu messen, die über die oberflächlichen „Bestanden/Nicht Bestanden“-Ergebnisse hinausgehen, um sicherzustellen, dass die KI wirklich die Vision des Menschen versteht und nicht nur den Test austrickst.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.