DevIntent: How Much Does LLM-Generated Code Violate Developer Intent?
यह शोध पत्र इंटेंट वायलेशन रेट (IVR) मीट्रिक और एक संबंधित बेंचमार्क प्रस्तुत करता है जो यह प्रकट करता है कि जबकि LLM-जनित कोड अक्सर मानक दृश्य परीक्षणों (standard visible tests) को पास कर लेता है, यह आधे से अधिक मामलों में डेवलपर्स के अंतर्निहित इरादों का व्यवस्थित रूप से उल्लंघन करता है, जो यह सुझाव देता है कि वर्तमान पास दरें जनित कोड और वास्तविक डेवलपर इरादे के बीच संरेखण का अत्यधिक आकलन करती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपने परिवार के लिए रात का खाना बनाने के लिए एक बेहद प्रतिभाशाली, बिजली जैसी तेज़ रोबोट शेफ को काम पर रख रहे हैं। आप उससे कहते हैं, "मेरे लिए एक सैंडविच बनाओ।" रोबोट सक्रिय होता है, ब्रेड लेता है, टर्की काटता है, और एक सुंदर, एकदम सही दिखने वाला सैंडविच सजाकर पेश करता है। आप एक निवाला लेते हैं, और इसका स्वाद बिल्कुल एक टर्की सैंडविच जैसा ही है। आपके द्वारा सोचे गए हर मानक परीक्षण के अनुसार—क्या इसमें ब्रेड है? हाँ। क्या इसमें टर्की है? हाँ। क्या यह खाने योग्य है? हाँ। रोबोट ने सभी परीक्षणों को शानदार तरीके से पास कर लिया है।
लेकिन यहाँ एक मोड़ है: आपका परिवार शाकाहारी है, और आप यह बताना भूल गए थे। वह रोबोट, जो बहुत ही शाब्दिक अर्थ निकालने वाली मशीन है, स्पष्टीकरण नहीं मांगता; उसने बस मान लिया कि "सैंडविच" का मतलब "मांस वाला सैंडविच" है। उसने आपके निर्देशों का पूरी तरह से पालन किया, लेकिन वह आपके इरादे को पूरी तरह से समझने में विफल रहा। कंप्यूटर विज्ञान की दुनिया में, विशेष रूप से आर्टिफिशियल इंटेलिजेंस (AI) के क्षेत्र में, यह एक बढ़ता हुआ सिरदर्द है। हमारे पास शक्तिशाली AI मॉडल हैं जो कंप्यूटर कोड लिख सकते हैं, लेकिन वे अक्सर उस शाब्दिक अर्थ निकालने वाले शेफ की तरह व्यवहार करते हैं। वे ऐसा कोड लिख सकते हैं जो प्रोग्रामर द्वारा लिखे गए सभी आधिकारिक "परीक्षणों" को पास कर देता है, फिर भी वह कोड उस चीज़ से थोड़ा अलग काम करता है जो प्रोग्रामर वास्तव में चाहता था। यह शोध पत्र "कोड क्या करता है" और "इंसान का क्या मतलब था" के बीच के इस अंतर की गहराई में जाता है।
इस अध्ययन के पीछे के शोधकर्ताओं ने, Claude Sonnet 4.6 और OpenAI के GPT-4.1 जैसे मॉडलों के साथ काम करते हुए, केवल यह जांचना बंद करने का निर्णय लिया कि कोड "काम करता है या नहीं" और इसके बजाय यह जांचना शुरू किया कि क्या वह "बात समझता है या नहीं।" उन्होंने इस मापने का एक नया तरीका बनाया, जिसे वे इंटेंट वायलेशन रेट (Intent Violation-IVR) कहते हैं। IVR को एक "मन पढ़ने वाले परीक्षण" के रूप में सोचें। केवल यह पूछने के बजाय कि, "क्या कोड बिना क्रैश हुए चला?" वे पूछते हैं, "क्या कोड ने ठीक वही किया जो इंसान सोच रहा था, यहाँ तक कि उन हिस्सों के साथ भी जिन्हें इंसान ने ज़ोर से कहना भूल गया था?"
इसकी जांच करने के लिए, टीम ने 49 पेचीदा कोडिंग पहेलियों का एक विशेष खेल का मैदान बनाया। उन्होंने स्पष्ट, विस्तृत निर्देशों (जिसे "गोल्ड प्रॉम्प्ट" कहा गया) को लिया और महत्वपूर्ण, अनकहे विवरणों को हटाकर एक अस्पष्ट संस्करण (जिसे "एम्बिगस प्रॉम्प्ट" कहा गया) तैयार किया। फिर उन्होंने AI को केवल उस अस्पष्ट संस्करण का उपयोग करके पहेली को हल करने के लिए कहा। AI को एक बुनियादी चेकलिस्ट (जिसे "स्टेटेड टेस्ट" कहा गया) दी गई थी ताकि यह साबित हो सके कि उसने मुख्य समस्या को हल कर लिया है, लेकिन शोधकर्ताओं ने एक गुप्त चेकलिस्ट (जिसे "हिडन कंस्ट्रेंट्स" कहा गया) भी छिपाई थी जो उन विवरणों को पकड़ती थी जिन्हें AI को अनुमान लगाना था। उदाहरण के लिए, यदि अस्पष्ट प्रॉम्प्ट था "इन नंबरों को सॉर्ट करें," तो AI उन्हें केवल सूचीबद्ध कर सकता है। लेकिन हिडन कंस्ट्रेंट यह हो सकता है कि "उन्हें छोटे से बड़े क्रम में व्यवस्थित करें।" यदि AI ने उन्हें यादृच्छिक क्रम में सूचीबद्ध किया, तो वह बुनियादी परीक्षण में पास हो जाएगा लेकिन हिडन (छिपे हुए) परीक्षण में विफल हो जाएगा, जिससे डेवलपर के इरादे का उल्लंघन होगा।
परिणाम चौंकाने वाले थे। जब शोधकर्ताओं ने देखा कि AI कितनी बार दृश्य परीक्षणों को पास करता है, तो संख्याएँ अद्भुत लग रही थीं: Claude Sonnet 4.6 ने 94.3% बार सफलता पाई, और GPT-4.1 ने 92.7% बार सफलता पाई। यदि आप केवल उन नंबरों को देखते, तो आप सोचते कि AI एक कोडिंग जीनियस है। लेकिन जब उन्होंने गुप्त "इंटेंट वायलेशन रेट" की जांच की, तो तस्वीर नाटकीय रूप से बदल गई।
भले ही कोड दृश्य परीक्षणों में पास हो गया, लेकिन इसने Claude के लिए 54.5% और GPT-4.1 के लिए 63.5% मामलों में डेवलपर के छिपे हुए इरादे का उल्लंघन किया। इसका मतलब है कि आधे से अधिक समस्याओं में, AI ने ऐसा कोड लिखा जो तकनीकी रूप से तो काम कर रहा था लेकिन मौलिक रूप से गलत था कि इंसान क्या चाहता था। शोधकर्ताओं ने पाया कि यह केवल रैंडम शोर या कुछ गलत अनुमान नहीं था। AI का व्यवहार आश्चर्यजनक रूप से सुसंगत और "बाइमोडल" (bimodal) था, जिसका अर्थ है कि यह या तो छिपे हुए इरादे को पूरी तरह से सही पकड़ता था या उसे पूरी तरह से मिस कर देता था, और बीच में बहुत कम "लगभग सही" उत्तर मिलते थे।
अध्ययन सुझाव देता है कि केवल यह गिनना कि कोड कितने परीक्षण पास करता है, यह जानने के लिए पर्याप्त नहीं है कि वह अच्छा है या नहीं। एक उच्च पास रेट डेवलपर्स को सुरक्षा का एक झूठा अहसास दे सकता है, जिससे उन्हें लगता है कि उनका कोड तैनात करने के लिए तैयार है, जबकि वास्तव में उसमें महत्वपूर्ण, अनकहे विवरण गायब होते हैं। लेखक नोट करते हैं कि हालांकि उनके निष्कर्ष 49 विशिष्ट समस्याओं और दो विशिष्ट AI मॉडलों पर आधारित हैं, लेकिन जो पैटर्न उन्होंने पाया है वह व्यवस्थित है। उनका तर्क है कि हमें कोड की गुणवत्ता को मापने के नए तरीकों की आवश्यकता है जो सतह-स्तर के "पास/फेल" परिणामों से परे जाकर यह सुनिश्चित करें कि AI वास्तव में मानव दृष्टि को समझ रहा है, न कि केवल टेस्ट को चकमा दे रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।