When Policies Change Probabilities: Modular Decision-Making for LLM Code Review
यह शोध पत्र प्रदर्शित करता है कि वर्तमान एलएलएम (LLM) कोड समीक्षक जोखिम अनुमान को निर्णय नीतियों के साथ मिला देते हैं, जिससे रिपोर्ट की गई संभावनाएँ लागत धारणाओं के साथ बदल जाती हैं, और एक मॉड्यूलर पाइपलाइन का प्रस्ताव करता है जो साक्ष्य-आधारित जोखिम उद्दलन को लागत-संचालित कार्यों से अलग करती है ताकि सटीकता में उल्लेखनीय सुधार किया जा सके और निर्णय हानि को कम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप रहस्यों को सुलझाने के लिए विशेषज्ञों की एक जासूसी टीम को काम पर रख रहे हैं। आप उन्हें एक सुराग देते हैं, और वे आपसे कहते हैं, "इस बात की 20% संभावना है कि यह संदिग्ध दोषी है।" अब, कल्पना कीजिए कि खेल के नियम बदल जाते हैं। अचानक, यदि आप किसी निर्दोष व्यक्ति पर गलत आरोप लगाते हैं, तो इसमें शहर को एक दोषी व्यक्ति को जाने देने की तुलना में दस गुना अधिक लागत आती है। एक समझदार जासूस को अपना 20% का अनुमान समान रखना चाहिए—संदेश और सुराग नहीं बदले हैं—लेकिन उसे अपनी कार्रवाई बदल देनी चाहिए। उसे अब किसी को भी गिरफ्तार करने के बारे में बहुत अधिक सावधान रहना चाहिए।
यह बड़े भाषा मॉडल (LLMs) के दुनिया है जो कोड समीक्षक (code reviewers) के रूप में कार्य करते हैं। ये एआई "जासूस" नए कंप्यूटर कोड (पैच) को देखते हैं और अनुमान लगाने की कोशिश करते हैं कि क्या इससे चीजें टूट जाएंगी। लंबे समय तक, हमने आशा की थी कि ये एआई पूर्ण वैज्ञानिकों की तरह कार्य करेंगे: साक्ष्यों के आधार पर विफलता की एक स्थिर संभावना प्रदान करेंगे, और एक अलग मानव (या कंप्यूटर) को यह तय करने देंगे कि क्या किया जाए, जो इस बात पर निर्भर करता है कि गलती की लागत कितनी है। लेकिन क्या होगा यदि एआई की "संभावना" वास्तव में एक स्थिर तथ्य नहीं है? क्या होगा यदि एआई नियमों के बदलने के कारण अपने नंबरों के बारे में अपना विचार बदल देता है? यही वह बड़ा सवाल है जो यह शोध पत्र पूछता है।
एआई का मूड स्विंग (बदलता मिजाज)
शोधकर्ताओं ने यह देखने के लिए एक विशाल प्रयोग किया कि क्या एआई कोड समीक्षक वास्तव में विश्वसनीय वैज्ञानिक हैं या केवल मूड-स्विंग करने वाले अभिनेता हैं। उन्होंने 720 कोड के टुकड़े एकत्र किए—जिनमें से आधे ज्ञात रूप से पूरी तरह से काम कर रहे थे और आधे ज्ञात रूप से विफल हो रहे थे। फिर उन्होंने चार अलग-अलग शीर्ष-स्तरीय एआई समीक्षकों से इन समान कोड के टुकड़ों को विभिन्न "लागत" परिदृश्यों के तहत देखने के लिए कहा।
एक परिदृश्य में, एआई को बताया गया था: "एक टूटे हुए पैच को स्वीकार करना या एक अच्छे पैच को अस्वीकार करना, दोनों समान रूप से बुरे हैं।" दूसरे में, एआई को बताया गया था: "ओह नहीं! यदि आप एक टूटे हुए पैच को स्वीकार करते हैं, तो यह हमें एक अच्छे पैच को अस्वीकार करने की तुलना में 10 गुना अधिक लागत देगा!"
चौंकाने वाली बात यह है: एआई ने अपने संभावना के नंबर बदल दिए। जब नियम बदलने पर अत्यधिक महंगी गलतियों के लिए बनाए गए, तो एआई ने केवल अपना निर्णय नहीं बदला; उसने वास्तव में इस बात का अनुमान भी बदल दिया कि कोड के विफल होने की कितनी संभावना है। औसतन, रिपोर्ट की गई विफलता की संभावना लगभग 13.6% से 16.9% तक बदल गई क्योंकि लागत के नियम बदल गए थे। यह ऐसा ही था जैसे कि जासूस ने एक ही सुराग देखा और अचानक कहा, "रुको, अब इस बात की 15% अधिक संभावना है कि संदिग्ध दोषी है," भले ही संदिग्ध अपनी जगह से हिला भी न हो।
"बैड एक्टर" (खराब अभिनेता) की समस्या
शोध में पाया गया कि जब इन एआई से "उच्च लागत" वाले नियमों के तहत निर्णय लेने के लिए कहा गया, तो वे बहुत खराब प्रदर्शन करते हैं। वास्तव में, परीक्षण किए गए प्रत्येक एआई के लिए, उनके द्वारा लिए गए निर्णय इस बात से भी बदतर थे कि यदि आपने स्वचालित रूप से हर एक पैच को अस्वीकार कर दिया होता। यह एक सुरक्षा गार्ड की तरह है जो, जब उसे कहा जाता है "जब तक आप 100% सुनिश्चित न हों, तब तक किसी को अंदर न आने दें," तो वह पूरे भवन को लॉक करना शुरू कर देता है, जिसमें सीईओ भी शामिल हैं।
इससे भी बदतर, शोधकर्ताओं ने पाया कि एआई की "संभावना" ही असली अपराधी थी। जब उन्होंने "सुरक्षित" नियमों के तहत एआई द्वारा दिए गए संभावना के नंबरों को लिया और सख्त "उच्च लागत" वाले निर्णय तर्क को लागू किया, तो सिस्टम का प्रदर्शन बेहतर रहा। यह साबित करता है कि समस्या यह नहीं थी कि एआई एक अच्छा निर्णय नहीं ले सकता था; समस्या यह थी कि जब दांव ऊंचे थे, तो एआई नंबरों के बारे में झूठ बोल रहा था। वह दबाव के कारण वास्तविकता के प्रति अपनी धारणा को विकृत कर रहा था।
मॉड्यूलर समाधान: विशेषज्ञों की एक टीम
तो, उस जासूस को कैसे ठीक करें जो नियमों के आधार पर अपना मन बदल लेता है? शोधकर्ताओं ने एक नया दृष्टिकोण आजमाया: मॉड्यूलर निर्णय लेना (Modular Decision-Making)। एक ही एआई से सब कुछ करने के बजाय (कोड देखना, जोखिम का अनुमान लगाना और निर्णय लेना), उन्होंने काम को विभाजित कर दिया।
- जोखिम रिपोर्टर (The Risk Reporter): एक एआई कोड को देखता है और कहता है, "यहाँ जोखिम है," बिना लागत या नियमों के बारे में कुछ भी जाने।
- निरीक्षक (The Monitor): दूसरा, स्वतंत्र एआई कोड के जोखिम के बारे में एक अलग स्कोर देता है।
- नियंत्रक (The Controller): एक सरल कंप्यूटर प्रोग्राम (कोड) उन दोनों स्कोर को लेता है और अंतिम निर्णय लेने के लिए लागत के नियमों को लागू करता है।
यह "विशेषज्ञों की टीम" बहुत बेहतर काम करती है। जब लागत समान थी, तो यह मॉड्यूलर प्रणाली अधिक सटीक थी और इसने कम गलतियाँ कीं। हालांकि, शोध पत्र ने एक सीमा भी पाई: जब गलती की लागत अत्यधिक उच्च (10 गुना अधिक) हो गई, तो इस स्मार्ट मॉड्यूलर सिस्टम ने भी सब कुछ अस्वीकार करने का निर्णय लिया। यह पता चला कि उपलब्ध उपकरण इतने सक्षम नहीं थे कि विफलता की सजा इतनी गंभीर होने पर सुरक्षित रूप से कुछ भी स्वीकृत किया जा सके।
मुख्य निष्कर्ष
मुख्य सबक यह है कि हम एआई की "संभावना" पर तब भरोसा नहीं कर सकते जब वह एआई जानता हो कि उसके उत्तर के परिणाम क्या होंगे। यदि आप एक विश्वसनीय संख्या चाहते हैं, तो आपको इसे एक शून्य (vacuum) में मांगना होगा, बिना एआई को यह बताए कि गलती की कितनी लागत होगी। फिर, आप उस नंबर को लेंगे और स्वयं नियम लागू करेंगे।
शोध पत्र दिखाता है कि जब हम एआई को "जोखिम अनुमान" और "निर्णय नीति" को मिलाने देते हैं, तो नंबर गड़बड़ा जाते हैं और निर्णय खराब हो जाते हैं। भूमिकाओं को अलग करके—एक हिस्से को केवल तथ्यों की रिपोर्ट करने के लिए और दूसरे हिस्से को नियमों को संभालने के लिए—हम सुरक्षित, अधिक विश्वसनीय कोड समीक्षा प्रणाली बना सकते हैं। लेकिन, जैसा कि शोधकर्ताओं ने पाया, सबसे अच्छे सिस्टमों की भी सीमाएं होती हैं, और जब दांव अविश्वसनीय रूप से ऊंचे होते हैं, तो कभी-कभी सबसे सुरक्षित विकल्प बस हर चीज़ को "ना" कहना होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।