AI Policy, Disclosure, and Human in the Loop: How Are Contribution Guidelines Adapting to GenAI?
1,000 गिटहब (GitHub) रिपॉजिटरीज़ के इस अनुभवजन्य अध्ययन से पता चलता है कि जबकि अधिकांश ओपन सोर्स प्रोजेक्ट्स अब एआई-सहायता प्राप्त योगदानों की अनुमति देते हैं, उनमें से अधिकांश एआई उपयोग को प्रकट करने और विकास प्रक्रिया में मानवीय निरीक्षण बनाए रखने के लिए सख्त आवश्यकताओं को लागू करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
सॉफ्टवेयर विकास की दुनिया की कल्पना एक विशाल, हलचल भरे शहर के रूप में करें जहाँ लाखों लोग "ओपन सोर्स" नामक एक विशाल, साझा गगनचुंबी इमारत को बनाने, ठीक करने और विस्तारित करने में लगातार लगे हुए हैं। वर्षों तक, यह शहर एक सरल नियम पर चलता था: यदि आप एक नया कमरा जोड़ना चाहते हैं या टूटी हुई खिड़की को ठीक करना चाहते हैं, तो आपको वह काम स्वयं करना होगा, और शहर के स्वयंसेवक निरीक्षक (जिन्हें "मेंटेनर्स" कहा जाता है) आपके ब्लूप्रिंट की जाँच करते हैं ताकि यह सुनिश्चित हो सके कि वे सुरक्षित हैं। लेकिन हाल ही में, एक प्रकार का नया निर्माण दल आया है: जनरेटिव एआई (Generative AI)। इन जादुई रोबोटों के बारे में सोचें जो सेकंडों में पूरे ब्लूप्रिंट तैयार कर सकते हैं। हालाँकि यह एक सपने जैसा लगता है, लेकिन इसने एक तरह का ट्रैफिक जाम पैदा कर दिया है। रोबोट इतने तेज़ हैं कि वे हर दिन हजारों नए ब्लूप्रिंट के साथ शहर को भर रहे हैं, जिससे मानव निरीक्षक अभिभूत हो रहे हैं। कुछ रोबोट-निर्मित योजनाएं शानदार हैं, लेकिन कुछ "एआई स्लॉप" (AI slop) हैं—अव्यवस्थित, निम्न-गुणवत्ता वाले ड्राफ्ट जो पहली नज़र में ठीक लग सकते हैं लेकिन जब आप उनके साथ निर्माण करने की कोशिश करते हैं तो बिखर जाते हैं। शहर के लिए बड़ा सवाल अब यह नहीं है कि "क्या हम निर्माण कर सकते हैं?" बल्कि यह है कि "हम रोबतों को मदद करने कैसे दें बिना निर्माण स्थल पर उन्हें पूरी तरह हावी होने दिए?"
यह शोध पत्र इसी सटीक प्रश्न की जांच करता है, जिसमें GitHub के 1,000 सबसे लोकप्रिय सॉफ्टवेयर प्रोजेक्ट्स के "नियमों" (योगदान दिशानिर्देशों) को देखा गया है। शोधकर्ता यह देखना चाहते थे कि ये प्रोजेक्ट्स रोबोट कार्यबल के प्रति कैसे अनुकूलित हो रहे हैं। उन्होंने पाया कि अधिकांश प्रोजेक्ट्स रोबोटों को प्रतिबंधित नहीं कर रहे हैं; इसके बजाय, वे एक "ह्यूमन-इन-द-लूप" (Human-in-the-Loop) प्रणाली स्थापित करने की कोशिश कर रहे हैं। एक निर्माण स्थल की कल्पना करें जहाँ रोबोट कंक्रीट मिला सकता है और ईंटें बिछा सकता है, लेकिन एक मानव फोरमैन को वहीं खड़ा होना चाहिए, अपने हाथ में कन्नी (trowel) होनी चाहिए, हर कदम को समझना चाहिए, और काम का हिस्सा बनने से पहले उस पर मुहर लगानी चाहिए। अध्ययन ने 118 विशिष्ट नियमपुस्तिकाओं का विश्लेषण किया जिनमें एआई का उल्लेख है और एक स्पष्ट पैटर्न की खोज की: जबकि 78% प्रोजेक्ट्स कहते हैं "हाँ, आप एआई का उपयोग कर सकते हैं," वे लगभग हमेशा दो चीजें मांगते हैं। पहला, आपको अपना हाथ उठाना होगा और कहना होगा, "मैंने इसके लिए एक रोबोट का उपयोग किया था" (प्रकटीकरण/Disclosure)। दूसरा, आपको यह साबित करना होगा कि आप, मानव, वास्तव में समझते हैं कि रोबोट ने क्या बनाया है (ह्यूमन इन द लूप)।
शोधकर्ताओं ने पाया कि 51% प्रोजेक्ट्स स्पष्ट रूप से यह आवश्यकता रखते हैं कि जब आपने एआई का उपयोग किया हो तो आप उसका खुलासा करें, इसे भोजन के पैकेज पर सुरक्षा लेबल की तरह मानते हैं। वे चाहते हैं कि निरीक्षकों को पता हो, "हे, इस हिस्से को एआई द्वारा तैयार किया गया था, इसलिए कृपया इसकी दोबारा जाँच करें।" दूसरा 27% एआई की अनुमति देता है लेकिन उसका स्पष्ट रूप से समर्थन नहीं करता है, जबकि एक छोटा समूह (22%) कहता है, "रोबोट की अनुमति नहीं है; हमें 100% मानव-निर्मित कोड चाहिए।" हालाँकि, सबसे उल्लेखनीय निष्कर्ष यह है कि 74% प्रोजेक्ट्स मानव को "लूप में" रहने के लिए जोर देते हैं। इसका अर्थ है कि भले ही एक रोबोट कोड लिखे, एक मानव को उसे पढ़ना होगा, समझना होगा और उसकी पूरी जिम्मेदारी लेनी होगी। शोध पत्र सुझाव देता है कि इस मानवीय निगरानी के बिना, शहर "एआई स्लॉप" से भर जाने का जोखिम उठाता है—निम्न-गुणवत्ता वाला कोड जो सभी का समय बर्बाद करता है।
दिलचस्प बात यह है कि शोध पत्र नोट करता है कि हालांकि कई प्रोजेक्ट्स के पास ये नियम हैं, लेकिन निर्देश कभी-कभी थोड़े अस्पष्ट हो सकते हैं। कुछ नियमपुस्तिकाएं कहती हैं "यदि एआई ने एक महत्वपूर्ण मात्रा में काम किया है तो खुलासा करें," लेकिन वे हमेशा यह परिभाषित नहीं करती हैं कि "महत्वपूर्ण" का अर्थ क्या है। यह एक शिक्षक की तरह है जो कहता है, "मुझे बताएं कि क्या आपने कैलकुलेटर का उपयोग किया है," लेकिन यह नहीं बताता कि इसका मतलब एक गणित के सवाल के लिए है या पूरी परीक्षा के लिए। लेखक सुझाव देते हैं कि भ्रम से बचने के लिए प्रोजेक्ट्स को अधिक सटीक होने की आवश्यकता है। वे यह भी चेतावनी देते हैं कि जबकि कुछ प्रोजेक्ट्स कम-गुणवत्ता वाले एआई सबमिशन को स्वचालित रूप से बंद करके ब्लॉक करने की कोशिश कर रहे हैं, यह अनजाने में उन वास्तविक मानव योगदानकर्ताओं को परेशान कर सकता है जो संयोग से एआई टूल्स का उपयोग कर रहे हैं। अंततः, शोध पत्र निष्कर्ष निकालता है कि ओपन सोर्स का भविष्य इंसानों और रोबोटों के बीच चुनाव करने के बारे में नहीं है, बल्कि यह सुनिश्चित करने के बारे में है कि इंसान मजबूती से ड्राइवर की सीट में बना रहे, रोबोट को एक शक्तिशाली उपकरण के रूप में उपयोग करे न कि उसे कार चलाने देने दे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।