Making Agent-Mediated Contributions Governable: A Project-Level Governance Manifest for Open-Source AI Collaboration
यह शोध पत्र 'एजेंट गवर्नेंस मेनिफेस्ट' (AGM) को पेश करते हुए ओपन-सोर्स सॉफ़्टवेयर में एआई-जनित योगदानों से उत्पन्न होने वाली शासन संबंधी चुनौतियों को संबोधित करता है, जो एक रिपॉजिटरी-होस्टेड फ्रेमवर्क है जो योगदानकर्ता-पक्ष की साक्ष्य तैयारी और रखरखावकर्ता-पक्ष के सत्यापन के बीच एक संरचित अनुबंध के माध्यम से रखरखावकर्ता के अधिकार को सुरक्षित रखते हुए जोखिम मूल्यांकन सटीकता और समीक्षा सहायता में महत्वपूर्ण सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, निरंतर बढ़ते शहर की तरह है जिसे पूरी तरह से स्वयंसेवकों द्वारा बनाया गया है। इस शहर में, "इमारतें" सॉफ्टवेयर प्रोग्राम हैं, और "ब्लूप्रिंट" (नक्शे) ओपन-सोर्स कोड हैं जिन्हें कोई भी पढ़ सकता है, सुधार सकता है या बेहतर बना सकता है। दशकों से, यह शहर एक सरल नियम पर चल रहा है: यदि आप किसी इमारत को बदलना चाहते हैं, तो आप अपनी योजनाएं शहर के वास्तुकारों (जिन्हें "मेंटेनर्स" कहा जाता है) को सौंपते हैं, जो यह जांचते हैं कि वे सुरक्षित हैं या नहीं और कहीं उनसे पूरा ब्लॉक ही ढह न जाए। लेकिन अब, एक नए प्रकार का कार्यकर्ता आया है: एआई कोडिंग एजेंट। इन एजेंटों को सुपर-फास्ट, अथक रोबोट के रूप में सोचें जो ब्लूप्रिंट तैयार कर सकते हैं, निर्माण नियमावली लिख सकते हैं, और सेकंडों में लीकेज (रिसाव) भी ठीक कर सकते हैं। समस्या यह है कि ये रोबोट इतनी तेज़ी से निर्माण कर सकते हैं कि मानव वास्तुकार उनके काम की जांच करने के लिए पीछे छूट जाते हैं। यह ऐसा है जैसे एक फैक्ट्री एक मिनट में 1,000 घरों के नक्शे बनाती है, लेकिन आपके पास केवल एक निरीक्षक है जो एक घंटे में केवल एक नक्शा जांच सकता है। यदि रोबोट कोई गलती करते हैं, तो पूरे शहर के लिए खतरा हो सकता है। यही वह बड़ा सवाल है जिसे यह शोध पत्र हल करता है: हम यह कैसे सुनिश्चित करें कि ये रोबोट द्वारा बनाए गए नक्शे सुरक्षित, जवाबदेह और मानव वास्तुकारों द्वारा अनुमोदन के लिए तैयार हों, बिना रोबोटों की गति को धीमा किए या मनुष्यों को थकाए?
इस अध्ययन के पीछे के शोधकर्ताओं, जिंजिन गाओ और उनकी टीम ने जांच करने का निर्णय लिया कि ओपन-सोर्स प्रोजेक्ट्स वर्तमान में इस रोबोट क्रांति को कैसे संभाल रहे हैं। उन्होंने GitHub (कोड के लिए एक विशाल ऑनलाइन लाइब्रेरी) पर 50 लोकप्रिय सॉफ्टवेयर प्रोजेक्ट्स का अध्ययन किया ताकि यह देखा जा सके कि क्या "शहर के नियम" एआई श्रमिकों के लिए तैयार हैं। उन्होंने पाया कि हालांकि अधिकांश प्रोजेक्ट्स के पास मनुष्यों के लिए अच्छे नियम हैं और यहाँ तक कि रोबोटों के लिए ब्लूप्रिंट को कैसे पढ़ना है, इसके कुछ निर्देश भी हैं, लेकिन उनमें उन नियमों की पूरी तरह से कमी है कि एक इंसान द्वारा साइन-ऑफ करने से पहले रोबोटों को क्या साबित करना चाहिए। यह एक ऐसी फैक्ट्री की तरह है जिसमें मशीनों का उपयोग करने के निर्देश तो हैं, लेकिन उत्पाद को उत्पादन लाइन से बाहर भेजने से पहले सुरक्षा निरीक्षण के लिए कोई चेकलिस्ट नहीं है।
इसे ठीक करने के लिए, टीम ने एक नया टूल बनाया जिसे एजेंट गवर्नेंस मेनिफेस्ट (AGM) कहा जाता है। AGM को एक स्मार्ट, डिजिटल "सुरक्षा पासपोर्ट" के रूप में समझें जिसे प्रत्येक रोबोट-जनित योजना को साथ लेकर चलना चाहिए। केवल कोड का ढेर सौंपने के बजाय, रोबोट (मानव के मार्गदर्शन में) को इस पासपोर्ट को भरना होगा। पासपोर्ट कहता है: "यहाँ हमने क्या बदला है, यहाँ जोखिम का स्तर (कम, मध्यम या उच्च) है, यहाँ इसका प्रमाण है कि हमने इसका परीक्षण किया है, और यहाँ एक मानव हस्ताक्षर है जो कहता है, 'मैंने इसकी जाँच की है, और मैं इसकी जिम्मेदारी लेता हूँ।'"
टीम ने इस विचार का परीक्षण एक नियंत्रित प्रयोग में किया। उन्होंने 15 लोगों को शहर के वास्तुकार के रूप में कार्य करने और 75 अलग-अलग "निर्माण योजनाओं" की समीक्षा करने के लिए कहा। आधे प्लान सामान्य अव्यवस्थित कोड थे ("साधारण" तरीका), और अन्य आधे नए AGM सुरक्षा पासपोर्ट के साथ आए थे। परिणाम स्पष्ट थे: जब वास्तुकारों के पास AGM पासपोर्ट था, तो वे 97.4% मामलों में (38 में से 37 बार) परिवर्तनों के जोखिम स्तर को सही ढंग से पहचानने में सक्षम थे। पासपोर्ट के बिना, वे केवल 40.5% बार (37 में से 15 बार) इसे सही कर पाए। शोधकर्ताओं ने यह भी पाया कि लोग AGM सिस्टम द्वारा बहुत अधिक समर्थित महसूस कर रहे थे, जिसने पुराने तरीके के 3.27 के मुकाबले 7 में से 6.14 की रेटिंग दी।
दूसरी ओर, उन्होंने परीक्षण किया कि क्या रोबोट और उनके मानव साथी वास्तव में ये पासपोर्ट बना सकते हैं। उन्होंने 15 अलग-अलग मानव-रोबोट जोड़ों को 45 कार्य पूरे करने के लिए दिए। परिणाम क्या रहा? प्रत्येक अंतिम पैकेज ने मुख्य सुरक्षा नियमों का सही प्रतिनिधित्व किया, और 45 में से 41 कड़े संरचनात्मक परीक्षणों में पास हुए। मनुष्य काम की पुष्टि करने में सक्षम थे, और रोबोटों ने साक्ष्य जुटाने का भारी काम किया, बिना रोबोटों के अंतिम निर्णय लेने की शक्ति पर कब्जा किए।
यह शोध पत्र तर्क देता है कि हमें एआई को प्रतिबंधित करने या रोबोटों से सब कुछ करवाने की आवश्यकता नहीं है। इसके बजाय, हमें एक "गवर्नेंस इंफ्रास्ट्रक्चर" (शासन संरचना) की आवश्यकता है जो रोबोट की गति और मानव के निर्णय के बीच स्थित हो। AGM एक पुल की तरह कार्य करता है: यह रोबोट को अपने काम को एक स्पष्ट, साक्ष्य-आधारित प्रारूप में व्यवस्थित करने के लिए मजबूर करता है जिसे मानव जल्दी से सत्यापित कर सके। यह इंसान को अंतिम "हाँ" या "ना" के लिए ड्राइवर की सीट में रखता है, जबकि रोबोट को सबूत जुटाने का व्यस्त काम संभालने देता है।
संक्षेप में, अध्ययन बताता है कि रोबोटों को भरने के लिए एक संरचित "सुरक्षा पासपोर्ट" देकर, हम ओपन-सोर्स शहर को सुरक्षित और तेज़ रख सकते। यह रोबोटों को रोकने के बारे में नहीं है; यह यह सुनिश्चित करने के बारे में है कि उन्हें पता हो कि निर्माण दल द्वारा निर्माण शुरू करने से पहले उन्हें मानव वास्तुकारों को क्या दिखाना है। शोधकर्ताओं ने पाया कि यह दृष्टिकोण नियंत्रित परीक्षणों में अच्छी तरह काम करता है, जिससे मनुष्यों के लिए जोखिमों को पहचानना और सुरक्षा को सत्यापित करना बहुत आसान हो जाता है, लेकिन वे यह भी नोट करते हैं कि यह वास्तविक दुनिया में समय के साथ कैसा प्रदर्शन करता है, यह देखने के लिए लाइव समुदायों में वास्तविक परीक्षण अभी भी आवश्यक है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।