Versioned Governance for Frontier AI: A Software-Engineering-Inspired Approach
यह शोध पत्र एआई गवर्नेंस के लिए सॉफ्टवेयर-इंजीनियरिंग से प्रेरित एक ऐसे ढांचे का प्रस्ताव करता है जो पारदर्शी, ऑडिट योग्य और नियामक रूप से स्वीकृत नीति विकास को सुनिश्चित करने के लिए सूक्ष्म वर्शनिंग (granular versioning), वर्गीकृत परिवर्तन लॉग (classified change logs) और स्पष्ट रोलबैक तंत्र (explicit rollback mechanisms) की वकालत करते हुए मानदंडात्मक नीतियों के "साइलेंट ड्रिफ्ट" (silent drift) को संबोधित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ शक्तिशाली कृत्रिम बुद्धिमत्ता (AI) प्रणालियों को नियंत्रित करने वाले नियम सार्वजनिक दस्तावेजों में लिखे गए हों, ठीक वैसे ही जैसे किसी वेबसाइट के उपयोग की शर्तें या किसी कारखाने का सुरक्षा मैनुअल होता है। ये दस्तावेज़ हमें बताते हैं कि AI को क्या करने की अनुमति है, उसे क्या करने से मना करना चाहिए, और उसके निर्माता उसे सुरक्षित रखने के लिए क्या वादा करते हैं। उन लोगों के लिए जो इन प्रणालियों का निर्माण करते हैं, नियम स्थिर नहीं होते; जैसे-जैसे तकनीक विकसित होती है, वे लगातार बदलते रहते हैं। एक नियम जो आज सुरक्षित लग रहा था, उसे कल सख्त करने की आवश्यकता हो सकती है, या एक नई क्षमता के लिए एक नई अनुमति की आवश्यकता हो सकती है। समस्या तब उत्पन्न होती है जब ये परिवर्तन बिना किसी स्पष्ट, सार्वजनिक रिकॉर्ड के होते हैं कि क्या बदला गया, क्यों बदला गया, और परिवर्तन करने का अधिकार किसके पास था। स्पष्ट इतिहास की इस कमी से एक ऐसी स्थिति पैदा होती है जहाँ नियम समय के साथ चुपचाप बदलते रहते हैं। एक बाहरी व्यक्ति, जैसे कि एक पत्रकार, एक न्यायाधीश, या वह कंपनी जो इस तकनीक का उपयोग करने की कोशिश कर रही है, यह नहीं बता सकता कि दस्तावेज़ में एक वाक्य केवल बेहतर व्याकरण के लिए सुधारा गया था या इसने मौलिक रूप से उन सीमाओं को बदल दिया है जो AI को क्या करने की अनुमति है।
यह चुप्पी खतरनाक है क्योंकि यह उस विश्वास को तोड़ती है जो इन प्रणालियों पर भरोसा करने के लिए समाज की आवश्यकता है। यदि किसी अदालत को पिछले वर्ष हुई किसी घटना का निर्णय करना है, तो उन्हें यह जानने की आवश्यकता है कि उस समय नियम वास्तव में क्या थे, न कि वे नियम जो आज मौजूद हैं। यदि किसी कंपनी ने छह महीने पहले की नीति के आधार पर अपनी सुरक्षा प्रमाणित की थी, तो उन्हें यह जानने की आवश्यकता है कि क्या उस नीति का अर्थ अभी भी वही है। वर्तमान में, इन दस्तावेजों को अपडेट करने का तरीका अक्सर यह स्पष्टता प्रदान करने में विफल रहता है। परिवर्तन वास्तविक हैं, लेकिन उनका रिकॉर्ड गायब या भ्रमित करने वाला है। यह उन लोगों को सोचने पर मजबूर कर देता है जो प्रयोगशाला के बाहर हैं कि उस तकनीक की वास्तविक प्रकृति क्या है जिसे वे उपयोग या विनियमित कर रहे हैं।
झिक्सिन ज़्यू (Zhixin Xue) नामक एक शोधकर्ता ने इस समस्या का परीक्षण किया है और सॉफ्टवेयर इंजीनियरों द्वारा कोड प्रबंधित करने के तरीके से प्रेरित एक समाधान प्रस्तावित किया है। कंप्यूटर प्रोग्रामिंग की दुनिया में, जब डेवलपर्स एक प्रोग्राम को अपडेट करते हैं, तो वे प्रत्येक परिवर्तन को ट्रैक करने के लिए एक सख्त प्रणाली का उपयोग करते हैं। वे वर्ज़न नंबर (version numbers) असाइन करते हैं जो उपयोगकर्ताओं को बताते हैं कि परिवर्तन कितना महत्वपूर्ण है: एक मेजर (major) नंबर परिवर्तन एक बड़ा, संभावित रूप से असंगत अपडेट है; एक माइनर (minor) नंबर परिवर्तन एक नई सुविधा है जो पुराने सिस्टम के साथ काम करती है; और एक पैच (patch) नंबर एक छोटा सुधार है। वे विस्तृत लॉग भी रखते हैं जो बताते हैं कि क्या बदला गया और क्यों। ज़्यू का तर्क है कि कृत्रिम बुद्धिमत्ता को नियंत्रित करने वाले दस्तावेजों के साथ भी इसी स्तर के अनुशासन के साथ व्यवहार किया जाना चाहिए। केवल संदर्भ के बिना एक नीति का नया संस्करण पोस्ट करने के बजाय, प्रयोगशालाओं को एक संरचित प्रणाली का उपयोग करना चाहिए जो प्रत्येक परिवर्तन को वर्गीकृत करे, उसके कारण की व्याख्या करे, और एक स्थायी, अपरिवर्तनीय इतिहास रखे।
यह परीक्षण करने के लिए कि क्या इस दृष्टिकोण की आवश्यकता है और यह कैसे काम कर सकता है, ज़्यू ने 2019 और 2025 के बीच फ्रंटियर एआई प्रणालियों को नियंत्रित करने वाले पांच प्रमुख नियमों के सेटों का अध्ययन किया। इसमें OpenAI के उपयोग की नीतियां और मॉडल विनिर्देश, एंथ्रोपिक (Anthropic) की रिस्पॉन्सिबल स्केलिंग पॉलिसी, यूरोपीय संघ का आर्टिफिशियल इंटेलिजेंस एक्ट, और अमेरिकी राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) के रिस्क मैनेजमेंट फ्रेमवर्क शामिल थे। शोधकर्ता ने यह देखने के लिए इन दस्तावेजों का विश्लेषण किया कि वे समय के साथ कैसे संशोधित किए गए, जिसमें इस तरह के अनुशासित ट्रैकिंग के संकेत तलाशे गए। अध्ययन में पाया गया कि हालांकि इनमें से कुछ दस्तावेजों ने वर्ज़न नंबर और परिवर्तनों की दिनांकित सूचियों का उपयोग करना शुरू कर दिया है, लेकिन वे इस प्रणाली के सबसे महत्वपूर्ण हिस्सों को खो रहे हैं। विशेष रूप से, दस्तावेज़ शायद ही कभी यह बताते हैं कि क्या कोई परिवर्तन नियमों में एक बड़ा बदलाव है या केवल एक छोटा स्पष्टीकरण है। उनमें यह भी स्पष्ट तंत्र की कमी है कि यदि कोई गलती हो जाए तो परिवर्तन को वापस कैसे लिया जाए।
विश्लेषण ने एक पैटर्न का खुलासा किया जिसे लेखक "साइलेंट ड्रिफ्ट" (silent drift) कहते हैं। अध्ययन किए गए वास्तविक दुनिया के उदाहरणों में, नियमों में सबसे महत्वपूर्ण परिवर्तन अक्सर अचानक, बाहरी घटनाओं के जवाब में हुए, जैसे कि एक नए, अधिक शक्तिशाली एआई मॉडल की सार्वजनिक रिलीज़। हालाँकि, इन परिवर्तनों का दस्तावेजीकरण इस गति से नहीं हुआ। जो परिवर्तन सूचियाँ मौजूद थीं, वे अक्सर साधारण भाषा में लिखे गए सारांश थे, जो यह वर्णन करते थे कि क्या हुआ लेकिन परिवर्तन के महत्व को वर्गीकृत नहीं करते थे। यह पाठक को यह अनुमान लगाने के लिए मजबूर करता है कि परिवर्तन मामूली है या बड़ा। इसके अलावा, अध्ययन किए गए पांच उपकरणों में से किसी में भी नीति परिवर्तन को वापस लेने का औपचारिक तरीका शामिल नहीं था यदि उससे समस्याएँ उत्पन्न होती हैं। जबकि सरकारों और अंतर्राष्ट्रीय निकायों के कानून और मानक निजी कंपनियों की तुलना में अपने वर्जनों को ट्रैक करने में बेहतर थे, वे फिर भी अनुकूलन में धीमे थे और परिवर्तनों को उलटने के विशिष्ट तंत्रों की कमी थी।
पेपर सुझाव देता है कि समाधान पूरी तरह से नए कानून या संस्थाएं बनाना नहीं है, बल्कि एक विशिष्ट, हल्के ढांचे (framework) को अपनाना है जिसका उपयोग कोई भी प्रयोगशाला तुरंत कर सके। इस ढांचे के लिए यह आवश्यक होगा कि जब भी किसी नीति दस्तावेज़ को अपडेट किया जाए, तो लेखक को चार-स्तरीय प्रणाली का उपयोग करके परिवर्तन के प्रकार की घोषणा करनी होगी: मेजर (major), माइनर (minor), पैच (patch), या बिल्ड (build)। एक मेजर परिवर्तन वह होगा जो क्या अनुमति है या क्या प्रतिबंधित है इसकी मौलिक सीमाओं को बदल देता है। एक माइनर परिवर्तन मूल सिद्धांतों को बदले बिना नए परिदृश्य या प्रक्रियाएं जोड़ता है। एक पैच एक स्पष्टीकरण या सुधार है जो अर्थ को नहीं बदलता है। एक बिल्ड एक ऐसा वर्ज़न है जिसे किसी विशिष्ट क्षेत्र या समूह के लिए अनुकूलित किया गया है। इस वर्गीकरण के साथ, अपडेट में परिवर्तन की व्याख्या करने वाला एक विस्तृत लॉग और यदि आवश्यक हो तो इसे वापस लेने की एक योजना होनी चाहिए।
महत्वपूर्ण रूप से, पेपर का तर्क है कि प्रणाली को परिवर्तन को गलत वर्गीकृत करने के कार्य को एक रिकॉर्ड योग्य घटना के रूप में मानना चाहिए। यदि कोई लैब दावा करती है कि परिवर्तन केवल एक छोटा पैच है, लेकिन एक ऑडिटर या नियामक बाद में यह निर्धारित करता है कि यह वास्तव में नियमों में एक बड़ा बदलाव था, तो इस गलती को सार्वजनिक रूप से लॉग किया जाना चाहिए। यह परिवर्तनों की वास्तविक प्रकृति को छिपाने के लिए एक प्रतिष्ठा संबंधी लागत (reputation cost) बनाता है। अध्ययन नोट करता है कि हालांकि सॉफ्टवेयर इंजीनियर कभी-कभी इन सख्त वर्जनिंग नियमों का पूरी तरह से पालन करने में विफल रहते हैं, लेकिन अनुशासन तब सबसे अच्छा काम करता है जब गलत होने पर परिणाम भुगतने पड़ें। परिवर्तनों के वर्गीकरण को एक सार्वजनिक, ऑडिट योग्य दावे के रूप में बनाकर, यह ढांचा "साइलेंट ड्रिफ्ट" को दृश्यमान और जवाबदेह बनाने का लक्ष्य रखता है।
निष्कर्ष बताते हैं कि इस समस्या को हल करने के उपकरण सॉफ्टवेयर उद्योग में पहले से ही मौजूद हैं, लेकिन उन्हें एआई को नियंत्रित करने वाले दस्तावेजों पर पूरी तरह से लागू नहीं किया गया है। अंतर तकनीकी क्षमता की कमी नहीं है, बल्कि प्रोत्साहन और अनुशासन की कमी है। शोध निष्कर्ष निकालता है कि जैसे-जैसे एआई सिस्टम अधिक शक्तिशाली होते जा रहे हैं और उनके नियम अधिक बार बदल रहे हैं, उन नियमों का एक स्पष्ट, वर्ज़न वाला इतिहास होना आवश्यक हो जाता है। इसके बिना, इन शक्तिशाली प्रणालियों को नियंत्रित करने वाले नियम अपारदर्शी और अविश्वसनीय बने रहते हैं। एक संरचित दृष्टिकोण के साथ, परिवर्तन पारदर्शी बनाए जा सकते हैं, जिससे नियामक, अदालतें और जनता यह समझ सकें कि नियम वास्तव में कैसे विकसित हुए हैं और रचनाकारों को उनके द्वारा लिए गए निर्णयों के लिए जवाबदेह ठहराया जा सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।