Standards for trustworthy AI in the European Union: technical rationale, structural challenges, and an implementation path
यह श्वेत पत्र AI अधिनियम के तहत यूरोपीय संघ (EU) के AI मानकीकरण के लिए एक स्तरित, जीवनचक्र-उन्मुख ढांचे की रूपरेखा प्रस्तुत करता है, जिसमें यह तर्क दिया गया है कि स्टोकेस्टिक व्यवहार और डेटा निर्भरता जैसी अनूठी तकनीकी चुनौतियों के बावजूद, कानूनी आवश्यकताओं को ऑडिट योग्य इंजीनियरिंग प्रथाओं में अनुवाद करने और स्केलेबल अनुरूपता मूल्यांकन को सक्षम करने के लिए क्षैतिज प्रक्रिया दायित्वों को क्षेत्रीय प्रोफाइलों के साथ संयोजित करने वाले सामंजस्यपूर्ण मानक आवश्यक हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य तस्वीर: नियमों को रेसिपी में बदलना
कल्पना कीजिए कि यूरोपीय संघ (EU) ने AI एक्ट नामक एक सख्त कानून पारित किया है। यह कानून कहता है, "AI सुरक्षित, निष्पक्ष और भरोसेमंद होना चाहिए।" लेकिन कानून व्यापक निर्देशों की तरह होते हैं: "सुरक्षित रूप से गाड़ी चलाएं।" वे आपको यह नहीं बताते कि सुरक्षित रूप से कैसे गाड़ी चलानी है (जैसे, "सामने वाली कार से दो कारों की दूरी बनाए रखें")।
यह पेपर तर्क देता है कि तकनीकी मानक (technical standards) वे गायब "ड्राइविंग मैनुअल" हैं। वे अस्पष्ट कानूनी नियम ("सुरक्षित रहें") को एक विशिष्ट, जांच योग्य रेसिपी ("हर 5,000 मील पर ब्रेक का परीक्षण करें") में बदल देते हैं।
यदि कोई AI कंपनी इन विशिष्ट रेसिपी (मानकों) का पालन करती है, तो EU उन्हें "अनुपालन का अनुमान" (Presumption of Conformity) देता है। इसे एक "स्वर्ण मोहर" (Golden Seal of Approval) की तरह समझें। कंपनी को न्यायाधीश को यह साबित करने की आवश्यकता नहीं है कि, "मेरा विश्वास करें, मेरी कार सुरक्षित है," वे बस कह सकते हैं, "मैंने आधिकारिक रेसिपी का पालन किया है, और रेसिपी कहती है कि मेरी कार सुरक्षित है।" यहाँ प्रमाण का भार कंपनी से हटकर स्वयं मानक पर आ जाता है।
समस्या: AI एक "बदलने वाला" घटक है
पेपर बताता है कि AI के लिए ये रेसिपी लिखना बहुत कठिन क्यों है, एक टोस्टर या कार की तुलना में बहुत अधिक कठिन।
AI स्टोकेस्टिक (Stochastic) है (यह एक सिक्के के उछाल जैसा है):
- उपमा: कल्पना कीजिए कि आप केक बना रहे हैं। यदि आप समान सामग्री के साथ बिल्कुल उसी रेसिपी का पालन करते हैं, तो आपको वही केक मिलता है। लेकिन AI एक जादुई करतब की तरह है। भले ही आप बिल्कुल समान सामग्री और निर्देश उपयोग करें, फिर भी "केक" (आउटपुट) हर बार थोड़ा अलग दिख सकता है।
- चुनौती: आप ऐसा नियम कैसे लिख सकते हैं जो कहे कि "केक एकदम सही होना चाहिए" जब केक स्वाभाविक रूप से हर बार थोड़ा बदल जाता है? पेपर सुझाव देता है कि हम "परफेक्ट कॉपी" की तलाश करना बंद कर दें और "स्थिरता" (stability) को मापना शुरू करें। हमें इस पर सहमत होने की आवश्यकता है कि केक को असुरक्षित माने जाने से पहले कितना बदलने की अनुमति है।
डेटा एक रहस्यमयी बॉक्स है:
- उपमा: AI एक छात्र की तरह है जो परीक्षा के लिए पढ़ाई कर रहा है। यदि छात्र किसी ऐसे व्यक्ति द्वारा लिखे गए पाठ्यपुस्तक (थर्ड-पार्टी डेटा) से पढ़ता है जिसमें पन्ने गायब हैं या गलत तथ्य हैं, तो छात्र असफल हो जाएगा।
- चुनौती: AI कंपनियां अक्सर उस डेटा की मालिक नहीं होती हैं जिससे उनका AI सीखता है। पेपर कहता है कि हम उनसे डेटा के सागर के हर एक कण पर नियंत्रण की मांग नहीं कर सकते। इसके बजाय, हमें एक जोखिम-आधारित दृष्टिकोण की आवश्यकता है: यदि AI कुछ खतरनाक काम कर रहा है (जैसे बीमारी का निदान करना), तो हमें पता होना चाहिए कि डेटा वास्तव में कहाँ से आया। यदि यह कम जोखिम वाला काम कर रहा है (जैसे फिल्म का सुझाव देना), तो हम अधिक उदार हो सकते हैं।
"चलते लक्ष्य" (Moving Target) की समस्या:
- उपमा: एक कार एक बार बनाई जाती है और बेची जाती है। AI एक वीडियो गेम कैरेक्टर की तरह है जिसे हर हफ्ते नए कौशल और नई कमजोरियों के साथ अपडेट किया जाता है।
- चुनौती: आप केवल लॉन्च के समय एक बार AI का परीक्षण नहीं कर सकते। जैसे-जैसे यह सीखता और बदलता है, इसे लगातार परीक्षण की आवश्यकता होती है। पेपर सुझाव देता है कि हमें निरंतर लॉगिंग (continuous logging) (एक फ्लाइट रिकॉर्डर की तरह) की आवश्यकता है ताकि हम देख सकें कि AI वास्तविक समय में क्या कर रहा है, न कि केवल उसके जन्म के दिन की रिपोर्ट।
समाधान: "लेयर केक" (Layer Cake) दृष्टिकोण
पेपर का तर्क है कि हम एक ऐसा एकल नियम पुस्तिका नहीं लिख सकते जो हर AI पर फिट बैठे। एक कॉफी शॉप के चैटबॉट की ज़रूरतें एक ऐसे AI से अलग होती हैं जो परमाणु संयंत्र (nuclear plant) को नियंत्रित करता है।
- निचली परत (Horizontal Standards): यह कंकाल (skeleton) है। यह सभी AI पर लागू होता है। यह कहता है जैसे: "आपके पास जोखिम प्रबंधन योजना होनी चाहिए," "आपको लॉग रखने चाहिए," और "आपको अपने डेटा का दस्तावेजीकरण करना चाहिए।" यह वह सामान्य भाषा है जिसे हर कोई बोलता है।
- ऊपरी परत (Sectoral Profiles): यह मांस (flesh) है। यह विशिष्ट नौकरियों के लिए विशिष्ट नियम जोड़ता है।
- उदाहरण: "कंकाल" कहता है "त्रुटियों के लिए परीक्षण करें।" "मेडिकल प्रोफाइल" कहता है "हृदय शल्य चिकित्सा (heart surgery) AI के लिए, त्रुटियां 0.1% से कम होनी चाहिए।" "एंटरटेनमेंट प्रोफाइल" कहता है "मूवी रिकमेंडर के लिए, 5% तक की त्रुटियां ठीक हैं।"
यह क्यों मायने रखता है: यदि हमने हर किसी के लिए एक नियम लिखने की कोशिश की, तो यह या तो इतना अस्पष्ट होगा कि उपयोगी न रहे या सरल ऐप्स के लिए बहुत सख्त होगा। परतों को एक के ऊपर एक रखकर, हमें एक सामान्य आधार मिलता है जिसमें विशिष्ट खतरों के लिए विशिष्ट नियम होते हैं।
यह वास्तव में कैसे काम करता है: "अश्योरेंस केस" (Assurance Case)
पेपर कंपनियों के लिए यह साबित करने का एक नया तरीका प्रस्तावित करता है कि वे सुरक्षित हैं। केवल यह कहने के बजाय कि "हम सुरक्षित हैं," उन्हें एक अश्योरेंस केस (Assurance Case) बनाना होगा।
- उपमा: इसे एक जासूस की केस फाइल की तरह समझें।
- दावा (Claim): "यह AI सुरक्षित है।"
- प्रमाण (Evidence): दस्तावेजों का एक ढेर। "यहाँ वह परीक्षण है जहाँ हमने AI को धोखा देने की कोशिश की थी, और यहाँ वह लॉग है जो दिखाता है कि यह टूटा नहीं। यहाँ वह डेटा है जिसका हमने उपयोग किया था, और यहाँ वह योजना है कि यदि यह अजीब व्यवहार करने लगे तो हम क्या करेंगे।"
- निरीक्षक (Inspector): एक तृतीय-पक्ष ऑडिटर केस फाइल की जांच करता है। उन्हें अनुमान लगाने की आवश्यकता नहीं है; उन्हें बस यह देखना है कि क्या सबूत "रेसिपी" (मानक) से मेल खाते हैं।
निचोड़
पेपर निष्कर्ष निकालता है कि हालांकि AI अव्यवस्थित, अप्रत्याशित और पकड़ में न आने वाला है, फिर भी हमें इन तकनीकी मानकों की आवश्यकता है। इनके बिना, कानून केवल एक नारा है।
- मानकों के बिना: हर कंपनी सुरक्षा सिद्ध करने का अपना तरीका आविष्कार करती है। यह अराजक, महंगा और तुलना करने में असंभव है।
- मानकों के साथ: हर कोई एक ही मापने वाले टेप का उपयोग करता है। कंपनियां नियमों का पालन करने के लिए "गुणवत्ता प्रणाली" बनाती हैं। ऑडिटर "केस फाइलों" की जांच करते हैं। अधिकारी स्पष्ट लॉग के आधार पर कानून को लागू कर सकते हैं।
यह गारंटी नहीं दे सकता कि AI पूर्ण (perfect) होगा (क्योंकि AI जटिल है), लेकिन यह एक ऐसी प्रणाली बनाता है जहाँ AI का व्यवहार शासन योग्य (governable) और जवाबदेह (accountable) होता है। इस संदर्भ में "भरोसेमंद" होने की वास्तविक परिभाषा यही है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।