SCITUS: A Multi-Jurisdictional Framework for Adapting NIST AI RMF to the Canadian Regulatory Context
यह शोध पत्र SCITUS को प्रस्तुत करता है, जो एक व्यापक ढांचा है जो उन्नत विश्वसनीय-एआई (trustworthy-AI) विशेषताओं, एक बहु-क्षेत्राधिकार अनुपालन मैपिंग पद्धति और एक विकसित होते नियंत्रण सूची (control catalog) को एकीकृत करके, कनाडा के खंडित संघीय और प्रांतीय नियामक परिदृश्य के अनुरूप NIST एआई जोखिम प्रबंधन ढांचे को व्यवस्थित रूप से अनुकूलित करता है, ताकि सर्वव्यापी (omnibus) एआई कानून की अनुपस्थिति में संगठनों को एकीकृत मार्गदर्शन प्रदान किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक ऐसा रोबोट बनाने की कोशिश कर रहे हैं जो महत्वपूर्ण निर्णय लेने में मदद कर सके, जैसे कि किसे वीज़ा मिलना चाहिए, किस मेडिकल स्कैन पर डॉक्टर का तुरंत ध्यान देने की आवश्यकता है, या किसे नौकरी के लिए चुना जाना चाहिए। कंप्यूटर विज्ञान की दुनिया में, इसे आर्टिफिशियल इंटेलिजेंस (AI) गवर्नेंस कहा जाता है। AI गवर्नेंस को एक नियम पुस्तिका और सुरक्षा हार्नेस (सुरक्षा बेल्ट) के रूप में सोचें। इसके बिना, एक रोबोट ऐसी गलती कर सकता है जिससे किसी को नुकसान पहुँचे, या यह कुछ समूहों के प्रति पक्षपाती हो सकता है।
लंबे समय से, विशेषज्ञों के पास कुछ अलग-अलग नियम पुस्तिकाएं रही हैं। एक प्रसिद्ध एक, जो संयुक्त राज्य अमेरिका से है, उसे NIST AI रिस्क मैनेजमेंट फ्रेमवर्क कहा जाता है। यह सुरक्षित और निष्पक्ष रोबोट बनाने के तरीके पर एक बहुत ही विस्तृत, उच्च-गुणवत्ता वाले निर्देश मैनुअल की तरह है। यह आपको बताता है कि "गवर्न" (एक बॉस रखें), "मैप" (अपने जोखिमों को जानें), "मेजर" (अपने काम का परीक्षण करें), और "मैनेज" (समस्याओं को ठीक करें)। नियमों का एक अन्य सेट यूरोपीय संघ से आता है, जो एक सख्त कानून की तरह है जो कहता है "आपको यह करना ही होगा अन्यथा आपको जुर्माना देना होगा।"
लेकिन यहाँ पेचीदा हिस्सा है: कनाडा एक विशाल घर की तरह है जिसमें कई अलग-अलग कमरे हैं, और प्रत्येक कमरे के अपने सेट के नियम हैं। संघीय सरकार (घर का मालिक) के पास अपने स्वयं के रोबोटों के लिए नियमों का एक सेट है। लेकिन प्रांतों (कमरे, जैसे ओंटारियो, क्यूबेक और अल्बर्टा) के अपने, थोड़े अलग नियम हैं। कुछ कमरे मुख्य रूप से गोपनीयता (प्राइवेसी) की परवाह करते हैं, कुछ इस बात की कि प्रभारी कौन है, और कुछ इस बात की कि रोबोट अपने विकल्पों को कैसे समझाता है। इसलिए कोई कंपनी या सरकार जो हर कमरे में काम करने वाला रोबोट बनाने की कोशिश कर रही है, उसके लिए हर एक नियम पुस्तिका को अलग से पालन करना एक साथ पाँच अलग-अलग जोड़ी जूते पहनने जैसा है। यह भ्रमित करने वाला है, महंगा है, और आप अपने ही पैरों से लड़खड़ा सकते हैं।
यहीं पर यह पेपर आता है। लेखक, मोहम्मद एतेमाद (Scitus Solutions से) के नेतृत्व में, इस "जूते की समस्या" को हल करने का एक नया तरीका प्रस्तावित कर रहे हैं। उन्होंने एक फ्रेमवर्क बनाया है जिसे SCITUS (सिस्टमैटिक कनाडियन इंटीग्रेशन फॉर ट्रस्टवर्दी एंड यूनिफाइड स्टैंडर्ड्स) कहा जाता है। SCITUS को एक "यूनिवर्सल अडैप्टर" या "मास्टर की" (मास्टर चाबी) के रूप में सोचें। पाँच अलग-अलग नियम पुस्तिकाओं का पालन करने के बजाय, SCITUS लोकप्रिय NIST निर्देश मैनुअल को थोड़ा सा बदल देता है ताकि यह एक ही समय में कनाडा के हर कमरे में पूरी तरह से फिट हो सके।
पेपर तर्क देता है कि काम करने का पुराना तरीका—जैसे पहले ओंटारियो के नियमों की जाँच करना, फिर क्यूबेक के नियमों की जाँच के लिए रुकना, और फिर संघीय नियमों को अलग से जाँचना—समय और पैसे की बर्बादी है। लेखक सुझाव देते हैं कि अपने नए SCITUS फ्रेमवर्क का उपयोग करके, संगठन एक ही सुरक्षा नियंत्रण बना सकते हैं जो सभी को संतुष्ट करता है। उन्होंने इस विचार का परीक्षण तीन काल्पनिक कहानियों के साथ किया: एक संघीय आप्रवासन (इमिग्रेशन) रोबोट, ओंटारियो में एक अस्पताल का रोबोट, और क्यूबेक में एक भर्ती (हायरिंग) रोबोट। प्रत्येक कहानी में, उन्होंने दिखाया कि कैसे SCITUS एक रोबोट को सभी परीक्षणों को पास करने में मदद कर सकता है बिना खुद के पाँच अलग संस्करण बनाए।
यह पेपर यह दावा नहीं करता है कि इसने दुनिया की हर संभव समस्या को हल कर दिया है, न ही यह कहता है कि नियम कभी नहीं बदलेंगे। इसके बजाय, यह सुझाव देता है कि यह "अडैप्टर" दृष्टिकोण अलग-अलग जगहों पर अलग-अलग कानूनों की उलझी हुई वास्तविकता को संभालने का एक बहुत अधिक स्मार्ट, तेज़ और सुरक्षित तरीका है। यह एक अच्छा रोबोट निर्माता होने के लिए एक मार्गदर्शिका है, यह सुनिश्चित करते हुए कि जिन रोबोटों पर हम भरोसा करते हैं वे निष्पक्ष, सुरक्षित और किसी भी कमरे में जाने के लिए तैयार हैं।
सरल अंग्रेजी में पेपर: AI नियमों के लिए "यूनिवर्सल अडैप्टर"
समस्या: "पाँच जोड़ी जूतों" की दुविधा
कल्पना कीजिए कि आप कनाडा में एक रोबोट निर्माता हैं। आप हजारों वीज़ा आवेदनों को छाँटने में मदद करने के लिए एक स्मार्ट सिस्टम बनाना चाहते हैं। लेकिन आपके पास एक बड़ा सिरदर्द है: कनाडा एक घर की तरह है जिसमें कई अलग-अलग कमरे हैं, और प्रत्येक कमरे में आपके रोबोट को कैसे व्यवहार करना चाहिए, इसके लिए अपने सख्त नियम हैं।
- संघीय सरकार (मुख्य घर) के पास एक नियम पुस्तिका है जिसे ट्रेजरी बोर्ड डायरेक्टिव कहा जाता है। यह कहता है, "यदि आपका रोबोट बड़े निर्णय लेता है, तो आपको एक विशिष्ट फॉर्म भरना होगा जिसे 'एल्गोरिदमिक इम्पैक्ट असेसमेंट' (AIA) कहा जाता है और यह साबित करना होगा कि आपने पक्षपात की जाँच की है।"
- ओंटारियो (एक कमरा) के पास एक नया कानून, बिल 194 है। यह कहता है, "यदि आप एक सार्वजनिक भवन हैं, तो आपको अपने रोबोटों की एक सूची प्रकाशित करनी होगी और यह समझाना होगा कि आप उन्हें कैसे सुरक्षित रखते हैं।"
- क्यूबेक (एक अन्य कमरा) के पास कानून 25 है। यह कहता है, "यदि आपका रोबोट व्यक्तिगत जानकारी का उपयोग करता है, तो आपको व्यक्ति को तुरंत बताना होगा और उन्हें निर्णय की समीक्षा के लिए मानव से पूछने की अनुमति देनी होगी।"
- अल्बर्टा के पास सटीकता और गोपनीयता के अपने नियम हैं।
- ब्रिटिश कोलंबिया के पास कुछ सामान्य सलाह है लेकिन अभी तक कोई सख्त कानून नहीं है।
यदि आप इन सभी नियमों का अलग-अलग पालन करने की कोशिश करते हैं, तो यह एक बुरा सपना है। आपको पाँच अलग-अलग रिपोर्ट लिखनी होगी, पाँच अलग-अलग परीक्षण चलाने होंगे, और पाँच अलग-अलग टीमों को काम पर रखना होगा। पेपर कहता है कि यह एक ही समय में पाँच अलग-अलग जोड़ी जूते पहनने जैसा है। यह भारी है, भ्रमित करने वाला है, और आप लड़खड़ा सकते हैं।
समाधान: SCITUS "यूनिवर्सल अडैप्टर"
लेखकों ने एक नया टूल बनाया है जिसे SCITUS कहा जाता है। इसे आपके रोबोट के सुरक्षा गियर के लिए एक "यूनिवर्सल अडैप्टर" के रूप में सोचें। पाँच अलग-अलग आउटलेट के लिए पाँच अलग-अलग अडैप्टर खरीदने के बजाय, SCITUS एक स्मार्ट अडैप्टर है जो उन सभी में फिट बैठता है।
यह प्रसिद्ध, उच्च-गुणवत्ता वाले अमेरिकी नियम पुस्तिका NIST AI रिस्क मैनेजमेंट फ्रेमवर्क को लेकर उसे कनाडा के लिए "अनुवादित" करके काम करता है (जो पहले से ही दुनिया भर की कई कंपनियों द्वारा उपयोग किया जाता है)।
- कोर (मूल): यह NIST के चार मुख्य चरणों को बनाए रखता है: GOVERN (बॉस रखें), MAP (जोखिमों को खोजें), MEASURE (रोबोट का परीक्षण करें), और MANAGE (समस्याओं को ठीक करें)।
- ट्विस्ट (मोड़): यह प्रत्येक चरण में "कनाडियन फ्लेवर" जोड़ता है। उदाहरण के लिए, जब NIST मैनुअल कहता है "पारदर्शी रहें," तो SCITUS कहता है, "पारदर्शी रहें और सुनिश्चित करें कि आप फ्रेंच और अंग्रेजी में लोगों को बताएं, और उन्हें ठीक वही बताएं जो क्यूबेक के कानून 25 की आवश्यकता है।"
यह कैसे काम करता है: तीन-परत वाला केक
पेपर SCITUS को तीन-परत वाले केक के रूप में वर्णित करता है:
- निचली परत (आधार): यह मूल NIST फ्रेमवर्क है। यह एक मजबूत आधार है जो सब कुछ अंतर्राष्ट्रीय मानकों के अनुरूप रखता है।
- मध्यम परत (कनाडियन मिक्स): यहीं जादू होता है। लेखकों ने संघीय सरकार और प्रांतों (ओंटारियो, क्यूबेक, अल्बर्टा, आदि) के सभी नियमों को लिया और उन्हें NIST चरणों में मिला दिया। उन्होंने पता लगाया कि कौन से नियम ओवरलैप होते हैं (ताकि आपको उन्हें केवल एक बार करना पड़े) और कौन से नियम अद्वितीय हैं (ताकि आप उन्हें छोड़ न दें)।
- ऊपरी परत (फ्रॉस्टिंग): यह व्यावहारिक मार्गदर्शिका है। यह आपको चेकलिस्ट, टेम्पलेट और उपकरण देता है ताकि आप बिना भटके वास्तव में रोबोट बना सकें।
"कंट्रोल कैटलॉग": एक बढ़ता हुआ टूलबॉक्स
पेपर में उल्लेख है कि उनका एक "कंट्रोल कैटलॉग" (सुरक्षा नियमों की एक सूची) बढ़ रहा है।
- जून 2025 में, उनके पास 31 नियम थे।
- जुलाई 2026 (इस पेपर के समय) तक, उन्होंने इसे अपडेट करके 57 नियम कर दिया।
यह क्यों बढ़ा? क्योंकि AI की दुनिया तेजी से बदल रही है। नए खतरे सामने आए, जैसे "एजेंटिक AI" (रोबोट जो अपने आप कार्य कर सकते हैं) और प्रशिक्षण डेटा कैसे एकत्र किया जाता है इस बारे में नए नियम। लेखकों ने इन ताज़ा चुनौतियों से निपटने के लिए नए नियम जोड़े, जिससे पता चलता है कि उनका सिस्टम दुनिया के बदलने के साथ अनुकूल हो सकता है।
अडैप्टर का परीक्षण: तीन कहानियाँ
यह साबित करने के लिए कि उनका विचार काम करता है, लेखकों ने तीन कहानियाँ (परिदृश्य) सुनाईं कि कैसे एक कंपनी SCITUS का उपयोग करेगी:
इमिग्रेशन रोबोट (संघीय):
- चुनौती: वीज़ा आवेदनों को छाँटने वाला एक रोबोट। इसे निष्पक्ष, द्विभाषी और सुरक्षित होना चाहिए।
- संघर्ष: सरकार चाहती है कि रोबोट कैसे काम करता है इसके बारे में पारदर्शी रहे, लेकिन सुरक्षा विशेषज्ञ कहते हैं, "यदि हम सबको बताते हैं कि यह कैसे काम करता है, तो बुरे लोग इसे धोखा दे देंगे!"
- SCITUS समाधान: फ्रेमवर्क ने उन्हें बीच का रास्ता खोजने में मदद की। उन्होंने सामान्य जानकारी प्रकाशित की (जैसे "हम निष्पक्षता की जाँच करते हैं") लेकिन "सीक्रेट सॉस" (सटीक गणित) को निजी रखा। उन्होंने एक पेचीदा गणितीय समस्या भी हल की: कैसे कुछ देशों के पास अधिक योग्य आवेदक होने के कारण सभी देशों के प्रति निष्पक्ष रहा जाए। उन्होंने निष्पक्षता की एक विशिष्ट परिभाषा (जिसे equalized odds कहा जाता है) चुनी और दस्तावेजीकरण किया कि उन्होंने इसे क्यों चुना।
अस्पताल का रोबोट (ओंटारियो):
- चुनौती: टोरंटो के एक अस्पताल में एक रोबोट जो आपात स्थिति का पता लगाने के लिए एक्स-रे देखता है। इसे ओंटारियो के सार्वजनिक क्षेत्र के नियमों, हेल्थ कनाडा के मेडिकल डिवाइस नियमों और गोपनीयता कानूनों का पालन करना होगा।
- संघर्ष: आमतौर पर, एक अस्पताल को प्रांत के लिए एक फॉर्म, संघीय स्वास्थ्य एजेंसी के लिए दूसरा, और गोपनीयता के लिए एक और फॉर्म भरना होगा।
- SCITUS समाधान: फ्रेमवर्क ने दिखाया कि ये नियम वास्तव में बहुत अधिक ओवरलैप होते हैं। SCITUS का उपयोग करके, अस्पताल एक सुरक्षा योजना लिख सकता था जो एक साथ तीनों नियामकों को संतुष्ट करती थी। उन्होंने काम के हफ्तों बचाए और यह सुनिश्चित किया कि रोबोट मरीजों के लिए सुरक्षित है।
भर्ती (हायरिंग) रोबोट (क्यूबेक):
- चुनौती: क्यूबेक में एक निजी कंपनी जो कर्मचारियों को काम पर रखने के लिए AI का उपयोग कर रही है। उन्हें क्यूबेक के सख्त गोपनीयता कानूनों (कानून 25) का पालन करना होगा।
- संघर्ष: कंपनी को यह परीक्षण करने की आवश्यकता है कि क्या रोबोट कुछ समूहों के खिलाफ पक्षपाती है, लेकिन गोपनीयता कानून कहते हैं कि वे लोगों के नस्ल या जातीयता के बारे में डेटा एकत्र नहीं कर सकते।
- SCITUS समाधान: फ्रेमवर्क ने एक चतुर समाधान सुझाया। वे परीक्षण उद्देश्यों के लिए लोगों से उनके बैकग्राउंड को स्वैच्छिक रूप से साझा करने के लिए कह सकते थे (भर्ती निर्णय के लिए उपयोग किए बिना), या "प्रॉक्सी" डेटा (जैसे वह शहर जहाँ कोई रहता है) का उपयोग कर सकते हैं ताकि यह अनुमान लगाया जा सके कि क्या रोबोट निष्पक्ष है। इसने उन्हें गोपनीयता कानूनों को तोड़े बिना पक्षपात के लिए परीक्षण करने में सक्षम बनाया।
पेपर क्या कहता है (और क्या नहीं कहता)
लेखक सावधान हैं कि SCITUS एक सुझाव और एक फ्रेमवर्क है, न कि कोई जादुई छड़ी जो सब कुछ तुरंत ठीक कर देती है।
- वे सुझाव देते हैं कि इस "यूनिवर्सल अडैप्टर" का उपयोग करना नियमों का एक-एक करके पालन करने की तुलना में बहुत अधिक कुशल है। वे अनुमान लगाते हैं कि नियमों का एक-एक करके पालन करने में प्रति सिस्टम 12 से 16 सप्ताह लगते हैं, जबकि SCITUS का उपयोग करने से इसे घटाकर 6 से 8 सप्ताह किया जा सकता है।
- वे इस विचार को खारिज करते हैं कि आप केवल सबसे "आसान" नियम का पालन करने के लिए चुन सकते हैं। वे कहते हैं कि सुरक्षित रहने के लिए आपको कमरे के सबसे सख्त नियम का पालन करना होगा।
- वे दावा नहीं करते कि यह हर कानूनी समस्या को हल कर देगा। वे स्वीकार करते हैं कि कभी-कभी नियम टकराते हैं (जैसे पारदर्शिता बनाम सुरक्षा), और ऐसे मामलों में, आपको कठिन निर्णय लेने के लिए एक मानव समिति की आवश्यकता होती है। SCITUS बस उस समिति को निर्णय लेने के लिए एक बेहतर मानचित्र देता है।
यह क्यों मायने रखता है
पेपर निष्कर्ष निकालता है कि किसी भी देश के लिए जहाँ अलग-अलग जगहों पर अलग-अलग नियम हैं (जैसे अमेरिका या ऑस्ट्रेलिया), यह "अडैप्टर" दृष्टिकोण एक स्मार्ट तरीका है। यह संगठनों को दोहराए गए काम पर पैसा बर्बाद करने से रोकता है और उन्हें ऐसा AI बनाने में मदद करता है जो वास्तव में सुरक्षित और निष्पक्ष है, चाहे वे किसी भी "कमरे" में हों।
संक्षेप में, SCITUS वह मार्गदर्शिका है जो कहती है: "आपको पाँच अलग-अलग जोड़ी जूतों की ज़रूरत नहीं है। आपको बस एक बहुत अच्छी जोड़ी की ज़रूरत है जो घर के हर कमरे में फिट हो सके।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।