High-Risk AI Systems and the Problem of Identity in the European AI Act
यह शोध पत्र यह तर्क देता है कि उच्च-जोखिम वाले एआई (AI) सिस्टम के लिए अस्पष्ट पहचान संबंधी निर्णयों पर यूरोपीय एआई (AI) अधिनियम की निर्भरता को "फंक्शन+" (function+) ढांचे को लागू करके हल किया जा सकता है, जो नियामक और शासन संदर्भों में सिंक्रोनिक पहचान (synchronic identity) के लिए एक ऑडिट योग्य, परिचालन मानक बनाने हेतु इच्छित कार्य (intended function) और विश्वसनीयता प्रोफाइल (trustworthiness profiles) के माध्यम से सिस्टम को विशिष्ट बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ एक सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके शोध पत्र (paper) की व्याख्या दी गई है।
बड़ी समस्या: एक रोबोट कब "नया" रोबोट बन जाता है?
कल्पset करें कि आप अस्पताल या बॉर्डर चेकपॉइंट चलाने में मदद करने के लिए एक बहुत ही स्मार्ट, उच्च-जोखिम वाला रोबोट खरीदते हैं। यूरोपीय संघ (EU) का एक नया कानून (AI Act) है जो कहता है कि इन रोबोट्स को काम करने से पहले जांचा और प्रमाणित (certified) किया जाना चाहिए।
लेकिन पेच यहाँ है: रोबोट बदलते रहते हैं। उन्हें सॉफ्टवेयर अपडेट मिलते हैं, वे नए डेटा से सीखते हैं, और कभी-कभी उनकी सेटिंग्स में बदलाव किया जाता है।
कानून एक कठिन सवाल पूछता है: क्या यह अभी भी वही पुराना रोबोट है, या यह एक नया रोबोट है?
- यदि यह वही रोबोट है, तो आपको एक नई महंगी जांच के लिए भुगतान करने की आवश्यकता नहीं है।
- यदि यह एक नया रोबोट है, तो आपको रुकना होगा, फिर से शुरुआत करनी होगी, और एक नया प्रमाणपत्र प्राप्त करना होगा।
यह शोध पत्र तर्क देता है कि वर्तमान कानून इस सवाल का जवाब देने के बारे में थोड़ा अस्पष्ट है। लेखक, एंड्रिया फेरारियो (Andrea Ferrario), पहचान के लिए एक "रेसिपी" (विधि) का उपयोग करके इसे सोचने का एक नया तरीका सुझाते हैं।
समाधान: "Function+" रेसिपी
इसे हल करने के लिए, लेखक एक दार्शनिक विचार का उपयोग करते हैं जिसे Function+ कहा जाता है। इसे एक कार को परिभाषित करने जैसा समझें।
- Techno-Function (इंजन): मशीन किस काम के लिए बनाई गई है? (जैसे, "लोगों को A से B तक पहुँचाना")।
- The Context (प्लस/संदर्भ): इसे वास्तविक दुनिया में कैसा व्यवहार करना चाहिए? (जैसे, "इसे दुर्घटनाग्रस्त नहीं होना चाहिए, यह सभी यात्रियों के प्रति निष्पक्ष होना चाहिए, और इसे पारदर्शी होना चाहिए कि इसने बाएँ मोड़ क्यों लिया")।
- The Trust Score (विश्वास स्कोर/स्तर): क्या यह वास्तव में अभी अच्छा काम कर रहा है? (जैसे, "यह 95% सुरक्षित और 90% निष्पक्ष है")।
पेपर कहता है कि एक AI सिस्टम तभी "वही" है जब उसका इंजन (Engine), उसके नियम (Rules), और उसका ट्रस्ट स्कोर (Trust Score) स्थिर रहे।
पेपर से दो वास्तविक जीवन की कहानियाँ
लेखक यह दिखाने के लिए दो कहानियों का उपयोग करते हैं कि यह क्यों महत्वपूर्ण है:
कहानी 1: हॉस्पिटल ट्राइएज रोबोट (समय यात्रा/Time Travel)
एक अस्पताल यह तय करने के लिए AI का उपयोग करता है कि किन मरीजों को आपातकालीन देखभाल की पहले आवश्यकता है।
- बदलाव: एक नया वायरस आता है। अस्पताल AI को बुजुर्ग मरीजों को बेहतर ढंग से संभालने के लिए अपडेट करता है और एक ऐसा फीचर जोड़ता है जो यह समझा सके कि उसने निर्णय क्यों लिया।
- विवाद: डॉक्टर कहते हैं, "यह वही रोबोट है, बस अपडेट किया गया है।" AI कंपनी कहती है, "यह वही रोबोट है।" लेकिन नर्सें कहती हैं, "नहीं! अब यह अलग तरह से सोचता है। यह एक अलग रोबोट है!"
- पेपर का दृष्टिकोण: यदि AI का "ट्रस्ट स्कोर" (यह समझाने की क्षमता और मरीजों के साथ निष्पक्ष व्यवहार) गिर जाता है या इसके मूल नियम बदल जाते हैं, तो कानूनी रूप से यह एक नया रोबोट है। इसे एक नए प्रमाणपत्र की आवश्यकता है। यदि कानून के पास इसे मापने का स्पष्ट तरीका नहीं है, तो किसी को नहीं पता होगा कि यदि रोबोट गलती करता है तो जिम्मेदार कौन है।
कहानी 2: एयरपोर्ट फेस-स्कैनर (जुड़वां विरोधाभास/The Twin Paradox)
दो हवाईअंतल एक ही कंपनी से फेस-स्कैनिंग रोबोट खरीदना चाहते हैं।
- सेटअप: एयरपोर्ट A को "रोबोट X" (सुपर फास्ट, महंगा) मिलता है। एयरपोर्ट B को "रोबोट Y" (थोड़ा धीमा, सस्ता) मिलता है। वे दिखने में एक जैसे हैं और एक ही काम करते हैं।
- विवाद: कंपनी कहती है, "रोबोट X बेहतर है क्योंकि यह तेज़ है। यह एक अलग उत्पाद है, इसलिए आपको अधिक भुगतान करना होगा।" एयरपोर्ट अधिकारी कहते हैं, "नहीं, वे बिल्कुल एक ही काम करते हैं। आप हमें उस गति के लिए अतिरिक्त शुल्क ले रहे हैं जिसकी हमें आवश्यकता नहीं है।"
- पेपर का दृष्टिकोण: वर्तमान कानून के पास यह कहने के लिए कोई स्पष्ट परीक्षण नहीं है कि "क्या ये दो रोबोट एक ही हैं?" लेखक सुझाव देते हैं कि हमें यह जांचना चाहिए: क्या उनका ट्रस्ट स्कोर समान है? यदि वे समान रूप से सुरक्षित और निष्पक्ष हैं, तो मामूली गति के अंतर के बावजूद उन्हें कानूनी उद्देश्यों के लिए वही रोबोट माना जाना चाहिए।
लेखक के दो मुख्य दावे
दावा 1: कानून के पास पहले से ही एक "टाइम मशीन" है (Diachronic Identity)
पेपर कहता है कि EU AI Act के पास समय के साथ होने वाले परिवर्तनों को संभालने का एक तरीका है, लेकिन यह नियमों में छिपा हुआ है।
- नियम: यदि आप रोबोट को इतना बदल देते हैं कि वह नियमों को तोड़ देता है या अपना काम बदल देता है, तो यह एक "Substantial Modification" (महत्वपूर्ण संशोधन) है।
- समाधान: लेखक का सुझाव है कि हमें इसे स्पष्ट करने के लिए Function+ रेसिपी का उपयोग करना चाहिए। हमें यह स्पष्ट रूप से लिखना होगा कि जब रोबोट शुरू हुआ था तब उसका "ट्रस्ट स्कोर" क्या था, और यदि बाद में वह स्कोर बहुत कम हो जाता है, तो हम जानते हैं कि यह एक नया रोबोट है।
दावा 2: कानून के पास एक "दर्पण" की कमी है (Synchronic Identity)
पेपर कहता है कि कानून इस बारे में मौन है कि एक ही समय पर दो रोबोटों की तुलना कैसे की जाए।
- कमी: यदि एयरपोर्ट A और एयरपोर्ट B के पास दो अलग-अलग रोबोट हैं, तो कानून यह बताने के लिए कोई चेकलिस्ट नहीं देता कि "क्या वे कानूनी रूप से एक ही हैं?"
- समाधान: लेखक एक सरल ऑडिट फ्लोचार्ट (सुरक्षा गार्ड के लिए चेकलिस्ट की तरह) का प्रस्ताव देते हैं:
- क्या उनका जॉब डिस्क्रिप्शन (काम का विवरण) समान है? (Intended Purpose)
- क्या उनकी रूलबुक (नियमों की किताब) समान है? (Trustworthiness Profile)
- क्या उनका रिपोर्ट कार्ड अभी समान है? (Trustworthiness Level)
- यदि तीनों का उत्तर हाँ है: तो वे एक ही रोबोट हैं।
- यदि किसी का भी उत्तर नहीं है: तो वे अलग-अलग रोबोट हैं।
सिफारिशें: इसे कैसे ठीक करें
लेखक इसे वास्तविक दुनिया में काम करने के लिए दो व्यावहारिक कदम सुझाते हैं:
- काम के बारे में विशिष्ट बनें: केवल यह न कहें कि "यह AI डॉक्टरों की मदद करता है।" यह कहें कि "यह AI डॉक्टरों को तात्कालिकता के आधार पर मरीजों को छाँटने में मदद करता है, लेकिन इसे कैंसर का निदान करने की अनुमति नहीं है।" यह AI को वह बनने से रोकता है जो वह नहीं है।
- रिपोर्ट कार्ड का मानकीकरण करें: हर कंपनी द्वारा "सुरक्षा" या "निष्पक्षता" को मापने के अपने तरीके बनाने के बजाय, हमें एक मानक टेम्पलेट की आवश्यकता है। कल्पना करें कि यदि हर कार को एक ही तरह से गणना की गई "सेफ्टी स्टार रेटिंग" (जैसे 5 स्टार) दिखानी पड़ती। यदि किसी AI की रेटिंग 5 स्टार से गिरकर 3 स्टार हो जाती है, तो हम जानते हैं कि अब नई जांच का समय आ गया है।
सारांश
यह पेपर तर्क देता है कि AI को निष्पक्ष रूप से विनियमित करने के लिए, हमें यह अनुमान लगाना बंद करना होगा कि एक रोबोट "वही" है या "नया"। हमें इसके उद्देश्य (purpose), इसके नियमों (rules) और इसके प्रदर्शन (performance) को मापने का एक स्पष्ट, गणितीय तरीका चाहिए। यदि वे बदलते हैं, तो कानून को इसे एक नया रोबोट मानना चाहिए। यह यह जानने में आसान बनाता है कि जब चीजें गलत होती हैं तो कौन जिम्मेदार है और यह कंपनियों को उन रोबोटों के लिए अतिरिक्त शुल्क लेने से रोकता है जो अनिवार्य रूप से एक ही हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।