Qualifying and Quantifying Risk under the EU AI Act

समस्या
EU AI एक्ट (AIA) एक जोखिम-आधारित नियामक दृष्टिकोण अपनाता है, जो नियामक तीव्रता को व्यवस्थित करने के लिए AI सिस्टम को अस्वीकार्य, उच्च और न्यूनतम जोखिम स्तरों में वर्गीकृत करता है। हालाँकि, अधिनियम के "जोखिम" की परिभाषा के भीतर एक मौलिक तनाव मौजूद है। अनुच्छेद 3(2) जोखिम को "हानि की घटना की संभावना और उस हानि की गंभीरता के संयोजन" के रूप में परिभाषित करता है, जो एक मात्रात्मक (quantitative) ढांचे का संकेत देता है। इसके विपरीत, अधिनियम का प्राथमिक ध्यान "स्वास्थ्य, सुरक्षा या मौलिक अधिकारों" को होने वाली हानियों पर है, जिन्हें आमतौर पर गुणात्मक (qualitative) कानूनी अवधारणाओं के रूप में माना जाता है। यह शोध पत्र इस परिभाषा को संचालित करने (operationalize) के तरीके पर स्पष्टता की कमी की पहचान करता है: विशेष रूप से, मौलिक अधिकारों की गुणात्मक प्रकृति का सम्मान करते हुए जोखिम प्रबंधन की मात्रात्मक आवश्यकताओं को पूरा करने के लिए "संभावना" (probability), "गंभीरता" (severity) और उनके "संयोजन" (combination) की व्याख्या और मापन कैसे किया जाए। एक स्पष्ट कार्यप्रणाली के बिना, यह जोखिम बना रहता है कि प्रदाता और उपयोगकर्ता इन मेट्रिक्स में हेरफेर ("रिस्क हैकिंग") कर सकते हैं ताकि वे सिस्टम को कम वर्गीकृत कर सकें और नियामक दायित्वों से बच सकें।

कार्यप्रणाली (Methodology)
लेखक गुणात्मक मौलिक अधिकारों के संरक्षण और मात्रात्मक जोखिम मूल्यांकन के बीच सामंजת बिठाने के लिए एक दो-चरणीय ढांचे का प्रस्ताव करते हैं। इस ढांचे का विश्लेषण जोखिम के तीन मुख्य घटकों के मात्रात्मक दृष्टिकोणों के विरुद्ध किया गया है:

1. चरण 1: हानि और उद्देश्य का संतुलन: ढांचा पहले AI सिस्टम के इच्छित उद्देश्य के संदर्भ में मौलिक अधिकारों के प्रति संभावित हानि का आकलन करता है। इसमें अधिकारों के संरक्षण (स्वास्थ्य, सुरक्षा, लोकतंत्र, कानून का शासन) और प्रदाताओं/उपयोगकर्ताओं के वैध उद्देश्यों (सार्वजनिक हित और व्यवसाय करने की स्वतंत्रता सहित) के बीच एक संतुलन निर्णय शामिल है।
2. चरण 2: नियामक प्रभाव के माध्यम से जोखिम प्रबंधन: दूसरा चरण प्रदाताओं, उपयोगकर्ताओं और नियामकों पर नियामक हस्तक्षेपों (जोखिम परिहार, न्यूनीकरण, या स्वीकृति) के प्रभाव का मूल्यांकन करता है। लक्ष्य यह निर्धारित करना है कि क्या नियामक बोझ प्राप्त जोखिम न्यूनीकरण के अनुपात में है।

मात्रात्मक चुनौती को संबोधित करने के लिए, शोध पत्र तीन घटकों का परीक्षण करता है:

• संभावना (Probability): लेखक उस "घटना" (event) को परिभाषित करने में अस्पष्टता का विश्लेषण करते हैं जिसके ऊपर संभावना मापी जाती है (जैसे, एकल अंतःक्रिया बनाम संचयी वार्षिक प्रभाव) और मापन में कठिनाइयाँ (एपिस्टेमिक अनिश्चितता, डेटा लागत, गैर-दोहराने वाली घटनाएँ)। वे चर्चा करते हैं कि कैसे विभिन्न सांख्यिकीय व्याख्याएँ (फ्रीक्वेंटिस्ट बनाम बेयसियन) और कॉन्फिडेंस बाउंड्स (confidence bounds) जोखिम के बहुत अलग अनुमानों की ओर ले जा सकते हैं।
• गंभीरता (Severity): शोध पत्र अमूर्त अधिकारों (जैसे, गोपनीयता, गरिमा) के लिए गंभीरता को मापने की कठिनाई और गंभीरता की एक एकीकृत "इकाई" (मौद्रिक बनाम ऑर्डिनल) के अभाव की खोज करता है। यह सुझाव देता है कि जबकि मौलिक अधिकारों के लिए मौद्रिक मूल्यांकन अक्सर असंभव है, गंभीरता का आकलन न्यायिक मिसालों और विधायी सूचियों के आधार पर ऑर्डिनल (क्रमवार रैंकिंग) रूप में किया जा सकता है।
• संयोजन (Combination): लेखक संभावना और गंभीरता को संयोजित करने की तीन व्याख्याओं का मूल्यांकन करते हैं:
  • अपेक्षित जोखिम (Expected Risk): संभावना और गंभीरता का गुणनफल। शोध पत्र तर्क देता है कि यह अपर्याप्त है क्योंकि यह उच्च-गंभीरता, निम्न-संभावना वाली घटनाओं को निम्न जोखिम के रूप में वर्गीकृत कर सकता है।
  • संतुलन विश्लेषण (Balancing Analysis): एक लागत-लाभ दृष्टिकोण जो सिस्टम के उद्देश्य के अपेक्षित जोखिम और विनियमन की लागत को एकीकृत करता है।
  • गंभीरता-प्रथम बनाम संभावना-प्रथम (Severity-First vs. Probability-First): ऐसे दृष्टिकोण जो एक मीट्रिक को दूसरे पर प्राथमिकता देते हैं।

प्रमुख योगदान और परिणाम

• गुणात्मक और मात्रात्मक जोखिम का सामंजस्य: शोध पत्र प्रदर्शित करता है कि प्रस्तावित दो-चरणीय ढांचे के भीतर मौलिक अधिकारों का संरक्षण और जोखिम का मात्रात्मक निर्धारण संगत हैं। अधिनियम के लिए शुद्ध गणितीय गणना की आवश्यकता नहीं है, बल्कि एक संरचित संतुलन प्रक्रिया की आवश्यकता है।
• "गंभीरता-प्रथम" दृष्टिकोण की पहचान: लेखक तर्क देते हैं कि AI एक्ट अप्रत्यक्ष रूप से एक "गंभीरता-प्रथम" दृष्टिकोण का उपयोग करता है। इस मॉडल में, संभावना से पहले संभावित हानि की गंभीरता का आकलन किया जाता है। यदि किसी हानि को "अस्वीकार्य रूप से उच्च" गंभीरता (जैसे, मूल मौलिक अधिकारों का उल्लंघन) वाला माना जाता है, तो वह निम्न संभावना के बावजूद निषेध या उच्च-जोखिम वर्गीकरण को ट्रिगर कर सकती है। संभावना एक माध्यमिक कारक के रूप में कार्य करती है जो जोखिम वर्गीकरण को कम कर सकती है (जैसे, अस्वीकार्य से उच्च-जोखिम में), लेकिन यह प्रारंभिक गंभीरता मूल्यांकन को निष्प्रभावी नहीं करती है।
• "संयोजन" का स्पष्टीकरण: शोध पत्र का मानना है कि "संयोजन" को केवल "अपेक्षित जोखिम" (संभावना × गंभीरता) के रूप में नहीं देखा जाना चाहिए। इसके बजाय, इसे एक संतुलन विश्लेषण के माध्यम से देखा जाना चाहिए जो AI सिस्टम के उद्देश्य के सापेक्ष लाभों और नियामक हस्तक्षेप की लागतों पर विचार करता है।
• "रिस्क हैकिंग" के विरुद्ध चेतावनी: विश्लेषण रेखांकित करता है कि संभावना और गंभीरता को परिभाषित करने में अस्पष्टता हेरफेर के अवसर पैदा करती है। यदि बिना मानकीकृत मार्गदर्शन के प्रदाताओं को इन मेट्रिक्स को परिभाषित करने के लिए छोड़ दिया जाता है, तो वे ऐसे व्याख्याओं (जैसे, सीमित डेटा के साथ फ्रीक्वेंटिस्ट दृष्टिकोण) को अपना सकते हैं जो कृत्रिम रूप से जोखिम अनुमानों को कम करते हैं, जिससे अंडर-क्लासिफिकेशन (कम वर्गीकरण) होता है।

महत्व
शोध पत्र का दावा है कि उसका प्रस्तावित ढांचा AI एक्ट के जोखिम-आधारित दृष्टिकोण को स्पष्ट करने में मदद करता है, जो मात्रात्मक परिभाषाओं और गुणात्मक अधिकारों के बीच स्पष्ट विरोधाभास से आगे बढ़ता है। एक "गंभीरता-प्रथम" मानसिकता को संतुलन विश्लेषण के साथ एकीकृत करके, लेखक तर्क देते हैं कि नियामक मौलिक अधिकारों से समझौता किए बिना जोखिम को बेहतर ढंग से संचालित कर सकते हैं। इस कार्य का महत्व तकनीकी और कार्यान्वयन संबंधी विकल्पों को सूचित करने की इसकी क्षमता में निहित है, जिससे यह सुनिश्चित होता है कि जोखिम का मात्रात्मक निर्धारण अधिनियम के लक्ष्यों का समर्थन करे, न कि नियामक शॉर्टकट को सक्षम करे। लेखक इस बात पर जोर देते हैं कि मात्रा निर्धारण के लिए चुनी गई कार्यप्रणाली राजनीतिक प्रकृति की है और इसे मौलिक अधिकारों की सुरक्षा के अनुरूप होना चाहिए ताकि नियामक ढांचे के क्षरण को रोका जा सके।