Quantifying Harm

तकनीकी सारांश: हानि का परिमाणीकरण (Quantifying Harm)

समस्या विवरण
जबकि आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम स्वास्थ्य सेवा, भर्ती और स्वायत्त ड्राइविंग जैसे महत्वपूर्ण क्षेत्रों को तेजी से प्रभावित कर रहे हैं, "हानि" (harm) को परिभाषित करना और मापना एक बड़ी चुनौती बनी हुई है। मौजूदा नियामक ढांचे, जैसे कि यूरोपीय एआई अधिनियम (European AI Act), हानि की गंभीरता और संभावना दोनों के मूल्यांकन की आवश्यकता रखते हैं, फिर भी दार्शनिक साहित्य अक्सर हानि की अवधारणा को परस्पर विरोधी वृत्तांतों के एक "फ्रेंकेंस्टीनियन जंबल" (विपरीत विचारों के मिश्रण) के रूप में वर्णित करता है। लेखकों के पिछले कार्य ने हानि की एक गुणात्मक (qualitative) परिभाषा (यह निर्धारित करना कि हानि हुई या नहीं) स्थापित की थी जो कारण संबंधी मॉडलों (causal models) और एक डिफ़ॉल्ट उपयोगिता (default utility) पर आधारित थी। हालांकि, व्यावहारिक अनुप्रयोगों के लिए हस्तक्षेपों की तुलना करने, आबादी में हानि को एकत्रित करने और अनिश्चितता को ध्यान में रखने के लिए एक परिमाणात्मक (quantitative) धारणा की आवश्यकता होती है। यह शोध पत्र गुणात्मक कारण-संबंध (qualitative causation) और नीति-निर्माण एवं नैतिक निर्णय लेने के लिए आवश्यक परिमाणात्मक मेट्रिक्स के बीच के अंतर को संबोधित करता है।

कार्यप्रणाली (Methodology)
लेखक संरचनात्मक कारण मॉडलों (structural causal models) और हलपर्न-पर्ल (Halpern-Pearl) वास्तविक कारण (actual causation) की परिभाषा पर आधारित एक परिमाणात्मक ढांचा विकसित करते हैं। कार्यप्रणाली कई चरणों में आगे बढ़ती है:

1. एक नियत संदर्भ में परिमाणात्मक हानि (Quantitative Harm in a Deterministic Context):
   लेखक एक निश्चित संदर्भ में एकल एजेंट के लिए परिमाणात्मक हानि ($QH$) को परिभाषित करते हैं। इसे वास्तविक परिणाम की उपयोगिता और एक आधार रेखा (baseline) के बीच के अंतर के रूप में निकाला जाता है, जो एक "डिफ़ॉल्ट उपयोगिता" ($d$) द्वारा सीमित है। विशेष रूप से, यदि एक क्रिया $\vec{X}=\vec{x}$ एक परिणाम $O=o$ का कारण बनती है न कि एक विरोधात्मक परिणाम $O=o'$ का, तो हानि $\max(0, \min(d, u(o')) - u(o))$ है। यह सूत्रीकरण सुनिश्चित करता है कि हानि तभी दर्ज की जाए जब वास्तविक उपयोगिता, विरोधात्मक उपयोगिता और डिफ़ॉल्ट उपयोगिता दोनों से कम हो।

2. अनिश्चितता को संभालना (संभाव्यता भारण - Probability Weighting):
   संदर्भों के संबंध में अनिश्चितता को संबोधित करने के लिए, शोध पत्र सरल अपेक्षित उपयोगिता (expected utility) से आगे बढ़कर भारित अपेक्षित परिमाणात्मक हानि (Weighted Expected Quantitative Harm - WEQH) की ओर बढ़ता है। यह पहचानते हुए कि मानव निर्णय लेना अक्सर सख्त अपेक्षित उपयोगिता अधिकतमकरण (expected utility maximization) से विचलित होता है (जैसे, छोटी संभावनाओं को अधिक महत्व देना या अनुभव के आधार पर उन्हें कम महत्व देना), लेखक एक संभाव्यता भारण फलन (probability weighting function) $w$ को शामिल करते हैं। WEQH, भारित संभावनाओं और उन संदर्भों में परिमाणात्मक हानि के योग का WEH है। यह मॉडल दैनिक गतिविधियों में मामूली जोखिमों को अनदेखा करने (underweighting) या दुर्लभ विनाशकारी घटनाओं से बचने की प्राथमिकता (overweighting) जैसे अनुभवों को पकड़ने की अनुमति देता है।

3. सामाजिक हानि और निष्पक्षता का एकत्रीकरण (Aggregating Societal Harm and Fairness):
   यह पत्र व्यक्तिगत हानियों को सीधे जोड़ने के "स्पष्ट" दृष्टिकोण की आलोचना करता है, यह नोट करते हुए कि यह निष्पक्षता और विशिष्ट उप-आबादियों पर असंगत प्रभाव को समझने में विफल रहता है। लेखक एक सामूहिक उपयोगिता मॉडल (Collective Utility Model) प्रस्तावित करते हैं जो एक दंड शब्द ($\alpha$) पेश करता है यदि एक पूर्व-निर्धारित पहचान योग्य समूह ($G$) औसत जनसंख्या औसत की तुलना में काफी अधिक ($\beta$) औसत हानि झेलता है। यह तंत्र उन नीतियों को दंडित करने की अनुमति देता है जो विशिष्ट समूहों पर हानि केंद्रित करती हैं, भले ही कुल एकत्रित हानि कम हो।

4. हानि बनाम लाभ विषमता (Harm vs. Benefit Asymmetry):
   मानक लागत-लाभ विश्लेषणों के विपरीत, जो लाभ को हानि के सममित विपरीत के रूप में देखते हैं, लेखक एक डिफ़ॉल्ट अंतराल $D = [d_h, d_b]$ प्रस्तावित करते हैं। $d_h$ से नीचे के परिणाम हानि कहलाते हैं, $d_b$ से ऊपर के परिणाम लाभ कहलाते हैं, और इस अंतराल के भीतर के परिणाम तटस्थ होते हैं। यह उस "सुरक्षित" सीमा को पकड़ता है जहाँ न तो हानि और न ही लाभ होता है।

5. जटिलता विश्लेषण (Complexity Analysis):
   परिशिष्ट हानि को निर्धारित करने और गणना करने की कम्प्यूटेशनल जटिलता का विश्लेषण करता है। यह दिखाया गया है कि यह तय करना कि क्या हानि होती है (गुणात्मक), DP-complete है, जबकि परिमाणात्मक हानि की सीमा की गणना करना $FP^{NP[\log n]}$-complete है। लेखक नोट करते हैं कि हालांकि ये वर्ग 'वर्स्ट केस' में जटिलता का संकेत देते हैं, व्यावहारिक अनुप्रयोग जिनमें चर सेट छोटे हैं या समरूपता (symmetry) के विचार लागू होते हैं, वे समस्या को व्यवहार्य बना सकते हैं।

मुख्य योगदान और परिणाम

• औपचारिक परिभाषा: यह शोध पत्र एक औपचारिक, परिमाणात्मक परिभाषा प्रदान करता है जो कारण मॉडलों, उपयोगिता सिद्धांत और एक डिफ़ॉल्ट आधार रेखा को एकीकृत करती है।
• सरल एकत्रीकरण का खंडन: लेखक दिखाते हैं कि अपेक्षित हानियों को जोड़ना सहज बोध के विपरीत परिणाम दे सकता है, विशेष रूप से निष्पक्षता और जोखिम के वितरण के संबंध में। वे दिखाते हैं कि कैसे संभाव्यता भारण और समूह-आधारित दंड इन विरोधाभासों (जैसे, नॉरक्रोस का हानि चक्र/Norcross's cycle of harm) को हल कर सकते हैं।
• RBT के साथ तुलना: यह पत्र रिकेंस, बियर्ड और थॉम्पसन (RBT) के दृष्टिकोण के साथ एक विस्तृत तुलना प्रदान करता है। लेखक तर्क देते हैं कि RBT का "बट-फॉर" (but-for) कारणता और एक एकल डिफ़ॉल्ट क्रिया (उपचार न करना) पर निर्भरता त्रुटिपूर्ण निष्कर्षों की ओर ले जाती है, जैसे कि यह सुझाव देना कि रोगी का उपचार न करना कोई हानि नहीं पहुँचाता है। उनका अधिक सामान्य कारण परिभाषा और लचीली डिफ़ॉल्ट उपयोगिता का उपयोग अधिक सूक्ष्म और चिकित्सकीय रूप से प्रशंसनीय परिणाम देता है।
• प्रिसिजन मेडिसिन संदर्भ: इस ढांचे को प्रिसिजन मेडिसिन (डेविड, सेन, सर्वेट, स्टेंस्रड, मुलर और पर्ल से संबंधित) में एक हालिया बहस में लागू किया गया है। वे दिखाते हैं कि उपचार नियमों (जैसे, औसत उपचार प्रभाव को अधिकतम करना बनाम हानि के विरुद्ध लाभ को तौलना) के संबंध में बहसें अनिवार्य रूप से उनके ढांचे द्वारा संबोधित डिफ़ॉल्ट उपयोगिता और संभाव्यता भारण के व्यापक मुद्दों के विशेष मामले हैं।

महत्व और दावे
यह शोध पत्र AI सिस्टम और सार्वजनिक नीति के लिए हानि निर्धारित करने हेतु एक औपचारिक दृष्टिकोण की दिशा में एक आधारभूत कदम के रूप में खुद को स्थापित करता है। लेखक विनम्रता से दावा करते हैं कि यह कार्य पूर्ण समाधान के बजाय एक "पहला कदम" है। वे इस बात पर जोर देते हैं कि:

• एक निश्चित संदर्भ में एकल एजेंट के लिए परिमाणात्मक हानि की परिभाषा सरल है, लेकिन अनिश्चितता और एकत्रीकरण के साथ सूक्ष्मताएं उत्पन्न होती हैं।
• निष्पक्षता के लिए प्रस्तावित दृष्टिकोण (असमान हानि को दंडित करना) एक रूपरेखा है जिसे यह सुनिश्चित करने के लिए और अधिक अनुभवजन्य सत्यापन की आवश्यकता है कि यह मानवीय ह्यूरिस्टिक्स (heuristics) के साथ मेल खाता है।
• संभाव्यता भारण (overweighting बनाम underweighting) को संभालना जटिल और संदर्भ-निर्भर है, जिसके लिए नीति निर्माताओं को एक सार्वभौमिक भारण फलन मानने के बजाय मानदण्डिक (normative) और वर्णनात्मक (descriptive) विचारों को तौलने की आवश्यकता है।
• यह ढांचा हानि और दोष (blame) को एकीकृत करता है, जो नैतिक जिम्मेदारी के पूर्ण सिद्धांत की ओर एक मार्ग का सुझाव देता है, हालांकि यह शोध पत्र मुख्य रूप से हानि के परिमाणीकरण की यांत्रिकी पर ध्यान केंद्रित करता है।

अंततः, यह शोध पत्र तर्क देता है कि हानि की एक कठोर, कारण-आधारित परिमाणात्मक परिभाषा AI के नैतिक परिनियोजन और यूरोपीय एआई अधिनियम जैसे नियमों के निर्धारण के लिए महत्वपूर्ण है, जो गुणात्मक दार्शनिक बहसों के "अव्यवस्थित" (mess) स्वरूप से हटकर कार्रवाई योग्य मेट्रिक्स की ओर ले जाती है।