The Likelihood Ratio Wall: Structural Limits on Accurate Risk Assessment for Rare Violence
यह शोध पत्र तर्क देता है कि मुकदमे से पूर्व के जोखिम मूल्यांकन उपकरण एक मौलिक "लाइकलीहुड रेशियो वॉल" (संभावना अनुपात की दीवार) का सामना करते हैं जहाँ हिंसक पुनरावृत्ति की दुर्लभता और अत्यधिक पुलिसिंग जैसे संरचनात्मक पूर्वाग्रह गणितीय रूप से उच्च-विश्वास वाले व्यक्तिगत भविष्यवाणियों को रोकते हैं, जिससे वर्तमान उपकरण उच्च 'फॉल्स-पॉजिटिव' (मिथ्या-सकारात्मक) दरों के प्रति संवेदनशील हो जाते हैं जिन्हें पुनर्मूल्यांकन द्वारा ठीक नहीं किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक न्यायाधीश हैं और आपको यह तय करना है कि क्या किसी प्रतिवादी को मुकदमे से पहले जेल में रखा जाए या नहीं। आपके पास एक नया "रिस्क टूल" (जोखिम उपकरण) है जो उनके इतिहास को स्कैन करता है और उन्हें एक लेबल देता है: "हिंसा के लिए उच्च जोखिम" (High Risk for Violence)।
यह टूल आपको यह बताने के लिए बनाया गया है: "यदि हम इस व्यक्ति को जाने देते हैं, तो इस बात की अच्छी संभावना है कि वे एक हिंसक अपराध करेंगे।"
यह शोध पत्र तर्क देता है कि गणितीय रूप से, यह टूल लगभग हमेशा आपसे झूठ बोल रहा होता है जब यह किसी दुर्लभ हिंसक अपराध के लिए किसी को "उच्च जोखिम" वाला बताता है। भले ही यह टूल कागजों पर बहुत प्रभावशाली दिखे, लेकिन वास्तविकता यह है कि जिन लोगों को यह "खतरनाक" के रूप में चिह्नित करता है, उनमें से अधिकांश वास्तव में शांतिपूर्ण ही रहते यदि उन्हें रिहा कर दिया गया होता।
यह क्यों होता है, इसके विवरण यहाँ सरल उपमाओं (analogies) के माध्यम से दिए गए हैं।
1. "भूसे में सुई" की समस्या (बेस रेट)
हिंसक पुन: गिरफ्तारी बहुत दुर्लभ होती है। अधिकांश स्थानों पर, रिहा किए गए प्रतिवादियों में से केवल प्रत्येक 100 में से लगभग 2 से 5 ही नया हिंसक अपराध करते हैं।
कल्पना कीजिए कि आप एक विशाल स्टेडियम में एक सुरक्षा गार्ड हैं जिसमें 10,000 लोग हैं। आप एक ऐसे व्यक्ति की तलाश कर रहे हैं जो गुप्त रूप से हथियार (हिंसक अपराधी) लेकर घूम रहा है।
- "रिस्क टूल" एक मेटल डिटेक्टर है।
- समस्या यह है कि मेटल डिटेक्टर पूर्ण नहीं है। यह कभी-कभी बेल्ट के बकल या चाबियों जैसी निर्दोष चीजों के लिए भी बीप करता है (गलत अलार्म)।
क्योंकि "बुरा आदमी" इतना दुर्लभ है (10,000 में से 1), इसलिए एक बहुत अच्छा मेटल डिटेक्टर भी निर्दnoc लोगों के लिए वास्तविक खतरे की तुलना में बहुत अधिक बार बजेगा। इस शोध पत्र में इसे "लाइक्लीहुड रेशियो वॉल" (Likelihood Ratio Wall) कहा गया है।
2. वह दीवार जिसे आप पार नहीं कर सकते
लेखक यह सिद्ध करते हैं कि एक गणितीय नियम है: यदि टूल 50% बार सही होना चाहता है (यानी, यदि टूल कहता है "उच्च जोखिम", तो इस बात की एक सिक्के के उछाल जितनी संभावना है कि व्यक्ति वास्तव में खतरनाक है), तो टूल को सुई को पहचानने में अविश्वसनीय रूप से कुशल होना चाहिए।
- वास्तविकता: वर्तमान उपकरण ऐसे मेटल डिटेक्टर की तरह हैं जो वास्तविक बंदूक खोजने के लिए हर एक बंदूक के बदले बेल्ट बकल के लिए 10 बार बीप करता है।
- आवश्यकता: आधा समय सही होने के लिए, टूल को बेल्ट बकल की तुलना में बंदूक को पहचानने में 30 से 50 गुना बेहतर होना होगा।
उपमा: कल्पना कीजिए कि आप समुद्र तट पर रेत का एक विशिष्ट कण ढूंढने की कोशिश कर रहे हैं। यदि आपका "रेत खोजने वाला यंत्र" सोने के एक कण के लिए 100 रेत के कणों को उठा लेता है, और सोना बहुत दुर्लभ है, तो अंत में आप यह सोचकर एक बाल्टी रेत पकड़ लेंगे कि आपने सोना ढूंढ लिया है। टूल "टूटा" हुआ नहीं है; बस यह है कि सोना बहुत दुर्लभ है जिससे टूल ठीक से काम कर सके।
यह पत्र दिखाता है कि वर्तमान उपकरण इस दीवार को पार करने के लिए पर्याप्त सक्षम नहीं हैं। जब वे किसी को "उच्च जोखिम" के रूप में चिह्नित करते हैं, तो वे अक्सर गलत होते हैं।
3. टूल में "बदलाव" करने से क्या मदद मिलती है? (रीकैलिब्रेशन)
आप सोच सकते हैं, "क्या हम टूल की सेटिंग्स को थोड़ा एडजस्ट नहीं कर सकते ताकि यह अधिक सटीक हो जाए?"
लेखक कहते हैं नहीं। वे सिद्ध करते हैं कि संख्याओं को बदलना (रीकैलिब्रेशन) मेटल डिटेक्टर को फिर से पेंट करने जैसा है। आप इसे अधिक शानदार बना सकते हैं या इसकी बीप की आवाज़ बदल सकते हैं, लेकिन आप इस तथ्य को नहीं बदल सकते कि यह अभी भी बेल्ट बकल के लिए बीप करता है।
यदि अंतर्निहित डेटा (गिरफ्तारी का इतिहास, पिछले आरोप, आदि) हिंसक और गैर-हिंसक लोगों को अलग करने के लिए एक मजबूत संकेत (signal) नहीं रखता है, तो कोई भी गणितीय ट्रिक उस संकेत को शून्य से पैदा नहीं कर सकती। "दीवार" एक संरचनात्मक सीमा है, न कि कोई सॉफ्टवेयर बग।
4. "सर्वेक्षण की सीमा" (क्यों कुछ समूहों को अधिक चिह्नित किया जाता है)
यह पत्र यह भी बताता है कि अत्यधिक पुलिसिंग (Over-policing) कुछ समूहों के लिए टूल को बदतर बना देती है।
कल्पना कीजिए दो पड़ोस हैं, पड़ोस A और पड़ोस B।
- पड़ोस A में सामान्य पुलिसिंग होती है।
- पड़ोस B में अत्यधिक पुलिसिंग होती है। वहां पुलिस लगातार मौजूद है, हर किसी की जेब और रिकॉर्ड की जांच कर रही है।
भले ही पड़ोस B के लोग पड़ोस A के लोगों जितने ही अहिंसक हों, फिर भी वे अधिक "जोखिम मार्कर" (जैसे पिछली गिरफ्तारियां या अदालती उपस्थिति में विफलता) जमा करते हैं क्योंकि उन पर अधिक बारीकी से नज़र रखी जाती है।
उपमा:
- पड़ोस A में, एक व्यक्ति को "जोखिम मार्कर" तभी मिल सकता है जब वह वास्तव में कुछ गलत करता है।
- पड़ोस B में, एक व्यक्ति को केवल इसलिए "जोखिम मार्कर" मिल सकता है क्योंकि वह गलत समय पर गलत जगह पर था, या किसी ऐसी मामूली गलती के लिए जिसे पड़ोस A के पुलिसकर्मी अनदेखा कर देते।
शोध पत्र सिद्ध करता है कि चूंकि पड़ोस B में अधिक "गलत मार्कर" (सिस्टम द्वारा चिह्नित निर्दोष लोग) हैं, इसलिए टूल उनके लिए कम सटीक हो जाता है। टूल "सर्वेक्षण की सीमा" (Surveillance Ceiling) से टकरा जाता है जहाँ यह सटीक नहीं हो पाता, चाहे एल्गोरिदम कितना भी स्मार्ट क्यों न हो। यह अंततः पड़ोस B के निर्दोष लोगों को बहुत अधिक दर पर चिह्नित करता है, जिससे उनके लिए "उच्च जोखिम" का लेबल और भी अविश्वसनीय हो जाता है।
5. "हिरासत की आवश्यक संख्या" (मानवीय लागत)
लेखक इन गणितीय समस्याओं को एक वास्तविक दुनिया की लागत में बदलते हैं: एक हिंसक अपराध को रोकने के लिए हमें कितने लोगों को जेल में रखना होगा?
- यदि टूल 11% बार सही है (जैसा कि वर्तमान प्रदर्शन स्तरों पर गणित कहता है), तो इसका मतलब है कि आपको 1 हिंसक अपराध को रोकने के लिए 9 लोगों को हिरासत में लेना होगा।
- इसका तात्पर्य यह है कि उन 9 में से 8 लोग भविष्य की हिंसा के मामले में निर्दोष थे और उन्हें अनावश्यक रूप से स्वतंत्रता से वंचित किया गया।
निष्कर्ष
पत्र यह निष्कर्ष निकालता है कि दुर्लभ हिंसक अपराधों के लिए, हमारे पास जो डेटा उपलब्ध है (आपराधिक रिकॉर्ड, गिरफ्तारी का इतिहास आदि), वह उच्च-विश्वास वाले निर्णय लेने के लिए पर्याप्त मजबूत नहीं है।
जब एक न्यायाधीश "हिंसा के लिए उच्च जोखिम" का लेबल देखता है, तो उसे बताया जा रहा है कि वह व्यक्ति खतरनाक होने की संभावना है। लेकिन गणित कहता है कि वह लेबल वास्तव में 10 में से 8 या 9 बार गलत होता है।
सिफारिश:
लेखक सुझाव देते हैं कि यदि हम इन उपकरणों का उपयोग जारी रखते हैं, तो हमें अनिश्चितता के बारे में ईमानदार होना चाहिए। केवल "उच्च जोखिम" कहने के बजाय, रिपोर्टों में यह कहना चाहिए:
"इस व्यक्ति को उच्च जोखिम के रूप में चिह्नित किया गया है, लेकिन वर्तमान डेटा के आधार पर, इस फ्लैग के सही होने की संभावना केवल 11% है। एक हिंसक अपराध को रोकने के लिए, हमें संभवतः 9 ऐसे लोगों को हिरासत में लेना होगा जिन्होंने अपराध नहीं किया होता।"
यह पत्र तर्क देता है कि जब तक हमारे पास वर्तमान डेटा से 30 से 50 गुना बेहतर डेटा नहीं आ जाता, तब तक हमें इन "उच्च जोखिम" लेबल को इस प्रमाण के रूप में मानना बंद कर देना चाहिए कि कोई व्यक्ति खतरनाक है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।