Model Multiplicity and Predictive Arbitrariness in Recidivism Risk Assessment
यह शोध पत्र यह प्रदर्शित करके पुनरावृत्ति जोखिम मूल्यांकन में भविष्य कहनेवाला मनमानापन (predictive arbitrariness) की जांच करता है कि कई समान रूप से सटीक मॉडलों के अस्तित्व के बावजूद, उनके पूर्वानुमान अक्सर व्यवहार में पर्याप्त सहमति प्रदर्शित करते हैं, और निर्णय लेने की विसंगतियों को कम करने के लिए एक प्रभावी समाधान के रूप में इन मॉडलों में से सबसे कम जोखिम स्कोर आवंटित करने की नीति का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक न्यायाधीश हैं जिसे यह तय करना है कि क्या किसी कैदी को समय से पहले रिहा किया जाना चाहिए। आपके पास एक कंप्यूटर प्रोग्राम है जो कैदी को एक "जोखिम स्कोर" (risk score) देता है ताकि यह अनुमान लगाया जा सके कि क्या वह फिर से अपराध करेगा। यह वास्तविक दुनिया की स्थिति है जिसका यह शोध पत्र अध्ययन करता है, विशेष रूप से कैटालोनिया, स्पेन में उपयोग की जाने वाली RisCanvi नामक प्रणाली पर ध्यान केंद्रित करते हुए।
यहाँ इस शोध पत्र की कहानी है, जिसे सरल अवधारणाओं और उपमाओं में विभाजित किया गया है।
1. समस्या: "राशोमोन" प्रभाव (The "Rashomon" Effect)
फिल्म राशोमोन में, चार अलग-अलग गवाह एक ही अपराध के बारे में चार पूरी तरह से अलग कहानियाँ सुनाते हैं, फिर भी सभी कहानियाँ तर्कसंगत लगती हैं।
लेखकों ने पाया कि मशीन लर्निंग मॉडल भी इसी समस्या से ग्रस्त होते हैं। जब किसी कैदी के दोबारा अपराध करने की भविष्यवाणी करने की कोशिश की जाती है, तो वहाँ केवल एक "सही" गणितीय सूत्र नहीं होता। वहाँ कई अलग-अलग सूत्र हैं जो अतीत की भविष्यवाणी करने में समान रूप से सक्षम हैं।
- समस्या: यदि आपके पास दो समान रूप से स्मार्ट सूत्र हैं, लेकिन वे एक ही व्यक्ति के लिए अलग-अलग उत्तर देते हैं (एक कहता है "कम जोखिम", दूसरा कहता है "उच्च जोखिम"), तो निर्णय मनमाना (arbitrary) हो जाता है। यह किसी के भविष्य का फैसला करने के लिए पासा फेंकने जैसा महसूस होता है। इसे प्रेडिक्टिव मल्टीप्लिसिटी (Predictive Multiplicity) कहा जाता है।
2. समाधान: पहले डेटा को साफ करना
बेहतर सूत्र बनाने से पहले, लेखकों ने महसूस किया कि कंप्यूटर जिस "पाठ्यपुस्तक" का अध्ययन कर रहा था, वह अव्यवस्थित थी।
- पुराना तरीका: वर्तमान प्रणाली (RisCanvi) ऐसे डेटा पर प्रशिक्षित थी जो अक्सर पुराना या गलत लेबल वाला था क्योंकि यह ट्रैक करना कठिन था कि रिहाई के बाद किसी ने वास्तव में नया अपराध किया या नहीं (कानूनी देरी के कारण)। यह 1990 के मानचित्र का उपयोग करके गाड़ी चलाना सीखने जैसा था।
- नया तरीका: लेखकों ने कानूनी विशेषज्ञों के साथ मिलकर एक कंप्यूटर प्रोग्राम लिखा जो डेटा को सही ढंग से लेबल करने के लिए जटिल कानूनी नियमों का सख्ती से पालन करता है। उन्होंने 17,500 कैदियों का एक विशाल, स्वच्छ डेटासेट बनाया। यह कंप्यूटर को एक बिल्कुल नया, हाई-डेफिनिशन जीपीएस मैप देने जैसा है।
3. बेहतर मॉडल बनाना: "फेयर स्कोरकार्ड" (The "Fair Scorecard")
इस स्वच्छ डेटा का उपयोग करके, लेखकों ने नए मॉडल बनाए। वे केवल सटीक नहीं बनाना चाहते थे; वे उन्हें निष्पक्ष (fair) और तार्किक (logical) भी बनाना चाहते थे।
- तर्क (Logic): उन्होंने सुनिश्चित किया कि मॉडल सामान्य ज्ञान का पालन करे: यदि कोई कैदी डिग्री प्राप्त करता है या कोई पेशा सीखता है (पुनर्वास), तो उसका जोखिम स्कोर अनिवार्य रूप से कम होना चाहिए। यदि उसकी बुरी आदतें हैं, तो यह बढ़ जाना चाहिए।
- निष्पक्षता (Fairness): उन्होंने सुनिश्चित किया कि मॉडल विशिष्ट समूहों (जैसे विदेशियों बनाम स्थानीय लोगों) को दूसरों की तुलना में अनुचित रूप से दंडित न करे।
4. बड़ी खोज: "कई रास्ते, एक ही मंजिल"
यह इस शोध पत्र का सबसे आश्चर्यजनक हिस्सा है। लेखकों ने इन "समान रूप से स्मार्ट, निष्पक्ष" मॉडलों के एक बड़े समूह (एक "राशोमोन सेट") को इकट्ठा किया और पूछा: क्या वे सभी एक-दूसरे से असहमत हैं?
उत्तर: नहीं।
- उपमा: कल्पना कीजिए कि 100 विशेषज्ञ नाविक धुंध भरे समुद्र में एक जहाज का मार्गदर्शन करने की कोशिश कर रहे हैं। आप उम्मीद कर सकते हैं कि वे सभी अलग-अलग दिशाओं की ओर इशारा करेंगे। इसके बजाय, लेखकों ने पाया कि 91% मामलों में, सभी 100 नाविक बिल्कुल एक ही दिशा में सहमत थे।
- पेंच: वे केवल उन कुछ मामलों में असहमत थे जो निर्णय की सीमा (decision boundary) के बिल्कुल किनारे पर थे। अधिकांश कैदियों के लिए, मॉडल पूर्ण सहमति में थे।
- सबक: भले ही कई अलग-अलग गणितीय सूत्र हों, इसका मतलब यह नहीं है कि भविष्यवाणियाँ अराजक हैं। "मनमानापन" सिद्धांत की तुलना में बहुत कम है।
5. समाधान: "संदेह का लाभ" नियम (The "Benefit of the Doubt" Rule)
तो, उन कैदियों के छोटे समूह के साथ आप क्या करते हैं जहाँ मॉडल वास्तव में असहमत होते हैं?
लेखक एक सरल नीति प्रस्तावित करते हैं जिसे "लोवेस्ट-रिस्क पॉलिसी" (Lowest-Risk Policy) (या Favor Rei, एक कानूनी सिद्धांत जिसका अर्थ है "प्रतिवादी के पक्ष में") कहा जाता है।
- यह कैसे काम करता है: यदि मॉडल A कहता है "उच्च जोखिम" और मॉडल B कहता है "कम जोखिम", तो आप बस कम जोखिम (Low Risk) वाला स्कोर चुनते हैं।
- यह क्यों काम करता है: यह एक सुरक्षा जाल की तरह कार्य करता है। यह सुनिश्चित करता है कि यदि कोई संदेह है, तो कैदी को संदेह का लाभ मिले।
- परिणाम: इस सरल नियम ने वास्तव में सिस्टम को एक एकल जटिल मॉडल या सभी मॉडलों के औसत की तुलना में अधिक सटीक और निष्पक्ष बनाया। इसने उन लोगों की संख्या को कम कर दिया जिन्हें गलत तरीके से उच्च-जोखिम वाला लेबल किया गया था, बिना खतरनाक लोगों को निकल जाने दिए।
सारांश
यह शोध पत्र तर्क देता है कि हमें अपराध की भविष्यवाणी करने के लिए कई अलग-अलग AI मॉडल होने से डरने की आवश्यकता नहीं है।
- पहले अपने डेटा को साफ करें (अव्यवस्थित, पुराने मानचित्रों का उपयोग करना बंद करें)।
- ऐसे मॉडल बनाएं जो निष्पक्ष और तार्किक हों।
- यह समझें कि कई अलग-अलग मॉडलों के होने के बावजूद, वे आमतौर पर उत्तर पर सहमत होते हैं।
- जब वे असहमत हों, तो एक सरल नियम का पालन करें: सबसे सुरक्षित, सबसे कम जोखिम वाला विकल्प चुनें।
यह दृष्टिकोण "मनमाने" भविष्यवाणियों के भ्रमित करने वाले ढेर को न्याय प्रणाली के लिए एक विश्वसनीय, निष्पक्ष और तार्किक उपकरण में बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।