Before Prediction Becomes Punishment: Governing AI in Bangladesh's Criminal Justice System

कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ एक कंप्यूटर प्रोग्राम यह तय करने में मदद करता है कि किसे गिरफ्तार किया जाना चाहिए, किसे मुकदमे से पहले जेल में रहना चाहिए, और किसे कितनी सजा मिलनी चाहिए। यह कोई विज्ञान कथा नहीं है; यह बांग्लादेश सहित कई स्थानों में आपराधिक न्याय की उभरती वास्तविकता है। इन प्रणालियों के पीछे का मूल विचार "प्रेडिक्टिव पुलिसिंग" (पूर्वानुमानित पुलिसिंग) या "रिस्क स्कोरिंग" (जोखिम स्कोरिंग) है। एक पुलिस अधिकारी या न्यायाधीश केवल अपनी याददाश्त या एक अकेली फाइल पर निर्भर रहने के बजाय, एक ऐसे सॉफ्टवेयर का उपयोग करते हैं जो विशाल मात्रा में डेटा को स्कैन करता है—जैसे पिछले गिरफ्तारियां, लोग कहाँ रहते हैं, उनकी उम्र, या उनका पारिवारिक इतिहास—यह अनुमान लगाने के लिए कि भविष्य में कौन अपराध कर सकता है या रिहा होने पर किसकी भागने की संभावना है। इसका वादा दक्षता है: बुरे तत्वों को तेजी से पकड़ना और सभी के साथ समान व्यवहार करना। लेकिन खतरा भी उतना ही वास्तविक है। यदि कंप्यूटर पिछले गलतियों से सीखता है, जैसे कि एक ऐसा पुलिस बल जिसने केवल गरीब मोहल्लों में गश्त लगाई, तो यह पुलिस को फिर से उन्हीं मोहल्लों में गश्त लगाने के लिए कहेगा, जिससे एक ऐसा चक्र बन जाएगा जहाँ गरीबों को अधिक दंडित किया जाता है, इसलिए नहीं कि वे बुरे हैं, बल्कि इसलिए क्योंकि उन पर अधिक कड़ी नज़र रखी गई थी। आज राष्ट्रों के सामने सवाल यह नहीं है कि क्या इन उपकरणों का उपयोग किया जाए, बल्कि यह है कि ऐतिहासिक अन्याय को स्वचालित दंड में बदले बिना इनका उपयोग कैसे किया जाए।

एक शोधकर्ता शंजिदा इसरात जहान एफत, जो नोट्रे डेम यूनिवर्सिटी बांग्लादेश से लिख रही हैं, ने अपने देश के लिए इसी सटीक क्षण का परीक्षण किया है। बांग्लादेश वर्तमान में ऐसी प्रणाली के लिए डिजिटल आधार तैयार कर रहा है। सरकार ने ऐसे पोर्टेबल उपकरण पेश किए हैं जो किसी व्यक्ति के फिंगरप्रिंट को स्कैन कर सकते हैं और तुरंत उनकी पहचान, पासपोर्ट और आपराधिक इतिहास निकाल सकते हैं। नए कानून अब डिजिटल रिकॉर्ड को अदालत में साक्ष्य के रूप में उपयोग करने की अनुमति देते हैं, और 2026 से 2030 तक आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) के उपयोग को निर्देशित करने के लिए एक मसौदा राष्ट्रीय नीति तैयार की जा रही है। हालाँकि, देश के पास अभी तक स्पष्ट नियम नहीं हैं कि कंप्यूटर का अनुमान कब किसी व्यक्ति की स्वतंत्रता छीनने के लिए पर्याप्त मजबूत है। एफत का कार्य एक रोडमैप है जिसे देश को एक महत्वपूर्ण गलती करने से रोकने के लिए डिज़ाइन किया गया है: ऐसी तकनीक को अपनाना जो आधुनिक दिखती है लेकिन वास्तव में पुराने असमानताओं को गहरा करती है।

यह शोध पत्र शुरू होता है यह मानचित्रण करके कि ये कंप्यूटर प्रणालियाँ न्याय प्रक्रिया में ठीक कहाँ प्रवेश कर सकती हैं, पुलिस द्वारा अपनी गश्त की योजना बनाने के क्षण से लेकर एक कैदी की रिहाई के दिन तक। शोधकर्ता सात प्रमुख चरणों की पहचान करता है जहाँ चीजें गलत हो सकती हैं। उदाहरण के लिए, जब पुलिस यह अनुमान लगाने के लिए सॉफ्टवेयर का उपयोग करती है कि अपराध कहाँ हो सकते हैं, तो सिस्टम केवल उन क्षेत्रों में अधिक अधिकारियों को भेज सकता है जहाँ पहले से ही भारी पुलिस व्यवस्था है। यह एक चक्र बनाता है जहाँ अधिक अधिकारी अधिक मामूली अपराध पाते हैं, जिसे कंप्यूटर फिर उस क्षेत्र के खतरनाक होने के प्रमाण के रूप में उपयोग करता है, जिससे और अधिक अधिकारियों की गश्त को उचित ठहराया जाता है। यह अपराध का तटस्थ अवलोकन नहीं है; यह एक 'स्व-सिद्ध भविष्यवाणी' (self-fulfilling prophecy) है। इसी प्रकार, जब चेहरे की पहचान (facial recognition) या उंगलियों के निशान के माध्यम से संदिग्धों की पहचान करने के लिए सॉफ्टवेयर का उपयोग किया जाता है, तो सिस्टम की एक गलती गलत गिरफ्तारी का कारण बन सकती है। शोध पत्र नोट करता है कि ये प्रणालियाँ अक्सर विशिष्ट समूहों, जैसे गहरे रंग की त्वचा वाली महिलाओं या धार्मिक कपड़े पहनने वाले लोगों के लिए सटीकता में संघर्ष करती हैं, जिससे उन लोगों के लिए त्रुटि की संभावना बढ़ जाती है जो पहले से ही कमजोर हैं।

एफत का तर्क है कि बांग्लादेश में वर्तमान कानून इन समस्याओं को रोकने के लिए पर्याप्त नहीं हैं। जबकि व्यक्तिगत डेटा की सुरक्षा के बारे में नए नियम हैं, उन नियमों में एक बड़ा लूपहोल (छेद) है जो पुलिस को गोपनीयता सुरक्षा को दरकिनार करने की अनुमति देता है जब वे दावा करते हैं कि वे अपराध की जांच कर रहे हैं। कानून डेटा की रक्षा करता है, लेकिन यह नहीं बताता कि एक न्यायाधीश को किसी व्यक्ति को जेल में रखने का निर्णय लेते समय कंप्यूटर के अनुमान के साथ कैसा व्यवहार करना चाहिए। शोधकर्ता इस बात पर जोर देती है कि केवल एक मानव "इन द लूप" (प्रक्रिया के भीतर) होना—जिसका अर्थ है कि एक इंसान निर्णय लेने से पहले कंप्यूटर के उत्तर को देखता है—पर्याप्त नहीं है। यदि कोई न्यायाधीश या पुलिस अधिकारी मशीन पर भरोसा करने के लिए दबाव महसूस करता है, या यदि वह नहीं समझता कि मशीन उसके निष्कर्ष तक कैसे पहुँची, तो उनकी उपस्थिति समस्या को ठीक नहीं करती है। एक मानव जो केवल स्कोर पर हस्ताक्षर कर देता है बिना उसकी सीमाओं को समझे, वह वास्तविक निगरानी प्रदान नहीं कर रहा है; वह केवल एक रबर स्टैम्प है।

इसे हल करने के लिए, शोध पत्र एक सख्त पांच-चरणीय परीक्षण, या "पांच द्वार" (five gates) का प्रस्ताव करता, जिसे किसी भी नई प्रणाली को लोगों की स्वतंत्रता के बारे में निर्णय लेने से पहले पास करना होगा। पहला द्वार एक स्पष्ट कानून की मांग करता है। सरकार के पास एक विशिष्ट लिखित नियम होना चाहिए जो यह बताता हो कि कंप्यूटर को वास्तव में क्या करने की अनुमति है, कौन इसका उपयोग कर सकता है, और यह किस डेटा को देख सकता है। "अपराध से लड़ने" की एक सामान्य इच्छा बड़े पैमाने पर निगरानी को उचित ठहराने के लिए पर्याप्त नहीं है। दूसरा द्वार आवश्यकता का प्रमाण मांगता है। अधिकारियों को यह दिखाना होगा कि उनके पास एक वास्तविक समस्या है जिसे सरल, कम दखल देने वाले तरीकों से हल नहीं किया जा सकता है, और कि नई प्रणाली के लाभ इसके जोखिमों से अधिक हैं।

तीसरा द्वार शायद सबसे महत्वपूर्ण है: स्थानीय वैधता (local validity)। एक प्रणाली जो एक देश, या एक शहर में अच्छी तरह काम करती है, वह दूसरे में पूरी तरह विफल हो सकती है। शोध पत्र इस बात पर जोर देता है कि बांग्लादेश में उपयोग किए जाने वाले किसी भी उपकरण का परीक्षण वास्तविक बांग्लादेशी लोगों पर, स्थानीय परिस्थितियों में, स्थानीय भाषाओं और स्थानीय डेटा के साथ किया जाना चाहिए। आप बस विदेश से एक प्रणाली खरीदकर यह मान नहीं सकते कि यह काम करेगी। चौथा द्वार निष्पक्षता पर केंद्रित है। सिस्टम की जाँच की जानी चाहिए कि क्या यह लोगों के कुछ समूहों, जैसे कि गरीब, महिलाएं, या जातीय अल्पसंख्यकों के लिए अधिक गलतियाँ करता है। यदि कंप्यूटर किसी विशिष्ट समूह पर गलत आरोप लगाने की अधिक संभावना रखता है, तो इसका उपयोग नहीं किया जा सकता। अंतिम द्वार चुनौती देने के अधिकार के बारे में है। यदि कंप्यूटर के आउटपुट का उपयोग किसी को गिरफ्तार करने या सजा देने के लिए किया जाता है, तो उस व्यक्ति को बताया जाना चाहिए कि निर्णय कैसे लिया गया, उसे डेटा देखने का मौका दिया जाना चाहिए, और उसे परिणाम की समीक्षा के लिए मानव से पूछने की अनुमति दी जानी चाहिए। यदि सिस्टम एक गुप्त "ब्लैक बॉक्स" है जिसे कोई भी चुनौती नहीं दे सकता, तो यह इस द्वार में विफल हो जाता है।

शोधकर्ता स्पष्ट है कि क्या नहीं होना चाहिए। शोध पत्र केवल व्यक्तित्व या पृष्ठभूमि के आधार पर किसी व्यक्ति के भविष्य के व्यवहार की भविष्यवाणी करने के लिए कंप्यूटरों का उपयोग करने के विरुद्ध है। यह इन उपकरणों का उपयोग गिरफ्तारी, हिरासत या सजा पर अंतिम निर्णय लेने के लिए एक मजबूत, स्वतंत्र मानव समीक्षा के बिना करने के विरुद्ध भी है। शोध पत्र यह दावा नहीं करता कि न्याय में आर्टिफिशियल इंटेलिजेंस का कोई स्थान नहीं है। वास्तव में, यह सुझाव देता है कि ये उपकरण गैर-दमनकारी कार्यों के लिए बहुत सहायक हो सकते हैं, जैसे लापता व्यक्तियों को खोजना, धोखाधड़ी का पता लगाना, या निर्दोष होने को साबित करने वाले दस्तावेजों को खोजने के लिए सबूतों के विशाल ढेर को व्यवस्थित करना। लक्ष्य तकनीक का उपयोग प्रणाली को बेहतर बनाने में मदद करने के लिए करना है, न कि तकनीक को सही और गलत के निर्णय लेने के लिए कब्जा करने देने में।

शोध पत्र बांग्लादेश के लिए आगे बढ़ने के एक व्यावहारिक योजना के साथ समाप्त होता है। यह सुझाव देता है कि सरकार को पहले उन सभी प्रणालियों का सूचीकरण (inventory) करना चाहिए जो उनके पास पहले से मौजूद हैं या जिन्हें वे खरीदने की योजना बना रहे हैं। उन्हें ऐसी तकनीक के किसी भी उपयोग को रोक देना चाहिए जो पांच द्वारों का उल्लंघन करता है। फिर, उन्हें पुलिस और अदालतों द्वारा उपयोग किए जाने वाले सभी एल्गोरिदम की एक सार्वजनिक सूची बनानी चाहिए, ताकि नागरिकों को पता चल सके कि क्या उपयोग किया जा रहा है। अंत में, उन्हें विशेषज्ञों का एक स्वतंत्र समूह बनाना चाहिए—जिसमें न्यायाधीश, वकील और सामुदायिक प्रतिनिधि शामिल हों—ताဖြင့် इन उपकरणों की निगरानी की जा सके और यदि वे नुकसान पहुँचाने लगें तो उन्हें रोका जा सके। संदेश एक सतर्क आशावाद का है। बांग्लादेश के पास एक ऐसा न्याय तंत्र बनाने का अवसर है जो आधुनिक और निष्पक्ष दोनों हो, लेकिन केवल तभी जब वह तकनीक के बहुत अधिक स्थापित होने से पहले स्पष्ट नियम लागू कर दे। आपराधिक न्याय का भविष्य अक्षम संस्थानों और स्वचालित अन्याय के बीच चुनाव नहीं होना चाहिए; एक तीसरा मार्ग है जहाँ तकनीक कानून की सेवा करती है, न कि उसका स्थान लेती है।