Compliant But Unsatisfactory: The Gap Between Auditing Standards and Practices for Probabilistic Genotyping Software
यह शोधपत्र संभाव्य जीनोटाइपिंग सॉफ्टवेयर (probabilistic genotyping software) के लिए ASB 018 ऑडिटिंग मानक की आलोचना करता है, और यह तर्क देता है कि इसका अस्पष्ट डिज़ाइन अनुपालन और प्रभावशीलता के बीच एक अंतराल पैदा करता है, जिससे ऑडिट संतोषजनक दिखाई दे सकते हैं जबकि वे अमेरिकी आपराधिक कानूनी प्रणाली में सॉफ्टवेयर के उपयोग पर आवश्यक प्रतिबंध स्थापित करने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का विवरण दिया गया है, जिसे सरल अवधारणाओं और रचनात्मक उपमाओं (analogies) के माध्यम से समझाया गया है।
बड़ी तस्वीर: एक "मंजूरी की मुहर" जो वास्तव में मुहर लगी ही नहीं है
कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ अपराधों को सुलझाने के लिए एक नए, हाई-टेक जादुई बॉक्स का उपयोग किया जाता है। यह बॉक्स अपराध स्थल से डीएनए (DNA) के नमूने लेता है और न्यायाधीश को बताता है, "99% संभावना है कि यह संदिग्ध घटनास्थल पर मौजूद था।"
चूंकि यह बॉक्स बहुत शक्तिशाली है, इसलिए कानूनी प्रणाली को यह सुनिश्चित करने की आवश्यकता है कि अदालत में गवाही देने से पहले यह सही ढंग से काम करता है या नहीं। इसलिए, विशेषज्ञों के एक समूह ने एक नियम पुस्तिका (जिसे ASB 018 कहा जाता है) बनाई ताकि प्रयोगशालाओं को इन बॉक्सों का परीक्षण करने का तरीका बताया जा सके। विचार यह था: "यदि कोई लैब इन नियमों का पालन करती है, तो बॉक्स उपयोग के लिए सुरक्षित है।"
समस्या: इस शोध पत्र के शोधकर्ताओं ने पाया कि प्रयोगशालाएं कागज़ पर नियम पुस्तिका का पूरी तरह से पालन कर सकती हैं, लेकिन फिर भी बॉक्स टूटा हुआ, खतरनाक या भ्रामक हो सकता है। वे इसे "अनुपालनशील लेकिन असंतोषजनक" (Compliant but Unsatisfactory) कहते हैं। यह एक ऐसे रेस्टोरेंट की तरह है जो अग्नि शमन यंत्र (fire extinguisher) होने के कारण स्वास्थ्य निरीक्षण में तो पास हो जाता है, भले ही वह सड़ा हुआ खाना परोस रहा हो।
सिस्टम विफल होने के पाँच तरीके (द "लूपहोल्स" या कमियाँ)
शोधकर्ताओं ने नियम पुस्तिका और लैब की पाँच वास्तविक रिपोर्टों का अध्ययन किया। उन्होंने पाया कि लैब ने नियमों के अक्षरशः पालन तो किया, लेकिन उनके मूल भाव के साथ "धोखाधड़ी" की, जिससे पाँच बड़े अंतराल (gaps) पैदा हुए।
1. "रोबोट बनाम मानव" अंतराल (ऑडिट स्कोप)
- लक्ष्य: नियम पुस्तिका कहती है कि आपको पूरे सिस्टम का परीक्षण करना चाहिए, जिसमें बटन दबाने वाला इंसान भी शामिल है।
- वास्तविकता: लैब ने केवल मशीन का परीक्षण किया। उन्होंने यह मान लिया कि मानव ऑपरेटर त्रुटिहीन है।
- उपमा: एक सेल्फ-ड्राइविंग कार का परीक्षण करने की कल्पना करें। नियम पुस्तिका कहती है, "कार और ड्राइवर दोनों का परीक्षण करें।" लेकिन लैब ने केवल एक आदर्श, खाली ट्रैक पर कार का परीक्षण किया। उन्होंने यह परीक्षण नहीं किया कि क्या होता है जब एक भ्रमित मानव ड्राइवर स्टीयरिंग संभालता है या गलत डेस्टिनेशन डाल देता है। असल जिंदगी में, इंसान गलतियाँ करते हैं, और यदि मशीन उस मानवीय त्रुटि को ध्यान में नहीं रखती है, तो वह गलत उत्तर दे सकती है।
2. "नकली मेनू" अंतराल (इनपुट्स)
- लक्ष्य: आपको मशीन का परीक्षण उस भोजन के साथ करना चाहिए जैसा आप वास्तव में परोसते हैं (असली अपराध के नमूने)।
- वास्तविकता: लैब ने मशीन का परीक्षण उन नमूनों के साथ किया जो बनाने में "सुविधाजनक" थे, न कि उन नमूनों के साथ जो वास्तविक, अस्त-व्यस्त अपराध स्थलों जैसे दिखते हैं।
- उपमा: एक शेफ यह साबित करना चाहता है कि उसका सूप अच्छा है। नियम पुस्तिका कहती है, "उन सामग्रियों के साथ परीक्षण करें जिनका आप वास्तव में उपयोग करते हैं।" लेकिन शेफ ने केवल एकदम सही, स्टोर से खरीदे गए टमाटरों के साथ परीक्षण किया। उन्होंने उन टेढ़े-मेढ़े और खराब टमाटरों के साथ परीक्षण नहीं किया जो उन्हें वास्तव में खेत से मिलते हैं। बेहतरीन टमाटरों के साथ सूप स्वादिष्ट लग सकता है, लेकिन असली टमाटरों के साथ वह कीचड़ बन सकता है।
3. "अस्पष्ट लक्ष्य" अंतराल (स्टैंडर्ड्स)
- लक्ष्य: परीक्षण से पहले, आपको यह स्पष्ट रूप से परिभाषित करना होगा कि "सफलता" का अर्थ क्या है।
- वास्तविकता: लैब ने सफलता को परिभाषित नहीं किया। उन्होंने बस इतना कहा, "परिणाम अच्छे दिखे।"
- उपमा: एक शिक्षक द्वारा छात्र को ग्रेड देने की कल्पना करें। नियम पुस्तिका कहती है, "एक 'A' ग्रेड कैसा दिखता है, इसे परिभाषित करें।" लेकिन शिक्षक बस यह कहता है, "मुझे लगता है कि यह निबंध 'A' है क्योंकि यह सही लग रहा है।" बिना किसी स्पष्ट मानदंड (जैसे, "5 पैराग्राफ होने चाहिए") के, कोई भी दावा कर सकता है कि वह पास हो गया। लैब ने "उच्च" या "सहज" जैसे शब्दों का उपयोग किया, न कि ठोस संख्याओं का, ताकि वे दावा कर सकें कि मशीन काम कर रही थी, भले ही वह नहीं कर रही थी।
4. "छोटा सैंपल" अंतराल (परफॉर्मेंस)
- लक्ष्य: आपको यह सुनिश्चित करने के लिए कि मशीन काम करती है, बड़ी संख्या में कठिन मामलों पर इसका परीक्षण करना चाहिए।
- वास्तविकता: उन्होंने इसका परीक्षण नमूनों के एक बहुत छोटे और आसान समूह पर किया।
- उपमा: यह साबित करने के लिए कि पैराशूट काम करता है, आपको केवल 1-फुट की ऊंचाई से कूदना नहीं चाहिए। आपको विमान से कूदना होगा। लैब केवल एक छोटे कदम से कूदे (आसान नमूने) और दावा किया, "देखिये! यह काम कर गया!" उन्होंने पैराशूट का परीक्षण ऊँची छलांगों (जटिल, अस्त-व्यस्त डीएनए नमूनों) पर नहीं किया जहाँ वह वास्तव में विफल हो सकता है।
5. "कोई रेड लाइन नहीं" अंतराल (जजमेंट)
- लक्ष्य: यदि मशीन गलती करती है, तो आपको एक स्पष्ट रेखा खींचनी होगी और कहना होगा, "हम इस तरह के मामलों में मशीन का उपयोग कभी नहीं करेंगे।"
- वास्तविकता: लैब ने गलतियों को देखा लेकिन रेखा नहीं खींची। उन्होंने बस इतना कहा, "मशीन ने अजीब आवाज की, लेकिन एक समझदार इंसान इसे ठीक कर सकता है।"
- उपमा: एक पायलट के विमान में एक चेतावनी लाइट जलती है जब इंजन फेल हो रहा होता है। नियम पुस्तिका कहती है, "यदि लाइट जले, तो आपको उड़ना बंद कर देना चाहिए।" लैब ने कहा, "लाइट जली, लेकिन हमें लगता है कि पायलट इतना समझदार है कि वह इसे अनदेखा कर सके और उड़ना जारी रख सके।" उन्होंने खराब मामलों पर रोक नहीं लगाई; वे बस इस उम्मीद में रहे कि इंसान गलती पकड़ लेंगे।
ऐसा क्यों हुआ? (डिज़ाइन संबंधी खामियां)
शोध पत्र का तर्क है कि नियम पुस्तिका स्वयं खराब तरीके से डिज़ाइन की गई थी। यह दुर्भावनापूर्ण नहीं थी, लेकिन बहुत ढीली थी।
- "शायद" का अधिक उपयोग: नियम पुस्तिका में "विचार करें" (consider), "पता लगाएं" (address), और "मूल्यांकन करें" (evaluate) जैसे शब्दों का उपयोग किया गया था। ये नरम शब्द हैं। आप किसी समस्या पर एक सेकंड के लिए विचार करके उसे अनदेखा कर सकते हैं। लैब ने केवल न्यूनतम काम किया।
- अलग-थलग नियम (Siloed Rules): नियम पुस्तिका ने परीक्षण के विभिन्न हिस्सों को अलग-अलग वस्तुओं के रूप में माना। इसने कहा, "मशीन का परीक्षण करें" और "इंसान का परीक्षण करें" को दो अलग-अलग कार्यों के रूप में। लैब ने उन्हें अलग-अलग किया, इसलिए वे कभी देख ही नहीं पाए कि मानवीय गलतियाँ मशीन को कैसे बिगाड़ देती हैं।
- "कौन" का अभाव: नियम पुस्तिका ने स्पष्ट रूप से यह नहीं बताया कि परीक्षण किसे करना चाहिए। कभी-कभी, जिस कंपनी ने मशीन बनाई थी, उसी ने लैब को मशीन का परीक्षण करने में मदद की। यह कार निर्माता से उसके अपने ब्रेक का परीक्षण करने के लिए कहने जैसा है।
निष्कर्ष (The Takeaway)
शोधकर्ता यह नहीं कह रहे हैं कि डीएनए सॉफ्टवेयर बुरा है। वे कह रहे हैं कि सुरक्षा जाल (safety net) में बहुत सारे छेद हैं।
यदि हम चाहते हैं कि अदालत में ये उपकरण निष्पक्ष और सुरक्षित हों, तो हम केवल एक चेकलिस्ट के साथ नहीं रह सकते जो कहती है "क्या आपने किया?" हमें एक ऐसी चेकलिस्ट चाहिए जो कहती है "क्या आपने इसे निर्दोष लोगों की रक्षा करने के लिए पर्याप्त अच्छी तरह से किया?"
समाधान क्या है?
- विशिष्ट बनें: यह न कहें कि "मानव पर विचार करें।" कहें "इंसान द्वारा की जाने वाली 10 विशिष्ट गलतियों का परीक्षण करें।"
- स्पष्ट रहें: भावनाओं के बजाय संख्याओं के साथ "सफलता" को परिभाषित करें।
- सभी को शामिल करें: केवल लैब से यह न पूछें कि वे क्या चाहते हैं। बचाव पक्ष के वकीलों, पीड़ितों और वैज्ञानिकों से भी पूछें कि उन्हें सुरक्षित महसूस करने के लिए क्या चाहिए।
संक्षेप में: एक ऐसी नियम पुस्तिका जो आपको बिना वास्तव में सुरक्षित हुए पास होने की अनुमति देती है, वह वास्तव में कोई नियम पुस्तिका नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।