Barriers to Evidence in AI-Related Cases and the Privatization of Proof
यह शोध पत्र तर्क देता है कि एआई (AI) प्रणालियों पर मालिकाना नियंत्रण एक "प्रमाण के निजीकरण" को जन्म देता है जो पहुंच में सात प्रमुख विषमताओं को उत्पन्न करके मुकदमेबाजी में बाधा डालता है, और इन साक्ष्य विवादों को हल करने के लिए आनुपातिकता और विनिमेय पहुंच विकल्पों पर आधारित एक तीन-स्तरीय परीक्षण का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अदालत में हैं, यह साबित करने की कोशिश कर रहे हैं कि एक विशाल, अदृश्य रोबोट ने गलती की जिससे आपको नुकसान पहुँचा। आप जानते हैं कि कुछ गलत हुआ है, लेकिन उस रोबोट का मस्तिष्क, उसकी स्मृति और उसके द्वारा पालन किए जाने वाले नियम एक शक्तिशाली टेक कंपनी के स्वामित्व वाले एक 'ब्लैक बॉक्स' के अंदर बंद हैं।
यह शोध पत्र, जिसे शोधकर्ता सारा सेन, हन्ना इस्मेल और लूसिया ज़ेंग ने लिखा है, तर्क देता है कि आर्टिफिशियल इंटेलिजेंस (AI) से जुड़े मामलों में, साक्ष्य (एविडेंस) के नियम टूट जाते हैं। यह केवल इसलिए नहीं है कि सबूत ढूंढना कठिन है; बल्कि इसलिए है क्योंकि सबूतों को नियंत्रित करने वाले लोगों ने एक ऐसी दीवार खड़ी कर दी है जिसे आप चढ़ नहीं सकते, और जज अक्सर आपको उसे चढ़ने भी नहीं देते।
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है।
1. प्रमाण का "कैच-22" (Catch-22)
लेखक एक निराशाजनक चक्र का वर्णन करते हैं जिसे वे "प्रमाण का निजीकरण" (Privatization of Proof) कहते हैं।
- परिदृश्य: आपको (मुकदमा करने वाले व्यक्ति को) यह साबित करने के लिए AI की आंतरिक कार्यप्रणाली को देखने की आवश्यकता है कि वह पक्षपाती या दोषपूर्ण था।
- कंपनी का बचाव: कंपनी कहती है, "आप यह साबित नहीं कर सकते कि आपको कोड देखने की आवश्यकता है जब तक कि आपके पास पहले से ही यह प्रमाण न हो कि कोड टूटा हुआ है।"
- परिणाम: आप कोड प्राप्त करने के लिए कोड के बिना नहीं पा सकते, लेकिन आप कोड के बिना प्रमाण प्राप्त नहीं कर सकते। खेल शुरू होने से पहले ही समाप्त हो जाता है।
उपमा: कल्पना कीजिए कि आप पर जार से कुकी चुराने का आरोप है, लेकिन जार एक बेकर के स्वामित्व वाली तिजोरी में बंद है। बेकर कहता है, "आप तिजोरी खोलने के लिए कुकी के चूरे की जांच नहीं कर सकते जब तक कि आप पहले यह साबित न कर दें कि आपने कुकी चुराई है।" लेकिन आप तिजोरी के अंदर चूरा देखे बिना यह साबित नहीं कर सकते कि आपने कुकी चुराई है। चाबी बेकर के पास है, और जज अक्सर इस बात से सहमत होते हैं कि आप अभी तक इसे खोलने की "प्रमाणित" नहीं कर पाए हैं।
2. ब्लैक बॉक्स की सात "चाबियाँ"
पत्र सात विशिष्ट चीजों की पहचान करता है जो आमतौर पर छिपाकर रखी जाती हैं, जिससे कंपनी और मुकदमा करने वाले व्यक्ति के बीच एक बड़ा अंतर पैदा होता है। इन्हें ब्लैक बॉक्स को खोलने के लिए आवश्यक सात अलग-अलग चाबियों के रूप में सोचें:
- मॉडल: AI का वास्तविक "मस्तिष्क" (कोड और वेट्स)।
- डेटा: वे "पाठ्यपुस्तकें" जिन पर AI को प्रशिक्षित किया गया था।
- दस्तावेज़ीकरण (Documentation): रचनाकारों द्वारा लिखा गया "निर्देश मैनुअल"।
- लॉग्स (Logs): AI ने वास्तव में उपयोगकर्ताओं के साथ क्या किया और क्या कहा, इसका "डायरी"।
- विशेषज्ञता (Expertise): मशीन को समझने के लिए आवश्यक विशेष ज्ञान।
- कंप्यूट (Compute): परीक्षण चलाने के लिए आवश्यक विशाल सुपरकंप्यूटर।
- इन्फ्रास्ट्रक्चर (Infrastructure): वे भौतिक उपकरण और सर्वर जिनका कंपनी उपयोग करती है।
उपमा: यदि आप यह साबित करना चाहते हैं कि कार दोषपूर्ण है, तो आपको इंजन (मॉडल), ब्लूप्रिंट (दस्तावेज़ीकरण), इस्तेमाल किया गया ईंधन (डेटा) और मैकेनिक के नोट्स (लॉग्स) देखने की आवश्यकता है। लेकिन कार निर्माता कहता है, "हम इंजन नहीं दिखाएंगे क्योंकि यह एक व्यापारिक रहस्य (trade secret) है, और हम आपको मैकेनिक को काम पर रखने भी नहीं देंगे क्योंकि हमें आप पर भरोसा नहीं है।" इस बीच, निर्माता के पास सभी उपकरण और विशेषज्ञ हैं, जबकि आपके पास कार के बाहरी हिस्से के अलावा कुछ भी नहीं है।
3. "फंजिबल" (Fungible) ट्रिक (चाबियों को बदलना)
शोध पत्र का एक और दिलचस्प बिंदु यह है कि ये "चाबियाँ" फंजिबल हैं। यह एक फैंसी शब्द है जिसका अर्थ है कि उन्हें बदला जा सकता है।
उपमा: कल्पना कीजिए कि आपको एक विशिष्ट दस्तावेज़ खोजने के लिए एक कमरे में जाने की आवश्यकता है।
- विकल्प A: आप कमरे की मास्टर चाबी मांगते हैं (फुल सोर्स कोड)। मालिक कहता है, "नहीं, यह बहुत जोखिम भरा है।"
- विकल्प B: मालिक आपको कमरे को देखने के लिए एक खिड़की, या एक वीडियो फीड, या एक विश्वसनीय तीसरे पक्ष को अंदर जाकर यह बताने का प्रस्ताव देता है कि उन्होंने क्या देखा।
लेखक तर्क देते हैं कि अदालतों को इन बदलावों को स्वीकार करना चाहिए। यदि कंपनी "व्यापारिक रहस्यों" के कारण आपको मास्टर कुंजी (कोड) देने से मना करती है, तो उन्हें आपको कुछ और देना चाहिए जो उतना ही अच्छा काम करता हो, जैसे कि वीडियो फीड या एक नियंत्रित परीक्षण, ताकि आप अपना पक्ष सिद्ध कर सकें। आपको ठीक वही चाबी नहीं चाहिए; आपको बस जानकारी प्राप्त करने का एक तरीका चाहिए।
4. न्यायाधीशों के लिए तीन-चरणीय परीक्षण
इसे ठीक करने के लिए, लेखक एक सरल तीन-चरणीय परीक्षण का प्रस्ताव देते हैं जिसका उपयोग न्यायाधीशों को तब करना चाहिए जब कोई कंपनी साक्ष्य दिखाने से मना कर दे।
चरण 1: क्या अंतर (gap) वास्तविक है?
क्या मुकदमा करने वाले व्यक्ति को वास्तव में अपना मामला साबित करने के लिए अधिक जानकारी की आवश्यकता है, या उसके पास पहले से ही पर्याप्त जानकारी है? यदि उसके पास पर्याप्त है, तो रुक जाएं। यदि वह इसलिए फंसा हुआ है क्योंकि कंपनी चीजें छिपा रही है, तो चरण 2 पर जाएं।चरण 2: क्या अनुरोध निष्पक्ष है?
यह एक संतुलन बनाने का कार्य है। न्यायाधीश निम्नलिखित का वजन करते हैं:- लाभ: मुकदमा करने वाले व्यक्ति को साक्ष्य देखने से कितना लाभ होता है?
- जोखिम: कंपनी को साक्ष्य दिखाने से कितना नुकसान होगा?
- आधार रेखा (Baseline): न्यायाधीश पूछते हैं, "कानूनी दावे को समझने के लिए न्यूनतम कितनी जानकारी की आवश्यकता है?" यदि कंपनी उस न्यूनतम जानकारी को भी छिपा रही है, तो वह हार जाती है। यदि वह अतिरिक्त चीजें छिपा रही है जो आवश्यक नहीं हैं, तो उसे दिखाना पड़ सकता है।
चरण 3: क्या कोई सुरक्षित विकल्प (Safe Swap) मौजूद है?
यदि कंपनी कहती है, "हम कच्चा डेटा (raw data) नहीं दिखा सकते क्योंकि यह निजी है," तो न्यायाधीश पूछते हैं, "क्या आप हमें कुछ और दिखा सकते हैं जो उसी चीज़ को साबित करता हो?" शायद डेटा का एक संशोधित संस्करण, या एक सुरक्षित "सैंडबॉक्स" में एक परीक्षण रन जहाँ कंपनी देख सके लेकिन वादी (plaintiff) भी सीख सके। यदि कोई निष्पक्ष विकल्प मौजूद है, तो कंपनी को उसे प्रदान करना चाहिए।
यह क्यों मायने रखता है
पत्र निष्कर्ष निकालता है कि यदि इसे ठीक नहीं किया गया, तो AI मुकदमे इसलिए विफल नहीं होंगे कि AI ने कुछ गलत नहीं किया था, बल्कि इसलिए कि अदालत के नियम सत्य खोजने की कोशिश करने वाले व्यक्ति के खिलाफ हैं। "प्रमाण का निजीीकरण" का अर्थ है कि निजी कंपनियाँ प्रभावी रूप से साक्ष्य छिपाकर कानूनी परिणामों को तय कर रही हैं, जिससे अदालत एक ऐसी जगह बन रही है जहाँ वह व्यक्ति जीतता है जिसके पास सबसे अधिक रहस्य हैं, चाहे वास्तव में सही कौन भी हो।
संक्षेप में: लेखक इस "कैच-22" को रोकने के चाहते हैं कि कंपनियाँ या तो साक्ष्य दिखाएं या सत्य को सिद्ध करने का एक निष्पक्ष, वैकल्पिक तरीका प्रदान करें, जिससे यह सुनिश्चित हो सके कि न्याय व्यापारिक रहस्यों के पेवॉल (paywall) के पीछे बंद न रह जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।