Verifiable Provenance for AI Judicial Decision Support Using Transparency Logs and Citation Entailment
यह शोध पत्र VADP को प्रस्तुत करता है, जो AI न्यायिक निर्णय सहायता के लिए एक ऑडिट करने योग्य आर्किटेक्चर है जो ज़ीरो-ट्रस्ट एक्सेस कंट्रोल, नेचुरल लैंग्वेज इन्फरेंस और ट्रांसपेरेंसी लॉग्स को एकीकृत करके साक्ष्य अभिरक्षा (एविडेंशियरी कस्टडी) और व्याख्यात्मकता सुनिश्चित करने वाले सत्यापन योग्य अनुबंधों का निर्माण करता है, जबकि प्रॉम्प्ट इंजेक्शन और छेड़छाड़ के विरुद्ध उच्च रक्षा दर के साथ-साथ महत्वपूर्ण लेकिन क्षेत्राधिकार-निर्भर प्रदर्शन लाभों को अनुभवजन्य रूप से प्रदर्शित करता है और क्रॉस-ज्यूरिसडिक्शनल सामान्यीकरण तथा अपुष्ट क्रिप्टोग्राफिक सुदृढ़ता के संबंध में सीमाओं को स्वीकार करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कानून की उच्च-दांव वाली दुनिया में, एक न्यायाधीश का निर्णय तथ्यों, पूर्व दृष्टांतों (precedents) और कानूनों पर आधारित होता है। जब आर्टिफिशियल इंटेलिजेंस (AI) मामलों के शोध करने या सारांश तैयार करने में मदद करने के लिए इस क्षेत्र में प्रवेश करता है, तो एक नई समस्या उत्पन्न होती है: एक इंसान यह कैसे सुनिश्चित कर सकता है कि मशीन सच बोल रही है? एक कैलकुलेटर के विपरीत जो केवल संख्याओं की गणना करता है, आधुनिक AI कभी-कभी तथ्य गढ़ सकता है या ऐसे कानूनों का हवाला दे सकता है जो अस्तित्व में ही नहीं हैं, जिसे "हैलुसिनेशन" (hallucination) कहा जाता है। एक अदालत में, ऐसी त्रुटियां केवल गलतियाँ नहीं हैं; वे न्याय को कमजोर कर सकती हैं। इसलिए, चुनौती केवल एक स्मार्ट AI बनाने की नहीं है, बल्कि एक ऐसा AI बनाने की है जो अपने द्वारा किए गए प्रत्येक दावे के लिए साक्ष्य का एक स्पष्ट, अपरिवर्तनीय निशान छोड़ सके, जिससे एक इंसान यह सत्यापित कर सके कि वह जानकारी कहाँ से आई और क्या उसका उपयोग करने के लिए अधिकृत थी।
शोधकर्ता आदित्य मंडलोई और अनुष्का यादव ने VADP नामक एक प्रणाली प्रस्तावित की है, जिसे इस समस्या को हल करने के लिए डिज़ाइन किया गया है। यह हर AI-जनित कानूनी सिफारिश को एक डिजिटल "सत्यापन अनुबंध" (verification contract) में लपेट देती है। इस अनुबंध को एक सीलबंद लिफाफे के रूप में समझें जिसमें न केवल AI का उत्तर होता है, बल्कि इस बात का प्रमाण भी होता है कि उस उत्तर तक कैसे पहुँचा गया। यह प्रणाली पहले यह जाँचती है कि प्रश्न पूछने वाले व्यक्ति के पास जानकारी देखने का अधिकार है या नहीं, ठीक वैसे ही जैसे एक सुरक्षा गार्ड पहचान पत्र (badge) की जाँच करता है। इसके बाद, यह एक सुरक्षित डेटाबेस से प्रासंगिक कानूनी दस्तावेज़ प्राप्त करती है और यह जांचने के लिए दूसरे, विशेषीकृत AI का उपयोग करती है कि क्या प्राप्त दस्तावेज़ वास्तव में पहले AI द्वारा किए गए दावों का समर्थन करते हैं। यदि दस्तावेज़ दावों का समर्थन नहीं करते हैं, तो सिस्टम तुरंत त्रुटि को चिह्नित कर देता है। अंत में, पूरी प्रक्रिया—उपयोगकर्ता की पहचान से लेकर उपयोग किए गए विशिष्ट कानूनी पाठ तक—एक डिजिटल रिकॉर्ड में लॉक कर दी जाती है जिसे बिना कोई दृश्य निशान छोड़े बदला नहीं जा सकता, ठीक वैसे ही जैसे पत्र पर लगा मोम का सील (wax seal) यह प्रमाणित करता है कि उसे खोला नहीं गया है।
शोधकर्ताओं ने इस प्रणाली का परीक्षण वास्तविक भारतीय सर्वोच्च न्यायालय के मामलों पर आधारित 1,500 कानूनी प्रश्नों के एक बेंचमार्क का उपयोग करके किया। परिणामों ने दिखाया कि यह प्रणाली सही कानूनी पूर्व दृष्टांतों को खोजने में अत्यधिक प्रभावी थी, जिसने 93% से अधिक मामलों में सबसे प्रासंगिक दस्तावेज़ को पहले स्थान पर रखा। इससे भी महत्वपूर्ण बात यह है कि सिस्टम ने उन लगभग सभी उदाहरणों को सफलतापूर्वक पकड़ा जहाँ AI ने कोई उद्धरण (citation) बनाने या स्रोत सामग्री का खंडन करने की कोशिश की थी, जिसने लगभग 94% unsupported दावों और 98% प्रत्यक्ष विरोधाधाभासों को रोका। डिजिटल "लिफाफा" भी अविश्वसनीय रूप से मजबूत साबित हुआ; उन परीक्षणों में जहाँ शोधकर्ताओं ने डेटा के एक सिंगल बिट को बदलकर या टाइमस्टैम्प बदलकर रिकॉर्ड के साथ छेड़छाड़ करने का प्रयास किया, सिस्टम ने 100% बार परिवर्तन का पता लगाया, जिससे सिद्ध हुआ कि रिकॉर्ड बरकरार रहा।
हालाँकि, शोधकर्ता इस बात के बीच अंतर करने में सावधानी बरतते हैं कि उनकी प्रणाली क्या सिद्ध कर सकती है और क्या नहीं। जबकि प्रणाली यह गारंटी देती है कि साक्ष्य सही ढंग से प्राप्त किए गए थे और रिकॉर्ड के साथ छेड़छाड़ नहीं की गई है, यह इस बात की गारंटी नहीं देती कि AI का अंतिम कानूनी तर्क पूर्ण है या न्यायाधीश परिणाम से सहमत होगा। यह प्रणाली प्रक्रिया के एक कठोर परीक्षक (auditor) के रूप में कार्य करती है, न कि मानवीय निर्णय के विकल्प के रूप में। वास्तव में, अध्ययन में पाया गया कि वर्तमान सेटिंग्स के तहत, सुरक्षा सुनिश्चित करने के लिए सिस्टम को अभी भी लगभग 68% मामलों में मानव न्यायाधीश द्वारा समीक्षा की आवश्यकता होगी, जिससे शेष 32% मामलों को बिना हस्तक्षेप के आगे बढ़ने की अनुमति मिलेगी। मानव समीक्षा की यह उच्च दर जानबूझकर रखी गई है, ताकि महत्वपूर्ण त्रुटि छूट जाने के जोखिम को 5% से नीचे रखा जा सके।
अध्ययन ने यह भी पता लगाया कि यह दृष्टिकोण संयुक्त राज्य अमेरिका या यूरोप जैसी विभिन्न कानूनी प्रणालियों में कितनी अच्छी तरह काम करेगा। जब इसे विशिष्ट पुन: प्रशिक्षण (retraining) के बिना इन विदेशी कानूनी डेटासेट पर परखा गया, तो प्रदर्शन काफी गिर गया, जहाँ इसने आधे से भी कम मामलों में शीर्ष पूर्व दृष्टांत की सही पहचान की। यह सुझाव देता है कि हालांकि साक्ष्य को सत्यापित करने की अंतर्निहित तकनीक सार्वभौमिक है, लेकिन सही कानूनों को खोजने के लिए आवश्यक विशिष्ट उपकरण उस देश के कानूनी कोड के अनुरूप होने चाहिए। शोधकर्ताओं ने यह भी नोट किया कि उनके वर्तमान परीक्षण एक एकल कंप्यूटर पर चलाए गए थे, और जबकि सिस्टम वहां पूरी तरह से काम कर रहा था, अभी तक इसका परीक्षण लाइव, मल्टी-कोर्ट वातावरण में नहीं किया गया है जहाँ कई उपयोगकर्ता अलग-अलग स्थानों से सिस्टम का उपयोग करते हैं।
अंततः, यह कार्य आर्टिफिशियल इंटेलिजेंस में विश्वास के बारे में सोचने का एक नया तरीका प्रदान करता है। एक अदालत से यह पूछने के बजाय कि उनके सॉफ़्टवेयर सुरक्षित है, वेंडर के वादे पर भरोसा करें, VADP प्रत्येक निर्णय के लिए एक मूर्त, जांच योग्य वस्तु (artifact) प्रदान करता है। यह बोझ को अंधे विश्वास से हटाकर स्वतंत्र सत्यापन की ओर स्थानांतरित करता है, यह सुनिश्चित करता है कि यदि किसी कानूनी उद्धरण का उपयोग किया जाता है, तो वह वास्तव में एक सुरक्षित स्रोत से प्राप्त किया गया था, और यदि किसी रिकॉर्ड में बदलाव किया जाता है, तो परिवर्तन तुरंत स्पष्ट हो जाता है। हालाँकि यह प्रणाली अभी तक हर अदालत के लिए तैयार एक पूर्ण उत्पाद नहीं है, फिर भी यह प्रदर्शित करती है कि ऐसे AI उपकरण बनाना संभव है जो न केवल शक्तिशाली हैं बल्कि पारदर्शी और जवाबदेह भी हैं, जो न्यायाधीशों और वकीलों को जीवन बदलने वाले निर्णय लेने से पहले सत्य को सत्यापित करने के लिए आवश्यक उपकरण प्रदान करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।