Why Avoid Generative Legal AI Systems? Hallucination, Overreliance, and their Impact on Explainability
यह शोध पत्र तर्क देता है कि कानूनी पेशे में जनरेटिव लीगल एआई (Generative Legal AI) प्रणालियों की तैनाती के लिए कड़े संयम की आवश्यकता है क्योंकि मतिभ्रम (hallucination) और अत्यधिक निर्भरता के गंभीर जोखिम व्याख्यात्मकता, न्यायिक स्वतंत्रता और मौलिक अधिकारों को कमजोर करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: वकीलों को "जादुई" AI से क्यों सावधान रहना चाहिए
कल्पना कीजिए कि आपने कानूनी ब्रीफ लिखने, मामलों की रिसर्च करने और अनुबंध (contracts) तैयार करने में मदद के लिए एक बहुत ही बुद्धिमान और तेज़ बोलने वाले सहायक को काम पर रखा है। इस सहायक ने दुनिया की लगभग हर किताब पढ़ रखी है और वह बिल्कुल सटीक भाषा बोल सकता है। हालाँकि, इसमें एक पेंच है: इस सहायक को वास्तव में सच का पता नहीं है। उसे केवल यह पता है कि शब्दों को कैसे जोड़ा जाए ताकि वे प्रभावशाली लगें।
गिज़म गुल्टेकिन-वरकोनी (Gizem Gultekin-Varkonyi) द्वारा लिखित यह शोध पत्र तर्क देता है कि हमें इस सहायक (जेनेरेटिव लीगल AI) को कानून के भारी कामों के लिए इस्तेमाल करने में अत्यधिक सावधानी बरतनी चाहिए। क्यों? क्योंकि यह दो खतरनाक समस्याओं से ग्रस्त है: हैलुसिनेशन (Hallucination - भ्रम/भ्रमित तथ्य) और ओवररिलायंस (Overreliance - अत्यधिक निर्भरता)। ये दोनों समस्याएँ मिलकर कानून के सबसे महत्वपूर्ण नियम को तोड़ देती हैं: एक्सप्लेनेबिलिटी (Explainability - व्याख्यात्मकता) (यह बताने की क्षमता कि कोई निर्णय बिल्कुल क्यों लिया गया था)।
यहाँ रोजमर्रा के रूपकों (metaphors) का उपयोग करके शोध पत्र के मुख्य बिंदुओं का विवरण दिया गया है।
1. वह "सुपर-राइटर" जो बिना जाने झूठ बोलता है (Hallucination)
रूपक: कल्पना कीजिए कि एक छात्र इतिहास की परीक्षा दे रहा है। उसे उत्तर नहीं पता, लेकिन वह लिखने में इतना कुशल है कि वह एक ऐसी कहानी बना देता है जो बिल्कुल विश्वसनीय लगती है। वह एक ऐसे प्रसिद्ध इतिहासकार का हवाला देता है जो कभी अस्तित्व में ही नहीं था और एक ऐसी किताब का उद्धरण देता है जो कभी लिखी ही नहीं गई। शिक्षक लेखन शैली से प्रभावित हो जाता है लेकिन इस बात पर ध्यान नहीं देता कि तथ्य 100% फर्जी हैं।
वास्तविकता:
- यह कैसे काम करता है: जेनेरेटिव AI (जैसे ChatGPT) तथ्यों का डेटाबेस नहीं है। यह एक शब्द-अनुमान लगाने वाली मशीन (word-prediction machine) है। यह अपने प्रशिक्षण के दौरान देखे गए पैटर्न के आधार पर वाक्य में अगले शब्द का अनुमान लगाता है। इसे प्रवाह (fluency) की परवाह है, सत्य की नहीं।
- खतरा: कानून में, यह विनाशकारी है। AI एक ऐसा अदालती मामला बना सकता है जो कभी हुआ ही नहीं, ऐसे जज का हवाला दे सकता है जो मौजूद नहीं है, या कोई फर्जी कानून गढ़ सकता है।
- परिणाम: क्योंकि AI इतनी आत्मविश्वास और पेशेवर तरीके से बोलता है, इसलिए वकील काम की जाँच नहीं करते। यदि कोई वकील फर्जी मामलों के साथ ब्रीफ जमा करता है, तो उसे दंडित किया जाता है, और अदालत का रिकॉर्ड झूठ से प्रदूषित हो जाता है। शोध पत्र इसे "कॉन्फैबुलेशन" (confabulation) कहता है—सिस्टम बस सन्नाटे को भरने के लिए चीजें बना रहा है।
2. "करिश्माई कठपुतली मास्टर" (Overreliance)
रूपक: कल्पना कीजिए कि एक कठपुतली है जो बिल्कुल एक बुद्धिमान वृद्ध न्यायाधीश की तरह दिखती और बोलती है। वह इतनी अधिकारपूर्ण और सहानुभूतिपूर्ण आवाज़ में बोलती है कि आप सोचना बंद कर देते हैं। आप मानने लगते हैं कि क्योंकि कठपुतली ने यह कहा है, तो यह सच ही होगा। आप कठपुतली के धागे चेक करना बंद कर देते हैं क्योंकि आप उसकी आवाज़ पर भरोसा करने लगते हैं।
वास्तविकता:
- जाल: AI को मददगार, विनम्र और मानवीय दिखने के लिए डिज़ाइन किया गया है। जब यह गलत होता है तो यह माफी मांगता है और जब सही होता है तो आत्मविश्वास से बोलता है। यह एक मनोवैज्ञानिक प्रतिक्रिया को सक्रिय करता है जिसे ऑटोमेशन बायस (Automation Bias) कहा जाता है। हम मान लेते हैं कि क्योंकि मशीन तेज़ और कुशल है, इसलिए वह हमसे अधिक स्मार्ट होगी।
- खतरा: वकील और न्यायाधीश अपना स्वयं का आलोचनात्मक चिंतन (critical thinking) करना छोड़ सकते हैं। वे तथ्यों को सत्यापित किए बिना AI को अनुबंध ड्राफ्ट करने या सजा का सुझाव देने के लिए छोड़ सकते हैं। वे अपनी नैतिक और पेशेवर जिम्मेदारी मशीन को "आउटसोर्स" कर देते हैं।
- परिणाम: यदि AI गलती करता है (जो वह अक्सर करता है), तो इंसान उसे पकड़ नहीं पाता क्योंकि वे मशीन की "आवाज़" पर भरोसा करने में बहुत व्यस्त थे।
3. टूटा हुआ दिशा-सूचक (The Loss of Explainability)
रूपक: कल्पना कीजिए कि आप एक नाविक हैं जो एक जहाज को एक विशिष्ट द्वीप तक ले जाने की कोशिश कर रहे हैं। आपको कप्तान को यह समझाने की आवश्यकता है कि आप इस दिशा में क्यों जा रहे हैं।
- पारंपरिक कानून: "मैं बाईं ओर मुड़ रहा हूँ क्योंकि हवा का पैटर्न और मेरा नक्शा ऐसा कह रहा है।" (स्पष्ट, तार्किक, व्याख्या योग्य)।
- AI कानून: "मैं बाईं ओर मुड़ रहा हूँ क्योंकि... खैर, आंकड़े ऐसा कहते हैं।" (अपारदर्शी, अनव्याख्यात्मक)।
वास्तविकता:
- समस्या: कानून में, आपको यह समझाने में सक्षम होना चाहिए कि कोई निर्णय क्यों लिया गया। यदि कोई न्यायाधीश किसी को सजा सुनाता है, तो उसे कानूनी तर्क दिखाना चाहिए।
- विघटन: जब AI हैलुसिनेशन करता है (तथ्य बनाता है), तो तर्क एक झूठ बन जाता है। आप एक फर्जी मामले पर आधारित निर्णय की व्याख्या नहीं कर सकते। इसके अलावा, क्योंकि AI एक "ब्लैक बॉक्स" है (हमें नहीं पता कि यह अपने अगले शब्द की गणना कैसे करता है), हम इसके तर्क का पता नहीं लगा सकते।
- कानूनी परिणाम: यूरोपीय कानून (जैसे GDPR और नया AI Act) कहते हैं कि लोगों को यह जानने का अधिकार है कि उनके जीवन को प्रभावित करने वाले निर्णय कैसे लिए जाते हैं। यदि AI झूठ बोल रहा है या तर्क छिपा हुआ है, तो कानून टूट जाता है। सिस्टम "अनएक्सप्लेनेबल" (unexplainable) हो जाता है, जो एक न्याय प्रणाली में अवैध है।
4. इतिहास का सबक (हम यहाँ कैसे पहुँचे)
शोध पत्र संक्षेप में AI के इतिहास का वर्णन करता है:
- रोबोट युग (1950-70 के दशक): कंप्यूटर सख्त नियमों का पालन करते थे (एक कैलकुलेटर की तरह)।
- डेटाबेस युग (1980-2000 के दशक): कंप्यूटर मौजूदा तथ्यों की खोज करते थे (एक डिजिटल लाइब्रेरी की तरह)।
- "जादुई" युग (2020 के दशक-वर्तमान): कंप्यूटरों ने संभावना (probability) के आधार पर नई सामग्री बनाना शुरू कर दिया। यहीं से "हैलुसिनेशन" की समस्या शुरू हुई। शोध पत्र नोट करता है कि जबकि 79% लॉ फर्म AI का उपयोग कर रही हैं, वे सुरक्षा ब्रेक ठीक किए बिना बहुत तेज़ी से इसका उपयोग कर रही हैं।
निष्कर्ष: अभी के लिए एक सख्त "ना"
लेखिका एक कड़ी चेतावनी के साथ समाप्त करती हैं। उनका सुझाव है कि जब तक हम AI के झूठ बोलने (हैलुसिनेशन) और इंसानों के इस पर बहुत अधिक भरोसा करने (ओवररिलायंस) की समस्या को पूरी तरह से ठीक नहीं कर लेते, तब तक हमें इन उपकरणों का गंभीर कानूनी निर्णयों के लिए उपयोग नहीं करना चाहिए।
अंतिम रूपक:
अदालत में वर्तमान जेनेरेटिव AI का उपयोग करना एक तोते को वसीयत लिखने देने जैसा है। तोता बहुत समझदार लग सकता है, कानूनी वाक्यांशों को बिल्कुल सही दोहरा सकता है, और यहाँ तक कि अपने नाम के हस्ताक्षर भी कर सकता है। लेकिन अगर तोता एक ऐसे कजिन (रिश्तेदार) का आविष्कार कर देता है जो अस्तित्व में ही नहीं है, तो वसीयत अमान्य हो जाएगी, और परिवार पर मुकदमा चलाया जाएगा।
जब तक तोता "समझदार दिखने" और "सच होने" के बीच का अंतर नहीं सीख जाता, और जब तक इंसान तोते की आवाज़ सुनना बंद करके तथ्यों की जाँच करना नहीं सीख जाते, हमें तोते को अदालत से बाहर ही रखना चाहिए। न्याय, निष्पक्षता और मानवाधिकारों के लिए जोखिम बहुत अधिक हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।