The Dark Side of ChatGPT: Legal and Ethical Challenges from Stochastic Parrots and Hallucination
यह शोध पत्र तर्क देता है कि जबकि यूरोपीय संघ एआई विनियमन में अग्रणी है, इसका वर्तमान प्रतिमान लार्ज लैंग्वेज मॉडल के मतिभ्रम (hallucinations) और स्टोकेस्टिक पैरट (stochastic parrot) व्यवहारों से उत्पन्न कानूनी और नैतिक जोखिमों को कम आंकता है, जिसके लिए इन उभरती चुनौतियों को प्रभावी ढंग से कम करने हेतु और अधिक विकास की आवश्यकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अभी-अभी एक नए दोस्त से मिले हैं जो अविश्वसनीय रूप से पढ़ा-लिखा है, बिल्कुल सटीक बोलता है, और आपके द्वारा पूछे गए लगभग किसी भी सवाल का जवाब दे सकता है। आप उससे पूछते हैं, "क्वांटम भौतिकी पर सबसे अच्छी किताब कौन सी है?" और वह तुरंत प्रशंसात्मक समीक्षाओं के साथ पाँच शीर्षकों की सूची दे देता है। आप उससे पूछते हैं, "मैं लीक होते पाइप को कैसे ठीक करूँ?" और वह आपको चरण-दर-चरण मार्गदर्शिका देता है।
आप उन पर भरोसा करते हैं क्योंकि वे इतने आत्मविश्वासी लगते हैं। लेकिन यहाँ एक पेंच है: इस दोस्त ने वास्तव में वे किताबें कभी नहीं पढ़ी हैं और न ही कभी कोई पाइप ठीक किया है। वे बस इस बात में माहिर हैं कि वाक्य में आमतौर पर कौन से शब्द आते हैं।
यह बिल्कुल वही है जिसके बारे में ज़ीहाओ ली का पेपर हमें ChatGPT और इसी तरह के AI टूल्स के संबंध में चेतावनी दे रहा है। यहाँ सरल उपमाओं का उपयोग करके पेपर के मुख्य बिंदुओं का विवरण दिया गया है:
1. "स्टोकेस्टिक पैरेट" (Stochastic Parrot) और "आत्मविश्वासी झूठा"
पेपर का तर्क है कि इन AI मॉडलों को दो मुख्य समस्याओं का सामना करना पड़ता है: हैलुसिनेशन (Hallucinations) और स्टोकेस्टिक पैरेट (Stochastic Parrots) होना।
- स्टोकेस्टिक पैरेट (Stochastic Parrot): एक ऐसे तोते की कल्पना करें जिसने लाइब्रेरी से लाखों वाक्यों को रट लिया है। यदि आप उससे कोई प्रश्न पूछते हैं, तो वह उत्तर के लिए "सोचता" या "समझता" नहीं है। वह बस उन पैटर्न को दोहराता है जो उसने पहले सुने थे। यह एक ऐसे डीजे (DJ) की तरह है जो केवल उन गानों को मिक्स करना जानता है जो उसने सुने हैं, लेकिन उसे गीतों के बोल या उनके पीछे के अर्थ का ज्ञान नहीं है।
- हैलुसिनेशन (Hallucination): क्योंकि AI केवल पैटर्न के आधार पर अगले शब्द का अनुमान लगा रहा है, इसलिए वह कभी-कभी पूरे आत्मविश्वास के साथ तथ्य गढ़ देता है। वह एक नकली शैक्षणिक पेपर या एक गैर-अस्तित्व वाला अदालती मामला बना सकता है। यह एक ऐसे कहानीकार की तरह है जो कहानी में इतना खो जाता है कि वह गलती से एक ऐसा पात्र बना देता है जिसका अस्तित्व ही नहीं था, लेकिन वह कहानी इतनी विश्वासपूर्ण तरीके से सुनाता है कि आप मान लेते हैं कि यह सच है।
खतरा: समस्या यह नहीं है कि AI कभी-कभी गलत होता है; समस्या यह है कि वह हमेशा अनुमान लगा रहा होता है। भले ही वह 90% समय सही हो, लेकिन वह 10% समय जब वह आत्मविश्वास के साथ गलत होता है, कानून या चिकित्सा जैसे क्षेत्रों में विनाशकारी हो सकता है।
2. "ट्रस्ट ट्रैप" (विश्वास का जाल)
पेपर एक डरावनी बात कहता है: AI जितना स्मार्ट होता जाता है, उतना ही खतरनाक होता जाता है।
इसे एक बहुत ही वास्तविक दिखने वाली नकली पेंटिंग की तरह समझें। यदि कोई पेंटिंग 50% असली दिखती है, तो आप करीब से देखने के लिए जानते हैं। लेकिन यदि वह 99% असली दिखती है, तो आप जांच करना बंद कर देते हैं और बस मान लेते हैं कि यह असली चीज़ है। जैसे-जैसे AI इंसानों की तरह बोलने में बेहतर होता जाता है, लोग तथ्य जांचना बंद कर देंगे और आँख मूंदकर भरोसा करने लगेंगे। यदि आप चिकित्सा संबंधी सलाह के लिए किसी AI से पूछते हैं और वह किसी नकली इलाज के बारे में "हैलुसिनेट" करता है, तो आप उसका पालन कर सकते हैं और चोटिल हो सकते हैं।
3. यूरोपीय संघ का "सेफ्टी नेट" (सुरक्षा जाल) में छेद हैं
यूरोपीय संघ एक नए कानून के साथ AI को विनियमित करने की कोशिश कर रहा है जिसे AI Act कहा जाता है। लेखक का तर्क है कि यह कानून एक छलनी (छेद वाले किचन स्ट्रेनर) से बाढ़ को रोकने की कोशिश करने जैसा है।
- वर्तमान योजना: यूरोपीय संघ का मुख्य नियम "पारदर्शिता" (Transparency) है। मूल रूप से, वे चाहते हैं कि AI कहे, "हे, मैं एक रोबोट हूँ, मैंने यह लिखा है।"
- यह क्यों विफल होता है: लेखक का कहना है कि यह पर्याप्त नहीं है। भले ही AI कहे, "मैं एक रोबट हूँ," यदि वह बहुत बुद्धिमान और आत्मविश्वासी लगता है, तो आप अभी भी उसके नकली तथ्यों पर विश्वास कर सकते हैं। उपयोगकर्ता को यह बताना कि "मैं एक रोबोट हूँ" रोबोट को झूठ बोलने से नहीं रोकता है।
- लापता कड़ी: वर्तमान कानून प्लेटफॉर्म (वेबसाइट या ऐप) पर ध्यान केंद्रित करते हैं लेकिन इंजन (AI मॉडल स्वयं) को अनदेखा करते हैं। यह कार डीलरशिप को विनियमित करने जैसा है लेकिन इंजन निर्माता को नहीं। यदि इंजन दोषपूर्ण है, तो कार दुर्घटनाग्रस्त होगी ही, चाहे डीलरशिप कितनी भी अच्छी क्यों न हो।
4. क्या होने की आवश्यकता है?
पेपर सुझाव देता है कि हमें खेल के नियमों को बदलने की आवश्यकता है:
- "ब्लैक बॉक्स" को रोकें: हमें केवल "मैं एक AI हूँ" कहने से आगे बढ़कर यह सुनिश्चित करने की ओर बढ़ने की आवश्यकता है कि AI को पता हो कि वह कब अनुमान लगा रहा है।
- "उत्तर न देने" का नियम: यदि आप किसी गंभीर कानूनी या चिकित्सा संबंधी मुद्दे के बारे में AI से पूछते हैं, तो उसे केवल उत्तर देकर "मैं एक AI हूँ" नहीं कहना चाहिए। उसे कहना चाहिए, "मुझे इसे सुरक्षित रूप से उत्तर देने के लिए पर्याप्त जानकारी नहीं है। कृपया एक वास्तविक डॉक्टर या वकील से बात करें।"
- साझा जिम्मेदारी: वर्तमान में, कानून मुख्य रूप से उस कंपनी को दोषी ठहराते हैं जिसने AI बनाया है। लेखक का कहना है कि हमें उन लोगों के बारे में भी सोचना चाहिए जो इसका उपयोग कर रहे हैं। यदि कोई व्यक्ति जानबूझकर झूठ फैलाने के लिए AI का उपयोग करता है, तो उन्हें भी जिम्मेदार ठहराया जाना चाहिए।
निचोड़ (The Bottom Line)
यह पेपर एक चेतावनी है। हम इन AI टूल्स को जादुई भविष्यवक्ताओं की तरह मान रहे हैं, लेकिन वे वास्तव में केवल बहुत उन्नत अनुमान लगाने वाली मशीनें हैं।
वर्तमान कानून एक फिसलन भरी ढलान पर "सावधान: गीला फर्श" का साइन बोर्ड लगाने जैसा है; यह एक अच्छा संकेत है, लेकिन यह आपको गिरने से नहीं रोकता है। हमें ऐसे कड़े नियमों की आवश्यकता है जो इन AI सिस्टमों को यह स्वीकार करने के लिए मजबूर करें कि वे कब चीजें मनगढ़ंत बना रहे हैं, खासकर जब दांव ऊंचे हों। हमें "तोते" पर भरोसा करना बंद करने की आवश्यकता है सिर्फ इसलिए क्योंकि वह अच्छी तरह से बोलता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।