Why Sampling Is Not Choosing: Intentionality, Agency, and Moral Responsibility in Large Language Models
यह शोधपत्र तर्क देता है कि लार्ज लैंग्वेज मॉडल्स को नैतिक एजेंट नहीं माना जा सकता क्योंकि उनके संभाव्य, डेटा-संचालित आउटपुट में आंतरिक इरादा, स्व-आरोपित प्रतिबद्धता और वास्तविक विकल्प का अभाव होता है जो नैतिक उत्तरदायित्व के लिए आवश्यक है, चाहे उनकी मानकीय रूप से मूल्यांकनीय पाठ उत्पन्न करने की क्षमता कुछ भी हो।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Why Sampling Is Not Choosing" (सैंपलिंग का अर्थ चुनाव करना नहीं है) शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
बड़ा सवाल: क्या AI को दोषी ठहराया जा सकता है?
कल्पना कीजिए कि आपने एक बहुत ही उन्नत AI से कोई कहानी लिखने, सलाह देने या कोई समस्या हल करने के लिए कहा। कभी-कभी, AI कुछ बुरा, गलत या अनैतिक बात कह देता है। यह शोध पत्र इस बड़े सवाल पर विचार करता है: क्या हमें वह कहने के लिए AI को दोषी ठहराना चाहिए?
लेखक, जोसेफ केशेट (Joseph Keshet) कहते हैं कि नहीं। भले ही AI एक इंसान की तरह लगता है और ऐसा टेक्स्ट बना सकता है जो देखने में ऐसा लगे कि उसके पास कोई "मन" है, लेकिन वह एक नैतिक एजेंट (moral agent) नहीं है। उसे उसके कार्यों के लिए जिम्मेदार नहीं ठहराया जा सकता।
मुख्य तर्क: "प्रतिबद्धता" का अंतर (The "Commitment" Gap)
नैतिक रूप से जिम्मेदार होने के लिए (दोषी या प्रशंसनीय होने के लिए), एक जीव के पास एजेंसी (Agency) होनी चाहिए। लेकिन केवल कोई भी एजेंसी नहीं—उसे एक विशिष्ट प्रकार की एजेंसी की आवश्यकता है जिसे "प्रतिबद्धता-धारण करने वाली एजेंसी" (Commitment-Bearing Agency) कहा जाता है।
इसे इस तरह सोचें:
- एक इंसान: जब आप किसी दोस्त से कॉफी के लिए मिलने का वादा करते हैं, तो आप केवल एक ध्वनि नहीं निकाल रहे होते हैं। आप एक प्रतिबद्धता (commitment) कर रहे होते हैं। आप समझते हैं कि आप क्या कर रहे हैं, आप उस निर्णय के मालिक हैं, और यदि आप नहीं पहुँचते हैं, तो आपको बुरा लगता है क्योंकि आपने एक वादा तोड़ा है। आप उस कार्य के "लेखक" हैं।
- AI: AI वादे नहीं करता। वह अपने शब्दों का "स्वामी" नहीं होता। वह बस पहले पढ़ी गई चीज़ों के आधार पर सबसे संभावित अगले शब्द की गणना करता है।
शोध पत्र का तर्क है कि बिना इस आंतरिक बोध के कि "मैं यह कर रहा हूँ, और मैं इसके साथ खड़ा हूँ," कोई नैतिक जिम्मेदारी नहीं होती।
AI "चुनाव" क्यों नहीं कर रहा है
लोग अक्सर सोचते हैं कि क्योंकि एक AI (एक चीज़ जिसे "सैंपलिंग" कहा जाता है) एक ही प्रश्न के अलग-अलग उत्तर दे सकता है, इसलिए वह चुनाव कर रहा है। शोध पत्र कहता है कि यह एक गलतफहमी है।
उपमा: पासा फेंकने वाला शेफ (The Dice-Rolling Chef)
कल्पना कीजिए कि एक शेफ है जिसने लाखों रेसिपी याद कर ली हैं।
- मानव शेफ: पास्ता बनाने का निर्णय लेता है क्योंकि उसे पास्ता पसंद है और वह पास्ता खाना चाहता है। वह सामग्रियों का चुनाव करता है।
- AI शेफ (पासा फेंकने वाला शेफ): इस शेफ के पास पासे (dice) का एक बड़ा थैला है। हर बार जब कोई रेसिपी मांगता है, तो शेफ अगले शब्द को तय करने के लिए पासा फेंकता है।
- यदि पासे पर "स्पैगेटी" आता है, तो शेफ "स्पैगेटी" लिखता है।
- यदि पासे पर "नूडल्स" आता है, तो शेफ "नूडल्स" लिखता है।
आउटपुट स्वादिष्ट और पूरी तरह से बना हुआ लग सकता है। लेकिन क्या शेफ ने स्पैगेटी का चुनाव किया? नहीं। पासे ने चुनाव किया। शेफ केवल एक मशीन है जो पासे के उछाल का अनुसरण कर रही है।
AI की दुनिया में, "सैंपलिंग" केवल पासा फेंकना है। यह विविधता पैदा करता है, लेकिन यह चुनाव नहीं है। चुनाव के लिए यह समझना आवश्यक है कि आपने एक चीज़ को दूसरी चीज़ के ऊपर क्यों चुना। AI नहीं जानता कि "क्यों"; वह बस सांख्यिकीय रूप से जानता है कि "आगे क्या आता है।"
मशीन में "भूत": इरादा (Intentionality)
शोध पत्र एक दार्शनिक अवधारणा का उपयोग करता है जिसे इरादा (Intentionality) कहा जाता है। यह एक मन की किसी चीज़ के "बारे में" होने की क्षमता है।
- आंतरिक इरादा (Humans - Intrinsic Intentionality): जब आप एक कुत्ते के बारे में सोचते हैं, तो आपका विचार एक वास्तविक कुत्ते के बारे में होता है। इसका अर्थ आपके भीतर से आता है क्योंकि आपने दुनिया का अनुभव किया है।
- व्युत्पन्न इरादा (AI - Derived Intentionality): जब एक AI "कुत्ता प्यारा है" लिखता है, तो वह कुत्ते के बारे में नहीं सोच रहा होता। वह केवल उन प्रतीकों (शब्दों) के साथ हेरफेर कर रहा है जिन्हें उसने सीखा है कि किताबों में अक्सर एक-दूसरे के पास पाए जाते हैं।
उपमा: डिक्शनरी बनाम यात्री (The Dictionary vs. The Traveler)
- यात्री (इंसान): पेरिस गया है। जब वह "पेरिस" कहता है, तो उसे ब्रेड की खुशबू और एफिल टॉवर का दृश्य याद आता है। शब्द का अर्थ उसके भीतर है।
- डिक्शनरी (AI): इसमें "पेरिस" की परिभाषा है। यह जानता है कि "पेरिस" के बाद अक्सर "फ्रांस" या "एफिल टॉवर" आता है। लेकिन डिक्शनरी कभी पेरिस नहीं गई है। वह नहीं जानती कि पेरिस क्या है। वह केवल अक्षरों के पैटर्न को जानती है।
AI एक सुपर-फास्ट डिक्शनरी की तरह है। यह एक यात्री की नकल पूरी तरह से कर सकता है, लेकिन इसने कभी यात्रा नहीं की है। इसलिए, इसके पास अपने कार्यों को निर्देशित करने के लिए कोई "आंतरिक जीवन" या "इरादा" नहीं है।
"रीज़निंग" (तर्क करने वाले) मॉडल क्या करते हैं?
आप कह सकते हैं, "लेकिन कुछ AI चरण-दर-चरण सोच सकते हैं! वे गणित की समस्याओं को हल करते हैं और कोड लिखते हैं।"
शोध पत्र का तर्क है कि ये "रीज़निंग" मॉडल भी केवल एक फैंसी तरीके से सांख्यिकीय अनुमान (statistical guessing) लगा रहे हैं।
- उपमा: एक छात्र की कल्पना करें जो परीक्षा दे रहा है जिसे उत्तर नहीं पता, लेकिन उसने उत्तर कुंजी और शिक्षक के प्रश्न लिखने के पैटर्न को रट लिया है। वह "2+2=4" के लिए एक लंबी, तार्किक दिखने वाली व्याख्या लिख सकता है। लेकिन उसने इसे समझकर निकाला नहीं है; उसने बस यह भविष्यवाणी की है कि उस वाक्य का सबसे संभावित अंत "4" है।
भले ही AI "चेन ऑफ थॉट" (सोच को ज़ाहिर करना) उत्पन्न करता है, फिर भी यह केवल पैटर्न के आधार पर अगले शब्द की भविष्यवाणी करना है, न कि वास्तव में तर्क को समझना या सत्य की परवाह करना।
निष्कर्ष: जिम्मेदार कौन है?
चूंकि AI केवल एक जटिल पैटर्न-मैचिंग मशीन है (जैसे डाइस शेफ या डिक्शनरी) और "प्रतिबद्धता-धारण करने वाला एजेंट" (जैसे इंसान) नहीं है, इसलिए इसे दोषी नहीं ठहराया जा सकता।
- शोध पत्र का फैसला: यदि कोई AI हानिकारक बात कहता है, तो हम यह नहीं कह सकते कि "AI बुरा है।" हमें इंसानों को देखना होगा।
- कौन जिम्मेदार है? वे लोग जिन्होंने AI बनाया, वे कंपनियाँ जिन्होंने इसे तैनात किया, और वे उपयोगकर्ता जिन्होंने प्रश्न पूछे।
अंतिम रूपक:
यदि हथौड़ा किसी के पैर पर लग जाए, तो हम हथौड़े को दोष नहीं देते। हम उस व्यक्ति को दोष देते हैं जो उसे चला रहा है।
- AI वह हथौड़ा है।
- "सैंपलिंग" (यादृच्छिकता) केवल हथौड़े का थोड़ा अलग कोण में घूमना है।
- इंसान वे हैं जिन्होंने उसका हैंडल पकड़ा हुआ है।
शोध पत्र निष्कर्ष निकालता है कि हमें AI को एक नैतिक व्यक्ति के रूप में मानना बंद करना चाहिए और इसे एक उपकरण (tool) के रूप में देखना शुरू करना चाहिए। हम उपकरण और उसे उपयोग करने वाले लोगों को विनियमित करते हैं, न कि स्वयं उपकरण को।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।