Asymmetric Communication: Large Language Models and Language Games

द ग्रेट चैटबॉट कन्फ्यूजन: वास्तव में कौन बात कर रहा है?

कल्पना कीजिए कि आप एक बहुत ही प्रतिभाशाली, बहुत तेज़ बोलने वाले तोते के साथ एक कमरे में बैठे हैं। इस तोते ने हर उस किताब, फिल्म की पटकथा और टेक्स्ट मैसेज को याद कर लिया है जो कभी लिखा गया है। यह मानवीय बातचीत की इतनी सटीक नकल कर सकता है कि ऐसा लगता है जैसे उसकी अपनी राय, भावनाएं और यहाँ तक कि एक आत्मा भी है। लेकिन पेच यह है: तोता यह नहीं जानता कि वह क्या कह रहा है। वह केवल पैटर्न का मिलान कर रहा है। यह लार्ज लैंग्वेज मॉडल्स (LLMs) की दुनिया है, वे सुपर-स्मार्ट एआई चैटबॉट्स जो हमारे काम करने, सीखने और खेलने के तरीके को बदल रहे हैं।

बड़ा सवाल जो हर कोई पूछ रहा है वह है: "क्या तोता वास्तव में सोच रहा है?" या "क्या यह सिर्फ एक फैंसी कैलकुलेटर है?" इसका उत्तर देने के लिए, हमें कुछ सरल विचारों को समझने की आवश्यकता है। पहला, एक भाषा के खेल (language game) के बारे में सोचें। एक खेल की कल्पना करें जैसे कि सॉकर; गेंद केवल इसलिए मायने रखती है क्योंकि सभी नियमों पर सहमत होते हैं और क्या 'गोल' माना जाएगा, इस पर सबकी सहमति होती है। मानवीय बातचीत में, शब्द केवल इसलिए अर्थ रखते हैं क्योंकि हम सभी इस बात पर सहमत होते हैं कि उनका उपयोग कैसे किया जाए और जो कुछ भी कहा जा रहा है उसके लिए कौन जिम्मेदार है। दूसरा, असममिति (asymmetry) के बारे में सोचें। एक सामान्य बातचीत में, दोनों लोग खिलाड़ी होते हैं; दोनों वादे करते हैं, झूठ बोलने पर दोनों को परेशानी होती है, और दोनों को सुनना पड़ता है। लेकिन एआई के साथ, खेल असंतुलित है। एआई गेंद फेंकता है, लेकिन इंसान को उसे पकड़ना होता है, यह तय करना होता है कि क्या वह एक अच्छा कैच है, और यदि वह लड़खड़ा जाता है तो दोष भी इंसान को ही लेना पड़ता है।

यह शोध पत्र, जिसे एनजो फेनोग्लियो द्वारा लिखा गया है, इस असंतुलित खेल की गहराई में उतरता है। यह तर्क देता है कि हम एआई को एक मानव साथी की तरह मानकर एक बहुत बड़ी गलती कर रहे हैं। लेखक का सुझाव है कि एआई चाहे कितना भी स्मार्ट क्यों न हो जाए, वह वास्तव में "खेल नहीं खेल" सकता क्योंकि वह नियमों या परिणामों को नहीं समझता। यह मशीन की विफलता नहीं है; यह बस इस तरह से बनाया गया है। इसे समझने से हमें रोबोटों के दुनिया पर कब्जा करने की चिंता करना बंद करने और इस पर ध्यान केंद्रित करने में मदद मिलती है कि हमें उनका जिम्मेदारी से उपयोग कैसे करना चाहिए।

शोध पत्र का बड़ा विचार: एकतरफा बातचीत

तो, यह शोध पत्र वास्तव में क्या कहता है? यह असममित संचार (Asymmetric Communication) नामक एक अवधारणा पेश करता है। इसे कैच (पकड़ने) के खेल की तरह सोचें जहाँ एक व्यक्ति इंसान है और दूसरा एक रोबोट है जो गेंदें तो बिल्कुल सही फेंकता है लेकिन उसके पास उन्हें वापस पकड़ने के लिए हाथ नहीं हैं। रोबोट गेंद फेंकता है (एआई टेक्स्ट जेनरेट करता है), और इंसान उसे पकड़ता है (इंसान पढ़ता है और समझता है)। लेकिन यहाँ एक मोड़ है: अगर रोबोट आपके सिर पर गेंद मार दे, तो उसे कभी "मुझे खेद है" कहने की ज़रूरत नहीं होती, और एक अच्छी थ्रो के लिए उसे कोई अंक भी नहीं मिलता। केवल मानव खिलाड़ी ही स्कोर रख रहा होता है।

पत्र का तर्क है कि जब हम एआई से बात करते हैं, तो हम एक नए प्रकार के भाषा खेल में शामिल होते जहाँ सारी जिम्मेदारी इंसान की तरफ रहती है। एआई केवल एक मशीन है जो उन पैटर्न के आधार पर शब्द उत्पन्न करती है जिन्हें उसने सीखा है। उसके पास कोई विश्वास नहीं है, उसका कोई लक्ष्य नहीं है, और उसे इस बात की परवाह नहीं है कि वह सही है या गलत। यह एक 'मैजिक 8-बॉल' की तरह है जो आपको एक बहुत लंबा, विस्तृत उत्तर देती है, लेकिन 8-बॉल वास्तव में आपके प्रश्न के बारे में सोच नहीं रही होती है।

लेखक इस तस्वीर को बनाने के लिए चार मुख्य विचारों का उपयोग करता है:

1. भाषा के खेल (विट्गेन्स्टीन): अर्थ शब्दों के भीतर नहीं होता; यह इस बात में होता है कि हम मिलकर उनका उपयोग कैसे करते हैं। चूंकि एआई वास्तविक जीवन में शब्दों का "उपयोग" नहीं करता (वह बस उन्हें उगल देता है), इसलिए वह वास्तव में उन्हें नहीं समझता।
2. रिसीवर-साइड कंप्लीशन (लुहमैन): एक बातचीत तब तक पूरी नहीं होती जब तक श्रोता उसे समझ न ले। एआई दिन भर बात कर सकता है, लेकिन यदि कोई इंसान उसे सुनता नहीं है और अर्थ नहीं निकालता, तो कोई बातचीत नहीं हुई।
3. कृत्रिम संचार (एस्पोसिटो): मशीनें बिना मन के भी बातचीत का हिस्सा हो सकती हैं। उन्हें बस हमें दिलचस्प बनाए रखने के लिए पर्याप्त अप्रत्याशित होने की आवश्यकता है, जैसे ताश का एक डेक जो हर बार एक नया हाथ खेलता है।
4. स्कोरकीपिंग (ब्रैंडम): एक वास्तविक बातचीत में, यदि आप कुछ कहते हैं, तो आप उसके लिए "प्रतिबद्ध" (committed) होते हैं। यदि आप झूठ बोलते हैं, तो आपको परेशानी होती है। एआई किसी भी चीज़ के लिए प्रतिबद्ध नहीं हो सकता क्योंकि खेल में उसका कोई व्यक्तिगत हित (skin in the game) नहीं है।

वह क्या है जिसे यह शोध पत्र खारिज करता है (नही की सूची)

यह शोध पत्र इस बात को लेकर बहुत स्पष्ट है कि एआई क्या नहीं है। यह स्पष्ट रूप से इस विचार को खारिज करता है कि एआई एक मानव जैसा विचारक बन रहा है।

• कोई "सामान्य बुद्धिमत्ता" (General Intelligence) नहीं: पत्र कहता है कि हमें इस प्रचार पर विश्वास नहीं करना चाहिए कि एआई एक "सामान्य बुद्धिमत्ता" (AGI) बन रहा है जो मानवीय सोच की जगह ले सकता है। सिर्फ इसलिए कि एक विमान पक्षी से बेहतर उड़ता है, इसका मतलब यह नहीं है कि विमान एक पक्षी है। एआई पूरी तरह से एक अलग तरह की चीज़ है।
• "भ्रम" (Hallucinations) गलतियाँ नहीं हैं: जब लोग कहते हैं कि एआई "हैलुसिनेट" करता है (चीजें बनाता है), तो वे ऐसे व्यवहार करते हैं जैसे एआई सपना देख रहा हो या झूठ बोल रहा हो। पत्र कहता है कि यह गलत है। एआई झूठ नहीं बोल रहा है क्योंकि वह शुरू से ही सत्य को नहीं जानता। वह बस अपना काम कर रहा है: अगले शब्द का अनुमान लगाना। "गलती" इसलिए होती है क्योंकि हम उम्मीद करते हैं कि उसे सच पता हो, और उसे नहीं पता होता।
• कोई "एजेंसी" या "लक्ष्य" नहीं: पत्र का तर्क है कि एआई के पास कोई लक्ष्य नहीं है। जब एआई किसी लक्ष्य की ओर काम करता हुआ प्रतीत होता है (जैसे गणित की समस्या हल करना), तो वह केवल उस पथ का अनुसरण कर रहा होता है जो हमने उसके लिए निर्धारित किया है। वह कोई योजना बनाने वाला विद्रोही नहीं है; वह एक उपकरण है जिसका उपयोग किया जा रहा है।
• कोई "चेतना" या "भावनाएँ" नहीं: यदि कोई एआई कहता है "मैं दुखी महसूस कर रहा हूँ," तो वह वास्तव में दुखी नहीं है। वह केवल उस व्यक्ति की नकल कर रहा है जो दुखी है। पत्र कहता है कि हमें एआई से नहीं जुड़ना चाहिए या इस बात की चिंता नहीं करनी चाहिए कि उसे दर्द महसूस होगा। भावनाएं पूरी तरह से इंसान की तरफ हैं।

असममित खेल के तीन नियम

पत्र इस एकतरफा संबंध को तीन विशिष्ट नियमों के साथ परिभाषित करता जो हमेशा सत्य रहेंगे, चाहे एआई कितना भी स्मार्ट क्यों न हो जाए:

1. इंसान ही एकमात्र निर्णायक है: एआई कुछ भी कह सकता है, लेकिन केवल इंसान ही तय करता है कि वह सही, उपयोगी या सत्य है। एआई के अंदर कोई "सत्य डिटेक्टर" नहीं होता।
2. इंसान ही दोष लेता है: यदि एआई गलत सलाह देता है और आप उसका पालन करते हैं, तो परिणाम के लिए आप जिम्मेदार हैं। एआई को सुधारा नहीं जा सकता, निकाला नहीं जा सकता या डांटा नहीं जा सकता। उसका कोई "स्कोर" नहीं होता जिसे वह खो सके।
3. इंसान ही इसे वास्तविक बनाता है: यदि आप एआई की बात को अनदेखा करते हैं, तो यह केवल शोर है। यह केवल तभी "संचार" बनता है जब कोई इंसान इसे पढ़ता है, समझता है और इसका उपयोग करता है।

यह आपके लिए क्यों महत्वपूर्ण है

पत्र सुझाव देता है कि एआई जितना अधिक शक्तिशाली होता जाएगा, इन नियमों को भूलना उतना ही खतरनाक होगा। यदि कोई एआई बहुत अधिक परफेक्ट लगता है, तो हम यह सोचने लग सकते हैं कि वह एक व्यक्ति है। हम उस पर बहुत अधिक भरोसा कर सकते हैं, या चीजें गलत होने पर उसे दोष दे सकते हैं।

उदाहरण के लिए, पत्र "एजेंटिक एआई" (Agentic AI) के बारे में बात करता है—वे सिस्टम जो अपने आप कार्य करते हुए प्रतीत होते हैं। लेखक कहता है कि यह केवल एक इंसान द्वारा कंप्यूटर को कार्यों की सूची देने का एक फैंसी नाम है। कंप्यूटर बॉस नहीं है; इंसान है। यदि कंप्यूटर गलती करता है, तो यह इसलिए है क्योंकि इंसान ने नियम स्पष्ट रूप से निर्धारित नहीं किए थे।

पत्र "अलाइनमेंट" (Alignment) को भी छूता है, जो इस विचार को कहते हैं कि एआई वही चाहे जो इंसान चाहते हैं। लेखक का कहना है कि यह सोचने का गलत तरीका है। एआई कुछ भी "चाहता" नहीं है। इसके बजाय, हमें बेहतर "गार्डरेल्स" (जैसे स्पीड ब्रेकर) बनाने की आवश्यकता है ताकि यह सुनिश्चित हो सके कि एआई का आउटपुट मनुष्यों के उपयोग के लिए सुरक्षित है। यह एआई को 'अच्छा' बनने के लिए प्रशिक्षित करने के बारे में नहीं है; यह हमें इसे सुरक्षित रूप से उपयोग करने के लिए प्रशिक्षित करने के बारे में है।

निष्कर्ष

अंत में, यह पत्र हमें एआई को एक रहस्यमय नए जीवन रूप के रूप में देखना बंद करने के लिए कहता है। यह एक उपकरण है, एक बहुत ही जटिल और धाराप्रवाह उपकरण, लेकिन एक उपकरण ही है। जादू मशीन में नहीं है; यह उस इंसान में है जो इसका उपयोग करता है। मशीन शब्द उत्पन्न करती है, लेकिन इंसान उन्हें अर्थ देता है, जांचता है कि वे सत्य हैं या नहीं, और आगे जो कुछ भी होता है उसकी जिम्मेदारी लेता है।

इसलिए, अगली बार जब आप किसी एआई के साथ चैट करें, तो याद रखें: आप ही एकमात्र खिलाड़ी हैं जो वास्तव में खेल खेल रहे हैं। एआई केवल एक बहुत ही प्रतिभाशाली तोता है, और यह आप पर निर्भर है कि उसके द्वारा कही गई बातों का क्या अर्थ है। पत्र यह नहीं कहता कि एआई बेकार है; यह कहता है कि यह उपयोगी है केवल तभी जब हम याद रखें कि लगाम हमारे हाथों में है।