Beyond Epistemia: Epistemic Schizologia and Large Language Models as Techno-Semiotic Machines

महान ज्ञान का भ्रम: जब शब्द बुद्धिमान लगते हैं पर जानते कुछ भी नहीं

कल्पना कीजिए कि आप एक विशाल, प्राचीन पुस्तकालय में घूम रहे हैं जहाँ की किताबें एक रहस्यमय, अदृश्य लेखक द्वारा लिखी गई हैं। इस लेखक ने पुस्तकालय की हर किताब पढ़ ली है और वह तुरंत एक नया पन्ना लिख सकता है जो बिल्कुल एक वास्तविक इतिहास की पुस्तक, विज्ञान की पाठ्यपुस्तक या कानूनी अनुबंध जैसा लगता है। यह सही शब्दों, सही व्याकरण और यहाँ तक कि सही लहजे का उपयोग करता है। लेकिन यहाँ एक पेच है: लेखक वास्तव में यह नहीं जानता कि वह क्या लिख रहा है। उसके पास कोई मस्तिष्क नहीं है, उसने दुनिया को नहीं देखा है, और उसे इस बात से कोई फर्क नहीं पड़ता कि वह जो लिख रहा है वह सत्य है या असत्य। वह बस इतना जानता है कि कौन से शब्द आमतौर पर दूसरे शब्दों के बाद आते हैं।

यह लार्ज लैंग्वेज मॉडल्स (LLMs) की दुनिया है, जो उन उपकरणों के पीछे के सुपर-स्मार्ट कंप्यूटर प्रोग्राम हैं जिनका आप अभी उपयोग कर रहे होंगे। वैज्ञानिक और दार्शनिक एक विशिष्ट समस्या को लेकर चिंतित रहे हैं जिसे "एपिस्टेमिया" (Epistemia) कहा जाता है। इसे एक "ज्ञान के भ्रम" के रूप में सोचें। यह तब होता है जब लेखक का लेखन इतना सहज और विश्वसनीय होता है कि हम यह पूछना बंद कर देते हैं, "क्या यह सच है?" और सोचने लगते हैं, "वाह, यह तो सच ही होगा!" हमें लगता है कि हमारे पास उत्तर है, लेकिन हमने वास्तव में तथ्यों की जाँच करने, साक्ष्य खोजने या आलोचनात्मक रूप से सोचने की कठिन मेहनत नहीं की है।

आप जो शोध पत्र पढ़ने जा रहे हैं, वह इस समस्या की गहराई में उतरता है। यह पूछता है: ऐसा क्यों होता है? क्या इसलिए क्योंकि कंप्यूटर इंसान की तुलना में "टूटा हुआ" है? या समस्या वास्तव में इस बात में है कि हम कंप्यूटर का उपयोग कैसे करते हैं? लेखक तर्क देते हैं कि जिस तरह से हम मनुष्य और कंप्यूटर की तुलना करते हैं वह अनुचित है। वे इसे देखने का एक नया तरीका सुझाते हैं, जिसे वे "एपिस्टेमिक स्किज़ोलोजिया" (Epistemic Schizologia) कहते हैं (एक फैंसी तरीका जिसका अर्थ है "ज्ञान का विभाजन")। उनका मानना है कि असली खतरा केवल यह नहीं है कि कंप्यूटर मूर्ख है, बल्कि यह है कि हमने एक ऐसा सिस्टम बनाया है जहाँ कंप्यूटर हमें एक आदर्श दिखने वाला उत्तर देता है, और हम उस उत्तर को वास्तविकता के साक्ष्य और जिम्मेदारी से जोड़ने के लिए भूल जाते हैं।

---

शोध पत्र का बड़ा विचार: यह रोबोट की गलती नहीं है, यह एक नृत्य है

लेखक, फेडरिको कैबिटा और जियानलुका कोलोम्बो, अन्य शोधकर्ताओं (क्वाट्रोचियोकी और सहयोगियों) की चेतावनी से सहमत होते हुए शुरुआत करते हैं। वे स्वीकार करते हैं कि AI हमें धोखा दे सकता है। जब एक AI एक प्रवाहपूर्ण, आत्मविश्वासी उत्तर देता है, तो ऐसा लगता है जैसे हमने सोच लिया है, लेकिन हमने वास्तव में नहीं किया है। लेखक इस स्थिति को एपिस्टेमिया (Epistemia) कहते हैं: बिना निर्णय लेने की मेहनत किए ज्ञान होने का अहसास।

हालाँकि, लेखक कहते हैं कि अन्य शोधकर्ता समस्या को गलत तरीके से देख रहे हैं। वे एक पूर्ण विकसित इंसान (जिसका एक शरीर, एक जीवन कहानी, दोस्त और विवेक है) की तुलना एक अकेले कंप्यूटर प्रोग्राम (जो केवल एक गणितीय मशीन है) से कर रहे हैं। लेखक कहते हैं कि यह एक पेशेवर सॉकर खिलाड़ी की तुलना एक अकेले सॉकर बॉल से करने जैसा है। बेशक खिलाड़ी बेहतर है! लेकिन यह हमें यह नहीं बताता कि खेल वास्तव में कैसे खेला जाता है।

इसके बजाय, लेखक एक नया विचार प्रस्तावित करते हैं: एपिस्टमिक स्किज़ोलोजिया (Epistemic Schizologia)।
कल्पना कीजिए कि "स्किज़ोलोजिया" एक कपड़े के टुकड़े में एक दरार या विभाजन है। इस मामले में, कपड़ा "ज्ञान" है।

• दरार का पक्ष A: AI एक सुंदर, प्रशंसनीय वाक्य बनाता है। यह ज्ञान जैसा दिखता है। इसमें सही शब्दावली और संरचना है।
• दरार का पक्ष B: तथ्यों की जाँच करने, विशेषज्ञों से बहस करने, साक्ष्य खोजने और सही या गलत होने की जिम्मेदारी लेने की वास्तविक दुनिया की अव्यवस्थित प्रक्रिया।

लेखक कहते हैं कि समस्या यह है कि AI ने एक ऐसी मशीन बना दी है जो पक्ष A को पूरी तरह से उत्पन्न कर सकती है, लेकिन उसके पास पक्ष B करने का कोई तरीका नहीं है। इससे भी बुरा यह है कि इन मशीनों का उपयोग करने का तरीका अक्सर इस विभाजन को छिपा देता है। हमें एक आदर्श उत्तर मिलता है, और हम भूल जाते हैं कि "जाँचने" वाला हिस्सा गायब है।

"टेक्नो-सेमोटिक मशीन" का रूपक

AI वास्तव में क्या है, इसे समझाने के लिए लेखक एक शानदार रूपक का उपयोग करते हैं। वे इसे एक टेक्नो-सेमोटिक मशीन (Techno-Semiotic Machine) कहते हैं।
इसे एक विशाल, जादुई करघे (loom) की तरह समझें।

• धागा: करघे को उन सभी धागों के ढेर से खिलाया जाता है जो मनुष्यों ने कभी लिखे हैं (किताबें, वेबसाइट, लेख)।
• पैटर्न: करघा धागों को "समझता" नहीं है। वह बस यह सीखता है कि लाल धागे आमतौर पर नीले धागों के साथ जाते हैं, और "बिल्ली" आमतौर पर "चूहे" के साथ आती है।
• आउटपुट: जब आप इसे कुछ बुनने के लिए कहते हैं, तो यह कपड़े का एक नया टुकड़ा निकाल देता है। यह बिल्कुल मानव-निर्मित टेपेस्ट्री जैसा दिखता है। इसमें सही पैटर्न और रंग होते हैं।

लेकिन यहाँ मुख्य बात है: करघा यह नहीं जानता कि चित्र का अर्थ क्या है। वह नहीं जानता कि चित्र किसी नायक की कहानी है या किसी राक्षस की चेतावनी। वह बस यह जानता है कि धागों को कैसे बुना जाए ताकि वे सही दिखें।

लेखक तर्क देते हैं कि खतरा यह नहीं है कि करघा "नकली" है। खतरा यह है कि हम करघे द्वारा बनाई गई टेपेस्ट्री को एक पूर्ण, सत्य कहानी के रूप में देखते हैं, बिना यह जाँच किए कि उसने किन धागों का उपयोग किया है।

"इकोटिक क्लोजर" का जाल

शोध पत्र एक अन्य दिलचस्प अवधारणा पेश करता है जिसे इकोटिक क्लोजर (Eikotic Closure) कहा जाता है।
"इकोस" (Eikos) एक पुराना ग्रीक शब्द है जिसका अर्थ है "संभावित" या "संभव"।
कल्पना कीजिए कि आप एक रहस्यमयी कहानी पढ़ रहे हैं। जासूस कहता है, "बटलर ने यह किया क्योंकि वह गुस्से में था।" यह प्रशंसनीय लगता है।
अब, कल्पना कीजिए कि कहानी वहीं समाप्त हो जाती है। किताब बंद हो जाती है। आप संतुष्ट महसूस करते हैं। आप सोचते हैं, "मामला सुलझ गया!"
लेकिन क्या होगा अगर जासूस को कभी बंदूक नहीं मिली? क्या होगा अगर उसने कभी अलबी (Alibi) की जाँच नहीं की? क्या होगा अगर बटलर वास्तव़ में निर्दोष था?

इकोटिक क्लोजर तब होता है जब AI आपको एक "प्रशंसनीय" उत्तर देता है और इंटरफ़ेस (स्क्रीन, चैट बॉक्स) एक किताब के बंद होने की तरह व्यवहार करता है। यह आपके मस्तिष्क को यह सोचने के लिए धोखा देता है कि "काम" पूरा हो गया है। लेखक कहते हैं कि यह एक डिज़ाइन विकल्प है। AI केवल शब्द नहीं उगलता; यह शब्दों को इस तरह से प्रस्तुत करता है जो एक अंतिम निर्णय जैसा महसूस होता है। यह हमें सवाल पूछने से रोकता है।

"मानव बनाम रोबोट" की तुलना गलत क्यों है

लेखक बहुत स्पष्ट हैं कि वे किसके विरुद्ध हैं। वे इस विचार के विरुद्ध तर्क देते हैं कि हमें रोबोट को "अधिक मानवीय" बनाने की आवश्यकता है।

• वे कहते हैं कि हमें रोबोट को "विवेक" या "विश्वास" देने की कोशिश नहीं करनी चाहिए। यह असंभव है और मूल बात से भटकना है।
• वे रोबोट को "मूर्ख" होने के लिए दोष देने और मनुष्यों को "बुद्धिमान" होने के लिए प्रशंसा करने के खिलाफ हैं। मनुष्य भी वास्तव में तथ्यों की जाँच करने में काफी बुरे होते हैं! हम थक जाते हैं, हम आलसी हो जाते हैं, और हम गलतियाँ करते हैं।
• वे तर्क देते हैं कि मानव ज्ञान हमेशा उपकरणों पर निर्भर रहा है। हम सोचने के लिए पेन, पुस्तकालय और कंप्यूटर का उपयोग करते हैं। समस्या यह नहीं है कि AI एक उपकरण है; समस्या यह है कि हम इसका उपयोग इस तरह से कर रहे हैं जो विश्वास की श्रृंखला को तोड़ देता है।

समाधान: नर्तक को नहीं, नृत्य को सुधारें

तो, लेखक सुझाव देते हैं कि हमें क्या करना चाहिए? वे कहते हैं कि हमें रोबोट को ठीक करने की कोशिश छोड़ देनी चाहिए और अभ्यास (वह तरीका जिससे हम मिलकर काम करते हैं) को सुधारना शुरू करना चाहिए।

वे इन प्रणालियों को डिजाइन करने के लिए पाँच "प्रतिबद्धताओं" का प्रस्ताव देते हैं:

1. वंशावली दिखाएं (पारिवारिक वृक्ष): केवल उत्तर न दें। उत्तर का "पारिवारिक वृक्ष" दिखाएं। शब्द कहाँ से आए? AI ने कौन सी किताबें पढ़ीं? यदि इसने अनुमान लगाया, तो अनुमान दिखाएं। हमें उत्तर को वास्तविक दुनिया तक वापस ट्रैक करने में सक्षम होना चाहिए।
2. "नहीं" का विकल्प रखें: कभी-कभी सही उत्तर "मुझे नहीं पता" या "यह विवादास्पद है" होता है। AI को हमेशा एक आदर्श, सहज उत्तर देने की कोशिश नहीं करनी चाहिए। इसे यह कहने की अनुमति होनी चाहिए कि, "हे, यहाँ एक असहमति है," या "मेरे पास कुछ तथ्य कम हैं।" यह "घर्षण" (friction) अच्छा है क्योंकि यह हमें सोचने पर मजबूर करता है।
3. दोष (और श्रेय) साझा करें: यदि कोई गलती होती है, तो जिम्मेदार कौन है? यह केवल रोबोट नहीं है। यह वह व्यक्ति है जिसने प्रश्न पूछा, वह कंपनी जिसने रोबोट बनाया, और वह व्यक्ति जिसने उत्तर का उपयोग किया। हमें पता होना चाहिए कि प्रभारी कौन है।
4. मानव को ड्राइवर की सीट में रखें: हमें सब कुछ देखकर "अनुमोदन" (approve) बटन पर क्लिक नहीं करना चाहिए। हमें काम की जाँच करने, विभिन्न संस्करणों के लिए पूछने और यह समझने की आवश्यकता है कि AI ने जो कहा वह क्यों कहा।
5. टीम का परीक्षण करें, केवल रोबोट का नहीं: हमें केवल यह नहीं पूछना चाहिए कि "क्या रोबोट स्मार्ट है?" हमें पूछना चाहिए, "क्या मानव + रोबोट की टीम मिलकर अच्छा काम कर रही है?" क्या वे बेहतर निर्णय ले रहे हैं? क्या वे त्रुटियों को पकड़ रहे हैं?

निष्कर्ष

शोध पत्र इस निष्कर्ष पर पहुँचता है कि समस्या यह नहीं है कि AI एक "नकली इंसान" है। समस्या यह है कि हमने ज्ञान के दिखने और ज्ञान के कार्य के बीच एक विभाजन (स्किज़ोलोजिया) बना दिया है।

AI एक मास्टर शेफ की तरह है जो ऐसा भोजन पका सकता है जो दिखने और स्वाद में बिल्कुल एक शानदार रात्रिभोज जैसा हो, लेकिन उस शेफ ने कभी भोजन चखा नहीं है, कभी खेत नहीं देखा है, और उसे नहीं पता कि सामग्री ताज़ा है या नहीं। यदि हम केवल भोजन खाकर "स्वादिष्ट!" कहते हैं और रसोई की जाँच नहीं करते हैं, तो हम बीमार पड़ सकते हैं।

लेखक कहते हैं कि हमें शेफ को भोजन "चखना" सिखाने की कोशिश छोड़ देनी चाहिए। इसके बजाय, हमें एक ऐसी रसोई बनानी चाहिए जहाँ सामग्रियां दृश्यमान हों, खाना पकाने की प्रक्रिया खुली हो, और जो व्यक्ति भोजन खा रहा है उसे पता हो कि यह कैसे जाँच की जाए कि यह सुरक्षित है या नहीं। हमें उन सुंदर शब्दों को फिर से जोड़ना होगा जो AI लिखता है, उन्हें सच साबित करने के कठिन, वास्तविक दुनिया के काम के साथ।

संक्षेप में: चिकनी आवाज़ पर भरोसा न करें। प्रक्रिया पर भरोसा करें। शोध पत्र सुझाव देता है कि यदि हम अपने सिस्टम को इस तरह से डिजाइन करें कि "विभाजन" दृश्यमान रहे—ताकि हम हमेशा देख सकें कि उत्तर कहाँ से आया और इसके लिए कौन जिम्मेदार है—तो हम अपना मानसिक संतुलन खोए बिना इन शक्तिशाली मशीनों का उपयोग कर सकते हैं।