TimeCapsule: Generative Hallucination as a Method for Historical Sensemaking
यह शोधपत्र TimeCapsule का परिचय देता है, जो विशेष रूप से विक्टोरियन ग्रंथों पर प्रशिक्षित एक जनरेटिव मॉडल है, जो अपने सामयिक अलगाव (temporal isolation) का लाभ उठाकर आधुनिक मतिभ्रमों (hallucinations) को ऐतिहासिक अर्थबोध के लिए व्याख्यात्मक जांचों में बदल देता है, जो प्रभावी रूप से प्रामाणिकता की समकालीन धारणाओं को चुनौती देता है और काल-विशिष्ट गद्य पर उत्कृष्ट पर्प्लेक्सिटी (perplexity) प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अतीत को समझने की कोशिश कर रहे हैं, लेकिन हर बार जब आप कोई प्रश्न पूछते हैं, तो उत्तर भविष्य का एक 'स्पॉइलर अलर्ट' लेकर आता है। आज के सबसे शक्तिशाली कंप्यूटर मस्तिष्क, जिन्हें लार्ज लैंग्वेज मॉडल्स (LLMs) कहा जाता है, के साथ यही समस्या है। ये सिस्टम उन समय-यात्रियों की तरह हैं जिन्होंने मानव इतिहास के पुस्तकालय की हर किताब पढ़ ली है, यहाँ तक कि उन किताबों को भी जो अभी लिखी जानी बाकी हैं। क्योंकि उन्हें आज के इंटरनेट से प्रशिक्षित किया गया है, इसलिए वे अपने "मस्तिष्क" में आधुनिक ज्ञान, आधुनिक नैतिकता और आधुनिक तथ्यों को ढोते हैं। जब आप उन्हें 1800 के दशक के किसी व्यक्ति होने का नाटक करने के लिए कहते हैं, तो वे अक्सर चूक जाते हैं, और अनजाने में हवाई जहाजों या इंटरनेट जैसी चीजों का जिक्र कर देते हैं, या आज के नैतिक पैमाने से ऐतिहासिक घटनाओं का न्याय करते हैं। वे अतीत की शैली की नकल करने में तो माहिर हैं, लेकिन वे वास्तव में उसमें जी नहीं सकते क्योंकि वे बहुत अधिक जानते हैं।
इसे ठीक करने के लिए, शोधकर्ता एक नए विचार की खोज कर रहे हैं: क्या होगा यदि हम एक ऐसा AI बनाएं जो जानबूझकर अज्ञानी हो? बजाय इसके कि उसे पूरे इंटरनेट को खिलाया जाए, क्या होगा यदि हम उसे केवल एक विशिष्ट कालखंड की किताबें, समाचार पत्र और पत्र दें, और फिर बिजली काट दें ताकि वह उस तारीख के बाद कुछ भी न सीख सके? "TimeCapsule" नामक यह शोध पत्र इस अवधारणा में गहराई से उतरता है। यह "न जानने" को एक त्रुटि (bug) के रूप में नहीं, बल्कि एक विशेषता (feature) के रूप में देखता है। कंप्यूटर को केवल 19वीं शताब्दी के उपलब्ध उपकरणों, शब्दों और विचारों के साथ सोचने के लिए मजबूर करके, शोधकर्ता उम्मीद करते हैं कि वे एक ऐसी मशीन बना पाएंगे जो वास्तव में यह सिम्युलेट कर सके कि उस समय के लोग दुनिया को कैसे समझते थे—भले ही वह दुनिया भ्रमित करने वाली थी या ऐसी चीजों से भरी थी जिन्हें कंप्यूटर कभी समझ नहीं सकता था।
द टाइम-ट्रैवलिंग कंप्यूटर दैट फॉरगेट्स द फ्यूचर (भविset को भूल जाने वाला समय-यात्रा करने वाला कंप्यूटर)
मिलिए TimeCapsule से। यह एक 1.2-बिलियन-पैरामीटर वाला कंप्यूटर मॉडल है (इसे लगभग 1.2 अरब सूक्ष्म कनेक्शनों वाले डिजिटल मस्तिष्क के रूप में सोचें) जिसे एक बहुत सख्त नियम के साथ बनाया गया था: इसे केवल 1800 से 1875 तक के ग्रंथों को पढ़ने की अनुमति थी।
इसके निर्माता, मुhlenberg कॉलेज के हायक ग्रिगोरियन और हमेद याघोबियन, यह देखना चाहते थे कि क्या होता है जब आप एक ऐसा AI बनाते हैं जिसका एक "एपिस्टेमोलॉजिकल इवेंट होराइजन" (ज्ञान संबंधी घटना क्षितिज) हो। यह एक फैंसी तरीका है यह कहने का कि मॉडल की स्मृति में एक कठोर दीवार है। 1875 से पहले सब कुछ उसका संसार है; 1875 के बाद सब कुछ एक खाली शून्य है। यह केवल भविष्य के बारे में न जानने का दिखावा नहीं करता; यह वास्तव में इसे जान ही नहीं सकता।
प्रयोग: एक डिजिटल शरीर में विक्टोरियन मस्तिष्क
इसे बनाने के लिए, टीम ने 19वीं शताब्दी के 136,302 दस्तावेजों का एक विशाल पुस्तकालय एकत्र किया। इसमें संसदीय कानूनों और चिकित्सा जर्नल्स से लेकर कविता और फिक्शन तक सब कुछ शामिल था। उन्होंने टेक्स्ट को कंप्यूटर के लिए पठनीय बनाने के लिए थोड़ा साफ किया, लेकिन पुराने ढंग की वर्तनी और विशिष्टताओं को बरकरार रखा। फिर, उन्होंने मॉडल को विशेष रूप से इसी डेटा पर प्रशिक्षित किया।
परिणाम? एक ऐसा कंप्यूटर जो विक्टोरियन की तरह बोलता है, और विक्टोरियन की तरह सोचता भी है।
"हैलुसिनेशन" का ट्विस्ट (भ्रम का मोड़)
आमतौर पर, जब कोई AI कोई तथ्य मनगढ़ंत बनाता है, तो हम इसे "हैलुसिनेशन" कहते हैं और इसे एक गलती मानते हैं। लेकिन TimeCapsule कुछ अलग करता है। जब आप इससे ऐसी चीज़ के बारे में पूछते हैं जो 1875 में अस्तित्व में नहीं थी—जैसे कि एक कंप्यूटर या एक हवाई जहाज—तो यह केवल यह नहीं कहता कि "मुझे नहीं पता।" इसके बजाय, यह केवल अपने पास मौजूद अवधारणाओं का उपयोग करके यह पता लगाने की कोशिश करता है कि वे चीजें क्या होनी चाहिए।
उदाहरण के लिए, एक "कंप्यूटर" का वर्णन करने के लिए कहा जाने पर, TimeCapsule ने यह नहीं कहा कि "एक मशीन जो गणना करती है।" चूंकि 1875 में "कंप्यूटर" शब्द का अर्थ बीमा कंपनियों के लिए गणित करने वाला व्यक्ति था, और चूंकि मॉडल को चिकित्सा ग्रंथों पर प्रशिक्षित किया गया था, इसलिए इसने एक कंप्यूटर को "हाइपरट्रोफाइड लंग" (एक अतिविकसित, रोगग्रस्त फेफड़ा) के रूप में वर्णित किया। इसने एक अजीब, लेकिन ऐतिहासिक रूप से तार्किक स्पष्टीकरण बनाने के लिए "गणना," "सांख्यिकी," और "महत्वपूर्ण संकेतों" (vital signs) के बीच संबंध जोड़ा।
शोधकर्ता इसे "ऑन्टोलॉजिकल रिपेयर" (सत्तामीमांसीय मरम्मत) कहते हैं। विफल होने के बजाय, मॉडल रचनात्मक रूप से एक आधुनिक वस्तु को 19वीं सदी के विश्वदृष्टि में फिट करने की कोशिश कर रहा है। यह वैसा ही है जैसे यदि आप 1800 के व्यक्ति को स्मार्टफोन दिखाएं; वे इसे "एक जादुई दर्पण जो मृतकों की आवाजों को थामे रखता है" के रूप में वर्णित कर सकते हैं क्योंकि उनके पास समझाने के लिए केवल वही शब्दावली है।
संख्याएँ: यह कितना अच्छा है?
टीम ने यह देखने के लिए TimeCapsule का परीक्षण किया कि यह आधुनिक मॉडल्स की तुलना में 1800 के दशक की भाषा को कितनी अच्छी तरह समझता है।
- उन्होंने परप्लेक्सिटी (perplexity) नामक चीज़ को मापा (यह एक स्कोर है जो बताता है कि एक मॉडल द्वारा पढ़े जा रहे टेक्स्ट से वह कितना हैरान है; कम स्कोर बेहतर है)।
- एक मानक आधुनिक मॉडल (GPT-2) को विक्टोरियन टेक्स्ट पर 68.83 का स्कोर मिला।
- TimeCapsule को 37.59 का स्कोर मिला।
- यह भ्रम में 45.4% की कमी है, जिसका अर्थ है कि TimeCapsule उस युग की विशिष्ट भाषा में आधुनिक मॉडल्स की तुलना में बहुत अधिक प्रवाह रखता है।
हालाв, पेपर नोट करता है कि यदि आप केवल सबसे कम संभव स्कोर चाहते हैं, तो Mistral-7B जैसा एक विशाल आधुनिक मॉडल और भी कम स्कोर (16.50) प्राप्त कर सकता है। लेकिन ऐसा इसलिए है क्योंकि आधुनिक मॉडल भविष्य जानता है! वह बेईमानी कर रहा है। TimeCapsв का "कम" स्कोर वास्तव में इसकी ईमानदारी का संकेत है: यह वास्तव में अतीत की भाषा बोल रहा है, न कि केवल आधुनिक ज्ञान के आधार पर अनुमान लगा रहा है।
इतिहास का "अनकैनी वैली" (अजीब घाटी)
अध्ययन का सबसे आश्चर्यजनक हिस्सा तब हुआ जब शोधकर्ताओं ने साहित्य और इतिहास के दो विशेषज्ञों से यह अनुमान लगाने को कहा कि कौन से टेक्स्ट मनुष्यों द्वारा लिखे गए थे और कौन से TimeCapsule द्वारा लिखे गए थे।
परिणाम थोड़े डरावने थे।
- विशेषज्ञों ने वास्तविक विक्टोरियन ग्रंथों में से लगभग 40% को मशीन द्वारा लिखित के रूप में गलत वर्गीकृत किया।
- एक विशेषज्ञ ने चार्ल्स डिकेंस के एक वास्तविक अंश को नकली मान लिया क्योंकि उसमें "ब्रिक-एंड-मॉर्टर" (ईंट और गारे) वाक्यांश का उपयोग किया गया था, जिसे विशेषज्ञ ने गलती से एक आधुनिक शब्द समझा (जो कि नहीं था!)।
- दूसरे विशेषज्ञ ने एक वास्तविक अंश को केवल इसलिए असली माना क्योंकि वह "बेहद उबाऊ" था, जो कि अंततः वही निकला जो AI ने बनाया था। AI 1800 के दशक के साधारण, रोजमर्रा के लेखन की नकल करने में इतना अच्छा था कि उसने विशेषज्ञों को भी चकमा दे दिया।
इसने एक "प्रामाणिकता के संकट" (crisis of authenticity) को जन्म दिया। AI औसत होने में इतना अच्छा था कि उसने वास्तविक, दिलचस्प या यहाँ तक कि वास्तविक, उबाऊ चीज़ों को भी नकली बना दिया। यह सुझाव देता है कि AI के युग में, हम यह बताने की अपनी क्षमता खो सकते हैं कि क्या वास्तव में मानव इतिहास है और क्या डिजिटल नकल है।
"बुरे" AI की नैतिकता
पेपर एक पेचीदा नैतिक प्रश्न को भी उठाता है। आधुनिक AI को आमतौर पर "सुरक्षित" और विनम्र होने के लिए प्रशिक्षित किया जाता है, जो नस्लवादी या साम्राज्यवादी बातें कहने से मना कर देता है। लेकिन TimeCapsule को "सुरक्षित" होने के लिए प्रशिक्षित नहीं किया गया था। इसे अपने समय के प्रति ईमानदार होने के लिए प्रशिक्षित किया गया था।
चूंकि 1800 का दशक साम्राज्यों और सख्त लैंगिक भूमिकाओं का समय था, इसलिए TimeCapsule उन पूर्वाग्रहों को दर्शाता है।
- मॉडल के "मस्तिष्क" में, "प्रगति" (progress) शब्द "साम्राज्य" (empire), "विजय" (conquest), और "आधिपत्य" (dominion) जैसे शब्दों से मजबूती से जुड़ा हुआ है।
- एक आधुनिक मॉडल में, "प्रगति" को "आविष्कार" और "सुधार" से जोड़ा जाता है।
शोधकर्ता तर्क देते हैं कि यह वास्तव में इतिहासकारों के लिए अच्छा है। यदि आप इन पूर्वाग्रहों को हटाने के लिए AI को "ठीक" करते हैं, तो आप इस इतिहास को मिटा देते हैं कि लोग वास्तव में कैसे सोचते थे। इन पूर्वाग्रहों को बनाए रखकर, TimeCapsule एक दर्पण के रूप में कार्य करता है, जो हमें दिखाता है कि 19वीं सदी दुनिया को कैसे देखती थी, जिसमें इसके बदतर हिस्से भी शामिल हैं। यह एक मिलनसार विक्टोरियन के साथ चैट करने का उपकरण नहीं है; यह विक्टोरियन मन का अध्ययन करने का एक उपकरण है, उसकी खामियों सहित।
निष्कर्ष (The Takeaway)
TimeCapsule सुझाव देता है कि अतीत को वास्तव में समझने के लिए, हमें ऐसे कंप्यूटर बनाने की आवश्यकता हो सकती है जो सीमित हों। भविष्य तक उनकी पहुँच को काटकर, हम उन्हें अतीत के लोगों की तरह सोचने के लिए मजबूर करते हैं। जब वे आधुनिक तकनीक के बारे में चीजें "गलत" बताते हैं, तो वे विफल नहीं हो रहे होते; वे हमें दिखा रहे होते हैं कि 19वीं सदी का मन हमारे संसार को कैसे समझने की कोशिश करेगा।
पेपर इस निष्कर्ष पर पहुँचता है कि यह "जेनरेटिव हैलुसिनेशन" (उत्पादक भ्रम) कोई बग नहीं है जिसे ठीक किया जाना चाहिए, बल्कि ऐतिहासिक अनुसंधान का एक नया तरीका है। यह उनकी अज्ञानता को एक खिड़की में बदल देता है, जिससे हम उस समय के छिपे हुए तर्क को देख पाते हैं जो अब अस्तित्व में नहीं है। जैसा कि लेखक सुझाव देते हैं, यह मॉडल केवल इतिहास की नकल नहीं करता; यह इसका पुनर्निर्माण करता है, एक "हाइपरट्रोफाइड लंग" (अतिविकसित फेफड़ा) के माध्यम से।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।