Domain Adaptation and Reasoning Frameworks in Language Models: A Controlled Experiment with Historical Cosmology
यह नियंत्रित प्रयोग प्रदर्शित करता है कि भाषा मॉडलों में डोमेन अनुकूलन (domain adaptation) मुख्य रूप से पीढ़ी के लिए उपयोग किए जाने वाले भाषाई व्याख्यात्मक ढांचों को नया आकार देता है, जिसमें ब्रह्मांड संबंधी दृष्टिकोण (cosmological stance) में परिवर्तन मॉडल के अंतर्निहित विश्वासों के प्रत्यक्ष संशोधन के बजाय इन संरचनात्मक परिवर्तनों से द्वितीयक रूप से उभरते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान लेकिन खाली दिमाग वाला रोबोट है। आप उसे ब्रह्मांड के बारे में बात करना सिखाना चाहते हैं, लेकिन आपका एक सख्त नियम है: आप उसे 1500 के बाद लिखी गई कोई भी किताब नहीं दिखा सकते। आप यह देखना चाहते हैं कि क्या, केवल उन प्राचीन कहानियों को खिलाकर जिनमें लोग मानते थे कि पृथ्वी ही सब कुछ का केंद्र है, रोबोट यह भी "सीख" जाएगा कि पृथ्वी वास्तव में केंद्र है—या क्या वह गलती से यह पता लगा लेगा कि पृथ्वी वास्तव में सूर्य के चारों ओर घूमती है।
यह शोध पत्र बिल्कुल इसी परीक्षण का परीक्षण करने के लिए एक नियंत्रित प्रयोग की तरह है। शोधकर्ताओं ने इस परीक्षण के दो अलग-अलग संस्करण चलाए।
सेटअप: दो अलग-अलग रोबोट
चरण 1: छोटा, कोरा-कागज़ जैसा रोबोट
सबसे पहले, उन्होंने शून्य से एक छोटा रोबोट बनाया। उन्होंने उसे पुरानी अंग्रेजी किताबों (जैसे उपन्यास और इतिहास) का एक बड़ा ढेर खिलाया, लेकिन सावधानीपूर्वक उसमें से आधुनिक विज्ञान के किसी भी उल्लेख को हटा दिया। फिर, उन्होंने उसे केवल प्राचीन खगोल विज्ञान की किताबों (जैसे टॉलमी और अरस्तू) का विशेष आहार दिया जो कहती हैं कि पृथ्वी स्थिर है।
- परिणाम: यह छोटा रोबोट थोड़ा भ्रमित था। कभी-कभी, ग्रहों के बारे में पूछे जाने पर, वह लड़खड़ाकर कहता, "शायद पृथ्वी चलती है?" भले ही उसने इसके बारे में कभी पढ़ा न हो। लेकिन ये विचार अव्यवस्थित, छोटे और जल्दी ही बिखर जाते थे। वह एक ठोस तर्क नहीं बना सका।
- ट्विस्ट: आश्चर्यजनक रूप से, जब उन्होंने उसे प्राचीन खगोल विज्ञान की किताबें दीं, तो वह इस बात के प्रति अधिक आश्वस्त नहीं हुआ कि पृथ्वी स्थिर है। इसके बजाय, वह बस अधिक हिचकिचाने लगा। उसने "ऐसा लगता है" या "विद्वानों के अनुसार" जैसे फैंसी, पुराने जमाने के शब्दों का उपयोग करना शुरू कर दिया, लेकिन उसने किसी भी चीज़ के बारे में दृढ़ दावे करना बंद कर दिया। वह बिना किसी पक्ष को लिए, एक पुराने विद्वान की तरह दिखने में माहिर हो गया।
चरण 2: बड़ा, अनुभवी रोबोट
इसके बाद, उन्होंने एक विशाल, सुपर-स्मार्ट रोबोट लिया जिसने पहले से ही पूरी इंटरनेट दुनिया (आधुनिक विज्ञान की किताबों सहित) पढ़ रखी थी। यह रोबोट पहले से ही जानता था कि पृथ्वी सूर्य के चारों ओर घूमती है। फिर, उन्होंने उसी प्राचीन, पृथ्वी-केंद्रित किताबों का उपयोग करके इसे "पुनः प्रशिक्षित" करने की कोशिश की, लेकिन इसके पूरे दिमाग को फिर से लिखने के बजाय केवल कुछ सेटिंग्स को बदलकर (एक तकनीक जिसे QLoRA कहा जाता है)।
- परिणाम: यह बड़ा रोबोट बात करने में बहुत बेहतर था। जब उनसे सवाल पूछे गए, तो वह तुरंत एक मध्यकालीन विद्वान की तरह लगने लगा। उसने "सेलेस्टियल स्फेयर्स" (आकाशीय गोले) और "एपिसइकिल" (ग्रहों के घूमने के पुराने तरीके) जैसे शब्दों का उपयोग किया।
- बड़ी खोज: यहाँ सबसे महत्वपूर्ण हिस्सा है। शोधकर्ताओं को उम्मीद थी कि उसे प्राचीन, पृथ्वी-केंद्रित किताबें खिलाकर, रोबोट यह मानने लगेगा कि पृथ्वी स्थिर है।
- वास्तव में क्या हुआ: रोबोट ने अपने विश्वासों (अपने रुख) को नहीं बदला। इसके बजाय, उसने केवल अपना पोशाक (कॉस्ट्यूम) बदल लिया।
- इसे एक अभिनेता की तरह समझें। प्रशिक्षण से पहले, अभिनेता एक आधुनिक वैज्ञानिक या एक मध्यकालीन भिक्षु की भूमिका निभा सकता था। प्रशिक्षण के बाद, अभिनेता मध्यकालीन भिक्षु का कॉस्ट्यूम पहनने की बहुत अधिक संभावना रखता था। लेकिन एक बार जब कॉस्ट्यूम पहन लिया गया, तो अभिनेता का जरूरी नहीं कि वह एक भिक्षु होने में विश्वास करने लगे; वह बस उस शैली में बोलता था। कभी-कभी, "पृथ्वी स्थिर है" वाला कॉस्ट्यूम पहने होने के बावजूद, अभिनेता यह भी कह देता था, "वास्तव में, पृथ्वी चलती है," या बस कहता था, "यह जटिल है।"
मुख्य सादृश्य: लाइब्रेरी बनाम लाइब्रेरियन
इस शोध पत्र के मुख्य बिंदु को समझने के लिए, एक लाइब्रेरी की कल्पना करें:
- "व्याख्यात्मक ढांचा" (Explanatory Frame) लाइब्रेरी का सेक्शन है: यह किताबों की शैली है। क्या यह "आधुनिक विज्ञान" का सेक्शन है या "प्राचीन इतिहास" का सेक्शन है?
- "कॉस्मोलॉजिकल स्टेंस" (Cosmological Stance) किताब के अंदर का विशिष्ट विचार है: क्या किताब कहती है "पृथ्वी चलती है" या "पृथ्वी स्थिर है"?
प्रयोग ने दिखाया कि फाइन-ट्यूनिंग (प्रशिक्षण) लाइब्रेरी के एक अलग सेक्शन में रोबोट को ले जाने जैसा है।
- जब उन्होंने रोबोट को प्राचीन ग्रंथों पर प्रशिक्षित किया, तो उन्होंने सफलतापूर्वक उसे "आधुनिक विज्ञान" के सेक्शन से "प्राचीन इतिहास" के सेक्शन में स्थानांतरित कर दिया।
- हालाँकि, एक बार जब रोबोट "प्राचीन इतिहास" के सेक्शन में पहुँच गया, तो उसने स्वचालित रूप से केवल उन किताबों को पढ़ना शुरू नहीं किया जो कहती हैं कि "पृथ्वी स्थिर है।" उसने उस सेक्शन की सभी किताबें पढ़ीं, जिनमें अस्पष्ट, विरोधाभासी या यहाँ तक कि संकेत देने वाली किताबें भी शामिल थीं कि पृथ्वी चलती है।
सरल अंग्रेजी में निष्कर्ष
शोध पत्र यह निष्कर्ष निकालता है कि भाषा मॉडल दुनिया के बारे में क्या कहता है (उसका रुख/स्टेंस), यह ज्यादातर इस बात का एक साइड इफेक्ट है कि वह कैसे बात करता है (उसकी शैली)।
- प्रशिक्षण ने रोबोट को यह "खोजने" के लिए मजबूर नहीं किया कि पृथ्वी स्थिर है।
- प्रशिक्षण ने बस रोबोट को अतीत की आवाज़ में बोलने के लिए अधिक सक्षम बनाया।
- क्योंकि "अतीत की आवाज़" आमतौर पर पृथ्वी के स्थिर होने के बारे में बात करती है, इसलिए रोबोट को ऐसा लगा कि वह इसे अधिक बार मानता है। लेकिन यदि आप ध्यान से देखें, तो रोबोट केवल पुराने किताबों की पटकथा का पालन कर रहा है। उसने मौलिक रूप से अपना मन नहीं बदला है; उसने बस अपना लहजा और शब्दावली बदल ली है।
संक्षेप में: आप एक रोबोट को मध्यकालीन खगोलशास्त्री की तरह बोलना सिखा सकते हैं, लेकिन इसका मतलब यह नहीं है कि वह यह भूल गया है कि पृथ्वी सूर्य के चारों ओर घूमती है। इसका मतलब सिर्फ इतना है कि जब वह बात करता है, तो वह एक मध्यकालीन टोपी पहनने की अधिक संभावना रखता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।