Schema for In-Context Learning
संज्ञानात्मक स्कीमा सिद्धांत (cognitive schema theory) से प्रेरित होकर, यह शोध पत्र स्कीमा-एक्टिवेटेड इन-कॉन्टेक्स्ट लर्निंग (SA-ICL) प्रस्तुत करता है, जो एक ऐसा ढांचा है जो जटिल वैज्ञानिक कार्यों पर बड़े भाषा मॉडलों के प्रदर्शन और व्याख्यात्मकता को महत्वपूर्ण रूप से बढ़ाने के लिए पूर्व उदाहरणों से अमूर्त तर्क टेम्पलेट (abstracted reasoning templates) को स्पष्ट रूप से निर्मित करता है और साथ ही कई प्रदर्शन उदाहरणों पर निर्भरता को कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: मस्तिष्क की "फाइलिंग प्रणाली" को जगाना
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान छात्र (AI) हैं जो एक कक्षा में बैठे हैं। शिक्षक आपको एक नया, कठिन गणित का सवाल देते हैं। आपकी मदद करने के लिए, शिक्षक आपको पिछले हफ्ते के होमवर्क से एक समान उदाहरण देते हैं।
समस्या (स्कीमा सुस्ती - Schema Dormancy):
आमतौर पर, आप उदाहरण को देखते हैं और वही सटीक कदम दोहराने की कोशिश करते हैं जो शिक्षक ने उठाए थे। आप उत्तर सही भी पा सकते हैं, लेकिन अक्सर आप अटक जाते हैं क्योंकि आप केवल सतही विवरणों (जैसे उपयोग किए गए नंबर) की नकल कर रहे होते हैं, न कि समस्या के पीछे के गहरे तर्क (logic) को समझ रहे होते हैं। यह एक पहेली को हल करने जैसा है जहाँ आप बॉक्स पर बनी तस्वीर को देखकर उसे सुलझाने की कोशिश कर रहे हैं, लेकिन आपके पास जो पहेली के टुकड़े हैं वे थोड़े अलग आकार के हैं। आप गहरे तर्क के बजाय "सतही स्तर के शॉर्टकट" पर निर्भर हैं।
लेखक इसे स्कीमा डोर्मेंसी (Schema Dormancy) कहते हैं। यह ऐसा है जैसे आपके दिमाग में ज्ञान का एक पुस्तकालय है, लेकिन लाइटें बंद हैं। आपके पास किताबें (तर्क के ढांचे/reasoning frameworks) तो हैं, लेकिन आप यह नहीं ढूंढ पा रहे हैं कि कौन सी किताब खोलनी है क्योंकि किसी ने आपको यह नहीं बताया कि किस गलियारे (aisle) में जाना है।
समाधान (SA-ICL):
यह शोध पत्र एक नई विधि पेश करता है जिसे स्कीमा-एक्टिवेटेड इन-कॉन्टेक्स्ट लर्निंग (SA-ICL) कहा जाता है।
सिर्फ आपको उदाहरण देने के बजाय, शिक्षक पहले कहता है: "नंबरों को देखने से पहले, आइए 'तराजू को संतुलित करने' की अवधारणा (concept) को याद करें।"
यह "स्कीमा एक्टिवेशन" है। शिक्षक विशिष्ट समस्या दिखाने से पहले आपके सही मानसिक ढांचे (स्कीमा) को स्पष्ट रूप से जगा देता है। एक बार जब वह ढांचा सक्रिय हो जाता है, तो आप नई समस्या को देख सकते हैं और तुरंत देख सकते हैं कि टुकड़ों को कैसे जोड़ा जाए, चाहे नंबर या कहानी थोड़ी अलग ही क्यों न हो।
"वॉशिंग मशीन" की उपमा (Analogy)
इसे सिद्ध करने के लिए, शोधकर्ताओं ने एक प्रसिद्ध प्रयोग चलाया (जो मूल रूप से 1972 में मनुष्यों के साथ किया गया था)।
- परिदृश्य: उन्होंने एक AI को एक भ्रमित करने वाला पैराग्राफ दिया जो एक प्रक्रिया का वर्णन कर रहा था: "सबसे पहले, आप चीजों को समूहों में व्यवस्थित करते हैं। यदि आपके पास पर्याप्त जगह नहीं है, तो आप कहीं और जाते हैं। यह महत्वपूर्ण है कि एक साथ बहुत अधिक चीजें न करें..."
- बिना चाबी के: यदि आप इसे बस पढ़ते हैं, तो यह एक गड़बड़ी जैसा लगता है। क्या यह खाना पकाने के बारे में है? सफाई के बारे में? या बागवानी के बारे में? AI भ्रमित हो जाता है और उसका ध्यान भटक जाता है।
- चाबी के साथ: यदि आप सबसे ऊपर "वॉशिंग मशीन" शब्द जोड़ देते हैं, तो वह पैराग्राफ अचानक पूरी तरह से समझ में आने लगता है। AI का मस्तिष्क "चमक उठता" है। वह जानता है कि "चीजों को समूहों में व्यवस्थित करना" का क्या अर्थ है (कपड़ों की छंटाई करना), और वह पूरी कहानी को तुरंत समझ जाता है।
यह शोध पत्र दिखाता है कि AI मॉडल भी इसी तरह के भ्रम का शिकार होते हैं। उन्हें समस्या को हल करने से पहले जानकारी को व्यवस्थित करने के लिए उस "वॉशिंग मशीन" वाले संकेत (स्कीमा) की आवश्यकता होती है।
यह कैसे काम करता है: REAP प्रक्रिया
लेखकों ने AI के मस्तिष्क को जगाने में मदद करने के लिए 4-चरणों का एक नुस्खा बनाया है:
- R (Representation - प्रतिनिधित्व): नई समस्या को देखें और यह पता लगाएं कि यह किस प्रकार की पहेली है।
- R (Retrieval - पुनर्प्राप्ति): अपने मानसिक पुस्तकालय में जाएं और इस प्रकार की पहेली के लिए सबसे अच्छा "नियम पुस्तिका" (Schema) खोजें।
- E (Episodic Retrieval - प्रसंगिक पुनर्प्राप्ति): एक विशिष्ट पिछला उदाहरण खोजें जो इस नियम पुस्तिका में फिट बैठता हो।
- A (Activation - सक्रियण): यह जादुई चरण है। AI को स्पष्ट रूप से बताएं: "इस समस्या को हल करने के लिए 'भौतिकी संरक्षण ऊर्जा' (Physics Conservation of Energy) की नियम पुस्तिका का उपयोग करें।"
एक बार जब AI को बताया जाता है कि कौन सी नियम पुस्तिका का उपयोग करना है, तो वह अनुमान लगाना बंद कर देता है और संरचनात्मक रूप से तर्क करने लगता है।
यह क्यों महत्वपूर्ण है: परिणाम
शोधकर्ताओं ने विज्ञान, सांख्यिकी और वित्त (Finance) के कठिन प्रश्नों पर इसका परीक्षण किया।
- पुराना तरीका (One-Shot): AI को एक उदाहरण दें और कहें "इसे हल करें।"
- परिणाम: AI अक्सर विफल हो जाता है या कमजोर उत्तर देता है क्योंकि वह केवल उदाहरण की नकल कर रहा होता है, बिना गहरे ढांचे को समझे।
- नया तरीका (SA-ICL): AI को पहले नियम पुस्तिका बताएं, फिर उदाहरण दें, फिर उसे हल करने के लिए कहें।
- परिणाम: AI समस्याओं को हल करने में काफी बेहतर हो गया, विशेष रूप से तब जब उदाहरण प्रश्न के बहुत समान थे।
"अहा!" क्षण (The "Aha!" Moment):
सबसे आश्चर्यजनक खोज यह थी कि जब AI को सही "नियम पुस्तिका" (Schema) मिल गई, तो उसने न केवल सही उत्तर दिया; बल्कि वह अधिक कुशल भी हो गया। उसने अपनी सोच समझाने के लिए कम शब्दों का उपयोग किया क्योंकि उसे अनुमान लगाने में भटकना नहीं पड़ा। उसे पता था कि कहाँ जाना है।
निष्कर्ष
Large Language Models (LLMs) को अविश्वसनीय रूप से स्मार्ट लेकिन थोड़े भुलक्कड़ जीनियस के रूप में देखें। उनके पास दुनिया भर का ज्ञान है, लेकिन कभी-कभी वे भूल जाते हैं कि इसे कैसे व्यवस्थित करना है।
Schema-Activated ICL उस जीनियस को एक स्टिकी नोट देने जैसा है जिस पर लिखा है: "याद रखें, आप एक जासूस हैं, शेफ नहीं। अपने जासूसी तर्क का उपयोग करें।"
किसी समस्या को हल करने के लिए AI से पूछने से पहले उसके सोचने के सही तरीके को स्पष्ट रूप से सक्रिय करके, हम इसे सतही ट्रिक्स पर निर्भर होने से रोकते हैं और इसकी वास्तविक तर्क शक्ति का उपयोग करने में मदद करते हैं। यह AI को स्मार्ट, अधिक विश्वसनीय और जटिल वास्तविक दुनिया के कार्यों को संभालने में बेहतर बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।