Many-Shot CoT-ICL: Making In-Context Learning Truly Learn
यह शोध पत्र प्रकट करता है कि मेनी-शॉट चेन-ऑफ-थॉट इन-कॉन्टेक्स्ट लर्निंग, सरल पैटर्न मैचिंग के बजाय इन-कॉन्टेक्स्ट टेस्ट-टाइम लर्निंग के रूप में व्यवहार करती है, जो यह प्रदर्शित करता है कि मानक स्केलिंग नियम तर्क संबंधी कार्यों के लिए विफल हो जाते हैं और महत्वपूर्ण प्रदर्शन लाभ के लिए प्रदर्शन क्रम को अनुकूलित करने हेतु कर्विलिनियर डेमोंस्ट्रेशन सिलेक्शन (CDS) का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान लेकिन अनुभवहीन छात्र को एक जटिल पहेली हल करना सिखाने की कोशिश कर रहे हैं। आपके पास एक विशाल नोटबुक (जिसे "लॉन्ग कॉन्टेक्स्ट विंडो" कहा जाता है) है जिसमें आप छात्र की मदद करने के लिए सैकड़ों उदाहरण लिख सकते हैं।
यह शोध पत्र इस बात की जांच करता है कि क्या होता है जब आप उस नोटबुक को सैकड़ों उदाहरणों से भर देते है, जिनमें न केवल प्रश्न और उत्तर शामिल हैं, बल्कि उन्हें हल करने के लिए उपयोग की गई चरण-दर-चरण सोचने की प्रक्रिया (जिसे "चेन-ऑफ-थॉट" कहा जाता है) भी शामिल है।
यहाँ शोधकर्ताओं द्वारा की गई खोजों का सरल विवरण दिया गया है:
1. पुराना नियम बनाम नई वास्तविकता
पुराना नियम (सरल कार्यों के लिए):
यदि आप एक छात्र को डाक छाँटना (एक सरल कार्य) सिखा रहे हैं, तो इससे बहुत फर्क नहीं पड़ता कि आप उन्हें 20 उदाहरण दिखाते हैं या 200, या यदि आप उन्हें किसी भी क्रम में दिखाते हैं। आप उन्हें जितने अधिक उदाहरण देंगे, वे उतने ही बेहतर होते जाएंगे, और क्रम का कोई महत्व नहीं है। यह एक बाल्टी में बहुत सारे लाल बॉल्स फेंकने जैसा है; वे सभी एक जैसे दिखते हैं, इसलिए क्रम अप्रासंगिक है।
नई वास्तविकता (तर्क संबंधी कार्यों के लिए):
जब कार्य कठिन हो—जैसे कि ज्योमेट्री प्रूफ हल करना या जासूसी रहस्य सुलझाना—तो पुराने नियम टूट जाते हैं।
- अधिक होना हमेशा बेहतर नहीं होता: यदि आप एक मानक AI मॉडल के लिए सैकड़ों तर्क संबंधी उदाहरणों को बस ढेर कर देते हैं, तो वह अक्सर भ्रमित हो जाता है और प्रदर्शन खराब कर देता है।
- क्रम बहुत मायने रखता है: डाक छाँटने के विपरीत, इन जटिल तर्क चरणों को प्रस्तुत करने का क्रम महत्वपूर्ण है। यदि आप एक सरल अवधारणा से बहुत जल्दी एक अत्यंत कठिन अवधारणा पर कूद जाते हैं, तो छात्र रास्ता भटक जाता है।
2. क्यों "समान" उदाहरण विफल हो जाते हैं
आमतौर पर, जब हम किसी छात्र की मदद करना चाहते हैं, तो हम ऐसे उदाहरण देखते हैं जो वर्तमान समस्या के समान दिखते हों।
- जाल (The Trap): शोध पत्र में पाया गया कि तर्क संबंधी कार्यों के लिए, ऐसे उदाहरण चुनना जो समान दिखते हों (जैसे, त्रिभुज के बारे में दोनों गणित के सवाल) वास्तव में एक बुरा विचार है।
- उपमा: कल्पना कीजिए कि आप किसी को केक बनाना सिखा रहे हैं। आप उन्हें चॉकलेट केक की रेसिपी दिखाते हैं, और फिर उनसे स्पंज केक बनाने के लिए कहते हैं। वे समान दिखते हैं (दोनों केक हैं), लेकिन प्रक्रिया (चरण) अलग है। यदि छात्र चॉकलेट के चरणों की नकल स्पंज केक के लिए करने की कोशिश करता है, तो वह विफल हो जाएगा।
- निष्कर्ष: तर्क (reasoning) के लिए, "विषय" (सतही समानता) से अधिक "चरण" (प्रक्रिया) मायने रखते हैं। दो समस्याएं एक जैसी दिख सकती हैं लेकिन उनके लिए पूरी तरह से अलग सोचने के मार्ग की आवश्यकता हो सकती है। यदि AI गलत मार्ग की नकल करने की कोशिश करता है, तो वह विफल हो जाता है।
3. "पाठ्यक्रम" दृष्टिकोण
लेखकों ने महसूस किया कि एक AI को सैकड़ों उदाहरणों की एक लंबी सूची से वास्तव में "सीखने" के लिए, उस सूची को किताबों के ढेर के बजाय एक स्कूल पाठ्यक्रम की तरह काम करने की आवश्यकता है।
- सिद्धांत 1: बोधगम्यता (Understandability)। उदाहरणों को इस तरह लिखा जाना चाहिए जिसे विशिष्ट AI समझ सके। यदि AI "कमजोर" है, तो एक "प्रतिभाशाली" AI द्वारा लिखे गए उदाहरण दिखाना बहुत भ्रमित करने वाला हो सकता है। वह अपने स्वयं के वर्तमान सोचने के स्तर से मेल खाने वाले उदाहरणों से सबसे अच्छा सीखता है।
- सिद्धांत 2: सुचारू संक्रमण (Smooth Transitions)। उदाहरणों को इस तरह व्यवस्थित किया जाना चाहिए कि अवधारणाएं एक से दूसरी में सहजता से प्रवाहित हों। आप बिना बीच के चरणों के "योग" से सीधे "कैलकुलस" पर नहीं कूद सकते।
4. समाधान: "कर्वीलीनियर डेमोंस्ट्रेशन सिलेक्शन" (CDS)
क्रम की समस्या को ठीक करने के लिए, शोधकर्ताओं ने CDS नामक एक विधि का आविष्कार किया।
- रूपक: कल्पना कीजिए कि उदाहरण एक मानचित्र पर बिंदु हैं। यदि आप उन्हें यादृच्छिक (random) क्रम में जोड़ते हैं, तो आपको तीखे, चक्कर आने वाले मोड़ (उच्च "कर्वेचर") लेने पड़ सकते हैं। यदि आप उन्हें इस तरह व्यवस्थित करते हैं कि पथ चिकना और कोमल हो (कम "कर्वेचर"), तो छात्र उस पथ पर आसानी से चल सकता है।
- परिणाम: उदाहरणों को इस तरह व्यवस्थित करके कि उनका "सोचने का मार्ग" सुचारू और क्रमिक हो, उन्होंने रैंडम ऑर्डरिंग की तुलना में ज्योमेट्री की समस्याओं पर AI के प्रदर्शन में लगभग 5.4% का सुधार किया।
सारांश
यह शोध पत्र तर्क देता है कि AI को सैकड़ों तर्क संबंधी उदाहरण देना केवल "अधिक डेटा" के बारे में नहीं है। यह इस बारे में है कि डेटा को कैसे प्रस्तुत किया जाता है।
- मत कीजिए: केवल समान दिखने वाले उदाहरणों को न उठाएं।
- करें: उन्हें एक सुचारू पाठ योजना की तरह व्यवस्थित करें, जो आसान अवधारणाओं से कठिन अवधारणाओं की ओर धीरे-धीरे बढ़े।
- करें: सुनिश्चित करें कि उदाहरण उस भाषा में लिखे गए हैं जिसे विशिष्ट AI वास्तव में समझ सकता है।
लंबे उदाहरणों की सूची को एक संरचित पाठ (structured lesson) के रूप में मानने के बजाय केवल एक रिट्रीवल बफर (retrieval buffer) के रूप में देखने से, AI वास्तविक समय में तर्क प्रक्रिया को "सीख" सकता है, बजाय इसके कि वह केवल पैटर्न के आधार पर अनुमान लगाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।