Beyond Fine-Tuning: In-Context Learning and Chain-of-Thought for Reasoned Distractor Generation
यह शोधपत्र एक तर्क-संवर्धित इन-कॉन्टेक्स्ट लर्निंग फ्रेमवर्क प्रस्तावित करता है जो बहुविकल्पीय प्रश्नों के लिए अत्याधुनिक, तर्क-संरेखित विकर्षकों (distractors) को उत्पन्न करने हेतु अनसुपरवाइज्ड सिमेंटिक रिट्रीवल के साथ लार्ज लैंग्वेज मॉडल्स का लाभ उठाता है, जो छह विविध बेंचमार्क पर मौजूदा फाइन-ट्यूनिंग-आधारित दृष्टिकोणों से बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक शिक्षक हैं जो अपने छात्रों के लिए एक बहुविकल्पीय (multiple-choice) टेस्ट तैयार कर रहे हैं। आपके पास सही उत्तर है, लेकिन आपको "गलत" उत्तर (जिन्हें डिस्ट्रैक्टर्स/distractors कहा जाता है) बनाने की आवश्यकता है ताकि टेस्ट चुनौतीपूर्ण बन सके।
यहाँ पेचीदा बात यह है: गलत उत्तर केवल निरर्थक नहीं होने चाहिए। उन्हें तर्कसंगत (plausible) होना चाहिए। उन्हें इतना वास्तविक दिखना चाहिए कि वह छात्र, जो विषय को लगभग समझ चुका है, धोखा खा जाए।
उदाहरण के लिए, यदि प्रश्न है "H₂O क्या है?", तो सही उत्तर है पानी (Water)।
- एक बुरा डिस्ट्रैक्टर: "चंद्रमा।" (बहुत स्पष्ट है, कोई इसे नहीं चुनेगा)।
- एक अच्छा डिस्ट्रैक्टर: "हाइड्रोजन।" (यह पानी का हिस्सा है, इसलिए यह एक लुभावना जाल है)।
- एक बेहतरीन डिस्ट्रैक्टर: "ऑक्सीजन।" (यह भी पानी का हिस्सा है, लेकिन यह पूरा नहीं है)।
पुराना तरीका: "कॉपी-पेस्ट" रोबोट
लंबे समय तक, कंप्यूटर यह करने की कोशिश करते थे कि वे "रोबोट" हों। उन्हें हजारों उदाहरणों पर प्रशिक्षित किया गया था, जिससे उन्होंने पैटर्न को एक तोते की तरह रट लिया। वे प्रश्न देखते और ऐसे शब्द उगल देते जो सांख्यिकीय रूप से सही उत्तर के समान दिखते थे।
समस्या: ये रोबोट शब्दों की नकल करने में तो अच्छे थे, लेकिन वे यह नहीं समझते थे कि एक गलत उत्तर क्यों गलत है। वे अक्सर ऐसे उत्तर उत्पन्न करते थे जो तकनीकी रूप से सही तो थे लेकिन प्रश्न के तर्क के अनुकूल नहीं थे, या वे अनजाने में सही उत्तर को ही गलत उत्तरों की सूची में दे देते थे। यह एक ऐसे रोबोट की तरह था जो चुटकुला लिखने की कोशिश कर रहा हो लेकिन पंचलाइन न समझ पाने के कारण चुटकुले का मज़ा ही खत्म कर दे।
नया तरीका: "स्मार्ट ट्यूटर" (इस पेपर का विचार)
इस पेपर के लेखक कहते हैं: "रोबोट को रटने के लिए प्रशिक्षित करना बंद करें। इसके बजाय, उसे सोचना सिखाएं।"
वे एक तकनीक का उपयोग करते हैं जिसे इन-कॉन्टेक्स्ट लर्निंग (In-Context Learning - ICL) कहा जाता है। कल्पना कीजिए कि आप एक नए शिक्षण सहायक (teaching assistant) को काम पर रख रहे हैं। उन्हें हर विषय पर महीनों तक प्रशिक्षित करने के बजाय, आप उन्हें बिठाकर कहते हैं:
"यहाँ तीन उदाहरण दिए गए हैं कि मैं कैसे कठिन गलत उत्तर बनाता हूँ। इस पैटर्न को देखो। अब, यहाँ एक नया प्रश्न है। इसके लिए तीन कठिन गलत उत्तर बनाओ, ठीक इसी तर्क का उपयोग करते हुए।"
कंप्यूटर (एक लार्ज लैंग्वेज मॉडल) उन उदाहरणों को पढ़ता है और तुरंत उस शैली और तर्क को समझ जाता है जिसकी आवश्यकता है, बिना पुन: प्रशिक्षित (retrained) हुए।
सफलता का मंत्र: "चेन-ऑफ-थॉट" (आंतरिक संवाद)
यह पेपर एक विशेष मोड़ जोड़ता है जिसे चेन-ऑफ-थॉट (Chain-of-Thought - COT) कहा जाता है।
आमतौर पर, जब एक कंप्यूटर उत्तर का अनुमान लगाता है, तो वह बस उसे उगल देता है। लेकिन यह पेपर कंप्यूटर से कहता है कि वह पहले अपनी सोच को विस्तार से बताए।
बिना चेन-ऑफ-थॉट के:
- प्रश्न: H₂O क्या है?
- कंप्यूटर: [हाइड्रोजन, ऑक्सीजन, कार्बन]
चेन-ऑफ-थॉट के साथ ("तर्क" या "Rationale"):
- प्रश्न: H₂O क्या है?
- कंप्यूटर का आंतरिक संवाद: "ठीक है, H₂O पानी है। मुझे ऐसे गलत उत्तर चाहिए जो पानी से संबंधित हों लेकिन पानी न हों। हाइड्रोजन और ऑक्सीजन इसके घटक हैं, इसलिए वे अच्छे जाल हैं। कार्बन जीवन में मौजूद है लेकिन पानी में नहीं, तो शायद यह बहुत दूर का विकल्प है? चलिए केवल घटकों तक ही सीमित रहते हैं।"
- कंप्यूटर: [हाइड्रोजन, ऑक्सीजन, कार्बन]
उत्तर देने से पहले कंप्यूटर को अपना "तर्क" (rationale) लिखने के लिए मजबूर करके, यह बहुत अधिक स्मार्ट और मानव जैसा दिखने वाला डिस्ट्रैक्टर बनाता है। यह एक छात्र द्वारा बिना सोचे-समझे अनुमान लगाने और एक ऐसे छात्र के बीच का अंतर है जो अवधारणा को इतनी अच्छी तरह समझता है कि वह जान सके कि क्या "लगभग" सही काम करता है।
"लाइब्रेरी" का उदाहरण
इसे और भी बेहतर बनाने के लिए, लेखकों ने केवल कंप्यूटर को यादृच्छिक (random) उदाहरण दिखाने के बजाय एक स्मार्ट लाइब्रेरियन बनाया।
जब कंप्यूटर को "रसायन विज्ञान" (Chemistry) के बारे में प्रश्न बनाने की आवश्यकता होती है, तो लाइब्रेरियन कोई भी पुराना पेपर नहीं उठाता। वह अतीत के सबसे समान रसायन विज्ञान के प्रश्नों को खोजता है और उन्हें पहले कंप्यूटर को दिखाता है। यह सुनिश्चित करता है कि कंप्यूटर सीखने के लिए सही प्रकार के उदाहरण देख रहा है।
परिणाम: यह क्यों मायने रखता है
शोधकर्ताओं ने छह अलग-अलग प्रकार की परीक्षाओं (विज्ञान, सामान्य ज्ञान, चिकित्सा, आदि) पर इसका परीक्षण किया।
- बेहतर जाल: नए तरीके ने ऐसे "गलत" उत्तर बनाए जो पहचानने में बहुत कठिन थे, ठीक वैसे ही जैसे एक मानव विशेषज्ञ द्वारा बनाए जाते हैं।
- कम गलतियाँ: पुराने तरीके अक्सर गलती से गलत उत्तरों की सूची में सही उत्तर को शामिल कर देते थे (जो एक बड़ी विफलता है!)। नया तरीका ऐसा लगभग कभी नहीं करता।
- कोई भारी प्रशिक्षण नहीं: पुराने "रोबोट" तरीकों के विपरीत जिन्हें हफ्तों के भारी कंप्यूटर प्रशिक्षण की आवश्यकता थी, इस नए तरीके को केवल कुछ उदाहरणों और एक स्मार्ट प्रॉम्प्ट की आवश्यकता होती है। यह एक फैक्ट्री बनाने से लेकर बस एक प्रतिभाशाली सलाहकार को काम पर रखने जैसा है।
निष्कर्ष
यह पेपर दिखाता है कि कंप्यूटर को कठिन परीक्षा प्रश्न बनाने में कुशल बनाने के लिए, हमें केवल उन्हें डेटा रटने के लिए मजबूर नहीं करना चाहिए। इसके बजाय, हमें उन्हें कुछ अच्छे उदाहरण देने चाहिए, उन्हें अपने तर्क के बारे में "ज़ोर से सोचने" के लिए कहना चाहिए, और उनकी स्वाभाविक बुद्धिमत्ता को बाकी काम करने देना चाहिए। यह मशीन को केवल क्या कहना है नहीं, बल्कि कैसे सोचना है, यह सिखाने के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।