Activation-Based Active Learning for In-Context Learning: Challenges and Insights
यह शोध पत्र लार्ज लैंग्वेज मॉडल्स में इन-कॉन्टेक्स्ट उदाहरणों के चयन के लिए MLP एक्टिवेशन-आधारित संकेतों के उपयोग की क्षमता की जांच करता है, लेकिन यह निष्कर्ष निकालता है कि कार्य प्रदर्शन के साथ सहसंबंध की कमी के कारण ऐसी विधियाँ अप्रभावी हैं, और यह सुझाव देता है कि भविष्य के शोध को सुपरपोजिशन की अंतर्निहित समस्या को संबोधित करने के लिए स्पार्स ऑटोएनकोडर जैसी तकनीकों का अन्वेषण करना चाहिए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही प्रतिभाशाली लेकिन बिल्कुल नए छात्र (एक लार्ज लैंग्वेज मॉडल) को एक विशिष्ट प्रकार की पहेली हल करना सिखाने की कोशिश कर रहे हैं। उन्हें अध्ययन करने के लिए एक लंबा पाठ्यपुस्तक देने के बजाय, आप उन्हें परीक्षा से ठीक पहले कुछ उदाहरण देते हैं। इसे इन-कॉन्टेक्स्ट लर्निंग (In-Context Learning) कहा जाता है।
बड़ा सवाल यह है कि शोधकर्ता कौन से उदाहरण चुनेंगे? यदि हम "सर्वश्रेष्ठ" उदाहरण चुनते हैं, तो छात्र बेहतर ग्रेड प्राप्त करता है। यदि हम बुरे उदाहरण चुनते हैं, तो वे भ्रमित हो सकते हैं।
मुख्य विचार: छात्र के मस्तिष्क की तरंगों को सुनना
इस शोध पत्र के लेखकों के पास एक चतुर परिकल्पना थी। उन्होंने सोचा, "शायद हम यह देखने के लिए कि क्या कोई उदाहरण अच्छा है, एक उदाहरण देखते समय छात्र की मस्तिष्क गतिविधि (brain activity) को देख सकते हैं।"
कंप्यूटर की भाषा में, इन "मस्तिष्क तरंगों" को एक्टिवेशन्स (activations) कहा जाता है। जब मॉडल किसी उदाहरण को प्रोसेस करता है, तो उसके आंतरिक तंत्र के कुछ हिस्से (विशेष रूप से MLP लेयर्स, जो मॉडल के मेमोरी बैंक की तरह हैं) चमकने लगते हैं। शोधकर्ता इन चमकते हुए प्रकाशों की तीव्रता को मापना चाहते थे। उन्होंने सोचा:
- तेज रोशनी = एक महत्वपूर्ण, उच्च गुणवत्ता वाला उदाहरण।
- धुंधली रोशनी = एक उबाऊ, बेकार उदाहरण।
उन्होंने इन "मस्तिष्क तरंगों की रीडिंग" का उपयोग करके छात्र के लिए सर्वश्रेष्ठ उदाहरणों को स्वचालित रूप से चुनने की कोशिश की। उन्होंने छात्र को उदाहरणों को देखने के विभिन्न तरीके भी आजमाए (जैसे कि उन्हें एक बार में पूरा पेज पढ़ने देना बनाम लाइन-दर-लाइन पढ़ना) यह देखने के लिए कि क्या इससे मस्तिष्क तरंगों के पैटर्न में बदलाव आता है।
प्रयोग: सिद्धांत का परीक्षण
टीम ने एक विशाल प्रयोग चलाया। उन्होंने दो लोकप्रिय AI मॉडल (Llama और Qwen) का उपयोग किया और चार अलग-अलग प्रकार के कार्यों पर परीक्षण किया:
- सही/गलत प्रश्न (BoolQ)
- बहुविकल्पीय विज्ञान प्रश्न (ARC-Challenge, OpenBookQA)
- गणित की शब्द समस्याएँ (GSM8K)
प्रत्येक कार्य के लिए, उन्होंने 1,000 संभावित उदाहरण लिए। उन्होंने विभिन्न गणितीय उपकरणों (जैसे औसत चमक की जांच करना, प्रकाश का फैलाव, या सबसे बड़ी एकल चमक) का उपयोग करके प्रत्येक एक के लिए "मस्तिष्क तरंगों" (एक्टिवेशन्स) को मापा। फिर, उन्होंने वास्तव में मॉडल का परीक्षण किया ताकि यह देखा जा सके कि उन उदाहरणों के साथ उसका प्रदर्शन कैसा रहा।
अंत में, उन्होंने मस्तिष्क तरंगों के स्कोर की तुलना वास्तविक टेस्ट स्कोर से की। वे एक मजबूत संबंध की तलाश कर रहे थे: क्या सबसे चमकीली मस्तिष्क तरंगों वाले उदाहरणों ने वास्तव में मॉडल को बेहतर ग्रेड पाने में मदद की?
परिणाम: एक "नकारात्मक" निष्कर्ष
यहाँ मुख्य बात है: यह काम नहीं किया।
शोधकर्ताओं ने पाया कि मस्तिष्क तरंगों के पैटर्न और मॉडल के प्रदर्शन के बीच लगभग कोई संबंध नहीं था।
- सहसंबंध (correlation) अत्यंत कमजोर था (अधिकतम, 1.0 में से 0.33 का स्कोर, जो एक संबंध की बहुत हल्की सी आहट मात्र है)।
- कभी-कभी, सबसे "चमकीली" मस्तिष्क तरंगों वाले उदाहरणों ने मॉडल को रैंडम उदाहरणों के मुकाबले बदतर प्रदर्शन कराया।
- यहाँ तक कि जब उन्होंने मास्क करने (पाठ के हिस्सों को छिपाने के तरीके को बदलने के लिए) के विभिन्न तरीकों को आजमाया, तो परिणाम वही रहा: मस्तिष्क तरंगों ने सफलता की भविष्यवाणी नहीं की।
यह क्यों विफल हुआ? "सुपरपोजिशन" उपमा
लेखक इस बात का सिद्धांत देते हैं कि यह क्यों हुआ, इसके लिए वे सुपरपोजिशन (Superposition) नामक अवधारणा का उपयोग करते हैं।
एक भीड़भाड़ वाले कमरे की कल्पना करें जहाँ हर कोई एक साथ बोलने की कोशिश कर रहा है। एक सामान्य कमरे में, यदि आप किसी एक व्यक्ति को सुनना चाहते हैं, तो आप बस उनकी आवाज़ सुनते हैं। लेकिन इस AI मॉडल के "कमरे" (इसके आंतरिक आयामों) में, वहां सुनने के लिए लोगों की तुलना में अधिक बातचीत चल रही है।
इन सभी बातचीत को सीमित स्थान में फिट करने के लिए, मॉडल उन्हें आपस में मिला देता है। मॉडल के मस्तिष्क में एक एकल "प्रकाश" केवल एक विशिष्ट तथ्य के बारे में नहीं है; यह कई अलग-अलग तथ्यों और विचारों का एक जटिल, उलझा हुआ मिश्रण है। क्योंकि संकेत इतने जमे हुए और मिश्रित हैं, इसलिए कच्चे "चमक" को देखना यह नहीं बताता कि कोई विशिष्ट उदाहरण अच्छा है या बुरा। यह एक स्मूदी (smoothie) में मौजूद किसी विशिष्ट सामग्री की गुणवत्ता को पूरे ड्रिंक के रंग को देखकर आंकने जैसा है; रंग इतने मिले हुए हैं कि आप यह नहीं बता सकते कि अंदर क्या है।
निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि आप AI के लिए अच्छे उदाहरण चुनने के लिए कच्चे मस्तिष्क तरंग माप (MLP activations) का उपयोग नहीं कर सकते। यह इस विशिष्ट पद्धति के लिए एक बंद रास्ता है।
हालाँकि, लेखक एक आगे का रास्ता सुझाते हैं। चूंकि संकेत इतने मिश्रित हैं, इसलिए हमें पहले उन्हें "अनमिक्स" (unmix) करने के लिए एक विशेष उपकरण की आवश्यकता हो सकती है। वे स्पार्स ऑटोएनकोडर्स (Sparse Autoencoders - SAEs) का उपयोग करने का प्रस्ताव देते हैं, जो एक परिष्कृत फिल्टर की तरह कार्य करते हैं ताकि कमरे में चल रही उलझी हुई बातचीत को अलग किया जा सके ताकि हम वास्तव में व्यक्तिगत आवाजों को सुन सकें। जब तक हमारे पास यह फिल्टर नहीं है, हमें इन एक्टिवेशन संकेतों पर अपने उदाहरणों को चुनने के लिए भरोसा नहीं करना चाहिए।
संक्षेप में: AI के आंतरिक "चमक" का उपयोग करके उदाहरणों को चुनने का विचार एक बेहतरीन सिद्धांत था, लेकिन प्रयोग ने दिखाया कि व्यवहार में यह काम नहीं करता है क्योंकि AI के आंतरिक संकेत सीधे व्याख्या करने के लिए बहुत अधिक अव्यवस्थित हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।