Attention-Guided Layer Selection for Contrastive Decoding in Large Language Models
यह शोध पत्र तीन अटेंशन-गाइडेड लेयर सिलेक्शन रणनीतियों (Attention-JSD, Attention-Entropy-Max, और Attention-Entropy-Min) का प्रस्ताव करता है जो लार्ज लैंग्वेज मॉडल्स की तथ्यात्मकता में सुधार करने के लिए आंतरिक सेल्फ-अटेंशन मैकेनिज्म का लाभ उठाते हैं, और TruthfulQA बेंचमार्क पर मूल DoLa पद्धति की तुलना में निरंतर प्रदर्शन लाभ प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट से बात कर रहे हैं जिसने इंटरनेट पर मौजूद लगभग हर किताब को पढ़ लिया है। वह कविताएँ लिख सकता है, गणित की समस्याएँ हल कर सकता है और चुटकुले सुना सकता है। लेकिन कभी-कभी, यह रोबोट बहुत अधिक आत्मविश्वासी हो जाता है और अपनी ओर से बातें बनाने लगता है। वह आपको बता सकता है कि चंद्रमा हरे पनीर से बना है या किसी प्रसिद्ध ऐतिहासिक व्यक्ति ने स्मार्टफोन का आविष्कार किया था। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इसे "हैलुसिनेशन" (hallucination) कहा जाता है। यह एक बड़ी समस्या है क्योंकि यदि हम इन रोबोटों का उपयोग चिकित्सा संबंधी प्रश्नों के उत्तर देने या समाचार लिखने जैसे वास्तविक दुनिया के कार्यों के लिए करना चाहते हैं, तो हमें उन्हें केवल रचनात्मक नहीं, बल्कि सत्यवादी भी बनाना होगा।
इसे ठीक करने के लिए, वैज्ञानिक इन रोबोटों को यह सिखाने की कोशिश कर रहे हैं कि वे सोचते समय अपने काम की जाँच कैसे करें। एक लोकप्रिय तरीका है "कॉन्ट्रास्टिव डिकोडिंग" (Contrastive Decoding)। इसे ऐसे समझें जैसे रोबोट के भीतर एक आंतरिक बहस चल रही हो। रोबोट के अंदर सोचने की कई परतें होती हैं, जो पैनकेक के ढेर की तरह हैं। कुछ परतें "अपरिपक्व" (immature) होती हैं (जो तेजी से और सतही तौर पर सोचती हैं), और कुछ "परिपक्व" (mature) होती हैं (जो गहराई से और सावधानी से सोचती हैं)। काम की जाँच करने का पुराना तरीका यह था कि रोबっと की उथली परतों ने जो कहा, उसकी तुलना उसकी गहरी परतों से की जाए। यदि उथली परत किसी गलत उत्तर के बारे में बहुत अधिक आश्वस्त थी, तो रोबोट उसे अनदेखा कर देता था। लेकिन यह शोध पत्र एक नया प्रश्न पूछता है: क्या उन शब्दों को देखना ही एकमात्र तरीका है जिन्हें रोबोट विचार कर रहा है, जिससे यह पता चल सके कि वह सच बोल रहा है या नहीं? या क्या हम यह देख सकते हैं कि रोबोट अपने स्वयं के विचारों पर कैसे ध्यान (attention) दे रहा है, ताकि सत्य का पता लगाया जा सके?
यह शोध पत्र, जिसका शीर्षक "लार्ज लैंग्वेज मॉडल्स में कॉन्ट्रास्टिव डिकोडिंग के लिए अटेंशन-गाइडेड लेयर सिलेक्शन" है, इन रोबोटों को सच बोलने में मदद करने के लिए एक चतुर नया तरीका प्रस्तावित करता है। जापान एडवांस्ड इंस्टीट्यूट ऑफ साइंस एंड टेक्नोलॉजी के लेखकों का सुझाव है कि केवल उन अंतिम शब्दों की तुलना करने के बजाय जो रोबोट कहना चाहता है, हमें रोबोट के "अटेंशन" (ध्यान) को देखना चाहिए। कल्पना कीजिए कि 'अटेंशन' एक स्पॉटलाइट है जिसे रोबट अपनी याददाश्त के विभिन्न हिस्सों पर चमकाता है। शोधकर्ताओं ने पाया कि इस स्पॉटलाइट की निगरानी करके, वे तथ्य की जाँच करने के लिए सबसे अच्छी "सोचने वाली परत" (thinking layer) चुन सकते हैं।
उन्होंने तीन नई रणनीतियों का परीक्षण किया:
- अटेंशन-जेएसडी (Attention-JSD): यह उस परत को खोजता है जहाँ रोबोट का "स्पॉटलाइट" उसके अंतिम, परिपक्व विचार से सबसे अलग होता है। यह समस्या को एक बिल्कुल अलग कोण से देखने वाली परत को खोजने जैसा है।
- अटेंशन-एन्ट्रॉपी-मैक्स (Attention-Entropy-Max): यह उस परत को चुनता है जहाँ स्पॉटलाइट बहुत व्यापक रूप से फैला हुआ है, और एक साथ कई चीजों को देख रहा है।
- अटेंशन-एन्ट्रॉपी-मिन (Attention-Entropy-Min): यह उस परत को चुनता है जहाँ स्पॉटलाइट अत्यंत केंद्रित है, और केवल कुछ विशिष्ट साक्ष्यों पर गहराई से ज़ूम कर रहा है।
जब उन्होंने इन विचारों का परीक्षण एक प्रसिद्ध क्विज़ "ट्रुथफुल क्यू-ए" (TruthfulQA) पर किया, जो रोबोटों को सामान्य मिथकों और गलत धारणाओं से फँसाने के लिए बनाया गया है, तो परिणाम रोमांचक थे। नए तरीके, विशेष रूप से वे जो ध्यान के केंद्रित या फैले होने पर आधारित थे, पुराने तरीके की तुलना में बेहतर प्रदर्शन करते हैं। वे विशेष रूप से एक से अधिक सही उत्तर खोजने में बेहतर थे। उदाहरण के लिए, LLaMA-7B मॉडल पर, "अटेंशन-एन्ट्रॉपी-मिन" रणनीति (सुपर-फोकस्ड स्पॉटलाइट) ने मल्टीपल-आंसर टेस्ट में 62.8% का स्कोर प्राप्त किया, जो पिछले सर्वश्रेष्ठ 56.5% से अधिक था।
लेखकों ने यह समझने के लिए रोबोट के मस्तिष्क के भीतर भी झाँका कि यह क्यों काम करता है। उन्होंने पाया कि रोबोट के ध्यान के सभी हिस्से समान नहीं होते हैं। कुछ विशिष्ट "अटेंशन हेड्स" (रोबोट के भीतर छोटे सब-प्रोसेसर) सत्यनिष्ठा के लिए एक मजबूत संकेत ले जाते हैं। वास्तव में, उन्होंने पाया कि केवल एक विशिष्ट अटेंशन हेड (हेड 6) का उपयोग करने से रोबोट कभी-कभी सभी हेड्स को एक साथ उपयोग करने की तुलना में और भी स्मार्ट हो सकता है। यह सुझाव देता है कि रोबोट का आंतरिक "स्पॉटलाइट" पैटर्न तथ्य-जाँच के लिए एक बहुत ही संवेदनशील संकेत है, शायद उन शब्दों की सूची से भी अधिक जो वह आगे कह सकता है।
हालाँकि, यह शोध पत्र सावधानीपूर्वक नोट करता है कि यह कोई जादुई छड़ी नहीं है जो सब कुछ हल कर देगी। शोधकर्ता सुझाव देते हैं कि जबकि ये तरीके बहुविकल्पीय प्रश्नों के लिए अच्छी तरह से काम करते हैं, हमें अभी भी यह देखना होगा कि वे मुक्त-रूप लेखन (free-form writing) को कैसे संभालते हैं, जहाँ रोबोट को शून्य से लंबी कहानियाँ या निबंध लिखने होते हैं। वे यह भी बताते हैं कि उन्हें विभिन्न रोबोट आकारों के लिए सटीक रूप से यह तय करने के लिए कि कौन सी परतें उपयोग करनी हैं, अभी भी अतिरिक्त परीक्षण करने की आवश्यकता है, और वे पूरी तरह से यह भी नहीं समझते कि कुछ विशिष्ट अटेंशन हेड्स तथ्यों को पकड़ने में इतने अच्छे क्यों हैं। लेकिन फिलहाल के लिए, यह कार्य बताता है कि यदि हम चाहते हैं कि हमारा एआई अधिक ईमानदार हो, तो हमें केवल यह सुनना छोड़ देना चाहिए कि वह क्या कहता है, और इसके बजाय यह देखना चाहिए कि वह अपना ध्यान (attention) कैसे केंद्रित करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।