Hyperdimensional Probe: Decoding LLM Representations via Vector Symbolic Architectures
यह शोध पत्र हाइपरडायमेंशनल प्रोब (Hyperdimensional Probe) प्रस्तुत करता है, जो एक हाइब्रिड विधि है जो इनपुट-केंद्रित फीचर निष्कर्षण और आउटपुट-उन्मुख विश्लेषण को एकीकृत करने के लिए वेक्टर सिम्बोलिक आर्किटेक्चर का लाभ उठाती है, जिससे लार्ज लैंग्वेज मॉडल (Large Language Model) के निरूपणों में गहरे अर्थ संबंधी अंतर्दृष्टि प्रदान करने के लिए मौजूदा व्याख्यात्मकता तकनीकों की सीमाओं को पार किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि एक सुपर-स्मार्ट रोबोट कैसे सोचता है। आपने शायद लार्ज लैंग्वेज मॉडल्स (LLMs) के बारे में सुना होगा, जो चैटबॉट्स के पीछे के AI दिमाग हैं जो कहानियाँ लिख सकते हैं, गणित की समस्याओं को हल कर सकते हैं और इंसानों की तरह बात कर सकते हैं। लेकिन यहाँ एक पेंच है: भले ही ये रोबोट अद्भुत हैं, लेकिन वे "ब्लैक बॉक्स" भी हैं। हम देख सकते हैं कि क्या अंदर जा रहा है (एक सवाल) और क्या बाहर आ रहा है (एक जवाब), लेकिन इसके अंदर चल रही वह उलझी हुई, जादुई सोच? वह एक रहस्य है। वैज्ञानिक इसे देखने के लिए दो मुख्य उपकरणों का उपयोग करके इसमें झाँकने की कोशिश कर रहे हैं। एक उपकरण, जिसे "प्रोब" (probe) कहा जाता है, एक अनुवादक की तरह काम करता है, जो उन शब्दों के आधार पर अनुमान लगाने की कोशिश करता है जो वह देखता है कि रोबोट क्या सोच रहा है। दूसरा उपकरण, एक "स्पार्स ऑटोएनकोडर" (Sparse Autoencoder - SAE), रोबोट के विचारों को सरल, अलग-अलग सामग्रियों की एक लंबी सूची में तोड़ने की कोशिश करता है, जैसे कि एक रेसिपी। लेकिन दोनों उपकरणों की एक कमी है। अनुवादक इनपुट-उन्मुख फीचर एक्सट्रैक्शन (feature extraction) पर ध्यान केंद्रित करता है लेकिन इस बड़ी तस्वीर को पूरी तरह से नहीं जोड़ पाता कि रोबमाट वास्तव में उत्तर कैसे देता है, और रेसिपी-बनाने वाला अक्सर शोर (noise) से भ्रमित हो जाता है या अंतिम आउटपुट के साथ संबंध खो देता है। हमें इसकी परवाह इसलिए है क्योंकि यदि हम यह नहीं समझते कि ये AI दिमाग कैसे काम करते हैं, तो हम उन पर पूरी तरह भरोसा नहीं कर सकते या जब वे कुछ गलत करते हैं तो उन्हें ठीक नहीं कर सकते। हमें पूरी तस्वीर देखने के तरीके की आवश्यकता है, न कि केवल शुरुआत या अंत की।
यहाँ "हाइपरडायमेंशनल प्रोब" (Hyperdimensional Probe) आता है, जो इस शोध पत्र में पेश किया गया एक नया, हाइब्रिड जासूसी उपकरण है। इसे एक सुपर-पावर्ड अनुवादक के रूप में समझें जो पुराने उपकरणों के सर्वोत्तम हिस्सों को जोड़ता है और उनके दोषों को ठीक करता है। शोधकर्ताओं ने इस उपकरण को "वेक्टर सिम्बोलिक आर्किटेक्चर" (VSAs) नामक चीज़ का उपयोग करके बनाया है। यदि आप रोबोट के मस्तिष्क को विचारों के एक विशाल पुस्तकालय के रूप में कल्पना करें, तो पिछले उपकरण या तो किताबों के शीर्षक (इनपुट) पढ़ने की कोशिश कर रहे थे या पृष्ठों (आउटपुट) को गिनने की, लेकिन वे यह नहीं देख सके कि कहानी कैसे जुड़ी हुई है। हाइपरडायमेंशनल प्रोब, हालांकि, एक विशेष प्रकार के "हाइपरवेक्टर अलजेब्रा" (hypervector algebra) का उपयोग करता है—जो उच्च-आयामी गणित का उपयोग करने का एक शानदार तरीका है ताकि विचारों को बिल्डिंग ब्लॉक्स की तरह मिलाया और जोड़ा जा सके। यह पारंपरिक प्रोब्स के "टॉप-डाउन" दृष्टिकोण को SAEs की "स्पार्सिटी" (यानी, साफ, व्यवस्थित सूची बनाने की क्षमता) के साथ एकीकृत करता है।
अपने प्रयोगों में, लेखकों ने पाया कि यह नया दृष्टिकोण लगातार सार्थक अर्थपूर्ण जानकारी (semantic information) निकालता है—बेसिकली, यह वास्तव में समझता है कि रोबोट किस बारे में सोच रहा है—विभिन्न प्रकार के LLMs, विभिन्न आकारों और विभिन्न सेटिंग्स में। उन्होंने इसे दो विशिष्ट परिदृश्यों में परखा: जब रोबोट एक वाक्य पूरा कर रहा था (इनपुट-कम्प्लीशन) और जब वह सवालों के जवाब दे रहा था (QA-केंद्रित टेक्स्ट जनरेशन)। परिणाम बताते हैं कि यह विधि पुराने तरीकों की तुलना में स्पष्ट अवधारणाओं (concepts) को खोजने में बेहतर है। उदाहरण के लिए, यह केवल रोबोट के अंतिम शब्द चयन (logits) को देखने की सीमाओं को पार करता है, जो रोबोट की सीमित शब्दावली तक ही सीमित होते हैं। साथ ही, यह उस "शोर" वाले परिणामों से बचता है जो अक्सर उन स्थितियों में SAEs का उपयोग करने पर होते हैं जहाँ अवधारणाएँ स्पष्ट और सीमित होनी चाहिए। इनपुट और आउटपुट फीचर्स दोनों को एक साथ देखने की अनुमति देकर, यह कार्य एक गहरे, अधिक एकीकृत समझ की ओर संकेत करता है कि न्यूरल रिप्रजेंटेशन (neural representations) वास्तव में कैसे काम करते हैं, जो इस बात के बीच के अंतर को पाटता है कि रोबोट दुनिया को कैसे देखता है और उसके बारे में कैसे बोलता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।