ABLE: Representing and Mapping LLMs via Attribution-Based Large-model Embedding
यह शोध पत्र ABLE को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त (training-free) ढांचा है जो इनपुट-संवेदनशीलता पैटर्न को पकड़ने के लिए टोकेनाइज़र-अज्ञेय (tokenizer-agnostic) ग्रेडिएंट-आधारित फीचर एट्रिब्यूशन को एकत्रित करके विषम (heterogeneous) लार्ज लैंग्वेज मॉडल्स को निरूपित और मैप करता है, जिससे मॉडल तुलना, रूटिंग और प्रोवेनेंस ऑडिटिंग जैसे कार्यों के लिए स्थिर और स्केलेबल एम्बेडिंग्स प्राप्त होती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) की दुनिया की कल्पना एक विशाल, अराजक पुस्तकालय के रूप में करें। हर दिन, हजारों नई किताबें (मॉडल्स) जोड़ी जाती हैं। कुछ एक ही लेखक द्वारा लिखी गई हैं, कुछ पुराने संस्करणों के सुधरे हुए रूप हैं, और कुछ पूरी तरह से अलग शैलियों की हैं। समस्या क्या है? पुस्तकालय के पास कोई सूची (कैटलॉग) नहीं है। किताबों पर अक्सर स्पष्ट लेबल नहीं होते कि वे कहाँ से आईं, उन्हें किसने लिखा, या वे एक-दूसरे से कैसे संबंधित हैं।
शोधकर्ताओं को इस पुस्तकालय को व्यवस्थित करने के लिए एक तरीके की आवश्यकता है, लेकिन मौजूदा उपकरण दोषपूर्ण हैं:
- "अंदरूनी नज़र" (The "Inside Look" method): हर किताब की स्याही और कागज (आंतरिक कोड/वेट्स) को पढ़ने की कोशिश करना। यह तब बहुत अच्छा काम करता है जब सभी किताबें एक ही फॉन्ट और कागज के आकार की हों, लेकिन जब पुस्तकालय में अलग-अलग बाइंडिंग, भाषा और संरचना वाली किताबें हों, तो यह बुरी तरह विफल हो जाता है।
- "कवर टेस्ट" (The "Cover Test" method): केवल किताब के पिछले कवर (मॉडल्स द्वारा दिए गए अंतिम उत्तर) को देखना। यह करना आसान है, लेकिन दो किताबों का पिछला कवर बिल्कुल एक जैसा हो सकता है, जबकि अंदर से वे लिखने के तरीके में पूरी तरह से अलग हो सकती हैं। यह दो शेफ को केवल उनके अंतिम व्यंजन के स्वाद से आंकने जैसा है, इस बात को नजरअंदाज करते हुए कि एक ने ब्लेंडर का उपयोग किया और दूसरे ने ओखली-मूसल का।
समाधान: ABLE (द "फिंगरप्रिंट" स्कैनर)
यह शोध पत्र ABLE (एट्रिब्यूशन-बेस्ड लार्ज-मॉडल एम्बेडिंग) पेश करता है। ABLE को केवल अंतिम उत्तर पढ़ने वाले के रूप में नहीं, बल्कि एक फोरेंसिक स्कैनर के रूप में देखें जो यह देखता है कि मॉडल कैसे सोचता है।
यह इस सरल उपमा का उपयोग करके काम करता है:
1. "दराज में रूलर" (The "Ruler in the Drawer") टेस्ट
कल्पना कीजिए कि आप दो अलग-अलग लोगों से एक कठिन सवाल पूछते हैं: "आप मेज के किस हिस्से में रूलर रखेंगे?"
- व्यक्ति A सोच सकता है, "रूलर लंबा होता है, इसलिए यह दराज में जाएगा।" वे "लंबा" शब्द पर ध्यान केंद्रित करते हैं।
- व्यक्ति B सोच सकता है, "रूलर एक उपकरण है, और उपकरण दराज में जाते हैं।" वे "उपकरण" शब्द पर ध्यान केंद्रित करते हैं।
दोनों व्यक्ति एक ही उत्तर ("दराज") देते हैं, लेकिन वे अलग-अलग कारणों पर ध्यान दे रहे थे।
- पुराने तरीके कहेंगे, "दोनों ने 'दराज' कहा, इसलिए वे एक ही व्यक्ति हैं।"
- ABLE उस उत्तर के पीछे की मानसिक गतिविधि (अटेंशन) को देखता है। यह देखता है कि व्यक्ति A ने "लंबा" पर ध्यान दिया जबकि व्यक्ति B ने "उपकरण" पर ध्यान दिया। यह महसूस करता है कि वे अलग-अलग लोग हैं जिनकी सोचने की शैली अलग है, भले ही वे उत्तर में सहमत हों।
2. "यूनिवर्सल ट्रांसलेटर" (The "Universal Translator")
अलग-अलग मॉडल अलग-अलग "भाषाएं" (टोकेनाइज़र) बोलते हैं। एक शब्द को "rul" और "er" में तोड़ सकता है, जबकि दूसरा इसे एक ही शब्द के रूप में रख सकता है।
ABLE एक यूनिवर्सल ट्रांसलेटर की तरह कार्य करता है। यह प्रत्येक मॉडल के विशिष्ट अटेंशन पैटर्न को लेता है और उन्हें शब्दों के एक एकल, मानक मानचित्र (जैसे एक मानक शब्दकोश) पर मैप करता है। यह इसे एक 7-बिलियन-पैरामीटर वाले मॉडल की तुलना एक 70-बिलियन-पैरामीटर वाले मॉडल से करने की अनुमति देता है, भले ही वे अलग तरह से बने हों।
3. "कंप्रेस्ड मैप" (The "Compressed Map")
एक बार जब ABLE यह मैप कर लेता है कि एक मॉडल कैसे सोचता है, तो यह एक कॉम्पैक्ट डिजिटल फिंगरप्रिंट (एम्बेडिंग) बनाता है। यह एक विशाल, जटिल 3D मूर्तिकला को उसके मस्तिष्क के रूप में लेने और उसे एक छोटे, आसानी से ले जाने योग्य आईडी कार्ड में समतल करने जैसा है, जिसमें अभी भी सभी आवश्यक आकार की जानकारी मौजूद है।
उन्होंने क्या पाया?
शोधकर्ताओं ने इस "फिंगरप्रिंट स्कैनर" का परीक्षण 239 विभिन्न मॉडल्स पर किया। यहाँ उनकी खोजें दी गई हैं:
- यह पारिवारिक वंशावली पहचान सकता है: यदि आप उन मॉडल्स को लेते हैं जो ज्ञात रूप से संबंधित हैं (जैसे एक पैरेंट मॉडल और उसका चाइल्ड मॉडल), तो ABLE के फिंगरप्रिंट्स उन्हें मानचित्र पर एक-दूसरे के करीब दिखाते हैं। यदि वे असंबंधित हैं, तो वे एक-दूसरे से दूर खड़े होते हैं। इसने मिस्ट्रल (Mistral) और लामा (Llama) जैसे मॉडल्स के "फैमिली ट्री" को सफलतापूर्वक पुनर्गठित किया।
- यह एक बेहतर मैचमेकर है: यह तय करने में कि किसी विशिष्ट कार्य (जैसे गणित या कोडिंग) के लिए कौन सा मॉडल सबसे अच्छा है, ABLE के फिंगरप्रिंट्स केवल अंतिम उत्तरों को देखने की तुलना में प्रदर्शन का बेहतर अनुमान लगाते हैं। यह आपको बता सकता है, "यह मॉडल एक गणितज्ञ की तरह सोचता है," इससे पहले कि आप पूर्ण परीक्षण चलाएं।
- यह स्थिर है: शोध पत्र गणितीय रूप से सिद्ध करता है कि यदि आप मॉडल के आंतरिक कोड में मामूली बदलाव करते हैं, तो उसका फिंगरप्रिंट केवल थोड़ा सा बदलता है। यह बेतरतीब ढंग से नहीं बदलता; यह समानता को मापने का एक विश्वसनीय तरीका है।
मुख्य निष्कर्ष (The Bottom Line)
ABLE एआई मॉडल्स की अराजक दुनिया को व्यवस्थित करने का एक नया तरीका है। अंतिम उत्तर को केवल पढ़ने या उनके जटिल आंतरिक वायरिंग को डिकोड करने के बजाय, यह देखता है कि मॉडल निष्कर्ष तक पहुँचने के लिए किन संकेतों पर ध्यान देता है।
यह एक ऐसी सुपरपावर की तरह है जो आपको उत्तर के पीछे की सोचने की प्रक्रिया देखने की अनुमति देती है, जिससे आप उन दो मॉडल्स के बीच अंतर कर सकते हैं जो सतह पर समान दिखते हैं लेकिन पूरी तरह से अलग तरह से सोचते हैं। यह शोधकर्ताओं को यह ऑडिट करने में मदद करता है कि मॉडल कहाँ से आए हैं, कार्यों को सही मॉडल तक पहुँचाने में मदद करता है, और हर एक मॉडल पर महंगे, समय लेने वाले परीक्षण चलाने की आवश्यकता के बिना यह भविष्यवाणी करने में मदद करता है कि एक मॉडल कैसा प्रदर्शन करेगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।