Learning Self-Interpretation from Interpretability Artifacts: Training Lightweight Adapters on Vector-Label Pairs
यह शोध पत्र यह प्रदर्शित करता है कि व्याख्यात्मक कलाकृतियों (interpretability artifacts) पर हल्के, फ्रोजन एडेप्टर (frozen adapters) को प्रशिक्षित करना बड़े भाषा मॉडलों को अंतर्निहित मॉडल को संशोधित किए बिना, विभिन्न कार्यों और पैमानों में विश्वसनीय, उच्च-गुणवत्ता वाली स्व-व्याख्याएं उत्पन्न करने में सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक लार्ज लैंग्वेज मॉडल (LLM) की कल्पना एक विशाल, अविश्वसनीय रूप से जटिल पुस्तकालय के रूप में करें। इसके भीतर, जानकारी उन किताबों के रूप में संग्रहीत नहीं है जिन्हें आप पढ़ सकें; यह विद्युत संकेतों (activations) के एक विशाल, अदृश्य जाल के रूप में संग्रहीत है जो मॉडल के "सोचने" पर सक्रिय होते हैं।
लंबे समय से, शोधकर्ता इन संकेतों के अर्थ को समझने के लिए पर्दे के पीछे झाँकने की कोशिश कर रहे हैं। उन्होंने इन संकेतों को अवधारणाओं (जैसे "गणित" या "विनम्रता") से जोड़ने के लिए उपकरण बनाए हैं, लेकिन ये उपकरण बहुत नाजुक हैं। यदि आप उनके डायल (dial) में थोड़ा सा भी बदलाव करते हैं, तो मॉडल ऐसी धाराप्रवाह निरर्थक बातें बोलना शुरू कर सकता है जो सुनने में तो स्पष्टीकरण जैसी लगती हैं, लेकिन वास्तव में उसके विचारों से जुड़ी नहीं होती हैं।
यह पेपर इसे ठीक करने का एक नया तरीका पेश करता है। यहाँ मुख्य विचार को सरल उपमाओं के साथ समझाया गया है:
1. समस्या: "अनुवादक" टूट गया है
कल्पना कीजिए कि मॉडल के आंतरिक संकेत एक गुप्त कोड हैं। पहले, शोधकर्ता इस कोड का अनुवाद करने के लिए इसे सीधे मॉडल के मुँह में डाल देते थे और पूछते थे, "इसका क्या अर्थ है?"
- समस्या: कभी-कभी मॉडल समझ जाता है, लेकिन अक्सर वह भ्रमित हो जाता है। वह कह सकता है, "इस संकेत का अर्थ 'मिट्टी का एक छोटा टीला' है" जबकि वास्तव में इसका अर्थ "एक कंप्यूटर फंक्शन" होता है। यह एक विदेशी भाषा को केवल शब्दों का अनुमान लगाकर अनुवाद करने जैसा है; आप व्याकरण तो सही पकड़ लेते हैं, लेकिन अर्थ गलत हो जाता है।
2. समाधान: एक "लाइटवेट एडॉप्टर" को प्रशिक्षित करना
पूरे विशाल पुस्तकालय को फिर से प्रशिक्षित करने के बजाय (जो बहुत महंगा है और पुस्तकालय के काम करने के तरीके को बदल देता है), लेखकों ने एक छोटा, विशिष्ट एडॉप्टर (adapter) प्रशिक्षित किया।
- उपमा: एडॉप्टर को एक विशेष अनुवादक या चश्मे के जोड़े के रूप में सोचें।
- विशाल पुस्तकालय (मॉडल) बिल्कुल वैसा ही रहता है; वह कुछ भी नया नहीं सीखता है।
- एडॉप्टर एक छोटा सा जुड़ाव (जैसे एक लेंस) है जो मॉडल की आँखों के सामने बैठता है।
- लेखकों ने इस लेंस को "इंटरप्रिटेबिलिटी आर्टिफ़ैक्ट्स" (interpretability artifacts) का उपयोग करके प्रशिक्षित किया। ये वे फ्लैशकार्ड्स हैं जो शोधकर्ताओं ने पहले से ही बनाए हैं: एक तरफ एक सिग्नल वेक्टर है, और दूसरी तरफ एक लेबल (जैसे, "यह संकेत = 'बेसबॉल'") है।
- एडॉप्टर इस संकेत को समायोजित करना सीखता है ताकि मॉडल अंततः यह "देख" सके कि वह क्या सोच रहा है और उसका सही वर्णन कर सके।
3. जादुई तत्व: "बायस" (डिफ़ॉल्ट सेटिंग)
सबसे आश्चर्यजनक खोज यह है कि एडॉप्टर को सुपर-कंप्यूटर की आवश्यकता नहीं है। इसका एक बहुत ही सरल संस्करण सबसे अच्छा काम करता है।
- उपमा: कल्पना करें कि एडॉप्टर के दो भाग हैं:
- सिग्नल: वह विशिष्ट चीज़ जिसके बारे में मॉडल अभी सोच रहा है (जैसे, "प्लेटो")।
- बायस (Bias): एक "डिफ़ॉल्ट सेटिंग" या एक मानसिक आदत जो एडॉप्टर ने सीखी है।
- शोध में पाया गया कि यह "बायस" 85% भारी काम करता है। यह मॉडल को उसके द्वारा उत्पन्न किए गए स्पष्टीकरणों की शैली और प्रारूप सिखाता है।
- प्रमाण: लेखकों ने इसका परीक्षण तब किया जब उन्होंने एडॉप्टर को ALL CAPS (बड़े अक्षरों) में लिखे गए लेबल पर प्रशिक्षित किया। जब उन्होंने बाद में इसका उपयोग किया, तो मॉडल के जनरेट किए गए स्पष्टीकरण भी ALL CAPS में आए! वह एकमात्र चीज़ जो इस शैली की जानकारी ले जा सकती थी, वह था बायस वेक्टर। (प्रॉम्प्ट स्वयं, जो पूछता है "इसका क्या अर्थ है?", सामान्य रहता है क्योंकि वह शोधकर्ता द्वारा प्रदान किया जाता है, मॉडल द्वारा नहीं)।
- यह किसी छात्र को किसी विशेष लेखक की आवाज़ और टोन सिखाने जैसा है ताकि वह किसी भी विषय पर उसी सटीक शैली में लिख सके, जब तक कि आप उसे विषय का नाम दे दें।
4. उन्होंने क्या खोजा
- मूल लेबल से बेहतर: एडॉप्टर्स ने केवल अपने प्रशिक्षण फ्लैशकार्ड्स की नकल नहीं की; वे वास्तव में संकेतों का वर्णन करने में मूल लेबल से बेहतर हो गए। यह एक छात्र द्वारा पाठ्यपुस्तक से सीखने और फिर पाठ्यपुस्तक के लेखक से भी बेहतर सारांश लिखने जैसा है।
- छिपे हुए विचारों को उजागर करना: मॉडल कभी-कभी पहेली को बिना अपने चरणों को ज़ोर से बोले हल कर सकता है (उदाहरण के लिए, प्लेटो के बारे में एक पहेली का उत्तर "एथेंस" देना बिना प्लेटो का उल्लेख किए)। प्रशिक्षित एडॉप्टर उस छिपे हुए "प्लेटो" वाले विचार को "पढ़" सकता है और उसे प्रकट कर सकता है, भले ही मॉडल ने उसे कभी कहा न हो।
- बड़े मॉडल = बेहतर अनुवादक: जैसे-जैसे मॉडल बड़े होते जाते हैं (7 बिलियन से 72 बिलियन पैरामीटर्स तक), एडॉप्टर और भी बेहतर होता जाता है। मॉडल न केवल प्रश्नों का उत्तर देने में स्मार्ट होता है; वह यह समझाने में भी बेहतर होता है कि वह कैसे सोचता है।
5. यह क्यों महत्वपूर्ण है (पेपर के अनुसार)
पेपर का तर्क है कि हमें मॉडल को समझने के लिए खुद को बदलने की आवश्यकता नहीं है। केवल इस छोटे, प्रशिक्षित "अनुवादक" को जोड़कर, जो मौजूदा डेटा पर आधारित है, हम मॉडल की आंतरिक स्थिति में एक विश्वसनीय खिड़की प्राप्त कर सकते हैं।
- "स्व-व्याख्यात्मक" (Self-Interpreting) लाभ: मुख्य लाभ यह है कि व्याख्याकार को स्थिर (frozen) रखने से (अर्थात यह वही अपरिवर्तित मॉडल है) मॉडल स्वयं की व्याख्या करता है। इसकी आंतरिक कार्यप्रणाली उन विचारों के साथ पूरी तरह से संगत है जिनका वह वर्णन कर रहा है।
- यह आवर्ती स्व-परीक्षण (recursive self-examination) के द्वार खोलता है: मॉडल अपने स्वयं के विचारों की व्याख्या की जांच कर सकता है, फिर उस व्याख्या के बारें में अपने विचारों की जांच कर सकता है, और इसी तरह।
- जैसा कि लेखक कहते हैं: "महत्वपूर्ण बात यह है कि यह एड-ऑन इन पैटर्न को उसी मॉडल में वापस भेजता है, इसलिए मॉडल स्वयं की व्याख्या करता है। यह भविष्य के AI के लिए द्वार खोलता है जो अंदर से अपने स्वयं के चिंतन की जांच कर सकता है।"
- स्केलेबिलिटी (Scalability): यह तरीका विभिन्न प्रकार के मॉडलों (Llama, Gemma, Qwen) में काम करता है और जैसे-जैसे मॉडल बड़े होते हैं, यह और भी बेहतर होता जाता है।
संक्षेप में: पेपर दिखाता है कि यदि आप किसी भाषा मॉडल को उसके मस्तिष्क के मौजूदा मानचित्रों पर आधारित एक छोटा, प्रशिक्षित "अनुवादक" देते हैं, तो वह विश्वसनीय रूप से बता सकता है कि वह क्या सोच रहा है, यहाँ तक कि जटिल या छिपे हुए विचारों के लिए भी, बिना खुद को फिर से प्रशिक्षित या बदले।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।