🤖 machine learning

Tree SAE: Learning Hierarchical Feature Structures in Sparse Autoencoders

यह शोध पत्र Tree SAE को प्रस्तुत करता है, जो एक नवीन स्पार्स ऑटोएनकोडर मॉडल है जो डेटा से सीधे सटीक, कार्यात्मक पदानुक्रमित फीचर संरचनाओं को सीखने के लिए एक पुनर्निर्माण स्थिति (reconstruction condition) को शामिल करके मौजूदा सक्रियण-आधारित पदानुक्रमित विधियों की सीमाओं को दूर करता है, जिससे यह अत्याधुनिक बेंचमार्क से बेहतर प्रदर्शन करता है और लार्ज लैंग्वेज मॉडल्स में जटिल अवधारणा पदानुक्रमों को प्रकट करता है।

मूल लेखक: Tue M. Cao, Hoang X. Nhat, Raed Alharbi, My T. Thai

प्रकाशित 2026-05-11

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tue M. Cao, Hoang X. Nhat, Raed Alharbi, My T. Thai

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि एक विशाल, जटिल पुस्तकालय (एक लार्ज लैंग्वेज मॉडल) अपनी किताबों को कैसे व्यवस्थित करता है। आप उस पुस्तकालय के मस्तिष्क के भीतर "अलमारियों" और "श्रेणियों" को खोजना चाहते हैं।

कुछ समय से, शोधकर्ता एक उपकरण का उपयोग कर रहे हैं जिसे स्पार्स ऑटोएनकोडर (Sparse Autoencoder - SAE) कहा जाता है। एक SAE को एक बहुत ही कुशल लाइब्रेरियन (पुस्तकालयाध्यक्ष) के रूप में सोचें जो पुस्तकालय की सामग्री को सरल, एकल-विषय वाले लेबल में तोड़ने की कोशिश करता है। यदि कोई किताब "कुत्तों" के बारे में है, तो लाइब्रेरियन उसे "कुत्ता" का टैग देता है। यदि कोई किताब "बिल्लियों" के बारे में है, तो वह उसे "बिल्ली" का टैग देता है।

हालाँकि, वास्तविक दुनिया केवल टैगों की एक सपाट सूची नहीं है। यह एक पदानुक्रम (hierarchy) है। "कुत्ता" एक प्रकार का "जानवर" है। "गोल्डन रिट्रीवर" एक प्रकार का "कुत्ता" है। पुराने लाइब्रेरियन (मानक SAEs) इन पारिवारिक वंशावलियों को देखने में बहुत खराब थे। वे अक्सर असंबंधित चीजों को आपस में मिला देते थे या एक ही अवधारणा को बहुत सारे छोटे, बिखरे हुए टुकड़ों में विभाजित कर देते थे।

समस्या: "फॉल्स फ्रेंड" (झूठे मित्र) की गलती

इन पारिवारिक वंशावलियों को खोजने का पुराना तरीका एक्टिवेशन कवरेज (Activation Coverage) नामक एक नियम पर निर्भर था।

नियम: "यदि 'कुत्ता' टैग चालू है, तो 'जानवर' टैग भी चालू होना चाहिए।"
गलती: पेपर दिखाता है कि यह नियम बहुत ढीला है। कल्पना करें कि "चीजें जो अस्तित्व में हैं" नाम का एक टैग है। यह हर चीज़ के लिए चालू हो जाता है। इसलिए, यह तकनीकी रूप से "कुत्ता," "बिल्ली," और यहाँ तक कि "डेमोक्रेट" (एक राजनीतिक दल) को भी कवर करता है।
परिणाम: पुराना सिस्टम गलत तरीके से दावा करेगा कि "डेमोक्रेट" "चीजें जो अस्तित्व में हैं" का एक बच्चा है क्योंकि वे दोनों कभी-कभी एक साथ चालू होते हैं। वे अर्थपूर्ण रूप से असंबंधित हैं, लेकिन गणित ने उन्हें जुड़ा हुआ बताया। यह ऐसा है जैसे कहना कि एक "चम्मच" "फर्नीचर" का एक हिस्सा है क्योंकि दोनों एक घर में पाए जाते हैं, भले ही चम्मच फर्नीचर का हिस्सा नहीं है।

समाधान: "ट्री SAE" (Tree SAE)

लेखकों ने एक नया लाइब्रेरियन बनाया जिसे Tree SAE कहा जाता है। केवल यह देखने के बजाय कि कौन कब चालू होता है, यह नया लाइब्रेरियन एक पारिवारिक वंशावली बनाने के लिए दो चीजें जाँचता है:

"कब" की जाँच (Activation Coverage): क्या पैरेंट (जनक) टैग तब चालू होता है जब चाइल्ड (संतान) टैग चालू होता है? (हाँ, जब "कुत्ता" चालू होता है, तो "जानवर" भी चालू होता है)।
"क्या" की जाँच (Reconstruction Condition): यह नया, गुप्त नुस्खा है। लाइब्रेरियन पूछता है: "यदि मैं 'जानवर' टैग और 'कुत्ता' टैग दोनों का एक साथ उपयोग करता हूँ, तो क्या वे वास्तव में 'कुत्ते' की तस्वीर को फिर से बनाने में मदद करते हैं?"
- यदि पैरेंट केवल एक सामान्य "चीजें जो अस्तित्व में हैं" वाला टैग है, तो वह कुत्ते की विशिष्ट छवि को फिर से बनाने में मदद नहीं करता है। वह इस परीक्षण में विफल रहता है।
- यदि पैरेंट एक वास्तविक "जानवर" टैग है, तो वह कुत्ते की छवि को फिर से बनाने में मदद करता है। वह इस परीक्षण में सफल होता है।

इन दोनों जाँचों को जोड़कर, Tree SAE एक सख्त, सटीक पारिवारिक वंशावली बनाता है जहाँ माता-पिता और बच्चे वास्तव में एक साथ मेल खाते हैं।

यह कैसे काम करता है: "प्रिविलेज" (विशेषाधिकार) प्रणाली

पेपर में Tree SAE को परत दर परत विशेषाधिकार (layers of privilege) के रूप में वर्णित किया गया है, जैसे कि एक कॉर्पोरेट पदानुक्रम या जड़ और शाखाओं वाला एक पेड़:

लेयर 0 (मूल/Root): बड़ी, सामान्य अवधारणाएं (जैसे "जानवर")।
लेयर 1, 2, आदि: अधिक विशिष्ट अवधारणाएं (जैसे "कुत्ता", फिर "गोल्डन रिट्रीवर")।

सिस्टम को इस तरह डिज़ाइन किया गया है कि एक विशिष्ट फीचर (चाइल्ड) तभी "सक्रिय" हो सकता है जब उसका पैरेंट भी सक्रिय हो। यह एक सुरक्षा प्रणाली की तरह है: आप "गोल्डन रिट्रीवर" का दरवाजा तब तक नहीं खोल सकते जब तक आपने पहले "कुत्ता" का दरवाजा नहीं खोल लिया है, जिसके लिए "जानवर" का दरवाजा खुला होना आवश्यक है।

"डायनेमिक री-असाइनमेंट" (गतिशील पुनर्नियुक्ति) ट्रिक

कभी-कभी, एक विशिष्ट "चाइल्ड" फीचर फंस जाता है और काम करना बंद कर देता है (यह एक "डेड फीचर" बन जाता है)। पुराने सिस्टम में, यह एक स्थायी समस्या थी।
Tree SAE के पास एक डायनेमिक मैनेजर है। यदि कोई चाइल्ड फीचर काम करना बंद कर देता है, तो मैनेजर "पैरेंट" फीचर्स को देखता है और पूछता है, "किसे अधिक मदद की आवश्यकता है?" वह फिर उस मृत चाइल्ड को एक ऐसे पैरेंट को फिर से सौंप देता है जिसे वास्तव में उसकी आवश्यकता है, जिससे पूरा पेड़ स्वस्थ और सक्रिय रहता है।

उन्होंने क्या पाया

पेपर में नए Tree SAE का पुराने तरीकों के विरुद्ध परीक्षण किया गया और पाया गया कि:

बेहतर पारिवारिक वंशावलियाँ: इसने कई अधिक सही पैरेंट-चाइल्ड जोड़े खोजे और लगभग कोई भी "फॉल्स फ्रेंड" की गलती नहीं की।
कोई और बिखराव नहीं: इसने उस समस्या को रोक दिया जहाँ एक अवधारणा को बहुत सारे भ्रमित करने वाले टुकड़ों में विभाजित कर दिया जाता था।
बुनियादी बातों में भी उतना ही अच्छा: इसने अपनी भाषा को समझने की क्षमता नहीं खोई; वास्तव में इसने मूल डेटा को बहुत अच्छी तरह से पुनर्गठित किया, जो मौजूदा सर्वोत्तम उपकरणों के बराबर या उनसे बेहतर था।
आकार को विज़ुअलाइज़ करना: क्योंकि पेड़ सही ढंग से बनाया गया है, शोधकर्ता अब अवधारणाओं के "आकार" को देख सकते हैं। वे देख सकते हैं कि कैसे पुस्तकालय "सामान्य विशेषणों" को "परवर्ती" (subsequent) या "विविध" (various) जैसे विशिष्ट प्रकारों में व्यवस्थित करता है, जो यह सिद्ध करता है कि मॉडल पदानुक्रम को समझता है।

सारांश में

पेपर का तर्क है कि AI कैसे सोचता है इसे वास्तव में समझने के लिए, हमें इसके ज्ञान को यादृच्छिक टैगों की एक सपाट सूची के रूप में देखना बंद करना होगा। हमें एक Tree SAE बनाना होगा जो AI को मजबूर करता है कि वह अपने ज्ञान को एक उचित पारिवारिक वंशावली में व्यवस्थित करे, यह जाँचते हुए नहीं कि चीजें कब होती हैं, बल्कि यह भी कि वे अर्थपूर्ण होने के लिए एक साथ कैसे फिट होती हैं। इसके परिणामस्वरूप, हमें उसके आंतरिक संसार का बहुत स्पष्ट और अधिक सटीक मानचित्र मिलता है।

तकनीकी सारांश: ट्री SAE: स्पार्स ऑटोएनकोडर्स में पदानुक्रमित फीचर संरचनाओं को सीखना

समस्या विवरण

स्पार्स ऑटोएनकोडर्स (SAEs) का व्यापक रूप से अपारदर्शी भाषा मॉडलों से मानव-व्याख्या योग्य फीचर्स निकालने के लिए उपयोग किया जाता है। हालाँकि, मानक SAEs फीचर्स को एक स्वतंत्र सेट के रूप में मानते हैं, जिससे वास्तविक दुनिया की अवधारणाओं की अंतर्निहित पदानुक्रमित (hierarchical) संरचना की अनदेखी होती है। यह चूक फीचर एब्जॉर्प्शन (जहाँ सूक्ष्म-स्तरीय फीचर्स, व्यापक-स्तरीय फीचर्स को बाधित करते हैं), फीचर स्प्लिटिंग (जहाँ एक एकल अवधारणा कई फीचर्स में विभाजित हो जाती है), और फीचर कंपोजिशन (जहाँ मॉडल खंडित या अत्यधिक जटिल "पॉलीसेमेंटिक" मिश्रण सीखते हैं) जैसी अवांछनीय घटनाओं को जन्म देती है।

हालिया आर्किटेक्चर, जैसे कि मैट्रोशका (Matryoshka) SAEs और मैचिंग पर्सूट (Matching Pursuit) SAEs, मल्टी-लेवल रिकंस्ट्रक्शन या कंडीशनल ऑर्थोगोनैलिटी पेश करके इन मुद्दों को हल करने का प्रयास करते हैं। वे पदानुक्रमित संबंधों की पहचान करने के लिए मास्क्ड कोसाइन सिमिलरिटी (MCS) पर निर्भर करते हैं, जो एक्टिवेशन कवरेज कंडीशन पर आधारित है: एक चाइल्ड फीचर को तब तक पैरेंट का वंशज माना जाता है जब तक कि वह केवल तभी सक्रिय होता है जब पैरेंट सक्रिय होता है।

लेखक प्रदर्शित करते हैं कि एक्टिवेशन कवकीवरेज अकेले वास्तविक पदानुक्रमित संबंधों की पहचान करने के लिए अपर्याप्त है। वे प्रमाण देते हैं कि पैरेंट और चाइल्ड फीचर्स 'एक्टिवेशन कवरेज कंडीशन' को संतुष्ट कर सकते हैं, फिर भी वे अर्थपूर्ण रूप से असंबंधित हो सकते हैं (उदाहरण के लिए, एक "समय" की अवधारणा वाला पैरेंट गलत तरीके से एक "राजनीतिक" अवधारणा वाले चाइल्ड के साथ जुड़ जाता है, या एक सघन "PCA फीचर" असंबंधित अवधारणाओं के पैरेंट के रूप में कार्य करता है)। इससे ऐसे 'फॉल्स पॉजिटिव' उत्पन्न होते हैं जहाँ पहचाने गए पदानुक्रमित जोड़े वैचारिक सुसंगतता (conceptual coherence) का अभाव रखते हैं।

कार्यप्रणाली

1. रिकंस्ट्रक्शन कंडीशन (पुनर्निर्माण की स्थिति)

पदानुक्रमित स्तरों के बीच कार्यात्मक लिंक को गहरा करने के लिए, लेखक एक नवीन रिकंस्ट्रक्शन कंडीशन पेश करते हैं।

परिभाषा: एक पैरेंट फीचर $f_p$ और एक चाइल्ड फीचर $f_c$ के लिए, रिकंस्ट्रक्शन स्कोर $S_{res}$ को चाइल्ड के वास्तविक कॉन्सेप्ट वेक्टर ( $d^*_c$ ) के साथ उनके डिकोडर वेक्टर्स ( $d_p, d_c$ ) के संरेखण (alignment) के आधार पर परिभाषित किया जाता है।
तंत्र: यह शर्त आवश्यक बनाती है कि पैरेंट और चाइल्ड दोनों डिकोडर वेक्टर्स, चाइल्ड के कॉन्सेप्ट के पुनर्निर्माण में रचनात्मक योगदान दें। विशेष रूप से, यह सुनिश्चित करती है कि पैरेंट एक व्यापक वैचारिक दिशा को कैप्चर करता है जिसे चाइल्ड परिष्कृत (refine) करता है।
सत्यापन: लेखक दिखाते हैं कि जबकि एक्टिवेशन कवरेज स्पूरियस (spurious) जोड़ों द्वारा संतुष्ट किया जा सकता है, रिकंस्ट्रक्शन स्कोर इन गलत जोड़ों को प्रभावी ढंग से फ़िल्टर करता है। वास्तविक पदानुक्रमित जोड़े उच्च रिकंस्ट्रक्शन स्कोर प्रदर्शित करते हैं, जबकि असंबंधित जोड़े (परफेक्ट एक्टिवेशन कवरेज के बावजूद) कम स्कोर प्रदर्शित करते हैं।

2. ट्री SAE आर्किटेक्चर

लेखक ट्री SAE प्रस्तावित करते हैं, जो एक ऐसा मॉडल है जिसे फीचर सेट के भीतर सीधे पदानुक्रमित संरचनाओं को सीखने के लिए डिज़ाइन किया गया है, न कि इसे बाद में (post-hoc) अनुमान लगाने के लिए।

ट्री संरचना: फीचर सेट को कई "प्रिविलेज लेयर्स" (privilege layers) में विभाजित किया गया है। एक उच्च परत के फीचर को किसी भी निचली परत के फीचर का वंशज के रूप में असाइन किया जा सकता है। लेयर 0 पर एक काल्पनिक रूट नोड उन फीचर्स के लिए बेसलाइन के रूप में कार्य करता है जिनके पास स्पष्ट पैरेंट नहीं हैं।
एलोकेशन वेक्टर: एक एलोकेशन वेक्टर $a_l$ प्रत्येक लेयर $l$ पर चाइल्ड फीचर्स को पैरेंट फीचर्स असाइन करता है।
रेगुलराइज्ड एक्टिवेशन: ट्री संरचना को लागू करने के लिए, एक चाइल्ड फीचर $f_i$ का एक्टिवेशन केवल तभी गैर-शून्य (non-zero) होने के लिए रेगुलराइज किया जाता है जब उसका असाइन किया गया पैरेंट फीचर सक्रिय हो। यह प्रशिक्षण के दौरान एक्टिवेशन कवरेज कंडीशन का सख्ती से पालन करता है।
मल्टी-लेवल रिकंस्ट्रक्शन लॉस: प्रशिक्षण उद्देश्य में एक मल्टी-लेवल रिकंस्ट्रक्शन लॉस शामिल है। एक लेयर $l$ के लिए, लॉस सभी पूर्ववर्ती लेयर्स (पैरेंट सहित) के संचयी पुनर्निर्माण (cumulative reconstruction) को इनपुट को सटीक रूप से रिकवर करने के लिए बाधित करता है। यह सुनिश्चित करता है कि पैरेंट वेक्टर्स सामान्य अवधारणाओं को कैप्चर करें और चाइल्ड वेक्टर्स उन्हें विशिष्ट अवधारणाओं में परिष्कृत करें।
डायनेमिक एलोकेशन: "डेड फीचर्स" (वे फीचर्स जो कभी सक्रिय नहीं होते) की समस्या को कम करने के लिए, लेखक एक डायनेमिक एलोकेशन तंत्र पेश करते हैं। यह एल्गोरिदम मृत चाइल्ड फीचर्स को एक "पेऑफ" मेट्रिक (संचित ट्रेनिंग लॉस से प्राप्त) के आधार पर पैरेंट फीचर्स को पुन: आवंटित करता है, जिससे यह सुनिश्चित होता है कि चाइल्ड फीचर्स को उन पैरेंट्स को असाइन किया जाए जो उनके सीखने में प्रभावी ढंग से सहायता कर सकें।

मुख्य योगदान

एक्टिवेशन कवरेज की सीमाओं की पहचान: पेपर ठोस प्रमाण प्रदान करता है कि केवल एक्टिवेशन कवरेज अर्थपूर्ण रूप से असंगत पदानुक्रमित जोड़ों की पहचान करता है और एक नया परिभाषा प्रस्तावित करता है जो एक्टिवेशन कवरेज को रिकंस्ट्रक्शन कंडीशन के साथ जोड़ता है।
ट्री SAE मॉडल: एक नवीन SAE आर्किटेक्चर का परिचय जो फीचर सेट के भीतर सीधे एक पदानुक्रमित ट्री संरचना को एनकोड करता है, जिसे प्रशिक्षण के दौरान गतिशील रूप से सीखा जाता है।
श्रेष्ठ पदानुक्रमित शिक्षण: यह प्रदर्शन करना कि ट्री SAEs, मौजूदा SAEs (मैट्रोशका और मैचिंग पर्सूट SAEs सहित) की तुलना में काफी अधिक सुसंगत पैरेंट-चाइल्ड जोड़े सीखते हैं और फीचर स्प्लिटिंग, एब्जॉर्प्शन और कंपोजिशन जैसी समस्याओं से बचते हैं।
ज्यामितीय विश्लेषण: चाइल्ड फीचर सबस्पेस की ज्यामिति को मैप करने और यह समझने के लिए कि भाषा मॉडल अवधारणाओं को मोटे और सूक्ष्म स्तरों में कैसे विघटित करते हैं, ट्री संरचना की उपयोगिता को प्रदर्शित करना।

प्रयोगात्मक परिणाम

लेखकों ने GPT2-small पर विभिन्न स्पर्सिटी स्तरों ( $L_0$ ) और डिक्शनरी साइज़ के तहत ट्री SAE का मूल्यांकन किया, और इसकी तुलना Top-k SAEs, मैट्रोशका SAEs और मैचिंग पर्सूट SAEs से की।

पदानुक्रमित मेट्रिक्स: ट्री SAEs ने अन्य मॉडलों की तुलना में काफी अधिक पदानुक्रमित जोड़े खोजे जो एक्टिवेशन कवरेज और रिकंस्ट्रक्शन कंडीशन दोनों को संतुष्ट करते थे। आंतरिक ट्री संरचना को इन जोड़ों की पहचान करने में पोस्ट-हॉक MCS विश्लेषण की तुलना में थोड़ा अधिक प्रभावी पाया गया।
फीचर पैथोलॉजी: ट्री SAEs ने फीचर स्प्लिटिंग, एब्जॉर्प्शन और कंपोजिशन को कम करने में स्टेट-ऑफ-द-आर्ट (SOTA) मैट्रोशका SAEs के साथ प्रतिस्पर्धात्मक प्रदर्शन किया या उनसे बेहतर प्रदर्शन किया।
रिकंस्ट्रक्शन और व्याख्यात्मकता: ट्री SAEs ने मूल लेटेंट्स को निकटता से रिकवर करते हुए प्रतिस्पर्धी रिकंस्ट्रक्शन लॉस और वेरिएंस एक्सप्लेंड बनाए रखा। व्याख्यात्मकता (AutoInterp द्वारा मापी गई) के मामले में, ट्री SAEs ने मैट्रोशका SAEs के प्रदर्शन के बराबर प्रदर्शन किया।
स्केलिंग: ट्री SAEs डिक्शनरी साइज़ (6k से 49k) के साथ अच्छी तरह से स्केल करते हैं, जो अक्सर छोटे पैमाने पर पदानुक्रमित मेट्रिक्स पर मैट्रोशका SAEs को पछाड़ते हैं और बड़े पैमाने पर प्रतिस्पर्धी प्रदर्शन बनाए रखते हैं।
चाइल्ड फीचर विविधता: सीखे गए चाइल्ड फीचर्स में निम्न सह-सक्रियता दर (<3.0%) देखी गई, जो इंगित करती है कि वे पैरेंट कॉन्सेप्ट के विशिष्ट पहलुओं का प्रतिनिधित्व करते हैं न कि रेडंडेंट (redundant) जानकारी का।

महत्व और दावे

पेपर का दावा है कि ट्री SAE बड़े भाषा मॉडलों के आंतरिक प्रतिनिधित्व को समझने की दिशा में एक महत्वपूर्ण कदम है। पदानुक्रमित संरचनाओं को स्पष्ट रूप से मॉडल करके, लेखक तर्क देते हैं कि ट्री SAEs:

ज्ञात पदानुक्रमित फीचर पैथोलॉजी (स्प्लिटिंग, एब्जॉर्प्शन, कंपोजिशन) को कम करते हैं।
वास्तविक पैरेंट-चाइल्ड कॉन्सेप्ट संबंधों की पहचान करने के लिए एक अधिक सटीक ढांचा प्रदान करते हैं, जिससे पिछले तरीकों में होने वाले फॉल्स पॉजिटिव से बचा जा सके।
चाइल्ड फीचर सबस्पेस की ज्यामिति के विश्लेषण को सक्षम करते हैं, जिससे इस बात की नई अंतर्दृष्टि मिलती है कि मॉडल सामान्य अवधारणाओं को विशिष्ट उप-अवधारणाओं में कैसे विघटित करते हैं।

लेखक सीमाओं को नोट करते हैं, विशेष रूप से कि कठोर ट्री संरचना अन्य SAEs की तुलना में मृत फीचर्स की उच्च संख्या की ओर ले जा सकती है, हालांकि डायनेमिक एलोकेशन इसे कम करने में मदद करता है। वे सुझाव देते हैं कि भविष्य के कार्य फीचर उपयोग को और बेहतर बनाने के लिए सॉफ्ट-गेटिंग मैकेनिज्म की खोज कर सकते हैं।