🤖 machine learning

From Isolation to Integration: Building an Adaptive Expert Forest for Pre-Trained Model-based Class-Incremental Learning

यह शोध पत्र सेमेंटिक-गाइडेड एडेप्टिव एक्सपर्ट फॉरेस्ट (SAEF) का प्रस्ताव करता है, जो एक नवीन क्लास-इन्क्रीमेंटल लर्निंग पद्धति है जो डायनेमिक नॉलेज शेयरिंग को सक्षम करने और कैटास्ट्रोफिक फॉरगेटिंग के बिना स्टेट-ऑफ-द-आर्ट प्रदर्शन प्राप्त करने के लिए प्री-ट्रेन्ड मॉडल एडेप्टर्स को एक्सपर्ट ट्रीज़ के एक स्ट्रक्चर्ड, सेमेंटिक पदानुक्रम में व्यवस्थित करती है।

मूल लेखक: Ruiqi Liu, Boyu Diao, Hangda Liu, Zhulin An, Fei Wang, Yongjun Xu

प्रकाशित 2026-02-25

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ruiqi Liu, Boyu Diao, Hangda Liu, Zhulin An, Fei Wang, Yongjun Xu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मास्टर शेफ हैं जिसने अभी-अभी एक नया रेस्टोरेंट खोला है। हर हफ्ते, आप अपने मेनू में एक नया व्यंजन जोड़ते हैं।

समस्या: "अव्यवस्थित फ्रिज" (The Unorganized Fridge)
AI की दुनिया में, इसे क्लास-इन्क्रीमेंटल लर्निंग (Class-Incremental Learning) कहा जाता है। AI को नई चीजें सीखने की आवश्यकता होती है (जैसे कि "पूडल" या "स्कूटर" को पहचानना) बिना पुरानी चीजों को (जैसे कि "बिल्ली" या "साइकिल" को) भूल जाए।

अधिकांश वर्तमान तरीके एक ऐसे शेफ की तरह काम करते हैं जो काउंटर पर हर एक रेसिपी का एक विशाल, अस्त-व्यst ढेर रखता है।

जब कोई ग्राहक "पूडल" ऑर्डर करता है, तो शेफ को सही रेसिपी खोजने के लिए ढेर की हर एक रेसिपी को स्कैन करना पड़ता है।
यदि शेफ के पास बहुत सारी रेसिपी हो जाती हैं, तो वह ढेर बहुत बड़ा हो जाता है, और उसे खोजने में बहुत समय लगता है।
इससे भी बुरा यह है कि शेफ गलती से "पूडल" की रेसिपी को "बिल्ली" की रेसिपी के साथ मिला सकता है क्योंकि वे बस एक दूसरे के बगल में रखी हैं। इसे "कैटैस्ट्रोफिक फॉरगेटिंग" (catastrophic forgetting) या सामान्य भ्रम कहा जाता है।

समाधान: "स्मार्ट लाइब्रेरी" (SAEF)
लेखकों ने SAEF (सेमेंटिक-गाइडेड एडेप्टिव एक्सपर्ट फॉरेस्ट) नामक एक नया सिस्टम प्रस्तावित किया है। एक अव्यवस्थित ढेर के बजाय, यह एक विशिष्ट संगठनात्मक संरचना के साथ एक स्मार्ट लाइब्रेरी बनाता है।

यह यहाँ कैसे काम करता है, चरण-दर-चरण:

1. "कॉन्सेप्ट" के आधार पर समूहीकरण (किताबों की अलमारियाँ)

सबसे पहले, सिस्टम उन सभी नई चीजों को देखता है जिन्हें उसने सीखा है और उन्हें उनके "वाइब" या कॉन्सेप्ट के आधार पर समूहों में बांटता है।

यह सभी जानवरों (कुत्ते, बिल्ली, पक्षी) को शेल्फ A पर रखता है।
यह सभी वाहनों (कार, बाइक, स्कूटर) को शेल्फ B पर रखता है।
यह सभी फर्नीचर (कुर्सी, मेज) को शेल्फ C पर रखता है।

इसे कॉन्सेप्चुअल क्लस्टरिंग (Conceptual Clustering) कहा जाता है। यह सिस्टम को तब तक "डॉग" की सीधी तुलना "स्कूटर" से करने से रोकता है जब तक कि अत्यंत आवश्यक न हो।

2. "एक्सपर्ट्स का पेड़" बनाना (शाखाएं)

प्रत्येक शेल्फ (जैसे कि एनिमल शेल्फ) के अंदर, सिस्टम विशेषज्ञों का एक फैमिली ट्री बनाता है।

यह "डॉग" की रेसिपी और "कैट" की रेसिपी लेता है। चूंकि वे समान हैं, इसलिए यह एक नया "पेट" (पालतू जानवर) एक्सपर्ट बनाता है जो दोनों की बुनियादी बातों को जानता है।
यह "पेट" एक्सपर्ट और "बर्ड" (पक्षी) एक्सपर्ट को लेता है और एक "क्रिएचर" (जीव) एक्सपर्ट बनाता है।
यह एक पदानुक्रम (Hierarchy) बनाता है: सबसे ऊपर एक सामान्य "एनिमल" एक्सपर्ट है। उसके नीचे, विशिष्ट "पेट" और "बर्ड" एक्सपर्ट्स हैं। और सबसे नीचे, विशिष्ट "डॉग" और "कैट" एक्सपर्ट्स हैं।

यह एक्सपर्ट फॉरेस्ट (Expert Forest) है। यह केवल एक सपाट सूची नहीं है; यह एक संरचित पेड़ है जहाँ ज्ञान तार्किक रूप से साझा किया जाता है।

3. "स्मार्ट सर्च" (रेसिपी खोजना)

अब, एक ग्राहक आता है और गोल्डन रिट्रीवर की तस्वीर का ऑर्डर देता है।

पुराना तरीका: शेफ 1,000 रेसिपी के पूरे अस्त-व्यस्त ढेर को स्कैन करता है। धीमा और भ्रमित करने वाला।
SAEF का तरीका:
1. सिस्टम "ग्लोबल एक्सपर्ट" (मुख्य लाइब्रेरियन) से पूछता है: "क्या यह एक जानवर है, वाहन है, या फर्नीचर है?" लाइब्रेरियन कहता है, "जानवर।"
2. सिस्टम एनिमल शेल्फ पर जाता है।
3. यह "पेट बनाम बर्ड" एक्सपर्ट से पूछता है: "क्या यह पालतू जानवर है या पक्षी?" एक्सपर्ट कहता है, "पालतू जानवर।"
4. यह "पेट" ब्रांच में जाता है और "डॉग बनाम कैट" एक्सपर्ट से पूछता है: "क्या यह एक कुत्ता है?" एक्सपर्ट कहता है, "हाँ, बहुत आश्वस्त हूँ!"
5. परिणाम: सिस्टम ने 1,000 के बजाय केवल 3 या 4 विशिष्ट विशेषज्ञों की जांच करके उत्तर ढूंढ लिया।

4. "कॉन्फिडेंस वोट" (अंतिम निर्णय)

कभी-कभी, उत्तर 100% स्पष्ट नहीं होता है। शायद तस्वीर थोड़ी धुंधली है।

सिस्टम केवल एक विशेषज्ञ को नहीं चुनता है। यह "एनिमल" एक्सपर्ट, "पेट" एक्सपर्ट और "डॉग" एक्सपर्ट की राय एकत्र करता है।
हालाँकि, यह उन विशेषज्ञों की बात अधिक सुनता है जो सबसे अधिक आश्वस्त हैं। यदि "डॉग" एक्सपर्ट 99% निश्चित है, तो उसकी राय "एनिमल" एक्सपर्ट की राय से अधिक मायने रखती है जो केवल 60% आश्वस्त है।
यह एक अंतिम, अत्यधिक सटीक भविष्यवाणी बनाता है।

यह एक बड़ी बात क्यों है?

गति: क्योंकि इसे हर एक रेसिपी की जांच नहीं करनी पड़ती, इसलिए यह बहुत तेज़ है (उनके परीक्षणों में 6 गुना तक तेज़)।
सटीकता: क्योंकि यह समान चीजों को एक साथ समूहबद्ध करता है, इसलिए यह भ्रमित नहीं होता। यह पुरानी चीजों को बेहतर तरीके से याद रखता है क्योंकि यह समझता है कि वे नई चीजों से कैसे संबंधित हैं।
याददाश्त की हानि नहीं: इसे याद रखने के लिए पुराने फोटो को दराज में रखने की आवश्यकता नहीं है। "ट्री स्ट्रक्चर" स्वयं कुशलतापूर्वक स्मृति को धारण करता है।

संक्षेप में:
अपनी सारी जानकारी को एक विशाल, अराजक बाल्टी में फेंकने के बजाय, SAEF इसे एक अच्छी तरह से लेबल की गई, बहु-स्तरीय लाइब्रेरी में व्यवस्थित करता है। जब आपको किसी उत्तर की आवश्यकता होती है, तो यह पूरी लाइब्रेरी की खोज नहीं करता; यह सही गलियारे में जाता है, सही शाखा पर चढ़ता है, और पलक झपकते ही ठीक उसी विशेषज्ञ को ढूंढ लेता है जिसकी आपको जरूरत है।

यहाँ शोध पत्र "From Isolation to Integration: Building an Adaptive Expert Forest for Pre-Trained Model-based Class-Incremental Learning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

क्लास-इन्क्रीमेंटल लर्निंग (CIL) का लक्ष्य मॉडलों को नए वर्गों (classes) को क्रमिक रूप से सीखने के लिए प्रशिक्षित करना है ताकि वे पहले से सीखे गए वर्गों को भूल न जाएं। प्री-ट्रेंड मॉडल (PTM) आधारित CIL, जो पैरामीटर-एफिशिएंट फाइन-ट्यूनिंग (PEFT) (विशेष रूप से प्रत्येक कार्य के लिए हल्के एडैप्टर का उपयोग करना) का उपयोग करता है, कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) को रोकने के लिए एक अत्याधुनिक दृष्टिकोण बन गया है। हालाँकि, वर्तमान विधियाँ एक महत्वपूर्ण सीमा से ग्रस्त हैं:

असंरचित ज्ञान (Unstructured Knowledge): मौजूदा विधियाँ कार्य-विशिष्ट एडैप्टर्स को एक सपाट, असंरचित पूल के रूप में मानती हैं। इन्फरेंस (inference) के दौरान, वे अक्सर सभी एडैप्टर्स के एन्सेम्बल (ensemble) या एक एकल सर्वोत्तम मिलान प्राप्त करने पर निर्भर करती हैं।
अक्षमता और शोर (Inefficiency and Noise): यह "सपाट" दृष्टिकोण कार्यों के बीच के सिमेंटिक संबंधों (जैसे, "कुत्ता" और "बिल्ली" के बीच की समानता) का लाभ उठाने में विफल रहता है। यह मॉडल को सभी पूर्व ज्ञान को समान रूपता से विचार करने के लिए मजबूर करता है, जिससे शोर भरे भविष्यवाणियां और अक्षम इन्फरेंस होता है (जहाँ जटिलता $O(N)$ होती है, जहाँ $N$ कार्यों की संख्या है)।
उप-इष्टतम स्थानांतरण (Suboptimal Transfer): सभी कार्यों के बीच वैश्विक ज्ञान साझा करना अक्सर प्रतिकूल होता है; वास्तविक ज्ञान स्थानांतरण चयनात्मक, पदानुक्रमित (hierarchical) और संदर्भ-विशिष्ट होना चाहिए।

2. कार्यप्रणाली: सिमेंटिक-गाइडेड एडेप्टिव एक्सपर्ट फॉरेस्ट (SAEF)

लेखक SAEF का प्रस्ताव करते हैं, जो एक ढांचा (framework) है जो अलग-थलग पड़े कार्य-एडैप्टर्स को विशेषज्ञों के एक संरचित, पदानुक्रमित "फॉरेस्ट" (वन) में बदल देता है। यह विधि तीन विशिष्ट चरणों में कार्य करती है:

चरण 1: वैचारिक क्लस्टरिंग (Conceptual Clustering)

सभी कार्यों को एक समूह के रूप में मानने के बजाय, SAEF पहले कार्यों को सिमेंटिक क्लस्टर्स में समूहित करता है।

प्रोटोटाइप (Prototypes): प्रत्येक कार्य $t$ $t$ के लिए, दो प्रोटोटाइप परिभाषित किए गए हैं:
- सिमेंटिक प्रोटोटाइप ( $p^s_t$ ): एक फ्रोजन CLIP टेक्स्ट एनकोडर का उपयोग करके क्लास नामों के टेक्स्ट एम्बेडिंग्स से प्राप्त किया गया है।
- विजुअल प्रोटोटाइप ( $p^f_t$ ): PTM बैकबोन और पहले कार्य के एडैप्टर द्वारा निकाले गए प्रशिक्षण नमूनों का माध्य फीचर वेक्टर (mean feature vector) है (डोमेन अंतराल को पाटने के लिए)।
क्लस्टरिंग: K-Means एल्गोरिदम $T$ कार्यों को सिमेंटिक प्रोटोटाइप के आधार पर $K$ वैचारिक क्लस्टरों (जैसे, "जानवर," "वाहन") में विभाजित करता है। इष्टतम $K$ का निर्धारण स्वचालित रूप से सिलहूट स्कोर (silhouette score) का उपयोग करके किया जाता है।

चरण 2: पदानुक्रमित निर्माण (Hierarchical Construction)

प्रत्येक वैचारिक क्लस्टर के भीतर, SAEF एक बॉटम-अप मर्जिंग प्रक्रिया के माध्यम से विशेषज्ञों का एक संतुलित बाइनरी ट्री बनाता है।

लीफ नोड्स (Leaf Nodes): प्रत्येक प्रारंभिक कार्य एडैप्टर एक लीफ नोड के रूप में कार्य करता है।
मर्जिंग (Merging): एल्गोरिदम पुनरावृत्ति से उन दो सबसे विजुअली समान नोड्स को खोजता है (विजुअल प्रोटोटाइप के कोसाइन सिमिलरिटी के आधार पर) और उन्हें एक नए पैरेंट नोड में मर्ज कर देता है।
पैरामीटर मर्जन: पैरेंट का एडैप्टर पैरामीटर ( $\theta_p$ ) डोमिनेंट सिग्नल को सुरक्षित रखने वाले एक वेक्टरकृत ऑपरेशन का उपयोग करके चाइल्ड पैरामीटर्स ( $\theta_i, \theta_j$ ) को मर्ज करके बनाया जाता है:
$\theta_p \leftarrow \text{sign}(\theta_i + \theta_j) \odot \max(|\theta_i|, | \theta_j|)$
ग्लोबल एक्सपर्ट: अंत में, सभी $K$ पेड़ों के रूट्स (roots) को एक एकल ग्लोबल एक्सपर्ट में मर्ज किया जाता है ताकि इन्फरेंस के लिए प्रवेश बिंदु के रूप में कार्य किया जा सके।

चरण 3: एडेप्टिव इन्फरेंस (Adaptive Inference)

SAEF नए इनपुट को वर्गीकृत करने के लिए एक डायनेमिक, एंट्रॉपी-गाइडेड सर्च रणनीति का उपयोग करता है।

पैरेलल सर्च: दिए गए इनपुट के लिए, मॉडल प्रत्येक $K$ पेड़ों में एक समानांतर खोज करता है।
एंट्रॉपी-गाइडेड पाथ सिलेक्शन: रूट से शुरू होकर, खोज पुनरावृत्ति से उस चाइल्ड नोड की ओर नीचे जाती है जो न्यूनतम प्रेडिक्टिव एंट्रॉपी (उच्चतम विश्वास) प्रदान करता है। यह प्रत्येक पेड़ के लिए रूट से लीफ तक एक इष्टतम पथ बनाता है।
फ्यूजन (Fusion): अंतिम भविष्यवाणी ग्लोबल एक्सपर्ट और पहचाने गए पथों के साथ मौजूद सभी विशेषज्ञों के आउटपुट का एक भारित औसत (weighted average) है। भार प्रत्येक विशेषज्ञ की नेगेटिव एंट्रॉपी (कॉन्फिडेंस) द्वारा निर्धारित किया जाता है, जिसे तापमान पैरामीटर $\tau$ द्वारा सामान्यीकृत (normalize) किया जाता है।

3. मुख्य योगदान

संरचित ज्ञान संगठन: SAEF आइसोलेटेड टास्क एडैप्टर्स को स्वचालित रूप से एक सिमेंटिक पदानुक्रम (पेड़ों का एक जंगल) में व्यवस्थित करने वाला पहला तरीका है, जो असंबंधित कार्यों को अलग रखते हुए संबंधित कार्यों के बीच लक्षित ज्ञान हस्तांतरण को सक्षम बनाता है।
अनुकूली इन्फरेंस रणनीति: यह एक डायनेमिक सर्च मैकेनिज्म पेश करता है जो इनपुट एंट्रॉपी के आधार पर केवल प्रासंगिक विशेषज्ञों के एक उपसमुच्चय (subset) को सक्रिय करता है, जो पूर्ण एन्सेम्बल की तुलना में इन्फरेंस लेटेंसी को काफी कम कर देता है।
स्टेट-ऑफ-द-आर्ट प्रदर्शन: यह विधि कई बेंचमार्क पर उत्कृष्ट सटीकता प्राप्त करती है, जो बिना किसी उदाहरण भंडारण (exemplar-free setting) के मौजूदा PTM-आधारित CIL विधियों से बेहतर प्रदर्शन करती है।

4. प्रयोगात्मक परिणाम

लेखकों ने ViT-B/16 बैकबोन का उपयोग करके चार चुनौतीपूर्ण बेंचमार्क: CIFAR-100, ImageNet-R, ImageNet-A, और ObjectNet पर SAEF का मूल्यांकन किया।

सटीकता (Accuracy): SAEF ने सभी डेटासेट पर SOTA प्रदर्शन प्राप्त किया।
- ImageNet-R पर, इसने 84.54% औसत सटीकता प्राप्त की, जो पिछले सर्वश्रेष्ठ (SSIAT) से 1.34% अधिक है।
- CIFAR-100 पर, इसने 94.53% औसत सटीकता प्राप्त की।
रिहर्सल विधियों के साथ तुलना: एक एक्सेम्पलर-फ्री विधि होने के बावजूद (कोई पिछला डेटा संग्रहीत नहीं करता है), SAEF ने मजबूत रिहर्सल-आधारित विधियों (जैसे FOSTER और MEMO) को पछाड़ दिया जो प्रति क्लास 20 एक्सेम्पल स्टोर करते हैं। यह इंस्टेंस रिप्ले (instance replay) के ऊपर स्ट्रक्चर्ड नॉलेज रिट्रीवल की स्केलेबिलिटी को उजागर करता है।
दक्षता (Efficiency):
- इन्फरेंस स्पीड: एडेप्टिव सर्च का उपयोग करके, SAEF उच्च सटीकता बनाए रखते हुए फुल-एन्सेम्बल विधियों (जैसे EASE) की तुलना में इन्फरेंस समय को ~5.9x कम कर देता है।
- जटिलता: पदानुक्रमित संरचना इन्फरेंस जटिलता को पेड़ों के भीतर $O(N)$ से $O(\log N)$ तक कम कर देती है।
एब्लेशन स्टडीज (Ablation Studies): किसी भी घटक (क्लस्टरिंग, पदानुक्रमित निर्माण, या एडेप्टिव इन्फरेंस) को हटाने से प्रदर्शन में गिरावट आई, जिससे पुष्टि हुई कि सिमेंटिक ग्रुपिंग और एंट्रॉपी-गाइडेड सर्च के बीच तालमेल महत्वपूर्ण है।

5. महत्व

यह शोध पत्र निरंतर शिक्षण (continual learning) में एक मौलिक बाधा को संबोधित करता है: भूलने की रोकथाम (forgetting prevention) और इन्फरेंस दक्षता के बीच का ट्रेड-ऑफ।

प्रतिमान परिवर्तन (Paradigm Shift): यह क्षेत्र को एडैप्टर्स को "बैग ऑफ ट्रिक्स" के रूप में मानने के बजाय उन्हें एक संरचित, पदानुक्रमित ज्ञान आधार के रूप में देखने की ओर ले जाता है।
व्यावहारिकता: यह विधि संसाधन-सीमित वातावरण (जैसे एज डिवाइसेस, रोबोटिक्स) के लिए अत्यधिक उपयुक्त है क्योंकि यह पुराने डेटा (एक्सेम्पलर्स) को संग्रहीत करने की आवश्यकता को समाप्त करती है और वर्तमान एन्सेम्बल विधियों की तुलना में इन्फरेंस को नाटकीय रूप रूप से तेज करती है।
सामान्यीकरण (Generalizability): सिमेंटिक संबंधों के आधार पर मापदंडों को व्यवस्थित करने का दृष्टिकोण बड़े पैमाने के प्री-ट्रेंड मॉडल्स में ज्ञान के पुन: उपयोग (knowledge reuse) में सुधार के लिए एक नया दिशा प्रदान करता है।