💻 computer science

Mamba-FSCIL: Dynamic Adaptation with Selective State Space Model for Few-Shot Class-Incremental Learning

यह शोध पत्र Mamba-FSCIL को प्रस्तुत करता है, जो Few-Shot Class-Incremental Learning के लिए एक नवीन दृष्टिकोण है, जो मॉडल आर्किटेक्चर का विस्तार किए बिना नए वर्गों के अनुकूल होने के लिए Selective State Space Models (SSMs) के इनपुट-डिपेंडेंट मापदंडों का लाभ उठाता है, जिससे एक ड्यूल सिलेक्टिव प्रोजेक्टर और क्लास-सेंसिटिव स्कैन तंत्र के माध्यम से पुराने ज्ञान के संरक्षण और नए अवधारणाओं को सीखने के बीच प्रभावी ढंग से संतुलन बनाया जाता है।

मूल लेखक: Xiaojie Li, Yibo Yang, Jianlong Wu, Yue Yu, Ming-Hsuan Yang, Liqiang Nie, Min Zhang

प्रकाशित 2026-06-24

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xiaojie Li, Yibo Yang, Jianlong Wu, Yue Yu, Ming-Hsuan Yang, Liqiang Nie, Min Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मास्टर शेफ हैं जिसने एक क्लासिक डिश (मान लीजिए, "बेस क्लास") की रेसिपी को सिद्ध करने में वर्षों बिताए हैं। आप हर मसाले, हर तापमान और हर बनावट को कंठस्थ जानते हैं। फिर, एक नया ग्राहक आता है और उनके द्वारा लाए गए कुछ ही सामग्रियों का उपयोग करके एक पूरी तरह से नई डिश ("नोवेल क्लास") के लिए पूछते हैं।

चुनौती क्या है? आपको पुरानी रेसिपी को भूले बिना इस नई रेसिपी को सीखना होगा, और आप हर बार नए ग्राहक के आने पर नए शेफ नहीं रख सकते या नए किचन नहीं बना सकते (इससे बहुत महंगा और अव्यवस्थित काम हो जाएगा)।

यह समस्या Mamba-FSCIL हल करता है। यह एक नया तरीका है जिससे कंप्यूटर प्रोग्राम (विशेष रूप से AI मॉडल) केवल कुछ उदाहरणों को देखकर, समय के साथ नई चीजें सीख सकते हैं बिना वह भूले जो वे पहले से जानते हैं।

यहाँ बताया गया है कि यह पेपर उनके समाधान को सरल अवधारणाओं में कैसे समझाता है:

1. समस्या: "स्थिर" बनाम "विस्तारित" दुविधा (The "Static" vs. "Expanding" Dilemma)

इस पेपर से पहले, AI के पास नई चीजें सीखने के दो बुरे विकल्प थे:

स्थिर शेफ (Static Adaptation): शेफ हर डिश के लिए औजारों और नियमों के एक ही निश्चित सेट का उपयोग करता है। जब वे नई रेसिपी सीखने की कोशिश करते हैं, तो वे अनजाने में पुरानी रेसिपी को मिटा देते हैं। परिणाम? वे क्लासिक डिश को भूल जाते हैं।
विस्तारित किचन (Dynamic Adaptation): हर बार जब कोई नई डिश मांगी जाती है, तो शेफ नए औजारों के साथ एक नया किचन विंग बनाता है। हालांकि यह पुराने व्यंजनों को बचाता है, लेकिन किचन अंततः एक विशाल, महंगे भूलभुलैया में बदल जाता है जिसे प्रबंधित करना कठिन होता है।

2. समाधान: "स्मार्ट, आकार बदलने वाला" शेफ (The "Smart, Shape-Shifting" Chef)

लेखक Mamba-FSCIL पेश करते हैं, जो सिलेक्टिव स्टेट स्पेस मॉडल्स (SSMs) नामक तकनीक का उपयोग करता है। इसे एक ऐसे शेफ के रूप में सोचें जिसे नए किचन या नए औजारों की आवश्यकता नहीं है। इसके बजाय, उनके हाथ और मन जो भी वे पका रहे हैं, उसके आधार पर तुरंत अपना आकार बदल लेते हैं।

इनपुट-डिपेंडेंट मैजिक: आमतौर पर, एक शेफ हर चीज़ के लिए एक ही चाकू का उपयोग करता है। Mamba अलग है: यदि आप इसे एक स्टेक देते हैं, तो इसका "चाकू" मांस के लिए अपने आप तेज हो जाता है। यदि आप इसे एक नाजुक मछली देते हैं, तो यह तुरंत एक बारीक फिलेट टूल बन जाता है। यह अपने पास मौजूद सामग्री (इनपुट) के आधार पर अपना व्यवहार बदल लेता है, बिना नया उपकरण खरीदे।

3. दो-शाखा रणनीति (The Two-Branch Strategy - "Dual Selective SSM Projector")

यह सुनिश्चित करने के लिए कि शेफ भ्रमित न हो जाए, सिस्टम काम को दो विशिष्ट टीमों (शाखाओं) में विभाजित करता है:

"स्थिरता एंकर" (The "Stability Anchor" - Frozen Base Branch):
यह वह टीम है जो क्लासिक रेसिपी को याद रखती है। उन्हें पुराने व्यंजनों पर प्रशिक्षित किया जाता है और फिर "फ्रीज" (वे सीखना बंद कर देते हैं) कर दिया जाता है। हालांकि, वे अभी भी "स्मार्ट" हैं। भले ही वे नई चीजें नहीं सीख रहे हैं, वे अभी भी अपनी आकार बदलने की क्षमता का उपयोग करते हैं ताकि भोजन को देख सकें और कह सकें, "आह, यह एक क्लासिक डिश है; मैं इसे बिल्कुल वैसे ही संभालूँगा जैसे हमेशा करता आया हूँ।" यह सुनिश्चित करता है कि पुराना ज्ञान सुरक्षित और स्थिर रहे।
"प्लास्टिसिटी इनेबलर" (The "Plasticity Enabler" - Dynamic Incremental Branch):
यह वह टीम है जो नई रेसिपी सीखती है। केवल इन्हें ही बदलने की अनुमति है। जब कोई नई, अजीब सामग्री आती है, तो यह टीम हस्तक्षेप करती है। क्योंकि वे "शेप-शिफ्टिंग" Mamba तकनीक का उपयोग करते हैं, वे उन्हीं औजारों का उपयोग करके नई डिश पकाने का तरीका ढूंढ सकते हैं। उन्हें नए किचन की आवश्यकता नहीं है; उन्हें बस अपनी तकनीक को ढालने की आवश्यकता है।

4. "क्लास-सेंसिटिव" नियम (The "Class-Sensitive" Rules - Selective Scan Mechanism)

हम कैसे सुनिश्चित करें कि "नई टीम" अनजाने में "पुरानी टीम" के काम को खराब न कर दे? पेपर उन्हें निर्देशित करने के लिए दो विशिष्ट नियम (लॉस फंक्शंस) पेश करता है:

"चुप्पी" का नियम (The "Silence" Rule - Suppression Loss):
यदि "नई टीम" एक क्लासिक डिश देखती है, तो उन्हें शांत रहने के लिए कहा जाता है। उन्हें कुछ भी बदलने की कोशिश नहीं करनी चाहिए। वे "स्थिरता एंकर" को सारा काम करने देते हैं। यह नई सीख को पुरानी यादों को मिटाने से रोकता है।
"अलग दिखने" का नियम (The "Stand Out" Rule - Separation Loss):
यदि "नई टीम" एक नई डिश देखती है, तो उन्हें बहुत अलग होने के लिए कहा जाता है। उन्हें पुरानी डिशों की तुलना में पूरी तरह से अलग खाना पकाने की शैली का उपयोग करना चाहिए। यह सुनिश्चित करता है कि नई रेसिपी स्पष्ट और विशिष्ट हो, न कि पुरानी के साथ मिल जाए।

5. परिणाम

पेपर ने इस "स्मार्ट शेफ" का परीक्षण तीन अलग-अलग कुकिंग प्रतियोगिताओं (डेटासेट्स: miniImageNet, CIFAR-100, और CUB-200) पर किया।

परिणाम: Mamba-FSCIL ने किसी भी पिछले तरीके की तुलना में नई डिशों को बेहतर ढंग से सीखा और पुरानी डिशों को बहुत कम भुलाया।
दक्षता (Efficiency): "विस्तारित किचन" विधियों के विपरीत, Mamba-FSCIL को किसी भी नए कमरे या औजारों को जोड़ने की आवश्यकता नहीं थी। इसने किचन का आकार वही रखा लेकिन शेफ को बहुत स्मार्ट बना दिया।

सारांश

संक्षेप में, Mamba-FSCIL एक ऐसा तरीका है जो AI को "शेप-शिफ्टिंग" तंत्र का उपयोग करके बहुत कम उदाहरणों से नई श्रेणियों को सीखने में सक्षम बनाता है। यह एक समर्पित "मेमोरी ब्रांच" को फ्रीज करके पुराने ज्ञान को सुरक्षित रखता है, जबकि नई चीजों के अनुकूल होने के लिए एक लचीली "लर्निंग ब्रांच" का उपयोग करता है, और यह सब बिना किसी बड़े, अधिक जटिल मॉडल को बनाए। यह एक ऐसे शेफ की तरह है जो परंपरा के मास्टर और नए के नवोन्मेषक के बीच तुरंत स्विच कर सकता है, जबकि वह किचन का आकार बिल्कुल समान रखता है।

Mamba-FSCIL का तकनीकी सारांश: चयनात्मक स्टेट स्पेस मॉडल के साथ डायनेमिक एडेप्टेशन (Dynamic Adaptation with Selective State Space Model for Few-Shot Class Incremental Learning)

समस्या विवरण (Problem Statement)
फ्यू-शॉट क्लास-इन्क्रीमेंटल लर्निंग (FSCIL) का लक्ष्य मॉडलों को सीमित उदाहरणों से नए वर्गों (classes) को निरंतर सीखने में सक्षम बनाना है, जबकि पहले से सीखे गए बेस क्लासेज के ज्ञान को बनाए रखना है। मौजूदा दृष्टिकोण स्थिरता-प्लास्टिसिटी ट्रेड-ऑफ (stability-plasticity trade-off) के संबंध में एक गंभीर दुविधा का सामना करते हैं। स्टैटिक एडेप्टेशन विधियाँ सभी सेशन्स के लिए साझा किए गए फिक्स्ड-कैपेसिटी प्रोजेक्टर्स का उपयोग करती हैं; हालाँकि, नए वर्गों के लिए इन साझा वेट्स (weights) को अपडेट करने से अक्सर उन पैरामीटर्स पर ओवरराइट हो जाता है जो बेस नॉलेज को एनकोड करते हैं, जिससे कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) होती है। इसके विपरीत, विस्तार योग्य आर्किटेक्चर (expanding architectures) वाले डायनेमिक एडेप्टेशन मेथड्स प्रत्येक सेशन के लिए नए पैरामीटर्स आवंटित करते हैं ताकि स्थिरता बनी रहे, लेकिन इससे मॉडल का आकार अनबाउंडेड रूप से बढ़ता है, जिससे कंप्यूटेशनल लागत बढ़ती है और स्केलेबिलिटी सीमित होती है। मुख्य चुनौती यह है कि बिना सेशन-वार पैरामीटर विस्तार के, नए वर्गों के लिए डायनेमिक एडेप्टेशन कैसे प्राप्त किया जाए और पुराने ज्ञान को कैसे सुरक्षित रखा जाए।

कार्यप्रणाली (Methodology)
लेखक Mamba-FSCIL प्रस्तावित करते हैं, जो एक फ्रेमवर्क है जो फिक्स्ड-कैपेसिटी आर्किटेक्चर के भीतर इनपुट-डिपेंडेंट डायनेमिक कंप्यूटेशन को सक्षम करने के लिए सिलेक्टिव स्टेट स्पेस मॉडल्स (SSMs), विशेष रूप से Mamba, का लाभ उठाता है। मॉडल के आकार को बढ़ाने के बजाय, यह विधि इनपुट कंटेंट के आधार पर ऑन-द-फ्लाई कोर पैरामीटर्स ( $B_i, C_i, \Delta_i$ ) उत्पन्न करने की Mamba की क्षमता का उपयोग करती है। यह फ्रेमवर्क तीन प्राथमिक घटकों से बना है:

डुअल सिलेक्टिव SSM प्रोजेक्टर (Dual Selective SSM Projector):
स्थिरता (stability) और प्लास्टिसिटी (plasticity) को स्ट्रक्चरली डीकपल करने के लिए, प्रोजेक्टर को दो समानांतर शाखाओं में विभाजित किया गया है:
- बेस सिलेक्टिव SSM ब्रांच ( $g_{base}$ ): यह ब्रांच एक "स्टेबिलिटी एंकर" के रूप में कार्य करती है। इसे विशेष रूप से बेस सेशन के दौरान प्रशिक्षित किया जाता है और फिर फ्रीज कर दिया जाता है। पारंपरिक स्टैटिक फ्रोजन मॉड्यूल्स के विपरीत, $g_{base}$ कम्प्यूटेशनल रूप से डायनेमिक बना रहता है; यह फ्रीज होने के बावजूद इनपुट-कंडीशनड पैरामीटर्स जेनरेट करना जारी रखता है, जो फाउंडेशनल बेस-क्लास रिप्रेजेंटेशन्स को सुरक्षित रखते हुए स्टेबल और कॉन्टेक्स्ट-अवेयर ट्रांसफॉर्मेशन प्रदान करता है।
- इन्क्रीमेंटल सिलेक्टिव SSM ब्रांच ( $g_{inc}$ ): यह ब्रांच एक "प्लास्टिसिटी इनेबलर" के रूप में कार्य करती है। यह एक सिंगल, फिक्स्ड-कैपेसिटी Mamba मॉड्यूल है जिसे सभी इन्क्रीमेंटल सेशन्स में पुन: उपयोग किया जाता है। यह नए वर्गों के लिए आवश्यक रेसिडुअल फीचर शिफ्ट्स को कैप्चर करने के लिए Mamba के इनपुट-डिपेंडेंट मैकेनिज्म का लाभ उठाता है। इनपुट कॉन्टेक्स्ट के आधार पर विशिष्ट डायनेमिक पैरामीटर्स जेनरेट करके, $g_{inc}$ बिना नए सेशन-विशिष्ट ब्रांच जोड़े नए वर्गों के अनुकूल होता है।
क्लास-सेंसिटिव सिलेक्टिव स्कैन मैकेनिज्म (Class-Sensitive Selective Scan Mechanism):
यह सुनिश्चित करने के लिए कि $g_{inc}$ का डायनेमिक एडेप्टेशन केवल कंटेंट-अवेयर न होकर क्लास-सेंसिटिव भी हो, लेखक दो रेगुलराइजेशन लॉस पेश करते हैं:
- सप्रेशन लॉस ( $\mathcal{L}_{supp}$ ): यह लॉस बेस-क्लास इनपुट्स के लिए गेटिंग स्ट्रीम ( $Z_{inc}$ ) के एक्टिवेशन मैग्नीट्यूड को कम करता है। ज्ञात वर्गों के लिए इन्क्रीमेंटल ब्रांच के योगदान को दबाकर, यह फ्रोजन स्टेबिलिटी एंकर के साथ इंटरफेरेंस को रोकता है। इसके विपरीत, यह एडैप्टेशन को सुगम बनाने के लिए नए वर्गों के इनपुट्स के लिए एक बड़ा नॉर्म (norm) प्रोत्साहित करता है।
- सेपरेशन लॉस ( $\mathcal{L}_{sep}$ ): यह लॉस बेस क्लासेज बनाम नए क्लासेज के लिए जेनरेट किए गए औसत स्टेट-स्पेस पैरामीटर्स ( $B, C, \Delta$ ) के बीच एब्सोल्यूट कोसाइन सिमिलैरिटी को कम करता है। यह मॉडल को नए कॉन्सेप्ट्स के लिए विशिष्ट ट्रांसफॉर्मेशन पाथवे बनाने के लिए प्रोत्साहित करता है, जिससे रिप्रेजेंटेशनल ओवरलैप कम होता है और प्लास्टिसिटी बढ़ती है।
ऑप्टिमाइजेशन स्ट्रैटेजी (Optimization Strategy):
फ्रेमवर्क एक फिक्स्ड सिम्प्लेक्स इक्विआंगुलर टाइट फ्रेम (ETF) क्लासिफायर का उपयोग करता है। बेस सेशन के दौरान, बैकबोन, आइडेंटिटी ब्रांच और $g_{base}$ को जॉइंटली ऑप्टिमाइज़ किया जाता है। इन्क्रीमेंटल सेशन्स में, बैकबोन और $g_{base}$ को फ्रीज कर दिया जाता है, और केवल $g_{inc}$ को डॉट रिग्रेशन (DR) लॉस, सप्रेशन लॉस और सेपरेशन लॉस के संयोजन का उपयोग करके ऑप्टिमाइज़ किया जाता है। यह सिस्टम पिछले सेशन्स से कच्चे इमेज को स्टोर या रीप्ले किए बिना संचालित होता है, जो क्लास-मीन प्रोटोटाइप के कॉम्पैक्ट फीचर-लेवल मेमोरी पर निर्भर करता है।

मुख्य योगदान (Key Contributions)

Mamba-FSCIL फ्रेमवर्क: FSCIL में Mamba के इनपुट-डिपेंडेंट डायनेमिक कंप्यूटेशन को लागू करने वाला पहला फ्रेमवर्क, जो फिक्स्ड-कैपेसिटी मॉडल के भीतर क्लास-सेंसिटिव एडैप्टेशन प्राप्त करता है।
डुअल सिलेक्टिव SSM प्रोजेक्टर: एक संरचनात्मक नवाचार जो फ्रोजन, कम्प्यूटेशनल रूप से डायनेमिक बेस ब्रांच और एक रियूजेबल इन्क्रीमेंटल ब्रांच के माध्यम से बेस और नए वर्गों के प्रसंस्करण को अलग करता है, जिससे बिना पैरामीटर विस्तार के स्थिरता और प्लास्टिसिटी को संतुलित किया जाता है।
क्लास-सेंसिटिव सिलेक्टिव स्कैन मैकेनिज्म: एक नवीन रेगुलराइजेशन रणनीति जो सप्रेशन और सेपरेशन लॉस का उपयोग करके इन्क्रीमेंटल ब्रांच के डायनेमिक पैरामीटर जेनरेशन को स्पष्ट रूप से निर्देशित करती है, जिससे बेस और नए वर्गों के लिए विशिष्ट प्रोसेसिंग पैटर्न सुनिश्चित होते हैं।
स्टेट-ऑफ-द-आर्ट परफॉरमेंस: व्यापक प्रयोगों से सिद्ध होता है कि Mamba-FSCIL, miniImageNet, CIFAR-100 और CUB-200 पर मौजूदा स्टैटिक और डायनेमिक विधियों से बेहतर प्रदर्शन करता है।

प्रायोगिक परिणाम (Experimental Results)
पेपर में तीन बेंचमार्क डेटासेट्स पर विस्तृत मूल्यांकन रिपोर्ट किया गया है:

miniImageNet: ResNet-12 बैकबोन का उपयोग करते हुए, Mamba-FSCIL 69.74% का एवरेज एक्यूरेसी (AVG) और 59.29% की फाइनल सेशन एक्यूरेसी प्राप्त करता है, जो पिछले स्टेट-ऑफ-द-आर्ट (NC-FSCIL) से क्रमशः 1.92 और 0.98 अंक अधिक है।
CIFAR-100: ResNet-12 के साथ, यह विधि 68.19% का AVG और 57.52% की फाइनल एक्यूरेसी प्राप्त करती है, जो NC-FSCIL और FeSSSS से महत्वपूर्ण अंतर से बेहतर है।
CUB-200: इस फाइन-ग्रेंड डेटासेट पर, Mamba-FSCIL 68.11% का AVG और 61.52% की फाइनल एक्यूरेसी प्राप्त करता है। जब ट्रांसफार्मर बैकबोन (जैसे Swin-T, ViT-B/16) का उपयोग किया जाता है, तो यह लगातार उच्चतम या अत्यधिक प्रतिस्पर्धी प्रदर्शन प्राप्त करता है, विशेष रूप से DSN जैसे एक्सपेंशन-आधारित तरीकों की तुलना में परफॉरमेंस ड्रॉप (PD) को कम करता है।
एब्लेशन स्टडीज (Ablation Studies): प्रयोग पुष्टि करते हैं कि डुअल-ब्रांच डिज़ाइन और क्लास-सेंसिटिव लॉसेस महत्वपूर्ण हैं, जिसमें फुल मॉडल, स्टैटिक प्रोजेक्टर, सिंगल SSM ब्रांच या रेगुलराइजेशन की कमी वाले वेरिएंट्स की तुलना में बेहतर प्रदर्शन करता है। एक्टिवेशन मैप्स और t-SNE विज़ुअलाइज़ेशन के माध्यम से गुणात्मक विश्लेषण मॉडल की स्थिर बेस-क्लास रिप्रेजेंटेशन बनाए रखने और नए वर्गों के प्रति डायनेमिक रूप से अनुकूल होने की क्षमता की पुष्टि करता है।

महत्व (Significance)
पेपर का दावा है कि Mamba-FSCIL, पैरामीटर-शेयरिंग और पैरामीटर-एक्सपेंशन दोनों प्रतिमानों (paradigms) के लिए एक व्यावहारिक और स्केलेबल विकल्प प्रदान करता है। इनपुट-डिपेंडेंट डायनेमिक कंप्यूटेशन का उपयोग करके, यह मॉडल आर्किटेक्चर को निरंतर विस्तारित करने की कंप्यूटेशनल लागत के बिना स्थिरता-प्लास्टिसिटी दुविधा को हल करता है। यह कार्य प्रदर्शित करता है कि सिलेक्टिव स्टेट स्पेस मॉडल्स, स्थापित ज्ञान की अखंडता को बनाए रखते हुए नए डेटा के लिए विशिष्ट, क्लास-सेंसिटिव प्रोसेसिंग पैटर्न जेनरेट करके, फ्यू-शॉट इन्क्रीमेंटल सेटिंग्स में कैटास्ट्रोफिक फॉरगेटिंग को प्रभावी ढंग से कम कर सकते हैं।