Residual SODAP: Residual Self-Organizing Domain-Adaptive Prompting with Structural Knowledge Preservation for Continual Learning

यहाँ शोध पत्र "Residual SODAP: Residual Self-Organizing Domain-Adaptive Prompting with Structural Knowledge Preservation for Continual Learning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या की परिभाषा (Problem Definition)

यह शोध पत्र सख्त rehearsal-free (पुनरावृत्ति-रहित) बाधाओं के तहत Domain-Incremental Learning (DIL) को संबोधित करता है।

• संदर्भ: DIL में, एक मॉडल को डोमेन के एक अनुक्रम (जैसे, विभिन्न मेडिकल इमेजिंग डेटासेट) से सीखना होता है जहाँ समय के साथ डेटा वितरण बदल जाता है।
• बाधाएँ:
  • कोई Task ID नहीं: मॉडल को यह पता नहीं होता कि परीक्षण (test) नमूना किस डोमेन से संबंधित है।
  • कोई डेटा स्टोरेज नहीं: गोपनीयता नियमों (जैसे, GDPR) या स्टोरेज सीमाओं के कारण पिछले डेटा को संग्रहीत या पुन: उपयोग (replay) नहीं किया जा सकता है।
• मुख्य चुनौती: Catastrophic Forgetting (विनाशकारी विस्मृति)। मौजूदा Prompt-based Continual Learning (PCL) विधियाँ DIL सेटिंग्स में अक्सर दो विशिष्ट सीमाओं के कारण विफल हो जाती हैं:
  1. अष्टतम प्रॉम्प्ट चयन (Suboptimal Prompt Selection): Hard selection (Top-k) में अभिव्यक्ति की कमी होती है, जबकि soft selection (Softmax) अप्रासंगिक प्रॉम्प्ट्स को आउटपुट को प्रभावित करने की अनुमति देकर शोर (noise) उत्पन्न करता है।
  2. क्लासिफायर अस्थिरता (Classifier Instability): मौजूदा PCL विधियाँ बैकबोन रिप्रजेंटेशन को अनुकूलित करने पर बहुत अधिक ध्यान केंद्रित करती हैं लेकिन क्लासिफायर हेड की उपेक्षा करती हैं। लेखकों ने देखा कि अच्छे रिप्रजेंटेशन अनुकूलन के बावजूद, क्लासिफायर में निर्णय सीमाएँ (decision boundaries) समय के साथ काफी खराब हो जाती हैं, जिससे प्रदर्शन में गिरावट आती है।

2. कार्यप्रणाली: Residual SODAP (Methodology)

प्रस्तावित ढांचा, Residual SODAP, प्रॉम्प्ट-आधारित रिप्रजेंटेशन अनुकूलन और क्लासिफायर-स्तरीय ज्ञान संरक्षण को संयुक्त रूप से अनुकूलित करता है। इसमें चार मुख्य घटक शामिल हैं:

A. $\alpha$-Entmax-आधारित Residual Prompt Selection

मानक प्रॉम्प्ट चयन की सीमाओं को दूर करने के लिए:

• इनपुट संवर्धन (Input Enhancement): मॉडल एक Memory Bank (सीखने योग्य key-value जोड़े) का उपयोग करता है जो Transformer परतों के बीच साझा किया जाता है। वर्तमान क्वेरी को इस मेमोरी बैंक से सिग्नल प्राप्त करके और उन्हें वैश्विक संदर्भ (प्रारंभिक CLS टोकन) और वर्तमान परत की क्वेरी के साथ जोड़कर संवर्धित किया जाता है।
• स्पार्स चयन ($\alpha$-Entmax): Softmax के बजाय, यह विधि $\alpha$-entmax ($\alpha=1.5$ के साथ) का उपयोग करती है। यह स्पार्स (sparse) चयन की अनुमति देता है, जिससे कम स्कोर वाले प्रॉम्प्ट्स को सटीक शून्य (zero) असाइन किया जाता है, जिससे अप्रासंगिक प्रॉम्प्ट्स से होने वाला शोर कम होता है और ग्रेडिएंट फ्लो बना रहता है।
• रेसिड्यूअल फ्यूजन (Residual Fusion): प्रॉम्प्ट पूल को एक Frozen Set ($\mathcal{F}$) और एक Active Set ($\mathcal{A}$) में विभाजित किया गया है।
  • $\mathcal{F}$ में प्रॉम्प्ट्स को पूर्व ज्ञान को संरक्षित करने के लिए फ्रीज कर दिया जाता है।
  • $\mathcal{A}$ में प्रॉम्प्ट्स सीखने योग्य होते हैं और नए डोमेन के लिए एक रेसिड्यूअल (residual) अनुकूलन के रूप में कार्य करते हैं।
  • अंतिम प्रॉम्प्ट एक भारित योग है: $p_{out} = p_{\mathcal{F}} + \lambda_r p_{\mathcal{A}}$।

B. सांख्यिकीय ज्ञान संरक्षण (Statistical Knowledge Preservation - Pseudo-Feature Replay)

बिना कच्चा डेटा संग्रहीत किए विस्मृति को कम करने के लिए, यह विधि क्लास-वार फीचर सांख्यिकी को संरक्षित करती है:

• ज्ञान संपत्तियाँ (Knowledge Assets): प्रत्येक चरण के अंत में, मॉडल निम्नलिखित को सहेजता है:
  1. एक फ्रीज किया गया Teacher Classifier Head।
  2. Welford के ऑनलाइन एल्गोरिदम के माध्यम से गणना की गई Class-wise Feature Statistics (Mean $\mu_c$ और Diagonal Variance $\sigma_c^2$)।
• डिस्टिलेशन और रिप्ले (Distillation & Replay): अगले चरण के प्रशिक्षण के दौरान:
  • Real Feature Distillation: स्टूडेंट हेड वास्तविक वर्तमान-बैच फीचर्स का उपयोग करके टीचर हेड से सीखता है।
  • Pseudo-Feature Replay: मॉडल संग्रहीत गॉसियन वितरण ($\mathcal{N}(\mu_c, \sigma_c^2)$) से नमूने लेकर सिंथेटिक फीचर्स उत्पन्न करता है। इन छद्म (pseudo) फीचर्स को फ्रीज किए गए टीचर और सीखने योग्य स्टूडेंट हेड्स के माध्यम से गुजारा जाता है ताकि ज्ञान का डिस्टिलेशन सुनिश्चित हो सके, जो प्रभावी रूप से बिना कच्चे डेटा के पिछले निर्णय सीमाओं को पुन: प्रस्तुत (replay) करता है।

C. प्रॉम्प्ट उपयोग-आधारित ड्रिफ्ट डिटेक्शन (PUDD)

प्रॉम्प्ट पूल के आकार को गतिशील रूप से प्रबंधित करने के लिए:

• ड्रिफ्ट सिग्नल: सिस्टम दो संकेतों की निगरानी करता है:
  1. Selection Entropy: प्रॉम्प्ट चयन भार की अनिश्चितता में परिवर्तन।
  2. Usage Set Shift: वर्तमान सक्रिय प्रॉम्प्ट्स के सेट और हाल के इटरेशन में उपयोग किए गए सेट के बीच Intersection over Union (IoU)।
• अनुकूली विस्तार (Adaptive Expansion): एक ड्रिफ्ट स्कोर की गणना की जाती है। यदि स्कोर एक थ्रेशोल्ड से अधिक हो जाता है, तो प्रॉम्प्ट पूल का विस्तार ड्रिफ्ट के परिमाण के अनुपात में किया जाता है। नए जोड़े गए प्रॉम्प्ट्स 'Active Set' में शामिल होते हैं, जबकि पिछले सक्रिय प्रॉम्प्ट्स को 'Frozen Set' में स्थानांतरित कर दिया जाता है।

D. अनिश्चितता वेटिंग (Uncertainty Weighting - UW)

मैनुअल ट्यूनिंग के बिना कई लॉस टर्म्स (Cross-Entropy, Real Distillation, Pseudo Distillation, Diversity, और Norm regularization) को संतुलित करने के लिए:

• यह विधि homoscedastic uncertainty weighting को अपनाती है। यह प्रत्येक लॉस टर्म के लिए एक लॉग-वेरिएंस पैरामीटर ($s_i$) सीखती है।
• उच्च अनिश्चितता (अधिक शोर वाले) वाले लॉस को स्वचालित रूप से कम भार दिया जाता है, जबकि विश्वसनीय लॉस को अधिक भार दिया जाता है, जिससे स्थिर संयुक्त अनुकूलन सुनिश्चित होता है।

3. मुख्य योगदान (Key Contributions)

1. दो-स्तरीय संरक्षण (Dual-Level Preservation): PCL में प्रॉम्प्ट अनुकूलन के साथ सांख्यिकीय ज्ञान संरक्षण (pseudo-replay) को जोड़कर क्लासिफायर-स्तरीय अस्थिरता को स्पष्ट रूप से संबोधित करने वाला पहला ढांचा।
2. स्पार्स प्रॉम्प्ट चयन: शोर-मुक्त प्रॉम्प्ट चयन प्राप्त करने के लिए $\alpha$-entmax का परिचय, जो Top-k और Softmax की सीमाओं को पार करता है।
3. ड्रिफ्ट-अवेयर सेल्फ-ऑर्गनाइजेशन: एक तंत्र (PUDD) जो स्वचालित रूप से डोमेन शिफ्ट का पता लगाता है और प्रॉम्प्ट पूल की क्षमता को गतिशील रूप से बढ़ाता है, जिससे यह सुनिश्चित होता है कि मॉडल के पास नए डोमेन के लिए पर्याप्त संसाधन हों।
4. Rehearsal-Free दक्षता: यह विधि बिना किसी पिछले डेटा को संग्रहीत किए या किसी टास्क आइडेंटिफायर की आवश्यकता के बिना अत्याधुनिक (state-of-the-art) प्रदर्शन प्राप्त करती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन DIL सेटिंग्स के तहत तीन बेंचमार्क पर किया गया:

• Diabetic Retinopathy (DR): APTOS $\to$ DDR $\to$ DRD।
• Skin Cancer: ISIC $\to$ HAM $\to$ DERM7।
• General Domain: CORe50 (11-चरणों का स्ट्रीम)।

प्रदर्शन हाइलाइट्स (AvgACC / AvgF - कम होना बेहतर है):

• DR: 0.850 / 0.047 (SOTA)। पिछले PCL तरीकों (जैसे, OS-Prompt++, Dual-Prompt) और Rehearsal-based तरीकों (जैसे, DER++) से बेहतर।
• Skin Cancer: 0.760 / 0.031। कम विस्मृति बनाए रखते हुए उच्चतम सटीकता प्राप्त करता है, जो Dual-Prompt से बेहतर है (जिसमें विस्मृति कम थी लेकिन सटीकता खराब थी)।
• CORe50: 0.995 / 0.003। गैर-मेडिकल डोमेन में असाधारण सामान्यीकरण प्रदर्शित करता है।

एब्लेशन अध्ययन (Ablation Studies):

• Query Enhancer को हटाने से सटीकता में सबसे बड़ी गिरावट (-4.2%) आई, जो मेमोरी-ऑगमेंटेड क्वेरीज़ के महत्व को रेखांकित करता है।
• Pseudo Replay या Distillation को हटाने से विस्मृति काफी बढ़ गई, जो क्लासिफायर-स्तरीय संरक्षण की आवश्यकता की पुष्टि करती है।
• Uncertainty Weighting को हटाने से सटीकता और विस्मृति के बीच इष्टतम संतुलन नहीं बन पाया।

5. महत्व (Significance)

• व्यावहारिक अनुप्रयोग: Residual SODAP मेडिकल AI अनुप्रयोगों के लिए अत्यधिक प्रासंगिक है जहाँ डेटा गोपनीयता के कारण डेटा भंडारण प्रतिबंधित है और डोमेन शिफ्ट (जैसे, नए अस्पताल स्कैनर) बार-बार होते हैं।
• सैद्धांतिक अंतर्दृष्टि: यह शोध पत्र अनुभवजन्य प्रमाण प्रदान करता है कि निरंतर शिक्षण (continual learning) में, क्लासिफायर अस्थिरता विस्मृति का एक प्राथमिक चालक है, जिसे अक्सर केवल फीचर रिप्रजेंटेशन पर ध्यान केंद्रित करने वाले तरीकों द्वारा अनदेखा कर दिया जाता है।
• मजबूती (Robustness): स्पार्स चयन, सांख्यिकीय रिप्ले और गतिशील क्षमता विस्तार को एकीकृत करके, यह विधि पुराने ज्ञान को बनाए रखने और नए डोमेन के अनुकूल होने के बीच संतुलन बनाने वाला एक मजबूत समाधान प्रदान करती है।