💻 computer science

LDEPrompt: Layer-importance guided Dual Expandable Prompt Pool for Pre-trained Model-based Class-Incremental Learning

LDEPrompt एक लेयर-इम्पॉर्टेंस गाइडेड डुअल एक्सपेंडेबल प्रॉम्प्ट पूल पेश करता है जो एडेप्टिव लेयर सिलेक्शन और डायनेमिक प्रॉम्प्ट पूल एक्सपेंशन को सक्षम करके मौजूदा विधियों की सीमाओं को दूर करता है, जिससे क्लास-इन्क्रीमेंटल लर्निंग में स्टेट-ऑफ-द-आर्ट प्रदर्शन प्राप्त होता है।

मूल लेखक: Linjie Li, Zhenyu Wu, Huiyu Xiao, Yang Ji

प्रकाशित 2026-04-15

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC0 1.0

मूल लेखक: Linjie Li, Zhenyu Wu, Huiyu Xiao, Yang Ji

मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मास्टर शेफ हैं जिसने वर्षों तक एक विशाल, विश्व-प्रसिद्ध कुकबुक (यह आपका Pre-trained Model है) को पूर्णता प्रदान करने में बिताया है। आप फ्रांसीसी पेस्ट्री से लेकर जापानी सुशी तक सब कुछ बनाना जानते हैं। अब, आप उन देशों के व्यंजनों के नए नुस्खे सीखना चाहते हैं जहाँ आप कभी गए नहीं हैं, लेकिन आपका एक सख्त नियम है: आप अपनी पुरानी कुकबुक के पुराने पन्नों को फिर से नहीं लिख सकते, और आपके पास अपनी शेल्फ पर हर एक पुरानी रेसिपी बुक रखने के लिए जगह भी नहीं है।

यह Class-Incremental Learning की चुनौती है: पुरानी चीजों को भूले बिना और पुराने डेटा को स्टोर किए बिना नई चीजें सीखना।

यहाँ इस पेपर का समाधान, LDEPrompt, एक चतुर किचन एनालॉजी (उपमा) का उपयोग करके इस समस्या को कैसे हल करता है, यह बताया गया है।

1. पुराने तरीकों के साथ समस्या

इसे हल करने के पिछले प्रयास एक शेफ को एक छोटे, निश्चित आकार के स्टिकी नोट पैड देने जैसे थे।

समस्या: शेफ को इन स्टिकी नोट्स पर नए नुस्खे लिखने पड़ते थे। लेकिन पैड में केवल 5 जगहें थीं। जब कोई नया नुस्खा आता, तो शेफ को जगह बनाने के लिए एक पुराना नुस्खा मिटाना पड़ता था।
परिणाम: शेफ पुराने नुस्खे भूल जाता था (Catastrophic Forgetting)। साथ ही, शेफ को यह अंदाज़ा लगाना पड़ता था कि नोट कहाँ चिपकाना है (जैसे, "Appetizers" सेक्शन के पास या "Desserts" सेक्शन के पास) बिना यह जाने कि कौन सी जगह वास्तव में सबसे अच्छी है।

2. LDEPrompt का समाधान: एक स्मार्ट, बढ़ता हुआ किचन

लेखक एक नया सिस्टम प्रस्तावित करते हैं जिसे LDEPrompt कहा जाता है। इसे एक जादुई किचन के रूप में सोचें जिसमें दो विशेष विशेषताएं हैं: Smart Placement और Dual Storage।

विशेषता A: "Layer-Importance" रडार (Smart Placement)

एक नया व्यंजन बनाना शुरू करने से पहले, शेफ केवल अंदाज़ा नहीं लगाता कि नोट्स कहाँ रखने हैं। वे अपनी मौजूदा कुकबुक में एक त्वरित "स्कौट" (खोज) चलाते हैं।

यह कैसे काम करता है: सिस्टम कुकबुक के हर अध्याय की जाँच करता है ताकि यह देखा जा सके कि नया व्यंजन किस अध्याय के बारे में सबसे अधिक उत्साहित या "सूचनात्मक" (informative) है।
एनालॉजी: यदि नया व्यंजन एक मसालेदार करी है, तो सिस्टम महसूस करता है कि "Baking" अध्याय के बजाय "Spices" अध्याय ही नोट जोड़ने के लिए सबसे महत्वपूर्ण जगह है।
लाभ: पूरे बुक में नोट्स का ढेर लगाने के बजाय, शेफ केवल उन विशिष्ट अध्यायों में नए निर्देश रखता है जिन्हें वास्तव में उनकी आवश्यकता है। यह जगह बचाता है और निर्देशों को स्पष्ट रखता है।

विशेषता B: "Dual Pool" सिस्टम (Smart Storage)

यह वह जादुई ट्रिक है जो भूलने की प्रक्रिया को रोकती है। शेफ दो अलग-अलग प्रकार के स्टोरेज का उपयोग करता है:

The Global Vault (The Frozen Library):
- यह एक सुरक्षित, कांच के घेरे वाली लाइब्रेरी है जहाँ सभी पुराने, पूर्ण नुस्खे रखे गए हैं।
- नियम: एक बार जब कोई नुस्खा यहाँ रख दिया जाता है, तो वह फ्रीज (जम) हो जाता है। आप इसे पढ़ सकते हैं, लेकिन आप इसे बदल नहीं सकते। यह सुनिश्चित करता है कि शेफ अपने पुराने कौशल कभी न भूले।
- विस्तार (Expansion): जब शेफ एक नया नुस्खा सीखता है, तो वह पुराने नुस्खों को ओवरराइट नहीं करता है। वे इस लाइब्रेरी में नया नुस्खा जोड़ देते हैं, जिससे समय के साथ लाइब्रेरी बड़ी होती जाती है।
The Training Counter (The Active Workspace):
- यह एक छोटा, अस्थायी काउंटर है जहाँ शेफ वर्तमान नए व्यंजन का अभ्यास करता है।
- ट्रिक: अभ्यास करने से पहले, शेफ Global Vault में देखता है और सबसे समान पुराने नुस्खे निकालता है (एक "similarity match" का उपयोग करके)।
- प्रक्रिया: शेफ नए व्यंजन को सीखने के लिए इन पुराने नुस्खों को कुछ नए, खाली नोट्स के साथ काउंटर पर मिलाता है। एक बार जब सबक पूरा हो जाता है, तो नए नोट्स को Global Vault में ले जाया जाता है, और अगले दिन के लिए काउंटर को खाली कर दिया जाता है।

3. यह क्यों एक गेम-चेंजर है

कोई ओवरराइटिंग नहीं: क्योंकि पुराने नुस्खे "Frozen Library" में हैं, इसलिए "Counter" पर नया सीखना अतीत को कभी नहीं मिटाता।
गतिशील विकास (Dynamic Growth): लाइब्रेरी का आकार निश्चित नहीं है। जैसे-जैसे आप अधिक सीखते हैं, यह बढ़ती जाती है, इसलिए आपके पास कभी जगह खत्म नहीं होती।
स्मार्ट चयन: केवल "महत्वपूर्ण अध्यायों" (layers) में नोट्स रखकर, सिस्टम अधिक कुशल होता है और गलत जगहों पर बहुत अधिक नोट्स होने से भ्रमित नहीं होता है।

परिणाम

इस पेपर ने इस "Smart Kitchen" का परीक्षण तीन प्रसिद्ध कुकिंग चुनौतियों (डेटासेट्स: CIFAR100, CUB, और VTAB) पर किया।

परिणाम: LDEPrompt का उपयोग करने वाला शेफ, पुराने "sticky note" तरीकों का उपयोग करने वाले किसी भी अन्य शेफ से बेहतर खाना बनाता है।
स्कोर: उन्होंने सटीकता (accuracy) में महत्वपूर्ण अंतर से सुधार किया (कुछ मामलों में 3% तक बेहतर), यह साबित करते हुए कि आप पुराने को भूले बिना हमेशा नई चीजें सीख सकते हैं।

संक्षेप में: LDEPrompt एक छात्र को एक जादुई, विस्तार योग्य नोटबुक देने जैसा है जहाँ वे केवल सही अध्यायों में लिखते हैं, और उनके पास अपने पिछले ज्ञान के लिए एक अलग, अपरिवर्तनीय वॉल्ट (vault) है, जो यह सुनिश्चित करता है कि वे जो पहले से सीख चुके हैं उसे कभी न खोएं।

यहाँ शोध पत्र "LDEPrompt: Layer-importance guided Dual Expandable Prompt Pool for Pre-trained Model-based Class-Incremental Learning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र प्रशिक्षित मॉडलों (Pre-trained Models - PTMs) के प्रतिमान के भीतर क्लास-इन्क्रीमेंटल लर्निंग (CIL) को संबोधित करता है। मुख्य चुनौती एक ऐसे मॉडल को सक्षम बनाना है जो पुराने डेटा (exemplar-free) तक पहुँच के बिना नए वर्गों (classes) को क्रमिक रूप से सीख सके, और साथ ही कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) (पूर्व में सीखे गए ज्ञान की हानि) से बच सके।

मौजूदा प्रॉम्प्ट-आधारित CIL विधियाँ तीन महत्वपूर्ण सीमाओं से ग्रस्त हैं:

प्रॉम्प्ट ओवरराइटिंग (Prompt Overwriting): विभिन्न कार्यों (tasks) के दौरान बार-बार चुने जाने वाले प्रॉम्प्ट्स के प्रशिक्षण के दौरान ओवरराइट होने की संभावना होती है, जिससे भूलने की समस्या उत्पन्न होती है।
निश्चित क्षमता (Fixed Capacity): मौजूदा प्रॉम्प्ट पूल्स का आकार निश्चित होता है, जो वर्गों की संख्या बढ़ने के साथ नए कार्यों को समायोजित करने की मॉडल की क्षमता को सीमित करता है।
बैकबोन निर्भरता (Backbone Dependence): प्रॉम्प्ट चयन पूरी तरह से एक फ्रीज़्ड (frozen) प्री-ट्रेंड बैकबोन से प्राप्त एम्बेडिंग्स पर निर्भर करता है, जिसमें टास्क-विशिष्ट जानकारी का अभाव होता है और यह बैकबोन के प्रारंभिक निरूपणों (representations) पर एक मजबूत निर्भरता बनाता है।

2. कार्यप्रणाली: LDEPrompt (Methodology: LDEPrompt)

लेखक LDEPrompt का प्रस्ताव करते हैं, जिसमें दो मुख्य नवाचार हैं: लेयर-इम्पॉर्टेंस गाइडेड सिलेक्शन (Layer-importance guided selection) और डुअल एक्सपेंडेबल प्रॉम्प्ट पूल (Dual Expandable Prompt Pool)।

A. लेयर-इम्पॉर्टेंस इवैल्यूएशन (Layer-Importance Evaluation)

एक नए कार्य के प्रशिक्षण से पहले, मॉडल प्रत्येक लेयर के इन्फॉर्मेशन गेन (Information Gain - IG) का मूल्यांकन करने के लिए फ्रीज़्ड बैकबोन के माध्यम से वर्तमान कार्य के डेटा पर एक फॉरवर्ड पास करता है।

गणना: $IG(l) = I(x; h_l) - I(x; h_{l-1})$ , जहाँ $I$ इनपुट $x$ और लेयर रिप्रेजेंटेशन $h$ के बीच म्यूचुअल इंफॉर्मेशन (mutual information) है।
चयन: लेयर्स को सॉफ्टमैक्स फंक्शन का उपयोग करके नॉर्मलाइज़ किया जाता है। केवल वे लेयर्स जिनका इम्पॉर्टेंस स्कोर औसत से ऊपर है, उन्हें प्रॉम्प्ट पूल्स होस्ट करने के लिए चुना जाता है। यह पैरामीटर रेडंडेंसी (redundancy) को रोकता है और प्रॉम्प्ट इंसर्शन को टास्क-विशिष्ट विशेषताओं के साथ संरेखित करता है।

B. डुअल एक्सपेंडेबल प्रॉम्प्ट पूल आर्किटेक्चर (Dual Expandable Prompt Pool Architecture)

ओवरराइटिंग और निश्चित क्षमता की समस्याओं को हल करने के लिए, LDEPrompt एक डुअल-पूल सिस्टम पेश करता है:

ग्लोबल प्रॉम्प्ट पूल ( $P_g$ ):
- यह सभी पिछले कार्यों के प्रॉम्प्ट्स को संग्रहीत करता है।
- ऐतिहासिक ज्ञान को सुरक्षित रखने के लिए नए कार्य के प्रशिक्षण के दौरान यह फ्रीज़्ड (frozen) रहता है।
- यह ज्ञान प्रतिधारण (knowledge retention) के लिए एक जलाशय (reservoir) के रूप में कार्य करता है।
ट्रेनिंग प्रॉम्प्ट पूल ( $P_c$ ):
- वर्तमान कार्य के लिए इसकी एक निश्चित क्षमता ( $S$ ) होती है।
- इसमें टास्क-विशिष्ट प्रॉम्प्ट्स होते हैं जो ट्रेन करने योग्य (trainable) होते हैं।
- निर्माण (Construction):
  - रिट्रीवल (Retrieval): वर्तमान कार्य के लिए, मॉडल इनपुट [CLS] टोकन और संग्रहीत कीज़ (keys) के बीच कोसाइन सिमिलरिटी का उपयोग करके $P_g$ से सबसे समान शीर्ष- $s$ प्रॉम्प्ट्स को रिट्रीव करता है।
  - इनिशियलाइजेशन (Initialization): शेष $S-s$ स्लॉट्स को रैंडम तरीके से इनिशियलाइज़ किया जाता है।
- एक्सपेंशन (Expansion): प्रशिक्षण के बाद, $P_c$ में सीखे गए नए प्रॉम्प्ट्स को फ्रीज़ कर दिया जाता है और भविष्य के कार्यों के लिए $P_g$ में मर्ज कर दिया जाता है, जिससे ग्लोबल पूल की क्षमता गतिशील रूप से बढ़ती है।

C. ऑप्टिमाइजेशन (Optimization)

मॉडल $P_c$ में ट्रेन करने योग्य प्रॉम्प्ट्स और क्लासिफायर हेड को ऑप्टिमाइज़ करने के लिए मानक क्रॉस-एन्ट्रॉपी लॉस का उपयोग करता है। बैकबोन पूरी प्रक्रिया के दौरान फ्रीज़्ड रहता है।

3. प्रमुख योगदान (Key Contributions)

एडाप्टिव लेयर सिलेक्शन (Adaptive Layer Selection): सभी लेयर्स या निश्चित लेयर्स में प्रॉम्प्ट डालने वाली विधियों के विपरीत, LDEPrompt इन्फॉर्मेशन गेन के आधार पर सबसे अधिक सूचनात्मक लेयर्स को गतिशील रूप से चुनता है, जिससे दक्षता और प्रदर्शन में सुधार होता है।
डुअल-पूल मैकेनिज्म (Dual-Pool Mechanism): एक फ्रीज़्ड ग्लोबल पूल और एक ट्रेन करने योग्य टास्क-विशिष्ट पूल का पृथक्करण पुराने ज्ञान के कैटास्ट्रोफिक ओवरराइटिंग को रोकता है जबकि प्रॉम्प्ट स्पेस को अनिश्चित काल तक बढ़ने की अनुमति देता है।
डायनामिक एक्सपेंशन (Dynamic Expansion): यह फ्रेमवर्क ग्लोबल पूल का विस्तार करके अनगिनत कार्यों का समर्थन करता है, जो पिछले कार्यों में फिक्स्ड-साइज़ प्रॉम्प्ट पूल्स की सीमा को दूर करता है।
कम बैकबोन निर्भरता (Reduced Backbone Dependence): प्रॉम्प्ट चयन और प्रशिक्षण प्रक्रिया में टास्क-विशिष्ट जानकारी को एकीकृत करके, यह फ्रीज़्ड बैकबोन के स्टैटिक रिप्रेजेंटेशन पर निर्भरता को कम करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने विभिन्न इन्क्रीमेंटल सेटिंग्स (जैसे, B0-Inc10, B0-Inc20) के तहत तीन व्यापक रूप से उपयोग किए जाने वाले बेंचमार्क: CIFAR100, CUB, और VTAB पर LDEPrompt का मूल्यांकन किया।

प्रदर्शन (Performance): LDEPrompt ने सभी डेटासेट्स पर स्टेट-ऑफ-द-आर्ट (SOTA) परिणाम प्राप्त किए।
- CIFAR100: दूसरे सर्वश्रेष्ठ मेथड से 0.40% (Avg) और 0.50% (Last) बेहतर रहा।
- CUB: रनर-अप से 2.11% (Avg) और 2.91% (Last) आगे रहा।
- VTAB: इसमें 3.23% (Avg) और 1.37% (Last) का सुधार हुआ।
एब्लेशन स्टडीज (Ablation Studies):
- डुअल-पूल डिज़ाइन या फ्रीजिंग मैकेनिज्म को हटाने से प्रदर्शन में काफी गिरावट आई, जो दोनों घटकों की आवश्यकता की पुष्टि करता है।
- सभी लेयर्स में प्रॉम्प्ट डालना (लेयर इम्पॉर्टेंस सिलेक्शन के बिना) पैरामीटर रेडंडेंसी के कारण कम प्रदर्शन की ओर ले गया, जो लेयर-सिलेक्शन रणनीति की प्रभावशीलता को प्रमाणित करता है।

5. महत्व (Significance)

LDEPrompt प्री-ट्रेंड विजन मॉडल्स के लिए कंटीन्यूअल लर्निंग (Continual Learning) में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है।

स्केलेबिलिटी (Scalability): यह लाइफलर्निंग परिदृश्यों के लिए एक व्यवहार्य समाधान प्रदान करता है जहाँ वर्गों की संख्या असीमित है, जो पिछले प्रॉम्प्ट-आधारित तरीकों की क्षमता संबंधी सीमाओं को पार करता है।
दक्षता (Efficiency): केवल सबसे अधिक सूचनात्मक लेयर्स को चुनकर, यह मॉडल क्षमता और प्रदर्शन के बीच के संतुलन को अनुकूलित करता है।
ज्ञान संरक्षण (Knowledge Preservation): डुअल-पूल आर्किटेक्चर प्रभावी इन्क्रीमेंटल लर्निंग के लिए आवश्यक प्लास्टिसिटी (नए कार्यों को सीखना) और स्टेबिलिटी (पुराने कार्यों को बनाए रखना) के बीच संतुलन बनाने के लिए एक मजबूत तंत्र प्रदान करता है।

कोड सार्वजनिक रूप से उपलब्ध है, जो प्रॉम्प्ट-आधारित कंटीन्युअल लर्निंग में आगे के अनुसंधान को सुगम बनाता है।