🤖 AI

MIITA: Memory-Induced Inference-Time Adaptation for Continual Learning with Small Language Models

यह शोध पत्र MIITA का प्रस्ताव करता है, जो एक मेमोरी-इंड्यूस्ड इन्फरेंस-टाइम एडाप्टेशन फ्रेमवर्क है जो छोटे भाषा मॉडलों को सीमित स्टोरेज के तहत निरंतर शिक्षण (कंटीन्यूअस लर्निंग) करने में सक्षम बनाता है, जिसमें बैकबोन पैरामीटर्स को अपडेट किए बिना या कैटास्ट्रोफिक फॉरगेटिंगिंग (विस्मृति) का कारण बने बिना हिडन स्टेट्स को अनुकूलित करने के लिए इन्फरेंस के समय कॉम्पैक्ट करेक्शन-डायरेक्शन प्रोटोटाइप्स को रिट्रीव किया जाता है।

मूल लेखक: Dong Li, Yanchi Liu, Xujiang Zhao, Wei Cheng, Zhengzhang Chen, Xintao Wu, Zhong Chen, Chen Zhao, Haifeng Chen

प्रकाशित 2026-07-28

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Dong Li, Yanchi Liu, Xujiang Zhao, Wei Cheng, Zhengzhang Chen, Xintao Wu, Zhong Chen, Chen Zhao, Haifeng Chen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके फोन में रहने वाला एक छोटा सा, बेहद तेज़ रोबोट सहायक है। यह छोटा और कुशल है, जो त्वरित कार्यों के लिए एकदम सही है, लेकिन इसकी मेमोरी बैंक बहुत सीमित है। अब, कल्पना कीजिए कि दुनिया बदलती रहती है, और इस रोबोट को हर दिन नए कौशल सीखने की आवश्यकता होती है—जैसे कि एक नया स्लैंग शब्द समझना, एक नए प्रकार के बग को पहचानना, या किसी ताज़ा होमवर्क असाइनमेंट में मदद करना। बड़ी समस्या यह है कि जब ये छोटे रोबोट कुछ नया सीखने की कोशिश करते हैं, तो वे अक्सर अनजाने में वह सब कुछ "भूल" जाते हैं जो वे कल जानते थे। यह एक नोटबुक में नया अध्याय लिखने जैसा है जो पहले से ही भरी हुई है; यदि आप नए शब्दों को उसमें जबरदस्ती फिट करते हैं, तो आपको पुराने शब्दों को मिटाना पड़ेगा। वैज्ञानिक इसे "कैटैस्ट्रोफिक फॉरगेटिंग" (विनाशकारी विस्मृति) कहते हैं।

इसे रोकने के लिए, शोधकर्ता आमतौर पर पुराने पाठों को एक अलग "मेमोरी बैंक" में सहेजने की कोशिश करते हैं ताकि रोबोट पीछे मुड़कर उन्हें देख सके। लेकिन यहाँ एक पेंच है: विशाल, सुपर-स्मार्ट एआई दिमागों के लिए डिज़ाइन किए गए अधिकांश फैंसी मेमोरी सिस्टम हमारे इस नन्हे रोबोट के लिए बहुत भारी और जटिल हैं। वे पूरी कहानियाँ या उदाहरणों की लंबी सूचियाँ सहेजने की कोशिश करते हैं, जिसमें बहुत अधिक जगह लगती है और इसके लिए रोबोट का शब्दों के बीच के अर्थ को समझने में बहुत कुशल होना आवश्यक है—एक ऐसा कौशल जो छोटे रोबोटों में नहीं होता। तो, बड़ा सवाल यह है: हम एक छोटे, संसाधन-सीमित रोबोट को बिना जगह खत्म किए या अपनी पुरानी यादें खोए बिना हमेशा के लिए सीखना कैसे सिखा सकते हैं?

यहाँ आता है MIITA, एक चतुर नया तरीका जिसे शोधकर्ताओं की एक टीम ने प्रस्तावित किया है, जो इन छोटे रोबोटों के लिए एक "स्मार्ट चीट शीट" की तरह काम करता है। भारी-भरकम कहानियों या उदाहरणों की लंबी सूचियों को सहेजने के बजाय, MIITA खेल बदल देता है क्योंकि यह केवल उस सार को सहेजता है जिसे सुधारने की आवश्यकता है। इसे इस तरह सोचें: यदि आप अपने किसी मित्र को साइकिल चलाना सिखा रहे होते, तो आप हर बार उनके गिरने का वीडियो सहेज कर नहीं रखते। इसके बजाय, आप एक छोटा सा नोट सहेजते जो कहता, "दाएं मुड़ते समय बाईं ओर झुकें।" वह नोट एक "सुधार दिशा" (करेक्शन डायरेक्शन) है। MIITA हर सीखने के अनुभव को इन छोटे, संक्षिप्त नोट्स में बदल देता है।

जब रोबलेट को किसी नई स्थिति का सामना करना पड़ता है, तो MIITA केवल पुराने नोट्स उस पर नहीं थोपता। यह एक विशेष तरकीब का उपयोग करता है यह पता लगाने के लिए कि अभी किस नोट की आवश्यकता है। यह वर्तमान समस्या को देखता है और पूछता है, "रोबोट कहाँ भ्रमित है?" यदि रोबोट अपने उत्तर के बारे में अनिश्चित है, तो MIITA उस भ्रम को एक सुराग के रूप में उपयोग करता है ताकि अपनी मेमोरी बैंक से सही "बाईं ओर झुकें" वाला नोट ढूंढ सके। फिर यह उस सुधार को उस विशेष क्षण के लिए, केवल उस पल के लिए, रोबोट की सोचने की प्रक्रिया पर अस्थायी रूप से लागू करता है, ताकि उसे सही उत्तर पाने में मदद मिल सके। एक बार कार्य पूरा हो जाने के बाद, वह सुधार गायब हो जाता है, जिससे रोबोट का मुख्य मस्तिष्क पूरी तरह से अछूता रहता है और अगले चैलेंज के लिए तैयार रहता है।

शोधकर्ताओं ने इस विचार का परीक्षण कई अलग-अलग कार्यों पर किया, जैसे ग्राहकों की शिकायतों को समझना और कई भाषाओं में प्रश्नों के उत्तर देना। उन्होंने पाया कि MIITA ने छोटे भाषा मॉडलों को पुराने कौशल को बेहतर ढंग से याद रखने में अन्य तरीकों की तुलना में लगातार मदद की, भले ही मेमोरी स्पेस अत्यंत सीमित क्यों न हो। वास्तव में, जबकि अन्य तरीके सबसे छोटे मॉडलों पर काम करने में संघर्ष करते थे, MIITA अच्छा प्रदर्शन करता रहा। टीम ने यह भी दिखाया कि इन "सुधार नोट्स" को सहेजना पूर्ण कहानियों या सारांशों को सहेजने की तुलना में बहुत अधिक प्रभावी था, जिससे सिद्ध हुआ कि छोटे रोबोटों के लिए, यह इस बारे में नहीं है कि आप कितना याद रखते हैं, बल्कि इस बारे में है कि आप कैसे याद रखते हैं। कच्चे डेटा के बजाय गलती को ठीक करने के लिए आवश्यक कार्यात्मक "धक्के" (पुश) पर ध्यान केंद्रित करके, MIITA छोटे एआई के लिए एक हल्का, कुशल तरीका प्रदान करता है ताकि वे अपनी पहचान खोए बिना सीखते रह सकें।

तकनीकी सारांश: MIITA

समस्या विवरण

स्मॉल लैंग्वेज मॉडल्स (SLMs) के लिए निरंतर शिक्षण (Continual Learning - CL) संसाधन-बाधित परिनियोजन (deployments) में एक महत्वपूर्ण बाधा का सामना करता है। जबकि SLMs स्थानीयकृत, कम-विलंबता (low-latency), और गोपनीयता-संवेदनशील अनुप्रयोगों के लिए आवश्यक हैं, उनकी सीमित पैरामीटर क्षमता उन्हें अत्यधिक संवेदनशील बनाती है जब नए पर्यवेक्षित अनुभवों (supervised experiences) को सीधे बैकबोन में लिखा जाता है, जिससे 'कैटैस्ट्रोफिक फॉरगेटिंग' (catastrophic forgetting) की स्थिति उत्पन्न होती है। मौजूदा मेमोरी-आधारित CL दृष्टिकोण, जो मुख्य रूप से लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए डिज़ाइन किए गए हैं, टेक्स्ट उदाहरणों, सारांशों या प्रदर्शनों (demonstrations) को संग्रहीत करने पर निर्भर करते हैं। ये विधियाँ SLM संदर्भों में दो कारणों से विफल होती हैं:

भंडारण अक्षमता (Storage Inefficiency): टेक्स्ट मेमोरी पुन: प्रयोज्य संकेतों के साथ सतही सामग्री को बनाए रखती है, जिससे निश्चित बजट के तहत अत्यधिक स्टोरेज की खपत होती है।
तर्क संबंधी सीमाएँ (Reasoning Limitations): SLMs में वह मजबूत इन-कॉन्टेक्स्ट रीजनिंग क्षमता नहीं होती जो यह प्रभावी ढंग से अनुमान लगाने के लिए आवश्यक है कि पुनर्प्राप्त (retrieved) टेक्स्ट मेमोरी को भविष्यवाणियों को कैसे प्रभावित करना चाहिए।

परिणामस्वरूप, वर्तमान विधियाँ या तो मॉडल के आकार में कमी आने पर काफी खराब प्रदर्शन करती हैं या सख्त स्टोरेज सीमाओं के तहत विस्मृति (forgetting) को रोकने में विफल रहती हैं।

कार्यप्रणाली: MIITA

लेखक MIITA (मेमोरी-इंड्यूस्ड इन्फरेंस-टाइम अडैप्टेशन) का प्रस्ताव करते हैं, जो सीमित स्थायी स्टोरेज वाले SLMs में पर्यवेक्षित CL के लिए डिज़ाइन किया गया एक फ्रेमवर्क है। MIITA ज्ञान प्रतिधारण (knowledge retention) को मॉडल के पैरामीटर स्पेस से अलग करता है, अनुभवों को कच्चे टेक्स्ट के रूप में नहीं, बल्कि कॉम्पैक्ट फंक्शनल करेक्शन डायरेक्शंस (compact functional correction directions) के रूप में संग्रहीत करता है।

मुख्य घटक

डायरेक्शन-ओरिएंटेड मेमोरी रिप्रेजेंटेशन:
- कच्चे उदाहरणों $(x, y)$ को संग्रहीत करने के बजाय, MIITA प्रत्येक पर्यवेक्षित अनुभव को प्री-LM-हेड हिडन स्पेस में एक करेक्शन डायरेक्शन $d$ में परिवर्तित करता है। यह दिशा उस ग्रेडिएंट अपडेट का प्रतिनिधित्व करती है जो लक्षित आउटपुट की संभावना (likelihood) बढ़ाने के लिए आवश्यक है।
- यादों को प्रोटोटाइप $u_j = (d_j, A_j, n_j)$ के रूप में व्यवस्थित किया जाता है, जहाँ $d_j$ सामान्यीकृत (normalized) करेक्शन डायरेक्शन है, $A_j$ हल्के वजन वाले सिमेंटिक एंकर्स (keys) का एक सेट है जिसका उपयोग केवल रिट्रीवल के लिए किया जाता है, और $n_j$ मर्ज किए गए अनुभवों की संख्या को ट्रैक करता है।
- यह डिज़ाइन फंक्शनल रिटेंशन (दिशा) को सिमेंटिक एक्सेस (एंकर) से अलग करता है, जिससे समान सुधार उत्पन्न करने वाले सिमेंटिक रूप से भिन्न उदाहरणों को मर्ज किया जा सकता है।
बजट-अवेयर मेमोरी मैनेजमेंट:
- प्रोटोटाइप असाइनमेंट: नए अनुभवों को मौजूदा प्रोटोटाइप में तब मर्ज किया जाता है जब उनके करेक्शन डायरेक्शंस पर्याप्त रूप से संरेखित (aligned) हों (कोसाइन सिमिलैरिटी > थ्रेशोल्ड $\tau_d$ )। अन्यथा, एक नया प्रोटोटाइप बनाया जाता है।
- मेमोरी रिपेयर: जब स्टोरेज बजट $C_{mem}$ समाप्त हो जाता है, तो सिस्टम अनावश्यक सिमेंटिक एंकर्स को हटा देता है, समान प्रोटोटाइप को मर्ज करता है, और उस प्रोटोटाइप को निकाल देता है जो दिशात्मक विशिष्टता (directional distinctiveness) और स्टोरेज दक्षता के आधार पर कम मूल्यवान है।
इन्फरेंस-टाइम रिट्रीवल और अडैप्टेशन:
- रिट्रीवल: इन्फरेंस के समय, MIITA दो संकेतों का उपयोग करके प्रासंगिक प्रोटोटाइप को पुनर्प्राप्त करता है:
  - सिमेंटिक प्रासंगिकता: क्वेरी के सिमेंटिक की (key) को संग्रहीत एंकर्स के विरुद्ध मिलाना।
  - अनसर्टेंटी-गाइडेड डायरेक्शनल प्रॉक्सी: चूंकि इन्फरेंस के समय ग्राउंड ट्रुथ उपलब्ध नहीं होता है, MIITA अनिश्चितता (predictive entropy) को कम करने के लिए एक "डायरेक्शनल प्रॉक्सी" उत्पन्न करने हेतु प्रतिबंधित प्रेडिक्टिव एंट्रॉपी के ग्रेडिएंट की गणना करता है।
- अडैप्टेशन: पुनर्प्राप्त दिशाओं को एक क्वेरी-विशिष्ट करेक्शन वेक्टर $\bar{d}_q$ में एकत्रित किया जाता है। इस वेक्टर को एक गेटेड टेम्परेरी हिडन-स्टेट अपडेट के माध्यम से लागू किया जाता है:
  $p'_t = \text{softmax}(W_{LM}(h^{out}_t + \eta \alpha_t \bar{d}_q))$
  जहाँ $\alpha_t$ वर्तमान जेनरेशन स्टेट और क्वेरी स्टेट के बीच समानता पर आधारित एक एक्टिवेशन गेट है। यह अडैप्टेशन डिस्पोजेबल है; इसके लिए किसी बैकप्रोपैगेशन, पैरामीटर अपडेट, या प्रॉम्प्ट एक्सटेंशन की आवश्यकता नहीं है।

सैद्धांतिक अंतर्दृष्टि

पेपर एक स्थानीय सैद्धांतिक विश्लेषण प्रदान करता है जो स्थापित करता है कि:

करेक्शन डायरेक्शंस पर्यवेक्षित लॉस (loss) को कम करने के लिए फर्स्ट-ऑर्डर ऑप्टिमल हैं।
अनसर्टेंटी-गाइडेड डायरेक्शंस स्थानीय प्रेडिक्टिव एंट्रॉपी को कम करने के लिए सबसे तीव्र पथ (steepest path) की पहचान करते हैं, जो लेबल-फ्री रिट्रीवल संकेतों के रूप में प्रभावी होते हैं।
पुराने चरण के ज्ञान का प्रतिधारण संग्रहीत मेमोरी के डायरेक्शनल कवरेज द्वारा नियंत्रित होता है, न कि कच्चे उदाहरणों के कवरेज द्वारा।

प्रमुख योगदान

डायरेक्शन-ओरिएंटेड मेमोरी: एक नवीन प्रतिनिधित्व जो पर्यवेक्षित अनुभवों को हल्के वजन वाले सिमेंटिक एंकर्स के साथ करेक्शन-डायरेक्शन प्रोटोटाइप के रूप में संग्रहीत करता है, जो SLMs में टेक्स्ट मेमोरी की स्टोरेज और रीजनिंग लागत को दूर करता है।
इन्फरेंस-टाइम अडैप्टेशन मैकेनिज्म: गेटेड टेम्परेरी हिडन-स्टेट अपडेट के माध्यम से पुनर्प्राप्त ऐतिहासिक दिशाओं को लागू करने की एक विधि, जो बिना टेस्ट-टाइम बैकप्रोपैगेशन के पिछले पर्यवेक्षण के गैर-विनाशकारी (non-destructive) पुन: उपयोग को सक्षम करती है।
सैद्धांतिक विश्लेषण: फर्स्ट-ऑर्डर लॉस रिडक्शन, अनसर्टेंटी-गाइडेड रिट्रीवल, और ज्ञान बनाए रखने में डायरेक्शनल कवरेज की भूमिका से जुड़ी एक स्थानीय सैद्धांतिक रूपरेखा।
अनुभवजन्य सत्यापन (Empirical Validation): विविध पर्यवेक्षित CL सेटिंग्स और मॉडल स्केल्स पर निरंतर सुधार और कम विस्मृति (reduced forgetting) प्रदर्शित करने वाला व्यापक मूल्यांकन।

प्रायोगिक परिणाम

प्रयोग चार बेंचमार्क (Banking77, DSC, PAXQA, SuperNI) पर SLMs (Qwen3-0.6B से 4B, LLaMA-3.2-3B से 8B) पर एक निश्चित 1% मेमोरी बजट के तहत किए गए।

प्रदर्शन: MIITA ने सभी बेंचमार्क और मॉडल आकारों में लगातार सर्वश्रेष्ठ ओवरऑल परफॉर्मेंस (OP) और बैकवर्ड ट्रांसफर (BWT) हासिल किया, जिसने पैरामीटर-अपडेट बेसलाइन्स (जैसे LoRA) और मेमोरी-आधारित LLM बेसलाइन्स (जैसे CIS, FOREVER) को पीछे छोड़ दिया।
मॉडल स्केलिंग: LLM-केंद्रित मेमोरी विधियों के विपरीत, जो मॉडल का आकार घटने पर काफी खराब प्रदर्शन करती हैं, MIOTA ने सबसे छोटे 0.6B मॉडल्स पर भी मजबूत प्रदर्शन बनाए रखा।
बजट संवेदनशीलता: MIITA ने लो-बजट शासन (0.1%–2%) में बेहतर प्रदर्शन दिखाया, जबकि रीप्ले-आधारित विधियों को प्रतिस्पर्धा करने के लिए काफी बड़े बजट की आवश्यकता थी।
एब्लेशन स्टडीज:
- फंक्शनल बनाम सिमेंटिक: कच्चे उदाहरणों, सारांशों या सिमेंटिक एम्बेडिंग्स को संग्रहीत करने की तुलना में फंक्शनल करेक्शन डायरेक्शंस (DirectionMem) को संग्रहीत करने ने काफी बेहतर प्रदर्शन किया, जो पुष्टि करता है कि फंक्शनल रेडंडेंसी, सिमेंटिक रेडंडेंसी से अलग है।
- रिट्रीवल: सिमेंटिक और अनसर्टेंटी-गाइडेड रिट्रीवल को मिलाने से सर्वोत्तम परिणाम मिले, जो लेबल-फ्री डायरेक्शनल प्रॉक्सी की उपयोगिता को प्रमाणित करता है।

महत्व

पेपर का तर्क है कि SLMs के लिए, निरंतर शिक्षण की कुंजी केवल मेमोरी का उपयोग करना नहीं है, बल्कि संग्रहीत प्रतिनिधित्व की दक्षता और कार्यक्षमता है। कच्चे टेक्स्ट को संरक्षित करने के बजाय कॉम्पैक्ट फंक्शनल करेक्शन सिग्नल को संरक्षित करने की ओर शिफ्ट होकर, MIITA स्टोरेज और कमजोर इन-कॉन्टेक्ट रीजनिंग की दोहरी बाधा को संबोधित करता है। यह दृष्टिकोण SLMs को दुर्लभ पैरामीटर स्पेस को ओवरराइट किए बिना या विनाशकारी फाइन-ट्यूनिंग पर निर्भर हुए बिना, विकसित होती जरूरतों के अनुकूल होने की अनुमति देता है, जो संसाधन-बाधित वातावरणों में अनुकूलनीय AI को तैनात करने के लिए एक व्यवहार्य मार्ग प्रदान करता है।