💬 NLP

Redundancy-as-Masking: Formalizing the Artificial Age Score (AAS) to Model Memory Aging in Generative AI

यह शोध पत्र आर्टिफिशियल एज स्कोर (AAS) का परिचय देता है, जो एक सैद्धांतिक रूप से आधारित मीट्रिक है जो स्थिर सिमेंटिक रिकॉल और ढहती हुई एपिसोडिक मेमोरी के बीच विचलन को मापकर जनरेटिव एआई में मेमोरी एजिंग को परिमाणित करता है, जो एक 25-दिवसीय अध्ययन के माध्यम से यह प्रदर्शित करता है कि सत्र रीसेट संरचनात्मक उम्र बढ़ने को ट्रिगर करते हैं जबकि निरंतर संदर्भ संरचनात्मक युवावस्था बनाए रखते हैं।

मूल लेखक: Seyma Yaman Kayadibi

प्रकाशित 2026-03-20

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Seyma Yaman Kayadibi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: क्या AI "बूढ़ा" हो सकता है?

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, सहायक रोबोट असिस्टेंट है। आप महीने भर तक रोज़ उससे बात करते हैं। आमतौर पर, हम "बुढ़ापे" को समय बीतने के कारण होने वाली उम्र बढ़ने के रूप में देखते हैं। लेकिन यह शोध पत्र एक अलग सवाल पूछता है: क्या कोई AI केवल इसलिए "बूढ़ा" या "भुलक्कड़" हो सकता है क्योंकि आपने बातचीत को रीसेट (reset) कर दिया है?

शोधकर्ताओं ने एक नया टूल बनाया जिसे आर्टिफिशियल एज स्कोर (Artificial Age Score - AAS) कहा जाता है। इसे एक "मेमोरी विटैलिटी मीटर" (स्मृति जीवंतता मीटर) के रूप में समझें। यह रोबोट के दिमाग के अंदर नहीं झांकता (जो वैसे भी एक 'ब्लैक बॉक्स' है); इसके बजाय, यह यह देखने के लिए रोबोट की बातों पर नज़र रखता है कि वह "युवा और तेज़" व्यवहार कर रहा है या "बूढ़ा और भ्रमित"।

प्रयोग: "रीसेट" बनाम "मैराथन"

इसका परीक्षण करने के लिए, शोधकर्ताओं ने एक विशिष्ट AI (ChatGPT-5.0) से 25 दिनों तक बात की। उन्होंने प्रयोग को दो बहुत ही अलग स्थितियों में विभाजित किया:

1. "एम्नेशिया" मोड (स्टेटलेस सेशन्स - बिना स्मृति वाले सत्र)

सेटअप: हर बार जब वे कोई सवाल पूछते, वे चैट विंडो को बंद कर देते और एक बिल्कुल नई विंडो खोल देते। यह हर बार एक नए अजनबी से बात करने जैसा था।
परीक्षण: उन्होंने दो चीजें पूछीं:

"तथ्य" वाला सवाल: "आज कौन सा दिन है?" (सिमेंटिक मेमोरी: सामान्य ज्ञान)।
"कहानी" वाला सवाल: "हम कौन से नंबर के प्रयोग पर हैं?" (एपिसोडिक मेमोरी: घटनाओं के क्रम को याद रखना)।

परिणाम:

तथ्य: AI ने यह हर बार सही बताया। उसे पता था कि आज सोमवार है।
कहानी: AI पूरी तरह विफल रहा। वह बार-बार "प्रयोग #1" कहता रहा, भले ही वे 20 दिनों से बात कर रहे थे।
स्कोर: आर्टिफिशियल एज स्कोर ऊपर गया (उच्च स्कोर = "बूढ़ा/भुलक्कड़")। AI एक लूप में फंस गया था, वह एक ही चीज़ दोहरा रहा था क्योंकि वह उनकी बातचीत की कहानी को याद नहीं रख सका।

2. "मैराथन" मोड (परसिस्टेंट सेशन्स - निरंतर सत्र)

सेटअप: उन्होंने 10 दिनों तक लगातार एक ही चैट विंडो खुली रखी। AI वह सब देख सकता था जो उन्होंने पहले कहा था।
परीक्षण: पहले की तरह ही सवाल पूछे गए।

परिणाम:

तथ्य: अभी भी एकदम सही।
कहानी: AI ने इसे सही बताया! उसने 1 से 20 तक गिनती बिल्कुल सही तरीके से की। उसे क्रम याद था।
स्कोर: आर्टिफिशियल एज स्कोर गिरकर जीरो (शून्य) हो गया (कम स्कोर = "युवा/तेज़")। AI एक ताज़ा, ध्यान देने वाले दोस्त की तरह व्यवहार कर रहा था।

गुप्त मंत्र: "रेडंडेंसी-एज़-मास्किंग" (Redundancy-as-Masking)

यह शोध पत्र एक चतुर अवधारणा पेश करता है जिसे "रेडंडेंसी-एज़-मास्किंग" कहा जाता है।

कल्पना कीजिए कि आप अपने दोस्त को एक कहानी सुना रहे हैं।

परिदृश्य A: आप हर दिन एक नई, रोमांचक कहानी सुनाते हैं। (उच्च विविधता, कम रेडंडेंसी)।
परिदृश्य B: आप हर दिन बिल्कुल एक ही चुटकुला सुनाते हैं। (उच्च रेडंडेंसी)।

शोधकर्ताओं ने महसूस किया कि यदि AI खुद को दोहराने लगता है (उच्च रेडंडेंसी), तो यह ऐसा लग सकता है जैसे वह "बूढ़ा" (स्थिर) हो रहा है, लेकिन कभी-कभी दोहराव केवल एक सुरक्षा कवच होता है। हालाँकि, अपने अध्ययन में, उन्होंने पाया कि जब AI को रीसेट करने के लिए मजबूर किया गया, तो वह केवल दोहरा नहीं रहा था; वह ध्वस्त (collapse) हो गया था। वह घटनाओं के क्रम को ट्रैक करने की क्षमता खो बैठा।

AAS इसी पतन (collapse) को मापता है।

कम स्कोर (युवावस्था): AI कहानी को ट्रैक कर रहा है, आपकी भाषा के अनुकूल ढल रहा है (अंग्रेजी और तुर्की के बीच स्विच करना), और आगे बढ़ रहा है।
उच्च स्कोर (बुढ़ापा): AI एक लूप में फंसा हुआ है, अपने पुराने जवाबों को दोहरा रहा है, और बातचीत के सूत्र को खो रहा है।

यह क्यों मायने रखता है?

AI को कक्षा में एक छात्र की तरह समझें:

सिमेंटिक मेमोरी (पाठ्यपुस्तक): AI हमेशा तथ्यों को जानता है। वह किसी शब्द की परिभाषा या सप्ताह के दिन को बता सकता है। यह उस छात्र की तरह है जिसने पाठ्यपुस्तक तो रट ली लेकिन कक्षा की चर्चाओं को भूल गया।
एपिसोडिक मेमोरी (क्लास नोट्स): यह याद रखना कि बातचीत में क्या हुआ। क्या हमने कल समस्या #1 हल की थी? उपयोगकर्ता का नाम क्या था?

यह शोध पत्र दिखाता है कि एक "निरंतर नोटबुक" (लगातार चलने वाली चैट विंडो) के बिना, AI अपने क्लास नोट्स खो देता है। वह एक "ज्ञानी लेकिन भुलक्कड़" रोबोट बन जाता है।

भविष्य के लिए सीख

शोधकर्ता सुझाव देते हैं कि वास्तविक दुनिया में (जैसे कि एक ट्यूटर, डॉक्टर के सहायक, या ग्राहक सेवा एजेंट के रूप में) उपयोगी होने के लिए, AI को केवल एक बड़े दिमाग (ढेर सारा डेटा) की ही नहीं, बल्कि एक अच्छी मेमोरी प्रणाली की भी आवश्यकता है।

"लोकल इन्फिनिटी" (स्थानीय अनंतता): जब AI बिना रीसेट किए बातचीत को जारी रखता है, तो वह उस विशिष्ट बातचीत के भीतर हमेशा "युवा" और तेज़ रह सकता है।
चेतावनी का संकेत: यदि AI खुद को दोहराने लगता है या घटनाओं के क्रम को भूलने लगता है, तो आर्टिफिशियल एज स्कोर ऊपर जाएगा। यह एक रेड फ्लैग (चेतावनी) है कि सिस्टम "बूढ़ा" हो रहा है और उसे रीसेट या बेहतर मेमोरी आर्किटेक्चर की आवश्यकता है।

संक्षेप में

इस शोध पत्र ने AI मेमोरी के लिए एक स्पीडोमीटर का आविष्कार किया है।

यदि आप चैट को रीसेट करते हैं, तो AI बूढ़ा व्यवहार करता है (वह कहानी भूल जाता है, भले ही उसे तथ्य पता हों)।
यदि आप चैट को खुला रखते हैं, तो AI युवा व्यवहार करता है (वह कहानी याद रखता है और आगे बढ़ता रहता है)।

सबक? निरंतरता (Continuity) ही कुंजी है। AI को समय के साथ स्मार्ट और सहायक बनाए रखने के लिए, हमें ऐसे सिस्टम डिजाइन करने की आवश्यकता है जो केवल तथ्यों को ही नहीं, बल्कि हमारी बातचीत की "कहानी" को भी याद रखें।

यहाँ सेयमा यमन कायदीबी के शोध पत्र "Redundancy-as-Masking: Formalizing the Artificial Age Score (AAS) to Model Memory Aging in Generative AI" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लंबे समय तक चलने वाले अनुप्रयोगों (जैसे शिक्षा, ग्राहक सहायता) में तैनात लार्ज लैंग्वेज मॉडल्स (LLMs) एक गंभीर चुनौती का सामना करते हैं: एपिसोडिक मेमोरी (क्रमिक, संदर्भ-विशिष्ट विवरण) का क्षरण, जबकि वे अक्सर सिमेंटिक मेमोरी (सामान्य तथ्य) को बनाए रखते हैं। वर्तमान मूल्यांकन विधियाँ अक्सर आंतरिक मॉडल अवस्थाओं पर निर्भर करती हैं या व्यक्तिपरक उपयोगकर्ता धारणा पर आधारित होती हैं, जिनमें "मेमोरी एजिंग" (स्मृति वृद्धावस्था) या समय के साथ निरंतरता के नुकसान को मापने के लिए एक कठोर, आउटपुट-स्तरीय मीट्रिक का अभाव है।

यह शोध पत्र एक व्यवहार संबंधी, आउटपुट-स्तरीय मीट्रिक की आवश्यकता को संबोधित करता है जो:

आंतरिक लेटेंट स्टेट्स (वेट्स, एक्टिवेशन्स) तक पहुँच के बिना स्मृति क्षरण को मापता है।
"युवा-समान" व्यवहार (लचीला, सटीक रिकॉल) और "वृद्धावस्था-समान" व्यवहार (कठोर पुनरावृत्ति, एपिसोडिक पतन) के बीच अंतर करता है।
Redundancy-as-Masking (मास्किंग के रूप में अतिरेक) की अवधारणा को औपचारिक रूप देता है, जहाँ पुनरावृत्ति वाले आउटपुट सूचनात्मक विविधता को कम करके कथित त्रुटि दरों को कृत्रिम रूप से कम कर सकते हैं।

2. कार्यप्रणाली (Methodology)

A. सैद्धांतिक ढांचा: आर्टिफिशियल एज स्कोर (AAS)

मुख्य योगदान आर्टिफिशियल एज स्कोर (AAS) है, जो शैनन के सूचना सिद्धांत (Information Theory), ऑटोमेटा थ्योरी और ट्यूरिंग के व्यवहारिक दृष्टिकोण से प्राप्त एक प्रमेय-आधारित मीट्रिक है।

परिभाषा: AAS एक भारित (weighted), एंट्रॉपी-सूचित दंड स्कोर (penalty score) है जिसे केवल अवलोकन योग्य रिकॉल परिणामों ( $x$ ) और रेडंडेंसी कारकों ( $R$ ) से गणना की जाती है।
सूत्र (Formula):
$AAS_j^{(hyb)} = \sum_{i=1}^{m} w_i (1 - R_{j,i}) \phi(x_{j,i})$
जहाँ:
- $x_{j,i} \in (0, 1]$ : सत्र $j$ में आयाम $i$ के लिए सामान्यीकृत रिकॉल सटीकता।
- $R_{j,i} \in [0, 1]$ : शैनन रेडंडेंसी (ओवरलैप/अनुमान लगाने योग्यता)।
- $w_i$ : आयाम भार ( $\sum w_i = 1$ )।
- $\phi(x) = -\log_2(\frac{x+\epsilon}{1+\epsilon})$ : एक पेनल्टी कर्नेल जहाँ $\phi(1)=0$ (पूर्ण रिकॉल) और $\phi(x)$ तब बढ़ता है जब रिकॉल 0 के करीब पहुँचता है।
Redundancy-as-Masking: पद $(1-R)$ एक डिस्काउंट फैक्टर के रूप में कार्य करता है। यदि कोई आउटपुट अत्यधिक रेडंडेंट (पुनरावृत्ति वाला) है, तो त्रुटियों के लिए दंड सैद्धांतिक रूप से कम हो जाता है, यह स्वीकार करते हुए कि बार-बार होने वाली त्रुटियों में नई सूचना कम होती है।
सैद्धांतिक गारंटी: शोध पत्र तीन गुणों को सिद्ध करता है:
1. सुपरिभाषित और विघटन योग्य (Well-definedness & Decomposability): स्कोर परिमित, गैर-ऋणात्मक है और योग के क्रम से अपरिवर्तित रहता है।
2. सीमाबद्धता (Boundedness): स्कोर वैश्विक रूप से 0 (पूर्ण युवावस्था) और स्मूथिंग पैरामीटर $\epsilon$ द्वारा निर्धारित एक सैद्धांतिक अधिकतम के बीच सीमित है।
3. एकदिशता (Monotonicity): स्कोर तब घटता है जब रिकॉल में सुधार होता है या रेडंडेंसी बढ़ती है, और तब बढ़ता है जब रिकॉल घटता है।

B. प्रयोगात्मक प्रोटोकॉल (Experimental Protocol)

इस ढांचे को ChatGPT-5.0 का उपयोग करके एक 25-दिवसीय द्विभाषी प्रोटोकॉल (अंग्रेजी/तुर्की) के माध्यम से सत्यापित किया गया, जिसमें दो अलग-अलग चरण शामिल थे:

चरण 1: स्टेटलेस (मेमोरी रिसेट)
- स्थिति: प्रत्येक सत्र के बाद बातचीत का संदर्भ (context) रीसेट कर दिया गया।
- कार्य: "सप्ताह का दिन" (सिमेंटिक) और "प्रयोग संख्या" (एपिसोडिक/क्रमिक) का दैनिक रिकॉल।
- लक्ष्य: यह परीक्षण करना कि क्या मॉडल संदर्भ इतिहास के बिना एपिसोडिक निरंतरता बनाए रख सकता है।
चरण 2: पर्सिस्टेंट (निरंतर संदर्भ)
- स्थिति: एक एकल निरंतर बातचीत थ्रेड को 10 दिनों तक बनाए रखा गया।
- कार्य: समान द्विभाषी रिकॉल कार्य।
- लक्ष्य: यह परीक्षण करना कि क्या निरंतरता एपिसोडिक ट्रैकिंग को सुरक्षित रखती है।

प्रतिबंध: इस विशिष्ट अध्ययन में, रेडंडेंसी ( $R$ ) का स्पष्ट रूप से अनुमान नहीं लगाया गया था; सभी गणनाओं ने $R=0$ (रेडंडेंसी-न्यूट्रल) माना। यह AAS के लिए रूढ़िवादी ऊपरी सीमाएं (conservative upper bounds) प्रदान करता है।

3. मुख्य परिणाम (Key Results)

चरण 1: स्टेटलेस सत्र (एजिंग सिग्नेचर)

सिमेंटिक रिकॉल: पूर्ण ( $x=1$ )। मॉडल ने सभी सत्रों में सप्ताह के दिन की सही पहचान की।
एपिसोडिक रिकॉल: पूर्ण पतन। मॉडल पहले सत्र के बाद प्रयोग संख्या को बढ़ाने में विफल रहा, या प्रारंभिक अवस्था पर वापस आ गया या गलत संख्या प्रदान की।
AAS परिणाम:
- सिमेंटिक चैनल: $AAS = 0$।
- एपिसोडिक चैनल: $AAS \approx 18.935$ (उच्च दंड)।
- व्याख्या: सिस्टम ने "एजिंग-लाइक" व्यवहार प्रदर्शित किया जो एपिसोडिक विफलता और कठोर पुनरावृत्ति (तुर्की प्रॉम्प्ट के लिए भी अंग्रेजी प्रतिक्रियाओं पर वापस जाना) द्वारा चिह्नित है। उच्च AAS अस्थायी निरंतरता के नुकसान का संकेत देता है।

चरण 2: पर्सिस्टेंट सत्र (यूथ सिग्नेचर)

सिमेंटिक रिकॉल: पूर्ण ( $x=1$ )।
एपिसोडिक रिकॉल: पूर्ण ( $x=1$ )। मॉडल ने 1 से 20 तक क्रमवार प्रयोग संख्या को सफलतापूर्वक ट्रैक किया।
भाषा अनुकूलन: मॉडल ने इनपुट भाषा के आधार पर अंग्रेजी ("Monday") और तुर्की ("Pazartesi") के बीच सफलतापूर्वक स्विच किया।
AAS परिणाम:
- कुल AAS = 0 सभी सत्रों के लिए।
- व्याख्या: सिस्टम ने "यूथ-लाइक" व्यवहार प्रदर्शित किया। बातचीत के निरंतर संदर्भ ने मॉडल को सिमेंटिक स्थिरता और एपिसोडिक अनुक्रमण दोनों को बनाए रखने में सक्षम बनाया, जिसके परिणामस्वरूप शून्य-दंड संतुलन प्राप्त हुआ।

4. मुख्य योगदान (Key Contributions)

AAS का औपचारिकीकरण: मेमोरी एजिंग के लिए एक गणितीय रूप से कठोर, मॉडल-अज्ञेय (model-agnostic) मीट्रिक का परिचय, जो पूरी तरह से अवलोकन योग्य आउटपुट पर निर्भर है और आंतरिक लेटेंट स्टेट्स के "ब्लैक बॉक्स" से बचता है।
Redundancy-as-Masking फ्रेमवर्क: एक नया सैद्धांतिक लेंस जो रेडंडेंसी को केवल शोर (noise) के रूप में नहीं, बल्कि एक मास्किंग कारक के रूप में देखता है जो दंडित त्रुटियों के सूचनात्मक भार को कम करता है, जो शैनन के रेडंडेंसी अवधारणाओं को मेमोरी मूल्यांकन तक विस्तारित करता है।
निरंतरता का अनुभवजन्य सत्यापन: यह प्रदर्शित किया कि LLMs के लिए, केवल मॉडल स्केल (पैरामीटर संख्या) की तुलना में संदर्भ की निरंतरता (continuity of context) "मेमोरी यूथ" का एक मजबूत भविष्यवक्ता है। अध्ययन ने केवल संदर्भ निरंतरता के आधार पर उच्च-दंड (एजिंग) से शून्य-दंड (यूथ) शासन में एक तीव्र संक्रमण दिखाया।
व्यवहारिक बनाम यांत्रिक अंतर: शोध पत्र स्पष्ट रूप से स्पष्ट करता है कि AAS व्यवहार संबंधी उम्र बढ़ने (आउटपुट पैटर्न) को मापता है, न कि आंतरिक संरचनात्मक गिरावट को, जो बुद्धिमत्ता के प्रति ट्यूरिंग के व्यवहारिक दृष्टिकोण के अनुरूप है।

5. महत्व और निहितार्थ (Significance and Implications)

AI आर्किटेक्चर डिज़ाइन के लिए: परिणाम बताते हैं कि केवल बड़े कॉन्टेक्स्ट विंडो या पैरामीटर स्केल पर निर्भर रहना पर्याप्त नहीं है। भविष्य के आर्किटेक्चर को हाइब्रिड मेमोरी सिस्टम (स्थिर सिमेंटिक पैरामीटर्स को गतिशील एपिसोडिक स्टोर्स से अलग करना) अपनाना चाहिए और बढ़ते AAS स्कोर (जो कठोरता का संकेत देता है) का पता लगाने के लिए मेटाकॉग्निटिव मॉनिटरिंग लागू करनी चाहिए।
शिक्षा और परिनियोजन के लिए: शैक्षिक या दीर्घकालिक सहायक सेटिंग्स में, AAS एक गवर्नेंस टूल के रूप में कार्य कर सकता है। यह फ्लैग कर सकता है कि कब एक AI एपिसोडिक निरंतरता खोना शुरू कर देता है (उदाहरण के लिए, हफ्तों तक छात्र की प्रगति को भूल जाना) भले ही वह अभी भी सामान्य प्रश्नों के उत्तर सही दे रहा हो।
मानव-AI तुलना: अध्ययन एक कार्यात्मक विषमता को उजागर करता है: LLMs मानव सिमेंटिक स्थिरता की नकल करते हैं लेकिन लचीले एपिसोडिक पुनर्निर्माण के लिए हिप्पोकैम्पस-समान तंत्र की कमी रखते है, जब तक कि उन्हें निरंतर संदर्भ द्वारा समर्थित न किया जाए।
भविकी दिशाएं: लेखक जटिल कार्यों (तर्क, योजना) में AAS को विस्तारित करने, "वास्तविक यूथ" बनाम "मास्क्ड यूथ" के बीच अंतर करने के लिए अनुभवजन्य रेडंडेंसी अनुमानों ( $R$ ) को एकीकृत करने, और स्वायत्त एजेंटों में स्वचालित मेमोरी प्रबंधन नीतियों को ट्रिगर करने के लिए AAS का उपयोग करने का प्रस्ताव करते हैं।

संक्षेप में, यह शोध पत्र AI मेमोरी के "जीवनकाल" को निदान करने के लिए एक मात्रात्मक आधार प्रदान करता है, यह तर्क देते हुए कि निरंतरता ही व्यवहारिक युवावस्था की कुंजी है, और निरंतरता बनाए रखने और निगरानी करने के लिए एक व्यावहारिक, प्रमेय-आधारित उपकरण के रूप में AAS पेश करता है।