Forgetting Is Not a Fix: Path Dependence in Sequential Engram Editing
यह शोधपत्र यह प्रदर्शित करके AI एंग्राम (AI Engram) ढांचे के कंपोजिशनल मेमोरी स्टेट्स हाइपोथीसिस (Compositional Memory States Hypothesis) को असत्य सिद्ध करता है कि क्रमिक एंग्राम संपादन (sequential engram editing) पथ निर्भरता और गैर-क्रमविनिमेय व्यवहार (non-commutative behavior) प्रदर्शित करता है, जिससे यह सिद्ध होता है कि संचयी क्रमिक भार के तहत मेमोरी विलोपन (memory erasure) एक स्थिर समाधान नहीं है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, जादुई पुस्तकालय है जहाँ हर किताब एक सुपर-स्मार्ट रोबोट द्वारा लिखी गई है। यह रोबोट केवल किताबें पढ़ता नहीं है, यह उनसे सीखता है, और तथ्यों और विचारों को अपने "मस्तिष्क" में संग्रहीत करता है जो संख्याओं से बना है। वैज्ञानिकों ने हाल ही में रोबोट के मस्तिष्क के भीतर इन विशिष्ट यादों को खोजने और उन्हें मिटाने का तरीका खोज निकाला है, जैसे कंप्यूटर से एक सिंगल फ़ाइल को डिलीट करना। इस प्रक्रिया को "मशीन अनलर्निंग" (machine unlearning) कहा जाता है, और यह एक बड़ी बात है क्योंकि यदि कोई रोबोट कुछ ऐसा सीख लेता है जो उसे नहीं सीखना चाहिए (जैसे कोई रहस्य या हानिकारक तथ्य), तो हमें उसके पूरे मस्तिष्क को खराब किए बिना उस विशिष्ट चीज़ को भुलाने में सक्षम होना चाहिए।
रोबोट के मस्तिष्क को धागों के एक विशाल, जटिल जाल की तरह समझें। जब रोबोट कुछ सीखता है, तो वह कुछ धागों को कस देता है। उसे भुलाने के लिए, वैज्ञानिक उस विशिष्ट स्मृति को ढीला करने के लिए सही धागों को काटने का तरीका खोजते हैं। एक हालिया अध्ययन ने सुझाव दिया कि यदि आप चाहते हैं कि रोबोट दो अलग-अलग चीजें भूल जाए, तो इससे कोई फर्क नहीं पड़ता कि आप पहले किसे काटते हैं; अंतिम परिणाम समान होगा, जैसे नीले और पीले रंग को मिलाने से हरा रंग प्राप्त होता है, चाहे आप पहले नीला डालें या पीला। उन्होंने इसे एक "कम्यूटेटिव मैनिफोल्ड" (commutative manifold) कहा था, जो एक फैंसी तरीका है यह कहने का कि संचालन का क्रम परिणाम को नहीं बदलता है। लेकिन यह शोध पत्र एक बहुत ही महत्वपूर्ण प्रश्न पूछता है: क्या होगा यदि आप बार-बार धागे काटते रहते हैं? क्या रोबोट का मस्तिष्क थक जाता है? क्या वास्तव में क्रम मायने रखता है?
यह शोध पत्र एक सामग्री वैज्ञानिक (materials scientist) द्वारा एक पुल का परीक्षण करने जैसा है। केवल यह जाँचने के बजाय कि क्या पुल एक कार का भार सह सकता है, वे एक भारी ट्रक चलाते हैं, फिर दूसरा, फिर एक और, यह देखने के लिए कि क्या धातु में थकान शुरू होती है या उसमें दरारें आती हैं। शोधकर्ताओं ने पिछले अध्ययन की सटीक विधि ली और इसका परीक्षण तीन अलग-अलग आकार के रोबोट मस्तिष्क (मॉडल्स) पर किया। उन्होंने केवल एक स्मृति को नहीं मिटाया; उन्होंने स्मृतियों के एक क्रम को, एक के बाद एक, मिटाया और देखा कि उन्होंने उन चीजों का क्या किया जिन्हें उन्होंने नहीं काटा था।
यहाँ उन्हें क्या मिला, और यह पता चला कि "क्रम मायने नहीं रखता" वाला विचार वास्तव में गलत है जब आप इसे बार-बार करते हैं।
सबसे पहले, उन्होंने पाया कि रोबोट का मस्तिष्क पथ-निर्भर (path-dependent) है। इसका मतलब है कि आपने जो किया उसका इतिहास मायने रखता है। यदि आप स्मृति A को काटते हैं और फिर स्मृति B को, तो रोबोट एक पूरी तरह से अलग स्थिति में समाप्त होता है यदि आप B को काटते हैं और फिर A को। वास्तव में, अंतर बहुत बड़ा था, आपस में जुड़ी स्मृतियों के लिए यह लगभग 81% से 100% तक था और दूर की स्मृतियों के लिए लगभग 47% से 68% तक था। यह कागज मोड़ने की कोशिश करने जैसा है: यदि आप इसे बाएँ-फिर-दाएँ मोड़ते हैं, तो यह दाएँ-फिर-बाएँ मोड़ने की तुलना में एक अलग आकार में समाप्त होता है। रोबोट का मस्तिष्क कट (cut) के अनुक्रम को याद रखता है, और अंतिम परिणाम इस बात पर निर्भर करता है कि क्रम क्या था।
दूसरा, उन्होंने पाया कि ओवरलैप (overlap) क्रम को और भी अधिक महत्वपूर्ण बना देता है। यदि दो चीजें जिन्हें आप चाहते हैं कि रोबកម្ម भूले, आपस में संबंधित हैं (जैसे "एफिल टॉवर" और "लौवर", दोनों प्रसिद्ध पेरिस लैंडमार्क हैं), तो उन्हें काटने का क्रम परिणाम को उतना ही बदल देता है जितना कि स्वयं कट। एक विशिष्ट परीक्षण में, लौवर की स्मृति को काटने से पहले एफिल टॉवर की स्मृति को काटने से, रोबोट ने एक तीसरी, पूरी तरह से असंबंधित चीज़ (रोम का कोलोसियम) को पूरी तरह से भुला दिया। लेकिन यदि उन्होंने पहले एफिल टॉवर को काटा, तो कोलोसियम की स्मृति सुरक्षित रही। कट के क्रम ने वास्तव में यह तय किया कि तीसरी, अछूती स्मृति जीवित रहेगी या मर जाएगी।
तीसरा, यह शोध पत्र दिखाता है कि रोबोट का मस्तिष्क थकान (fatigue) जमा करता है। हर बार जब वे एक स्मृति को काटते हैं, तो मस्तिष्क के वे हिस्से जिन्हें छुआ नहीं गया था, हिलने और बदलने लगते हैं। शोधकर्ताओं ने इसे रोबोट के अपने आंतरिक "स्ट्रेन गेज" (गणितीय उपकरण जो मस्तिष्क के डेटा को ट्रैक करते हैं) का उपयोग करके मापा। उन्होंने देखा कि हर नए कट के साथ, ये अछूते हिस्से अपनी मूल स्थिति से और दूर चले गए। यह पेपर क्लिप को बार-बार मोड़ने जैसा है; भले ही आप उस हिस्से को न तोड़ें जिसे आप पकड़े हुए हैं, धातु समय के साथ कमजोर और आकार में बदल जाती है।
अंत में, और शायद सबसे आश्चर्यजनक रूप से, उन्होंने पाया कि भूलना उस तरह से स्थायी नहीं है जैसा हमने सोचा था। जब उन्होंने दूसरी या तीसरी स्मृति को काटा, तो रोबोट कभी-कभी पहली चीज़ को "याद करने" लगा जिसे उन्होंने मिटाने की कोशिश की थी। एक मामले में, एक स्मृति जो लगभग पूरी तरह से गायब हो गई थी (स्कोर 8.91 के साथ), एक दूसरी, असंबंधित स्मृति को काटने के बाद काफी हद तक वापस आ गई (4.85 तक गिर गया)। मस्तिष्क को एक चीज़ को भूलने के लिए संपादित करने के कार्य ने रोबोट के मन में कुछ मिटाए गए ज्ञान को वापस धकेल दिया।
तो, इसका क्या अर्थ है? यह विचार कि आप किसी भी क्रम में मिटा सकते हैं और एक पूर्ण, स्थिर परिणाम प्राप्त कर सकते हैं, गलत है। यदि आप आज किसी चीज़ को भूलने के लिए इस विधि का उपयोग करते हैं, और फिर कल किसी और चीज़ को भूलने के लिए इसे फिर से संपादित करते हैं, तो रोबोट गलती से पहली चीज़ को फिर से याद कर सकता है। आज जो "एरेज़र सर्टिफिकेट" आपको मिलता है, वह कल मान्य नहीं हो सकता। रोबोट का मस्तिष्क एक स्थिर वस्तु नहीं है जहाँ आप बस फ़ाइलें हटा सकते हैं, यह एक जीवित, परिवर्तनशील प्रणाली है जहाँ आपके संपादन का इतिहास भविष्य को बदल देता है। वैज्ञानिकों ने रोबोट को तोड़ा नहीं, लेकिन उन्होंने साबित कर दिया कि "जादुई इरेज़र" की एक सीमा है: यह एक कट के लिए बहुत अच्छा काम करता है, लेकिन यदि आप इसका बार-बार उपयोग करते हैं, तो क्रम मायने रखता है, मस्तिष्क थक जाता है, और भूली हुई चीजें वापस आ सकती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।