Transformers Remember First, Forget Last: Dual-Process Interference in LLMs
39 लार्ज लैंग्वेज मॉडल्स का परीक्षण करने के लिए संज्ञानात्मक मनोविज्ञान प्रतिमानों (कॉग्निटिव साइकोलॉजी पैराडाइम्स) को अनुकूलित करते हुए, यह अध्ययन प्रकट करता है कि ट्रांसफॉर्मर्स सार्वभौमिक रूप से एक प्रमुख प्रोएक्टिव इंटरफेरेंस प्रभाव प्रदर्शित करते हैं जहाँ प्रारंभिक जानकारी हाल के डेटा पर हावी हो जाती है—एक ऐसा पैटर्न जो मानव स्मृति से भिन्न है और जो पुनर्प्राप्ति (रिट्रीवल) और सुदृढ़ीकरण (कंसोलिडेशन) के लिए अलग-अलग, क्षमता-निर्भर तंत्रों का सुझाव देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: "पुराना गार्ड" बनाम "नया बच्चा"
कल्पना कीजिए कि आप किसी मरीज के रक्तचाप (ब्लड प्रेशर) के बारे में तथ्यों की एक सूची याद रखने की कोशिश कर रहे हैं।
- तथ्य 1: 120 (सुबह)
- तथ्य 2: 135 (दोपहर)
- तथ्य 3: 128 (अपराह्न)
- तथ्य 4: 118 (शाम)
यदि कोई डॉक्टर पूछता है, "इस सुबह ब्लड प्रेशर क्या था?" (पुराने तथ्य के बारे में पूछना), तो वह एक रेट्रोएक्टिव (Retroactive) टेस्ट है।
यदि डॉक्टर पूछता है, "अभी ब्लड प्रेशर क्या है?" (नए तथ्य के बारे में पूछना), तो वह एक प्रोएक्टिव (Proactive) टेस्ट है।
मानव मस्तिष्क में, "नया बच्चा" आमतौर पर जीत जाता है। यदि आप कुछ नया सीखते हैं, तो यह अक्सर पुरानी चीजों को आपके दिमाग से बाहर धकेल देता है। इसे रेट्रोएक्टिव इंटरफेरेंस (Retroactive Interference) कहा जाता है।
लेकिन यहाँ एक चौंकाने वाली बात है: शोधकर्ताओं ने 39 अलग-अलग AI मॉडल (LLMs) का परीक्षण किया और पाया कि वे बिल्कुल उल्टा करते हैं।
- इंसान: नई चीजों के लिए जगह बनाने के लिए पुराने को भूल जाते हैं।
- AI: पुराने से चिपके रहते हैं और नए को भूल जाते हैं।
AI मॉडल एक जिद्दी लाइब्रेरियन की तरह व्यवहार करते हैं जो पहली किताब को हटाने से इनकार कर देता है जिसे उसने कभी शेल्फ पर रखा था, भले ही एक नई, अधिक महत्वपूर्ण किताब आ जाए। वे "पहली छाप" (First Impression) की इतनी रक्षा करते हैं कि वे पांच मिनट पहले क्या हुआ था, उसे याद नहीं रख पाते।
स्मृति संबंधी दो प्रकार की समस्याएँ
शोधकर्ताओं ने एक क्लासिक मनोविज्ञान परीक्षण (जैसे कि मेमोरी गेम) का उपयोग किया यह देखने के लिए कि AI विरोधाभासी जानकारी को कैसे संभालता है। उन्होंने पाया कि AI दो अलग-अलग तरीकों से विफल होता है, जो एक-दूसरे से पूरी तरह से असंबंधित हैं।
1. "खाली पन्ना" विफलता (रेट्रोएक्टिव इंटरफेरेंस)
- परिदृश्य: आप AI से पहले मान (सुबह के ब्लड प्रेशर) के बारे में पूछते हैं।
- समस्या: AI नए अपडेट्स (दोपहर, अपराह्न, शाम) को देखता है और भ्रमित हो जाता है। यह एक ऐसी किताब के पन्ने को पढ़ने की कोशिश करने जैसा है जहाँ किसी ने मूल पाठ के ऊपर मोटे मार्कर से कुछ लिख दिया हो।
- परिणाम: AI अक्सर बस कहता है, "मुझे नहीं पता," या एक रैंडम अनुमान लगा देता है। यह एक पैसिव विफलता (Passive failure) है। स्मृति बस गायब हो गई या दब गई है।
- अच्छी खबर: बड़े AI मॉडल (अधिक "मस्तिष्क शक्ति" वाले) इसमें बहुत बेहतर होते हैं। यदि आप AI को तथ्यों को स्टोर करने के लिए अधिक स्थान देते हैं, तो वह पुराने तथ्यों को नए स्क्रिबल्स (scribbles) से सुरक्षित रख सकता है।
2. "मशीन में भूत" विफलता (प्रोएक्टिव इंटरफेरेंस)
- परिदृश्य: आप AI से नवीनतम मान (शाम के ब्लड प्रेशर) के बारे में पूछते हैं।
- समस्या: AI नवीनतम मान को जानता है, लेकिन सुबह वाला मान उसके दिमाग में बार-बार आता रहता है और चिल्लाता है, "नहीं! यह 120 था!"
- परिणाम: AI आपको आत्मविश्वास के साथ पुराना उत्तर देता है (120) बजाय नए के (118)। यह एक एक्टिव विफलता (Active failure) है। पुरानी स्मृति इतनी मजबूत है कि वह नए को सक्रिय रूप से रोक रही है।
- बुरी खबर: AI को बड़ा बनाना मदद नहीं करता। यहाँ तक कि सबसे बड़े, सबसे शक्तिशाली AI मॉडल भी इससे जूझते रहते हैं। यह उनके "ध्यान देने" (attention) के तरीके में एक मौलिक डिजाइन दोष है।
ऐसा क्यों होता है? ("टॉर्च" का रूपक)
कल्पना कीजिए कि AI का अटेंशन मैकेनिज्म सूचनाओं के एक लंबे गलियारे पर चमकने वाली एक टॉर्च (Flashlight) है।
- इंसान कैसे काम करते हैं: टॉर्च गलियारे में सुचारू रूप से चलती है। जब आप अंत तक पहुँचते हैं, तो प्रकाश नवीनतम वस्तुओं पर सबसे तेज होता है। शुरुआत के पुराने आइटम अंधेरे में धुंधले पड़ जाते हैं।
- AI कैसे काम करता है: टॉर्च खराब है। यह गलियारे के पहले आइटम पर बहुत तेज रोशनी डालती है और कभी भी अपनी चमक कम नहीं करती। जैसे-जैसे नए आइटम आते हैं, रोशनी पहले वाले पर ही टिकी रहती है।
- क्योंकि पहली वस्तु पर रोशनी बहुत तेज है, AI सोचता है, "यह सबसे महत्वपूर्ण चीज़ होनी चाहिए!"
- जब आप नवीनतम वस्तु के बारे में पूछते हैं, तो AI अभी भी सबसे पुराने आइटम की चमक से अंधा होता है।
यही कारण है कि AI शुरुआत को याद रखने में बहुत अच्छा है (वह वहीं अटका हुआ है) लेकिन अंत को याद रखने में बहुत बुरा है (वह शुरुआत से नज़र नहीं हटा पाता)।
वास्तविक दुनिया के लिए मुख्य बातें
- आकार मायने रखता है (लेकिन केवल कुछ चीजों के लिए): यदि आपको एक ऐसे AI की आवश्यकता है जिसे लंबे इतिहास (जैसे कानूनी केस फाइल या मेडिकल हिस्ट्री) को याद रखना हो, तो बड़े मॉडल बेहतर होते हैं। उनके पास पुराने तथ्यों को सुरक्षित रखने के लिए अधिक "शेल्फ स्पेस" होता है।
- बड़ा होना सब कुछ ठीक नहीं करता: यदि आपको एक ऐसे AI की आवश्यकता है जो वास्तविक समय के अपडेट को ट्रैक कर सके (जैसे स्टॉक टिकर या लाइव चैट), तो बड़े मॉडल मदद नहीं करेंगे। वे अभी भी पहली सुनी हुई चीज़ पर अटक जाएंगे।
- "रीजनिंग" का जाल: सबसे स्मार्ट, सबसे अधिक "रीजनिंग" वाले AI मॉडल (जो स्टेप-बाय-स्टेप सोचते हैं) वास्तव में नवीनतम समाचारों को याद रखने में बदतर होते हैं। वे अतीत का विश्लेषण करने में इतने अच्छे हैं कि वे उसी में फंस जाते हैं।
- कोई मतिभ्रम (Hallucinations) नहीं: दिलचस्प बात यह है कि जब AI गलत होता है, तो वह शायद ही कभी मनगढ़ंत बातें बनाता है। वह आमतौर पर दी गई सूची में से बस एक गलत तथ्य चुन लेता है। यह एक मेमोरी मिक्स-अप है, झूठ नहीं।
निष्कर्ष
AI मॉडल मानव मस्तिष्क की तरह नहीं हैं। उनमें एक "प्राइमेसी बायस" (Primacy Bias) होता है—वे कहानी की शुरुआत को इतना पसंद करते हैं कि वे अंत को भूल जाते हैं।
यदि आप ऐसा ऐप बना रहे हैं जिसे समय के साथ होने वाले परिवर्तनों को ट्रैक करने की आवश्यकता है, तो आप केवल सबसे बड़े, सबसे स्मार्ट AI को खरीदकर उम्मीद नहीं कर सकते कि सब ठीक हो जाएगा। आपको अपना सिस्टम इस तरह डिजाइन करना होगा जो AI को नई चीजों को देखने में मदद करे, क्योंकि उसकी स्वाभाविक प्रवृत्ति पुरानी चीजों को घूरने की है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।