Reality Monitoring in Large Language Models: Self-Knowledge That Transforms with Conversation Memory
यह शोध पत्र प्रदर्शित करता है कि बड़े भाषा मॉडलों की स्वयं-निर्मित सामग्री से उपयोगकर्ता इनपुट को अलग करने की क्षमता (रियलिटी मॉनिटरिंग) संवादात्मक स्मृति संरचना पर अत्यधिक निर्भर है, जो यह प्रकट करता है कि एपिसोडिक विलंब के तहत प्रदर्शन घट जाता है और मौजूदा बेंचमार्क सटीकता और आत्मविश्वास के बीच महत्वपूर्ण पृथक्करण को पकड़ने में विफल रहते हैं क्योंकि मॉडल स्वायत्त, बहु-चरण भूमिकाएँ निभाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, हलचल भरी लाइब्रेरी में घूम रहे हैं जहाँ किताबें आपसे बातें कर सकती हैं। कभी-कभी, एक किताब आपको एक तथ्य फुसफुसाती है; अन्य समय में, किताब अपने पन्नों पर खुद एक नई कहानी लिखना शुरू कर देती है। मानव मनोविज्ञान की दुनिया में, "रियलिटी मॉनिटरिंग" (वास्तविकता की निगरानी) नामक एक सुपरपावर है। यह वह मानसिक मांसपेशी है जो आपको यह जानने में मदद करती है कि, "रुको, क्या मैंने अभी वह बात किसी दोस्त से सुनी, या मैंने इसे अभी खुद कल्पना की?" यदि यह मांसपेशी कमजोर हो जाती है, तो लोग अपने ही दिवास्वप्नों को वास्तविक समाचार मानने लग सकते, या वे भूल सकते हैं कि एक डॉक्टर ने उन्हें कुछ महत्वपूर्ण बताया था। यह केवल तथ्यों को याद रखने के बारे में नहीं है; यह इस बारे में है कि आपके विचार कहाँ से आए।
अब, कल्पना कीजिए कि हम इस सुपरपावर टेस्ट को एक बहुत ही स्मार्ट कंप्यूटर प्रोग्राम, एक लार्ज लैंग्वेज मॉडल (LLM) को देते हैं। ये वे AI दिमाग हैं जो कहानियाँ लिखते हैं, समस्याओं को हल करते हैं, और हमसे चैट करते हैं। हम जानते हैं कि वे बात करने में बेहतर हो रहे हैं, लेकिन क्या वे यह अंतर कर सकते हैं कि उन्होंने जो बनाया वह उनका अपना है या जो आपने उन्हें बताया वह है? यदि एक AI अंतर नहीं कर पाता है, तो वह गलती से अपने ही बनाए हुए भ्रमों (hallucinations) को आपके द्वारा दिए गए तथ्य मान सकता है, या वह भ्रमित हो सकता है जब आप उसे सुधारने की कोशिश करते हैं। यह शोध एक सरल लेकिन महत्वपूर्ण प्रश्न पूछता है: क्या ये AI दिमाग अपने स्वयं के विचारों और दुनिया के आसपास की चीज़ों के बीच अंतर रख सकते हैं, विशेष रूप से तब जब उन्हें एक लंबी बातचीत को याद रखना हो?
महान "किसने क्या कहा?" परीक्षण
शोधकर्ताओं ने यह पता लगाने के लिए एक खेल रचा। उन्होंने छह अलग-अलग AI मॉडलों को शब्दों के जोड़े दिए। कभी-कभी, AI को एक पूरा जोड़ा दिखाया जाता था (जैसे "बिल्ली" और "चूहा") और उसे बस दूसरा शब्द दोहराना होता था। यह ऐसा था जैसे AI ने बाहरी दुनिया से कुछ "सुना" हो। अन्य समय में, AI को केवल पहला शब्द ("बिल्ली") दिखाया जाता था और उसे दूसरा शब्द खुद सोचना होता था। यह AI का "कल्पना" करना था। इसके बाद, AI को एक जासूस की भूमिका निभानी थी: "क्या मैंने अभी यह शब्द सुना, या मैंने इसे खुद बनाया?"
वैज्ञानिक यह देखना चाहते थे कि क्या AI यह कर सकता है जब बातचीत छोटी और सरल हो, और क्या वह इसे तब भी कर सकता है जब बातचीत लंबी और उलझी हुई हो, जैसे कि एक दोस्त के साथ घंटों चलने वाली वास्तविक चैट।
आश्चर्य: यह सब एक मेमोरी ट्रिक है
यहाँ चीजें बहुत दिलचस्प हो जाती हैं। जब AI का परीक्षण एक त्वरित, वन-शॉट बातचीत (जैसे एक टेक्स्ट मैसेज) में किया गया, तो वह यह जानने में जीनियस था कि उसने क्या बनाया। उसने अपने "कल्पed" (कल्पना किए गए) शब्दों को 100% सही पहचाना! यह एक बच्चे की तरह था जिसने अभी-अभी एक चित्र बनाया और तुरंत जानता था, "यह मैंने बनाया है!"
लेकिन जैसे ही शोधकर्ताओं ने AI को बातचीत के पहले हिस्से से शब्दों की एक लंबी सूची याद रखने के लिए मजबूर किया (एक "विलंबित" परीक्षण), वह जादू गायब हो गया। अचानक, AI भ्रमित हो गया। वह वही करने लगा जो उसने पहले किया था: वह यह याद रखने में बेहतर हो गया जो आपने उसे बताया था, लेकिन वह यह याद रखने में बुरा हो गया जो उसने खुद बनाया था। यह ऐसा था जैसे AI भूल गया कि वह कलाकार था और अब वह केवल एक दर्पण बन गया है जो सब कुछ प्रतिबिंबित कर रहा है।
शोधकर्ताओं ने पाया कि यह केवल AI के "बड़े" मस्तिष्क के बारे में नहीं था। 70 बिलियन पैरामीटर्स वाला एक विशाल AI छोटे AI से बेहतर प्रदर्शन करने के लिए आवश्यक नहीं था। इसके बजाय, यह इस पर निर्भर करता था कि AI की आंतरिक "विशेषज्ञ" टीमें कैसे संगठित थीं। यह एक बड़ी लाइब्रेरी होने के बारे में नहीं है; यह इस बारे में है कि लाइब्रेरियन कैसे व्यवस्थित हैं।
फीडबैक का जाल: जब सुधार स्थिति को और बिगाड़ देता है
वैज्ञानिकों ने एक नया तरीका भी आजमाया: उन्होंने हर अनुमान के बाद AI को बताया कि वह सही था या गलत। आप सोचेंगे कि इससे मदद मिलेगी, है ना? जैसे एक शिक्षक छात्र को सुधारता है।
आश्चर्यजनक रूप से, कुछ AI के लिए, इस फीडबैक ने चीजों को और खराब कर दिया। इसने केवल उनकी गलतियों को ठीक नहीं किया; इसने उनके आत्मविश्वास को अस्त-व्यस्त कर दिया। कुछ मॉडल सही उत्तर देने लगे लेकिन यह जानने की क्षमता खो बैठे कि वे सही थे। वे ऐसे व्यक्ति की तरह बन गए जो पूरी तरह से गलत होने पर भी 100% आश्वस्त है कि वह सही है। वास्तव में, एक विशिष्ट मॉडल के लिए, फीडबैक ने वास्तव में उसके दिमाग को उल्टा कर दिया, जिससे वह आत्मविश्वास के साथ सच के विपरीत बात कहने लगा।
अध्ययन सुझाव देता है कि जैसे-जैसे हम इन AI का उपयोग गंभीर, दीर्घकालिक कार्यों के लिए करना शुरू करेंगे—जैसे डॉक्टरों या वकीलों की मदद करना—हमें केवल यह नहीं पूछना चाहिए, "क्या आप उत्तर जानते हैं?" हमें यह भी पूछना होगा, "क्या आप जानते हैं कि आपको वह उत्तर कहाँ से मिला?" क्योंकि यदि एक AI अपने स्वयं के भ्रमों और आपके वास्तविक तथ्यों के बीच अंतर नहीं कर सकता है, तो वह आत्मविश्वास के साथ हमें गलत रास्ते पर ले जा सकता है। शोध का सुझाव है कि केवल AI को बड़ा बनाना समाधान नहीं है; हमें यह समझने की आवश्यकता है कि उन्हें अपने विचारों की एक स्पष्ट डायरी रखने में कैसे मदद की जाए, विशेष रूप से जब बातचीत लंबी और जटिल हो जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।