When More Becomes Less: Position-Dependent Repetition Effects in Language Models
यह शोध पत्र यह प्रदर्शित करता है कि भाषा मॉडल के भविष्यवाणियों पर टोकन पुनरावृत्ति का प्रभाव स्थिति-निर्भर है, जो यह प्रकट करता है कि जहाँ आसन्न पुनरावृत्ति लगातार लक्ष्य प्रायिकता को बढ़ाती है, वहीं विस्थापित पुनरावृत्ति एक उल्टा-यू (inverted-U) प्रभाव उत्पन्न करती है जहाँ पुनरावृत्ति बढ़ने के साथ प्रायिकता पहले शिखर पर पहुँचती है और फिर घटती है, जो इस धारणा को चुनौती देता है कि पुनरावृत्ति के प्रभाव रीडआउट स्थिति के बावजूद समान होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
AI दिमागों में दोहराव का गुप्त जीवन
कल्पना कीजिए कि आप एक रोबोट को कहानी सुनाना सिखाने की कोशिश कर रहे हैं। आप उसे एक प्रॉम्प्ट देते हैं, जैसे कि एक वाक्य की शुरुआत, और उससे अगला शब्द पहचानने के लिए कहते हैं। आधुनिक आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम, जिन्हें लार्ज लैंग्वेज मॉडल्स (LLMs) कहा जाता है, इसी तरह काम करते हैं। वे सुपर-पावर्ड ऑटो-कम्प्लीट इंजनों की तरह हैं जिन्होंने इंटरनेट पर लगभग सब कुछ पढ़ लिया है। यह पता लगाने के लिए कि क्या वे वास्तव में कुछ "जानते" हैं, वैज्ञानिक अक्सर "क्लोज़ टेस्ट" (cloch test) नामक एक तरकीब का उपयोग करते हैं। यह एक खाली स्थान भरने वाली पहेली की तरह है: आप AI को एक वाक्य दिखाते हैं जिसमें एक शब्द गायब है, और देखते हैं कि क्या वह सही शब्द का अनुमान लगा सकता है।
वर्षों से, शोधकर्ता इन AI दिमागों द्वारा दोहराव को संभालने के तरीके के बारे में एक सरल नियम पर विश्वास करते आए हैं। उनका मानना था कि यदि आप प्रॉम्प्ट में एक शब्द को बार-बार दोहराते हैं, तो AI उस शब्द के बारे में अधिक आश्वस्त हो जाएगा, ठीक वैसे ही जैसे एक इंसान किसी अवधारणा को बार-बार सुनने से उसके प्रति अधिक सहज हो जाता है। इसे "प्राइमिंग" (priming) कहा जाता है। यदि आप "सेब, सेब, सेब" कहते हैं, तो AI को सोचना चाहिए, "ठीक है, यह निश्चित रूप से सेब के बारे में है!" और उच्च आत्मविश्वास के साथ "सेब" का अनुमान लगाना चाहिए। वैज्ञानिकों ने माना था कि यह आत्मविश्वास बढ़ता ही जाएगा, चाहे आप वाक्य में कहीं भी अनुमान लगाने के लिए कहें। लेकिन क्या होगा अगर वह धारणा गलत है? क्या होगा अगर AI का दिमाग इस बात पर निर्भर करता है कि आप उसे कहाँ देखने के लिए कहते हैं? यह हान-यू वांग का पेपर इस सवाल को उठाता है, जो एक अजीब विचित्रता की खोज करता है जहाँ "अधिक" दोहराव वास्तव में "कम" आत्मविश्वास की ओर ले जाता है, लेकिन केवल विशिष्ट स्थितियों में।
जब अधिक, कम बन जाता है: AI का विस्मृति वाला स्थान
इस अध्ययन में, शोधकर्ता ने यह परीक्षण करने के लिए एक चतुर प्रयोग किया कि AI मॉडल दोहराव के प्रति कैसे प्रतिक्रिया देते हैं। कल्पना कीजिए कि आपके पास एक जादुई शब्द है, मान लीजिए "बिल्ली" (cat)। आप इस शब्द को AI को दो अलग-अलग तरीकों से दिखा सकते हैं, लेकिन आप कहानी की शुरुआत बिल्कुल समान रखते हैं।
"बिल्कुल बगल वाला" परीक्षण (Adjacent Probe):
पहले, आप वाक्य के अंत तक "बिल्ली" शब्दों की एक लंबी सूची लिखते हैं: "बिल्ली, बिल्ली, बिल्ली, बिल्ली... [यहाँ अनुमान लगाएँ]"। आप AI से अगला शब्द बताने के लिए कहते हैं।
- क्या हुआ: जैसा कि पुराने नियम ने भविष्यवाणी की थी, AI अधिक और अधिक आश्वस्त होता गया। आपने जितने अधिक "बिल्ली" शब्द जोड़े, वह उतना ही अधिक सुनिश्चित हो गया कि अगला शब्द "बिल्ली" होगा। यह एक बढ़ते हुए ढोल की थाप की तरह था।
"नई शुरुआत" वाला परीक्षण (Displaced Probe):
फिर, शोधकर्ता ने कुछ चालाकी भरा किया। उन्होंने शुरुआत में "बिल्ली" शब्दों की वही लंबी सूची लिखी, लेकिन फिर उन्होंने एक पूर्ण विराम लगाया और एक नया वाक्य ढांचा जोड़ा। यह ऐसा दिखता था: "बिल्ली, बिल्ली, बिल्ली, बिल्ली... . आकाश नीला है। [यहाँ अनुमान लगाएँ]"।
- क्या हुआ: यहीं पर जादू का खेल विफल हो गया। बजाय इसके कि AI अधिक आश्वस्त होता, उसका आत्मविश्वास एक अजीब सा 'बैकफ्लिप' (उलटा पलटा) करने लगा। शुरू में, कुछ "बिल्ली" शब्द जोड़ने से मदद मिली। लेकिन जैसे ही सूची बहुत लंबी हो गई (लगभग 5 से 10 प्रतियों के बाद), AI का आत्मविश्वास घटने लगा। जब तक आपने 30 "बिल्ली" शब्द लिखे, AI "बिल्ली" का अनुमान लगाने में उतना ही कम सक्षम था जितना कि वह कुछ ही प्रतियों के साथ था।
शोधकर्ता इस आकार को "इनवर्टेड-यू" (inverted-U) कहते हैं। यह ऐसा है जैसे AI पहले थोड़ा उत्साहित होता है, लेकिन जब उसे उत्तर खोजने के लिए एक नए वाक्य पर जाना पड़ता है, तो वह दोहराव की अत्यधिक मात्रा से अभिभूत या भ्रमित हो जाता है।
बड़ी खोज: सब कुछ इस पर निर्भर है कि आप कहाँ देखते हैं
इस पेपर की सबसे महत्वपूर्ण खोज यह है कि प्रश्न की स्थिति बहुत मायने रखती है। शब्दों की वही दोहराई गई सूची AI को स्मार्ट बना सकती है यदि आप सूची के तुरंत बाद उससे पूछें, लेकिन यदि आप एक वाक्य बाद पूछते हैं, तो यह उसे कम बुद्धिमान बना सकती है।
अध्ययन ने इसे 13 अलग-अलग AI मॉडलों पर परखा, जिनमें छोटे से लेकर बहुत बड़े मॉडल शामिल थे। उन्होंने पाया कि यह "इनवर्टेड-यू" पैटर्न उन सभी में हुआ। यह किसी एक विशिष्ट कंप्यूटर मस्तिष्क की गलती नहीं थी। उन्होंने इसे चार अन्य भाषाओं—स्पेनिश, चीनी, जर्मन और फ्रेंच—में भी आजमाया, और वही अजीब पैटर्न दिखाई दिया। यह सुझाव देता है कि यह AI के अंग्रेजी बोलने की गलती नहीं है, बल्कि यह एक मौलिक विचित्रता है कि ये मॉडल दोहराई गई जानकारी को कैसे संसाधित करते हैं।
यह क्या नहीं है (और यह क्या है)
शोधकर्ता केवल पैटर्न खोजने तक ही नहीं रुके; उन्होंने यह पता लगाने के लिए जासूसी भी की कि यह क्यों हो रहा है। वे यह सुनिश्चित करना चाहते थे कि यह केवल इसलिए नहीं है क्योंकि वाक्य बहुत लंबा हो गया, या AI थक गया, या वह "बिल्ली" से संबंधित शब्दों (जैसे "बिल्ली का बच्चा" या "घुरघुराहट") के बारे में सोच रहा है।
- यह लंबाई के बारे में नहीं है: उन्होंने समान संख्या में शब्दों वाले वाक्यों का परीक्षण किया, लेकिन "बिल्ली" को दोहराने के बजाय उसमें यादृच्छिक, उबाऊ फिलर शब्दों का उपयोग किया। अजीब आत्मविश्वास की गिरावट नहीं हुई।
- यह संबंधित शब्दों के बारे में नहीं है: उन्होंने "बिल्ली" को उन शब्दों से बदलने की कोशिश की जिनका अर्थ समान है या जो उससे संबंधित हैं। फिर से, आत्मविश्वास में कोई गिरावट नहीं आई।
- यह सटीक दोहराव के बारे में है: गिरावट तभी हुई जब ठीक उसी शब्द को बार-बार दोहराया गया।
इसका अर्थ है कि AI केवल लंबे टेक्स्ट से "बोर" या "भ्रमित" नहीं हो रहा है। कुछ विशिष्ट होता है जब एक नए वाक्य के शुरू होने से पहले एक ही टोकन (शब्द का डिजिटल निर्माण खंड) को बहुत बार दोहराया जाता है।
AI के दिमाग के भीतर
यह समझने के लिए कि क्या हो रहा था, शोधकर्ता ने मॉडलों के "अटेंशन" (ध्यान) तंत्र के भीतर झाँका। आप अटेंशन को AI द्वारा वाक्य के विभिन्न हिस्सों पर डाली जाने वाली एक स्पॉटलाइट की तरह समझ सकते हैं।
- स्पॉटलाइट सिकुड़ जाती है: जैसे-जैसे "बिल्ली" शब्दों की सूची बढ़ती गई, AI ने प्रत्येक व्यक्तिगत "बिल्ली" शब्द को जितना ध्यान दिया, वह कम होता गया। यह समझ में आता है; यदि आपके पास एक निश्चित मात्रा में स्पॉटलाइट है और आपको 30 चीजों पर रोशनी डालनी है, तो प्रत्येक चीज को कम रोशनी मिलेगी।
- कुल बजट बढ़ता है (कुछ मॉडलों में): आश्चर्यजनक रूप से, जिन मॉडलों में आत्मविश्वास की सबसे बड़ी गिरावट देखी गई, उनमें AI ने "बिल्ली" के पूरे ब्लॉक को दिया गया कुल ध्यान वास्तव में सूची बढ़ने के साथ बढ़ गया। यह ऐसा था जैसे AI चिल्लाकर कह रहा हो "इन सभी बिल्लियों को देखो!", लेकिन किसी तरह, जब उसे नए वाक्य पर कूदना पड़ा, तो उस चिल्लाहट ने "बिल्ली" शब्द को याद रखना कठिन बना दिया।
आपको इसकी परवाह क्यों करनी चाहिए?
यह पेपर उन सभी के लिए एक चेतावनी लेबल है जो इन AI मॉडलों की बुद्धिमत्ता का परीक्षण करने की कोशिश कर रहे हैं। यदि आप एक वैज्ञानिक हैं जो यह देखने के लिए परीक्षण कर रहे हैं कि क्या कोई AI किसी तथ्य को जानता है, और आप एक ऐसा तरीका उपयोग करते हैं जो किसी शब्द को कई बार दोहराकर AI को "प्राइम" करता है, तो आप उम्मीद के विपरीत परिणाम प्राप्त कर सकते हैं। यदि आप AI से एक वाक्य बाद प्रश्न पूछते हैं, तो आप अनजाने में उसे सही उत्तर देने के लिए कम सक्षम बना सकते हैं।
अध्ययन दिखाता है कि हम प्रश्न की स्थिति को एक तटस्थ विवरण के रूप में नहीं मान सकते। आप प्रश्न कहाँ पूछते हैं, वह उत्तर को बदल देता है। यह एक याद दिलाता है कि ये AI दिमाग जटिल और कभी-कभी विरोधाभासी होते हैं: कभी-कभी, एक शब्द को बहुत अधिक बार सुनना आपको उसे याद रखने में मदद नहीं करता; यह आपको भुला भी सकता है, खासकर यदि आपको उत्तर देने से पहले थोड़ा इंतजार करना पड़े।
शोधकर्ता ने इसे 13 मॉडलों पर परखा और पाया कि यह प्रभाव सभी में मौजूद है। उन्होंने मॉडलों और भाषाओं के 42 अलग-अलग संयोजनों में इसकी जाँच की, और पैटर्न हर बार कायम रहा। हालांकि वे यह सटीक रूप से नहीं कह सकते कि AI का दिमाग इस तरह क्यों काम करता है (यह एक सहसंबंध है, पूर्ण तंत्र का स्पष्टीकरण नहीं), उन्होंने यह सिद्ध कर दिया है कि यह "अधिक, कम बन जाता है" वाला प्रभाव वास्तविक, सुसंगत और व्यापक है। यह समझने के लिए कि ये डिजिटल दिमाग वास्तव में कैसे सोचते हैं, यह एक छोटा लेकिन महत्वपूर्ण हिस्सा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।