Shortcut Before Circuit: Document Statistics Time In-Context Conflict Resolution
यह शोध पत्र प्रदर्शित करता है कि जब प्रशिक्षण डेटा में नवीनता (recency) और दुर्लभता (rarity) के संकेत पूर्णतः सह-संबंधित होते हैं, तो न्यूरल नेटवर्क इन-कॉन्टेक्स्ट संघर्षों को हल करने के लिए अविभेद्य रणनीतियाँ सीखते हैं, जो यह प्रकट करता है कि यांत्रिक एट्रिब्यूशन (mechanistic attribution) मौलिक रूप से तब तक अनुपलब्ध रहता है जब तक कि एक विशिष्ट अतिरेक सीमा (redundancy threshold) पार नहीं हो जाती, जिस बिंदु पर मॉडल पोजीशनल शॉर्टकट्स से मुक्त हो जाता है और अंतर्निहित तंत्र पहचानने योग्य हो जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के अध्ययन में, शोधकर्ता इस बात में तेजी से रुचि ले रहे हैं कि मशीनें केवल उत्तरों को याद करके नहीं, बल्कि उस अंतर्निहित नियमों की खोज करके कैसे समस्याओं को हल करना सीखती हैं जो किसी कार्य को नियंत्रित करते हैं। एक ऐसे छात्र की कल्पना करें जो किसी विशिष्ट सूत्र को याद करने के बजाय संख्याओं में एक पैटर्न पहचानकर गणित की समस्याओं को हल करना सीखता है। लार्ज लैंग्वेज मॉडल्स की दुनिया में, इन पैटर्नों को अक्सर "क्यूज़" (cues) कहा जाता है। जब एक कंप्यूटर एक लंबा टेक्स्ट पढ़ता है, तो उसे यह तय करना होता है कि यदि टेक्स्ट में परस्पर विरोधी तथ्य मौजूद हों, तो उसे किस जानकारी पर भरोसा करना चाहिए। उदाहरण के लिए, यदि एक दस्तावेज़ पहले पैराग्राफ में कहता है कि एक पात्र लंबा है और अंतिम में कहता है कि वह छोटा है, तो मॉडल को यह चुनना होगा कि उसे नवीनतम कथन पर भरोसा करना चाहिए या शायद इस पर कि एक विशिष्ट विवरण कितनी बार दोहराया गया था। मानव लेखन की अव्यवस्थित, प्राकृतिक दुनिया में, ये संकेत आमतौर पर सहमत होते हैं; नवीनतम तथ्य अक्सर वही होता है जिसका उल्लेख सबसे अधिक बार किया जाता है। यह सहमति वैज्ञानिकों के लिए यह बताना लगभग असंभव बना देती है कि मशीन वास्तव में किस नियम का उपयोग कर रही है, क्योंकि मशीन दोनों ही स्थितियों में सही उत्तर प्राप्त कर लेती है।
एक टीम ने एक नियंत्रित वातावरण बनाकर इस पहेली को हल करने का प्रयास किया जहाँ खेल के नियम पूरी तरह से स्पष्ट थे, फिर भी इसे हल करने की दो अलग-अलग रणनीतियाँ गणितीय रूप से समान थीं। उन्होंने एक कृत्रिम भाषा बनाई जहाँ सबसे हालिया जानकारी हमेशा सबसे दुर्लभ जानकारी थी, और सबसे अधिक दोहराई गई जानकारी हमेशा सबसे पुरानी थी। इस सेटअप में, एक मॉडल खेल को खोजने के लिए नए तथ्य को देखकर, या उस तथ्य को खोजने के लिए जो केवल एक बार आया था, दोनों रणनीतियों से कार्य को हल कर सकता था और दोनों ही तरीके सही उत्तर की ओर ले जाते। क्योंकि प्रशिक्षण डेटा ने मॉडल को इन दो पथों में से किसी एक को चुनने के लिए कभी मजबूर नहीं किया, इसलिए शोधकर्ताओं ने यह देखना चाहा कि मशीन वास्तव में कौन सा पथ अपनाती है। उन्होंने इस भाषा पर एक बड़े आर्टिफिशियल न्यूरल नेटवर्क को प्रशिक्षित किया और फिर एक सूक्ष्म प्रयोग किया: उन्होंने एक पूर्ण दस्तावेज़ लिया और उसमें सूक्ष्म बदलाव किए, किसी विशिष्ट तथ्य के प्रकट होने की संख्या को बदले बिना जिससे पाठ का अर्थ या सही उत्तर नहीं बदला। इस सूक्ष्म परिवर्तन के जवाब में मॉडल के आत्मविश्वास में आए बदलाव को देखकर, वे देख सके कि क्या वह "नवीनतम" नियम का पालन कर रहा था या "दुर्लभतम" नियम का।
परिणामों ने यह खुलासा किया कि ये मशीनें कैसे सीखती हैं, इसके बारे में एक आश्चर्यजनक सत्य सामने आया। जब शोधकर्ताओं ने मॉडलों के अंतिम प्रदर्शन को देखा, तो उन्होंने पाया कि प्रत्येक मॉडल ने लगभग पूर्ण सटीकता के साथ कार्य में महारत हासिल कर ली थी। हालाँकि, जब उन्होंने मॉडलों के आंतरिक तर्क की जांच की, तो उन्होंने पाया कि प्रत्येक मॉडल द्वारा उपयोग किया जाने वाला विशिष्ट नियम डेटा द्वारा निर्धारित नहीं था। इसके बजाय, नियम का चयन प्रत्येक प्रशिक्षण रन के भीतर अनुकूलन प्रक्रिया (optimization process) के विशिष्ट प्रक्षेपवक्र (trajectory) द्वारा निर्धारित था। दर्जनों प्रशिक्षण रन के दौरान, कुछ मॉडलों ने नवीनतम जानकारी को प्राथमिकता देना सीखा, जबकि अन्य ने दुर्लभ जानकारी को प्राथमिकता देना सीखा। महत्वपूर्ण रूप से, शोधकर्ताओं ने पाया कि उनके द्वारा प्रदान किए गए डेटा में ऐसा कोई संकेत नहीं था जो मॉडल को एक नियम की ओर या दूसरे की ओर धकेल सके। ऑब्जेक्टिव फंक्शन (objective function), जो वह गणितीय लक्ष्य है जिसे मॉडल प्राप्त करने की कोशिश करता है, दोनों रणनीतियों के बीच पूरी तरह से उदासीन था। क्योंकि प्रशिक्षण डेटा ने दोनों नियमों को समान रूप से वैध माना, इसलिए मॉडल केवल इस आधार पर एक पर ठहर गया कि उसका विशिष्ट अनुकूलन पथ उस दिशा में कहाँ रुका जिसे ऑब्जेक्टिव ने बाधित नहीं किया था, न कि किसी नियम को यादृच्छिक रूप से चुनकर।
यह निष्कर्ष आर्टिफिशियल इंटेलिजेंस अनुसंधान की एक सामान्य धारणा को चुनौती देता है: कि हम मॉडल के व्यवहार को देखकर आत्मविश्वास से कह सकते हैं कि उसने एक विशिष्ट नियम सीखा है क्योंकि डेटा ने इसकी मांग की थी। अध्ययन से पता चलता है कि जब दो नियम एक ही परिणाम देते हैं, तो मॉडल के बीच का चुनाव डेटा की संरचना का प्रतिबिंब नहीं है, बल्कि उस विशिष्ट अनुकूलन प्रक्षेपवक्र का प्रतिबिंब है जो उस रन का हिस्सा है। शोधकर्ताओं ने यह प्रदर्शित किया कि यदि आप बिल्कुल उसी डेटा के साथ उसी मॉडल को एक अलग रैंडम सीड (random seed) के साथ फिर से प्रशिक्षित करते हैं, तो यह विपरीत नियम चुन सकता है, भले ही इसका अंतिम प्रदर्शन समान रहे। इसका अर्थ है कि कुछ प्रकार की समस्याओं के लिए, मॉडल के भीतर का "तंत्र"—वह विशिष्ट सर्किट जो कार्य को हल करने के लिए उपयोग किया जाता है—डेटा का एक निश्चित गुण नहीं है, बल्कि प्रशिक्षण प्रक्रिया का एक परिवर्तनशील परिणाम है।
अध्ययन ने मॉडलों के सीखने के एक विशिष्ट चरण को भी उजागर किया। सही नियम खोजने से पहले, वे अक्सर एक सरल शॉर्टकट पर निर्भर होते हैं। इस विशिष्ट कार्य में, मॉडलों ने शुरू में पाठ की सामग्री को पूरी तरह से अनदेखा करना और इसके बजाय वाक्य के अंत से स्थिति के आधार पर उत्तर का अनुमान लगाना सीखा। उन्होंने पाया कि सही उत्तर हमेशा वाक्य के अंत से एक विशिष्ट दूरी पर दिखाई देता है। यह पोजीशनल शॉर्टकट अत्यधिक प्रभावी था और इसने मॉडलों को जल्दी से एक मध्यम स्तर की सटीकता प्राप्त करने में मदद की। हालाँकि, इस शॉर्टकट की एक कठोर सीमा थी; यह केवल तभी काम कर सकता था जब उत्तर की दूरी सुसंगत हो। जैसे-जैसे मॉडलों ने प्रशिक्षण जारी रखा, उन्होंने अंततः इस शॉर्टकट को छोड़ दिया और वास्तव में पाठ को पढ़ना और समझना सीखा, यह संक्रमण कार्य की जटिलता के आधार पर अलग-अलग समय पर हुआ। शोधकर्ताओं ने पाया कि इस संक्रमण का समय अनुमानित और सुसंगत था, लेकिन संक्रमण के बाद मॉडल द्वारा अपनाया गया विशिष्ट नियम नहीं था।
अंततः, यह कार्य इस बात को समझने के लिए एक नया मानदंड प्रदान करता है कि हम वास्तव में कब जान सकते हैं कि मशीन ने क्या सीखा है। यह सुझाव देता है कि हम केवल तभी आत्मविश्वास से किसी विशिष्ट तर्क नियम को मॉडल के साथ जोड़ सकते हैं जब डेटा विकल्पों के बीच चुनाव करने के लिए मजबूर करता है। जब डेटा कई समान रूप से अच्छे समाधानों की अनुमति देता है, तो मॉडल का आंतरिक तर्क उस अनियंत्रित दिशा में उसके विशिष्ट प्रशिक्षण रन के रुकने के स्थान का मामला बन जाता है, न कि डेटा द्वारा निर्देशित किसी आवश्यकता का। इसका मतलब यह नहीं है कि मॉडल खराब हैं या उनके उत्तर गलत हैं; इसका अर्थ यह है कि उनके उत्तरों के पीछे का "क्यों" अक्सर उनके विशिष्ट प्रशिक्षण प्रक्षेपवक्र में छिपा होता है, न कि उन्हें दी गई सूचना की संरचना में। वैज्ञानिकों के लिए जो इन प्रणालियों की व्याख्या करने का प्रयास कर रहे हैं, यह एक अनुस्मारक के रूप में कार्य करता है कि एक मॉडल की सफलता उसके अद्वितीय या पूर्वानुमेय आंतरिक प्रक्रिया की गारंटी नहीं देती है। समाधान तक पहुँचने का रास्ता, जो मशीन द्वारा लिया जाता है, उतना ही महत्वपूर्ण है जितना कि स्वयं समाधान, और कभी-कभी, वह पथ उसके प्रशिक्षण की विशिष्ट गतिशीलता द्वारा निर्धारित होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।