Language models suffer from a curse of ambiguity
यह शोध पत्र लार्ज लैंग्वेज मॉडल्स में एक "अस्पष्टता के अभिशाप" (curse of ambiguity) की पहचान और सैद्धांतिक विश्लेषण करता है, जो यह प्रदर्शित करता है कि अस्पष्ट नेक्स्ट-टोकन वितरण (next-token distributions) बढ़ी हुई क्षमता आवश्यकताओं, एम्बेडिंग आकार, प्रशिक्षण चरणों और प्रवर्धित सैंपलिंग शोर के कारण स्वाभाविक रूप से सटीक रूप से सीखने में अधिक कठिन होते हैं, एक ऐसा निष्कर्ष जिसे सिंथेटिक और वास्तविक दुनिया के दोनों प्रयोगों के माध्यम से मान्य किया गया है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक कंप्यूटर जो लिखते और बोलते हैं, वे एक सरल, शक्तिशाली विचार पर आधारित हैं: वे एक वाक्य में आने वाले शब्दों को देखकर अगले शब्द की भविष्यवाणी करते हैं। यह प्रक्रिया एक बार में एक शब्द के माध्यम से होती है, जैसे कोई व्यक्ति कहानी के बारे में सोचते हुए, पहले कही गई बातों के आधार पर अगले सबसे संभावित कदम को चुनता है। वर्षों से, इंजीनियर इन मशीनों को सबसे स्पष्ट उत्तर खोजने में बेहतर बनाने पर ध्यान केंद्रित कर रहे हैं। लेकिन जैसे-जैसे ये प्रणालियाँ अधिक उन्नत होती जा रही हैं, उनसे ऐसी स्थितियों को संभालने की भी अधिक अपेक्षा की जा रही है जहाँ कोई एक स्पष्ट उत्तर नहीं होता। जब एक वाक्य कई अलग-अलग, समान रूप से तर्कसंगत तरीकों से समाप्त हो सकता है, तो मशीन को केवल शीर्ष विकल्प चुनने के बजाय उन सभी संभावनाओं में अपना आत्मविश्वास फैलाना सीखना होगा। अनिश्चितता को समझने की यह क्षमता महत्वपूर्ण होती जा रही है, विशेष रूप से जैसे-जैसे ये मशीनें अपने भविष्य के संस्करणों के लिए प्रशिक्षण डेटा लिखने लगती हैं। यदि वे संभावनाओं की पूरी सीमा को पकड़ने में विफल रहती हैं, तो वे एक संकीर्ण, दोहराव वाले चक्र को बनाने का जोखिम उठाती हैं जो उनके अपने सीखने की गुणवत्ता को कम कर देता है।
स्टैनफोर्ड यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने एक मौलिक बाधा की खोज की है जो इस कार्य को आश्चर्यजनक रूप से कठिन बनाती है। उन्होंने पाया कि स्थिति जितनी अधिक संदिग्ध (ambiguous) होगी—अर्थात जितने अधिक संभावित अगले शब्द होंगे—मशीन के लिए संभावनाओं के सही वितरण को सीखना उतना ही कठिन होगा। वे इसे "अनिश्चितता का अभिशाप" (curse of ambiguity) कहते हैं। यह केवल मशीन के थोड़ा धीमा होने या अधिक डेटा की आवश्यकता होने का मामला नहीं है; यह कठिनाई उन न्यूरल नेटवर्क की संरचना में ही समाहित है जो इन मॉडलों को संचालित करते हैं। शोधकर्ताओं ने दिखाया कि जैसे-जैसे सही उत्तरों की संख्या बढ़ती है, मशीन को काफी अधिक आंतरिक भंडारण स्थान, शब्दों के बड़े आंतरिक प्रतिनिधित्व और गणित को सही करने के लिए प्रशिक्षण के बहुत अधिक चरणों की आवश्यकता होती है। भले ही मशीन अंततः सीख ले, कई संभावनाओं में से एक शब्द चुनने की प्रक्रिया एक प्रकार का शोर (noise) पेश करती है जो इसे भाषा के वास्तविक वितरण से कभी भी पूरी तरह मेल खाने से रोकता है।
यह समझने के लिए कि ऐसा क्यों होता है, टीम ने समस्या को उसके सबसे छोटे हिस्सों में विभाजित किया। उन्होंने मशीन की अंतिम निर्णय लेने वाली परत को एक सरल क्लासिफायर (classifier) के रूप में माना जो एक संदर्भ को संभावित परिणामों के एक सेट पर मैप करता है। अपने प्रयोगों में, उन्होंने कृत्रिम कार्य (synthetic tasks) बनाए जहाँ उन्हें सटीक 'ग्राउंड ट्रुथ' पता था: एक दिए गए वाक्यांश के बाद समान रूप से संभावित शब्दों की एक विशिष्ट संख्या थी। उन्होंने पाया कि दस संभावित परिणामों वाले पैटर्न को स्टोर करने के लिए एक ही परिणाम वाले पैटर्न की तुलना में लगभग दस गुना अधिक क्षमता की आवश्यकता होती है। यह ऐसा है जैसे मशीन को हर उस विकल्प के लिए एक अलग, विशिष्ट मार्ग बनाना पड़ता है जिसे उसे याद रखना है। इसके अलावा, उन्होंने पाया कि मशीन जिस आंतरिक "शब्दावली" का उपयोग इन संदर्भों को रखने के लिए करती है, उसे अस्पष्टता को समायोजित करने के लिए आकार में बढ़ना चाहिए। यदि मशीन कई वैध अंत वाले किसी स्थिति को बहुत छोटे प्रतिनिधित्व का उपयोग करके दर्शाने की कोशिश करती है, तो वह विकल्पों के बीच अंतर करने में सरलतः असमर्थ रहती है, चाहे वह कितना भी प्रशिक्षण क्यों न ले ले।
कठिनाई केवल भंडारण तक ही सीमित नहीं है। शोधकर्ताओं ने यह भी विश्लेषण किया कि मशीन समय के साथ कैसे सीखती है। उन्होंने पाया कि जब किसी स्थिति के कई संभावित परिणाम होते हैं, तो सीखने की प्रक्रिया बहुत धीमी गति से शुरू होती है। क्योंकि कई सही शब्दों के बीच मशीन प्रत्येक विशिष्ट सही शब्द को कम बार देखती है, इसलिए उसे अपनी आंतरिक सेटिंग्स को समायोजित करने के लिए मिलने वाला संकेत कमजोर होता है। इसका अर्थ है कि प्रगति शुरू करने में अधिक समय लगता है। इससे भी बदतर यह है कि वास्तविक डेटा पर प्रशिक्षण लेने की क्रिया, जहाँ मशीन एक समय में केवल एक यादृच्छिक (random) सही अगले शब्द को देखती है, एक निरंतर त्रुटि पेश करती है। जब लक्ष्य एक एकल, निश्चित शब्द होता है, तो मशीन इसे अंततः पूरी तरह सीख सकती है। लेकिन जब लक्ष्य कई शब्दों का प्रसार होता है, तो प्रत्येक चरण में केवल एक उदाहरण देखने की यादृच्छिकता एक त्रुटि की सीमा (floor of error) पैदा करती है जिसे मशीन पार नहीं कर पाती। चाहे वह कितना भी लंबा प्रशिक्षण क्यों न ले, वह हमेशा थोड़ा गलत रहेगा, संभावनाओं के वास्तविक प्रसार को पूरी तरह से दोहराने में असमर्थ रहेगा।
टीम ने इन निष्कर्षों की पुष्टि न केवल अपने नियंत्रित, कृत्रिम परीक्षणों में की, बल्कि वास्तविक दुनिया के टेक्स्ट पर प्रशिक्षित बड़े भाषा मॉडलों (large language models) में भी की। वास्तविक डेटा पर इन मॉडलों के प्रदर्शन का विश्लेषण करके, उन्होंने वही लक्षण देखे: जैसे-जैसे संदर्भ की अस्पष्टता बढ़ी, मॉडल की भविष्यवाणियां कम सटीक होती गईं, और वे उन शब्दों की ओर संभावना का रिसाव (leak probability mass) करने लगे जो वहां नहीं होने चाहिए थे। यह सुझाव देता है कि अस्पष्टता का अभिशाप इन प्रणालियों का एक सार्वभौमिक गुण है, जो छोटे प्रयोगात्मक मॉडलों से लेकर आज उपयोग किए जाने वाले विशाल, ट्रिलियन-पैरामीटर सिस्टम तक सब कुछ प्रभावित करता है। शोधकर्ता तर्क देते हैं कि यह कोई बग नहीं है जिसे एक साधारण सॉफ्टवेयर अपडेट से ठीक किया जा सके, बल्कि यह उन तरीकों का एक मौलिक प्रतिबंध है जिनसे ये नेटवर्क अनिश्चितता को दर्शाते हैं।
यह खोज हमें आर्टिफिशियल इंटेलिजेंस की क्षमताओं के बारे में सोचने का तरीका बदल देती है। यह सुझाव देती है कि जबकि इन मॉडलों के आकार को बढ़ाना मदद करता है, यह अस्पष्टता की मूल समस्या को हल नहीं करता है। यहाँ तक कि सबसे बड़े मॉडल भी हमेशा कई संभावित परिणामों वाली स्थितियों को पूरी तरह से मॉडल करने के लिए संघर्ष करेंगे, जिससे सत्य का एक अवशेष हिस्सा अनलर्न (unlearned) रह जाएगा। इसके गंभीर व्यावहारिक निहितार्थ हैं कि हम इन प्रणालियों पर कितना भरोसा करते हैं। उन क्षेत्रों में जहाँ सटीकता महत्वपूर्ण है, जैसे चिकित्सा निदान या कानूनी तर्क, हमें यह जानना चाहिए कि मॉडल का आत्मविश्वास वितरण स्वाभाविक रूप से शोर युक्त हो सकता है जब उत्तर स्पष्ट न हो। यह कार्य यह समझने के लिए एक नया ढांचा प्रदान करता है कि मशीन के आउटपुट पर कब भरोसा किया जाए और कब उसकी अनिश्चितता डेटा की कमी के बजाय एक गहरे संरचनात्मक सीमा का संकेत है। अंततः, यह शोध पत्र प्रकट करता है कि वही चीज़ जो मानव भाषा को समृद्ध और लचीला बनाती है—कई अलग-अलग चीजें कई अलग-अलग तरीकों से कहने की क्षमता—वही चीज़ है जो इसे मशीन के लिए सीखने में सबसे कठिन बनाती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।