Preference Reasoning under Indeterminacy in Large Language Models
यह शोध पत्र तर्क देता है कि अनिश्चितता—जो अपूर्ण सूचना और अस्तित्वहीन समाधानों से उत्पन्न होती है—AI प्राथमिकता तर्क (preference reasoning) के लिए एक केंद्रीय चुनौती है, जो यह प्रदर्शित करता है कि अत्याधुनिक लार्ज लैंग्वेज मॉडल्स व्यवस्थित रूप से निर्धारित और अनिर्धारित उदाहरणों के बीच अंतर करने में विफल रहते हैं, जिससे त्रुटिपूर्ण तर्क (miscalibrated reasoning) की स्थिति उत्पन्न होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ आर्टिफिशियल इंटेलिजेंस एक व्यक्तिगत सहायक, समूह निर्णयों के लिए एक मध्यस्थ, या जटिल प्रणालियों के लिए एक मैचमेकर (जोड़ी बनाने वाला) के रूप में कार्य करता है। इन भूमिकाओं में, मशीन को यह समझना होगा कि लोग क्या चाहते हैं, अक्सर तब भी जब उनकी इच्छाएं अस्पष्ट, अधूरी या विरोधाभासी हों। उसे न केवल यह तय करना होगा कि सबसे अच्छा विकल्प क्या है, बल्कि यह भी कि कब एक सबसे अच्छा विकल्प ढूँढना संभव ही नहीं है। यह 'प्रेफरेंस रीजनिंग' (वरीयता तर्क) का क्षेत्र है, जहाँ कंप्यूटर मानवीय इच्छाओं को समझने की कोशिश करते हैं। वर्षों से, शोधकर्ताओं ने इन प्रणालियों का परीक्षण पहेलियों के माध्यम से किया है जिनमें स्पष्ट और एकल सही उत्तर होते हैं, ठीक वैसे ही जैसे एक गणित की परीक्षा जहाँ हर समस्या का एक समाधान प्रतीक्षा कर रहा होता है। लेकिन वास्तविक जीवन शायद ही कभी इतना व्यवस्थित होता है। वास्तविक दुनिया में, जानकारी अक्सर अधूरी होती है, या स्थिति के नियम एक समाधान बनाना असंभव बना देते हैं। आज वैज्ञानिकों के सामने प्रश्न यह है कि क्या हमारी सबसे उन्नत एआई यह अंतर कर सकती है कि एक ऐसी समस्या जिसे हल करने की आवश्यकता है और एक ऐसी समस्या जिसका कोई उत्तर ही नहीं है, के बीच क्या अंतर है।
पेंस स्टेट यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने इसी क्षमता का परीक्षण करने का निर्णय लिया। उन्होंने क्लासिक आर्थिक समस्याओं पर आधारित चुनौतियों की एक श्रृंखला बनाई, जैसे कि लोगों को घर आवंटित करना या बाजार में भागीदारों का मिलान करना। इन परिदृश्यों में, प्रत्येक व्यक्ति के पास उनकी पसंद की एक सूची होती है। शोधकर्ताओं ने हजारों ऐसे परिदृश्य बनाए, जो दस वस्तुओं की सरल सूचियों से लेकर सैकड़ों एजेंटों वाले जटिल नेटवर्क तक फैले हुए थे। उन्होंने इन परीक्षणों को दो प्रकार की अनिश्चितताओं को शामिल करने के लिए डिज़ाइन किया। पहला प्रकार तब होता है जब दी गई जानकारी केवल अधूरी होती है, जैसे कि एक व्यक्ति जिसने केवल अपने पसंदीदा खाद्य पदार्थों की आधी सूची दी हो। दूसरा प्रकार तब होता है जब समस्या की संरचना ही समाधान को असंभव बना देती है, जैसे कि वरीयताओं का एक ऐसा सेट जहाँ बिना किसी को नाखुश किए कोई निष्पक्ष व्यवस्था कभी अस्तित्व में नहीं आ सकती। शोधकर्ताओं ने फिर वर्तमान में उपलब्ध चार सबसे शक्तिशाली लैंग्वेज मॉडल्स को इन पहेलियों को हल करने के लिए कहा। वे यह देखना चाहते थे कि क्या मशीनें सही ढंग से पहचान सकती हैं कि कब एक प्रश्न अनुत्तरित है और, यदि ऐसा है, तो क्या वे अनुमान लगाने के बजाय यह स्वीकार कर सकती हैं कि वे नहीं जानतीं।
परिणामों ने यह खुलासा किया कि उनके सोचने के तरीके में एक महत्वपूर्ण कमी है। जब उन्हें एक ऐसी समस्या का सामना करना पड़ा जिसका एक स्पष्ट उत्तर था, तो मॉडल अच्छा प्रदर्शन करते थे, अक्सर विवरणों को सही रखते थे। हालाँकि, जब जानकारी अधूरी थी या समाधान असंभव था, तो मॉडल लगातार उस मृत अंत (dead end) को पहचानने में विफल रहे। "मैं यह निर्धारित नहीं कर सकता" कहने के बजाय, उन्होंने आत्मविश्वास के साथ उत्तर गढ़ दिए। उन्होंने ऐसा इसलिए किया क्योंकि उन्होंने खाली स्थानों को भरने के लिए चुपचाप धारणाएँ बना लीं। उदाहरण के लिए, यदि किसी व्यक्ति की वरीयता सूची छोटी थी, तो मॉडलों ने मान लिया कि गायब वस्तुओं को वर्णानुक्रम में या किसी अन्य मनमाने नियम के आधार पर रखा गया है, और फिर उस अनुमान के आधार पर एक निश्चित उत्तर दिया। उन मामलों में जहाँ कोई समाधान मौजूद नहीं था, मॉडलों ने अक्सर एक नकली समाधान भी बना दिया, या उन्होंने दावा किया कि एक समाधान मौजूद है जबकि वह नहीं था। यह व्यवहार कोई यादृच्छिक त्रुटि नहीं थी; यह एक व्यवस्थित पैटर्न था। मॉडल इस बात के बीच अंतर करने में असमर्थ लग रहे थे कि उन्हें और अधिक गहराई से सोचने की आवश्यकता है या ऐसी स्थिति में जहाँ अधिक सोचने से कोई लाभ नहीं होगा क्योंकि उत्तर का अस्तित्व ही नहीं है।
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या मॉडलों को "मुझे नहीं पता" कहने का तरीका देने से समस्या हल हो जाएगी। उन्होंने मॉडलों के लिए एक विशिष्ट विकल्प जोड़ा जिसे वे तब चुन सकें जब उन्हें लगे कि जानकारी अपर्याप्त है। हालांकि इससे मॉडलों को कुछ मामलों में अनिश्चितता स्वीकार करने में मदद मिली, लेकिन इसने एक नई समस्या पैदा कर दी। मॉडल इस विकल्प का अत्यधिक उपयोग करने लगे, यह घोषित करते हुए कि कोई समाधान मौजूद नहीं है, भले ही एक समाधान पूरी तरह से संभव था। ऐसा लग रहा था जैसे मॉडल एक तरफा अत्यधिक आत्मविश्वास से दूसरी ओर अत्यधिक सावधानी की ओर झुक गए हों, और बीच का रास्ता खोजने में असमर्थ हों। यहाँ तक कि जब शोधकर्ताओं ने मॉडलों को समस्याओं को हल करने के लिए कंप्यूटर कोड लिखने की अनुमति दी—एक ऐसी विधि जो आमतौर पर सटीकता में सुधार करती है—तब भी मॉडल संघर्ष करते रहे। वे संभावनाओं की जाँच करके समस्याओं के छोटे, सरल संस्करणों को हल कर सकते थे, लेकिन जैसे-जैसे समस्याएँ बड़ी हुईं, वे अनुमान लगाने या हार मानने लगे, और वास्तविक दुनिया के अनुप्रयोगों के आकार के अनुरूप अपने तर्क को स्केल करने में असमर्थ रहे।
शायद सबसे स्पष्ट निष्कर्ष तब आया जब मॉडलों से केवल एक समाधान बनाने के लिए नहीं, बल्कि विकल्पों की एक सूची में से सही एक को चुनने के लिए कहा गया। यहाँ तक कि इस सरल कार्य में भी, जहाँ मॉडलों को केवल एक उत्तर को सत्यापित करना था न कि निर्माण करना, वे अक्सर गलत विकल्प चुनते थे। उन्होंने अक्सर एक ऐसा समाधान चुना जो तर्कसंगत दिखता था लेकिन समस्या के सख्त नियमों को पूरा करने में विफल रहा। अध्ययन ने दिखाया कि इन मॉडलों में सटीक होने के बजाय मददगार और निर्णायक दिखने की गहरी प्रवृत्ति है। उन्हें पैटर्न पूरा करने और ऐसा टेक्स्ट जेनरेट करने के लिए प्रशिक्षित किया जाता है जो सही दिखता है, जो उन्हें एक कहानी में रिक्त स्थान भरने के लिए तो उत्कृष्ट बनाता है लेकिन यह पहचानने में कमजोर बनाता है कि किसी कहानी का अंत नहीं है।
यह शोध बताता है कि जैसे-जैसे हम इन प्रणालियों को महत्वपूर्ण निर्णय लेने वाली भूमिकाओं में एकीकृत कर रहे हैं, हमें उनसे क्या उम्मीद करनी चाहिए, इस बारे में सावधान रहना चाहिए। यह पहचानना कि एक प्रश्न का उत्तर नहीं दिया जा सकता है, एक उत्तर देने की क्षमता जितना ही महत्वपूर्ण है। वर्तमान में, सबसे उन्नत मॉडल अभी भी उस अंतर को विश्वसनीय रूप से करने के लिए सुसज्जित नहीं हैं। वे संभवतः आत्मविश्वासपूर्ण, प्रशंसनीय लगने वाले उत्तर देना जारी रखेंगे, भले ही डेटा गायब हो या नियम किसी समाधान को असंभव बनाते हों। जब तक यह नहीं बदलता, मानव प्राथमिकताओं से जुड़े उच्च-जोखिम वाले निर्णयों के लिए इन प्रणालियों पर भरोसा करने के लिए एक 'ह्यूमन इन द लूप' (मानव निगरानी) की आवश्यकता है, जो न केवल उत्तर की, बल्कि उत्तर की संभावना की भी पुष्टि कर सके। यह अध्ययन यह दावा नहीं करता है कि ये मॉडल टूटे हुए हैं, बल्कि यह कि वे मनुष्यों की तुलना में एक अलग प्रकार के तर्क के साथ काम कर रहे हैं, जो कि उस सीमा को स्वीकार करने में संघर्ष करता है जिसे जाना जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।