Whether LLMs Can Navigate Beliefs and Facts Depends on How You Phrase It
यह शोध पत्र प्रकट करता है कि तथ्यों के साथ उपयोगकर्ता की मान्यताओं को समझने की बड़े भाषा मॉडलों (large language models) की क्षमता वाक्यांशों (phrasing) के प्रति अत्यधिक संवेदनशील है, क्योंकि दावों की तथ्य-जांच करने की उनकी डिफ़ॉल्ट प्रवृत्ति अक्सर उन्हें घोषित मान्यताओं को दरकिनार करने के लिए प्रेरित करती है, विशेष रूप से जब विशिष्ट ज्ञान संबंधी क्रियाओं (epistemic verbs) का उपयोग किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
दैनिक बातचीत की शांत गूँज में, मनुष्य लगातार उस चीज़ को एक साथ बुनते रहते हैं जिसे वे सत्य के रूप में जानते हैं और जिसे वे केवल सत्य मानते हैं। हम कह सकते हैं, "मुझे लगता है कि उत्तर तीन है," या "मुझे लगता है कि यह सही है," जो एक व्यक्तिगत विश्वास को दुनिया के बारे में एक कथन के साथ मिला देता है। विश्वास की ये अभिव्यक्तियाँ केवल शिष्टाचार के लिए भरे जाने वाले शब्द नहीं हैं; वे हमारे संवाद करने के तरीके का एक मौलिक हिस्सा हैं, जो अक्सर ठोस तथ्यों से अलग एक विशिष्ट भार वहन करती हैं। आर्टिफिशियल इंटेलिजेंस की नई पीढ़ी के लिए, जिन्हें लार्ज लैंग्वेज मॉडल्स (LLMs) के रूप में जाना जाता है, इस अंतर को समझना तेजी से महत्वपूर्ण होता जा रहा है। जैसे-जैसे ये सिस्टम अनुसंधान प्रयोगशालाओं से निकलकर हमारे जेबों और कार्यालयों में सहायकों के रूप में आ रहे हैं, उनसे यह अपेक्षा की जाती है कि वे हमारे व्यक्तिगत विचारों को उसी सावधानी के साथ संभालें जैसे वे वस्तुनिष्ठ डेटा को संभालते हैं। चुनौती एक सूक्ष्म लेकिन गहन कठिनाई में निहित है: जब कोई व्यक्ति एक ऐसा विश्वास व्यक्त करता है जो वास्तव में तथ्यात्मक रूप से गलत है, तो क्या मशीन यह समझती है कि उससे उस विश्वास की पुष्टि करने के लिए कहा जा रहा है, या वह कथन में मौजूद त्रुटि से विचलित हो जाती है?
KAIST और नेशनल ताइवान यूनिवर्सिटी ऑफ साइंस एंड टेक्नोलॉजी के शोधकर्ताओं द्वारा किया गया एक हालिया अध्ययन ठीक इसी घर्षण की जांच करता है। उन्होंने यह देखने के लिए काम शुरू किया कि क्या ये बुद्धिमान सिस्टम किसी उपयोगकर्ता के विचार को स्वीकार करने के कार्य और उस विचार की सत्यता को सत्यापित करने के कार्य के बीच अंतर कर सकते हैं। इसे करने के लिए, उन्होंने केवल एक प्रकार के प्रश्न पर भरोसा नहीं किया, बल्कि मानवीय अभिव्यक्ति के एक विस्तृत परिदृश्य का अन्वेषण किया। उन्होंने दस अलग-अलग लार्ज लैंग्वेज मॉडल्स का परीक्षण अठारह विशिष्ट तरीकों से विश्वास को व्यक्त करने के लिए किया, जिसमें "मुझे यकीन है" जैसे आत्मविश्वास से भरे शब्दों से लेकर "मुझे धुंधला सा याद है" जैसी हिचकिचाहट और यहाँ तक कि "मुझे गंभीर संदेह है" जैसे संशयपूर्ण शब्दों तक शामिल थे। सेटअप सीधा था: शोधकर्ताओं ने मॉडल्स के सामने "मेरा मानना है कि आकाश हरा है" जैसा कथन प्रस्तुत किया, जिसके बाद प्रश्न पूछा गया, "क्या मैं मानता हूँ कि आकाश हरा है?" सही उत्तर, इस तथ्य के बावजूद कि आकाश हरा नहीं है, हमेशा "हाँ" होगा, क्योंकि प्रश्न उपयोगकर्ता की मानसिक स्थिति के बारे में है, न कि आकाश के रंग के बारे में।
परिणामों ने इन मॉडल्स के सोचने के तरीके में एक आश्चर्यजनक असंगतता का खुलासा किया। उपयोगकर्ता के विश्वास की पुष्टि करने की क्षमता एक निश्चित कौशल नहीं थी; यह इस बात पर नाटकीय रूप से बदल जाती थी कि उस विश्वास को व्यक्त करने के लिए किन विशिष्ट शब्दों का उपयोग किया गया है। जब मॉडल्स से "मुझे धुंधला सा याद है" के साथ व्यक्त किए गए विश्वासों के बारे में पूछा गया, तो उन्होंने अच्छा प्रदर्शन किया, और गलत तथ्य होने पर भी विश्वास की सही पहचान की। हालाँकि, जब अभिव्यक्ति बदलकर "मुझे गंभीर संदेह है" हो गई, तो मॉडल्स विफल होने लगे, और अक्सर उस संदेह को रखने के प्रश्न पर "नहीं" उत्तर देने लगे। कुछ मामलों में, तथ्यात्मक कथनों और गलत कथनों के बीच प्रदर्शन का अंतर पचास प्रतिशत अंकों जितना बड़ा था, जबकि अन्य मामलों में, मॉडल्स वास्तव में सत्य कथनों की तुलना में गलत कथनों पर बेहतर प्रदर्शन करते थे। यह सुझाव देता है कि मॉडल्स केवल विश्वास की अवधारणा को समझने में विफल नहीं हो रहे हैं; बल्कि, उनकी सफलता या विफलता पूरी तरह से उस भाषाई ट्रिगर पर निर्भर करती है जिसका उपयोग उसे पेश करने के लिए किया गया है।
शोधकर्ताओं ने गहराई से जांच की कि ऐसा क्यों होता है और पाया कि मॉडल्स 'टास्क कन्फ्यूजन' (कार्य संबंधी भ्रम) का शिकार हो रहे हैं। एक गलत दावे का सामना करने पर, मॉडल्स स्वाभाविक रूप से 'फैक्ट-चेकिंग' मोड में चले जाते हैं। "क्या आप इसे मानते हैं?" का उत्तर देने के बजाय, वे चुपचाप खुद से पूछते हैं, "क्या यह सच है?" और फिर दावे की सच्चाई के आधार पर उत्तर देते हैं, जिससे उपयोगकर्ता के घोषित विश्वास की अनदेखी हो जाती है। इस व्यवहार की पुष्टि मॉडल्स द्वारा लिए गए आंतरिक तर्क चरणों की जांच करके की गई। कई उदाहरणों में जहाँ मॉडल्स ने गलत उत्तर दिया, उन्होंने स्पष्ट रूप रूप से दावे के तथ्यों को सत्यापित करने में अपना समय बिताया। जब शोधकर्ताओं ने मॉडल्स को एक सरल निर्देश दिया कि वे फैक्ट-चेक न करें, तो गलत दावों पर त्रुटि दर काफी कम हो गई, और मॉडल्स विश्वास को स्वीकार करने में बहुत बेहतर हो गए। यह इंगित करता है कि मॉडल्स के पास विश्वास को ट्रैक करने की क्षमता है, लेकिन वे अक्सर गलत सूचना को सुधारने की अपनी तीव्र इच्छा से बाधित हो जाते हैं।
यह देखने के लिए कि क्या यह एक गहरी जड़ जमा चुकी यांत्रिक समस्या थी, शोधकर्ताओं ने मॉडल्स के 'अटेंशन मैकेनिज्म' (ध्यान तंत्र) के भीतर देखा, और यह अवलोकन किया कि उत्तर उत्पन्न करते समय सिस्टम पाठ के किन हिस्सों पर ध्यान केंद्रित करता है। उन्होंने पाया कि जब एक मॉडल गलत विश्वास की पुष्टि करने में विफल रहता है, तो वह सफल होने की तुलना में गलत दावे पर काफी अधिक ध्यान देता है। एक अंतिम परीक्षण में, उन्होंने उत्तर जनरेशन प्रक्रिया के दौरान दावे पर इस ध्यान को कृत्रिम रूप से दबा दिया। एक विशिष्ट मॉडल में, इस हस्तक्षेप ने अन्य प्रकार के प्रश्नों के उत्तर देने की क्षमता को बिगाड़े बिना, विश्वास की पुष्टि करने की सटीकता में सफलतापूर्वक सुधार किया। यह सुझाव देता है कि समस्या समझ की मौलिक कमी नहीं है, बल्कि दावे की सामग्री पर बहुत अधिक ध्यान केंद्रित करने की एक विशिष्ट प्रवृत्ति है जब वह सामग्री गलत होती है।
अंततः, यह अध्ययन स्पष्ट करता है कि विश्वास और तथ्य के बीच अंतर करने का संघर्ष सभी स्थितियों में एक समान कमजोरी नहीं है। यह एक सूक्ष्म व्यवहार है जो इस बात पर बहुत अधिक निर्भर करता है कि प्रश्न कैसे पूछा गया है और मॉडल अपने कार्य की व्याख्या कैसे करता है। हालांकि ये सिस्टम आम तौर पर सहायक और सटीक होने के लिए डिज़ाइन किए गए हैं, तथ्यों को सत्यापित करने की उनकी सहज प्रवृत्ति कभी-कभी उपयोगकर्ता के वास्तविक विचारों को सुनने की उनकी क्षमता में बाधा डाल सकती है। शोधकर्ता निष्कर्ष निकालते हैं कि आगे का रास्ता ऐसे तरीके विकसित करने में निहित है जो इन मॉडल्स को उपयोगकर्ता के दृष्टिकोण को स्वीकार करने की अनुमति दें बिना तुरंत उसे सुधारने के प्रयास के, यह सुनिश्चित करते हुए कि वे एक वफादार श्रोता के रूप में कार्य कर सकें, भले ही बातचीत गलत क्षेत्र की ओर मुड़ जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।