From Causal Plausibility to Causal Reliability: Evaluating LLMs as Calibrated Direct Causal-Edge Classifiers
यह शोध पत्र 12 लार्ज लैंग्वेज मॉडल्स का प्रत्यक्ष कारण-किनारे (direct causal-edge) के क्लासिफायर के रूप में व्यवस्थित रूप से मूल्यांकन करता है और पाता है कि जबकि वे मजबूत रिकॉल प्रदर्शित करते हैं, वे महत्वपूर्ण ओवरप्रेडिक्शन, प्रत्यक्ष और अप्रत्यक्ष संबंधों के बीच खराब अंतर, और गलत निर्णयों में अत्यधिक अति-आत्मविश्वास से ग्रस्त हैं, जो यह सुझाव देता है कि वे विश्वसनीय प्रत्यक्ष साक्ष्य के बजाय सॉफ्ट कॉज़ल प्रायर्स (soft causal priors) के स्रोत के रूप में बेहतर उपयुक्त हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
विज्ञान अक्सर केवल यह समझने की कोशिश नहीं करता कि क्या होता है, बल्कि यह भी कि वह क्यों होता है। जब शोधकर्ता किसी घटना के पीछे के कारणों का मानचित्र बनाने की कोशिश करते हैं—चाहे वह आबादी में वायरस का फैलना हो या कारखाने में किसी मशीन का विफल होना—तो वे संबंधों का एक आरेख (डायग्राम) बनाते हैं। इस आरेख में, एक चीज़ से दूसरी चीज़ तक की सीधी रेखा का अर्थ है कि पहली चीज़ तुरंत दूसरी चीज़ का कारण बनती है। यदि एक वायरस संक्रमण की ओर ले जाता है, जो फिर एक सकारात्मक परीक्षण परिणाम की ओर ले जाता है, तो वायरस परीक्षण परिणाम का कारण केवल अप्रत्यक्ष रूप से बनता है, संक्रमण के माध्यम से। यह पता लगाना कि कौन सी रेखाएं सीधी हैं और कौन सी अप्रत्यक्ष, एक कठिन पहेली है जिसे 'कॉज़ल डिस्कवरी' (कारण खोज) कहा जाता है। दशकों से, वैज्ञानिक इस पहेली को सुलझाने के लिए जटिल गणितीय उपकरणों और प्रेक्षणों के बड़े सेटों पर भरोसा करते आए हैं, लेकिन ये उपकरण तब संघर्ष करते हैं जब डेटा कम होता है या जब विभिन्न पैटर्न एक जैसे दिखाई देते हैं।
हाल के वर्षों में, एक नए प्रकार के उपकरण का उदय हुआ है: लार्ज लैंग्वेज मॉडल्स (LLMs)। ये कंप्यूटर सिस्टम हैं जिन्हें विशाल मात्रा में टेक्स्ट पर प्रशिक्षित किया गया है जो प्रश्न उत्तर दे सकते हैं, कहानियाँ लिख सकते हैं और समस्याओं के माध्यम से तर्क कर सकते हैं। क्योंकि उन्होंने बहुत कुछ पढ़ा है, इसलिए वे दुनिया के काम करने के तरीके के बारे में ज्ञान के एक गहरे कुएं की तरह प्रतीत होते हैं, जिसमें यह भी शामिल है कि चीजें एक-दूसरे को कैसे प्रभावित करती हैं। शोधकर्ताओं ने पूछना शुरू कर दिया है कि क्या ये सिस्टम विशेषज्ञ मार्गदर्शक के रूप में कार्य कर सकते हैं, जो हमें बता सकें कि आरेख में कौन से संबंध वास्तविक और प्रत्यक्ष हैं। उम्मीद यह थी कि ये मॉडल एक शॉर्टकट प्रदान कर सकते हैं, प्रयोगों के बिना कारण और प्रभाव के बारे में विश्वसनीय निर्णय दे सकते हैं। हालाँकि, एक नया अध्ययन बताता है कि जबकि ये मॉडल यह महसूस करने में अच्छे हैं कि दो चीजें आपस में संबंधित हैं, वे यह जानने में अक्सर बहुत खराब होते हैं कि वे वास्तव में कैसे जुड़ी हुई हैं, और जब वे गलत होते हैं, तो वे अक्सर बहुत अधिक आत्मविश्वासी होते हैं।
एक टीम ने इन मॉडल्स को प्रत्यक्ष कारण-और-प्रभाव संबंधों के न्यायाधीश के रूप में मानकर उनकी विश्वसनीयता का परीक्षण करने का निर्णय लिया। उन्होंने इन मॉडल्स के बारह अलग-अलग संस्करण एकत्र किए, जिनमें छोटे, कुशल सिस्टम से लेकर विशाल, शक्तिशाली सिस्टम तक शामिल थे। फिर उन्होंने इन मॉडल्स के सामने छह अलग-अलग वास्तविक दुनिया के परिदृश्य प्रस्तुत किए, जिनमें कारणों और प्रभावों का एक ज्ञात मानचित्र था। ये परिदृश्य हेपेटाइटिस और कोविड-19 जैसी चिकित्सा स्थितियों से लेकर औद्योगिक प्रक्रियाओं और पारिस्थितिक तंत्रों तक विविध क्षेत्रों को कवर करते थे। इन मानचित्रों में प्रत्येक चर (वेरिएबल) के जोड़े के लिए, शोधकर्ताओं ने मॉडल्स से एक सरल प्रश्न पूछा: क्या पहला आइटम सीधे दूसरे का कारण बनता है? मॉडल्स को 'हाँ' या 'नहीं' में उत्तर देना था और एक आत्मविश्वास स्कोर (confidence score) प्रदान करना था, जो एक संख्या है जो यह दर्शाती है कि वे अपने उत्तर के बारे में कितने सुनिश्चित हैं।
परिणामों ने अत्यधिक उत्साह का एक सुसंगत पैटर्न प्रकट किया। मॉडल्स बहुत अधिक बार "हाँ" कहने की प्रवृत्ति रखते थे। केवल आवश्यक प्रत्यक्ष संबंधों के साथ एक विरल (sparse) मानचित्र बनाने के बजाय, मॉडल्स ने सघन जाल बनाए जहाँ लगभग हर चीज़ हर दूसरी चीज़ से सीधे जुड़ी हुई प्रतीत होती थी। यह व्यवहार इतना मजबूत था कि जब शोधकर्ताओं ने प्रश्नों को पूछने के विभिन्न तरीकों का परीक्षण किया, तब भी मॉडल्स को अधिक चयनात्मक होने के लिए आसानी से प्रशिक्षित नहीं किया जा सका। वे सही ढंग से पहचान लेते थे कि दो चीजें संबंधित हैं, लेकिन वे प्रत्यक्ष कारण और अप्रत्यक्ष कारण के बीच अंतर करने में विफल रहते थे। उदाहरण के लिए, यदि एक वायरस संक्रमण का कारण बनता है जो बुखार का कारण बनता है, तो मॉडल अक्सर दावा करेगा कि वायरस सीधे बुखार का कारण बनता है, मध्यवर्ती चरण को अनदेखा करते हुए। यह त्रुटि उन लगभग 40 प्रतिशत मामलों में हुई जहाँ संबंध अप्रत्यक्ष था, और 3х प्रतिशत मामलों में हुई जहाँ दिशा विपरीत थी।
शायद सबसे परेशान करने वाला निष्कर्ष मॉडल्स की अपनी गलतियों के प्रति आत्म-जागरूकता की कमी थी। जब मॉडल्स ने संरचनात्मक त्रुटियां कीं, तो वे हिचकिचाए नहीं। उन 80 प्रतिशत से अधिक मामलों में जहाँ उन्होंने गलत तरीके से दावा किया कि अप्रत्यक्ष रूप से संबंधित वस्तुओं के बीच एक सीधा लिंक मौजूद है, उन्होंने कम से कम 80 प्रतिशत का आत्मविश्वास स्कोर दिया। वे केवल अनुमान नहीं लगा रहे थे; वे आत्मविश्वास के साथ गलत थे। अध्ययन ने यह भी देखा कि क्या मॉडल्स को उनके आत्मविश्वास स्कोर के आधार पर सही अनुमान और गलत अनुमान के बीच अंतर करने के लिए भरोसेमंद माना जा सकता है। शोधकर्ताओं ने पाया कि मॉडल्स द्वारा स्वयं को दिए गए आत्मविश्वास के अंक अक्सर अविश्वसनीय थे। एक मॉडल कह सकता है कि वह 90 प्रतिशत आश्वस्त है, लेकिन वह संख्या वास्तव में इस बात से मेल नहीं खाती थी कि उत्तर सही था या नहीं। एकमात्र तरीका जिसने थोड़ा सुधार दिखाया वह यह था कि मॉडल्स से एक ही प्रश्न को अलग-अलग तरीकों से पूछा जाए और यह देखा जाए कि क्या वे एक-दूसरे से सहमत हैं, लेकिन यह विधि भी पूर्ण समाधान नहीं थी।
शोधकर्ताओं ने यह भी जांचा कि क्या मॉडल्स केवल टेस्ट प्रश्नों को पहले से देखे गए उत्तरों के रूप में याद कर रहे थे। उन्होंने पाया कि एक विशिष्ट मेडिकल डेटासेट के लिए, कई मॉडल्स संदिग्ध रूप से अच्छा प्रदर्शन कर रहे थे, जिससे संकेत मिलता है कि उन्होंने अपने प्रशिक्षण के दौरान इस डेटा को देखा होगा। हालाँकि, यह परिचितता अन्य पांच डेटासेट्स के खराब प्रदर्शन की व्याख्या नहीं करती थी, जहाँ मॉडल्स अभी भी उन्हीं प्रकार की त्रुटियों के साथ संघर्ष कर रहे थे। यहाँ तक कि जब शोधकर्ताओं ने मॉडल्स को केवल दो विकल्पों के बजाय तीन विकल्पों—प्रत्यक्ष कारण, विपरीत कारण, या कोई सीधा लिंक नहीं—के बीच चुनने के लिए मजबूर किया, तब भी मॉडल्स में महत्वपूर्ण सुधार नहीं हुआ। वे उन स्थानों पर भी प्रत्यक्ष लिंक की भविष्यवाणी करना जारी रखते थे जहाँ कोई नहीं था, जिससे सिद्ध होता है कि समस्या केवल प्रश्न पूछने के तरीके की खामी नहीं थी, बल्कि इन सिस्टम्स की कार्य-कारणता (causality) को समझने की एक मौलिक सीमा थी।
अंततः, अध्ययन यह निष्कर्ष निकालता है कि हालांकि लार्ज लैंग्वेज मॉडल्स विचारों को उत्पन्न करने के लिए शक्तिशाली उपकरण हैं, उन्हें दुनिया के काम करने के तरीके के निर्णायक प्रमाण के रूप में नहीं देखा जाना चाहिए। उन्हें 'सॉफ्ट सजेशन्स' (हल्के सुझावों) के स्रोत के रूप में देखा जाना बेहतर है, जो एक शुरुआती बिंदु प्रदान करते हैं जिसे अन्य विधियों द्वारा जांचा और मान्य किया जाना चाहिए। वे हमें बता सकते हैं कि दो चीजें संभवतः जुड़ी हुई हैं, लेकिन वे अपने दम पर एक कारण मानचित्र की सटीक रेखाएं खींचने के लिए भरोसेमंद नहीं हैं। उनके द्वारा व्यक्त किया गया आत्मविश्वास अक्सर उनके प्रशिक्षण डेटा का प्रतिबिंब होता है न कि सत्य का वास्तविक माप। वैज्ञानिकों और इंजीनियरों के लिए जिन्हें कारण और प्रभाव के सटीक तंत्र को समझने की आवश्यकता है, केवल इन मॉडल्स पर भरोसा करना एक ऐसे जटिल शहर में नेविगेट करने जैसा है जहाँ हर सड़क हर दूसरी सड़क से जुड़ी हुई है; यह व्यापक लग सकता है, लेकिन यह आपको गुमराह करेगा। आगे का रास्ता इन मॉडल्स का उपयोग परिकल्पनाएं उत्पन्न करने के लिए करने में निहित है, जिन्हें बाद में कठोरता से परखा जाना चाहिए, न कि उनके आत्मविश्वासी निर्णयों को अंतिम उत्तर के रूप में स्वीकार करने में।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।