Leveraging Large Language Models for Causal Discovery: a Constraint-based, Argumentation-driven Approach
यह शोध पत्र एक नवीन कारण खोज (कज़ल डिस्कवरी) ढांचे का प्रस्ताव करता है जो चर विवरणों (वेरिएबल डिस्क्रिप्शन्स) से प्राप्त सिमेंटिक प्रायर्स को कंडीशनल इंडिपेंडेंस साक्ष्यों के साथ एकीकृत करने के लिए एक आर्गुमेंटेशन-आधारित (ABA) प्रणाली के भीतर लार्ज लैंग्वेज मॉडल्स को अपूर्ण विशेषज्ञों के रूप में उपयोग करता है, जिससे मेमोराइजेशन बायस को कम करने के लिए एक प्रोटोकॉल पेश करते हुए अत्याधुनिक प्रदर्शन प्राप्त किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने वाले जासूस हैं, लेकिन आपके पास केवल सुरागों का एक ढेर है जो एक ही समय पर घटित हुए हैं। आप देखते हैं कि छाता ले जाने वाले लोग अक्सर भीग जाते हैं, और भीगने वाले लोग अक्सर छाता ले जाते हैं। क्या बारिश ने गीलेपन का कारण बनी, या गीलेपन ने बारिश का कारण बनी? या कोई तीसरी चीज़, जैसे कि बादल, दोनों का कारण था? यह कारण संबंधी खोज (causal discovery) का मूल है: यह पता लगाना कि वास्तव में किसने किसका कारण बना, केवल डेटा के पैटर्न को देखकर। आमतौर पर, कंप्यूटर पैटर्न पहचानने में बहुत अच्छे होते हैं, लेकिन वे यह जानने में बहुत खराब होते हैं कि कारण का तीर किस दिशा में इशारा कर रहा है। इसे ठीक करने के लिए, वैज्ञानिक अक्सर मानव विशेषज्ञों की मदद मांगते हैं, लेकिन विशेषज्ञ व्यस्त, महंगे और कभी-कभी असहमत भी होते हैं।
हाल ही में, एक प्रकार का "सुपर-ब्रेन" जिसे लार्ज लैंग्वेज मॉडल (LLM) कहा जाता है, सामने आया है। ये वही AI उपकरण हैं जो कविताएं लिख सकते हैं, कोड कर सकते हैं और लगभग किसी भी चीज़ के बारे में बात कर सकते हैं। इन्होंने इंटरनेट का इतना अध्ययन किया है कि ऐसा लगता है जैसे वे दुनिया के काम करने के तरीके के बारे में बहुत कुछ जानते हैं। लेकिन यहाँ एक पेंच है: वे एक प्रतिभाशाली लेकिन थोड़े अविश्वसनीय छात्र की तरह हैं। वे आपको एक बहुत ही स्मार्ट उत्तर दे सकते हैं, लेकिन वे आत्मविश्वास के साथ मनगढ़ंत बातें भी बना सकते हैं (एक चाल जिसे "हैलुसिनेशन" या भ्रम कहा जाता है) या बस उस तथ्य को याद कर सकते हैं जो उन्होंने कहीं पढ़ा था बिना उसके तर्क को समझे। वैज्ञानिकों के लिए बड़ा सवाल यह है: क्या हम इस सुपर-ब्रेन का उपयोग अपने कारण संबंधी रहस्यों को सुलझाने में कर सकते हैं, बिना इसकी गलतियों को मामला खराब करने दिए?
यह शोध पत्र एक चतुर नए तरीके से पेश करता है जिसमें कंप्यूटर के सांख्यिकीय जासूसी कार्य को AI की "सामान्य समझ" के साथ जोड़ा गया है, जबकि किसी भी झूठ को पकड़ने के लिए एक सख्त सुरक्षा जाल भी रखा गया है। शोधकर्ता ज़ियाहाओ ली और फैब्रिज़ियो रूसो (इंपीरियल कॉलेज लंदन) ने एक प्रणाली बनाई है जिसे वे ABAPC-LLM कहते हैं। इसे डेटा के लिए एक उच्च-दांव वाली बहस क्लब (debate club) के रूप में समझें।
यह प्रणाली कैसे काम करती है, इसके लिए एक सरल उपमा दी गई है: कल्पना कीजिए कि आप शहर के यातायात प्रवाह (traffic flow) का मानचित्र बनाने की कोशिश कर रहे हैं।
- डेटा डिटेक्टिव (MPC): सबसे पहले, एक पारंपरिक कंप्यूटर एल्गोरिदम यातायात के डेटा (जैसे कि सुबह 8 बजे बनाम 8:15 बजे सड़क पर कितने वाहन हैं) को देखता है। यह पैटर्न पहचानता है और कहता है, "हे, मेन स्ट्रीट पर ट्रैफ़िक आमतौर पर उत्तर की ओर जाता है, दक्षिण की ओर नहीं।" लेकिन कभी-कभी डेटा शोर भरा (noisy) होता है, और कंप्यूटर भ्रमित हो सकता है।
- AI कंसल्टेंट (The LLM): इसके बाद, टीम एक AI से सड़कों के नाम (जैसे, "स्कूल ज़ोन" और "प्लेग्राउंड") देखने के लिए कहती है। AI दुनिया के अपने ज्ञान का उपयोग करता है और कहता है, "खैर, गाड़ियाँ आमतौर पर सुबह स्कूल से प्लेग्राउंड की ओर जाती हैं, न कि इसके विपरीत।"
- जज (Causal ABA): यह सबसे महत्वपूर्ण हिस्सा है। शोधकर्ताओं ने केवल AI के सुझाव को अंतिम कानून नहीं बनने दिया। इसके बजाय, उन्होंने AI के सुझावों और डेटा डिटेक्टिव के निष्कर्षों को एक बहस ढांचे में डाला जिसे "कॉज़ल असाम्प्शन-बेस्ड आर्गुमेंटेशन" कहा जाता है। इस बहस में, हर दावे को एक "प्रतिसंोध्य धारणा" (defeasible assumption) माना जाता है—जिसका अर्थ है कि यह तब तक सच है जब तक कि कोई इसे गलत साबित न कर दे।
यदि AI कहता है "स्कूल प्लेग्राउंड ट्रैफ़िक का कारण बनता है" लेकिन डेटा डिटेक्टिव के पास मजबूत सबूत है कि "प्लेग्राउंड ट्रैफ़िक स्कूल खुलने से पहले होता है," तो जज हस्तक्षेप करता है। जज यह देखने के लिए सख्त तार्किक नियमों का उपयोग करता है कि क्या दोनों दावे एक साथ अस्तित्व में रह सकते हैं। यदि वे आपस में टकराते हैं, तो सिस्टम केवल विजेता नहीं चुनता; बल्कि यह पता लगाता है कि कौन सा दावा कमजोर है और उसे हटा देता है। AI के सुझावों को "अपूर्ण विशेषज्ञ सलाह" के रूप में माना जाता है जिसे ठोस सांख्यिकीय साक्ष्य द्वारा खारिज किया जा सकता है।
यह सुनिश्चित करने के लिए कि AI केवल किसी पाठ्यपुस्तक के उत्तरों को याद नहीं कर रहा था, शोधकर्ताओं ने एक विशेष परीक्षण बनाया। उन्होंने 54 बिल्कुल नए, यादृच्छिक (random) शहर के नक्शे बनाए जिन्हें पहले कभी नहीं देखा गया था, लेकिन उन्होंने सड़कों के ऐसे नाम दिए जो समझ में आते थे (जैसे, "वायरस," "बुखार," और "थकान")। उन्होंने AI से इन नए नक्शों पर यातायात प्रवाह का अनुमान लगाने के लिए कहा। परिणाम उत्साहजनक थे: जब AI के सुझाव सुसंगत थे (AI पांच बार पूछे जाने के बाद भी खुद से सहमत था), तो अंतिम मानचित्र केवल डेटा का उपयोग करने की तुलना में बहुत अधिक सटीक था।
हालाँकि, यह शोध पत्र कुछ खतरनाक विचारों को भी खारिज करता है। यह दिखाता है कि आप केवल AI पर आँख मूंदकर भरोसा नहीं कर सकते। यदि AI एक फर्जी संबंध बनाता है, और आप कंप्यूटर को उसे स्वीकार करने के लिए मजबूर करते हैं, तो पूरा मानचित्र टूट जाता। यह प्रणाली तभी काम करती है जब AI की सलाह को एक "सॉफ्ट" सुझाव के रूप में माना जाए जिसे खारिज किया जा सके। इसके अलावा, शोधकर्ताओं ने पाया कि हालांकि AI बहुत मदद करता है, लेकिन यह सब कुछ ठीक नहीं करता है। यदि डेटा बहुत अव्यवस्थित है या AI भ्रमित है, तो सिस्टम को अभी भी डेटा पर निर्भर रहना पड़ता है, और कभी-कभी AI की "मदद" वास्तव में स्थिति को बदतर बना सकती है यदि उसे सावधानी से फ़िल्टर नहीं किया गया।
संक्षेप में, यह शोध पत्र सुझाव देता है कि लार्ज लैंग्वेज मॉडल कारण संबंधी खोज (causal discovery) के लिए शानदार उपकरण हैं, लेकिन केवल तभी जब हम उन्हें एक सख्त मैनेजर की आवश्यकता वाले एक सहायक इंटर्न की तरह मानें। AI के काम की जांच करने के लिए एक बहस-शैली वाली प्रणाली का उपयोग करके, शोधकर्ताओं ने एक ऐसी विधि बनाई है जो केवल डेटा का उपयोग करने की तुलना में अधिक सटीक है, बिना AI के संभावित झूठ का शिकार हुए। यह स्मार्ट, अधिक विश्वसनीय AI की ओर एक कदम है जो जानता है कि कब बोलना है और कब चुप रहना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।