Why LLMs Fail at Causal Discovery and How Interventional Agents Escape
यह शोध पत्र सिद्ध करता है कि एक कर्नेल ऑब्स्ट्रक्शन थ्योरम (kernel obstruction theorem) के कारण सुपरवाइज्ड और प्रेफरेंस-आधारित शिक्षण विधियाँ कॉज़ल डिस्कवरी (causal discovery) में मौलिक रूप से विफल रहती हैं, और एजेंटिक कॉज़ल बेयसियन ऑप्टिमाइज़ेशन (A-CBO) को एक प्रमाणित रूप से अभिसारी (provably convergent) विकल्प के रूप में प्रस्तावित करता है जो मौजूदा बेंचमार्क से बेहतर प्रदर्शन करने के लिए एक बाहरी बेयसियन लूप के भीतर एक इंटरवेंशनल ओरकल (interventional oracle) के रूप में एक फ्रोजन लैंग्वेज मॉडल का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
बड़ी समस्या: AI "कारण संबंधी" (Causal) पहेलियों में क्यों फंस जाता है
कल्पना कीजिए कि आप किसी मशीन को चलते हुए देखकर यह समझने की कोशिश कर रहे हैं कि वह कैसे काम करती है। आप देखते हैं कि जब लाल बत्ती चमकती है, तो एक घंटी बजती है। आप यह भी देखते हैं कि जब नीली बत्ती चमकती है, तो घंटी बजती है।
अब, आपको उसके अंदर की वायरिंग का अनुमान लगाना है:
- परिदृश्य A (Scenario A): लाल बत्ती एक स्विच को सक्रिय करती है जो घंटी बजाता है।
- परिदृश्य B (Scenario B): नीली बत्ती एक स्विच को सक्रिय करती है जो घंटी बजाता है।
यदि आप केवल मशीन को देखते हैं (अवलोकन संबंधी डेटा/observational data), तो दोनों परिदृश्य बिल्कुल एक जैसे दिखते हैं। हर बार लाइट चमकने पर घंटी बजती है। इसे ही पेपर में "नियर-मिस" (near-miss) समस्या कहा गया है। दो पूरी तरह से अलग आंतरिक संरचनाएं (causal graphs) बिल्कुल एक जैसा बाहरी व्यवहार उत्पन्न कर सकती हैं।
पेपर की मुख्य खोज:
लेखक सिद्ध करते हैं कि लार्ज लैंग्वेज मॉडल्स (LLMs)—जो ChatGPT जैसे टूल्स के पीछे का दिमाग हैं—यहाँ एक मौलिक गणितीय अंध बिंदु (blind spot) रखते हैं। भले ही आप उन्हें लाखों उदाहरणों पर प्रशिक्षित (Fine-Tuning) करें या उन्हें गहराई से सोचने के लिए कहें (Prompting), वे इन "नियर-मिस" परिदृश्यों के बीच अंतर करने में विश्वसनीय रूप से सक्षम नहीं हैं।
उपमा: "धुंधली फोटो" की सीमा
एक LLM को एक फोटोग्राफर के रूप में सोचें जो एक जटिल मशीन की तस्वीर ले रहा है।
- समस्या: जब मशीन बड़ी और अधिक जटिल होती जाती है (अधिक वेरिएबल्स), तो "नियर-मिस" परिदृश्य फोटो में 99.9% समान दिखने लगते हैं। वह सूक्ष्म अंतर जो आपको बताता है कि कौन सा तार किसका है, इतना छोटा होता है कि धुंधलेपन में खो जाता है।
- गणित: पेपर यह सिद्ध करता है कि एक LLM के लिए उस सूक्ष्म अंतर को देखने के लिए अपनी आंतरिक स्मृति (internal memory) को अनंत तक "खींचने" की आवश्यकता होगी। चूंकि वह ऐसा नहीं कर सकता, इसलिए वह केवल अनुमान लगाता है। जैसे-जैसे पहेलियाँ कठिन होती जाती हैं, AI का प्रदर्शन गिर जाता है, और अक्सर यह रैंडम अनुमान लगाने के स्तर तक पहुँच जाता है।
समाधान: "एजेंट" (Agent) और "ओरेकल" (Oracle)
चूंकि AI पूरी पहेली को एक साथ हल नहीं कर सकता, इसलिए लेखकों ने A-CBO (Agentic Causal Bayesian Optimization) नामक एक नई प्रणाली बनाई है।
AI से यह पूछने के बजाय कि, "इन दो जटिल मशीनों में से असली कौन सी है?" (जिसमें वह विफल रहता है), वे खेल बदल देते हैं। वे AI को एक विशेषज्ञ सहायक और एक गणितीय जासूस को निर्णय लेने वाला के रूप में उपयोग करते हैं।
यह कैसे काम करता है, चरण-दर-चरण यहाँ दिया गया है:
1. फ्रोजन ओरेकल (The Frozen Oracle - AI)
AI "फ्रोजन" (जमा हुआ) है, जिसका अर्थ है कि इसे फिर से प्रशिक्षित नहीं किया जा रहा है या नए नियम सीखने के लिए मजबूर नहीं किया जा रहा है। यह एक सत्य बताने वाले ओरेकल की तरह कार्य करता है।
- प्रश्न: पूरे रहस्य को सुलझाने के लिए AI से पूछने के बजाय, सिस्टम उससे सरल, बाइनरी (दो विकल्पों वाले) प्रश्न पूछता है: "यदि मैं इस विशिष्ट लाल बटन को दबाता हूँ, तो क्या घंटी बजती है?"
- यह क्यों काम करता है: भले ही AI दो जटिल मशीनों के बीच अंतर नहीं कर सकता, लेकिन यह सरल कारण-और-प्रभाव (cause-and-effect) वाले प्रश्नों के उत्तर देने में बहुत अच्छा है। बटन दबाना और परिणाम देखना AI के लिए अनुमान लगाना आसान है।
2. बेयसियन लूप (The Bayesian Loop - जासूस)
यह वह हिस्सा है जो मुख्य काम करता है। यह AI के बाहर चलने वाला एक गणितीय लूप है।
- रणनीति: जासूस सभी संभावित मशीन डिजाइनों की एक सूची के साथ शुरू करता है।
- क्रिया (Action): यह उस प्रश्न को चुनता है जो सबसे अधिक गलत उत्तरों को खारिज कर देगा। यह AI से पूछता है: "यदि मैं बटन A दबाता हूँ, तो क्या घंटी बजती है?"
- अपडेट:
- यदि AI कहता है "हाँ", तो जासूस उन सभी मशीन डिजाइनों को काट देता है जहाँ बटन A दबाने पर घंटी नहीं बजती।
- यदि AI कहता है "नहीं", तो वह उन डिजाइनों को काट देता है जहाँ बटन दबाने पर घंटी बजती है।
- परिणाम: हर सरल प्रश्न के साथ, संभावनाओं की सूची छोटी होती जाती है। जासूस को AI के पूर्ण होने की आवश्यकता नहीं है; उसे बस AI के रैंडम अनुमान से थोड़ा बेहतर होने की आवश्यकता है।
यह गेम-चेंजर क्यों है
पेपर दिखाता है कि यह विधि वहां काम करती है जहां अन्य सभी विधियां विफल हो जाती हैं।
- प्रशिक्षण की आवश्यकता नहीं: AI को लाखों नए उदाहरणों पर फिर से प्रशिक्षित करने की आवश्यकता नहीं है। यह अपने मौजूदा ज्ञान का उपयोग सरल प्रश्नों के उत्तर देने के लिए करता है।
- यह स्केल करता है: जैसे-जैसे पहेलियाँ कठिन होती जाती हैं (अधिक वेरिएबल्स, अधिक जटिल मशीनें), पुराने तरीके (Fine-Tuning) पूरी तरह विफल हो जाते हैं। लेकिन A-CBO सिस्टम बेहतर होता जाता है। यह उन 24 वेरिएबल्स वाली पहेलियों को भी हल कर सकता है जो उन्नत फाइन-ट्यून्ड मॉडल्स को भी उलझा देती हैं।
- "लेजी" (Lazy) लाभ: यह सिस्टम AI को उसकी "लेजी" अवस्था (जहाँ वह केवल अगले शब्द की भविष्यवाणी करता है) में रखता है, लेकिन निर्णय लेने की प्रक्रिया को ऐसी जगह ले जाता है जहाँ AI की गणितीय सीमाएं लागू नहीं होतीं।
एक वाक्य में सारांश
यह पेपर सिद्ध करता है कि AI अकेले जटिल, एक जैसे दिखने वाले कारणों के बीच अंतर करने में गणितीय रूप से असमर्थ है, लेकिन AI को एक सरल "हाँ/नहीं" प्रश्न पूछने वाले में बदलकर और एक गणितीय लूप को वास्तविक जासूसी कार्य करने देकर, हम इन पहेलियों को बिना AI को फिर से प्रशिक्षित किए पूरी तरह से हल कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।