Do Language Models Follow Occam's Razor? An Evaluation of Parsimony in Inductive and Abductive Reasoning
यह शोध पत्र एक सिंथेटिक ढांचे और स्वचालित मीट्रिक को प्रस्तुत करता है जो यह मूल्यांकन करता है कि क्या बड़े भाषा मॉडल आगमनात्मक (inductive) और अनुमानित (abductive) तर्क में ओकहम के रेज़र (Occam's Razor) का पालन करते हैं, जिससे यह पता चलता है कि हालांकि मॉडल सरल परिदृश्यों को संभाल सकते हैं, वे उन्नत तर्क तकनीकों के बावजूद जटिल विश्व मॉडलों में सही और संक्षिप्त परिकल्पनाएं उत्पन्न करने में संघर्ष करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने वाले जासूस हैं। आप एक कमरे में कदम रखते हैं और आपको एक टूटा हुआ फूलदान, कीचड़ वाले पैरों के निशान और एक गीला कुत्ता दिखाई देता है।
- निगमनात्मक तर्क (Deductive Reasoning) एक सख्त नियम पुस्तिका का पालन करने जैसा है: "यदि कुत्ता गीला है, तो बाहर बारिश हुई थी। बाहर बारिश हुई थी, इसलिए ज़मीन गीली है।" यहाँ केवल एक ही सही उत्तर होता है।
- आगमनात्मक तर्क (Inductive Reasoning) कई कीचड़ भरे पैरों के निशानों को देखकर यह कहना है, "अहा! एक कीचड़ भरा कुत्ता यहाँ रहा होगा।"
- अपवर्तक तर्क (Abductive Reasoning) "सबसे अच्छे अनुमान" का खेल है। आप टूटा हुआ फूलदान और गीला कुत्ता देखते हैं। आप अनुमान लगाते हैं, "कुत्ते ने फूलदान गिरा दिया।" लेकिन रुकिए, क्या कुत्ते ने ही इसे गिराया होगा? क्या कोई चोर आया था? यहाँ कई संभावित कहानियाँ हो सकती हैं जो उस गंदगी की व्याख्या कर सकें।
ओकाम का रेज़र (Occam's Razor) जासूस का सुनहरा नियम है: "सबसे सरल स्पष्टीकरण ही आमतौर पर सही होता है।" हमारे उदाहरण में, "कुत्ते ने उसे गिरा दिया" कहना इस बात से कहीं अधिक सरल है कि "एक चोर अंदर आया, कुत्ते से टकरा गया, फूलदान गिरा दिया, और फिर चला गया।"
मुख्य प्रश्न
इस शोध के लेखकों ने पूछा: क्या AI भाषा मॉडल (जैसे कि वह जिससे आप अभी बात कर रहे हैं) ओकाम के रेज़र का पालन करते हैं? जब उन्हें किसी रहस्य के पीछे की सबसे सरल कहानी का अनुमान लगाना होता है, तो क्या वे इसमें कुशल होते हैं? या वे जटिल, अनावश्यक कहानियाँ गढ़ते रहते हैं?
प्रयोग: एक "नकली जानवर" चिड़ियाघर
AI को इंटरनेट से मिली जानकारी का उपयोग करके नकल करने से रोकने के लिए, शोधकर्ताओं ने एक कृत्रिम चिड़ियाघर (synthetic zoo) बनाया।
- सेटअप: उन्होंने काल्पनिक जानवरों (जैसे "डालपिस्ट", "रोम्पस" और "जर्गिट्स") और काल्पनिक नियमों (जैसे "सभी डालपिस्टट वर्षा वाले होते हैं") के साथ एक दुनिया बनाई।
- रहस्य: उन्होंने कुछ नियमों को छिपा दिया। फिर, उन्होंने AI को अवलोकनों की एक सूची दिखाई (जैसे, "जेरी एक डालपिस्ट है और वह वर्षा वाला है")।
- कार्य: AI को उन लुप्त नियमों का अनुमान लगाना था जो यह समझा सकें कि जेरी वर्षा वाला क्यों है।
- सरल कार्य: एक नियम का अनुमान लगाना।
- कठिन कार्य: जानवरों के एक जटिल पारिवारिक वृक्ष (family tree) में नियमों की एक पूरी श्रृंखला का अनुमान लगाना।
उन्होंने दो चीजें मापीं:
- क्या AI ने सही उत्तर दिया? (भले ही वह उत्तर अजीब तरह से जटिल क्यों न हो)।
- क्या AI ने ओकाम के रेज़र का पालन किया? (क्या उसने सबसे सरल कहानी चुनी, या उसने अतिरिक्त, अनावश्यक नियम बना दिए?)
उन्हें क्या मिला
परिणाम थोड़े मिले-जुले थे, जैसे कोई छात्र जो गणित में बहुत अच्छा है लेकिन कला में बहुत खराब।
- "ईजी मोड" की सफलता: जब रहस्य सरल था (एक छोटा पारिवारिक वृक्ष जिसमें एक लुप्त नियम था), तो AI बहुत अच्छा था। वह अधिकांश समय सही नियम का अनुमान लगाने में सक्षम था।
- "हार्ड मोड" की विफलता: जैसे ही पारिवारिक वृक्ष बड़ा और जटिल हुआ, AI संघर्ष करने लगा।
- वह अक्सर एक ऐसा स्पष्टीकरण ढूंढ लेता था जो काम करता था (कमजोर सटीकता/Weak Accuracy)।
- लेकिन वह लगभग विफल रहा जब उसे सबसे सरल, सबसे अच्छा स्पष्टीकरण ढूंढना था (मजबूत सटीकता और गुणवत्ता/Strong Accuracy and Quality)।
- "ओवर-थिंकर" (ज़्यादा सोचने वाला) की समस्या: "कुत्ते ने फूलदान गिरा दिया" कहने के बजाय, AI अक्सर कहता था, "कुत्ते ने फूलदान गिरा दिया, और साथ ही, कुत्ते ने टोपी पहनी हुई है, और फूलदान कांच का बना था, और चंद्रमा पूर्ण था।" उसने वे अनावश्यक विवरण जोड़ दिए जिनकी रहस्य सुलझाने के लिए आवश्यकता नहीं थी। उसने "सरलता" के नियम की अनदेखी की।
क्या "प्रशिक्षण" (Training) से मदद मिली?
शोधकर्ताओं ने AI की मदद करने के लिए निम्नलिखित प्रयास किए:
- उसे पहले से ही समान पहेलियों को हल करने के उदाहरण देना (In-Context Learning)।
- उन्नत "तर्क करने वाले" (reasoning) मॉडल्स का उपयोग करना जिन्हें चरण-दर-चरण सोचने के लिए प्रशिक्षित किया गया है।
परिणाम: इन तरीकों ने थोड़ी मदद तो की, लेकिन वे मूल समस्या को ठीक नहीं कर सके। यहाँ तक कि सबसे स्मार्ट AI मॉडल भी कठिन पहेली होने पर "सरल" होने के लिए संघर्ष करते रहे। वे अनावश्यक विवरण जोड़ने की प्रवृत्ति रखते थे। वे "ओवर-कॉम्प्लिकेटेड" कहानियाँ बनाने के आदी थे।
निष्कर्ष
इन AI मॉडलों को प्रतिभाशाली लेकिन अराजक इंटर्न के रूप में सोचें।
- वे निर्देशों का पालन करने में बहुत अच्छे हैं जब निर्देश छोटे और स्पष्ट होते हैं।
- लेकिन जब उन्हें अपने आप एक जटिल स्थिति को समझना होता है, तो वे ज़रूरत से ज़्यादा समझाने लगते हैं। वे "ओकाम के रेज़र" के सिद्धांत को भूल जाते हैं। वे स्वाभाविक रूप से सबसे सरल और सुंदर समाधान की ओर नहीं झुकते।
इससे क्या फर्क पड़ता है?
वास्तविक दुनिया में, वैज्ञानिकों और डॉक्टरों को बीमारियों या भौतिक घटनाओं के लिए सबसे सरल स्पष्टीकरण खोजने की आवश्यकता होती है। यदि AI को नई चीजों की खोज करने में हमारी मदद करनी है, तो उसे अनावश्यक विवरण बनाना बंद करने और सबसे सरल, सबसे संभावित सत्य पर टिके रहने के बारे में सीखने की आवश्यकता है। अभी के अनुसार, इस शोध पत्र के अनुसार, वे अभी उस स्तर तक नहीं पहुँचे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।