Data-driven Machine Learning Cannot Reach Symbolic-level Logical Reasoning -- The Limit of the Scaling Law
यह शोध पत्र यह तर्क देता है कि डेटा-संचालित पर्यवेक्षित मशीन लर्निंग (supervised machine learning), प्रशिक्षण डेटा की विभेद्यता (distinguishability) और परस्पर विरोधी प्रशिक्षण लक्ष्यों में अंतर्निहित पद्धतिगत सीमाओं के कारण, प्रतीकात्मक-स्तर के तार्किक तर्क (symbolic-level logical reasoning) की कठोरता प्राप्त नहीं कर सकती है, एक ऐसा निष्कर्ष जो सैद्धांतिक विश्लेषण और उन प्रयोगात्मक साक्ष्यों द्वारा समर्थित है जो दर्शाते हैं कि GPT-5 जैसे उच्च-सटीकता वाले मॉडल भी सही तार्किक स्पष्टीकरण प्रदान करने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को एक बहुत ही विशिष्ट प्रकार की तर्क पहेली, जिसे सिलोगिज्म (syllogism) कहा जाता है, हल करना सिखाने की कोशिश कर रहे हैं। ये सरल "यदि A, तो B" वाली पहेलियाँ हैं, जैसे:
- आधार 1: सभी बिल्लियाँ स्तनधारी हैं।
- आधार 2: सभी स्तनधारी जानवर हैं।
- निष्कर्ष: इसलिए, सभी बिल्लियाँ जानवर हैं।
सदियों से, मनुष्यों ने इन पहेलियों को हल करने के लिए सख्त नियमों (प्रतीकात्मक तर्क/symbolic logic) का उपयोग किया है। लेकिन आज, हम मुख्य रूप से मशीन लर्निंग (ML) का उपयोग करते हैं, जो एक रोबोट को लाखों उदाहरण दिखाने और यह उम्मीद करने जैसा है कि वह अपने आप पैटर्न को समझ जाएगा।
यह शोध पत्र एक बड़ा सवाल पूछता है: यदि हम केवल रोबोट को और अधिक उदाहरण दिखाते रहें (डेटा को बढ़ाते रहें), तो क्या वह अंततः सख्त तर्क नियमों का उपयोग करने वाले मानव की तरह सटीक और कठोर बन जाएगा?
लेखक कहते हैं कि नहीं। यहाँ इसका कारण बताया गया है, जिसे सरल उपमाओं के माध्यम से समझाया गया है।
1. "फोटो एल्बम" बनाम "नियमों की किताब"
पारंपरिक तर्क को एक नियमों की किताब (Rulebook) के रूप में सोचें। यह जानता है कि शब्दों की परिभाषाओं के आधार पर "सभी बिल्लियाँ जानवर हैं" क्यों सत्य है। यह कभी गलती नहीं करता क्योंकि यह नियमों का पालन करता है।
वर्तमान मशीन लर्निंग एक फोटो एल्बम की तरह है। यदि आप एक रोबोट को बिल्लियों और कुत्तों की दस लाख तस्वीरें दिखाते हैं, तो वह कान, फर, पूंछ जैसे पैटर्न को देखकर उन्हें पहचानना सीखता है। वह वास्तव में यह नहीं समझता कि बिल्ली क्या है; वह बस इतना जानता है कि "यह तस्वीर उन अन्य 999,999 तस्वीरों जैसी दिखती है जिन्हें मैंने पहले देखा है।"
लेखक का तर्क है कि आप एल्बम में कितने भी फोटो (डेटा) जोड़ लें, रोबोट वास्तव में "नियमों की किताब" कभी नहीं सीख पाएगा। वह केवल पिछले फोटो के आधार पर अनुमान लगाने में बेहतर होता जाएगा।
2. इमेज-आधारित लर्निंग के दो बड़े अवरोध
लेखकों ने एक विशिष्ट प्रकार के रोबोट का परीक्षण किया जो छवियों (जैसे वृत्तों वाले वेन आरेख) को देखकर तर्क सीखता है। उन्होंने पाया कि दो "डेड एंड" (बंद रास्ते) हैं जो इस रोबोट को पूर्ण तर्क तक पहुँचने से रोकते हैं, चाहे वह कितना भी प्रशिक्षण क्यों न ले ले।
अवरोध A: प्रशिक्षण डेटा में "अंधा मोड़" (Blind Spot)
कल्पना कीजिए कि आप एक रोबोट को फल छाँटना सिखा रहे हैं। आप उसे सेब, संतरे और केले दिखाते हैं। लेकिन आप उसे एक विशिष्ट दुर्लभ नाशपाती दिखाना भूल जाते हैं।
- समस्या: तर्क में, 24 विशिष्ट तरीके हैं जिनसे एक सिलोगिज्म काम कर सकता है। लेखकों ने पाया कि इन रोबोटों को सिखाने के लिए उपयोग किया गया प्रशिक्षण डेटा (छवियां) इन 24 वैध प्रकारों के बीच अंतर नहीं कर सकता।
- उपमा: यह किसी को नीले रंग के 24 अलग-अलग शेड्स के बीच अंतर करना सिखाने जैसा है, लेकिन आप उसे केवल 20 रंगों वाला पैलेट देते हैं। वह कितनी भी प्रैक्टिस कर ले, वह हमेशा उन छूटे हुए 4 शेड्स को लेकर भ्रमित रहेगा। रोबोट एक टेस्ट में 99% सही हो सकता है, लेकिन वह उन विशिष्ट तार्किक "शेड्स" पर विफल हो जाता है जो उसे स्पष्ट रूप से नहीं दिखाए गए थे।
अवरोध B: "खाली जगह भरने" का जाल (Fill-in-the-Blank Trap)
यह सबसे दिलचस्प हिस्सा है।
- पैटर्न रिकग्निशन (कलाकार): जब आप किसी इंसान को एक चित्र दिखाते हैं जिसमें एक छोटा सा हिस्सा गायब है, तो हमारा मस्तिष्क स्वचालित रूप से "खाली जगह को भर देता है" और एक पूरा वृत्त देखता है। हम हिस्सों से पूरे को पहचानने में माहिर हैं।
- तार्किक तर्क (न्यायाधीश): सख्त तर्क में, आपको ऐसी जानकारी जोड़ने की मनाही है जो वहां मौजूद नहीं है। यदि आधार कहता है "कुछ X, Y हैं," तो आप यह मान नहीं सकते कि "सभी X, Y हैं।" आपको बिल्कुल वही रहना होगा जो लिखा गया है।
- संघर्ष: रोबोट के पास दो काम हैं:
- कलाकार: चित्र को देखें और पूरे आकार का अनुमान लगाएं (गायब हिस्सों को भरना)।
- न्यायाधीश: तर्क को देखें और तय करें कि निष्कर्ष सत्य है या नहीं।
- टकराव: रोबोट का "कलाकार" वाला हिस्सा "भ्रमित" (hallucinate) होता रहता है और उन खाली जगहों को भर देता है जो वहां नहीं हैं (उदाहरण के लिए, एक आधे लाल वृत्त के बजाय पूरा लाल वृत्त देखना)। "न्यायाधीश" वाला हिस्सा फिर इस नकली, भरे हुए डेटा का उपयोग करके निर्णय लेता है।
- परिणाम: रोबोट गलती से सही उत्तर प्राप्त करता है (क्योंकि उसने खाली जगह को सही ढंग से भर दिया था), लेकिन गलत कारण से। या, वह गलत उत्तर प्राप्त करता है क्योंकि उसने एक ऐसी खाली जगह को भर दिया जिसे नहीं भरना चाहिए था। आप रोबोट को "खाली जगह भरने" से रोकने के लिए प्रशिक्षित नहीं कर सकते क्योंकि यही वह तरीका है जिससे वह छवियों को पहचानना सीखता है।
3. "परफेक्ट स्कोर" का भ्रम
लेखकों ने नवीनतम AI मॉडल (जैसे GPT-5) का परीक्षण किया और पाया कि वे इन तर्क पहेलियों पर 100% सटीकता प्राप्त कर सकते हैं। हालांकि, जब उन्होंने AI से उसके उत्तर का स्पष्टीकरण मांगा, तो उसने अक्सर एक गलत स्पष्टीकरण या सही उत्तर को सही ठहराने के लिए एक मनगढ़ंत कहानी (hallucination) दी।
- उपमा: कल्पना कीजिए कि एक छात्र गणित की परीक्षा में 100% बार सही उत्तर का अनुमान लगाता है, लेकिन वहां तक पहुँचने के लिए गलत स्टेप्स लिखता है। यदि शिक्षक केवल अंतिम संख्या की जांच करता है, तो छात्र को 'A' ग्रेड मिलता है। लेकिन यदि शिक्षक तर्क की जांच करता है, तो वह फेल हो रहा है।
- निष्कर्ष: क्योंकि प्रशिक्षण प्रक्रिया तब रुक जाती है जब रोबोट 100% सटीकता प्राप्त कर लेता है, इसलिए "गलत स्टेप्स" (खराब तर्क) को ठीक करने के लिए कोई दबाव नहीं बचता। रोबोट "अच्छे अनुमान लगाने" की सीमा तक पहुँच गया है, लेकिन वह "सही ढंग से सोचने" के स्तर तक नहीं पहुँचा है।
निचोड़
शोध पत्र निष्कर्ष निकालता है कि डेटा पर्याप्त नहीं है।
आप केवल अधिक डेटा खिलाकर या लंबे समय तक प्रशिक्षण देकर रोबोट की वास्तविक तार्किक समझ की कमी को ठीक नहीं कर सकते।
- प्रतीकात्मक तर्क (Symbolic Logic) एक GPS की तरह है जो एक सख्त मानचित्र का पालन करता है।
- डेटा-संचालित AI एक ऐसे पर्यटक की तरह है जिसने एक शहर की लाखों बार यात्रा की है और उसे शॉर्टकट पता हैं, लेकिन वह वास्तव में मानचित्र को नहीं समझता।
यदि आप एक ऐसा रोबोट चाहते हैं जो कठोर, अटूट तार्किक तर्क कर सके (जिसकी आवश्यकता कानून, चिकित्सा या जटिल विज्ञान में होती है), तो केवल वर्तमान AI विधियों को बढ़ाना काम नहीं करेगा। हमें पूरी तरह से एक अलग दृष्टिकोण की आवश्यकता है—एक ऐसा दृष्टिकोण जो मशीन के भीतर "नियमों की किताब" को विकसित करे, न कि केवल उसे अधिक "फोटो" दिखाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।