A criterion for Artificial General Intelligence: hypothetic-deductive reasoning, tested on ChatGPT
यह शोध पत्र कृत्रिम सामान्य बुद्धिमत्ता (Artificial General Intelligence) के लिए एक मौलिक मानदंड के रूप में परिकल्पनात्मक-निगमनात्मक तर्क (hypothetic-deductive reasoning) का प्रस्ताव करता है और परीक्षणों के माध्यम से यह प्रदर्शित करता है कि ChatGPT जैसे वर्तमान मॉडलों में जटिल संदर्भों में इस प्रकार के तर्क की केवल सीमित क्षमता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बड़ा सवाल: क्या AI वास्तव में "सोच" रहा है?
कल्पना कीजिए कि आपके पास एक ऐसा छात्र है जिसने पुस्तकालय की हर किताब पढ़ ली है। वह तथ्यों को सुना सकता है, गणित की समस्याओं को हल कर सकता है, और ऐसे निबंध लिख सकता है जो अविश्वसनीय रूप से बुद्धिमान लगते हैं। लेकिन यदि आप उससे पूछें, "आपने यह कैसे पता लगाया?" या "ऐसा क्यों होता है?", तो वह लड़खड़ा सकता है। वह शब्दों के पैटर्न का अनुमान लगाकर सही उत्तर दे सकता है, लेकिन वह उत्तर के पीछे के नियमों को वास्तव में नहीं समझता।
यह शोध पत्र पूछता है: क्या ChatGPT वास्तव में "सोच" रहा है, या यह केवल एक बहुत अच्छा अनुमान लगाने वाला (guesser) है?
लेखक, लुइस वर्वोट और उनकी टीम, तर्क देते हैं कि एक वास्तविक "सोचने वाली मशीन" (या आर्टिफिशियल जनरल इंटेलिजेंस, जिसे AGI कहा जाता है) कहलाने के लिए, एक AI को एक विशिष्ट कौशल में महारत हासिल करनी होगी जिसे परिकल्पनात्मक-निगमनात्मक तर्क (Hypothetic-Deductive Reasoning) कहा जाता है।
दो मुख्य कौशल
यह शोध पत्र "सोचने" को दो मुख्य क्षमताओं में विभाजित करता है:
1. कारण संबंधी तर्क (Causal Reasoning) ("डोमिनो" परीक्षण)
- यह क्या है: यह समझना कि यदि आप पहले डोमिनो को धक्का देते हैं, तो आखिरी वाला गिर जाता है। यह इस बारे में है कि क्या चीज़ किस कारण से होती है।
- शोध पत्र का परीक्षण: शोधकर्ताओं ने "न्यूरॉन आरेख" (डोमिनो के जटिल फ्लोचार्ट की तरह) का उपयोग किया। उन्होंने AI से पूछा: "यदि मैं इस लीवर को खींचता हूँ, तो कौन से अन्य लीवर हिलेंगे, और कौन से नहीं हिलेंगे?"
- परिणाम: AI सरल श्रृंखलाओं (chains) में ठीक था, लेकिन जब डोमिनो उलझ गए (जैसे कुछ लीवर्स द्वारा दूसरों को रोकना), तो AI भ्रमित हो गया। वह अक्सर मूल कारण को पहचानने में चूक गया या क्रम को गलत कर गया। यह एक ऐसे व्यक्ति की तरह था जो "कारण" शब्द तो जानता है लेकिन एक अस्त-व्यled कमरे में गिरते हुए डोमिनो के पथ का पता नहीं लगा सकता।
2. परिकल्पनात्मक-निगमनात्मक तर्क (Hypothetic-Deductive Reasoning) ("रेसिपी" परीक्षण)
- यह क्या है: यह "वैज्ञानिक" तरीके से सोचने का तरीका है। इसमें दो चरण शामिल हैं:
- परिकल्पना (Hypothesize): समस्या के लिए सही नियम पुस्तिका (सिद्धांत) चुनें।
- निगमन (Deduce): उस उत्तर तक पहुँचने के लिए उस नियम पुस्तिका के चरणों का पालन करें।
- शोध पत्र का परीक्षण: शोधकर्ताओं ने AI से भौतिकी (physics) और तर्क संबंधी पहेलियाँ पूछीं (जैसे, "यदि मैं क्यूब्स की एक पंक्ति को धक्का देता हूँ जहाँ एक बर्फ का बना है, तो कमरा गर्म होने पर क्या होगा?")।
- गुप्त हथियार: शोधकर्ताओं ने केवल उत्तर नहीं मांगा। उन्होंने AI से उन नियमों (परिकल्पनाओं) की सूची मांगी जिनका उपयोग उसने उस उत्तर तक पहुँचने के लिए किया था।
- उपमा: कल्पना कीजिए कि आप एक शेफ से पूछते हैं, "आपने यह सूप कैसे बनाया?" यदि वे कहते हैं, "मैंने बस चीजें डाल दीं," तो वे शायद भाग्यशाली हैं। यदि वे कहते हैं, "मैंने इस नियम का उपयोग किया कि नमक गर्म पानी में घुल जाता है और प्याज गाजर की तुलना में तेजी से पकता है," तो वे वास्तव में सोच रहे हैं।
जब ChatGPT का परीक्षण किया गया तो क्या हुआ?
शोधकर्ताओं ने पुराने संस्करण (ChatGPT-3.5) और नए, अधिक स्मार्ट संस्करण (ChatGPT-4) दोनों का परीक्षण किया।
"सही उत्तर, गलत कारण" की समस्या:
ChatGPT-4 अक्सर पहेलियों का सही उत्तर दे देता था। यह बहुत प्रभावशाली था! हालाँकि, जब इसे उपयोग किए गए नियमों को सूचीबद्ध करने के लिए कहा गया, तो इसने अक्सर मनगढ़ंत बातें बनाईं।- उदाहरण: एक परीक्षण में, AI ने सही अनुमान लगाया कि पानी की बाल्टी गिर जाएगी। लेकिन जब पूछा गया कि क्यों, तो इसने "इंसुलेटिंग शर्ट्स" के बारे में एक फर्जी नियम बना लिया जिसका वास्तविक भौतिकी से कोई लेना-देना नहीं था।
- रूपक: यह उस छात्र की तरह है जो गणित की समस्या को इसलिए हल कर लेता है क्योंकि उसने अंतिम संख्या याद कर ली है, लेकिन जब उसे अपना काम दिखाने के लिए कहा जाता है, तो वह एक ऐसा फॉर्मूला लिख देता है जो उसने मौके पर ही बना लिया हो।
निष्कर्ष:
शोध पत्र निष्कर्ष निकालता है कि जबकि ChatGPT मानवीय बातचीत की नकल (mimicking) करने और सरल समस्याओं को हल करने में अद्भुत है, इसमें वर्तमान में वास्तविक समझ की कमी है।- यह एक ऐसे तोते की तरह है जो "आकाश नीला है" को पूरी तरह से बोल सकता है, लेकिन वह यह नहीं समझता कि आकाश नीला क्यों है या भौतिकी के संदर्भ में "नीले" का वास्तव में क्या अर्थ है।
- जब समस्याएँ थोड़ी जटिल हुईं (अलग-अलग विचारों को मिलाना), तो AI विफल होने लगा। वह सही नियमों को सही उत्तरों से लगातार जोड़ने में असमर्थ रहा।
"AGI" का पैमाना
लेखक इस बात के लिए एक उच्च मानक निर्धारित करते हैं कि "आर्टिफिशियल जनरल इंटेलिजेंस" (AGI) क्या है। उनका तर्क है कि एक AI तब तक वास्तव में "सोच" नहीं रहा है जब तक कि वह निम्नलिखित कार्य न कर सके:
- एक समस्या को हल करना।
- स्पष्ट रूप से उन नियमों और सिद्धांतों को सूचीबद्ध करना जिनका उपयोग उसने समस्या को हल करने के लिए किया।
- विभिन्न प्रकार की समस्याओं (केवल एक नहीं) में इसे सही ढंग से करना।
निष्कर्ष:
अभी के लिए, ChatGPT एक शानदार तात्कालिक सुधारक (improviser) है। वह "जुगाड़" लगा सकता है और स्मार्ट लग सकता है। लेकिन उसने अभी तक यह साबित नहीं किया है कि उसके पास दुनिया के काम करने का एक गहरा, तार्किक मानचित्र है। एक सच्ची "सोचने वाली मशीन" बनने के लिए, उसे केवल अगले शब्द का अनुमान लगाना बंद करना होगा और यह साबित करना शुरू करना होगा कि वह शब्द क्यों सही है, चरण-दर-चरण, वास्तविक नियमों का उपयोग करके।
जब तक एक AI इन "नियमों की सूची बनाने" वाले परीक्षणों को लगातार पास नहीं कर लेता, शोध पत्र कहता है कि वह अभी तक एक सच्चा AGI नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।