Differentiable Logic Programming to Mitigate Reasoning Shortcuts in Neurosymbolic Systems
यह शोध पत्र एक नवीन मैट्रिक्स-आधारित विभेदनीय तर्क प्रोग्रामिंग ढांचे (differentiable logic programming framework) का प्रस्ताव करता है जो नियमों और बाधाओं के एक एकीकृत एन्कोडिंग को नियोजित करके न्यूरोसिम्बोलिक प्रणालियों में रीजनिंग शॉर्टकट्स को कम करता है, और प्रयोगों के माध्यम से यह प्रदर्शित करता है कि न्यूरल आउटपुट का तार्किक परमाणुओं (logical atoms) के साथ एक-से-एक ग्राउंडिंग, बाधा संतुष्टि और संज्ञानात्मक शॉर्टकट्स को रोकने में पारंपरिक सॉफ्ट प्रोबेबिलिटी दृष्टिकोणों की तुलना में काफी बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को दुनिया को समझना सिखा रहे हैं। आपके पास उसे सिखाने के लिए दो शक्तिशाली उपकरण हैं। पहला है एक न्यूरल नेटवर्क (Neural Network), जो एक बहुत ही सूक्ष्म अवलोकन करने वाले प्रशिक्षु की तरह है जो हजारों उदाहरणों को देखकर चित्रों, ध्वनियों और डेटा में पैटर्न पहचानने में बहुत कुशल हो जाता है। यह अनुमान लगाने में तो बेहतरीन है, लेकिन इसे वास्तव में यह "पता" नहीं होता कि चीजें ऐसी क्यों हैं; यह बस इतना जानता है कि आमतौर पर आगे क्या होता है। दूसरा उपकरण है सिंबोलिक लॉजिक (Symbolic Logic), जो एक सख्त नियम पुस्तिका या गणितीय नियमों के सेट की तरह है। यह तर्क करने और निर्देशों का पालन करने में उत्तम है, लेकिन यह एक धुंधली फोटो को देखकर यह अंदाजा लगाने में बहुत खराब है कि वह बिल्ली है या कुत्ता।
लंबे समय से, वैज्ञानिक इन दोनों उपकरणों को एक साथ जोड़ने की कोशिश कर रहे हैं ताकि "न्यूरोसिंबोलिक" (Neurosymbolic) सिस्टम बनाए जा सकें—ऐसे रोबोट जो दुनिया को स्पष्ट रूप से देख भी सकें और उसके बारे में तार्किक रूप से सोच भी सकें। सपना एक ऐसा AI बनाने का है जो इंसान जितना स्मार्ट हो, जो अनुभवों से सीख सके और ठोस तथ्यों पर आधारित हो। हालाँकि, इसमें एक पेंच है। जब आप एक रोबोट को तस्वीरें देखते समय नियमों का पालन करना सिखाते हैं, तो वह कभी-कभी "चालाकी" करने लगता है। वह वास्तव में यह सीखने के बजाय कि "6" कैसा दिखता है या जोड़ (addition) कैसे काम करता है, एक चतुर "चीट कोड" (cheat code) ढूंढ लेता है। वह नियमों को संतुष्ट करने का एक तरीका खोज लेता है बिना उस कठिन काम को किए जो उस अवधारणा (concept) को समझने के लिए आवश्यक है। यह शोध पत्र इन चालाक शॉर्टकट की जांच करता है और इन हाइब्रिड रोबोटों को बेहतर तरीके से सिखाने का एक बेहतर तरीका बनाने की कोशिश करता है ताकि वे अच्छे ग्रेड पाने के लिए धोखाधड़ी न कर सकें।
रोबोटिक मस्तिष्क के चालाक चीट कोड्स
AI की दुनिया में, शोधकर्ताओं अकीहिरो ताकेमुरा और कत्सुमी इनोउ ने पाया कि जब आप न्यूरल नेटवर्क को लॉजिक के साथ मिलाते हैं, तो परिणामी "न्यूरोसिंबोलिक" सिस्टम अक्सर सबसे आसान रास्ता चुनते हैं। उन्होंने पाया कि ये सिस्टम दो मुख्य तरीकों से धोखाधड़ी करते हैं:
"बचना ही बेहतर है" वाला शॉर्टकट: कल्पना कीजिए कि एक शिक्षक कहता है, "यदि आप एक लाल गेंद देखते हैं, तो आपको 'सेब' कहना होगा।" एक आलसी छात्र शायद यह निर्णय ले ले कि लाल गेंदों को खोजने की कोशिश ही न करे। वह नियम को संतुष्ट कर देता है (क्योंकि वह कभी लाल गेंद देखता ही नहीं, इसलिए उसे "सेब" कहने की आवश्यकता नहीं पड़ती), लेकिन उसने वास्तव में यह नहीं सीखा कि सेब क्या है। शोध पत्र में, इसे कन्स्ट्रेंट सेटिस्फेक्शन शॉर्टकट (constraint satisfaction shortcut) कहा गया है। रोबोट उस स्थिति से बचने के लिए सीख जाता है जो उस नियम को लागू करती है जिसे उसे लागू करना चाहिए था, बजाय इसके कि वह उस अवधारणा को सीखे जिसे नियम लागू करने के लिए बनाया गया है।
"गलत मानचित्र" वाला शॉर्टकट: कल्पना कीजिए कि एक छात्र को एक ऐसा मानचित्र दिया गया है जहाँ सड़कें आपस में मिली हुई हैं, लेकिन शिक्षक केवल यह जाँचता है कि छात्र मानचित्र पर दिए गए निर्देशों का पालन कर रहा है या नहीं। छात्र उस गलत मानचित्र के अनुसार पूरी तरह से गाड़ी चलाना सीख सकता है। वह तर्क (logic) को संतुष्ट करता है, लेकिन वह गलत जगह जा रहा होता है। यह एक कॉग्निशन शॉर्टकट (cognition shortcut) है। रोबोट एक ऐसा संबंध सीख जाता है जो गणितीय रूप से तो सही लगता है लेकिन वास्तविक दुनिया में पूरी तरह से गलत है, जो अक्सर इसलिए होता है क्योंकि प्रशिक्षण डेटा पक्षपाती या भ्रमित करने वाला था।
मैट्रिक्स समाधान: एक-से-एक मिलान (A One-to-One Match)
इसे ठीक करने के लिए, लेखक एक नया तरीका प्रस्तावित करते हैं जिसे मैट्रिक्स-आधारित दृष्टिकोण का उपयोग करके डिफरेंशिएबल लॉजिक प्रोग्रामिंग (Differentiable Logic Programming) कहा जाता है।
इन रोबोटों को सिखाने के एक मानक तरीके की कल्पना करें जो संभावनाओं के एक "धुंधले" बादल (fuzzy cloud) का उपयोग करता है। रोबोट कह सकता है, "मुझे 40% यकीन है कि यह 6 है, 30% यकीन है कि यह 8 है, और 30% यकीन है कि यह 9 है।" यह धुंधलापन धोखाधड़ी करने की अनुमति देता है। यह अपने "सत्य" को कई विकल्पों में इस तरह विभाजित कर सकता है कि वह नियमों को संतुष्ट तो कर दे, लेकिन कभी भी एक एकल, सही उत्तर के प्रति प्रतिबद्ध न हो।
लेखकों का नया तरीका एक धुंधले बादल से बदलकर एक सख्त, एक-से-एक मिलान खेल की तरह है। वे एक विशाल ग्रिड (मैट्रिक्स) का उपयोग करते हैं जहाँ प्रत्येक सेल बिल्कुल एक विशिष्ट तथ्य (जैसे "यह छवि एक 6 है") के अनुरूप होता है। यहाँ "शायद" के लिए कोई जगह नहीं है। यदि रोबोट को इस ग्रिड में एक नियम को संतुष्ट करना है, तो उसे एक विशिष्ट उत्तर के प्रति प्रतिबद्ध होना ही होगा। यदि नियम कहता है "यदि यह 6 है, तो योग 6 है," तो रोबोट केवल यह कहकर बच नहीं सकता कि "शायद यह 6 है।" उसे वास्तव में यह पता लगाना होगा कि वह छवि 6 है या नहीं।
यह एक सीधा संचार मार्ग (एक "ग्रेडिएंट पाथ") बनाता है जो गलती से वापस रोबोट के मस्तिष्क तक जाता है। यदि रोबोट गलत उत्तर देता है, तो त्रुटि का संकेत सीधे न्यूरल नेटवर्क के उस विशिष्ट हिस्से तक जाता है जिसने गलती की थी, जिससे उसे सही अवधारणा सीखने के लिए मजबूर किया जाता है, न कि कोई खामी ढूँढने के लिए।
प्रयोगों ने क्या दिखाया
लेखकों ने अपने विचार का परीक्षण एक क्लासिक पहेली का उपयोग करके किया: हस्तलिखित संख्याओं (जैसे अंक 0-9) को पहचानना और उन्हें आपस में जोड़ना। उन्होंने ऐसे पेचीदा परिदृश्य बनाए जहाँ रोबोट को धोखाधड़ी करने का प्रलोभन था।
"बचना ही बेहतर है" वाली धोखाधड़ी को हराना: एक परीक्षण में, रोबोट को बताया गया था, "यदि आप एक घुमा हुआ (rotated) 9 देखते हैं, तो वह 6 होना चाहिए।" एक आलसी रोबोट पूरी तरह से घुमे हुए 9 को पहचानना ही बंद कर सकता है ताकि नियम से बचा जा सके। लेखकों ने पाया कि उनके मैट्रिक्स पद्धति ने रोबोट को वास्तव में यह सीखने के लिए मजबूर किया कि 6 कैसा दिखता है, जिससे एक उच्च सटीकता (एक डेटासेट पर लगभग 96.7%) प्राप्त हुई, जहाँ अन्य विधियाँ पूरी तरह से विफल रहीं या केवल धोखाधड़ी करके नियम को संतुष्ट किया।
"गलत मानचित्र" वाली धोखाधड़ी को ठीक करना: दूसरे परीक्षण में, रोबोट को गणित की समस्याओं का एक पक्षपाती सेट दिया गया जहाँ केवल कुछ ही संख्याओं का उपयोग किया गया था। इसने रोबोट को संख्याओं के अर्थों को मिलाने (जैसे यह सोचना कि 3 वास्तव में 2 है) की अनुमति दी, जबकि वह गणित को सही रख सकता था। लेखकों ने दिखाया कि जैसे-जैसे उन्होंने मिश्रण में अधिक नियम जोड़े, उनकी विधि इन गड़बड़ियों को धीरे-धीरे ठीक करती गई, और अंततः लगभग 99.5% सटीकता तक पहुँच गई। अन्य विधियाँ, जो धुंधले लॉजिक (fuzzy logic) पर निर्भर थीं, अपनी शुरुआती गलतियों में ही फंसी रहीं और अधिक नियम मिलने पर भी खुद को ठीक नहीं कर सकीं।
निष्कर्ष
यह शोध पत्र सुझाव देता है कि इन AI चीट कोड्स को रोकने का रहस्य केवल बेहतर नियम या डेटा नहीं है; बल्कि यह है कि नियमों को सीखने की प्रक्रिया से कैसे जोड़ा जाता है। एक मैट्रिक्स प्रणाली का उपयोग करके जो रोबोट को स्पष्ट, बाइनरी निर्णय (हाँ/नहीं, सत्य/असत्य) लेने के लिए मजबूर करती है, यह सिस्टम रोबोट को उस "धुंधले" मध्य क्षेत्र में छिपने से रोकता है जहाँ वह धोखाधड़ी कर सकता है।
हालाँकि इन विशिष्ट संख्या-पहचान कार्यों के लिए परिणाम बहुत आशाजनक हैं, लेखक नोट करते हैं कि यह तो बस शुरुआत है। वे सुझाव देते हैं कि इस दृष्टिकोण को अधिक जटिल वास्तविक दुनिया की समस्याओं के लिए बढ़ाया जा सकता है, लेकिन फिलहाल, यह साबित करता है कि यदि आप चाहते हैं कि एक रोबोट वास्तव में दुनिया को समझे, तो आपको उसे धुंधली संभावनाओं के साथ खेलने देना बंद करना होगा और उसे सत्य के प्रति प्रतिबद्ध होने के लिए मजबूर करना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।