🤖 machine learning

EM-NeSy: Expectation Maximization for Neurosymbolic Learning

यह शोध पत्र EM-NeSy को प्रस्तुत करता है, जो एक नवीन न्यूरोसिम्बोलिक लर्निंग फ्रेमवर्क है जो एक्सपेक्टेशन-मैक्सिमाइज़ेशन (Expectation-Maximization) एल्गोरिदम का लाभ उठाकर स्केलेबल और कुशल प्रशिक्षण को सक्षम बनाता है, जिससे प्रतीकात्मक घटक (symbolic component) के डिफरेंशिएबल होने की आवश्यकता नहीं होती है, और इस प्रकार यह सटीक और अनुमानित दोनों प्रकार के तर्क (reasoning) का समर्थन करता है।

मूल लेखक: Annegret Seibt, Luc De Raedt, Giuseppe Marra

प्रकाशित 2026-06-15

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Annegret Seibt, Luc De Raedt, Giuseppe Marra

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक बड़ी तस्वीर: एक रोबोट को सोचना और तर्क करना सिखाना

कल्पना कीजिए कि आप एक रोबोट को एक साथ दो चीजें सिखाने की कोशिश कर रहे हैं:

प्रत्यक्षण (Perception): यह समझना कि एक धुंधली फोटो को देखकर उसमें मौजूद वस्तुओं का अनुमान कैसे लगाया जाए (जैसे किसी हस्तलिखित नंबर को पहचानना)। यह एक न्यूरल नेटवर्क ( "न्यूरल" वाला हिस्सा) द्वारा किया जाता है।
तर्क (Reasoning): यह जांचना कि क्या वे वस्तुएं नियमों के सेट के अनुसार एक साथ सही अर्थ रखती हैं (जैसे यह जांचना कि क्या सुडोकू पहेली वैध है)। यह सिंबोलिक लॉजिक ("सिंबोलिक" वाला हिस्सा) द्वारा किया जाता है।

वर्तमान तरीके इन दोनों हिस्सों को एक "तार" (wire) से जोड़कर उन्हें एक साथ सिखाने की कोशिश करते हैं जो रोबोट को अपनी गलतियों से सीखने की अनुमति देता है। हालांकि, इस तार में एक समस्या है: यदि तर्क वाला हिस्सा बहुत जटिल है या ऐसा तरीका उपयोग करता है जो गणित के अनुकूल नहीं है (जैसे रैंडम सैंपलिंग), तो वह "तार" टूट जाता है। रोबोट सीख नहीं पाता क्योंकि वह अपनी गलतियों को सुधारने के लिए सटीक दिशा की गणना नहीं कर सकता।

EM-NESY रोबोट को सिखाने का एक नया तरीका है जो इस "तार" को पूरी तरह से हटा देता है। दोनों हिस्सों को सीखने की प्रक्रिया के दौरान लगातार एक-दूसरे से बात करने के लिए मजबूर करने के बजाय, यह उन्हें बारी-बारी से काम करने की अनुमति देता है।

उपमा: कला समीक्षक और प्रशिक्षु (The Art Critic and the Apprentice)

यह समझने के लिए कि EM-NESY कैसे काम करता है, एक प्रशिक्षु कलाकार (The Apprentice Artist - न्यूरल नेटवर्क) और एक सख्त कला समीक्षक (The Strict Art Critic - सिंबोलिक लॉजिक) की कल्पना करें।

पुराना तरीका (एंड-टू-एंड लर्निंग)

पुराने तरीके में, प्रशिक्षु एक चित्र बनाता है, और समीक्षक तुरंत चिल्लाता है, "यह गलत है!" समीक्षक फिर यह समझाने की कोशिश करता है कि कौन सा ब्रशस्ट्रोक गलत था और उसे कैसे ठीक किया जाए।

समस्या: यदि समीक्षक के नियम बहुत जटिल हैं (जैसे एक जटिल सुडोकू पहेली) या यदि समीक्षक एक ऐसा तरीका उपयोग करता है जिसे चरण-दर-चरण समझाना कठिन है (जैसे रैंडम अनुमान लगाना), तो समीक्षक अटक जाता है। वह यह बताने में असमर्थ हो जाता है कि ब्रशस्ट्रोक को कैसे सुधारा जाए। प्रशिक्षु भ्रमित रह जाता है और सुधार नहीं कर पाता।

नया तरीका (EM-NESY)

EM-NESY कार्यप्रवाह को दो अलग-अलग चरणों में बदल देता है, जैसे कि एक रिहर्सल प्रक्रिया:

चरण 1: समीक्षक की समीक्षा (The "Expectation" Step)
प्रशिक्षु अपने वर्तमान कौशल के आधार पर एक चित्र बनाता है। समीक्षक उस चित्र को और सही उत्तर (लेबल) को देखता है।
ब्रशस्ट्रोक को कैसे ठीक किया जाए, यह समझाने के बजाय, समीक्षक बस सुधारों की एक सूची लिख देता है।

उदाहरण: "तुमने सोचा कि यह अंक 3 है, लेकिन सुडोकू के नियमों के अनुसार, इसकी 70% संभावना कि यह 5 है और 30% संभावना कि यह 6 है।"
मुख्य बिंदु: समीक्षक यह किसी भी विधि का उपयोग करके करता है। वे जटिल गणित, रैंडम अनुमान, या सख्त तर्क का उपयोग कर सकते हैं। इससे कोई फर्क नहीं पड़ता कि वे अपने तर्क को चरण-दर-चरण समझा सकते हैं या नहीं; उन्हें बस संभावनाओं की अंतिम सूची (पोस्टीरियर) तैयार करनी होती है।

चरण 2: प्रशिक्षु का अभ्यास (The "Maximization" Step)
समीक्षक सुधारों की वह सूची प्रशिक्षु को सौंप देता है। प्रशिक्षु अपने मूल अनुमान और समीक्षक के सुधारों को देखता है।

प्रशिक्षु सोचता है: "मैंने 3 का अनुमान लगाया था। समीक्षक कहता है कि मुझे 5 या 6 का अनुमान लगाना चाहिए था। मुझे अपने दिमाग को इस तरह ढालना होगा कि अगली बार 5 या 6 आने की संभावना अधिक हो।"
प्रशिक्षु अपने आंतरिक सेटिंग्स (न्यूरल पैरामीटर्स) को समीक्षक की सूची के अनुसार अपडेट करता है।
मुख्य बिंदु: इस चरण में समीक्षक शामिल नहीं होता है। समीक्षक की सूची को एक निश्चित तथ्य के रूप में माना जाता है। प्रशिक्षु को केवल यह सीखना होता है कि अपनी पेंटिंग शैली को कैसे बदला जाए।

यह एक बड़ी बात क्यों है?

1. यह "असीखने योग्य" तर्क को अनलॉक करता है
कुछ तर्क संबंधी समस्याएं इतनी कठिन होती हैं कि आप सटीक उत्तर की गणना नहीं कर सकते, या उत्तर खोजने का तरीका "नॉन-डिफरेंशिएबल" (गणितीय रूप से अव्यवस्थित) होता है।

उपमा: कल्पना कीजिए कि समीक्षक उत्तर खोजने के लिए पासे (dice) फेंकने वाली विधि का उपयोग करता है। पुराने तरीके में, आप प्रशिक्षु को नहीं सिखा सकते थे क्योंकि आप पासे के रोल को ब्रशस्ट्रोक तक वापस नहीं ले जा सकते थे।
EM-NESY के साथ: समीक्षक पासे फेंकता है, परिणाम प्राप्त करता है, और उसे लिख देता है। प्रशिक्षु बस परिणाम से सीखता है। पासा फेंकने वाला जटिल हिस्सा सीखने की प्रक्रिया से पूरी तरह से छिपा रहता है।

2. यह तेज़ है और कम मेमोरी का उपयोग करता है
पेपर दिखाता है कि जब तर्क इतना सरल होता है कि उसकी सटीक गणना की जा सकती है, तो यह नया तरीका पुराने तरीके जितना ही सटीक होता है लेकिन बहुत तेज़ होता है।

उपमा: यह ऐसा है जैसे यह महसूस करना कि आपको हर बार गलती होने पर ब्रह्मांड के पूरे इतिहास की पुनर्गणना करने की आवश्यकता नहीं है। आपको बस अंतिम निर्णय की आवश्यकता है। यह बहुत अधिक कंप्यूटर मेमोरी और समय बचाता है, जिससे रोबोट बड़े पहेलियों (जैसे 100 अंकों वाले सुडोकू ग्रिड) को हल कर सकता है जो पुराने सिस्टम को क्रैश कर देते।

3. यह किसी भी "समीक्षक" के साथ काम करता है
चूंकि समीक्षक को गणितीय रूप से "स्मूथ" या डिफरेंशिएबल होने की आवश्यकता नहीं है, इसलिए आप किसी भी मौजूदा लॉजिक इंजन को प्लग इन कर सकते हैं, यहाँ तक कि उन्हें भी जो पहले न्यूरल नेटवर्क के साथ उपयोग करना बहुत कठिन था।

प्रयोगों ने क्या दिखाया

लेखकों ने तीन प्रकार की पहेलियों पर इसका परीक्षण किया:

हस्तलिखित नंबर जोड़ना: उन्होंने दिखाया कि EM-NESY विशाल योग (100 अंक) को संभाल सकता है जिसे अन्य तरीके पूरा भी नहीं कर सके, जबकि कम मेमोरी का उपयोग करता है।
विजुअल सुडोकू: उन्होंने दिखाया कि यह उन पहेलियों से सीख सकता है जहाँ नियम सख्त थे, भले ही लॉजिक भाग को हल करने के लिए अनुमानित तरीकों (जैसे रैंडम सैंपलिंग) का उपयोग किया गया हो।
मैप पर पाथफाइंडिंग (रास्ता खोजना): उन्होंने दिखाया कि यह ग्रिड पर सबसे छोटा रास्ता खोजने में सीख सकता है, एक ऐसा कार्य जहाँ अन्य तरीके संघर्ष कर रहे थे क्योंकि तर्क बहुत जटिल था।

निष्कर्ष

यह पेपर प्रस्तावित करता है कि EM-NESY न्यूरोसिंबोलिक लर्निंग को "टर्न-बेस्ड" (बारी-बारी से खेले जाने वाले) खेल की तरह मानता है।

टर्न 1: लॉजिक इंजन (समीक्षक) यह पता लगाता है कि सही उत्तर क्या होना चाहिए था, चाहे उसके पास जो भी उपकरण हों।
टर्न 2: न्यूरल इंजन (प्रशिक्षु) उन उत्तरों से मेल खाने के लिए अपने दिमाग को एडजस्ट करता है।

यह सरल बदलाव AI को जटिल, अस्त-व्यस्त या अनुमानित तर्क से सीखने की अनुमति देता है, बिना यह आवश्यकता के कि तर्क को गणितीय रूप से पूर्ण या डिफरेंशिएबल होना पड़े। यह AI को जो देख भी सकता है और सोच भी सकता है, उसे बहुत अधिक लचीला और स्केलेबल बनाता है।

तकनीकी सारांश: EM-NESY: न्यूरोसिम्बोलिक लर्निंग के लिए एक्सपेक्टेशन मैक्सिमाइजेशन (Expectation Maximization)

समस्या विवरण (Problem Statement)

न्यूरोसिम्बोलिक (NeSy) मॉडल तंत्रिका नेटवर्क (neural networks) की संवेदी क्षमताओं को प्रतीकात्मक तर्क (symbolic logic) की तर्क करने की क्षमताओं के साथ एकीकृत करने का लक्ष्य रखते हैं। जबकि अत्याधुनिक NeSy मॉडल आमतौर पर न्यूरल और सिम्बोलिक दोनों घटकों के माध्यम से ग्रेडिएंट्स को बैकप्रोपैगेट करके एंड-टू-एंड प्रशिक्षण प्राप्त करते हैं, यह दृष्टिकोण महत्वपूर्ण चुनौतियों का सामना करता है जब सिम्बोलिक घटक अनुमानित अनुमान (approximate inference) पर निर्भर होता है।

सटीक संभाव्यता अनुमान (Exact probabilistic inference) जटिल कार्यों के लिए #P-हार्ड और कम्प्यूटेशनल रूप से अव्यवहार्य (intractable) है। फलस्वरूप, कई सिस्टम अनुमानित अनुमान विधियों (जैसे, सैंपलिंग, बिलीफ प्रोपेगेशन, या लीनियर-प्रोग्रामिंग रिलैक्सेशन) का सहारा लेते हैं। हालाँकि, ये विधियाँ विभेदन (differentiability) संबंधी समस्याएँ उत्पन्न करती हैं:

गैर-विभेदनशीलता (Non-differentiability): सैंपलिंग जैसी तकनीकें स्वाभाविक रूप से गैर-विभेदनशील होती हैं, जिसके लिए विशेष ग्रेडिएंट एस्टिमेटर्स (जैसे, REINFORCE) या रीपैरामीट्राइजेशन ट्रिक्स की आवश्यकता होती है।
कम्प्यूटेशनल ओवरहेड (Computational Overhead): यहाँ तक कि सैद्धांतिक रूप से विभेदन योग्य पुनरावृत्ति विधियाँ (जैसे, बिलीफ प्रोपेगेशन) भी व्यवहार में पूरे इटरेशन के माध्यम से बैकप्रोगेट करने के लिए आवश्यक विशाल कम्प्यूटेशनल ग्राफ के कारण अव्यवहार्य हो जाती हैं।

वर्तमान समाधान अक्सर विभेदन सुनिश्चित करने के लिए अनुमान-विशिष्ट संशोधनों की मांग करते हैं, जो NeSy सिस्टम की लचीलापन और स्केलेबिलिटी को सीमित करते हैं।

कार्यप्रणाली: EM-NeSy

लेखक EM-NeSy प्रस्तावित करते हैं, जो NeSy लर्निंग को एक्सपेक्टेशन-मैक्सिमाइजेशन (EM) एल्गोरिदम के एक उदाहरण के रूप में प्रस्तुत करता है। यह फॉर्मूलेशन सिम्बोलिक इन्फरेंस प्रक्रिया को ग्रेडिएंट गणना से अलग (decouple) करता है, जिससे किसी भी इन्फरेंस इंजन (सटीक या अनुमानित, विभजनशील या गैर-विभजनशील) का उपयोग करना संभव हो जाता है।

ढांचा (The Framework)

NeSy मॉडल को एक लेटेंट वेरिएबल मॉडल के रूप में माना जाता है जहाँ:

$X$ : सबसिम्बोलिक इनपुट (जैसे, चित्र)।
$Z$ : लेटेंट सिम्बोलिक वेरिएबल्स (न्यूरल रूप से अनुमानित)।
$Y$ : टार्गेट सिम्बोलिक आउटपुट (जैसे, सुडोकू ग्रिड की वैधता)।
$\theta$ : न्यूरल नेटवर्क पैरामीटर्स।

लर्निंग प्रक्रिया दो चरणों में बारी-बारी से चलती है:

E-स्टेप (Expectation):
सिम्बोलिक घटक ऑब्जर्व्ड लेबल $Y$ और इनपुट $X$ की स्थिति में लेटेंट वेरिएबल्स $Z$ का पोस्टीरियर वितरण (posterior distribution) कंप्यूट करता है:
$p(z|y, x, \theta) = \frac{p_{Ne}(z|x, \theta)p_{Sy}(y|z)}{p(y|x, \theta)}$
यहाँ, $p_{Ne}$ न्यूरल प्रायर है और $p_{Sy}$ सिम्बोलिक लाइकलीहुड है। महत्वपूर्ण रूप से, यह चरण एक "प्रोबेबिलिस्टिक करेक्टर" के रूप में कार्य करता है, जो बैकग्राउंड नॉलेज के आधार पर $Z$ के लिए सॉफ्ट या हार्ड लेबल्स का अनुमान लगाता है। इस चरण को बिना विभेदनशीलता की आवश्यकता के किसी भी सिम्बोलिक इन्फरेंस इंजन (सटीक, अनुमानित, सैंपलिंग-आधारित) द्वारा किया जा सकता है।
M-स्टेप (Maximization):
न्यूरल पैरामीटर्स $\theta$ को E-स्टेप में कंप्यूट किए गए न्यूरल प्रायर $p_{Ne}(z|x, \theta)$ और पोस्टीरियर $\ell(z)$ के बीच क्रॉस-एन्ट्रॉपी को कम करके अपडेट किया जाता है:
$L_{EM-NeSy}(\theta) = -\sum_{z \in R(Z)} \ell(z) \log p_{Ne}(z|x, \theta)$
ग्रेडिएंट्स को केवल न्यूरल घटक के माध्यम से बैकप्रोपैगेट किया जाता है, जहाँ पोस्टीरियर $\ell(z)$ को एक स्थिरांक (constant) माना जाता है। यह सिम्बोलिक इन्फरेंस प्रक्रिया के माध्यम से डिफरेंशिएशन की आवश्यकता को समाप्त करता है।

सैद्धांतिक समानता (Theoretical Equivalence)

पेपर सिद्ध करता है कि सटीक अनुमान (exact inference) के तहत, EM-NeSy द्वारा कंप्यूट किए गए ग्रेडिएंट्स मानक एंड-टू-एंड डिफरेंशिएबल NeSy लर्निंग के गणितीय रूप से समान होते हैं (थ्योरम 3.1)। इस प्रकार, EM-NeSy मानक सेटिंग को रिकवर करता है जब सटीक अनुमान संभव हो, लेकिन यह एक अलग लाभ प्रदान करता है जब वह नहीं होता है।

वेरिएंट और विस्तार (Variants and Extensions)

Hard EM: सॉफ्ट पोस्टीरियर्स के बजाय मैक्सिमम ए पोस्टीरियर (MAP) असाइनमेंट्स का उपयोग करता है।
Multi-M EM: एक एकल E-स्टेप के लिए कई M-स्टेप्स (ग्रेडिएंट अपडेट) करता है ताकि पोस्टीरियर को पुन: कंप्यूट किए बिना अभिसरण (convergence) को तेज किया जा सके।
Approximate Inference: यह ढांचा बिना किसी संशोधन के सैंपलिंग-आधारित विधियों (जैसे, रिजेक्शन सैंपलिंग, ABC सैंपलिंग) और इटरेटिव एल्गोरिदम (जैसे, बिलीफ प्रोपेगेशन) को स्वाभाविक रूप से सपोर्ट करता है।

मुख्य योगदान (Key Contributions)

NeSy लर्निंग का पुनर्गठन: लेखकों ने NeSy लर्निंग को EM फ्रेमवर्क के भीतर पुनर्गठित किया है, जिससे बेहतर लचीलेपन के लिए उन्नत EM वेरिएंट (सामान्यीकृत EM, स्टोकेस्टिक EM, हार्ड EM) का उपयोग सक्षम हुआ है।
डिफरेंशिएबिलिटी-मुक्त एकीकरण: एक सामान्य ढांचा प्रस्तावित किया गया है जो किसी भी संभाव्यता इन्फरेंस इंजन को बिना किसी संशोधन के NeSy मॉडल में एकीकृत करता है, जिसमें सिम्बोलिक इन्फरेंस प्रक्रिया के विभजनशील होने की आवश्यकता नहीं है।
स्केलेबिलिटी और दक्षता: दृष्टिकोण प्रदर्शित करता है कि NeSy लर्निंग उन कार्यों तक स्केल कर सकती है जहाँ सटीक अनुमान अव्यवहार्य है या जहाँ इटरेटिव सॉल्वर के माध्यम से डिफरेंशिएशन करना कम्प्यूटेशनल रूप से अत्यधिक महंगा है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन बेंचमार्क पर EM-NeSy का मूल्यांकन किया: MNISTAdd (हाथ से लिखे अंकों का जोड़), Visual Sudoku, और Warcraft path-planning।

सटीक अनुमान (MNISTAdd): EM-NeSy ने मानक एंड-टू-एंड डिफरेंशिएबल NeSy (BP-std) और DeepStochLog के समान सटीकता प्राप्त की। हालाँकि, इसने स्केलेबिलिटी और दक्षता में उन्हें काफी पीछे छोड़ दिया। जहाँ DeepStochLog नॉलेज कंपाइलेशन सीमाओं के कारण 15 अंकों तक स्केल करने में विफल रहा, वहीं EM-NeSy 100 अंकों तक स्केल कर सका। इसने पीक मेमोरी उपयोग को ~90 GB से घटाकर ~35 GB कर दिया और प्रशिक्षण समय भी कम किया।
अनुमानित/गैर-विभजनशील अनुमान:
- Visual Sudoku: मानक डिफरेंशिएबल विधियाँ (Scallop, SL) 9x9 ग्रिड पर टाइम-आउट हो गईं। ABC सैंपलिंग का उपयोग करने वाला EM-NeSy न्यूनतम प्रशिक्षण समय (8.24 मिनट) के साथ प्रतिस्पर्धी सटीकता (53.3%) प्राप्त करने में सफल रहा, जबकि अन्य विधियाँ लागू करने योग्य ही नहीं थीं।
- Warcraft Path-Planning: ABC सैंपलिंग के साथ EM-NeSy ने I-MLE और EXAL की तुलना में काफी तेज़ प्रशिक्षण समय के साथ स्टेट-ऑफ-द-आर्ट सटीकता (12x12 पर 98.80%, 30x30 पर 69.60%) प्राप्त की।
देखे गए सीमाएँ (Limitations Observed): EM-NeSy का प्रदर्शन अनुमानित पोस्टीरियर की गुणवत्ता पर निर्भर करता है। MNISTAdd पर Hard EM (MAP) ने बायस (bias) दिखाया, और लोपी बिलीफ प्रोपेगेशन 9x9 सुडोकू पर फैक्टर ग्राफ संरचना के कारण विफल रहा। बड़े इंस्टेंस पर ABC सैंपलिंग ने उच्च वेरिएंस दिखाया लेकिन छोटे सेटिंग्स में प्रभावी रहा।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि EM-NeSy एक एकीकृत लर्निंग फ्रेमवर्क प्रदान करता है जो इन्फरेंस-विशिष्ट विभजनशीलता संशोधनों की आवश्यकता को समाप्त करके मॉडल डिजाइन को काफी सरल बनाता है। NeSy लर्निंग को EM समस्या के रूप में मानकर, यह दृष्टिकोण:

किसी भी सिम्बोलिक इन्फरेंस इंजन के उपयोग की अनुमति देता है, जिसमें विशेषज्ञ, अनुकूलित या गैर-विभजनशील सॉल्वर शामिल हैं।
सटीक अनुमान के तहत मानक एंड-टू-एंड लर्निंग को रिकवर करता है जबकि बेहतर कम्प्यूटेशनल दक्षता और मेमोरी स्केलेबिलिटी प्रदान करता है।
NeSy सिस्टम को उन कार्यों से निपटने में सक्षम बनाता है जिनमें जटिल, कॉम्बिनेटोरियल बाधाएं (जैसे पाथ प्लानिंग या सुडोकू) शामिल हैं, जहाँ सटीक अनुमान अव्यवहार्य है और डिफरेंशिएबल एप्रोक्सिमेशन बनाना कठिन है।

लेखक निष्कर्ष निकालते हैं कि हालांकि EM-NeSy प्रभावी एप्रोक्सिमेशन चुनने की समस्या को हल नहीं करता है (जो कार्य-निर्भर बना हुआ है), यह विभजनशीलता की बाधा को हटा देता है, जिससे अधिक स्केलेबल और लचीले न्यूरोसिम्बोलिक सिस्टम संभव होते हैं।