Probabilistic Circuits for Knowledge Graph Completion with Reduced Rule Sets
यह शोध पत्र नॉलेज ग्राफ कंप्लीशन के लिए एक संभाव्य सर्किट-आधारित ढांचे (प्रोबेबिलिस्टिक सर्किट-आधारित फ्रेमवर्क) को प्रस्तुत करता है जो संक्षिप्त, उच्च-प्रदर्शन वाले नियम सेट सीखता है, जिससे बेसलाइन प्रदर्शन के 91% को बनाए रखते हुए नियमों की संख्या में 96% तक की कमी आती है और समान न्यूनतम नियमों के साथ पूर्ण बेसलाइनों से 31 तक बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को दुनिया को समझना सिखाने की कोशिश कर रहे हैं। आप उसके दिमाग में केवल एक विशाल विश्वकोश (encyclopedia) नहीं डाल देते; इसके बजाय, आप उसे तार्किक "यदि-तो" (if-then) नियम देते हैं, जैसे "यदि बारिश हो रही है, तो ज़मीन गीली है।" यह नॉलेज ग्राफ (Knowledge Graphs) की दुनिया है, जो लोगों, स्थानों और चीजों के बारे में तथ्यों को जोड़ने वाले विशाल डिजिटल मानचित्र हैं। नॉलेज ग्राफ कंप्लीशन (Knowledge Graph Completion) का लक्ष्य रोबोट को छूटे हुए तथ्यों का अनुमान लगाने में मदद करना है, जैसे कि यह पता लगाना कि यदि "एलिस, बॉब की बहन है" और "बॉब, चार्ली का भाई है," तो "एलिस, चार्ली की बहन है।"
लंबे समय तक, सबसे स्मार्ट रोबोट "ब्लैक बॉक्स" गणित का उपयोग करते थे जो अनुमान लगाने में तो बहुत अच्छे थे लेकिन यह समझाने में बहुत खराब थे कि उन्होंने कुछ क्यों अनुमानित किया। इसलिए, वैज्ञानिक वापस पुराने स्कूल के नियम-आधारित दृष्टिकोण की ओर गए क्योंकि यह पारदर्शी है: आप तर्क की सटीक श्रृंखला देख सकते हैं। लेकिन यहाँ एक पेंच है: इन नियम-आधारित रोबोटों को ब्लैक बॉक्स जितने स्मार्ट बनाने के लिए, उन्हें दसियों हज़ार नियमों को याद करने की आवश्यकता थी। यह एक रहस्य सुलझाने के लिए 20,000 किताबों की लाइब्रेरी पढ़ने जैसा है जब आपको वास्तव में केवल तीन पढ़ने की आवश्यकता होती है। उनमें से अधिकांश किताबें बस शेल्फ पर पड़ी रहती हैं, धूल फाँकती हैं, जिससे रोबोट धीमा, भ्रमित और समझने में कठिन हो जाता है।
यह शोध पत्र एक सरल, साहसी प्रश्न पूछता है: क्या हम रोबोट को नियमों के एक विशाल गोदाम के बजाय नियमों की एक छोटी, चुनिंदा लाइब्रेरी का उपयोग करके उतना ही स्मार्ट बना सकते हैं? लेखक, नॉलेज ग्राफ और तर्क के साथ काम करते हुए, "प्रोबेबिलिस्टिक सर्किट्स" (Probabilistic Circuits) नामक एक चतुर नई विधि प्रस्तावित करते हैं। इसे एक नियम पुस्तिका के रूप में नहीं, बल्कि एक सुपर-स्मार्ट लाइब्रेरियन के रूप में सोचें जो जानता है कि कौन से नियम मिलकर अच्छा काम करते हैं। प्रत्येक नियम को एक अलग तथ्य मानने के बजाय, यह लाइब्रेरियन सीखता है कि नियम आपस में कैसे "घुलते-मिलते" हैं। उन्होंने पाया कि इस विधि का उपयोग करके, वे आवश्यक नियमों की संख्या को 70% से 96% तक कम कर सकते हैं और फिर भी समान (या बेहतर) परिणाम प्राप्त कर सकते हैं। वास्तव में, जब उन्होंने अपने नए तरीके द्वारा चुने गए उसी छोटे से नियमों के समूह का उपयोग किया, तो यह पुराने तरीके की तुलना में 31 गुना अधिक सटीक था। उन्होंने साबित किया कि उनका दृष्टिकोण गणितीय रूप से सुदृढ़ है और यह किसी भी संदिग्ध धारणाओं पर निर्भर नहीं है, जो AI को अविश्वसनीय रूप से स्मार्ट और आश्चर्यजनक रूप से सरल समझने योग्य बनाने का एक तरीका प्रदान करता है।
समस्या: "नियमों का विस्फोट" (The "Rule Explosion")
कल्पना कीजिए कि आप एक केस सुलझाने की कोशिश कर रहे हैं एक जासूस हैं। पुराना तरीका (जो AnyBURL जैसे सिस्टम द्वारा उपयोग किया जाता है) यह है कि आप हर उस सुराग और सिद्धांत को इकट्ठा करें जो कभी भी लिखा गया है—शायद 20,000 सुराग। जब आप एक विशिष्ट रहस्य को सुलझाने की कोशिश करते हैं, तो सिस्टम उन सभी 20,000 सुरागों की जाँच करता है। समस्या क्या है? उनमें से अधिकांश उस विशिष्ट मामले के लिए बेकार हैं। UMLS (जो चिकित्सा शब्दों से संबंधित है) नामक एक डेटासेट पर, पुराने सिस्टम को शीर्ष स्कोर प्राप्त करने के लिए 20,000 नियमों की आवश्यकता थी, लेकिन वास्तव में केवल 12,938 का ही उपयोग किया गया था। यह 7,000 से अधिक बर्बाद नियम हैं जो डेस्क को अव्यवस्थित कर रहे हैं!
इससे तीन बड़ी समस्याएं पैदा होती हैं:
- भ्रम (Confusion): यदि आप सिस्टम से पूछते हैं "आपने यह कैसे पता लगाया?", तो यह 20,000 नियमों के ढेर की ओर इशारा करता है, जिससे यह बताना असंभव हो जाता है कि वास्तव में कौन से मायने रखते थे।
- मेमोरी ओवरलोड (Memory Overload): दसियों हज़ार नियमों को स्टोर और प्रबंधित करने के लिए बहुत अधिक कंप्यूटर मेमोरी की आवश्यकता होती है, जो एक समस्या है यदि आप इन नियमों को LLM जैसे अन्य स्मार्ट सिस्टम में फीड करना चाहते हैं जिनकी जगह सीमित है।
- धीमी सोच (Slow Thinking): जब आपको ज्यादातर बेकार नियमों के पहाड़ के माध्यम से खोज करनी पड़ती है, तो निरंतरता (consistency) की जाँच करना या जटिल "क्या होगा अगर" वाले सवालों के जवाब देना अविश्वसनीय रूप से धीमा और कठिन हो जाता है।
समाधान: "स्मार्ट लाइब्रेरियन" (प्रोबेबिलिस्टिक सर्किट्स)
लेखकों ने एक नया ढांचा पेश किया है जो एक स्मार्ट लाइब्रेरियन की तरह कार्य करता है। केवल नियमों को सूचीबद्ध करने के बजाय, यह लाइब्रेरियन नियमों के सेटों पर एक "प्रोबेबिलिटी डिस्ट्रीब्यूशन" सीखता है। सरल शब्दों में, सिस्टम सीखता है कि कौन से नियम एक टीम की तरह मिलकर काम करते हैं।
यह कैसे काम करता है:
- इंडिकेटर स्विच (The Indicator Switch): प्रत्येक नियम के लिए जिसे सिस्टम सीखता है, वे एक छोटा "स्विच" (इंडिकेटर) जोड़ते हैं जो यह तय करता है कि क्या वह नियम किसी विशिष्ट स्थिति के लिए सक्रिय है।
- टीम को सीखना (Learning the Team): सिस्टम प्रशिक्षण डेटा (तथ्य जो वह पहले से जानता है) को देखता है और सीखता है कि कौन से स्विच आमतौर पर एक साथ चालू होते हैं। यह प्रोबेबिलिस्टिक सर्किट (PC) नामक एक संरचना का उपयोग करता है। PC को एक फ्लोचार्ट के रूप में सोचें जो विभिन्न नियमों के संयोजनों के सच होने की संभावना की गणना करता है, बिना यह मान लिए कि प्रत्येक नियम स्वतंत्र रूप से कार्य करता है।
- स्वतंत्रता की धारणा का अभाव (No Independence Assumption): पुराने सिस्टमों में एक आम गलती यह मान लेना है कि नियम A का नियम B से कोई लेना-देना नहीं है। यह शोध पत्र सिद्ध करता है कि नियमों का एक-दूसरे पर प्रभाव पड़ता है। PC इन जटिल संबंधों को सीखता है, जिससे यह नियमों की एक छोटी, उच्च-प्रदर्शन वाली टीम चुनने में सक्षम होता है।
परिणाम: कम ही अधिक है (Less is More)
टीम ने 8 विभिन्न बेंचमार्क डेटासेट्स पर इसका परीक्षण किया, जिसमें मेडिकल रिकॉर्ड (UMLS) से लेकर पारिवारिक वंशावली (Kinship) और सामान्य ज्ञान (WN18RR) तक शामिल हैं। परिणाम चौंकाने वाले थे:
- भारी कमी (Massive Reduction): उन्होंने शीर्ष प्रदर्शन तक पहुँचने के लिए आवश्यक नियमों की संख्या को 70% से 96% तक कम कर दिया। उदाहरण के लिए, UMLS डेटासेट पर, वे समान शीर्ष स्कोर 0.964 (Hits@10) प्राप्त करने के लिए 20,000 नियमों से घटकर केवल 1,000 पर आ गए।
- "31x" का उछाल (The "31x" Boost): जब उन्होंने अपने छोटे, अनुकूलित नियमों के सेट की तुलना बेसलाइन सिस्टम से की, जिसने उतनी ही संख्या में नियम उपयोग किए थे, तो उनका तरीका 31 गुना तक बेहतर था। यह दर्शाता है कि पुराना सिस्टम सही कुछ नियमों को चुनने में बहुत खराब था, जबकि नया तरीका एक मास्टर सेलेक्टर था।
- उच्च दक्षता (High Efficiency): पुराने सिस्टम में, UMLS डेटासेट पर, केवल 64% नियमों का वास्तव में उपयोग किया गया था। नए सिस्टम में, 1,000 नियमों में से 86.8% सक्रिय थे। उन्होंने बेकार नियमों पर जगह बर्बाद करना बंद कर दिया।
- प्रदर्शन को बनाए रखना (Preserving Performance): इन छोटे नियम सेटों के साथ भी, सिस्टम ने बेसलाइन के पूर्ण, विशाल नियम सेट के 91% प्रदर्शन को सुरक्षित रखा।
उन्होंने इस नए सिस्टम का उपयोग करने के तीन अलग-अलग तरीके परीक्षण किए:
- SingletonLB: अनुमान लगाने के लिए एक बार में केवल एक नियम का उपयोग करता है (एक सरल, तेज़ दृष्टिकोण)।
- SingletonExact: एक एकल नियम के लिए सटीक संभावना की गणना करता है (बहुत सटीक)।
- GreedyLB: चरण-दर-चरण नियमों का एक छोटा समूह बनाता है (एक मध्यम मार्ग दृष्टिकोण)।
"SingletonExact" विधि स्टार रही, जो अक्सर बेसलाइन से भी बेहतर प्रदर्शन करती थी, भले ही बेसलाइन को अपने पूर्ण, विशाल लाइब्रेरी का उपयोग करने की अनुमति दी गई हो। उदाहरण के लिए, CODEX-S डेटासेट पर, नए तरीके ने केवल 5% नियमों (20,000 के मुकाबले 1,000) का उपयोग करके बेसलाइन के सर्वश्रेष्ठ स्कोर का 99.95% प्राप्त किया।
यह क्यों मायने रखता है
यह केवल कंप्यूटर मेमोरी बचाने के बारे में नहीं है; यह AI को भरोसेमंद बनाने के बारे में है। यदि एक AI डॉक्टर आपको बताता है कि किसी मरीज को एक विशिष्ट स्थिति है, तो आप जानना चाहेंगे कि क्यों। यदि कारण 20,000 नियमों की एक अव्यवस्थित सूची है, तो आप उस पर भरोसा नहीं कर सकते। यदि कारण 50 नियमों की एक स्पष्ट, संक्षिप्त श्रृंखला है जिन्हें सिस्टम सबसे अच्छा मानता है, तो आप तर्क को समझ और सत्यापित कर सकते हैं।
लेखकों ने दिखाया कि उनका तरीका ठोस गणित (निलसन के प्रोबेबिलिस्टिक लॉजिक) पर आधारित है, जिसका अर्थ है कि यह केवल एक तुक्का नहीं है; यह अनिश्चितता को संभालने का एक कठोर तरीका है बिना तथ्यों को मनगढ़ंत बनाए। उन्होंने यह भी नोट किया कि यह दृष्टिकोण किसी विशिष्ट प्रकार के नियम जनरेटर पर निर्भर नहीं है, जिसका अर्थ है कि यह किसी भी सिस्टम से सीखे गए नियमों के साथ काम कर सकता है, न कि केवल उसी के साथ जिसका उन्होंने उपयोग किया।
संक्षेप में, यह शोध पत्र सिद्ध करता है कि आपको एक रहस्य सुलझाने के लिए 20,000 किताबों की लाइब्रेरी की आवश्यकता नहीं है। सही "स्मार्ट लाइब्रेरियन" के साथ, आप इसे एक एकल, पूरी तरह से चुने हुए बुकशेल्फ़ के साथ हल कर सकते हैं, जिससे AI तेज़, स्पष्ट और पहले की तरह ही स्मार्ट बनता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।