Learning Chain Of Thoughts Prompts for Predicting Entities, Relations, and even Literals on Knowledge Graphs
यह शोध पत्र RALP को प्रस्तुत करता है, जो एक प्रॉम्प्ट-लर्निंग फ्रेमवर्क है जो नॉलेज ग्राफ पर एंटिटीज, रिलेशंस और लिटरल्स की भविष्यवाणी करने के लिए अनुकूलित चेन-ऑफ-थॉट प्रॉम्प्ट्स के साथ लार्ज लैंग्वेज मॉडल्स का लाभ उठाता है, जो बिना ग्रेडिएंट एक्सेस के सामान्यीकरण (जनरलाइजेशन) और OWL रीजनिंग कार्यों में पारंपरिक एम्बेडिंग-आधारित मॉडल्स से काफी बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र (paper) का सरल भाषा, रचनात्मक उपमाओं और रूपकों के साथ हिंदी अनुवाद दिया गया है।
बड़ी तस्वीर: "गणित वाले दिमाग" से "कहानीकारों" तक
कल्पना कीजिए कि आपके पास दुनिया के तथ्यों की एक विशाल, बिखरी हुई लाइब्रेरी है। यह एक नॉलेज ग्राफ (Knowledge Graph) है। यह स्टिकी नोट्स के एक विशाल जाल की तरह है जहाँ एक नोट कहता है "पेरिस," दूसरा कहता है "फ्रांस," और तीसरा कहता है "राजधानी है।"
लंबे समय तक, कंप्यूटरों ने "क्या गायब है?" (जैसे, "पेरिस किसकी राजधानी है...?") की पहेली को हल करने की कोशिश की, इसके लिए हर शब्द को संख्याओं के एक गुप्त कोड (वेक्टर्स) में बदल दिया। इसे एक "गणित वाले दिमाग" (Math Brain) की तरह समझें। यह नंबरों को प्रोसेस करने में बहुत अच्छा है, लेकिन अगर यह कोई ऐसा नया शब्द देखता है जो इसने पहले कभी नहीं देखा (जैसे कोई बिल्कुल नया शहर), तो यह भ्रमित हो जाता है क्योंकि इसके पास उसके लिए कोई नंबर कोड नहीं होता। यह टेक्स्ट के रूप में लिखे गए नंबरों (जैसे "1.2 मिलियन लोग") के साथ भी संघर्ष करता है क्योंकि यह अपनी गुप्त गणितीय भाषा को पसंद करता है।
यह शोध पत्र RALP नामक एक नया दृष्टिकोण पेश करता है। एक "गणित वाले दिमाग" के बजाय, RALP एक "कहानीकार" (Storyteller) (एक लार्ज लैंग्वेज मॉडल या LLM) का उपयोग करता है। यह केवल नंबरों को नहीं देखता; यह तथ्यों को एक कहानी की तरह पढ़ता है और गायब हिस्सों का अनुमान लगाने के लिए तर्क (logic) का उपयोग करता है।
मुख्य विचार: "जादुई प्रॉम्प्ट" (The Magic Prompt)
पुराने तरीके में, कंप्यूटर को लाइब्रेरी के "नियमों" को सीखने के लिए महीनों तक प्रशिक्षित (train) करना पड़ता था। नए तरीके (RALP) में, कंप्यूटर को एक "जादुई प्रॉम्प्ट" दिया जाता है।
जादुई प्रॉम्प्ट को एक व्यक्तिगत निर्देश पुस्तिका (instruction manual) या एक चीट शीट की तरह समझें जो कंप्यूटर को बताती है: "हे, तुम भूगोल के विशेषज्ञ हो। जब तुम एक देश और 'स्थित है' शब्द देखो, तो उत्तर देने से पहले महाद्वीपों और सीमाओं के बारे में सोचो।"
इस शोध पत्र की बड़ी सफलता यह पता लगाने में है कि बिना किसी इंसान द्वारा इसे लिखे या बिना भारी गणितीय प्रशिक्षण के, सबसे अच्छा संभव चीट शीट स्वचालित रूप से कैसे बनाया जाए।
यह कैसे काम करता है: "MIPRO" शेफ
आप एकदम सही चीट शीट कैसे ढूंढते हैं? आप लाखों अलग-अलग चीट शीट लिखने की कोशिश कर सकते हैं, लेकिन इसमें बहुत समय लगता है।
लेखक MIPRO नामक एक स्मार्ट एल्गोरिदम का उपयोग करते हैं। कल्पना कीजिए कि एक मास्टर शेफ (Master Chef) सूप की एकदम सही रेसिपी खोजने की कोशिश कर रहा है।
- शेफ एक बैच चखता है (एक प्रॉम्प्ट आजमाता है)।
- यदि स्वाद खराब है, तो शेफ सामग्री में बदलाव करता है (प्रॉम्प्ट के शब्दों को बदलता है)।
- यदि स्वाद अच्छा है, तो शेफ उस रेसिपी को याद रखता है।
- शेफ यह सब बहुत तेज़ी से करता है, एक "स्मार्ट अनुमान" प्रणाली (Bayesian Optimization) का उपयोग करके, ताकि वह खराब रेसिपी को छोड़कर केवल आशाजनक रेसिपी पर ध्यान केंद्रित कर सके।
놀랍게 भी (आश्चर्य की बात यह है), शेफ 30 से भी कम टेस्ट (स्वाद परीक्षण) का उपयोग करके एकदम सही रेसिपी खोज सकता है। उसे लाखों बर्तन बनाने की ज़रूरत नहीं है। वह बहुत तेज़ी से डेटा के "स्वाद" को सीख जाता है।
यह नया सिस्टम क्या कर सकता है?
यह शोध पत्र दिखाता है कि RALP तीन ऐसे काम करता है जिनमें पुराने सिस्टम संघर्ष करते थे:
1. "अनदेखा" जासूस (सामान्यीकरण/Generalization)
- समस्या: पुराने सिस्टम तब फंस जाते हैं जब वे कोई नई इकाई (जैसे कोई नया खोजा गया ग्रह या कोई व्यक्ति जो उनके डेटाबेस में नहीं है) देखते हैं।
- RALP का समाधान: क्योंकि RALP शब्दों के अर्थ को पढ़ता है, यदि आप उसे बताते हैं कि "X एंड्रोमेडा गैलेक्सी में एक ग्रह है," तो वह अनुमान लगा सकता है कि X शायद "दूर" है या "उसका एक तारा है," भले ही उसने पहले कभी X के बारे में न सुना हो। यह केवल डेटाबेस लुकअप नहीं, बल्कि सामान्य ज्ञान (common sense) का उपयोग करता है।
2. "गणित के शब्दों" का अनुवादक (Literal Prediction)
- समस्या: पुराने सिस्टम टेक्स्ट के रूप में लिखे गए नंबरों (जैसे "जनसंख्या 5 मिलियन है") से नफरत करते हैं। उन्हें आमतौर पर पहले उन्हें कच्चे नंबरों में बदलने की आवश्यकता होती है, जो काफी जटिल प्रक्रिया है।
- RALP का समाधान: RALP नंबरों को वाक्य में शब्दों की तरह मानता है। यह पढ़ सकता है, "गैबॉन का GDP X है, और इसकी जनसंख्या Y है," और फिर अपने तर्क के अंदर एक कैलकुलेटर का उपयोग करके प्रति व्यक्ति GDP का अनुमान लगा सकता है। यह एक ऐसे छात्र की तरह है जो गणित के सवाल को पढ़ता है और उसे चरण-दर-चरण हल करता है, न कि केवल उत्तर कुंजी को रटता है।
3. "लॉजिक पहेली" हल करने वाला (OWL Reasoning)
- समस्या: कभी-कभी तथ्य जटिल होते हैं, जैसे "हर वह व्यक्ति जो एक लड़की का माता-पिता है, वह दादा-दादी/नाना-नानी है।" पुराने सिस्टम इन लॉजिक लूप्स के साथ संघर्ष करते हैं।
- RALP का समाधान: RALP इस जटिल नियम को पढ़ सकता है, इसे एक कहानी में तोड़ सकता है ("ठीक है, यदि A, B का माता-पिता है, और B एक लड़की है...") और फिर उन सभी लोगों की सूची बना सकता है जो इस विवरण में फिट बैठते हैं। इसने इन कठिन लॉजिक पहेलियों पर 88% से अधिक सटीकता हासिल की।
यह एक बड़ी बात क्यों है?
- सीखने में तेज़: आपको इसे हफ्तों तक प्रशिक्षित करने के लिए सुपरकंप्यूटर की आवश्यकता नहीं है। आप बहुत कम उदाहरणों (few-shot learning) के साथ बेहतरीन परिणाम प्राप्त कर सकते हैं।
- लचीलापन: यह बिना दोबारा प्रशिक्षित किए नए डेटा पर काम करता है।
- एक टीम प्लेयर: लेखकों ने दिखाया है कि आप RALP का उपयोग लुप्त तथ्यों को खोजने के लिए कर सकते हैं और फिर उन तथ्यों को पुराने "गणित वाले दिमाग" वाले सिस्टम को फीड कर सकते हैं ताकि वे और स्मार्ट बन सकें। यह एक ट्यूटर की तरह है जो छात्र को पढ़ाई करने में मदद करता है।
कमी (सीमाएं)
किसी भी नई तकनीक की तरह, इसकी भी कुछ खामियां हैं:
- इसे पठनीय टेक्स्ट की आवश्यकता है: यदि आप कंप्यूटर को "Paris" के बजाय "Q12345" जैसा कोई कोड देते हैं, तो यह भ्रमित हो जाता है। जादू दिखाने के लिए इसे मानव-पठनीय लेबल चाहिए।
- खराब डेटा सूप को खराब कर देता है: यदि लाइब्रेरी में कोई एक अजीब आउटलायर (जैसे एक देश जिसकी मुद्रास्फीति दर 16,000% है जबकि अन्य 5% हैं) है, तो "कहानीकार" भ्रमित हो सकता है और एक अजीब रेंज का अनुमान लगा सकता है।
- यह भारी है: इन बड़े "कहानीकार" मॉडलों को चलाने के लिए शक्तिशाली कंप्यूटरों की आवश्यकता होती है, हालांकि लेखक इसे हल्का बनाने पर काम कर रहे हैं।
निष्कर्ष (Bottom Line)
यह शोध पत्र सुझाव देता है कि कंप्यूटरों को गणितज्ञों की तरह सोचने के लिए मजबूर करने के (सब कुछ वेक्टर्स में बदलने के बजाय), हमें उन्हें इंसानों की तरह सोचने देना चाहिए (भाषा, तर्क और संदर्भ का उपयोग करना)। उन्हें सही "प्रॉम्प्ट" (सवाल पूछने का सही तरीका) सिखाकर, वे अविश्वसनीय गति और सटीकता के साथ जटिल ज्ञान पहेलियों को हल कर सकते हैं, भले ही वे ऐसी चीजों का सामना करें जिन्हें उन्होंने पहले कभी नहीं देखा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।