Knowledge-Constrained Reasoner: Attempting to Enable LLMs to Parse Knowledge for Question Answering
यह शोध पत्र नॉलेज-कंस्ट्रेंड रीज़नर (Knowledge-Constrained Reasoner) को प्रस्तुत करता है, जो एक एकल संरेखण चरण (alignment phase) का उपयोग करने वाला एक नवीन दृष्टिकोण है ताकि बड़े भाषा मॉडलों (Large Language Models) में आवश्यक तर्क क्षमताओं को आत्मसात किया जा सके, जिससे प्रश्नोत्तर के लिए बाहरी ज्ञान का कठोर और सही उपयोग सुनिश्चित हो सके और पारंपरिक विशेषज्ञ प्रणालियों की विश्वसनीयता को गैर-पैरामीट्रिक निरंतर शिक्षण (non-parametric continuous learning) के लचीलेपन के साथ जोड़ा जा सके।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बुद्धिमान, सुपर-फास्ट रोबोट को रहस्य सुलझाना सिखाने की कोशिश कर रहे हैं। आपके पास इसे सिखाने के दो मुख्य तरीके हैं। पहला तरीका ऐसा है जैसे रोबोट के दिमाग में ही उसकी अपनी भाषा में लिखी गई एक विशाल, भारी विश्वकोश (encyclopedia) डाल देना। शुरुआती "एक्सपर्ट सिस्टम्स" इसी तरह काम करते थे: वे अविश्वसनीय रूप से सख्त थे और नियमों का पूरी तरह पालन करते थे, लेकिन वे बहुत जड़ (rigid) भी थे। यदि आप उनसे ऐसी किसी चीज़ के बारे में पूछते जो उनकी किताब में नहीं थी, तो वे ठप हो जाते थे। यदि आप नियमों को अपडेट करना चाहते, तो आपको पूरी किताब दोबारा लिखनी पड़ती थी, जो बहुत धीमा और महंगा काम था।
दूसरा तरीका वह है जिसका उपयोग हम आज आधुनिक AI के साथ करते हैं, जैसे कि चैटबॉट्स जिनसे आप बात करते हैं। ये मॉडल उन सुपर-पाठकों की तरह हैं जिन्होंने पूरा इंटरनेट निगल लिया है। वे लचीले, मज़ेदार और बातचीत करने में माहिर हैं। लेकिन उनमें एक पेचीदा दोष है: वे कभी-कभी सीखी हुई चीज़ों को भूल जाते हैं, या जब आप उन्हें कोई नया नियम देते हैं और उनसे उसका सख्ती से पालन करने के लिए कहते हैं, तो वे भ्रमित हो जाते हैं। वे उस उत्तर का अनुमान लगा सकते हैं जिसे वे सच मानते हैं, बजाय इसके कि नया नियम वास्तव में क्या कहता है। यह तब एक बड़ी समस्या बन जाती है जब आपको ज़रूरत हो कि आपका रोबोट एक डॉक्टर, एक पायलट या एक सुरक्षा निरीक्षक की तरह काम करे जहाँ नियम का सटीक पालन करना जीवन और मृत्यु का मामला हो।
यही बात हमें एक नए विचार की ओर ले आती है जिसे "रिट्रीवल-ऑगमेंटेड जनरेशन" (RAG) कहा जाता है। इसे ऐसे समझें जैसे आप रोबोट को एक लाइब्रेरी कार्ड दे रहे हैं। जब आप कोई प्रश्न पूछते हैं, तो रोबोट उत्तर देने से पहले लाइब्रेरी से प्रासंगिक पृष्ठ जल्दी से निकालता है और उसे पढ़ता है। यह अनुमान लगाने से बेहतर है, लेकिन रोबोट को अभी भी यह तय करना होगा कि उस पृष्ठ को कैसे पढ़ा जाए। कभी-कभी वह बारीक अक्षरों को अनदेखा कर देता है, कभी-कभी वह एक चरण छोड़ देता है, और कभी-कभी वह बहुत चतुर बनने की कोशिश करता है और एक ऐसा नियम बना देता है जो वहाँ मौजूद ही नहीं है। बड़ा सवाल जो वैज्ञानिक पूछ रहे हैं वह यह है: क्या हम रोबलेट को न केवल लाइब्रेरी को पढ़ना सिखा सकते हैं, बल्कि उसे एक कुशल तर्कशास्त्री (logician) बना सकते हैं जो हर बार, बिना अपने दिमाग को फिर से लिखे, नियमों का पूरी तरह से पालन करे?
द नॉलेज-कंस्ट्रेंड रीज़नर: AI को नियम मानने वाला बनाना
इस शोध पत्र में, ज़ीकियांग गान (Zhiqiang Gan) नामक एक शोधकर्ता इस प्रश्न का उत्तर देने का प्रयास करते हुए एक "नॉलेज-कंस्ट्रेंड रीज़नर" (ज्ञान-सीमित तर्ककर्ता) बनाने की कोशिश कर रहे हैं। इसका लक्ष्य एक मानक लार्ज लैंग्वेज मॉडल (LLM) को एक सख्त, तार्किक जासूस में बदलना है जो नियमों का एक नया सेट (जैसे कि एक नया मेडिकल प्रोटोकॉल या सैन्य निर्देश) ले सके और बिना भ्रमित हुए या मनगढ़ंत बातें किए, उनका अक्षरशः पालन कर सके।
यह शोध पत्र सुझाव देता है कि AI की स्मृति में नए तथ्यों को भरने (जिससे पुरानी चीज़ें भूलने की समस्या होती है) के बजाय, हमें AI को एक एकल प्रशिक्षण सत्र में "मेटा-स्किल्स" या "सुपर-पावर्स" का एक सेट सिखाना चाहिए। इसे एक कुत्ते को प्रशिक्षित करने जैसा समझें। आप कुत्ते को दुनिया की हर संभावित स्थिति के लिए हर विशिष्ट कमांड नहीं सिखाते। इसके बजाय, आप उसे सुनने की अवधारणा, इनाम (treat) खोजने की अवधारणा, और संकेत का इंतज़ार करने की अवधारणा सिखाते हैं। एक बार जब कुत्ता इन अवधारणाओं को जान लेता है, तो आप उसे एक नया आदेश दे सकते हैं, और वह समझ जाएगा कि उसे कैसे पालन करना है, भले ही उसने पहले कभी वह विशिष्ट आदेश न सुना हो।
पाँच सुपर-पावर्स
AI को एक अच्छा नियम-पालक बनाने के लिए, शोधकर्ता ने 1,000 काल्पनिक परिदृश्यों (जिनमें नकली डॉक्टर, सैनिक और फैक्ट्री कर्मचारी शामिल थे) के डेटासेट का उपयोग करके उसे चार विशिष्ट तार्किक "मूव्स" (प्लस एक अतिरिक्त) पर प्रशिक्षित किया। यहाँ वे मूव्स सरल भाषा में दिए गए हैं:
- सिचुएशनल कॉन्टेक्स्टुअलाइज़ेशन (यह "क्या यह मेरे बारे में है?" की जाँच):
कार्य करने से पहले, AI को यह जांचना चाहिए कि क्या नियम वास्तव में वर्तमान स्थिति पर लागू होता है।
- उपमा: एक क्लब के बाउंसर की कल्पना करें। यदि नियम कहता है "जूते पहनने की अनुमति नहीं है," और आप मोज़े पहनकर अंदर जाते हैं, तो बाउंसर को यह तय करना होगा: "क्या मोज़े जूतों की श्रेणी में आते हैं?"
- शोध पत्र का निष्कर्ष: AI को प्रशिक्षित किया गया था कि वह यह जांचे कि क्या उपयोगकर्ता की स्थिति नियम की शर्तों से बिल्कुल मेल खाती है। इसने सीखा कि यदि नियम "गंभीर" (severe) दुर्घटनाओं के बारे में है लेकिन उपयोगकर्ता की दुर्घटना "मामूली" (minor) थी, तो उसे "नहीं" कहना चाहिए, जिससे गलत नियम लागू होने से बचा जा सके। इसने यह भी सीखा कि जब उसके पास उत्तर न हो, तो वह नकली दवा बताने के बजाय यह स्वीकार कर ले कि उसके पास जानकारी नहीं है।
- फॉरवर्ड कॉज़ल डिडक्शन (यदि यह, तो वह - "If This, Then That" श्रृंखला):
यह क्लासिक तर्क है: यदि A होता है, तो B होना ही चाहिए।
- उपमा: डोमिनो प्रभाव की तरह। यदि आप पहले डोमिनो को धक्का देते हैं (रोगी को बुखार है), तो अगला गिर जाता है (दवा दें)।
- शोध पत्र का निष्कर्ष: AI ने स्थिति को देखना, मिलते-जुलते नियम को खोजना और तुरंत सही कार्रवाई की ओर बढ़ना सीख लिया।
- बैकवर्ड कॉज़ल ट्रेसिंग (यह "क्यों हुआ?" वाला जासूसी काम):
कभी-कभी आप परिणाम देखते हैं और कारण ढूँढने की आवश्यकता होती है।
- उपमा: आप कमरे में घुसते हैं और फर्श पर टूटा हुआ फूलदान देखते हैं। आपको घर के नियमों को देखना होगा ताकि यह पता लगाया जा सके: "यहाँ कौन रहने के लिए अधिकृत था, और वे क्या कर रहे थे?"
- शोध पत्र का निष्कर्ष: AI एक परिणाम (जैसे "रोबोटिक आर्म की बिजली काट दी गई") को देख सकता था और इसे उस नियम तक वापस ले जा सकता था जिसने कहा था "यदि रिएक्टर बहुत गर्म हो जाता है, तो बिजली काट दें।" इसने सफलतापूर्वक पता लगाया कि कारण ओवरहीटिंग (अत्यधिक गर्मी) था।
- लॉजिकल कंपोज़िशन (सब कुछ करने की सूची):
वास्तविक जीवन अस्त-व्यस्त है। कभी-कभी एक ही स्थिति एक साथ कई नियमों को सक्रिय करती है।
- उपमा: एक वीडियो गेम चरित्र की कल्पना करें जिसे हिट होने पर स्वास्थ्य भी कम करना चाहिए और एक सिक्का भी गिराना चाहिए। यदि गेम केवल उसे सिक्का गिराने के लिए बनाता है, तो यह एक बग होगा।
- शोध पत्र का निष्कर्ष: AI ने जटिल नियमों को संभालना सीखा जहाँ एक स्थिति के लिए निदान (diagnosis), आइसोलेशन स्टेप और अधिकारियों को रिपोर्ट करने की आवश्यकता होती है। इसने चरणों को छोड़ना बंद कर दिया और पूरी चेकलिस्ट का पालन करना शुरू कर दिया।
- फिल्टरिंग ("केवल तथ्यों तक सीमित" फ़िल्टर):
कभी-कभी एक नियम में चरणों की एक लंबी सूची होती है, लेकिन आपको केवल पहले चरण की आवश्यकता होती है।
- उपमा: एक रेसिपी कहती है "ओवन प्रीहीट करें, प्याज काटें, बेकन तलें, फिर परोसें।" यदि आप पूछते हैं, "मुझे सबसे पहले क्या करना है?", तो AI आपको पूरी रेसिपी नहीं देनी चाहिए। उसे केवल कहना चाहिए "ओवन प्रीहीट करें।"
- शोध पत्र का निष्कर्ष: AI ने अतिरिक्त शोर को अनदेखा करना और केवल वही विशिष्ट चरण देना सीख लिया जो उपयोगकर्ता ने पूछा था।
परिणाम: क्या यह काम कर गया?
शोधकर्ता ने इस नए "रीज़नर" का परीक्षण मानक तरीके से AI का उपयोग करने (बिना विशेष प्रशिक्षण के केवल प्रश्न पूछने) के विरुद्ध किया।
- मानक तरीका: जटिल नियमों का पालन करने के लिए पूछे जाने पर, नियमित AI लगभग 75% उत्तर सही देता था। यह अक्सर भ्रमित हो जाता था, चरणों को छोड़ देता था, या बस हार मान लेता था।
- नया तरीका: एक एकल प्रशिक्षण सत्र के बाद, "नॉलेज-कंस्ट्रेंड रीज़नर" लगभग 88% उत्तर सही देता था।
शोध पत्र का सुझाव है कि यह सुधार वास्तविक और महत्वपूर्ण है। AI दिए गए नियमों का पालन करने में बहुत बेहतर हो गया, भले ही वे नियम "टाइटन मेक्स" (Titan Mechs) या "काल्पनिक वित्त" (Fictional Finance) जैसे काल्पनिक विषयों के बारे में थे।
इसने क्या नहीं किया (और कहाँ यह लड़खड़ाया)
यह ध्यान रखना महत्वपूर्ण है कि इस शोध पत्र ने क्या नहीं किया। इसने यह साबित नहीं किया कि AI अब पूर्ण है। शोध पत्र स्पष्ट रूप से बताता है कि AI लगभग 12% मामलों में गलतियाँ करता है।
- भ्रम (Confusion): कभी-कभी AI नियम के परिणाम को लेने वाली कार्रवाई के साथ मिला देता था। उदाहरण के लिए, यदि एक नियम कहता था "यदि हैकर घुसपैताल करता है, तो बाजार क्रैश हो जाएगा," और उपयोगकर्ता ने पूछा "हमें क्या करना चाहिए?", तो AI कभी-कभी केवल यह कह देता था "बाजार क्रैश हो जाएगा" बजाय इसके कि वह कहता "हमें दरवाजे बंद कर लेने चाहिए।"
- सटीकता का अंतर (Precision Gap): AI कभी-कभी सूक्ष्म विवरणों को मिस कर देता था, जैसे कि "मामूली" समस्या को "गंभीर" समस्या समझने में गलती करना, जिससे वह गलत आपातकालीन योजना का उपयोग करने लगता था।
शोध पत्र का तर्क है कि केवल AI को कुछ उदाहरण देने (जिसे "प्रॉम्प्टिंग" कहा जाता है) का वर्तमान तरीका इन गहरे तार्किक दोषों को ठीक करने के लिए पर्याप्त नहीं है। AI को "फाइन-ट्यून" करने की आवश्यकता है—अर्थात, इसे इन तार्किक चालों का अभ्यास करने की आवश्यकता है जब तक कि वे एक आदत बन जाएं, न कि केवल कुछ संकेतों के आधार पर अनुमान लगाना।
बड़ी तस्वीर
इस अध्ययन का मुख्य निष्कर्ष यह है कि हम AI को ऐसा बना सकते हैं जो लचीला (इंसानों की तरह) और विश्वसनीय (कंप्यूटर प्रोग्राम की तरह) दोनों हो, उसे नियमों के साथ सोचने का तरीका सिखाकर, न कि केवल नियमों को याद करने के लिए। शोधकर्ता का सुझाव है कि यदि हम AI को बाहरी जानकारी के साथ अपने तर्क को "एंकर" (स्थापित) करना सिखा सकें, तो वह पुरानी चीजों को भूले बिना तुरंत नई चीजें सीख सकता है।
हालाँकि, शोध पत्र सावधानी से कहता है कि यह केवल एक "प्रारंभिक प्रयास" और "प्रारंभिक साक्ष्य" है। यह एक आशाजनक कदम है जो पुराने ज़माने के विशेषज्ञ प्रणालियों (expert systems) की कठोर, सुरक्षित दुनिया और आधुनिक AI की लचीली, रचनात्मक दुनिया के बीच के अंतर को पाटने की दिशा में है। यह दिखाता है कि सही प्रशिक्षण के साथ, AI एक बहुत बेहतर नियम-पालक बन सकता है, लेकिन यह उच्च-जोखिम वाली स्थितियों में मानव विशेषज्ञों को बदलने के लिए अभी तैयार नहीं है। एक वास्तव में विश्वसनीय, बिना भूले (non-forgetting) AI की यात्रा अभी जारी है, लेकिन यह नया "रीज़नर" आगे के मार्ग के लिए एक ताज़ा मानचित्र प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।