Reasoning Graphs: Deterministic Agent Accuracy through Evidence-Centric Chain-of-Thought Feedback
यह शोध पत्र "रीज़निंग ग्राफ्स" (reasoning graphs) को प्रस्तुत करता है, जो एक नवीन संरचना है जो क्वेरीज़ के माध्यम से साक्ष्य-केंद्रित चेन-ऑफ-थॉट फीडबैक को बनाए रखती है ताकि बिना रिट्रेनिंग के स्व-सुधार और नियतात्मक एजेंट सटीकता को सक्षम बनाया जा सके, जिससे मल्टी-हॉप प्रश्न उत्तर देने में भिन्नता को महत्वपूर्ण रूप से कम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक प्रतिभाशाली लेकिन थोड़े भुलक्कड़ जासूस को अपराधों की एक श्रृंखला सुलझाने के लिए काम पर रख रहे हैं। हर बार जब आप उसे कोई नया केस देते हैं, तो वह शून्य से शुरुआत करता है। वह सुरागों को पढ़ता है, एक अनुमान लगाता है, और फिर—पफ!—वह जो कुछ भी सीखा था, उसे भूल जाता है। यदि आप उसे अगले दिन एक समान केस देते हैं, तो उसे वही सुराग फिर से पढ़ने होंगे और वही तर्क फिर से समझना होगा, और अक्सर वह वही गलतियाँ दोहराता है या अलग उत्तर के साथ भाग्यशाली हो जाता है।
आज के उन्नत एआई एजेंट (जैसे उन्नत चैटबॉट्स) बिल्कुल इसी तरह काम करते हैं। वे स्मार्ट हैं, लेकिन वे अपने पिछले तर्क को "याद" नहीं रखते हैं।
यह पेपर रीजनिंग ग्राफ्स (Reasoning Graphs) नामक एक समाधान पेश करता है। इसे एक ऐसा विशाल, जीवंत नोटबुक देने के रूप में समझें जो कभी नहीं भूलता, और जिसे एक बहुत ही विशिष्ट तरीके से व्यवस्थित किया गया है।
यहाँ सरल उपमाओं का उपयोग करके इसका विवरण दिया गया है:
1. समस्या: "रीसेट बटन"
वर्तमान में, हर बार जब एक एआई किसी प्रश्न का उत्तर देता है, तो वह साक्ष्य (तथ्यों जो वह पाता है) के साथ ऐसे व्यवहार करता है जैसे वह उन्हें पहली बार देख रहा हो।
- उपमा: कल्पना कीजिए कि एक शेफ एक शानदार भोजन बनाता है, लेकिन हर बार जब कोई ग्राहक उसी व्यंजन का ऑर्डर देता है, तो शेफ रेसिपी और उन बातों के नोट्स फेंक देता है जो गलत हुई थीं, और फिर से शुरुआत से बनाने की कोशिश करता है। कभी वे सही बनाते हैं; कभी वे खाना जला देते हैं। यह अप्रत्याशित है।
2. समाधान: "एविडेंस-सेंट्रिक नोटबुक" (साक्ष्य-केंद्रित नोटबुक)
लेखक दो विशेष संरचनाएं (ग्राफ) प्रस्तावित करते हैं जो इस नोटबुक के रूप में कार्य करती हैं।
A. रीजनिंग ग्राफ (द "क्ल्यू डायरी" - सुराग डायरी)
केवल यह याद रखने के बजाय कि "मैंने कल एक मर्डर केस सुलझाया था," यह ग्राफ याद रखता है कि "मैंने इस विशिष्ट कागज के टुकड़े (साक्ष्य) को देखा और निर्णय लिया कि यह नकली है।"
- यह कैसे काम करता है:
- हर बार जब एआई किसी विशिष्ट तथ्य (जैसे विकिपीडिया का एक पैराग्राफ) को देखता है, तो वह लिखता है: "मैंने इसका उपयोग किया," या "मैंने इसे खारिज कर दिया क्योंकि यह गलत फिल्म के बारे में था।"
- जादुई ट्रिक: जब एआई एक नए केस में उसी तथ्य को फिर से देखता है, तो वह शून्य से शुरुआत नहीं करता है। वह नोटबुक खोलता है, उस विशिष्ट तथ्य को देखता है, और एक इतिहास देखता है: "हे, अतीत में 14 बार, बुद्धिमान जासूसों ने इस तथ्य को इसलिए खारिज कर दिया क्योंकि यह एक भटकाने वाला सुराग (red herring) था।"
- परिणाम: एआई बिना पुन: प्रशिक्षित (retrained) हुए खराब सुरागों को पहचानने में स्मार्ट हो जाता है। यह एक ऐसे जासूस की तरह है जो तुरंत एक ज्ञात धोखेबाज को पहचान लेता है क्योंकि उसने उसे पहले देखा है।
B. रिट्रीवल ग्राफ (द "ट्रैश कैन" - कूड़ेदान)
यह सिस्टम का दूसरा हिस्सा है। यह एआई को यह तय करने में मदद करता है कि भविष्य में किन चीजों को नहीं देखना है।
- कैसे काम करता है:
- यदि नोटबुक दिखाती है कि एक विशिष्ट तथ्य को एआई द्वारा हमेशा खारिज किया जाता है (भले ही एआई अंतिम उत्तर सही प्राप्त कर चुका हो), तो सिस्टम उस तथ्य को उस प्रकार के प्रश्न के लिए "कचरा" के रूप में चिह्नित कर देता है।
- उपमा: कल्पना कीजिए कि एक जासूस एक विशिष्ट समाचार पत्र से बार-बार विचलित होता रहता है जिसका केस से कोई लेना-देना नहीं है। कुछ प्रयासों के बाद, जासूस उस समाचार पत्र को "न पढ़ें" वाले डिब्बे में डाल देता है। अब, जब एक नया केस आता है, तो वह उस समाचार पत्र को देखने में समय बर्बाद नहीं करता।
- परिणाम: एआई तेजी से और कम लागत में काम करता है क्योंकि वह बेकार की जानकारी पर समय बर्बाद करना बंद कर देता है।
3. यह एक बड़ी बात क्यों है
यह पेपर तीन सुपरपावर्स को उजागर करता है जो यह सिस्टम एआई को देता है:
निरंतरता (डिटरमिनिस्टिक सटीकता):
- पहले: एआई सोमवार को एक पहेली को सही ढंग से हल कर सकता है, मंगलवार को विफल हो सकता है, और बुधवार को उसी पहेली के लिए रैंडम अनुमान लगा सकता है, भले ही पहेली वही हो।
- बाद में: क्योंकि एआई अपनी "क्ल्यू डायरी" से परामर्श करता है, वह उसी साक्ष्य को देखते समय हर बार एक ही सही निर्णय लेता है। यह विश्वसनीय बन जाता है।
"स्कूली शिक्षा" की आवश्यकता नहीं:
- आमतौर पर, एआई को स्मार्ट बनाने के लिए, आपको इसे हजारों नए उदाहरण खिलाने होते हैं और इसके मस्तिष्क को फिर से प्रशिक्षित करना होता है (जिसमें बहुत पैसा और समय लगता है)।
- यहाँ: एआई का "मस्तिष्क" (बेस मॉडल) बिल्कुल वैसा ही रहता है। सुधार संदर्भ (context) के उपयोग से आता है, न कि इसके आंतरिक कोड को बदलने से।
पूर्ण पारदर्शिता (ऑडिटेबिलिटी):
- यदि एआई कोई गलती करता है, तो आप ग्राफ के माध्यम से उसके कदमों को पीछे की ओर ट्रेस कर सकते हैं। आप देख सकते हैं कि उसने किस सुराग को देखा, उसके बारे में क्या सोचा, और उसने निर्णय क्यों लिया। यह एक जासूस की पूरी विचार प्रक्रिया के वीडियो रीप्ले होने जैसा है।
4. "कोल्ड स्टार्ट" की वास्तविकता
पेपर एक छोटी सी कमी स्वीकार करता: जब सिस्टम बिल्कुल नया होता है ("कोल्ड स्टार्ट"), तो नोटबुक खाली होती है। एआई को पहले की तरह ही शून्य से तर्क करना पड़ता है।
- उपमा: यह एक स्टेशन पर आने वाले नए जासूस की तरह है। उनके पास अभी तक कोई फाइल नहीं है। लेकिन जैसे ही वे कुछ केस सुलझाते हैं और फाइलों को भरते हैं, सिस्टम "वार्म अप" हो जाता है और अविश्वसनीय रूप से कुशल होने लगता है।
सारांश
यह पेपर एक तरीका प्रस्तावित करता है जिससे एआई एजेंट तथ्यों के साथ अपने विशिष्ट अनुभवों से सीख सकते हैं, न कि केवल सामान्य पैटर्न से। प्रत्येक साक्ष्य के प्रति अपने निर्णय की एक स्थायी, संरचित स्मृति बनाकर, एआई बनता है:
- अधिक सटीक (यह एक ही गलतियाँ दोहराना बंद कर देता है)।
- अधिक निरंतर (यह हर बार एक जैसा व्यवहार करता है)।
- अधिक कुशल (यह बेकार के सुरागों को देखना बंद कर देता है)।
यह उस छात्र के बीच का अंतर है जो हर परीक्षा के बाद सबक भूल जाता है और उस छात्र के बीच का अंतर है जो एक विस्तृत अध्ययन मार्गदर्शिका (study guide) रखता है, और हर उस प्रश्न से सीखता है जिसका उसने कभी उत्तर दिया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।