NeSyFS: A Neuro-symbolic Fast-Slow Thinking Framework for LLM Agent under Partial Observability
यह शोध पत्र NeSyFS का प्रस्ताव करता है, जो एक न्यूरो-सिम्बोलिक फास्ट-स्लो थिंकिंग फ्रेमवर्क है जो विश्वास अवस्था (belief state) के प्रतिनिधित्व के लिए नॉलेज ग्राफ का उपयोग करता है और आंशिक अवलोकन (partial observability) के तहत LLM एजेंट के प्रदर्शन को बढ़ाने के लिए अनिश्चितता-जागरूक नियोजन (uncertainty-aware planning) और प्रतिबिंब (reflection) के साथ प्रतिक्रियाशील कार्यों को एकीकृत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक वीडियो गेम खेल रहे हैं जहाँ स्क्रीन को धुंध ने ढका हुआ है। आप अपने पात्र के ठीक सामने के कुछ फीट ही देख सकते हैं, लेकिन आपको एक विशाल, जटिल महल में छिपे हुए खजाने की खोज करनी है। आप पूरे मानचित्र को नहीं देख सकते, और आप लक्ष्य के सापेक्ष अपनी सटीक स्थिति भी नहीं जानते। यह "आंशिक अवलोकन" (partial observability) की दुनिया है, जो आर्टिफिशियल इंटेलिजेंस (AI) के लिए है। कंप्यूटर विज्ञान के इस कोने में, शोधकर्ता लार्ज लैंग्वेज मॉडल्स (LLMs)—वे सुपर-स्मार्ट टेक्स्ट जनरेटर जो चैटबॉट्स को शक्ति देते हैं—को स्वायत्त एजेंट (autonomous agents) के रूप में कार्य करने के लिए प्रशिक्षित कर रहे हैं। इन एजेंटों को निर्णय लेने, उपकरणों का उपयोग करने और समस्याओं को हल करने की आवश्यकता होती है, लेकिन अक्सर उन्हें ऐसा पूरी तस्वीर देखे बिना करना पड़ता है। बड़ी चुनौती यह है कि जब एक AI दुनिया की पूरी स्थिति को नहीं देख पाता, तो वह भ्रमित हो जाता है। वह भूल सकता है कि उसने अभी क्या किया था, अपने लक्ष्य से भटक सकता है, या किसी ऐसे अनुमान के आधार पर योजना बना सकता है जो गलत साबित होता है। वैज्ञानिक ऐसे एजेंट बनाना चाहते हैं जो उस धुंधली दुनिया में एक इंसान की तरह ही कुशलता से आगे बढ़ सकें, जिसमें त्वरित सहज ज्ञान (quick instincts) और सावधानीपूर्वक, धीमी सोच का मिश्रण हो।
यहाँ NeSyFS नामक एक नया फ्रेमवर्क आता है, जिसका अर्थ है न्यूरो-सिंबोलिक फास्ट-स्लो थिंकिंग (Neuro-symbolic Fast-Slow thinking)। इसे एक AI एजेंट के लिए एक नए ऑपरेटिंग सिस्टम के रूप में समझें जिसे विशेष रूप से उस धुंधले वीडियो गेम परिदृश्य को संभालने के लिए डिज़ाइन किया गया है। शोधकर्ताओं, ड्यूक्सू और फरमारज़ फेकरी (जॉर्जिया टेक से) ने महसूस किया कि पिछले तरीके एक लंबी, अव्यवस्थित सारांश वाली फिल्म के हर एक संवाद को पढ़ने की कोशिश करने जैसे थे। यह बहुत अधिक जानकारी है, और महत्वपूर्ण विवरण शोर में खो जाते हैं। इसके बजाय, NeSyFS AI को एक "जीवित स्मृति पुस्तक" (living memory book) देता है जिसे 'नॉलेज ग्राफ' (Knowledge Graph) कहा जाता है। यह केवल नोट्स की एक सूची नहीं है; यह तथ्यों का एक संरचित जाल है, जैसे कि "फ्रिज खुला है" को "अंदर एक कप है" से जोड़ने वाला एक मकड़ी का जाल।
यह फ्रेमवर्क AI के मस्तिष्क को दो मोडों में विभाजित करता है, जो इस बात से प्रेरित है कि मनुष्य कैसे सोचते हैं। "फास्ट-थिंकिंग" (Fast-Thinking) मोड एजेंट की सहज प्रतिक्रिया (reflex) है। यह अपनी स्मृति पुस्तक पर एक नज़र डालता है, सबसे प्रासंगिक तथ्य पकड़ता है (जैसे "मुझे एक कप चाहिए, और मैंने अभी फ्रिज में एक देखा") और एक त्वरित कदम उठाता है। लेकिन कभी-कभी, धुंध बहुत घनी होती है, और त्वरित अनुमान गलत हो जाता है। तभी "स्लो-थिंकिंग" (Slow-Thinking) मोड सक्रिय होता है। यह एजेंट का विचारशील योजनाकार (planner) है। यह केवल अनुमान नहीं लगाता; यह अपने दिमाग में एक सिमुलेशन चलाता है, भविष्य के विभिन्न रास्तों की कल्पना करता है जैसे कि एक शतरंज का खिलाड़ी तीन चाल आगे की सोचता है। यह एक विशेष गणितीय ट्रिक का उपयोग करता है (जिसे 'ट्विस्टेड सीक्वेंशियल मोंटे कार्लो' नामक विधि से लिया गया है) ताकि एक साथ कई संभावित भविष्यों का परीक्षण किया जा सके, उन रास्तों को बनाए रखा जा सके जो आशाजनक दिखते हैं और उन्हें हटा दिया जाए जो बंद रास्तों (dead ends) की ओर ले जाते हैं।
एजेंट को पटरी से उतरने से रोकने के लिए, इसमें एक तीसरा हिस्सा है: एक "रिफ्लेक्शन मॉड्यूल" (Reflection Module)। कल्पना कीजिए कि एक कोच साइडलाइन पर खड़ा है। हर बार जब एजेंट एक त्वरित कदम उठाता है, तो कोच स्मृति पुस्तक की जाँच करता है कि क्या वह कदम वास्तव में लक्ष्य तक पहुँचने में मदद करता है। यदि कोच कहता है, "नहीं, यह तर्कसंगत नहीं है," तो एजेंट को फिर से सोचने की आवश्यकता होती है। यदि एजेंट बार-बार एक ही गलती करता है, तो कोच बेहतर रणनीति बनाने के लिए "स्लो-थिंकिंग" योजनाकार को बुलाता है। शोध पत्र सुझाव देता है कि यह संयोजन—संरचित स्मृति, त्वरित प्रतिक्रिया, सावधानीपूर्वक योजना और एक आलोचनात्मक कोच—AI को पिछले तरीकों की तुलना में बहुत बेहतर प्रदर्शन करने में मदद करता है। तीन अलग-अलग गेम जैसे वातावरण (एक आभासी घर, एक ऑनलाइन स्टोर, और एक विज्ञान प्रयोगशाला) में परीक्षणों में, NeSyFS एजेंट ने अन्य शीर्ष तरीकों से काफी बेहतर प्रदर्शन किया, जिससे वह कार्यों को अधिक बार हल कर सका और कम गलतियाँ कीं। शोधकर्ताओं ने पाया कि केवल लंबे इतिहास लॉग पढ़ने के बजाय अपनी इस संरचित स्मृति पुस्तक का उपयोग करके, एजेंट अपने लक्ष्यों को सीधा रख सकता है और धुंध के बीच अधिक प्रभावी ढंग से आगे बढ़ सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।