Grounded Iterative Language Planning: How Parameterized World Models Reduce Hallucination Propagation in LLM Agents
यह शोध पत्र ग्राउंडेड इटरेटिव लैंग्वेज प्लानिंग (GILP) प्रस्तुत करता है, जो एक हाइब्रिड फ्रेमवर्क है जो एक छोटे पैरामीट्रिक वर्ल्ड मॉडल को एक LLM एजेंट के साथ जोड़ता है ताकि भ्रमित (hallucinated) स्टेट परिवर्तनों का पता लगाया जा सके और उन्हें सुधारा जा सके, जिससे ग्राफ-संरचित बेंचमार्क पर भ्रम की दर में काफी कमी आती है और प्लानिंग की सफलता में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जटिल पहेली को हल करने की कोशिश कर रहे हैं, जैसे कि किसी बड़े घर की शिफ्टिंग के दिन को व्यवस्थित करना या खाना बनाने की कई चरणों वाली रेसिपी की योजना बनाना। आपके पास एक बहुत ही बुद्धिमान, रचनात्मक सहायक (LLM Agent) है जो आपकी लक्ष्यों को समझने और यह समझने में माहिर है कि आगे क्या होना चाहिए। हालाँकि, इस सहायक की एक बुरी आदत है: यह कभी-कभी अपनी ही कल्पना में खो जाता है। यह आत्मविश्वास से कह सकता है, "चूल्हा पहले से ही चालू है," जबकि वास्तव में वह ठंडा है, या "डिब्बा पैक हो गया है," जबकि वह अभी भी खुला है।
AI की दुनिया में, इसे हैलुसिनेशन (Hallucination) कहा जाता है। समस्या यह है कि एक बार जब सहायक अपनी कहानी में एक छोटी सी गलती कर देता है, तो वह उसी झूठ के ऊपर बाकी की योजना बनाता रहता है। दसवें चरण तक, पूरी योजना एक झूठे आधार पर बनी ताश के पत्तों के घर जैसी हो जाती है।
यह शोध पत्र GILP (Grounded Iterative Language Planning) नामक एक नई विधि पेश करता है ताकि इसे ठीक किया जा सके। GILP को एक "रियलिटी चेक" सिस्टम के रूप में समझें जो आपके रचनात्मक सहायक को एक छोटे, बेहद केंद्रित तथ्य-जांचकर्ता (fact-checker) के साथ जोड़ता है।
यह कैसे काम करता है, यहाँ इसके सरल भाग दिए गए हैं:
1. दो पात्र
शोध पत्र दो प्रकार के "वर्ल्ड मॉडल्स" (वे सिस्टम जो भविष्यवाणी करते हैं कि आगे क्या होगा) की तुलना करता है:
- रचनात्मक कहानीकार (एजेंट-आधारित मॉडल): यह एक बड़ा AI (जैसे GPT-4) है। यह तर्क करने और जटिल निर्देशों को समझने में बहुत अच्छा है, लेकिन यह तथ्य गढ़ने के प्रति प्रवृत्त है। इसकी त्रुटियों को मापना कठिन है क्योंकि वे केवल "गलत कहानियाँ" होती हैं।
- तथ्य-जांचकर्ता (पैरामीटराइज्ड मॉडल): यह एक छोटा, प्रशिक्षित कंप्यूटर प्रोग्राम है। यह बहुत रचनात्मक नहीं है और अपने आप पूरी फिल्म की योजना नहीं बना सकता, लेकिन यह गणित और विशिष्ट विवरणों की जांच करने में उत्कृष्ट है। यह कह सकता है, "यदि आप क्रिया A करते हैं, तो चूल्हा निश्चित रूप से बंद ही रहेगा।" इसकी त्रुटियों को मापना आसान है क्योंकि यह ठोस आंकड़ों पर काम करता है।
2. समस्या: "डोमिनो प्रभाव" (The Domino Effect)
शोध पत्र दिखाता है कि जब रचनात्मक कहानीकार एक गलती करता है (जैसे, "कार्य 3 पूरा हो गया" जबकि वह नहीं हुआ है), तो वह वहीं नहीं रुकता। वह अगली योजनाओं को बनाने के लिए उस झूठ का उपयोग करता है।
- उपमा: कल्पना कीजिए कि 'टेलीफोन गेम' (एक व्यक्ति दूसरे को संदेश देना) चल रहा है। यदि पहला व्यक्ति गलत संदेश फुसफुसाता है, तो बाकी सभी गलत संदेश को ही दोहराते हैं, जिससे स्थिति और बिगड़ जाती है। AI में, एक छोटा सा हॉलुसिनेशन गलत कार्यों की एक श्रृंखला का कारण बन सकता है, जिससे पूरी योजना विफल हो जाती है।
3. समाधान: GILP (द "रियलिटी चेक" लूप)
GILP दोनों दुनियाओं के सर्वश्रेष्ठ गुणों को मिलाता है। यह भारी काम के लिए रचनात्मक कहानीकार को रखता है लेकिन चीजों को ईमानदार बनाए रखने के लिए तथ्य-जांचकर्ता को भी जोड़ता है। यहाँ चरण-दर-चरण प्रक्रिया दी गई है:
- चरण 1: ढांचा (तथ्य-जांचकर्ता का अनुमान): कहानीकार अपनी योजना लिखने से पहले, छोटा तथ्य-जांचकर्ता स्थिति को देखता है और भविष्यवाणी करता है कि क्या होना चाहिए। यह वैध कदमों और अपेक्षित परिवर्तनों का एक "कंकाल" (skeleton) तैयार करता है।
- चरण 2: ड्राफ्ट (कहानीकार की योजना): बड़ा AI अपनी योजना लिखता है, जिसमें वह भी शामिल होता है जो उसे लगता है कि आगे क्या होगा।
- चरण 3: निरंतरता द्वार (तुलना): यही जादुई हिस्सा है। सिस्टम कहानीकार के ड्राफ्ट की तुलना तथ्य-जांचकर्ता के कंकाल से करता है।
- यदि वे सहमत हैं, तो बहुत अच्छा! योजना आगे बढ़ती है।
- यदि वे असहमत हैं (जैसे, कहानीकार कहता है "कार्य 3 पूरा हो गया" लेकिन तथ्य-जांचकर्ता कहता है "कार्य 3 अभी भी लंबित है"), तो सिस्टम रेड लाइट (लाल बत्ती) दिखाता है।
- चरण 4: सुधार: सिस्टम कहानीकार को एक छोटा नोट भेजता है: "हे, आपने कहा कि कार्य 3 पूरा हो गया है, लेकिन तथ्य कहते हैं कि यह नहीं हुआ है। कृपया अपनी योजना ठीक करें।" कहानीकार फिर वास्तविकता से मेल खाने के लिए योजना को दोबारा लिखता है।
4. परिणाम: यह क्यों महत्वपूर्ण है
शोध पत्र ने चार अलग-अलग प्रकार की जटिल नियोजन पहेलियों पर इसका परीक्षण किया। यहाँ उन्हें क्या मिला:
- कम झूठ: "हैलुसिनेटेड-स्टेट रेट" (AI कितनी बार दुनिया की स्थिति के बारे में झूठ बोलता है) नाटकीय रूप से गिर गया। वास्तविक परीक्षणों में, यह 17.6% से घटकर 3.5% हो गया। यह झूठ में 80% की कमी है।
- बेहतर सफलता: क्योंकि AI ने झूठ की बुनियाद पर योजना बनाना बंद कर दिया, इसलिए वह वास्तव में कार्यों को अधिक बार पूरा कर सका। सफलता दर 66.8% से बढ़कर 83.8% हो गई।
- दीर्घकालिक स्थिरता: सबसे बड़ी जीत लंबे, कठिन कार्यों पर हुई। GILP के बिना, AI की सफलता दर लंबे कार्यों के साथ गिरती जाती थी (47% तक गिर गई)। GILP के साथ, यह मजबूत बना रहा, लंबे कार्यों पर भी 75.8% सफलता तक पहुँच गया।
- सस्ता और कुशल: आप सोच सकते हैं कि तथ्य-जांचकर्ता जोड़ने से यह धीमा या महंगा हो जाएगा। शोध पत्र दिखाता है कि यह केवल लगभग 22% अतिरिक्त लागत (कुछ अतिरिक्त API कॉल) जोड़ता है क्योंकि तथ्य-जांचकर्ता छोटा और तेज़ है, और यह केवल तभी सक्रिय होता है जब सुधार की आवश्यकता होती है।
निष्कर्ष
शोध पत्र का तर्क है कि आपको एक स्मार्ट कहानीकार को ठीक करने के लिए एक सुपर-स्मार्ट तथ्य-जांचकर्ता की आवश्यकता नहीं है। आपको बस एक छोटे, विश्वसनीय तथ्य-जांचकर्ता की आवश्यकता है जो यह कह सके "नहीं, यह सच नहीं है" जब कहानीकार बहुत अधिक रचनात्मक होने लगे।
एक शक्तिशाली, लचीले AI को एक छोटे, मापने योग्य "सत्य डिटेक्टर" के साथ जोड़कर, GILP AI को उसकी अपनी कल्पना में खो जाने से रोकता है, यह सुनिश्चित करता है कि उसकी योजनाएं वास्तविकता पर आधारित हों, न कि हॉलुसिनेशन पर।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।