💬 NLP

Seeing Isn't Believing: Mitigating Belief Inertia via Active Intervention in Embodied Agents

यह शोध पत्र एस्टीमेट-वेरिफाई-अपडेट (EVU) तंत्र को प्रस्तुत करता है, जो एक सक्रिय विश्वास हस्तक्षेप ढांचा (active belief intervention framework) है जो एम्बोडीड एजेंटों (embodied agents) को पर्यावरणीय अवलोकनों के विरुद्ध अपने आंतरिक विश्वासों का अनुमान लगाने, सत्यापन करने और उन्हें अपडेट करने में सक्षम बनाता है, जिससे विश्वास जड़ता (belief inertia) को प्रभावी रूप से कम किया जा सकता है और कई बेंचमार्क में कार्य सफलता दरों में महत्वपूर्ण सुधार किया जा सकता है।

मूल लेखक: Hanlin Wang, Chak Tou Leong, Jian Wang, Wenjie Li

प्रकाशित 2026-04-21

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Hanlin Wang, Chak Tou Leong, Jian Wang, Wenjie Li

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Seeing Isn't Believing" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करके विवरण दिया गया है।

मुख्य समस्या: AI रोबोट का "ज़िद्दी दिमाग"

कल्पना कीजिए कि आपके पास एक बहुत ही स्मार्ट रोबोट सहायक (एक "एम्बोडीड एजेंट") है जो एक घर में रहता है। उसका काम है जैसे कि "काउंटर पर एक साफ़ चाकू रखना।"

आमतौर पर, ये रोबोट कमरे को देखकर, यह सोचकर कि क्या करना है, और फिर कार्य करके काम करते हैं। लेकिन इस पेपर ने एक मज़ेदार लेकिन निराशाजनक खामी खोजी है: रोबोट अक्सर उस चीज़ को नज़रअंदाज़ कर देता है जो वह वास्तव में देख रहा होता है।

उपमा: आँखों पर पट्टी बँधा शेफ (रसोइया)
एक ऐसे शेफ की कल्पना करें जिसे पूरा विश्वास है कि रसोई में एकमात्र चाकू ऊपरी दराज में है। भले ही वह काउंटर के पास जाए और वहाँ एक चमकता हुआ चाकू रखे हुए देखे, उसका दिमाग अपने मूल विचार ("चाकू दराज में है") पर इतना अटका रहता है कि वह दृश्य प्रमाण को नज़रअंदाज़ कर देता है। वह मुड़ता है, दराज खोलता है, और खोजने लगता है, जबकि चाकू पूरे समय उसके सामने ही था।

शोधकर्ता इसे "बलीफ इनर्शिया" (Belief Inertia - विश्वास की जड़ता) कहते हैं। यह ऐसा है जैसे रोबोट के पास एक मानसिक गति (momentum) है जो उसे गलत दिशा में चलते रहने पर मजबूर करती है, भले ही रास्ता (वातावरण) स्पष्ट रूप से बदल गया हो।

जाँच: ऐसा क्यों होता है?

शोधकर्ताओं ने रोबोट के दिमाग के अंदर झाँकने के लिए एक विशेष "मन पढ़ने वाले" उपकरण (जिसे प्रोबिंग कहा जाता है) का उपयोग किया। उन्होंने पाया कि:

रोबोट एक अनुमान लगाता है कि वह क्या देखेगा।
वह कुछ अलग देखता है (जैसे, चाकू काउंटर पर है)।
अपने दिमाग को अपडेट करने के बजाय, वह अपने मूल अनुमान पर ज़िद से अड़ा रहता है।
वह पुराने, गलत अनुमान के आधार पर कार्य करता है, जिससे विफलता होती है।

उन्होंने पाया कि यह उन रोबोटों में भी होता है जिन्हें उन्नत शिक्षण विधियों के साथ प्रशिक्षित किया गया है। यह एक मौलिक गड़बड़ी है कि वे नई जानकारी को कैसे प्रोसेस करते हैं।

समाधान: "चेक-वेरिफाई-अपडेट" लूप (EVU)

इसे ठीक करने के लिए, लेखकों ने एक नई विधि बनाई जिसे EVU (Estimate-Verify-Update) कहा जाता है। इसे रोबोट को कोई भी कदम उठाने से पहले एक "रियलिटी चेक" (वास्तविकता की जाँच) देने के रूप में समझें।

EVU कैसे काम करता है, यहाँ शेफ की उपमा का उपयोग करके बताया गया है:

एस्टिमेट (अनुमान लगाना - The Prediction):
रोबोट के हिलने से पहले, उसे ज़ोर से कहना होगा: "मुझे लगता है कि मुझे चाकू दराज में मिलेगा।" वह एक विशिष्ट अपेक्षा निर्धारित करता है।

रूपक: शेफ कहता है, "मुझे यकीन है कि चाकू दराज में है।"

वेरिफाई (सत्यापन - The Reality Check):
रोबोट चलता है और देखता है। वह काउंटर पर चाकू देखता है। अब, उसे अपने अनुमान की वास्तविकता से तुलना करनी होगी। वह स्पष्ट रूप से पूछता है: "रुको, मुझे लगा था कि यह दराज में है, लेकिन मैं इसे काउंटर पर देख रहा हूँ। मेरा अनुमान गलत था!"

रूपक: शेफ काउंटर की ओर देखता है और कहता है, "ओह! मैं चाकू को यहीं देख सकता हूँ। मेरा अनुमान गलत था।"

अपडेट (दिमाग को रीसेट करना - The Brain Reset):
उस "आश्चर्य" के आधार पर, रोबोट अपनी आंतरिक विश्वास स्थिति (belief state) को फिर से लिखता है। वह आधिकारिक तौर पर अपने मानसिक मानचित्र को अपडेट करता है: "ठीक है, चाकू काउंटर पर है। मैं दराज खोजना बंद कर दूँगा।"

रूपक: शेफ अपनी नोटबुक में "दराज" को काट देता है और "काउंटर" लिखता है। फिर वह तुरंत चाकू उठा लेता है।

यह एक बड़ी बात क्यों है

यह हर जगह काम करता है: शोधकर्ताओं ने तीन अलग-अलग "घर" वातावरण (ALFWorld, VirtualHome, ScienceWorld) पर इसका परीक्षण किया। हर मामले में, EVU का उपयोग करने वाले रोबोटों ने अपने कार्यों में बहुत बेहतर प्रदर्शन किया।
यह केवल "ज़्यादा सोचने" के बारे में नहीं है: कुछ लोगों का मानना था कि रोबोटों को बस अधिक गहराई से सोचने या चिंतन करने की आवश्यकता है। लेकिन शोधकर्ताओं ने दिखाया कि केवल चिंतन करना पर्याप्त नहीं है। रोबोट को यह मानने के लिए एक संरचित प्रक्रिया की आवश्यकता है कि वह कब गलत है।
यह समय और ऊर्जा बचाता है: आप सोच सकते हैं कि ये अतिरिक्त चरण (अनुमान, सत्यापन, अपडेट) जोड़ने से रोबोट धीमा हो जाएगा। आश्चर्यजनक रूप से, इसने उन्हें तेज़ बना दिया। क्योंकि रोबोट खाली दराजों को खोजने में समय बर्बाद करना बंद कर देता है, वह कम चरणों में कार्य पूरा करता है और कुल मिलाकर कम कंप्यूटर शक्ति का उपयोग करता है।

निष्कर्ष (The Takeaway)

यह पेपर हमें सिखाता है कि AI एजेंटों को वास्तव में स्मार्ट होने के लिए, वे केवल "निष्क्रिय पर्यवेक्षक" नहीं हो सकते जो अपने विश्वासों को भटकने देते हैं। उन्हें अपने विश्वासों का सक्रिय प्रबंधक होना चाहिए।

ठीक एक अच्छे जासूस की तरह जो लगातार अपने अनुमानों की नए सबूतों से जाँच करता रहता है, एक AI को एक ऐसी प्रणाली की आवश्यकता होती है जो उसे यह कहने के लिए मजबूर करे, "मुझे लगा था X, लेकिन मैं Y देख रहा हूँ, इसलिए अब मैं Y को मानता हूँ।" "योजना पर ज़िद से चिपके रहने" से "वास्तविकता के आधार पर सक्रिय रूप से अपडेट होने" की यह सरल शिफ्ट, ऐसे रोबोट बनाने की कुंजी है जो वास्तव में हमारी जटिल और बदलती दुनिया में नेविगेट कर सकें।

यहाँ शोध पत्र "Seeing Isn't Believing: Mitigating Belief Inertia via Active Intervention in Embodied Agents" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या की परिभाषा: विश्वास जड़ता (Belief Inertia) और अवलोकन संबंधी उपेक्षा (Observational Neglect)

यह शोध पत्र लार्ज लैंग्वेज मॉडल (LLM) आधारित एम्बोडीड एजेंटों (embodied agents) की एक महत्वपूर्ण विफलता को संबोधित करता है: अवलोकन संबंधी उपेक्षा (Observational Neglect)। अपने आंतरिक राज्य (internal state) के विपरीत स्पष्ट पर्यावरणीय फीडबैक मिलने के बावजूद, एजेंट अक्सर अपने तर्क (reasoning) को अपडेट करने में विफल रहते हैं, जिससे अनावश्यक या गलत क्रियाएं होती हैं।

मुख्य घटना: लेखक इसे "विश्वास जड़ता" (Belief Inertia) कहते हैं। यह एक संज्ञानात्मक पूर्वाग्रह (cognitive bias) है जहाँ एजेंट अपने पूर्व विश्वासों (कार्रवाई के परिणामों की अपेक्षाओं) पर तब भी अडिग रहते हैं जब उन्हें विरोधाभासी अवलोकनों का सामना करना पड़ता है।
प्रकटीकरण: "एक साफ चाकू काउंटरटॉप पर रखें" जैसे कार्यों में, एक एजेंट मेज पर चाकू देखते हुए भी यह तर्क दे सकता है कि उसे "अभी भी चाकू खोजने की आवश्यकता है," जिससे अनावश्यक खोज क्रियाएं शुरू हो जाती हैं।
मूल कारण: वर्तमान एजेंट (ReAct, SFT, या RL का उपयोग करने वाले) आमतौर पर विश्वास गतिशीलता (belief dynamics) को अंतर्निहित (implicitly) रूप से संभालते हैं। वे लंबे इंटरैक्शन इतिहास से स्थिति का अनुमान लगाने के लिए लेटेंट मॉडल पैरामीटर्स पर निर्भर करते हैं। बिना स्पष्ट हस्तक्षेप के, ये मॉडल अपने आंतरिक "विश्वास अवस्था" ( $b_t$ ) को वास्तविक पर्यावरण अवस्था ( $s_t$ ) के साथ संरेखित करने में विफल रहते हैं, जिससे एक ऐसा मिसअलाइनमेंट होता है जो बाद के रीजनिंग स्टेप्स तक बना रहता है।
साक्ष्य: ALFWorld बेंचमार्क पर सांख्यिकीय विश्लेषण से पता चलता है कि अवलोकन संबंधी उपेक्षा असफल ट्राजेक्टरीज में एक प्रमुख विफलता मोड है, जो वैनिला प्रॉम्प्टिंग, SFT, और RL-ट्यून्ड मॉडल्स में भी देखी जाती है।

2. कार्यप्रणाली: अनुमान-सत्यापन-अपडेट (Estimate-Verify-Update - EVU)

विश्वास जड़ता से निपटने के लिए, लेखक सक्रिय विश्वास हस्तक्षेप (Active Belief Intervention) का प्रस्ताव करते हैं, जो निष्क्रिय अवस्था अनुमान (passive state inference) से सक्रिय संज्ञानात्मक प्रबंधन (active cognitive management) की ओर स्थानांतरित होता है। वे एक एकीकृत तंत्र पेश करते हैं जिसे अनुमान-सत्यापन-अपडेट (EVU) कहा जाता है।

मानक ReAct एजेंटों के विपरीत जो कच्चे इतिहास (raw history) को संदर्भ (context) में जोड़ते हैं, EVU एक स्पष्ट, पाठ्य विश्वास अवस्था (explicit, textual belief state) ( $B_t$ ) बनाए रखता है जो एक संरचित लूप के माध्यम से पुनरावर्ती रूप से अपडेट किया जाता है:

अनुमान (Estimate): नए अवलोकन को प्रोसेस करने से पहले, एजेंट अपने पिछले कार्य के अपेक्षित परिणाम का अनुमान लगाता है ( $E_t$ $E_{t}$ )।
- सूत्र: $E_t \sim \pi_\theta(\cdot | B_{t-1}, a_{t-1}, o_t)$
- उद्देश्य: विसंगतियों का पता लगाने के लिए एक बेसलाइन अपेक्षा स्थापित करना।
सत्यापन (Verify): एजेंट वास्तविक अवलोकन ( $o_t$ $o_{t}$ ) की तुलना अनुमान ( $E_t$ $E_{t}$ ) से करता है ताकि सत्यापन साक्ष्य ( $V_t$ $V_{t}$ ) उत्पन्न किया जा सके।
- सूत्र: $V_t \sim \pi_\theta(\cdot | B_{t-1}, a_{t-1}, o_t, E_t)$
- उद्देश्य: एक "आश्चर्य संकेत" (surprise signal) के रूप में कार्य करना। यह स्पष्ट रूप से पहचान करता है कि क्या अवलोकन अपेक्षा की पुष्टि करता है या उसका खंडन करता है, जिससे एजेंट को सफलता का भ्रम (hallucination) पालने या विरोधाभासों को अनदेखा करने से रोका जा सके।
अपडेट (Update): एजेंट पूर्व विश्वास, अनुमान और सत्यापन साक्ष्य को संश्लेषित करके एक नया, जमीनी विश्वास अवस्था ( $B_t$ $B_{t}$ ) उत्पन्न करता है।
- सूत्र: $B_t \sim \pi_\theta(\cdot | B_{t-1}, a_{t-1}, o_t, E_t, V_t)$
- उद्देश्य: यह सुनिश्चित करना कि नया विश्वास वैध ऐतिहासिक संदर्भ को बनाए रखते हुए पर्यावरण को सटीक रूप से दर्शाता है।

एकीकृत एकीकरण (Unified Integration):
EVU को प्रशिक्षण प्रतिमान (training paradigm) के प्रति तटस्थ (agnostic) रहने के लिए डिज़ाइन किया गया है। इसे निम्नलिखित में एकीकृत किया जा सकता है:

प्रॉम्प्टिंग-आधारित विधियाँ: प्रॉम्प्ट रणनीति को बढ़ाने द्वारा जो एजेंट को एक्शन जेनरेट करने से पहले स्पष्ट रूप से E-V-U चरणों के माध्यम से मार्गदर्शन करती है।
प्रशिक्षण-आधारित विधियाँ (SFT/RL): विश्वास अपडेट और एक्शन जनरेशन को एक एकल ऑटो-रिग्रेसिव प्रक्रिया में एकीकृत करके, मॉडल को मानक लॉस फंक्शन्स (SFT के लिए NLL) या रिवॉर्ड सिग्नल्स (PPO/GRPO) के माध्यम से संपूर्ण रीजनिंग चेन (विश्वास अवस्था सहित) सीखने के लिए अनुकूलित करना।

3. मुख्य योगदान

विश्वास जड़ता का औपचारिककरण (Formalization of Belief Inertia): यह शोध पत्र "विश्वास जड़ता" को एक विशिष्ट संज्ञानात्मक विफलता के रूप में पहचानता है जहाँ एजेंट बाहरी साक्ष्य के बावजूद आंतरिक अवस्थाओं को अपडेट करने में विफल रहता है।
सक्रिय हस्तक्षेप तंत्र (EVU): एक नया, एकीकृत ढांचा प्रस्तावित करता है जो विश्वास प्रबंधन को एक्शन जनरेशन से अलग करता है, जिससे एजेंटों को अपने वर्ल्ड मॉडल को स्पष्ट रूप से अनुमान लगाने, सत्यापित करने और अपडेट करने के लिए मजबूर किया जाता है।
सामान्यीकरण (Generalizability): यह प्रदर्शित करता है कि EVU विभिन्न मॉडल आकारों (1.7B से 3B+), विभिन्न प्रशिक्षण प्रतिमानों (SFT, PPO, GRPO), और विविध प्रॉम्प्टिंग रणनीतियों में प्रभावी एक प्लग-एंड-प्ले मॉड्यूल है।

4. प्रयोगात्मक परिणाम

लेखकों ने तीन प्रमुख एम्बोडीड बेंचमार्क: ALFWorld, VirtualHome, और ScienceWorld पर EVU का मूल्यांकन किया।

प्रदर्शन लाभ:
- EVU ने सभी बेंचमार्क में बेसलाइन्स को लगातार पछाड़ दिया।
- प्रशिक्षण-आधारित सेटिंग्स ने सबसे महत्वपूर्ण सुधार दिखाया (औसत +10.37% सफलता दर), जो यह सुझाव देता है कि विश्वास अपडेट प्रक्रिया को आंतरिक बनाना केवल इन्फरेंस-टाइम प्रॉम्प्टिंग की तुलना में बेहतर परिणाम देता है।
- सामान्यीकरण: विधि ने अनसीन (Unseen) (आउट-ऑफ-डिस्ट्रीब्यूशन) कार्यों पर सीन (Seen) कार्यों की तुलना में उच्च लाभ (+9.21%) दिखाया, जो नवीन अवलोकनों के प्रति बेहतर मजबूती का संकेत देता है।
विश्वास जड़ता का शमन (Mitigation of Belief Inertia):
- प्रोबिंग प्रयोगों ने पुष्टि की कि EVU सफलतापूर्वक एजेंट के "सत्य विश्वास मूल्य" (True Belief Value) को नकारात्मक (गलत) से सकारात्मक (सही) क्षेत्रों की ओर स्थानांतरित करता है, जिससे जड़ता प्रभावी रूप से टूट जाती है।
- "अपडेट" चरण को विश्वास को ग्राउंड ट्रुथ के साथ सिंक्रोनाइज़ करने में निर्णायक कारक के रूप में पहचाना गया।
दक्षता (Efficiency):
- E-V-U चरणों के लिए अतिरिक्त टोकन जेनरेट करने के बावजूद, EVU ने प्रति कार्य कुल टोकन खपत को कम किया (1213.3 से 892.9 तक) और रीजनिंग लेटेंसी को कम किया। ऐसा इसलिए है क्योंकि स्पष्ट विश्वास अवस्था विस्तृत इंटरैक्शन इतिहास को संकुचित (compress) करती है, जिससे एजेंट अमान्य अन्वेषण के लूप में फंसने से बच जाता है।
रिफ्लेक्शन (Reflection) के साथ तुलना:
- EVU ने "मल्टीपल रिफ्लेक्शन" बेसलाइन्स (जो केवल एजेंट को अधिक सोचने के लिए कहते हैं) को कम टोकन का उपयोग करके पछाड़ दिया। यह सिद्ध करता है कि लाभ केवल बढ़ी हुई गणना से नहीं, बल्कि विश्वास सुधार की संरचना (predictive/difference-driven) से आता है।

5. महत्व और प्रभाव

प्रतिमान परिवर्तन (Paradigm Shift): यह शोध पत्र एजेंट रीजनिंग के प्रचलित "निष्क्रिय" दृष्टिकोण को चुनौती देता है। यह तर्क देता है कि एम्बोडीड एजेंटों के मजबूत होने के लिए, उन्हें केवल अंतर्निहित संदर्भ संचय पर निर्भर रहने के बजाय अपने आंतरिक वर्ल्ड मॉडल को सक्रिय रूप से प्रबंधित करना चाहिए।
मजबूती (Robustness): अवलोकन और विश्वास के बीच के अंतर को स्पष्ट रूप से संबोधित करके, EVU ऐसे एजेंट बनाने का मार्ग प्रशस्त करता है जो उनके पर्यावरण की स्थिति का "भ्रम" (hallucinating) करने के प्रति कम प्रवृत्त हों, जो वास्तविक दुनिया में तैनाती के लिए एक महत्वपूर्ण आवश्यकता है।
दक्षता: यह निष्कर्ष कि सक्रिय विश्वास प्रबंधन समग्र कम्प्यूटेशनल लागत को कम करता है (इंटरैक्शन ट्राजेक्टरीज को छोटा करके), इस दृष्टिकोण को संसाधन-बाधित अनुप्रयोगों के लिए अत्यधिक व्यावहारिक बनाता है।

निष्कर्षतः, यह शोध पत्र प्रदर्शित करता है कि देखना विश्वास करना नहीं है (Seeing is not Believing) जब तक कि एजेंट सक्रिय रूप से अपने विश्वासों को सत्यापित और अपडेट न करे। प्रस्तावित EVU तंत्र एम्बोडीड AI में एक मौलिक बाधा का एक सरल लेकिन शक्तिशाली समाधान प्रदान करता है, जो कार्य सफलता दर और सामान्यीकरण क्षमताओं में महत्वपूर्ण सुधार करता है।