← नवीनतम पेपर
💬 NLP

RICE-PO: Turning Retrieval Interactions into Credit Signals for Reasoning Agents

यह शोध पत्र RICE-PO का प्रस्ताव करता है, जो एक क्रिटिक-मुक्त (critic-free) पॉलिसी ऑप्टिमाइज़ेशन फ्रेमवर्क है जो उच्च-अनिश्चितता वाले निष्पादनीय कार्यों (high-uncertainty executable actions) को एंकर के रूप में उपयोग करके रिट्रीवल इंटरैक्शन को स्थानीयकृत लर्निंग सिग्नल्स में परिवर्तित करता है ताकि लेटेंट रीजनिंग स्टेप्स को क्रेडिट असाइन किया जा सके, जिससे BRIGHT और BEIR जैसे बेंचमार्क पर इंटरैक्टिव रीजनिंग एजेंट्स के प्रशिक्षण में सुधार होता है।

मूल लेखक: Mingchen Li, Hansi Zeng, Zhuo Qian, Jiatan Huang, Hamed Zamani, Hong Yu

प्रकाशित 2026-05-27
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Mingchen Li, Hansi Zeng, Zhuo Qian, Jiatan Huang, Hamed Zamani, Hong Yu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक स्मार्ट रोबोट को एक बहुत ही पेचीदा सवाल का सही उत्तर ढूँढना सिखा रहे हैं। रोबोट केवल एक सर्च क्वेरी टाइप करके उम्मीद नहीं करता। इसके बजाय, वह एक जासूस की तरह काम करता है: वह खोजता है, जो उसे मिलता है उसे पढ़ता है, सोचता है कि क्या कमी है, एक नई सर्च क्वेरी लिखता है, और फिर से खोजता है। वह उत्तर मिलने तक इस लूप को दोहराता रहता है।

बड़ी समस्या जो यह पेपर हल करता है, वह यह है कि रोबोट को यह कैसे सिखाया जाए कि उसके कौन से कदम वास्तव में अच्छे थे।

समस्या: सोचने का "ब्लैक बॉक्स" (Black Box of Thinking)

इस जासूसी खेल में, रोबोट के पास दो प्रकार के मूव्स (moves) होते हैं:

  1. "करने वाले" मूव्स (Executable): ये वे वास्तविक सर्च क्वेरीज़ हैं जो वह टाइप करता है। सर्च इंजन तुरंत रोबोट को बता सकता है, "अच्छा काम किया! उस क्वेरी ने 10 बेहतरीन लेख खोज निकाले," या "बुरा काम! उस क्वेरी को कुछ नहीं मिला।" इसे मापना आसान है।
  2. "सोचने वाले" मूव्स (Latent): ये वे आंतरिक विचार हैं जो रोबोट क्वेरी टाइप करने से पहले मन में लाता है। वह सोच सकता है, "मुझे यह देखना चाहिए कि यह कब हुआ था," या "मुझे लेखक की पृष्ठभूमि की जांच करनी चाहिए।" सर्च इंजन इन विचारों को देख नहीं सकता। उसे केवल अंतिम क्वेरी दिखाई देती है।

क्रेडिट असाइनमेंट की दुविधा (The Credit Assignment Dilemma):
यदि रोबोट अंततः सही लेख ढूँढ लेता है, तो हमें कैसे पता चलेगा कि किस विचार ने इस सफलता में मदद की?

  • क्या "लेखक की जाँच करें" वाले विचार ने सफलता दिलाई?
  • या रोबोट बस अपनी अंतिम क्वेरी के साथ भाग्यशाली रहा, और उसके शुरुआती विचार वास्तव में गलत थे?

यदि हम केवल रोबोट को अंतिम परिणाम के लिए "गोल्ड स्टार" देते हैं और उससे कहते हैं, "बहुत बढ़िया, तुमने जो भी सोचा वह सब सही था," तो रोबोट गलत सबक सीख सकता है। वह यह सोचकर शुरू कर सकता है, "ओह, मैं गलत था, लेकिन मुझे फिर भी गोल्ड स्टार मिला, इसलिए मैं इसी तरह करता रहूँगा।" इसे क्रेडिट मिसअसाइनमेंट (credit misassignment) कहा जाता है।

समाधान: RICE-PO (एक "स्मार्ट कोच")

लेखक एक नया प्रशिक्षण तरीका प्रस्तावित करते हैं जिसे RICE-PO कहा जाता है। केवल अंतिम परिणाम को देखने के बजाय, यह तरीका एक स्मार्ट कोच की तरह काम करता है जो रोबोट के अभ्यास सत्रों को देखता है और उसी क्षण फीडबैक देता है।

RICE-PO कैसे काम करता है, इसे एक सरल उदाहरण से समझते हैं:

1. "लड़खड़ाते क्षणों" को खोजना (Uncertainty Anchors)

कोच हर एक सेकंड तक नहीं देखता। इसके बजाय, कोच उन क्षणों को देखता है जहाँ रोबक अनिश्चित लगता है।

  • उदाहरण: कल्पना कीजिए कि रोबोट दो सर्च क्वेरी के बीच निर्णय लेने की कोशिश कर रहा है। एक है "क्योटो का इतिहास," और दूसरी है "नवीकरणीय ऊर्जा तकनीक।" यदि रोबोट बहुत आश्वस्त है, तो वह बस एक चुन लेता है। लेकिन यदि वह भ्रमित है और कई अलग-अलग, अजीब विकल्प बना रहा है, तो कोच कहता है, "ठीक है, यह एक महत्वपूर्ण क्षण है। आइए रुकते हैं और विश्लेषण करते हैं।"
  • पेपर में: वे इन उच्च-दांव वाले क्षणों को चुनने के लिए "एन्ट्रॉपी" (भ्रम का एक माप) का उपयोग करते हैं।

2. "क्या होता अगर?" सिमुलेशन (Local Counterfactuals)

एक बार जब कोच एक "लड़खड़ाते क्षण" की पहचान कर लेता है, तो वह केवल रोबोट के खत्म होने का इंतज़ार नहीं करता। वह एक त्वरित सिमुलेशन चलाता है।

  • उदाहरण: कोच कहता है, "ठीक है, तुम 'क्योटो' के बारे में सोच रहे थे। लेकिन क्या होता अगर, ठीक उसी क्षण में, तुमने 'टोक्यो' के बारे में सोचा होता? चलो मान लेते हैं कि तुमने ऐसा ही किया, देखो कि उस स्थिति में तुम कैसी सर्च क्वेरी लिखते, और चेक करते कि क्या उस क्वेरी को बेहतर परिणाम मिलते।"
  • पेपर में: वे एक ही इतिहास से कई "क्या होता अगर" वाली शाखाएँ (branches) बनाते हैं ताकि यह देख सकें कि क्या विचार को बदलने से वास्तव में सर्च परिणाम बदल जाता है।

3. "स्थिरता की जाँच" (Stability Check/Gated Propagation)

विचार को क्रेडिट देने से पहले कोच दो प्रश्न पूछता है:

  • प्रश्न A (प्रभाव - Influence): क्या उस विचार ने वास्तव में सर्च क्वेरी को बदला? (यदि रोबोट ने "क्योटो" बनाम "टोक्यो" सोचा लेकिन बिल्कुल वही क्वेरी लिखी, तो विचार का कोई महत्व नहीं था। कोई क्रेडिट नहीं।)
  • प्रश्न B (स्थिरता - Stability): क्या उस विचार का लाभ अंत तक बना रहा? (कभी-कभी एक विचार एक बेहतरीन सर्च क्वेरी की ओर ले जाता है, लेकिन फिर रोबोट अगला कदम बहुत खराब उठा लेता है जो सब कुछ बर्बाद कर देता है। यदि अंतिम परिणाम अगले कदम के कारण खराब है, तो हमें पहले विचार को क्रेडिट नहीं देना चाहिए।)
  • पेपर में: वे "रेसिड्यूअल स्टेबिलिटी" (residual stability) को मापते हैं। यदि स्थानीय इनाम (तत्काल खोज से प्राप्त) भविष्य के चरणों के बाद भी सुसंगत रहता है, तो कोच कहता है, "हाँ, यह विचार नायक था। इसे क्रेडिट दें!" यदि भविष्य के कदम इसे बिगाड़ देते हैं, तो कोच कहता है, "नहीं, अभी इस विचार को क्रेडिट न दें।"

परिणाम

इस तरीके का उपयोग करने से रोबोट बहुत तेज़ी से सीखता है।

  • पुराना तरीका: "तुमने सही उत्तर ढूँढ लिया! बहुत बढ़िया।" (रोबोट भ्रमित हो जाता है कि वास्तव में क्या काम आया)।
  • RICE-PO तरीका: "तुम यहाँ भ्रमित थे, लेकिन तुम्हारे विशिष्ट विचार ने एक बेहतर सर्च क्वेरी बनाई, और वह लाभ अंत तक बना रहा। वह विशिष्ट विचार बहुत अच्छा था। दोबारा ऐसा ही करना।"

यह क्यों महत्वपूर्ण है

पेपर ने दो बड़े डेटासेट्स (BRIGHT और BEIR) पर इसका परीक्षण किया, जो पेचीदा सवालों की विशाल लाइब्रेरी की तरह हैं।

  • उन्होंने पाया कि RICE-PO ने रोबोट को (यहाँ तक कि छोटे, सस्ते रोबोटों को भी) पिछले तरीकों की तुलना में बेहतर उत्तर खोजने में मदद की।
  • उन्होंने सिद्ध किया कि रोबोट को क्या करना है यह बताने के लिए आपको एक बहुत महंगे "जज" AI की आवश्यकता नहीं है। खोज प्रक्रिया की संरचना ही (यह तथ्य कि क्वेरीज़ को टेस्ट किया जा सकता है) रोबोट को वह सारा फीडबैक प्रदान करती है जिसकी उसे आवश्यकता है।

संक्षेप में: RICE-PO एक ऐसा तरीका है जिससे AI एजेंटों को उनके अपने खोज इतिहास से सीखने के लिए प्रशिक्षित किया जाता है, जिसमें सावधानीपूर्वक यह जांचा जाता है कि क्या उनके विचारों ने वास्तव में उनकी सफलता का कारण बने, बजाय इसके कि केवल अंतिम स्कोर के आधार पर अनुमान लगाया जाए।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →