← नवीनतम पेपर
🤖 machine learning

OR Else: A Differentiable Trust Region for Policy Optimization

यह शोध पत्र LLM पोस्ट-ट्रेनिंग के लिए PPO और GRPO में क्लिप्ड सरोगेट ऑब्जेक्टिव्स के एक सुचारू, डिफरेंशिएबल विकल्प के रूप में "आउटपुट रिसेट" (OR) की जांच करता है, जिसमें यह पाया गया है कि हालांकि OR अनुकूलन व्यवहार को बदल देता है और ग्रुप-रिलेटिव सेटिंग्स में वेरिएंस को कम करता है, फिर भी यह मानक क्लिप्ड दृष्टिकोणों की तुलना में रिवॉर्ड-मॉडल स्कोर में लगातार सुधार नहीं करता है।

मूल लेखक: Chinmay Rane, Kanishka Tyagi, Michael Manry

प्रकाशित 2026-07-21
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Chinmay Rane, Kanishka Tyagi, Michael Manry

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

AI को "बिल्कुल सही" होना सिखाने की कला

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन थोड़े अराजक रोबोट को ऐसी कहानियाँ लिखना सिखाने की कोशिश कर रहे हैं जिन्हें इंसान वास्तव में पसंद करें। इस क्षेत्र को 'रिनफोर्समेंट लर्निंग फ्रॉम ह्यूमन फीडबैक' (RLHF) कहा जाता है। यह एक खेल की तरह है जहाँ रोबोट एक वाक्य लिखता है, एक मानव निर्णायक उसे थम्स-अप या थम्स-डाउन देता है, और रोबोट अगली बार बेहतर लिखने के लिए उस फीडबैक से सीखने की कोशिश करता है। लक्ष्य रोबोट को मददगार और हानिरहित बनाना है, बिना उसे नियंत्रण से बाहर हुए।

इसे करने के लिए, वैज्ञानिक एक "रिवॉर्ड मॉडल" का उपयोग करते हैं—एक डिजिटल निर्णायक जो रोबोट के लेखन को स्कोर देता है। लेकिन इसमें एक पेचीदा हिस्सा है: यदि रोबोट निर्णायक को खुश करने की बहुत अधिक कोशिश करता है, तो वह उच्च स्कोर पाने के लिए बकवास लिखना शुरू कर सकता है, या वह अपने व्यक्तित्व को इतना बदल सकता है कि वह सामान्य रूप से बोलना भूल जाए। इसे रोकने के लिए, शोधकर्ता "ट्रस्ट रीजन" नामक एक सुरक्षा नियम का उपयोग करते हैं। इसे एक पट्टे (लीश) की तरह समझें। रोबोट को घूमने और सीखने की अनुमति है, लेकिन पट्टा उसे उसके मूल, समझदार स्वरूप से बहुत दूर जाने से रोकता है।

इस पट्टे को प्रबंधित करने का सबसे लोकप्रिय तरीका PPO (प्रॉक्सिमल पॉलिसी ऑप्टिमाइजेशन) नामक एक विधि है। PPO एक "क्लिपिंग" तंत्र का उपयोग करता है। कल्पना कीजिए कि रोबोट एक लक्ष्य की ओर दौड़ रहा है। यदि वह सुरक्षित क्षेत्र के किनारे के बहुत करीब पहुँच जाता है, तो PPO अचानक ब्रेक लगा देता है, जिससे तेज़ दौड़ने के लिए मिलने वाली किसी भी अतिरिक्त प्रेरणा को काट दिया जाता है। यह प्रभावी है, लेकिन यह एक लाइट स्विच की तरह है: या तो यह पूरी तरह से चालू है या पूरी तरह से बंद। यह शोध पत्र एक सरल प्रश्न पूछता है: क्या होगा यदि पट्टा केवल झटके से बंद न हो जाए, बल्कि जैसे ही रोबोट सुरक्षित सीमा तक पहुँचे, धीरे-धीरे कम होता जाए? लेखक एक नई विधि प्रस्तावित करते हैं जिसे "आउटपुट रिसेट" (OR) कहा जाता है, यह देखने के लिए कि क्या यह सहज दृष्टिकोण बेहतर काम करता है।

स्मूथ लीश बनाम क्लिप्ड स्विच

शोधकर्ताओं, चिन्मय राणे, कनिष्क त्यागी और माइकल मैनरी ने इस नए "स्मूथ लीश" विचार का परीक्षण दो अलग-अलग प्रशिक्षण परिदृश्यों में "क्लिप्ड स्विच" के विरुद्ध करने का निर्णय लिया। उन्होंने एक छोटा लेकिन सक्षम रोबोट मस्तिष्क (Llama-3.2-1B मॉडल) का उपयोग किया और इसे मानव प्राथमिकताओं (Anthropic hh-rlhf) के डेटासेट पर प्रशिक्षित किया। उन्होंने परिणामों की पुष्टि करने के लिए तीन अलग-अलग रैंडम सीड्स के साथ प्रयोग को तीन बार चलाया।

प्रयोग: दो अलग-अलग दुनिया
टीम ने अपनी नई विधि, जिसे वे PPO-OR और GRPO-OR कहते हैं, का दो अलग-अलग वातावरणों में परीक्षण किया:

  1. GAE वर्ल्ड (PPO): यह क्लासिक सेटअप है जहाँ रोबोट के पास एक "क्रिटिक" (एक सहायक जो भविष्य के पुरस्कारों की भविष्यवाणी करता है) होता है और वह एक-एक करके व्यक्तिगत टोकन (शब्दों) से सीखता है।
  2. ग्रुप-रिलेटिव वर्ल्ड (GRPO): यह एक नया, सरल सेटअप है जहाँ रोबोट एक साथ दो उत्तर उत्पन्न करता है, उनकी तुलना करता है, और बिना क्रिटिक की आवश्यकता के अंतर से सीखता है।

परिणाम: दो परिणामों की कहानी
परिणाम आश्चर्यजनक थे और उन्होंने दिखाया कि "स्मूथ लीश" हर स्थिति में एक जैसा काम नहीं करता है।

  • GAE वर्ल्ड (PPO) में: स्मूथ विधि (PPO-OR) कच्चे स्कोर के मामले में स्पष्ट विजेता थी। नई विधि से प्रशिक्षित रोबोटों का औसत रिवॉर्ड स्कोर 0.500 रहा, जबकि मानक क्लिप्ड विधि के लिए यह 0.195 था। यह 0.305 अंकों की छलांग है! हालाँकि, एक पेंच था: परिणाम थोड़े अधिक "अस्थिर" (wobbly) थे। तीन अलग-अलग रन के बीच स्कोर में अधिक भिन्नता थी (एक मानक विचलन 0.158 बनाम 0.110)। ऐसा लगता है कि स्मूथ लीश ने रोबोट को तेज़ी से दौड़ने में मदद की, लेकिन इसने उसके पथ को थोड़ा कम अनुमानित बना दिया।

  • ग्रुप-रिलेटिव वर्ल्ड (GRPO) में: यहाँ, स्मूथ विधि (GRPO-OR) ने रोबोट को तेज़ नहीं बनाया। वास्तव में, औसत स्कोर 0.488 से घटकर 0.457 हो गया। लेकिन, रोबोट बहुत अधिक स्थिर हो गया। रन के बीच का अंतर नाटकीय रूप से घटकर 0.080 से 0.027 रह गया। यह ऐसा था जैसे रोबोट ने झिलमिलाना बंद कर दिया और एक स्थिर लय पा ली, भले ही वह उच्चतम शिखर तक नहीं पहुँच सका।

बड़ा आश्चर्य: पट्टा छोटा नहीं हुआ
सबसे महत्वपूर्ण निष्कर्ष, हालांकि, स्कोर के बारे में नहीं था। शोधकर्ता चिंतित थे कि नई विधि रोबोट को उसके मूल व्यक्तित्व से बहुत दूर जाने दे सकती है (एक समस्या जिसे "पॉलिसी ड्रिफ्ट" कहा जाता है)। उन्होंने यह मापा कि रोबोट की वर्तमान लेखन शैली उसकी शुरुआती शैली से कितनी दूर चली गई।

उन्होंने पाया कि ग्रुप-रिलेटिव दुनिया में, रोबोट बहुत अधिक विचलित हुआ—चाहे वे पुराने क्लिप्ड मेथड का उपयोग कर रहे हों या नए स्मूथ मेथड का, विचलन 5 से 13 यूनिट के बीच था। स्मूथ लीश (OR) ने रोबोट को घर से बहुत दूर जाने से नहीं रोका। इसने केवल यह बदला कि जब वह "सेफ ज़ोन" तक पहुँचता है तो वह कैसे प्रतिक्रिया करता है। पेपर स्पष्ट रूप से इस विचार को खारिज करता है कि यह स्मूथ सैचुरेशन एक सख्त "ट्रस्ट रीजन" के रूप में कार्य करता है जो रोबोट को घर के करीब रखता है। रोबोट अभी भी भटक गया; नई विधि ने केवल यह बदला कि वह वहाँ पहुँचने के बाद सुधार करने की कोशिश करना कैसे रोकता है।

इसका भविष्य के लिए क्या अर्थ है

लेखक इसे पूर्ण विजय कहने में सावधान हैं। उन्होंने पाया कि "स्मूथ लीश" (आउटपुट रिसेट) यह बदल देता है कि रोबोट कैसे सीखता है, लेकिन यह ग्रुप-रिलेटिव पद्धति की सबसे बड़ी समस्या को हल नहीं करता है: मूल पॉलिसी से बहुत दूर जाने की प्रवृत्ति।

क्लासिक PPO सेटअप में, स्मूथ विधि ने रोबोट को उच्च स्कोर प्राप्त करने में मदद की, हालांकि थोड़ी अस्थिरता के साथ। नए ग्रुप-रिलेटिव सेटअप में, इसने प्रशिक्षण को बहुत सुसंगत बना दिया लेकिन इसने अंतिम स्कोर में सुधार नहीं किया या रोबोट को भटकने से नहीं रोका। पेपर सुझाव देता है कि केवल गणित को स्मूथ करना पर्याप्त नहीं है; हमें रोबोट को भटकने से रोकने के लिए बड़े तुलनात्मक समूहों या विभिन्न सुरक्षा नियमों की आवश्यकता हो सकती है।

अंततः, यह अध्ययन दिखाता है कि AI प्रशिक्षण की दुनिया में, कोई एक "जादुई गोली" (magic bullet) नहीं है। एक तकनीक जो एक सेटअप में खूबसूरती से काम करती है, वह दूसरे में अलग व्यवहार कर सकती है। आउटपुट रिसेट का स्मूथ, निरंतर दृष्टिकोण सीखने का एक अलग स्वाद प्रदान करता है—जो संदर्भ के आधार पर अधिक स्थिर या अधिक प्रभावी हो सकता है—लेकिन यह इन शक्तिशाली मॉडलों को नियंत्रण में रखने के लिए एक सार्वभौमिक समाधान नहीं है। शोधकर्ता निष्कर्ष निकालते हैं कि जबकि उनकी नई विधि प्रशिक्षण प्रक्रिया के व्यवहार को बदलती है, इन शक्तिशाली मॉडलों को सर्वोत्तम रूप से नियंत्रित करने का प्रश्न खुला है, विशेष रूप से जैसे-जैसे हम बड़े और अधिक जटिल AI सिस्टम की ओर बढ़ रहे हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →