← नवीनतम पेपर
🤖 AI

CoRE: Consensus Rewards via Equilibrium for Test-Time Reinforcement Learning

यह शोध पत्र CoRE को प्रस्तुत करता है, जो एक टेस्ट-टाइम सुदृढीकरण शिक्षण (reinforcement learning) विधि है जो भंगुर बहुमत मतदान (majority voting) को रिप्लिकेटर डायनेमिक्स (replicator dynamics) से प्राप्त ग्राफ-आधारित सर्वसम्मति पुरस्कारों (consensus rewards) से प्रतिस्थापित करती है ताकि श्रेणीबद्ध, स्व-पर्यवेक्षित संकेत प्रदान किए जा सकें जो विविध मॉडलों और बेंचमार्क में सटीकता और अभिसरण गति में सुधार करते हैं।

मूल लेखक: Ambuj Mehrish, Sebastiano Vascon

प्रकाशित 2026-08-11
📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Ambuj Mehrish, Sebastiano Vascon

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ एक सुपर-स्मार्ट रोबोट एक पेचीदा पहेली को हल करना सीखने की कोशिश कर रहा है, लेकिन वहाँ कोई नहीं है जो उसे बता सके कि उसने सही उत्तर दिया है या नहीं। यह आधुनिक AI मॉडल्स का दैनिक जीवन है जब वे नए, बिना लेबल वाले सवालों का सामना करते हैं। सीखने के लिए, इन मॉडल्स को आमतौर पर एक शिक्षक की आवश्यकता होती है जो कहे, "अच्छा काम किया!" या "फिर से कोशिश करो!" जो सही उत्तर कुंजी (answer key) के आधार पर हो। लेकिन क्या होता है जब कोई उत्तर कुंजी मौजूद ही न हो? यहीं पर टेस्ट-टाइम रीइन्फोर्समेंट लर्निंग (Test-Time Reinforcement Learning) नामक एक क्षेत्र काम आता है। यह एक चतुर तकनीक है जहाँ AI एक ही समस्या के कई अलग-अलग प्रयास (जिन्हें "रोल-आउट्स" कहा जाता है) करके खुद को सिखाने की कोशिश करता है और फिर अपने ही काम को देखकर यह समझने की कोशिश करता है कि उसे किस पर विश्वास करना चाहिए।

इसे करने का मानक तरीका एक कक्षा के मतदान जैसा है। यदि AI 64 अलग-अलग उत्तर उत्पन्न करता है, तो यह बस उन्हें गिनता है। यदि 35 ने "42" कहा और 29 ने "17" कहा, तो AI मान लेता है कि "42" ही सत्य है क्योंकि उसे सबसे अधिक वोट मिले हैं। इसके बाद वह हर उस प्रयास को पुरस्कृत करता है जिसने "42" कहा और बाकी को दंडित करता है। यह अधिकांश समय अच्छा काम करता है, लेकिन इसमें एक घातक दोष है: यह एक भाग्यशाली अनुमान को एक शानदार, तर्कपूर्ण समाधान के समान ही मानता है, और इस संभावना को अनदेखा कर देता है कि "बहुमत" आत्मविश्वास के साथ गलत भी हो सकता है। यदि बुद्धिमान, आत्मविश्वासी प्रयासों का एक छोटा समूह "17" कहता है, जबकि एक बड़ा, भ्रमित समूह "42" चिल्ला रहा है, तो मतदान प्रणाली उस स्मार्ट अल्पसंख्यक समूह को कुचल देगी। यह शोध पत्र पूछता है: क्या हम AI के लिए खुद को सुनने का एक स्मार्ट तरीका बना सकते हैं, जो केवल इस पर नहीं कि कितने लोग सहमत हैं, बल्कि इस पर ध्यान दे कि उनके उत्तर कैसे सहमत हैं?


मतपेटी की समस्या (The Problem with the Ballot Box)

कल्पना कीजिए कि जासूसों का एक समूह एक अपराध को सुलझाने की कोशिश कर रहा है। पुराने तरीके में ("बहुमत मत" विधि), वे बस हाथ उठाते हैं। यदि 60 जासूस बटलर की ओर इशारा करते हैं और 40 माली की ओर, तो बटलर दोषी है। लेकिन क्या होगा यदि वे 60 जासूस जो बटलर की ओर इशारा कर रहे हैं, सभी भ्रमित हैं, जबकि माली की ओर इशारा करने वाले 40 जासूस वास्तव में सुरागों को सही ढंग से पढ़ चुके हैं? मतदान प्रणाली स्मार्ट जासूसों को दंडित करेगी और भ्रमित लोगों को पुरस्कृत करेगी, जिससे पूरी टीम समय के साथ और मूर्ख होती जाएगी।

AI मॉडल्स के साथ बिल्कुल यही होता है जो मानक टेस्ट-टाइम रीइन्फोर्समेंट लर्निंग का उपयोग करते हैं। वे कई उत्तर उत्पन्न करते हैं, विजेताओं को गिनते हैं, और मान लेते हैं कि विजेता सही है। यदि AI एक व्यवस्थित गलती करता है जो लोकप्रिय भी है, तो वह उस गलती को ही पुख्ता (reinforce) कर देता है। यह एक टूटी हुई लोकतंत्र की तरह है जहाँ सबसे तेज़ आवाज़ जीत जाती है, भले ही वे बकवास चिल्ला रहे हों।

कोरे (CoRE): जासूसों की गोलमेज चर्चा

इस शोध पत्र के लेखक, अंबुज मेहरिश और सेबस्टियानो वास्कॉन, एक नई विधि प्रस्तावित करते हैं जिसे CoRE (Consensus Rewards via Equilibrium) कहा जाता है। केवल सिरों को गिनने के बजाय, CoRE AI के प्रयासों को संबंधों के एक जटिल जाल की तरह मानता है।

यह कैसे काम करता है, एक सरल उदाहरण के माध्यम से समझें:
कल्पimate करें कि AI के 64 प्रयास एक कमरे में बैठे लोग हैं।

  1. ग्राफ (The Graph): केवल उत्तर चिल्लाने के बजाय, ये लोग कनेक्शन का एक विशाल जाल बनाते हैं। दो लोग तब जुड़े होते हैं जब उन्होंने एक ही उत्तर दिया हो। लेकिन यह कनेक्शन केवल "हाँ/ना" नहीं है। इसे इस आधार पर भारित (weighted) किया गया है कि उनकी तर्क प्रक्रिया कितनी समान थी (क्या उन्होंने एक ही तर्क का उपयोग किया?) और वे कितने आत्मविश्वासी थे (क्या वे निश्चितता के साथ बोले?)।
  2. साम्यावस्था (The Equilibrium): सिस्टम फिर "रेप्लिकेटर डायनेमिक्स" नामक एक गणितीय सिमुलेशन चलाता है। इसे संगीत वाली कुर्सियों (musical chairs) के खेल के रूप में सोचें जहाँ वे लोग जो अपने आत्मविश्वासी, तार्किक पड़ोसियों द्वारा सबसे अधिक समर्थित होते हैं, खड़े होने लगते हैं और एक घनिष्ठ, मजबूत घेरा बनाना शुरू करते हैं। "डोमिनेंट सेट" वह समूह है जो आपसी समर्थन को सबसे अधिक थामे रखता है।
  3. पुरस्कार (The Reward): विजेता के लिए सबको साधारण "पास" या "फेल" देने के बजाय, CoRE एक श्रेणीबद्ध स्कोर (graded score) देता है। यदि आपका उत्तर एक घनिष्ठ, आत्मविश्वासी, तार्किक घेरे का हिस्सा था, तो आपको उच्च पुरस्कार मिलता है। यदि आप एक कमजोर, भ्रमित समूह का हिस्सा थे, तो आपको कम पुरस्कार मिलता है। भले ही आप अल्पसंख्यक में थे, यदि आपका समूह सबसे सुसंगत और आत्मविश्वासी था, तो CoRE वास्तव में आपको विजेता के रूप में चुन सकता है।

उन्होंने क्या पाया

शोधकर्ताओं ने सात अलग-अलग AI मॉडल्स और पांच अलग-अलग गणित और विज्ञान बेंचमार्क पर इस नए "CoRE" तरीके का "बहुमत मत" (Majority Vote) पद्धति के विरुद्ध परीक्षण किया। उन्होंने परिणामों की वास्तविकता सुनिश्चित करने के लिए तीन अलग-अलग रैंडम सीड्स (मूल रूप से तीन अलग-अलग शुरुआती स्थितियाँ) के साथ प्रयोग किए।

परिणाम काफी उत्साहजनक थे:

  • बेहतर स्कोर: औसतन, CoRE का उपयोग करने वाले मॉडल्स ने बिना किसी लर्निंग के अपने शुरुआती बिंदु की तुलना में सटीकता में 21.7 अंक का सुधार किया। पुराने वोटिंग तरीके ने केवल 20.4 अंक का सुधार किया।
  • विवादित लड़ाइयों में जीतना: असली जादू तब हुआ जब उत्तर विभाजित थे। उन स्थितियों में जहाँ AI अनिश्चित था और "वोट" बहुत करीब था, CoRE वोटिंग पद्धति से 7.5 अंक तक बेहतर रहा। इसने सफलतापूर्वक उस "स्मार्ट अल्पसंख्यक" को बचा लिया जिसे वोटिंग प्रणाली अनदेखा कर देती।
  • तेजी से सीखना: CoRE केवल बेहतर ही नहीं हुआ; यह वहां तक जल्दी पहुँचा। यह वोटिंग पद्धति की तुलना में 54% से 70% कम चरणों में समान अंतिम सटीकता स्तर तक पहुँच गया। यह सुझाव देता है कि CoRE से मिलने वाले श्रेणीबद्ध, सूक्ष्म पुरस्कार AI को सीखने के लिए एक स्पष्ट, अधिक सहायक संकेत देते हैं।

"रिकवरी ज़ोन" (The Recovery Zone)

पेपर यह भी समझाता है कि यह कब सबसे अच्छा काम करता है। उन्होंने पाया कि एक विशिष्ट "रिकवरी ज़ोन" है। यदि AI इतना बुरा है कि वह समस्या को बिल्कुल हल नहीं कर सकता, या इतना अच्छा है कि सभी पूरी तरह सहमत हैं, तो CoRE पुराने वोटिंग तरीके की तरह ही काम करता है (जो कि ठीक है)। लेकिन उस बीच की स्थिति में—जहाँ सही उत्तरों का एक छोटा समूह, गलत लेकिन आत्मविश्वासी उत्तरों के एक बड़े समूह से लड़ रहा है—CoRE चमकता है।

लेखकों ने गणितीय रूप से दिखाया है कि यदि सही उत्तर गलतों की तुलना में थोड़े भी अधिक आत्मविश्वासी हैं, तो CoRE पासा पलट सकता है और सही उत्तर चुन सकता है, भले ही वह अल्पसंख्यक हो। यह एक बुद्धिमान न्यायाधीश की तरह है जो महसूस करता है कि ठोस सबूतों वाले 40 जासूस, उन 60 जासूसों की तुलना में अधिक भरोसेमंद हैं जिन्होंने केवल अनुमान लगाया था।

निष्कर्ष

यह शोध पत्र सुझाव देता है कि हमें वोटिंग सिस्टम को पूरी तरह से छोड़ने की आवश्यकता नहीं है; CoRE वास्तव में वोटिंग को एक विशेष मामले के रूप में शामिल करता है। लेकिन इसमें "सामाजिक बुद्धिमत्ता" (social intelligence) की एक परत जोड़कर—यह देखकर कि उत्तर एक-दूसरे का समर्थन कैसे करते हैं और वे कितने आत्मविश्वासी हैं—हम एक भंगुर, सब-या-कुछ-नहीं वाले वोट को एक स्मार्ट, कैलिब्रेटेड रिवॉर्ड सिस्टम में बदल सकते हैं।

लेखक सावधानीपूर्वक नोट करते हैं कि यह कोई जादुई छड़ी नहीं है जो सब कुछ ठीक कर दे। यदि AI पूरी तरह से खो गया है (द "कॉम्पिटेंस फ्लोर"), तो CoRE शून्य से सही उत्तर पैदा नहीं कर सकता। लेकिन उन कठिन समस्याओं के लिए जहाँ AI लगभग सही है लेकिन भीड़ से भ्रमित हो जाता है, CoRE एक शांत, आत्मविश्वासी तर्क की आवाज़ सुनने का एक तरीका सुझाता है, न कि केवल सबसे तेज़ शोर की। यह एक साधारण गिनती को एक परिष्कृत संवाद में बदल देता है, जिससे AI मॉडल अपनी गलतियों से तेज़ी से और बेहतर तरीके से सीख पाते हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →