← नवीनतम पेपर
🤖 machine learning

Test-Time Personalization: A Diagnostic Framework and Probabilistic Fix for Scaling Failures

यह शोध पत्र एक टेस्ट-टाइम पर्सनलाइजेशन फ्रेमवर्क पेश करता है जो सैंपलिंग और कैंडिडेट चयन के माध्यम से इन्फरेंस को स्केल करता है, एक एकीकृत स्केलिंग लॉ के माध्यम से यूजर-लेवल कोलैप्स और क्वेरी-लेवल रिवॉर्ड हैकिंग की पहचान करके मानक रिवॉर्ड मॉडल की विफलताओं का निदान करता है, और इन समस्याओं को प्रभावी ढंग से कम करने तथा निरंतर प्रदर्शन लाभ प्राप्त करने के लिए एक संभाव्य व्यक्तिगत रिवॉर्ड मॉडल का प्रस्ताव करता है।

मूल लेखक: Linhai Zhang, Yulan He

प्रकाशित 2026-05-13
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Linhai Zhang, Yulan He

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "टेस्ट-टाइम पर्सनलाइजेशन: ए डायग्नोस्टिक फ्रेमवर्क एंड प्रोबेबिलिस्टिक फिक्स फॉर स्केलिंग फेलियर्स" (Test-Time Personalization: A Diagnostic Framework and Probabilistic Fix for Scaling Failures) पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।

मुख्य विचार: एक बेहतर लेखक नहीं, बल्कि एक बेहतर संपादक (Editor) नियुक्त करना

कल्पना कीजिए कि आप एक प्रसिद्ध लेखक (यूज़र) हैं जो एक समाचार की हेडलाइन लिखवाना चाहते हैं। आपकी एक विशिष्ट शैली है: शायद आपको शब्दों के खेल (puns) पसंद हैं, या आप छोटे और प्रभावशाली वाक्यों को प्राथमिकता देते हैं।

वर्तमान में, अधिकांश AI सिस्टम इस समस्या को लेखक को बदलने के माध्यम से हल करने की कोशिश करते हैं। वे या तो लेखक के निर्देशों (प्रॉम्प्टिंग) में बदलाव करते हैं या आपके पिछले लेखों पर लेखक के मस्तिष्क को फिर से प्रशिक्षित (फाइन-ट्यूनिंग) करते हैं। यह पेपर तर्क देता है कि यह एक खराब शेफ की रेसिपी बुक बदलने जैसा है, जबकि आपको बस उसे कुछ अलग व्यंजन बनाने देना चाहिए और उनमें से सबसे अच्छा चुन लेना चाहिए।

लेखक एक नया दृष्टिकोण प्रस्तावित करते हैं जिसे टेस्ट-टाइम पर्सनलाइजेशन (TTP) कहा जाता है। AI लेखक को एकदम सटीक बनाने के बजाय, वे AI को एक साथ 30 अलग-अलग हेडलाइन्स लिखने देते हैं, और फिर एक विशेष संपादक (रिवॉर्ड मॉडल) का उपयोग करके आपके लिए सबसे अच्छी एक हेडलाइन चुनते हैं।

समस्या: "खराब संपादक" का जाल

सैद्धांतिक रूप से, यह बहुत अच्छा लगता है। यदि आपके पास 30 विकल्प हैं, तो उनमें से एक तो कमाल का होना चाहिए, है ना? गणित कहता है कि हाँ: जितने अधिक विकल्प होंगे, सबसे अच्छा विकल्प उतना ही बेहतर होता जाएगा।

हालाँकि, लेखकों ने एक बड़ी समस्या देखी। जब उन्होंने इसे वास्तविक जीवन में आज़माया, तो "संपादक" (रिवॉर्ड मॉडल) बहुत खराब निकले।

  • ग्लोबल एडिटर (Global Editor): एक ऐसा संपादक जिसे सभी के लेखन पर प्रशिक्षित किया गया है। वह आपकी शैली को अपने पड़ोसी की शैली से अलग नहीं पहचान सका। उसने हेडलाइन्स को लगभग उतनी ही बेतरतीब ढंग से चुना जैसे कि सिक्का उछालकर चुना जा रहा हो।
  • पर्सनल एडिटर (Personal Editor): एक ऐसा संपादक जिसे केवल आपके लेखन पर प्रशिक्षित किया गया है। उन्होंने बहुत कोशिश की, लेकिन वे अक्सर भ्रमित हो गए। कभी-कभी उन्हें आपकी पसंदीदा शैली बिल्कुल पसंद नहीं आती थी (सबसे खराब हेडलाइन्स चुनना), और कभी-कभी वे हार मान लेते थे और कहते थे "सब कुछ एक जैसा लग रहा है" (रैंडमली चुनना)।

उपमा (Analogy): कल्पना कीजिए कि आपने 30 शर्ट के रैक में से सबसे अच्छी शर्ट चुनने के लिए एक पर्सनल शॉपर (संपादक) को काम पर रखा है।

  • ग्लोबल शॉपर आपकी पसंद नहीं जानता, इसलिए वह ऐसी शर्ट चुनता है जो दिखने में सबके जैसी हो।
  • पर्सनल शॉपर आपकी पसंद जानता है लेकिन वह घबरा जाता है। कभी-कभी वह घबराकर सबसे बदसूरत शर्ट चुन लेता है क्योंकि उसे लगता है कि सब कुछ बदसूरत है। अन्य समय में, वह बस खाली नज़रें टिकाए रहता है और पहली शर्ट उठा लेता है क्योंकि वह एक अच्छी शर्ट और एक बुरी शर्ट के बीच अंतर नहीं कर पाता।

निदान (Diagnosis): संपादक दो तरह से विफल होते हैं

लेखकों ने एक "डायग्नोस्टिक फ्रेमवर्क" बनाया ताकि यह पता लगाया जा सके कि ये संपादक क्यों विफल होते हैं। उन्होंने विफलता के दो विशिष्ट तरीके खोजे:

  1. यूज़र-लेवल कोलैप्स (The "Blank Stare" - खाली नज़रें):
    कुछ यूज़र्स के लिए, पर्सनल एडिटर डेटा से इतना भ्रमित हो जाता है कि वह अच्छे और बुरे के बीच अंतर करना बंद कर देता है। वह हर एक विकल्प को बिल्कुल एक जैसा स्कोर देने लगता है।
  • उपमा: शॉपर 30 शर्टों को देखता है और कहता है, "मुझे तो ये सब एक जैसी ही लग रही हैं," इसलिए वह बस पहली वाली उठा लेता है। वह आपकी कोई मदद नहीं कर रहा है।
  1. क्वेरी-लेवल रिवॉर्ड हैकिंग (The "Backwards Compass" - उल्टा दिशा-सूचक):
    कुछ विशिष्ट प्रश्नों के लिए, एडिटर पूरी तरह से गलत हो जाता है। उसे लगता है कि सबसे खराब विकल्प ही सबसे अच्छा है।
  • उपमा: शॉपर एक चमकीली लाल शर्ट को देखता है और कहता है, "यह बहुत खराब है," और उसके बदले एक गंदा ग्रे मोजा उठा लेता है। वे सक्रिय रूप से चीज़ों को बदतर बना रहे हैं।

समाधान: "अनसर्टेन" (अनिश्चित) एडिटर

लेखक महसूस कर गए कि मानक संपादक बहुत अधिक आत्मविश्वासी होते हैं। वे तब भी एक उत्तर देने के लिए मजबूर करते हैं जब वे अनिश्चित होते हैं।

उन्होंने एक प्रोबेबिलिस्टिक पर्सनलाइज्ड रिवॉर्ड मॉडल प्रस्तावित किया। केवल एक स्कोर (जैसे, "8/10") देने के बजाय, यह नया एडिटर एक स्कोर और अनिश्चितता का माप (जैसे, "8/10, लेकिन मैं 100% सुनिश्चित नहीं हूँ") भी देता है।

यह कैसे काम करता है (जादुई ट्रिक):

  • ट्रेनिंग के दौरान: जब एडिटर किसी ऐसे यूज़र या प्रश्न को देखता है जो उसे भ्रमित करता है (जहाँ "सही" उत्तर का अनुमान लगाना कठिन है), तो वह यह कहना सीख जाता है कि, "मैं इस बारे में वास्तव में अनिश्चित हूँ।"
  • परिणाम: क्योंकि यह अपनी अनिश्चितता को स्वीकार करता है, यह गलत अनुमान लगाने के लिए मजबूर नहीं होता। यह "कोलैप्स" (खाली नज़रें ताकना) होने से रुक जाता है और "हैकिंग" (सबसे खराब विकल्प चुनना) से बच जाता है। यह विनम्र बनना सीख जाता है।
  • चयन के दौरान: 30 उम्मीदवारों में से सर्वश्रेष्ठ को चुनते समय, सिस्टम केवल स्कोर को देखता है, लेकिन क्योंकि ट्रेनिंग स्मार्ट थी, इसलिए स्कोर वास्तव में सटीक होते हैं।

उपमा: एक नए पर्सनल शॉपर की कल्पना करें जो कहता है, "मुझे 90% यकीन है कि यह लाल शर्ट शानदार है, लेकिन मैं इस नीली शर्ट के बारे में केवल 50% ही आश्वस्त हूँ।" क्योंकि वह स्वीकार करता है कि वह नीली शर्ट के बारे में अनिश्चित है, इसलिए वह गलती से उसे लाल शर्ट से बेहतर नहीं चुन लेता। वह एक बहुत अधिक विश्वसनीय मार्गदर्शक बन जाता है।

परिणाम

पेपर ने पाँच अलग-अलग लेखन कार्यों (जैसे समाचार हेडलाइन्स, शैक्षणिक शीर्षक और उत्पाद समीक्षा लिखना) पर इसका परीक्षण किया।

  1. यह काम करता है: उनके नए "अनसर्टेन एडिटर" ने लगातार बेहतर प्रदर्शन किया जैसे-जैसे उन्होंने उम्मीदवारों की संख्या 1 से बढ़ाकर 30 की। पुराने एडिटर्स या तो अटक गए या और खराब हो गए।
  2. यह भविष्य की भविष्यवाणी करता है: लेखकों ने एक गणितीय सूत्र (एक "स्केलिंग लॉ") बनाया है जो चार सरल नंबरों का उपयोग करके सटीक रूप से भविष्यवाणी करता है कि एक एडिटर कैसा प्रदर्शन करेगा। उन्होंने साबित किया कि यह सूत्र वास्तविकता के साथ लगभग पूरी तरह से मेल खाता है।
  3. यह तेज़ है: "लिखने" वाला हिस्सा (30 विकल्प बनाना) धीमा हिस्सा है। "एडिटिंग" वाला हिस्सा (सबसे अच्छे को चुनना) अविश्वसनीय रूप से तेज़ है, जिसमें बहुत कम अतिरिक्त समय लगता है।

सारांश

यह पेपर तर्क देता है कि व्यक्तिगत AI प्राप्त करने के लिए, हमें केवल एक आदर्श AI लेखक को प्रशिक्षित करने की कोशिश नहीं करनी चाहिए। इसके बजाय, हमें एक मानक AI लेखक को कई विकल्प बनाने देना चाहिए और एक स्मार्ट, विनम्र एडिटर का उपयोग करके सबसे अच्छा विकल्प चुनना चाहिए। एडिटर को यह सिखाकर कि वह भ्रमित होने पर अपनी अनिश्चितता स्वीकार करे, हम विकल्पों की संख्या को बढ़ा सकते हैं और प्रत्येक उपयोगकर्ता के लिए काफी बेहतर परिणाम प्राप्त कर सकते हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →