💻 computer science

Quality-Constrained Preference Fading Model for Discrete Diffusion Recommendation

यह शोध पत्र क्वालिटी-कंस्ट्रेंड प्रेफरेंस फेडिंग (QCPF) मॉडल का प्रस्ताव करता है, जो समान रैंडम सैंपलिंग को एक क्वालिटी-अवेयर मिक्चर डिस्ट्रीब्यूशन और एक फॉल्स-नेगेटिव फिल्टरिंग मैकेनिज्म से बदलकर डिस्क्रीट डिफ्यूजन रिकमेंडेशन को बेहतर बनाता है ताकि अधिक सूचनात्मक प्रेफरेंस डिग्रेडेशन ट्रेजेक्टरीज बनाई जा सकें, जिससे बिना किसी इन्फरेंस लेटेंसी के टॉप-K रिकमेंडेशन प्रदर्शन में महत्वपूर्ण सुधार होता है।

मूल लेखक: Weisong Zhang, Tianwei Xu, Juxiang Zhou, Bingkun Wang

प्रकाशित 2026-07-09

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Weisong Zhang, Tianwei Xu, Juxiang Zhou, Bingkun Wang

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक बड़ी तस्वीर: एक रिकमेंडेशन इंजन को "भूलना" सिखाना

कल्पना कीजिए कि आपके पास एक प्रतिभाशाली लेकिन थोड़ा भ्रमित कला छात्र (AI रिकमेंडेशन मॉडल) है। आपका लक्ष्य इस छात्र को 10,000 अन्य पेंटिंग्स की गैलरी में से एक विशिष्ट पेंटिंग (वह आइटम जिसे उपयोगकर्ता वास्तव में पसंद करता है) को पहचानना सिखाना है।

पारंपरिक रूप से, छात्र को सिखाने के लिए, आप उसे पेंटिंग दिखा सकते हैं, फिर उसे यादृच्छिक (random), बिखरे हुए निशानों (noise) से ढक सकते हैं, और उससे पूछ सकते हैं कि नीचे क्या था। यदि बिखराव केवल रैंडम डॉट्स और लाइनों जैसा है, तो छात्र बहुत कम सीखता है क्योंकि वह बिखराव किसी विशिष्ट चीज़ जैसा नहीं दिखता। उन्हें बस अंधेरे में अनुमान लगाना होता है।

यह पेपर तर्क देता है कि मौजूदा AI रिकमेंशन सिस्टम "बिखराव" (mess) को बहुत अधिक रैंडम बना रहे हैं। वे रैंडम डॉट्स के साथ निशान बना रहे हैं, जिससे सीखने की प्रक्रिया कमजोर हो जाती है। लेखक एक नया तरीका प्रस्तावित करते हैं जिससे "बिखराव" को स्मार्ट बनाया जा सके, ताकि छात्र को बेहतर सीखने के लिए कड़ी मेहनत करनी पड़े, बिना अंतिम परीक्षण को कठिन बनाए।

समस्या: "रैंडम स्क्रिबल" (Random Scribble) का जाल

रिकमेंडेशन सिस्टम (जैसे Netflix या Amazon) की दुनिया में, AI यह अनुमान लगाने की कोशिश करता है कि आप आगे क्या क्लिक करेंगे। डिस्क्रीट डिफ्यूजन (Discrete Diffusion) नामक एक लोकप्रिय नया तरीका इस तरह काम करता है:

फॉरवर्ड फेज (Fading): AI आपके द्वारा पसंद किए गए आइटम को लेता है और उसे धीरे-धीरे "धुंधला" (fade) कर देता है, उसे अन्य रैंडम आइटम्स से बदल देता है।
रिवर्स फेज (Growing): AI इस प्रक्रिया को उलटने की कोशिश करता है, धुंधली, बिखरी हुई स्थिति को लेता है और मूल आइटम का अनुमान लगाता है जिसे आपने पसंद किया था।

खामी: वर्तमान सिस्टमों में, जब AI आपके पसंद किए गए आइटम को बदलता है, तो वह पूरे डेटाबेस से पूरी तरह से रैंडम आइटम चुनता है।

उपमा (Analogy): कल्पना कीजिए कि आपको एक विशेष प्रकार की मसालेदार करी पसंद है। छात्र को टेस्ट करने के लिए, शिक्षक करी के ऊपर एक टोस्टर या एक बादल की तस्वीर लगा देता है।
समस्या: ये रैंडम बदलाव आपसे इतने अलग हैं कि छात्र को उत्तर का पता लगाने के लिए ज्यादा सोचने की जरूरत नहीं पड़ती। "ओह, यह निश्चित रूप से टोस्टर नहीं है, तो यह करी ही होगी।" छात्र आपकी पसंद की बारीकियों (nuance) के बारे में कुछ नहीं सीख पाता।

समाधान: "क्वालिटी-कंस्ट्रेंड" (Quality-Constrained) दृष्टिकोण

लेखक एक नई विधि प्रस्तावित करते हैं जिसे QCPF (Quality-Constrained Preference Fading) कहा जाता है। आइटम को ढकने के लिए रैंडम कचरा चुनने के बजाय, वे उच्च-गुणवत्ता वाले, कठिन विकर्षण (tricky distractions) चुनते हैं।

इसे एक मास्टर आर्ट टीचर की तरह समझें जो जानता है कि छात्र को चुनौती देने के लिए वास्तव में क्या चाहिए। करी को टोस्टर से ढकने के बजाय, वे इसे इनसे ढकते हैं:

एक अलग मसालेदार व्यंजन: कुछ ऐसा जो दिखने में समान है लेकिन पूरी तरह सही नहीं है।
एक लोकप्रिय व्यंजन जिसे हर कोई पसंद करता है: कुछ ऐसा जो छात्र को चकमा दे सकता है क्योंकि वह प्रसिद्ध है।
उसी श्रेणी का एक व्यंजन: कुछ ऐसा जिसके लिए छात्र को वास्तव में अंतर को समझना आवश्यक है।

QCPF इसे कैसे करता है:
एक रैंडम विकल्प के बजाय, सिस्टम शोर (noise) बनाने के लिए तीन प्रकार के "डिस्ट्रैक्टर्स" को मिलाता है:

रैंडम नॉइज़ (Random Noise): यह खोज को व्यापक रखता है (ताकि AI गैलरी के एक ही कोने में न फंस जाए)।
हार्ड नेगेटिव्स (Hard Negatives): वे आइटम्स जिन्हें वर्तमान समूह के अन्य लोगों ने पसंद किया था, लेकिन आपने नहीं। ये ट्रिकी हैं क्योंकि ये लोकप्रिय हैं लेकिन आपके लिए नहीं हैं।
पॉपुलर प्रॉक्सी (Popular Proxies): वे आइटम्स जो बहुत प्रसिद्ध हैं और सभी को दिखाए जाते हैं, भले ही आपने उन्हें क्लिक न किया हो। यह AI को यह समझने में मदद करता है कि क्या "एक्सपोज़्ड" है लेकिन "पसंद" नहीं किया गया है।

सुरक्षा जाल: "फॉल्स नेगेटिव" (False Negatives) से बचना

"हार्ड" डिस्ट्रैक्टर्स के साथ एक जोखिम है। क्या होगा यदि सिस्टम एक ऐसा "हार्ड" आइटम चुन लेता है जिसे आप वास्तव में पसंद करते हैं, लेकिन आपने अभी तक उस पर क्लिक नहीं किया है?

उपमा: शिक्षक करी को एक अलग प्रकार की करी की तस्वीर से ढक देता है जिसे आप भी पसंद करते हैं। यदि AI सोचता है, "ओह, यह एक डिस्ट्रैक्टर है, इसलिए यह करी नहीं है," तो यह एक गलती करता है। इसे फॉल्स नेगेटिव (False Negative) कहा जाता है।

इसे ठीक करने के लिए, QCPF एक फ़िल्टर जोड़ता है। एक ट्रिकी डिस्ट्रैक्टर चुनने से पहले, यह एक "हिस्ट्री लिस्ट" की जांच करता है।

चेक: "क्या इस उपयोगकर्ता ने पहले इस आइटम पर क्लिक किया है? क्या यह वही सटीक आइटम है जिसे हम छिपाने की कोशिश कर रहे हैं?"
यदि उत्तर "हाँ" है, तो सिस्टम उस आइटम को हटा देता है और दूसरा आइटम चुनता है। यह सुनिश्चित करता है कि AI अपने ही सुरक्षा जाल से न छले।

जादू का खेल: केवल ट्रेनिंग के दौरान

इस पेपर का सबसे प्रभावशाली हिस्सा यह है कि वास्तविक रिकमेंडेशन (जब आप ऐप का उपयोग कर रहे होते हैं) के दौरान यह सिस्टम कैसे काम करता है।

ट्रेनिंग के दौरान: AI इस जटिल, उच्च-गुणवत्ता वाले "मिक्सिंग" रणनीति का उपयोग करके सीखता है। इसे एक कठिन वर्कआउट मिलता है।
इन्फरेंस (Inference/वास्तविक जीवन) के दौरान: जब आप वास्तव में ऐप का उपयोग करते हैं, तो AI इस जटिल मिक्सिंग रणनीति का उपयोग बिल्कुल नहीं करता है। यह अपने मूल, सरल और तेज़ स्वरूप में वापस आ जाता है।
उपमा: कल्पना कीजिए कि एक धावक मांसपेशियों को बनाने के लिए भारी वजन (जटिल शोर) के साथ प्रशिक्षण ले रहा है। जब रेस का दिन आता है, तो वह वजन उतार देता है और तेज़ दौड़ता है।
परिणाम: AI बहुत अधिक स्मार्ट और सटीक रिकमेंडेशन देने में सक्षम हो जाता है, लेकिन जब आप इसका उपयोग कर रहे होते हैं, तो यह धीमा नहीं होता या अधिक कंप्यूटर पावर की मांग नहीं करता। यह बुद्धिमत्ता के लिए एक "फ्री अपग्रेड" है।

परिणाम क्या दिखाते हैं

लेखकों ने पांच वास्तविक दुनिया के डेटासेट्स (मूवीज, वीडियो गेम्स, ब्यूटी प्रोडक्ट्स, टॉयज और स्पोर्ट्स) पर इसका परीक्षण किया।

परिणाम: नए तरीके (QCPF) ने लगातार पुराने तरीकों को पछाड़ दिया। यह उपयोगकर्ता द्वारा पसंद किए जाने वाले टॉप आइटम्स की भविष्यवाणी करने में बेहतर था (Top-K recommendation)।
यह क्यों काम कर गया: ट्रेनिंग के दौरान AI को आपके पसंद किए गए आइटम और ट्रिकी, उच्च-गुणवत्ता वाले विकल्पों के बीच अंतर करने के लिए मजबूर करके, AI ने पहले की तुलना में आपकी पसंद के सूक्ष्म अंतरों को पहचानने में बहुत बेहतर तरीके से सीखा।

सारांश

पेपर कहता है: "रिकमेंडेशन AI को रैंडम, आसान शोर के साथ सिखाना बंद करें। इसे स्मार्ट, ट्रिकी शोर के साथ सिखाएं जो इसे आपकी पसंद के वास्तविक विवरणों को सीखने के लिए मजबूर करे। और ऐसा करें कि AI वास्तव में उपयोग करते समय धीमा हुए बिना स्मार्ट हो जाए।"

तकनीकी सारांश: डिस्क्रीट डिफ्यूजन रिकमेंडेशन के लिए क्वालिटी-कंस्ट्रेंड प्रेफरेंस फेडिंग मॉडल

समस्या विवरण

डिस्क्रीट डिफ्यूजन मॉडल रिकमेंडेशन सिस्टम के लिए एक आशाजनक प्रतिमान (paradigm) के रूप में उभरे हैं, जो रिकमेंडेशन प्रक्रिया को एक डिस्क्रीट आइटम स्पेस के भीतर "प्रेफरेंस फेडिंग और ग्रोइंग" (पसंद के कम होने और बढ़ने) के तंत्र के रूप में फ्रेम करते हैं। हालाँकि, मौजूदा डिस्क्रीट डिफ्यूजन विधियाँ आमतौर पर फॉरवर्ड प्रेफरेंस फेडिंग चरण के दौरान एक यूनिफॉर्म रैंडम सैंपलिंग रणनीति पर निर्भर करती हैं। विशाल और स्पार्स (sparse) रिकमेंडेशन वातावरण में, यह दृष्टिकोण ऐसे दूषित प्रेफरेंस स्टेट्स उत्पन्न करता है जिनमें सूचनात्मक मूल्य का अभाव होता है। फलस्वरूप, रिवर्स डीनॉइजिंग प्रक्रिया को अपर्याप्त डिस्क्रिमिनेटिव सुपरविजन प्राप्त होता है, जिससे फाइन-ग्रेंड टॉप-K रैंकिंग करने की मॉडल की क्षमता सीमित हो जाती है। इसके अलावा, मानक रैंडम रिप्लेसमेंट "फॉल्स नेगेटिव" (एक लक्षित आइटम को उस आइटम से बदलना जिसे उपयोगकर्ता वास्तव में पसंद करता है लेकिन अभी तक उसके साथ इंटरैक्ट नहीं किया है) पेश करने का जोखिम उठाता है, जो प्रशिक्षण प्रक्रिया को गुमराह करता है।

कार्यप्रणाली: क्वालिटी-अवेयरर्ड प्रेफरेंस फेडिंग (QCPF)

लेखक QCPF का प्रस्ताव करते हैं, जो एक ट्रेनिंग-ओनली एन्हांसमेंट मॉड्यूल है जो रिवर्स जेनेरेटिव बैकबोन या इन्फरेंस आर्किटेक्चर को बदले बिना फॉरवर्ड प्रेफरेंस फेडिंग प्रक्रिया को पुनर्गठित करता है। मुख्य नवाचार यूनिफॉर्म डिस्ट्रीब्यूशन को एक क्वालिटी-अवेयरर्ड मिक्स्ड डिस्ट्रीब्यूशन से बदलने और एक फॉल्स-नेगेटिव-अवेयरर्ड फ़िल्टरिंग मैकेनिज्म को लागू करने में निहित है।

1. क्वालिटी-अवेयरर्ड मिक्स्ड रिप्लेसमेंट डिस्ट्रीब्यूशन

यूनिफॉर्म रैंडम सैंपलिंग के बजाय, QCPF एक अधिक चुनौतीपूर्ण और सूचनात्मक डिग्रेडेशन ट्राजेक्टरी बनाने के लिए तीन नेगेटिव एविडेंस स्रोतों के एक वेटेड मिश्रण का निर्माण करता है:

सिंपल रैंडम नेगेटिव्स ( $q_e$ ): ग्लोबल आइटम कॉर्पस से यूनिफॉर्मली सैंपल किए गए ताकि स्थानिक अन्वेषण कवरेज (spatial exploration coverage) बनी रहे और डिग्रेडेशन ट्राजेक्टरी स्थानीय क्षेत्रों में सिमटने से बचे।
बैच-लेवल हार्ड कैंडिडेट्स ( $q_h$ ): वर्तमान ट्रेनिंग मिनी-बैच के यूनिक आइटम्स से लिए गए। ये आइटम समवर्ती उपयोगकर्ताओं (concurrent users) की वास्तविक रुचियों को दर्शाते हैं, जो उच्च-डिस्क्रिमिनेटिव रैंकिंग सुपरविजन प्रदान करने वाले मजबूत "भ्रामक" (deceptive) सिग्नल के रूप में कार्य करते हैं।
पॉपुलरिटी-बेस्ड एक्सपोजर प्रॉक्सीज़ ( $q_p$ ): वर्तमान बैच के भीतर आइटम फ्रीक्वेंसी (जो $\alpha$ गुणांक द्वारा स्मूथ की गई है) के आधार पर सैंपल किए गए। यह घटक हाई-एक्सपोजर लेकिन अनक्लिक किए गए आइटम्स को प्राथमिकता देता है, जिससे जेनरेटेड नॉइज़ और ट्रू एक्सपोजर डिस्ट्रीब्यूशन के बीच के अंतर को कम किया जा सके और अनऑब्जर्व्ड इंटरैक्शन से जुड़े फॉल्स-नेगेटिव जोखिमों को कम किया जा सके।

प्रारंभिक मिश्रित डिस्ट्रीब्यूशन को इस प्रकार सूत्रित किया गया है:
$q_{QCPF}(i | u, x_0) = \lambda_e q_e(i) + \lambda_h q_h(i | B) + \lambda_p q_p(i | B)$
जहाँ $\lambda$ मिक्सिंग कोएफिशिएंट्स को दर्शाता है।

2. फॉल्स-नेगेटिव-अवेयरर्ड फ़िल्टरिंग

हाई-क्वालिटी कैंडिडेट्स (जैसे लोकप्रिय आइटम्स या हार्ड नेगेटिव्स) को गलती से उपयोगकर्ता के लिए ट्रू पॉजिटिव बनने से रोकने के लिए, QCPF एक हल्का फ़िल्टरिंग मैकेनिज्म पेश करता है। मिक्स्ड डिस्ट्रीब्यूशन पर एक वैलिडिटी इंडिकेटर फंक्शन $\phi(i, u, x_0)$ लागू किया जाता है, जो दो बाधाओं को लागू करता है:

आइडेंटिटी फ़िल्टरिंग: यह सुनिश्चित करता है कि रिप्लेसमेंट आइटम $i$ , लक्षित पॉजिटिव आइटम $x_0$ के समान न हो।
हिस्टोरिकल इंटरैक्शन फ़िल्टरिंग: यह सुनिश्चित करता है कि $i$ , उपयोगकर्ता के ऐतिहासिक इंटरैक्शन सीक्वेंस $H_u$ में मौजूद न हो।

डिस्ट्रीब्यूशन को फिर वैध कैंडिडेट सेट पर पुन: नॉर्मलाइज़ किया जाता है। यह फ़िल्टरिंग समानांतर (parallelized) वेक्टराइज्ड टेंसर ऑपरेशंस के माध्यम से लागू की जाती है ताकि ट्रेनिंग के दौरान शून्य कंप्यूटेशनल ओवरहेड सुनिश्चित किया जा सके।

3. फॉरवर्ड और रिवर्स फेज

फॉरवर्ड फेज: उपयोगकर्ता का लक्षित पॉजिटिव आइटम $x_0$ निर्मित हाई-क्वालिटी रिप्लेसमेंट डिस्ट्रीब्यूशन का उपयोग करके एक करप्टेड स्टेट $x_t$ में धीरे-धीरे फेड (fade) होता है।
रिवर्स फेज: डीनॉइजिंग नेटवर्क (जैसे कि SASRec जैसा सेल्फ-अटेंशन मॉडल) स्कोर एंट्रॉपी लॉस का उपयोग करके रिलेटिव प्रेफरेंस रेश्यो का अनुमान लगाकर $x_t$ से $x_0$ को रिकवर करना सीखता है। महत्वपूर्ण बात यह है कि रिवर्स नेटवर्क आर्किटेक्चर बेसलाइन (जैसे PreferGrow) के समान ही रहता है; केवल ट्रेनिंग डेटा (करप्टेड स्टेट्स) को बेहतर बनाया जाता है।

मुख्य योगदान

QCPF मैकेनिज्म: एक हाइब्रिड फेडिंग रणनीति का डिज़ाइन जो मल्टी-सोर्स डेटा (रैंडम, हार्ड, और पॉपुलैरिटी-बेस्ड नेगेटिव्स) को एकीकृत करता है ताकि प्रेफरेंस डिग्रेडेशन ट्राजेक्टरी के सूचनात्मक मूल्य को महत्वपूर्ण रूप से बढ़ाया जा सके।
फॉल्स-नेगेटिव कंस्ट्रेंट: एक सख्त, लाइटवेट फ़िल्टरिंग मैकेनिज्म का परिचय जो वैध रिप्लेसमेंट्स के कारण होने वाले नॉइज़ी सुपरविजन के जोखिम को कम करता है, और यह सब शून्य इन्फरेंस बोझ डालते हुए और मूल मॉडल आर्किटेक्चर को सुरक्षित रखते हुए किया जाता है।
एम्पिरिकल वैलिडेशन: पांच वास्तविक दुनिया के पब्लिक बेंचमार्क डेटासेट्स (MovieLens, Steam, Beauty, Toys, Sports) पर व्यापक प्रयोग जो निरंतर सुधार में टॉप-K हिट रेशियो (HR) और नॉर्मलाइज्ड डिस्काउंटेड क्युमुलेटिव गेन (NDCG) प्रदर्शित करते हैं।

प्रयोगात्मक परिणाम

लेखकों ने पारंपरिक डिस्क्रिमिनेटिव रिकमेंडर्स (SASRec, Caser, GRU4Rec) और विभिन्न डिफ्यूजन-आधारित मॉडल्स (DreamRec, DiffRec, PreferDiff, PreferGrow) के विरुद्ध QCPF का मूल्यांकन किया।

प्रदर्शन: QPF ने सभी डेटासेट्स और मेट्रिक्स (K=5, 10, 20 के लिए HR@K और NDCG@K) में स्टेट-ऑफ-द-आर्ट डिस्क्रीट बेसलाइन PreferGrow पर महत्वपूर्ण सुधार हासिल किया। उदाहरण के लिए, MovieLens पर, QCPF ने HR@5 को 0.1413 (PreferGrow) से बढ़ाकर 0.1476 कर दिया।
एब्लेशन स्टडीज: मिक्स्ड डिस्ट्रीब्यूशन के किसी भी घटक (Batch Hard, Easy Proxy, या Pop Proxy) को हटाने से प्रदर्शन यूनिफॉर्म फेडिंग बेसलाइन की ओर गिर गया। Batch Hard कैंडिडेट्स को हटाने से सबसे महत्वपूर्ण गिरावट हुई, जो उनके डिस्क्रिमिनेटिव सिग्नल प्रदान करने की भूमिका को उजागर करती है। False-Negative Filter को अक्षम करने से प्रदर्शन में मामूली गिरावट आई लेकिन यह ट्रेनिंग कोलैप्स के खिलाफ एक महत्वपूर्ण सुरक्षा जाल के रूप में कार्य करता है।
दक्षता: यह विधि कोई अतिरिक्त पैरामीटर नहीं जोड़ती है और कोई इन्फरेंस लेटेंसी नहीं देती है, क्योंकि जटिल सैंपलिंग और फ़िल्टरिंग पूरी तरह से ट्रेनिंग फेज तक सीमित है।

महत्व और दावे

पेपर का दावा है कि डिस्क्रीट डिफ्यूजन रिकमेंडेशन में फॉरवर्ड प्रेफरेंस डिग्रेडेशन ट्राजेक्टरी की गुणवत्ता ऊपरी सीमा (upper bound) का एक महत्वपूर्ण निर्धारक है। अपने फॉरवर्ड करप्शन प्रोसेस को "क्वालिटी-कंस्ट्रेंड" बनाकर, मॉडल रिवर्स नेटवर्क को अधिक मजबूत और फाइन-ग्रेंड रैंकिंग सिग्नल सीखने के लिए मजबूर करता है।

लेखक इस बात पर जोर देते हैं कि QPF एक अनूठा लाभ प्रदान करता है: यह ट्रेनिंग के दौरान फीचर लर्निंग क्षमताओं को बढ़ाता है जबकि बेस मॉडल की सटीक समान इन्फरेंस दक्षता बनाए रखता है। यह "ट्रेनिंग-ओनली एन्हांसमेंट" इस दृष्टिकोण को औद्योगिक तैनाती के लिए अत्यधिक व्यवहार्य बनाता है, जो मॉडल प्रदर्शन और इन्फरेंस लेटेंसी के बीच सामान्य ट्रेड-ऑफ को संबोधित करता है। अध्ययन बताता है कि भविष्य का कार्य मिक्सिंग वेट्स के लिए सेमेंटिक फीचर्स (जैसे LLM के माध्यम से) और एडेप्टिव करिकुलम लर्निंग को एकीकृत करके इसे और अधिक परिष्कृत कर सकता है।