🤖 machine learning

MATT-CTR: Unleashing a Model-Agnostic Test-Time Paradigm for CTR Prediction with Confidence-Guided Inference Paths

यह शोध पत्र MATT-CTR का प्रस्ताव करता है, जो एक मॉडल-अज्ञेयवादी (model-agnostic) टेस्ट-टाइम प्रतिमान है जो पदानुक्रमित संभाव्य हैशिंग (hierarchical probabilistic hashing) के माध्यम से फीचर संयोजन विश्वास को मात्रात्मक रूप से निर्धारित करके और कई अनुमान पथों को उत्पन्न एवं एकत्रित करके CTR भविष्यवाणी की विश्वसनीयता को बढ़ाता है, जिससे बिना मॉडल पुनरप्रशिक्षण के दुर्लभ फीचर्स के प्रभाव को कम किया जा सके।

मूल लेखक: Moyu Zhang, Yun Chen, Yujun Jin, Jinxin Hu, Yu Zhang, Xiaoyi Zeng

प्रकाशित 2026-05-27

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Moyu Zhang, Yun Chen, Yujun Jin, Jinxin Hu, Yu Zhang, Xiaoyi Zeng

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करके MATT-CTR पेपर की व्याख्या दी गई।

बड़ी तस्वीर: "अति-व्यस्त शेफ" (Overworked Chef) की समस्या

कल्पना कीजिए कि आप एक मास्टर शेफ (CTR Model) हैं जिसने एक आदर्श व्यंजन बनाने के लिए वर्षों तक खाना बनाना सीखा है। आपके पास व्यंजनों की एक विशाल लाइब्रेरी (Training Data) है जिसमें लाखों सामग्रियों (ingredients) के संयोजन शामिल हैं।

हालाँकि, वास्तविक दुनिया में, ग्राहक कभी-कभी सामग्रियों के बहुत अजीब और दुर्लभ संयोजन का ऑर्डर देते हैं जिन्हें आपने अपने पूरे करियर में केवल कुछ ही बार देखा है।

समस्या: जब आप इन दुर्लभ व्यंजनों को बनाने की कोशिश करते हैं, तो आप घबरा जाते हैं। आप बहुत अधिक सोचने लगते हैं, गलत अनुमान लगा सकते हैं, या बहुत अधिक मसाला डाल सकते हैं क्योंकि आप सुनिश्चित नहीं हैं कि वे विशिष्ट सामग्रियाँ आपस में कैसे मिलेंगी। इससे एक खराब स्वाद वाला व्यंजन बनता है (कम आत्मविश्वास वाली भविष्यवाणी/low-confidence prediction)।
पुराना तरीका: पारंपरिक रूप से, शेफ सभी मांगी गई सामग्रियों को एक साथ बर्तन में डाल देते हैं, इस उम्मीद में कि अंतिम परिणाम अच्छा होगा। यदि एक दुर्लभ सामग्री स्वाद बिगाड़ देती है, तो पूरा व्यंजन खराब हो जाता है।
नया तरीका (MATT): सब कुछ एक साथ पकाने के बजाय, यह नया तरीका कहता है: "खाना पकाने से पहले थोड़ा रुकते हैं। आइए सामग्रियों को देखें, उन सामग्रियों को चुनें जिनके बारे में हम 100% आश्वस्त हैं, और शायद उन्हें मिलाने के कुछ अलग तरीके आजमाएं ताकि देख सकें कि कौन सा सबसे अच्छा स्वाद देता है।"

MATT क्या है?

MATT का अर्थ है Model-Agnostic Test-Time Paradigm।

Model-Agnostic (मॉडल-अज्ञेय): इससे कोई फर्क नहीं पड़ता कि आप किस प्रकार के "शेफ" हैं (आप किस विशिष्ट AI मॉडल का उपयोग करते हैं)। यह विधि लगभग उन सभी के साथ काम करती है।
Test-Time (टेस्ट-टाइम): यह तब होता है जब शेफ ने प्रशिक्षण (training) पूरा कर लिया होता है, ठीक उसी समय जब ग्राहक ऑर्डर देता है (inference के दौरान)। इसके लिए शेफ को फिर से प्रशिक्षित करने की आवश्यकता नहीं होती, जिससे बहुत समय और पैसा बचता है।

यह कैसे काम करता है? (दो-चरणीय प्रक्रिया)

यह पेपर बिना कुछ नया सीखे मॉडल को बेहतर निर्णय लेने में मदद करने के लिए एक दो-चरणीय प्रणाली का प्रस्ताव देता है।

चरण 1: "कॉन्फिडेंस स्कोर" (Hierarchical Probabilistic Hashing)

पकाने से पहले, सिस्टम को यह जानने की आवश्यकता है: "हम इस सामग्री संयोजन के बारे में कितने आश्वस्त हैं?"

उपमा: एक विशाल फाइलिंग कैबिनेट की कल्पना करें जहाँ आप विशिष्ट सामग्री जोड़ों को कितनी बार देखा गया है, इसका विवरण रखते हैं।
- समस्या: कैबिनेट इतना बड़ा है कि कभी-कभी दो अलग-अलग दुर्लभ सामग्रियाँ गलती से एक ही दराज में फाइल हो जाती हैं (hash collision)। यह आपको यह सोचने पर मजबूर करता है कि आपने उस दुर्लभ संयोजन को वास्तव में जितनी बार देखा है, उससे कहीं अधिक बार देखा है, जिससे झूठा आत्मविश्वास पैदा होता है।
- समाधान: लेखक एक स्मार्ट फाइलिंग सिस्टम का उपयोग करते हैं जिसे Hierarchical Probabilistic Hashing कहा जाता है।
  - लोकप्रिय सामग्रियों (high-frequency) के लिए, वे एक विशेष "टॉप शेफ" सूची (एक min-heap) में सटीक, पूर्ण गणना रखते हैं।
  - दुर्लभ सामग्रियों (low-frequency) के लिए, वे एक सांख्यिकीय ट्रिक का उपयोग करते हैं। केवल एक संख्या पर भरोसा करने के बजाय, वे डेटा के "विचरण" (variance/spread) को देखते हैं ताकि एक रूढ़िवादी निचली सीमा (conservative lower bound) की गणना की जा सके।
- परिणाम: उन्हें एक "कॉन्फिडेंस स्कोर" मिलता है। यदि कोई संयोजन दुर्लभ है और डेटा अव्यवस्थित है, तो स्कोर कम होता है। यदि यह सामान्य और स्पष्ट है, तो स्कोर अधिक होता है।

चरण 2: "कई मार्ग" (Confidence-Guided Paths Generation)

अब जब हमारे पास कॉन्फिडेंस स्कोर है, तो हम कैसे पकाते हैं?

पुराना तरीका: सब कुछ बर्तन में डाल दें।
MATT का तरीका: एक बर्तन के बजाय, हम समानांतर में व्यंजन के कई संस्करणों को बनाने की कोशिश करते हैं, लेकिन हम इसे सावधानी से करते हैं।
1. सैंपलिंग (Sampling): हम एक खाली बर्तन से शुरू करते हैं। हम उपलब्ध सामग्रियों को देखते हैं। हम उन सामग्रियों को चुनने की अधिक संभावना रखते हैं जिनका मौजूदा सामग्री के साथ उच्च कॉन्फिडेंस स्कोर है।
2. पुनरावृत्त निर्माण (Iterative Building): हम एक समय में एक सामग्री जोड़ते हैं। यदि नई सामग्री जोड़ने से "कॉन्फिडेंस स्कोर" बहुत कम हो जाता है (क्योंकि यह एक अजीब संयोजन है), तो हम उसे छोड़ भी सकते हैं।
3. कई मार्ग (Multiple Paths): चूंकि इस प्रक्रिया में कुछ यादृच्छिकता (randomness) शामिल है (जैसे कि यह तय करने के लिए सिक्का उछालना कि क्या कोई सामग्री "काफी अच्छी" है), हम केवल एक मार्ग नहीं बनाते। हम K अलग-अलग मार्ग (जैसे 5 या 10 अलग-अलग संस्करण) बनाते हैं।
4. अंतिम स्वाद परीक्षण (Final Taste Test): हम इन सभी अलग-अलग संस्करणों को पकाते हैं। फिर, हम उनके अंतिम स्वाद स्कोर का औसत निकालते हैं, लेकिन हम उन संस्करणों को अधिक महत्व (weight) देते हैं जिनका कॉन्फिडेंस स्कोर अधिक था।

यह एक बड़ी बात क्यों है?

यह "दुर्लभ सामग्री" की समस्या को ठीक करता है: दुर्लभ, शोर वाले (noisy) फीचर संयोजनों को फ़िल्टर करके या उनका महत्व कम करके, मॉडल उन चीजों पर बेतहाशा अनुमान लगाना बंद कर देता है जिन्हें वह समझ नहीं पाता।
यह पैसा बचाता है: आमतौर पर, मॉडल को स्मार्ट बनाने के लिए, आपको अधिक डेटा या बड़े कंप्यूटरों के साथ इसे फिर से प्रशिक्षित करना पड़ता है। MATT बिना पुन: प्रशिक्षण के बेहतर परिणाम प्राप्त करता है। यह बस भविष्यवाणी करते समय थोड़ी अधिक मानसिक शक्ति (brainpower) का उपयोग करता है।
यह लचीला है: आप इसे किसी भी मौजूदा अनुशंसा प्रणाली (जैसे Netflix, Amazon, या Taobao) में बिना मूल सिस्टम को बदले प्लग कर सकते हैं।

एक वाक्य में सारांश

MATT एक स्मार्ट "प्री-फ्लाइट चेक" है जो AI अनुशंसा मॉडलों के लिए है, जो भविष्यवाणी करने से ठीक पहले, भ्रमित करने वाले और दुर्लभ डेटा बिंदुओं को फ़िल्टवेयर करता है और अंतिम उत्तर जितना संभव हो सके उतना सटीक और विश्वसनीय बनाने के लिए कई अलग-अलग "सर्वश्रेष्ठ अनुमान" संयोजनों को आजमाता है।

तकनीकी सारांश: MATT-CTR

समस्या विवरण

क्लिक-थ्रू रेट (CTR) भविष्यवाणी मॉडल, क्लिक संभावनाओं का अनुमान लगाने के लिए इनपुट फीचर्स (यूजर प्रोफाइल और आइटम एट्रिब्यूट्स) के विशाल संयोजनों के बीच जटिल इंटरैक्शन को मॉडल करने पर निर्भर करते हैं। जबकि हालिया शोध मुख्य रूप से मॉडल आर्किटेक्चर और ट्रेनिंग ऑब्जेक्टिव्स को अनुकूलित करने पर केंद्रित रहा है, इन्फरेंस (inference) चरण को अनुकूलित करने के लिए काफी हद तक अनछुआ छोड़ दिया गया है।

CTR भविष्यवाणी में एक महत्वपूर्ण चुनौती डेटा स्पर्सिटी (data sparsity) है। कई फीचर संयोजन प्रशिक्षण डेटा में बहुत कम बार दिखाई देते हैं, जिससे मॉडल उनके प्रतिनिधित्व (representation) को मजबूती से सीखने में असमर्थ रहता है। फलस्वरूप, इन्फरेंस के दौरान, ये कम-आवृत्ति वाले संयोजन उच्च अनिश्चितता और शोर (noise) पेश करते हैं, जो अक्सर "रिप्रेजेंटेशन कोलैप्स" और अविश्वसनीय भविष्यवाणियों का कारण बनते हैं। अटेंशन (attention) या गेटिंग (gating) जैसे पारंपरिक तंत्र अक्सर इन स्पार्स संयोजनों को संभालने में विफल रहते हैं, क्योंकि वे प्रशिक्षण के दौरान दुर्लभ पैटर्न पर ओवरफिट हो सकते हैं और इन्फरेंस के दौरान शोर को कम करने में विफल हो सकते हैं। इसके अलावा, उच्च पैरामीटर काउंट वाले बड़े मॉडलों का चलन प्रशिक्षण लागत को बढ़ा रहा है, जिससे बार-बार री-ट्रेनिंग या हाइपरपैरामीटर ट्यूनिंग करना अत्यधिक महंगा हो जाता है। एक ऐसे तरीके की आवश्यकता है जो अतिरिक्त प्रशिक्षण लागत के बिना टेस्ट-टाइम पर भविष्यवाणी सटीकता में सुधार कर सके, जिससे पहले से प्रशिक्षित मॉडलों की उपयोगिता को अधिकतम किया जा सके।

कार्यप्रणाली: MATT-CTR

लेखक MATT-CTR (Model-Agnostic Test-Time paradigm for CTR) का प्रस्ताव करते हैं, जो एक ऐसा फ्रेमवर्क है जिसे फीचर संयोजनों के आत्मविश्वास (confidence) द्वारा निर्देशित कई, इंस्टेंस-विशिष्ट इन्फरेंस पाथ (inference paths) उत्पन्न करने के लिए डिज़ाइन किया गया है। यह विधि मॉडल-एग्नोस्टिक (model-agnostic) है, जिसका अर्थ है कि इसे उनकी आंतरिक संरचनाओं को बदले बिना विभिन्न मौजूदा CTR आर्किटेक्चर पर लागू किया जा सकता है। MATT के दो प्राथमिक मॉड्यूल हैं:

1. पदानुक्रमित संभाव्य हैशिंग (Hierarchical Probabilistic Hashing)

यह मॉड्यूल प्रशिक्षण सेट में उनकी उपस्थिति की आवृत्ति के आधार पर फीचर संयोजनों के आत्मविश्वास को मापता है। मूल परिकल्पना यह है कि एक फीचर संयोजन की आवृत्ति, उसके प्रतिनिधित्व को सटीक रूप से सीखने की मॉडल की क्षमता के साथ सह-संबंधित होती है।

चुनौती: विशाल फीचर स्पेस सभी संयोजनों के लिए सटीक गणनाओं को संग्रहीत करना कम्प्यूटेशनल रूप से अव्यवहार्य और हैश कोलिजन (hash collision) के प्रति संवेदनशील बनाता है।
समाधान: लेखक एक हाइब्रिड रणनीति का उपयोग करते हैं:
- उच्च-आवृत्ति वाले फीचर्स: सबसे अधिक बार आने वाले संयोजनों के लिए, सटीक उपस्थिति गणना बनाए रखने के लिए एक मिन-हीप (min-heap) का उपयोग किया जाता है, जो उच्च निष्ठा सुनिश्चित करता है।
- कम-आवृत्ति वाले फीचर्स: दुर्लभ संयोजनों के लंबे टेल (long tail) के लिए, विधि कई स्वतंत्र हैश टेबल का उपयोग करती है। हैश कोलिजन शोर को कम करने के लिए, यह वास्तविक आवृत्ति के लिए एक संभाव्य निचला स्तर (probabilistic lower bound) अनुमानित करती है। कई हैश टेबल से प्राप्त मानों को एक वितरण (distribution) के रूप में मानकर, विधि माध्य (mean) और विचरण (variance) की गणना करती है, और कॉन्फिडेंस स्कोर के लिए एक रूढ़िवादी निचला स्तर प्राप्त करने के लिए चेबिशेव की असमानता (Chebyshev's inequality) लागू करती है।
- पीलिंग स्ट्रैटेजी (Peeling Strategy): एक "पीलिंग" तंत्र उच्च-आवृत्ति वाले फीचर्स को हैश टेबल से अलग करता है ताकि वे कम-आवृत्ति वाले फीचर्स के फ्रीक्वेंसी अनुमान को प्रदूषित न करें।

2. कॉन्फिडेंस-गाइडेड पाथ जनरेशन (Confidence-Guided Paths Generation)

उपरोक्त से प्राप्त कॉन्फिडेंस स्कोर का उपयोग करके, यह मॉड्यूल टेस्ट फेज के दौरान एक विशिष्ट इनपुट इंस्टेंस के लिए विविध इन्फरेंस पाथ बनाता है।

पुनरावृत्त नमूनाकरण (Iterative Sampling): एक खाली फीचर सेट से शुरू होकर, विधि मूल इनपुट से कैंडिडेट फीचर्स का पुनरावृत्त रूप से नमूना लेती है। एक कैंडिडेट फीचर को वर्तमान पाथ में जोड़ने से बनने वाले नए संयोजन के कॉन्फिडेंस स्कोर के अनुपात में उस फीचर को चुनने की संभावना होती है।
पाथ निर्माण: यह प्रक्रिया $T$ स्टेप्स के लिए जारी रहती है, जिसके परिणामस्वरूप एक एकल पाथ के लिए एक उच्च-कॉन्फिडेंस फीचर सेट प्राप्त होता है।
मल्टी-पाथ एग्रीगेशन (Multi-Path Aggregation): सैंपलिंग की स्टोकेस्टिक प्रकृति के कारण सब-ऑप्टिमल पाथ से बचने के लिए, विधि समानांतर में $K$ स्वतंत्र पाथ उत्पन्न करती है।
अंतिम भविष्यवाणी: प्रत्येक पाथ अपने विशिष्ट फीचर सबसेट का उपयोग करके प्रशिक्षित CTR मॉडल के माध्यम से एक प्रेडिक्शन स्कोर उत्पन्न करता है। अंतिम भविष्यवाणी इन स्कोरों का एक भारित औसत (weighted average) है, जहाँ वेट (weights) प्रत्येक पाथ में मौजूद फीचर संयोजनों के कुल मिलाकर कॉन्फिडेंस द्वारा निर्धारित किए जाते हैं। यह सुनिश्चित करता है कि अधिक विश्वसनीय (उच्च-कॉन्फिडेंस) पाथों की भविष्यवाणियों का अंतिम आउटपुट पर अधिक प्रभाव हो।

मुख्य योगदान

CTR के लिए पहला मॉडल-एग्नोस्टिक टेस्ट-टाइम प्रतिमान: लेखकों की जानकारी के अनुसार, यह CTR भविष्यवाणी के लिए विशेष रूप से टेस्ट-टाइम ऑप्टिमाइजेशन प्रतिमान पेश करने वाला पहला कार्य है जो अंतर्निहित मॉडल आर्किटेक्चर से स्वतंत्र है।
पदानुक्रमित संभाव्य हैशिंग: फीचर कॉम्बिनेशन कॉन्फिडेंस का अनुमान लगाने के लिए एक नवीन विधि का परिचय, जो उच्च-आवृत्ति वाले आइटम्स के लिए सटीकता (मिन-हीप के माध्यम से) और कम-आवृत्ति वाले आइटम्स के लिए मजबूती (संभाव्य निचले स्तर के माध्यम से) के बीच संतुलन बनाती है, जो प्रभावी रूप से हैश कोलिजन शोर को कम करती है।
कॉन्फिडेंस-गाइडेड इन्फरेंस पाथ्स: कॉन्फिडेंस के आधार पर फीचर्स को पुनरावृत्त रूप से सैंपल करके टेस्ट-टाइम पर इनपुट्स को गतिशील रूप से एडजस्ट करने का एक तंत्र, जो मजबूत भविष्यवाणियां करने के लिए कई पाथ को एकत्रित करता है।
अनुभवजन्य सत्यापन (Empirical Validation): पेपर व्यापक ऑफलाइन प्रयोगों और ऑनलाइन A/B टेस्टिंग के माध्यम से MATT-CTR की प्रभावशीलता को प्रदर्शित करता है, जो अत्याधुनिक (state-of-the-art) CTR मॉडलों की एक विस्तृत श्रृंखला के साथ इसकी अनुकूलता को दर्शाता है।

परिणाम और महत्व

पेपर का दावा है कि MATT-CTR कम-कॉन्फिडेंस फीचर संयोजनों के कारण होने वाली अविश्वसनीय भविष्यवाणियों की समस्या को सफलतापूर्वक संबोधित करता है। अतिरिक्त इन्फरेंस बजट का लाभ उठाकर कई मजबूत फीचर पाथ को एक्सप्लोर करके, यह विधि:

भविदन सटीकता में सुधार करता है: ऑफलाइन और ऑनलाइन मूल्यांकन पुष्टि करते हैं कि MATT-CTR मौजूदा CTR मॉडलों के प्रदर्शन को बढ़ाता है।
मॉडल उपयोगिता को अधिकतम करता है: यह महंगे री-ट्रेनिंग या आर्किटेक्चरल बदलावों की आवश्यकता के बिना प्रशिक्षित मॉडलों को उनकी पूर्ण प्रेडिक्टिव क्षमता तक पहुँचने की अनुमति देता है।
स्पर्सिटी समस्याओं को कम करता है: यह सीखे गए कॉन्फिडेंस के आधार पर इनपुट्स को चुनिंदा रूप से एडजस्ट करके, स्पार्स फीचर्स को संभालने में पारंपरिक गेटिंग या अटेंशन मैकेनिज्म की सीमाओं की भरपाई प्रभावी ढंग से करता है।

इस कार्य का महत्व केवल ट्रेनिंग-फेज ऑप्टिमाइजेशन से हटकर टेस्ट-टाइम स्केलिंग पर ध्यान केंद्रित करने में निहित है। यह उद्योग की बड़े पैमाने के मॉडलों और स्पार्स डेटा को प्रबंधित करने की चुनौती के लिए एक व्यावहारिक समाधान प्रदान करता है, जो इंटेलिजेंटली इन्फरेंस फेज का उपयोग करके अनुशंसा (recommendation) की गुणवत्ता में सुधार करने का एक तरीका प्रदान करता है।