तकनीकी सारांश: SemRaD के साथ सूचना अंतराल को पाटना

1. समस्या की परिभाषा

यह शोध पत्र ई-कॉमर्स में नए-उपयोगकर्ता कोल्ड-स्टार्ट समस्या (new-user cold-start problem) को संबोधित करता है, विशेष रूप से उन उपयोगकर्ताओं के लिए यूजर लाइफटाइम वैल्यू (LTV) और कन्वर्जन रेट (CVR) की भविष्यवाणी करने की चुनौती, जिनके इंटरैक्शन इतिहास विरल (sparse) हैं। मानक अनुक्रम मॉडल (जैसे, DIN, SASRec) समृद्ध ऐतिहासिक डेटा पर निर्भर करते हैं; जब उपयोगकर्ता के ट्रेस में केवल कुछ ही इवेंट होते हैं, तो भविष्यवाणियाँ जनसंख्या के औसत की ओर झुक जाती हैं, जिससे अक्षम मार्केटिंग और रिटेंशन के अवसर हाथ से निकल जाते हैं।

लेखक दो मौजूदा दृष्टिकोणों और उनकी विशिष्ट सीमाओं की पहचान करते हैं:

1. LLM-आधारित सिमेंटिक ऑग्मेंटेशन (LLM-based Semantic Augmentation): जबकि लार्ज लैंग्वेज मॉडल्स (LLMs) उपयोगकर्ता के इरादे का अनुमान लगाकर विरल इतिहास को सघन (densify) कर सकते हैं, वे आमतौर पर असंरचित, मुक्त-रूप तर्क (unstructured, free-form rationales) उत्पन्न करते हैं। उत्पादन (production) में, ये शोर युक्त (noisy), सत्यापन में कठिन और उपयोगकर्ताओं या बाजार के बदलावों के बीच असंगत होते हैं, जिससे उन्हें संचालित करना कठिन हो जाता है।
2. प्रिविलेज्ड इंफॉर्मेशन का उपयोग करके सीखना (Learning Using Privileged Information - LUPI): यह दृष्टिकोण एक "शिक्षक" (teacher) मॉडल का उपयोग करता है जिसके पास पोस्ट-कन्वर्जन संकेतों (privileged information) तक पहुंच होती है, ताकि एक "छात्र" (student) मॉडल को प्रशिक्षित किया जा सके जो केवल प्री-कन्वर्जन डेटा देखता है। हालांकि, नाइव डिस्टिलेशन अक्सर विफल हो जाता है क्योंकि शिक्षक और छात्र के बीच सूचना अंतराल (information gap) बहुत बड़ा होता है और उपयोगकर्ताओं के बीच विषम (heterogeneous) होता है। एक एकल साझा डिस्टिलेशन पाथवे इन व्यवस्थाओं (regimes) पर औसत निकाल देता है, जिससे उन विशिष्ट उपयोगकर्ताओं तक प्रभावी ढंग से ज्ञान हस्तांतरित करने में विफलता होती जिन्हें इसकी सबसे अधिक आवश्यकता है।

2. कार्यप्रणाली: SemRaD फ्रेमवर्क

लेखक SemRaD (सिमेंटिक रीजनिंग-अवेयर डिस्टिलेशन) का प्रस्ताव करते हैं, जो एक स्ट्रक्चर्ड सिमेंटिक रीजनिंग पाइपलाइन और एक हाइंडसाइट-अवेयर डिस्टिलेशन नेटवर्क के माध्यम से सूचना अंतराल को पाटने के लिए डिज़ाइन किया गया है।

A. स्ट्रक्चर्ड सिमेंटिक रीजनिंग पाइपलाइन

मुक्त-रूप टेक्स्ट उत्पन्न करने के बजाय, SemRaled एक डिस्कवर-क्यूरेट-ऑडिट वर्कफ़्लो का उपयोग करता है ताकि व्यवहारिक आयामों (जैसे, टेम्पोरल रेजोल्यूशन, ट्रांजैक्शन मैग्नीट्यूड) का एक निश्चित, व्याख्या योग्य स्कीमा बनाया जा सके।

• स्कीमा निर्माण (Schema Construction): LLMs संभावित आयामों का प्रस्ताव करते हैं, जिन्हें दूसरे LLM कॉल द्वारा डी-डुप्लिकेट और समेकित किया जाता है, फिर विशिष्टता और भविष्य कहनेवाला प्रासंगिकता सुनिश्चित करने के लिए डोमेन विशेषज्ञों द्वारा समीक्षा की जाती है।
• सिमेंटिक प्रोफाइलिंग (Semantic Profiling):
  • प्री-कन्वर्जन ($Z_{pre}$): LLM विरल प्री-कन्वर्जन लॉग का विश्लेषण करता है ताकि प्रत्येक आयाम के लिए स्ट्रक्चर्ड तर्कों वाला एक डेंसिफाइड सिमेंटिक प्रोफाइल तैयार किया जा सके। तैनात (deployed) छात्र द्वारा उपयोग किया जाने वाला एकमात्र LLM-व्युत्पन्न संकेत यही है।
  • पोस्ट-कन्वर्जन ($Z_{post}$): प्रशिक्षण के दौरान, LLM प्रिविलेज्ड पोस्ट-कन्वर्जन लॉग का विश्लेषण करता है ताकि एक भविष्य का प्रोफाइल तैयार किया जा सके।
  • हाइंडसाइट फ्यूजन ($Z_{fused}$): एक फ्यूजन प्रॉम्प्ट प्री- और पोस्ट-कन्वर्जन रीजनिंग को सुसंगत बनाता है। यह पहचानता है कि कौन से प्री-कन्वर्जन संकेत वास्तव में भविष्य कहनेवाला थे और विरोधाभासों को हल करता है, जिससे एक हाइंडसाइट डिस्टिलेशन टारगेट प्राप्त होता है। यह लक्ष्य शिक्षक को एक स्व-सुसंगत पर्यवेक्षण (self-consistent supervision) प्रदान करता है जिससे छात्र सीख सकता है, न कि कच्चे, संभावित रूप से विरोधाभासी संकेत।

B. हाइंडसाइट-अवेयर डिस्टिलेशन नेटवर्क

यह फ्रेमवर्क एक छात्र (ऑनलाइन) और एक शिक्षक (केवल प्रशिक्षण के लिए) के साथ एक 'सिमल्टेनियस डिस्टिलेशन' प्रतिमान का उपयोग करता है।

• सिमेंटिक-गेटेड एनकोडर (Semantic-Gated Encoder): उपयोगकर्ता विषमता (जहाँ अलग-अलग आयाम अलग-अलग उपयोगकर्ताओं के लिए महत्वपूर्ण होते हैं) को संभालने के लिए, मॉडल एक सिमेंटिक-गेटेड एनकोडर का उपयोग करता है। यह प्रत्येक सिमेंटिक तर्क को एक फ्रोजन टेक्स्ट एम्बेडर के साथ एनकोड करता है और गेटिंग मैकेनिज्म के माध्यम से प्रति-उपयोगकर्ता महत्व भार (importance weights) की गणना करता है। यह मॉडल को प्रत्येक विशिष्ट उपयोगकर्ता के लिए सबसे अधिक सूचनात्मक आयामों पर ध्यान केंद्रित करने की अनुमति देता है।
• डिस्टिलेशन एक्सपर्ट्स (Distillation Experts): विषम सूचना अंतराल को संबोधित करने के लिए, फ्रेमवर्क एक एकल साझा डिस्टिलेशन पाथवे के स्थान पर डिस्टिलेशन एक्सपर्ट्स का उपयोग करता है। एक गम्बल-सॉफ्टमैक्स राउटर, जो शिक्षक के प्रतिनिधित्व पर आधारित है, शिक्षक के लक्ष्य को छात्र के इनपुट से पुनर्गठित करने के लिए कई एक्सपर्ट MLPs में से चयन करता है। यह मॉडल को विशिष्ट उपयोगकर्ता के डेटा रिजीम के आधार पर स्थानांतरण रणनीति को अनुकूलित करने की अनुमति देता है।
• प्रशिक्षण उद्देश्य (Training Objective): कुल लॉस टास्क-विशिष्ट सुपरवाइज्ड लॉस (LTV के लिए हबर, CVR के लिए BCE), सॉफ्ट-टारगेट नॉलेज डिस्टिलेशन (KD), और एक्सपर्ट-रूटेड रिकंस्ट्रक्शन लॉस को जोड़ता है।

3. मुख्य योगदान

1. स्ट्रक्चर्ड सिमेंटिक रीजनिंग पाइपलाइन: अनस्ट्रक्चर्ड LLM तर्कों को स्कीमा-निर्देशित, डिस्कवर-क्यूरेट-ऑडिट वर्कफ़्लो से बदलता है। यह एक डेंसिफाइड सिमेंटिक प्रोफाइल (इन्फरेंस के लिए) और एक हाइंडसाइट डिस्टिलेशन टारगेट (प्रशिक्षण के लिए) उत्पन्न करता है, जो निरंतरता और परिचालन क्षमता सुनिश्चित करता है।
2. हाइंडसाइट-अवेयर डिस्टिलेशन नेटवर्क: यह फ्रेमवर्क हाइंडसाइट फ्यूजन के माध्यम से शिक्षक-छात्र के अंतर को पाटता है और डिस्टिलेशन एक्सपर्ट्स के माध्यम से प्रति-उपयोगकर्ता परिवर्तनशीलता को संभालता है, जिससे सिंगल-पाथवे डिस्टिलेशन की भंगुरता (brittleness) से बचा जा जा सकता है।
3. प्रोडक्शन डिप्लॉयमेंट और जनरलाइजेशन: यह प्रदर्शित करता है कि SemRaD विभिन्न कार्यों (LTV और CVR), स्टूडेंट बैकबोन (Transformer, DIN, Avg-Pooling), और प्रोफाइलर LLMs के बीच सामान्यीकृत (generalize) हो सकता है। यह एक बड़े पैमाने के औद्योगिक परिवेश में अपने दृष्टिकोण को मान्य करता है।

4. प्रयोगात्मक परिणाम

प्रयोग एक बड़े पैमाने के औद्योगिक डेटासेट (120k उपयोगकर्ता) पर किए गए थे और Keeta में चार सप्ताह के ऑनलाइन A/B टेस्ट के माध्यम से सत्यापित किए गए।

• ऑफलाइन प्रदर्शन: एक प्रोडक्शन-ग्रेड बेस मॉडल की तुलना में, SemRaD ने हासिल किया:
  • LTV (गिनी गुणांक) में +1.9% सुधार।
  • CVR (AUROC) में +1.0% सुधार।
  • एब्लेशन अध्ययनों ने पुष्टि की कि शिखर प्रदर्शन के लिए स्ट्रक्चर्ड सिमेंटिक प्रोफाइलिंग और हाइंडसाइट-अवेयर डिस्टिलेशन (एक्सपर्ट्स सहित) दोनों आवश्यक हैं।
• डेटा दक्षता: SemRaD ने केवल 9% प्रशिक्षण डेटा का उपयोग करके प्रोडक्शन सिस्टम के LTV प्रदर्शन के बराबर प्रदर्शन किया, जबकि CVR में 0.8% का सुधार किया, जो सिमेंटिक प्रोफाइल की सिग्नल दक्षता को उजागर करता है।
• ऑनलाइन A/B टेस्ट: एक लाइव डिप्लॉयमेंट (5% ट्रैफिक, ~10k उपयोगकर्ता) में, SemRaD ने दिखाया:
  • LTV में +1.0% सापेक्ष लाभ।
  • CVR में +0.43% सापेक्ष लाभ।
  • गेटेड MLP के कारण सर्विंग लेटेंसी थोड़ी बढ़ गई (P50: +7.6%, P99: +34%), लेकिन इन्फरेंस के समय किसी भी LLM कॉल की आवश्यकता नहीं थी (प्रोफाइल कैश किए गए हैं)।
• मैकेनिज्म विश्लेषण:
  • गेट वेट्स (Gate Weights): सीखे गए गेटिंग वेट्स विशेषज्ञ अंतर्ज्ञान (जैसे, नेविगेशन इंटेंट स्पेसिफिसिटी का प्रभुत्व) के साथ संरेखित थे, जो स्कीमा उपयोगिता को प्रमाणित करता है।
  • डिस्टिलेशन एक्सपर्ट्स: राउटर ने बिना किसी स्पष्ट पर्यवेक्षण के उपयोगकर्ताओं को अलग-अलग समूहों (जैसे, कन्वर्टर्स बनाम नॉन-कन्वर्टर्स) में स्वाभाविक रूप से क्लस्टर किया।
  • सूचना अंतराल: SemRaD ने नाइव डिस्टिलेशन की तुलना में कोल्ड-स्टार्ट उपयोगकर्ताओं के लिए प्रेडिक्शन डिसएग्रीमेंट को काफी कम कर दिया, जो पुष्टि करता है कि हाइंडसाइट फ्यूजन प्रिविलेज्ड सुपरविजन को अधिक सुलभ बनाता है।

5. महत्व और दावे

यह शोध पत्र दावा करता है कि Sem-RaD प्रभावी ढंग से अनस्ट्रक्चर्ड सिमेंटिक नॉइज़ और विषम सूचना अंतराल की दोहरी चुनौतियों को संबोधित करता है। LLM रीजनिंग को एक स्ट्रक्चर्ड स्कीमा में बदलकर और हाइंडसाइट फ्यूजन के माध्यम से प्रिविलेज्ड संकेतों को सुसंगत बनाकर, यह फ्रेमवर्क एक प्रिविलेज्ड टीचर से एक विरल-डेटा वाले स्टूडेंट तक मजबूत ज्ञान हस्तांतरण को सक्षम बनाता है।

लेखक इस बात पर जोर देते हैं कि यह फ्रेमवर्क मॉडल-एग्नोस्टिक है और इसे Keeta में CTR प्रेडिक्शन, यूजर सिमुलेशन और साइलेंट-यूजर री-एंगेजमेंट सहित अन्य प्रोडक्शन कार्यों के लिए सफलतापूर्वक अपनाया गया है। यह कार्य प्रदर्शित करता है कि स्ट्रक्चर्ड सिमेंटिक रीजनिंग को उन्नत डिस्टिलेशन तकनीकों के साथ जोड़ने से परिचालन व्यवहार्यता बनाए रखते हुए महत्वपूर्ण, मापने योग्य व्यावसायिक मूल्य प्राप्त किया जा सकता है।