💻 computer science

FLUID: From Ephemeral IDs to Multimodal Semantic Codes for Industrial-Scale Livestreaming Recommendation

FLUID एक नवीन, ID-मुक्त अनुशंसा ढांचा (recommendation framework) है जो औद्योगिक-स्तर की लाइवस्ट्रीमिंग के लिए पारंपरिक आइटम एम्बेडिंग्स को डिस्क्रीट पदानुक्रमित मल्टीमॉडल कोड्स (LUCID) से बदल देता है ताकि निरंतर कोल्ड-स्टार्ट चुनौतियों पर काबू पाया जा सके, जिससे एक अरब से अधिक वैश्विक उपयोगकर्ताओं के आधार पर महत्वपूर्ण प्रदर्शन लाभ प्राप्त होता है।

मूल लेखक: Xinhang Yuan, Zexi Huang, Anjia Cao, Xudong Lu, Zikai Wang, Penghao Zhou, Chang Liu, Wentao Guo, Qinglei Wang

प्रकाशित 2026-05-22

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xinhang Yuan, Zexi Huang, Anjia Cao, Xudong Lu, Zikai Wang, Penghao Zhou, Chang Liu, Wentao Guo, Qinglei Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, 24/7 चलने वाले ग्लोबल टैलेंट शो का संचालन कर रहे हैं। हर कुछ मिनटों में, एक नया कलाकार मंच पर आता है, लगभग 45 मिनट तक प्रदर्शन करता है, और फिर हमेशा के लिए गायब हो जाता है। यह लाइवस्ट्रीमिंग (livestreaming) है।

अब, कल्पना कीजिए कि आप बाउंसर (बौंसर/रिकमेंडेशन सिस्टम) हैं, जो यह तय करने की कोशिश कर रहा है कि दरवाजे से अंदर आने वाले अगले दस लाख लोगों को कौन सा एक्ट दिखाया जाए।

पुरानी समस्या: एक "नेम टैग" जो बहुत जल्दी एक्सपायर हो जाता है

अधिकांश रिकमेंडेशन सिस्टम में (जैसे फिल्मों या उत्पादों के लिए), सिस्टम हर आइटम को एक विशिष्ट ID नंबर (जैसे एक स्थायी नाम टैग) देता है। वह सीखता है कि लोग उस ID के बारे में क्या पसंद करते हैं। यदि आप बहुत सारी "एक्शन मूवी #123" देखते हैं, तो सिस्टम आपको और अधिक दिखाने के लिए सीख जाता है।

लेकिन लाइवस्ट्रीमिंग में, यह विफल हो जाता है। एक लाइव रूम केवल 45 मिनट तक मौजूद रहता है।

जब तक सिस्टम "लाइव रूम #999" के बारे में अच्छी तरह से सीखने के लिए पर्याप्त जानकारी जुटा लेता है, तब तक शो खत्म हो चुका होता है।
कमरा हमेशा "कोल्ड स्टार्ट" (अनजान) की स्थिति में होता है।
सिस्टम उस ID को याद करने की कोशिश करता रहता है, लेकिन जैसे ही स्ट्रीम समाप्त होती है, वह ID बेकार हो जाती है। यह किसी पार्टी के फोन नंबर को याद करने की कोशिश करने जैसा है, जो नंबर डायल करने से पहले ही खत्म हो जाती है।

समाधान: FLUID (एक "कंटेंट ट्रांसलेटर")

लेखकों ने एक नया सिस्टम बनाया जिसे FLUID कहा जाता है। क्षणभंगुर ID नंबर पर निर्भर रहने के बजाय, FLUID उस ID को पूरी तरह से अनदेखा करता है और इस बात पर ध्यान केंद्रित करता है कि कंटेंट वास्तव में कैसा दिखता है और कैसा सुनाई देता है।

यह कैसे काम करता है, यहाँ एक सरल उपमा दी गई है:

1. "यूनिवर्सल ट्रांसलेटर" (क्रॉस-डोमेन एनकोडर)

एक सुपर-स्मार्ट अनुवादक की कल्पना करें जिसने छोटे, पॉलिश किए गए वीडियो (जैसे टिकटॉक वीडियो) और लंबे, अव्यवस्थित लाइव शो दोनों का अध्ययन किया है।

समस्या: लाइव शो शोर-शराबे वाले और अराजक होते हैं। यदि आप ट्रांसलेटर को केवल लाइव शो पर प्रशिक्षित करते हैं, तो वे भ्रमित हो जाते हैं।
समाधान: लेखकों ने अपने ट्रांसलेटर को दोनों प्रकार के कंटेंट पर प्रशिक्षित किया है। क्योंकि छोटे वीडियो उच्च गुणवत्ता वाले और प्रचुर मात्रा में होते हैं, इसलिए ट्रांसलेटर विजुअल्स और स्पीच की "भाषा" बहुत अच्छी तरह से सीख लेता है। फिर वह इस ज्ञान को अव्यवस्थित लाइव शो पर लागू करता है।
आउटपुट: एक अव्यवस्थित ID नंबर के बजाय, ट्रांसलेटर लाइव शो के हर 2-मिनट के हिस्से को एक सिमेंटिक कोड (कंटेंट का वर्णन करने वाले डिजिटल "टैग्स" या "शब्दों" का एक सेट) में बदल देता है। वे इसे LUCID कहते हैं।
- उदाहरण: "रूम ID 555" के बजाय, सिस्टम देखता है: [तैरना, पूल, नीला पानी, हंसना]।

2. "स्थिर पहचान" बनाम "फ्लैश मोमेंट"

एक लाइव स्ट्रीम तेजी से बदलती है। एक मिनट होस्ट बातें कर रहा होता है; अगले ही पल वह गा रहा होता है।

स्लाइस-लेवल LUCID: यह वर्तमान 2-मिनट के क्षण को कैप्चर करता है (जैसे "अभी गाना गाना")।
रूम-लेवल LUCID: यह पूरे शो के समग्र वाइब (vibe) को कैप्चर करता है (जैसे "यह एक कॉमेडी टॉक शो है")।
सिस्टम दोनों का उपयोग करता है: तत्काल रुचि पैदा करने के लिए "फ्लैश मोमेंट" का, और यह जानने के लिए कि होस्ट वास्तव में कौन है, "स्थिर पहचान" का।

3. "लेट फ्यूजन" रणनीति (बड़ा बदलाव)

पुराने सिस्टम में, ID नंबर बॉस था। कंटेंट का विवरण केवल एक साइडकिक (सहायक) था। सिस्टम ID को देखता था, विवरण को अनदेखा करता था, और निर्णय लेता था।

FLUID का कदम: FLUID ID को बर्खास्त कर देता है। यह कैंडिडेट लिस्ट से ID नंबर को पूरी तरह से हटा देता है।
इसके बजाय, यह "स्लाइस कोड" और "रूम कोड" को मुख्य पात्रों के रूप में मानता है।
उपमा: कल्पना कीजिए कि बाउंसर पहले गेस्ट लिस्ट (ID) की जांच करता था। अब, बाउंसर पूरी तरह से लिस्ट को अनदेखा करता है और केवल मेहमान के कपड़ों और व्यवहार (कंटेंट कोड्स) को देखकर यह तय करता है कि क्या वे पार्टी के लिए सही हैं।

4. "स्टेज्ड वार्मअप" (एक सुरक्षा जाल)

आप रातोंरात ID को बर्खास्त नहीं कर सकते। सिस्टम ID पर निर्भर रहने का आदी है। यदि आप अचानक इसे खींच लेंगे, तो पूरी इमारत ढह जाएगी।

चरण 1: पुराने ID के साथ "स्लाइस कोड" (वर्तमान क्षण) जोड़ें। सिस्टम को इसकी आदत होने दें।
चरण 2: धीरे-धीरे पुराने ID की आवाज़ कम करें जब तक कि वह शांत न हो जाए।
चरण 3: ID द्वारा छोड़े गए अंतर को भरने के लिए "रूम कोड" (स्थिर पहचान) जोड़ें।
यह सुनिश्चित करता है कि सिस्टम घबराए नहीं और सुचारू रूप से सीखता रहे।

परिणाम: यह क्यों मायने रखता है

जब उन्होंने 1 बिलियन से अधिक उपयोगकर्ताओं वाले प्लेटफॉर्म पर इसका परीक्षण किया, तो परिणाम स्पष्ट थे:

बेहतर सिफारिशें: लोगों ने अधिक उच्च-गुणवत्ता वाला कंटेंट देखा (+0.55% अधिक "क्वालिटी वॉच ड्यूरेशन")।
नए सितारे मिले: नए, अज्ञात रूम्स को अधिक व्यूज मिले (+2.05% कोल्ड-स्टार्ट व्यूज) क्योंकि सिस्टम पुराने, परिचित IDs पर अटका हुआ नहीं था।
खुश उपयोगकर्ता: लोग ऐप पर अधिक समय बिताते रहे (+0.05% एक्टिव आवर्स)।

मुख्य निष्कर्ष

यह पेपर तर्क देता है कि उन चीजों के लिए जो जल्दी गायब हो जाती हैं (जैसे लाइवस्ट्रीम), उनके "नामों" (IDs) को याद करने की कोशिश करना समय की बर्बादी है। इसके बजाय, आपको सिस्टम को कंटेंट को खुद इतना बेहतर समझने के लिए प्रशिक्षित करना चाहिए कि उसे नाम टैग की आवश्यकता ही न रहे। FLUID साबित करता है कि जब आप ID पर निर्भर रहना छोड़ देते हैं, तो आप वास्तव में अपने उपयोगकर्ताओं के लिए बेहतर और ताज़ा कंटेंट खोज सकते हैं।

तकनीकी सारांश: FLUID

समस्या विवरण (Problem Statement)

आधुनिक अनुशंसा प्रणाली (recommender systems) मुख्य रूप से ID-आधारित कोलाबोरेटिव फ़िल्टरिंग पर निर्भर करती हैं, जहाँ वस्तुओं को अद्वितीय ID एम्बेडिंग द्वारा दर्शाया जाता है जो उपयोगकर्ता इंटरैक्शन से संकेत (signals) संचित करते हैं। हालाँकि, यह प्रतिमान (paradigm) लाइवस्ट्रीमिंग अनुशंसा (livestreaming recommendation) में एक मौलिक बेमेल का सामना करता है। ई-कॉमर्स या शॉर्ट-वीडियो डोमेन की लंबी अवधि वाली वस्तुओं के विपरीत, एक लाइवस्ट्रीम रूम आमतौर पर लगभग 45 मिनट तक प्रसारित होता है और फिर अप्रचलित हो जाता है। फलस्वरूप, आइटम ID एम्बेडिंग एक निरंतर कोल्ड-स्टार्ट अवस्था (cold-start state) में रहती है, जिससे वह अपने छोटे जीवनकाल के भीतर अभिसरण (converge) करने में विफल रहती है।

यह दो विशिष्ट चुनौतियाँ पैदा करता है:

संकेत की कमी (Signal Scarcity): आइटम ID एम्बेडिंग टेबल रूम समाप्त होने से पहले पर्याप्त कोलाबोरेटिव संकेतों को याद नहीं कर पाती है, जिससे ID सामान्यीकरण (generalization) के लिए बेकार हो जाती है।
ID-प्रभुत्व प्रभाव (ID-Dominance Effect): मौजूदा औद्योगिक प्रणालियों में, मल्टीमॉडल फीचर्स को अक्सर आइटम ID के साथ सहायक संकेतों के रूप में जोड़ा जाता है। हालाँकि, रैंकिंग मॉडल अक्सर ID सिग्नल (मेमोराइजेशन) की ओर झुक जाते हैं और मल्टीमॉडल इनपुट का कम उपयोग करते हैं। लाइवस्ट्रीमिंग में, जहाँ ID सिग्नल क्षणिक और शोर युक्त (noisy) होता है, यह "ID-प्रभुत्व" मॉडल की क्षमता को तेजी से क्षय होने वाले सिग्नल पर बर्बाद कर देता है, जिससे मल्टीमॉडल फीचर्स प्रभावी ढंग से अनुशंसा का मार्गदर्शन करने में विफल रहते हैं।

कार्यप्रणाली: FLUID फ्रेमवर्क (Methodology: The FLUID Framework)

FLUID (Framework for Live Universal ID-free Recommendation) पहला फ्रेमवर्क है जो उत्पादन-स्तर के लाइवस्ट्रीमिंग रैंकर से कैंडिडेट-साइड आइटम ID को पूरी तरह से हटा देता है, और इसे पूरी तरह से मल्टीमॉडल सिमेंटिक कोड्स से बदल देता है। यह पाइपलाइन चार चरणों से मिलकर बनी है:

1. क्रॉस-डोमेन मल्टीमॉडल एनकोडर (Cross-Domain Multimodal Encoder)

लाइव डेटा की विरलता (sparsity) को संबोधित करने के लिए, FLUID एक सिंगल-टावर मल्टीमॉडल एनकोडर का उपयोग करता है जिसे शॉर्ट वीडियो और लाइवस्ट्रीम दोनों पर संयुक्त रूप से प्रशिक्षित किया गया है।

आर्किटेक्चर: यह एक विजन मॉड्यूल (SigLIP2-base ViT), एक टेक्स्ट मॉड्यूल (टाइटल, OCR, ASR, कमेंट्स आदि को टोकनाइज करना), और Qwen3-Embedding-0.6B पर आधारित एक फ्यूजन मॉड्यूल को जोड़ता है।
प्रशिक्षण: एनकोडर एक क्वेरी-टू-आइटम (Q2I) कंट्रास्टिव ऑब्जेक्टिव के साथ InfoNCE लॉस का उपयोग करता है। यह दो-चरणीय प्रशिक्षण विधि का उपयोग करता है: (1) एलाइनमेंट (केवल प्रोजेक्टर को प्रशिक्षित करना) ताकि प्री-ट्रेंड सिमेंटिक्स सुरक्षित रहें, और (2) जॉइंट फाइन-ट्यूनिंग।
लक्ष्य: यह क्रॉस-डोमेन ट्रांसफर शॉर्ट वीडियो से प्राप्त सघन (dense) और कम शोर वाले सुपरविजन का लाभ उठाता है ताकि स्पार्स लाइव डोमेन के लिए मजबूत सिमेंटिक रिप्रजेंटेशन तैयार किए जा सकें।

2. डिस्क्रीट रिप्रजेंटेशन (LUCID)

एनकोडर से प्राप्त निरंतर 128-d एम्बेडिंग ( $z$ ) को Residual Quantization K-Means (RQ-KMeans) का उपयोग करके LUCID (Live Universal Content IDentifier) कोड्स में डिस्क्रीट किया जाता है।

संरचना: LUCID एक पदानुक्रमित (hierarchical) 4-लेवल कोड-टुपल ( $c_1, c_2, c_3, c_4$ ) है।
ग्रैनुलैरिटी (Granularity):
- स्लाइस-लेवल LUCID: 2-मिनट के कंटेंट डायनेमिक्स को कैप्चर करता है (जैसे, एक स्ट्रीमर का चैटिंग से सिंगिंग में बदलना)।
- रूम-लेवल LUCID: एक सेशन के सभी स्लाइस पर लेवल-वाइज मेजॉरिटी वोटिंग के माध्यम से प्राप्त किया जाता है। यह रूम के लिए एक स्थिर, स्थायी पहचान प्रदान करता है, जो आइडेंटिफायर को क्षणिक कंटेंट परिवर्तनों से अलग करता है।

3. प्रीफिक्स N-gram एम्बेडिंग (Prefix N-gram Embedding)

LUCID टुपल्स को रैंकर में मैप करने के लिए, FLUID सरल लेवल-वाइज डिकोडिंग के बजाय एक प्रीफिक्स n-gram एम्बेडिंग स्कीम का उपयोग करता है।

तंत्र: प्रत्येक स्तर का एम्बेडिंग पूर्ण प्रीफिक्स पाथ ( $\bar{c}_l = \sum c_k \cdot N^{l-k}$ ) पर आधारित होता है। यह सुनिश्चित करता है कि गहरा स्तर वाला समान कोड अपने पैरेंट पाथ के आधार पर अलग-अलग सिमेंटिक क्षेत्र का प्रतिनिधित्व करे, जिससे रेसिडुअल क्वांटाइजेशन की अस्पष्टता दूर हो जाती है।
कार्यान्वयन: स्लाइस-लेवल और रूम-लेवल LUCID के लिए अलग-अलग एम्बेडिंग टेबल्स का उपयोग किया जाता है ताकि स्थिर रूम सिमेंटिक्स और क्षणिक स्लाइस डायनेमिक्स का मिश्रण न हो।

4. लेट-फ्यूजन ID-फ्री रैंकर और स्टेज्ड वॉर्मअप (Late-Fusion ID-Free Ranker & Staged Warmup)

अंतिम आर्किटेक्चर आइटम ID टोकन को पूरी तरह से हटाकर LUCID टोकन से बदल देता है।

लेट फ्यूजन: स्लाइस और रूम LUCID को ट्रांसफार्मर-आधारित रैंकर बैकबोन में स्वतंत्र टोकन के रूप में इंजेक्ट किया जाता है। यह मॉडल को स्थिर रूम पहचान और क्षणिक स्लाइस डायनेमिक्स के बीच इंटरैक्शन सीखने की अनुमति देता है, बिना उन्हें एक ही रिप्रजेंटेशन में मजबूर किए।
स्टेज्ड वॉर्मअप: ऑनलाइन इंक्रीमेंटल सेटिंग में ID-आधारित से ID-फ्री ट्रेनिंग में संक्रमण को स्थिर करने के लिए, FLUID तीन-चरणीय वॉर्मअप का उपयोग करता है:
1. स्लाइस एड-ऑन: कन्वर्ज्ड आइटम ID के साथ स्लाइस LUCID को एक नए टोकन के रूप में जोड़ें।
2. आइटम ID फेज-आउट: आइटम ID को धीरे-धीरे शून्य (zero out) करें, जिससे मॉडल स्लाइस LUCID पर निर्भर होने के लिए मजबूर हो।
3. रूम एड-ऑन: रूम-लेवल LUCID (जो वॉर्मड स्लाइस टेबल्स से इनिशियलाइज किया गया है) को स्थायी पहचान संभालने के लिए पेश करें।

मुख्य योगदान (Key Contributions)

समस्या का ढांचा (Problem Framing): यह पेपर तर्क देता है कि क्षणिक वस्तुओं के लिए, "ID-प्रभुत्व" प्रभाव एक मौलिक बाधा है, न कि केवल एक मामूली समस्या। यह प्रस्ताव देता है कि समाधान बेहतर फ्यूजन ट्रिक्स नहीं, बल्कि कैंडिडेट-साइड आइटम ID को पूरी तरह से हटा देना है।
क्रॉस-डोमेन एनकोडर: एक मल्टीमॉडल एनकोडर का परिचय जो शॉर्ट वीडियो और लाइवस्ट्रीम पर संयुक्त रूप से प्रशिक्षित है, ताकि पदानुक्रमित LUCID कोड्स तैयार किए जा सकें, जो एकमात्र कैंडिडेट-साइड कंटेंट आइडेंटिफायर के रूप में कार्य करते हैं।
ID-फ्री आर्किटेक्चर: एक लेट-फ्यूजन रैंकर डिज़ाइन जहाँ LUCID, आइटम ID का स्थान लेता है, जिसे स्टेज्ड वॉर्मअप प्रक्रिया द्वारा स्थिर किया जाता है जो ऑनलाइन ट्रेनिंग के दौरान सुरक्षित संक्रमण सुनिश्चित करती है।

प्रयोगात्मक परिणाम (Experimental Results)

FLUID को 1 बिलियन से अधिक उपयोगकर्ता आधार वाले औद्योगिक लाइवस्ट्रीमिंग प्लेटफॉर्म पर तैनात किया गया था।

ऑफलाइन मेट्रिक्स (CTR AUC):

बेसलाइन (ID के साथ) में स्लाइस LUCID जोड़ने से +0.22% AUC लाभ हुआ।
बिना किसी विकल्प के आइटम ID को हटाने से महत्वपूर्ण गिरावट (-0.47%) हुई, जो ID मेमोराइजेशन पर मॉडल की निर्भरता की पुष्टि करती है।
अंतिम FLUID कॉन्फ़िगरेशन (No ID + Slice & Room LUCID) ने बेसलाइन की तुलना में +0.23% का लाभ प्राप्त किया।

ऑनलाइन A/B टेस्ट परिणाम:
प्रोडक्शन बेसलाइन की तुलना में, FLUID ने कई मेट्रिक्स पर महत्वपूर्ण लाभ दिया:

एंगेजमेंट क्वालिटी: +0.55% क्वालिटी वॉच ड्यूरेशन, +0.51% क्वालिटी वॉच सेशन।
कोल्ड-स्टार्ट और विविधता: +2.05% कोल्ड-स्टार्ट रूम व्यूज, +2.87% नीश (Niche) रूम व्यूज, +1.63% यूनिक वॉच्ड टैग्स।
रिटेंशन: +0.05% एक्टिव आवर्स (एकमात्र कॉन्फ़िगरेशन जिसने पॉजिटिव रिटेंशन लाभ हासिल किया; LUCID प्रतिस्थापन के बिना ID हटाने से नेगेटिव रिटेंशन हुआ)।

एब्लेशन इनसाइट्स (Ablation Insights):

फ्यूजन: अर्ली फ्यूजन (ID और LUCID को मर्ज करना) प्रदर्शन सुधारने में विफल रहा, क्योंकि मॉडल वापस ID पर निर्भर होने के लिए कोलैप्स हो गया। लेट फ्यूजन आवश्यक था।
प्रशिक्षण: स्टेज्ड वॉर्मअप के बिना LUCID का नेटिव ट्रेनिंग विफल रहा। ट्रांजिशन के दौरान ID सिग्नल पर मॉडल के कोलैप्स को रोकने के लिए स्टेज्ड वॉर्मअप महत्वपूर्ण था।
एम्बेडिंग: प्रीफिक्स n-gram एम्बेडिंग ने लेवल-वाइज डिकोडिंग से बेहतर प्रदर्शन किया, और इंडिपेंडेंट टेबल्स ने शेयर्ड टेबल्स से बेहतर प्रदर्शन किया।

महत्व और दावे (Significance and Claims)

यह पेपर दावा करता है कि FLUID अल्पकालिक डोमेन के लिए एक नया सिद्धांत प्रदर्शित करता है: जब वस्तुएं स्वाभाविक रूप से क्षणिक होती हैं, तो घटते हुए ID के साथ मल्टीमॉडल सिग्नल्स को फ्यूज करने का प्रयास करने के बजाय, आइटम ID को हटा देना अधिक मौलिक समाधान है।

LUCID (मल्टीमॉडल सिमेंटिक कोड्स) के साथ आइटम ID को सफलतापूर्वक बदलने और स्टेज्ड वॉर्मअप के माध्यम से ट्रांजिशन को स्थिर करके, FLUID प्राप्त करता है:

पुनर्स्थापित मैचिंग क्वालिटी: मॉडल पर्याप्त ID हिस्ट्री पर निर्भर हुए बिना कंटेंट के साथ प्रभावी ढंग से मिलान कर सकता है।
वास्तविक विविधता: नीश और कोल्ड-स्टार्ट व्यूज में सुधार बेहतर कंटेंट समझ से प्रेरित है, न कि केवल खराब मैचिंग के कारण ट्रैफिक के निष्क्रिय पुनर्वितरण से।
यूज़र रिटेंशन: यह फ्रेमवर्क इन विविधता और एंगेजमेंट लाभों को वास्तविक यूजर रिटेंशन में बदल देता है, जो सिद्ध करता है कि लाइवस्ट्रीमिंग संदर्भ में कंटेंट-ग्राउंडेड रैंकिंग, ID-आधारित मेमोराइजेशन से बेहतर प्रदर्शन कर सकती है।

यह कार्य उन डोमेन में कंटेंट-ग्राउंडेड रैंकिंग की दिशा में एक कदम के रूप में स्थापित होता है जहाँ पारंपरिक कोलाबोरेटिव फ़िल्टरिंग के कार्य करने के लिए आइटम का जीवनकाल बहुत छोटा होता है।