High Fidelity Textual User Representation over Heterogeneous Sources via Reinforcement Learning
यह शोध पत्र एक सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) ढांचे का प्रस्ताव करता है जो निहित जुड़ाव संकेतों (इम्प्लिसिट एंगेजमेंट सिग्नल्स) और नियम-आधारित बाधाओं को पुरस्कार के रूप में उपयोग करके विषम डेटा स्रोतों से एकीकृत, संक्षिप्त और व्याख्या योग्य पाठ्य उपयोगकर्ता निरूपणों (टेक्स्टुअल यूजर रिप्रेजेंटेशन्स) को संश्लेषित करता है, जिससे एक बड़े पैमाने के जॉब प्लेटफॉर्म पर डाउनस्ट्रीम प्रदर्शन में महत्वपूर्ण सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, वैश्विक वेडिंग एजेंसी में एक पेशेवर मैचमेकर (रिश्ते जोड़ने वाले) हैं। आपके पास हजारों क्लाइंट्स हैं, और हर एक व्यक्ति के लिए, आपके पास कागजी कार्रवाई का एक पहाड़ है: उनकी लंबी जीवन कहानियाँ, उनके पुराने रेज़्यूमे, उनके द्वारा अटेंड की गई हर पार्टी की सूची, और डेटिंग ऐप पर उनके द्वारा "लाइक" किए गए हर व्यक्ति की डायरी।
यदि आप हर नए संभावित पार्टनर के आने पर हर क्लाइंट के लिए हर एक पन्ने को पढ़ने की कोशिश करेंगे, तो आप कभी भी अपना काम पूरा नहीं कर पाएंगे। आप अभिभूत, धीमे हो जाएंगे, और आप महत्वपूर्ण विवरणों को भूल भी सकते हैं क्योंकि वहां बहुत सारा "शोर" (बेकार की जानकारी) होगा।
यह पेपर बताता है कि कैसे LinkedIn ने आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग करके इस सटीक समस्या को हल किया।
समस्या: "सूचना का हिमपात" (The Information Avalanche)
LinkedIn के पास लाखों उपयोगकर्ता हैं। प्रत्येक उपयोगकर्ता के पास डेटा की एक बड़ी मात्रा है: उनकी प्रोफाइल, उनका कार्य इतिहास, और उनकी हालिया नौकरी की खोज।
अतीत में, कंप्यूटर इस डेटा को संख्याओं की लंबी सूचियों (जिन्हें "एम्बेडिंग्स" कहा जाता है) में बदलने की कोशिश करते थे। लेकिन संख्याएं एक गुप्त कोड की तरह होती हैं—वे कुशल तो हैं, लेकिन यदि कोई इंसान उन्हें देखे, तो वे समझ में नहीं आतीं। साथ ही, यदि आप कोड को थोड़ा सा भी बदलते हैं, तो पूरा सिस्टम टूट जाता है।
नया तरीका लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग करना है—वही तकनीक जो ChatGPT के पीछे है। LLMs टेक्स्ट (शब्दों) को पसंद करते हैं, लेकिन उनका "ध्यान केंद्रित करने का समय" (attention span) कम होता है। यदि आप उन्हें किसी उपयोगकर्ता का 50 पन्नों का जीवन परिचय देंगे, तो वे "भटकाव" का शिकार हो जाएंगे और उबाऊ हिस्सों में उलझकर महत्वपूर्ण चीजों को छोड़ देंगे।
समाधान: "स्मार्ट एडिटर" (Reinforcement Learning)
डेटा को सीधे AI में डालने के बजाय, शोधकर्ताओं ने एक "स्मार्ट एडिटर" बनाया।
इस एडिटर को एक अत्यधिक प्रशिक्षित पत्रकार के रूप में सोचें। पत्रकार का काम उपयोगकर्ता के डेटा के विशाल पहाड़ को पढ़ना और एक "हाई-फिडेलिटी सिनोप्सिस" (एक संक्षिप्त सार) लिखना है—एक छोटा, प्रभावशाली, 150 शब्दों का सारांश जो केवल सबसे महत्वपूर्ण हिस्सों को पकड़ता है (जैसे "यह व्यक्ति एक क्लाउड इंजीनियर है जो पायथन (Python) पसंद करता है और वर्तमान में बर्लिन में रिमोट वर्क की तलाश में है")।
इस एडिटर को प्रशिक्षित करने के लिए, उन्होंने रिनफोर्समेंट लर्निंग (RL) का उपयोग किया। यह एक पिल्ले को 'ट्रीट्स' (इनाम) देकर प्रशिक्षित करने जैसा है:
- एक्शन (Action): एडिटर एक सारांश लिखता है।
- रिवॉर्ड या इनाम (The Treat): सिस्टम देखता है कि उपयोगकर्ता ने वास्तव में आगे क्या किया। क्या उपयोगकर्ता ने किसी नौकरी पर क्लिक किया? क्या उन्होंने आवेदन किया? यदि सारांश इतना अच्छा था कि वह उपयोगकर्ता के अगले कदम की सटीक भविष्यवाणी करने में मदद कर सका, तो एडिटर को एक "ट्रीट" (गणितीय इनाम) मिलता है।
- पेनल्टी या दंड (The "No"): यदि एडिटर सिस्टम को "धोखा" देने के लिए लंबे, बहकी-बहकी निबंध लिखने लगता है, तो शोधकर्ता उसे पेनल्टी देते हैं ताकि वह संक्षिप्त रहने के लिए मजबूर हो सके।
"सीक्रेट सॉस": इनाम देने के अलग-अलग तरीके
शोधकर्ताओं ने "ट्रीट्स" देने के विभिन्न तरीकों पर प्रयोग किया:
- "हाँ/नहीं" वाला रिवॉर्ड: "क्या आपने भविष्यवाणी की कि वे आवेदन करेंगे? हाँ? यह लीजिए ट्रीट!"
- "रैंकिंग" वाला रिवॉर्ड: केवल एक नौकरी दिखाने के बजाय, एडिटर को नौकरियों की एक सूची दिखाई जाती है। यदि वह उन्हें "आवेदन करने की सबसे अधिक संभावना" से लेकर "सबसे कम संभावना" के क्रम में सही ढंग से रैंक कर सकता है, तो उसे एक बड़ा रिवॉर्ड मिलता है। यह एक मैचमेकर के ऐसा कहने जैसा है, "मुझे सिर्फ यह मत बताओ कि उन्हें यह व्यक्ति पसंद है या नहीं; मुझे बताओ कि उनके टॉप 5 पसंदीदा कौन हैं!"
परिणाम: एक स्मार्ट, तेज़ LinkedIn
इस "स्मार्ट एडिटर" का उपयोग करके, LinkedIn ने भारी सुधार देखे:
- बेहतर मिलान (Better Matches): सिस्टम लोगों को वे नौकरियां दिखाने में बहुत बेहतर हो गया जिन्हें वे वास्तव में पाना चाहते थे।
- गति और दक्षता: क्योंकि सारांश छोटे और "साफ" हैं, इसलिए AI उन्हें बहुत तेज़ी से प्रोसेस कर सकता है।
- मानव-पठनीय (Human-Readable): उन पुराने "गुप्त कोड" नंबरों के विपरीत, ये सारांश साधारण अंग्रेजी में लिखे गए हैं। यदि कोई इंजीनियर यह देखना चाहता है कि AI ने किसी नौकरी की सिफारिश क्यों की, तो वे सारांश को पढ़कर समझ सकते हैं।
संक्षेप में: LinkedIn ने एक AI को एक विश्व स्तरीय संपादक बनना सिखाया, जिसने डेटा के ढेर को एक छोटे, शक्तिशाली "चीट शीट" (शॉर्टकट नोट) में बदल दिया जो लोगों को उनके सपनों की नौकरी से जोड़ने में मदद करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।