MixLM: High-Throughput and Effective LLM Ranking via Text-Embedding Mix-Interaction
MixLM एक नवीन LLM रैंकिंग फ्रेमवर्क है जो एक मिक्स-इंटरैक्शन तंत्र के माध्यम से लंबे टेक्स्ट इनपुट्स को संक्षिप्त एम्बेडिंग टोकन से बदलकर सिस्टम थ्रूपुट को महत्वपूर्ण रूप से बढ़ाता है, जिससे उच्च प्रासंगिकता बनाए रखते हुए वास्तविक दुनिया के सर्च अनुप्रयोगों में कुशल फुल-ट्रैफिक परिनियोजन सक्षम होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल पुस्तकालय चला रहे हैं जहाँ हर सेकंड लाखों लोग किताबों की सिफारिशें मांग रहे हैं। आपके पास एक बेहद बुद्धिमान, सुपर-स्मार्ट लाइब्रेरियन (एक लार्ज लैंग्वेज मॉडल, या LLM) है जो किसी किताब का पूरा विवरण पढ़ सकता है, उपयोगकर्ता के प्रश्न को समझ सकता है और तुरंत जान सकता है कि क्या वह उनके लिए एकदम सही मेल है।
समस्या यह है कि यह लाइब्रेरियन बहुत विस्तृत है। एक अच्छा उत्तर देने के लिए, उन्हें प्रत्येक संभावित पुस्तक के लिए पूरे पुस्तक विवरण को पढ़ना पड़ता है। यदि किसी पुस्तक में 2,000 शब्द हैं, और आपको 1,000 पुस्तकों की जांच करनी है, तो लाइब्रेरियन को केवल एक व्यक्ति के अनुरोध के लिए 2 मिलियन शब्द पढ़ने होंगे। वास्तविक दुनिया के कंप्यूटर सर्वरों में, इसमें बहुत समय लगता है और इसमें बहुत पैसा खर्च होता है। लाइब्रेरी में भीड़ लग जाती है और लोग लंबे समय तक इंतजार करते हैं।
MixLM से मिलिए: "चीट शीट" वाला लाइब्रेरियन।
शोधकर्ताओं ने LinkedIn में काम करने का एक नया तरीका बनाया है, जिसे MixLM कहा जाता है। लाइब्रेरियन से हर बार पूरी किताब पढ़वाने के बजाय, उन्होंने एक ऐसी प्रणाली बनाई है जहाँ पुस्तक के विवरण को लाइब्रेरियन के देखने से पहले ही एक छोटे, अत्यधिक संक्षिप्त "चीट शीट" (कुछ संख्याएँ जिन्हें एम्बेडिंग टोकन कहा जाता है) में बदल दिया जाता है।
यह यहाँ कैसे काम करता है, इसे सरल चरणों में समझा गया है:
1. "प्री-रीड" (ऑफलाइन चरण)
कल्पना कीजिए कि पुस्तकालय खुलने से पहले, सहायकों की एक टीम पुस्तकालय की हर एक किताब को पढ़ती है। वे सारांश लिखने के बजाय, पूरी किताब को एक एकल, सटीक "सार" कार्ड में बदल देते हैं।
- पेपर कहता है: वे हजारों शब्दों के आइटम टेक्स्ट को लर्निंग एम्बेडिंग टोकन के एक छोटे सेट में बदलने के लिए एक "एनकोडर LLM" का उपयोग करते हैं।
- उपमा: ये "सार कार्ड" लाइब्रेरियन की मेज के ठीक बगल में एक विशेष, तेज़-एक्सेस कैबिनेट (नियरलाइन कैश) में रखे जाते हैं।
2. "मिक्स" (ऑनलाइन चरण)
जब कोई उपयोगकर्ता पूछता है, "मुझे डेटा साइंस में नौकरी चाहिए," तो लाइब्रेरियन को उन नौकरियों के विवरण को फिर से पढ़ने की आवश्यकता नहीं होती है।
- वे उपयोगकर्ता के प्रश्न (टेक्स्ट) को लेते हैं।
- वे कैबिनेट से शीर्ष जॉब उम्मीदवारों के "सार कार्ड" (एम्बेडिंग्स) निकालते हैं।
- वे उपयोगकर्ता के प्रश्न को इन छोटे कार्डों के साथ मिलाते हैं।
- पेपर कहता है: यह एक "मिक्स्ड-इंटरेक्शन रिप्रेजेंटेशन" बनाता है जो टेक्स्ट टोकन को एम्बेडिंग टोकन के साथ जोड़ता है।
- उपमा: यह ऐसा है जैसे लाइब्रेरियन एक छोटा नोट पढ़ रहा है जो कहता है, "उपयोगकर्ता डेटा साइंस चाहता है" + [जॉब A के लिए कार्ड] + [जॉब B के लिए कार्ड]। लाइब्रेरियन बिना हजारों शब्दों में उलझे, उपयोगकर्ता और नौकरी के बीच के संबंध को तुरंत "महसूस" कर सकता है।
3. परिणाम: गति और बुद्धिमत्ता
क्योंकि लाइब्रेरियन केवल कुछ "कार्ड" पढ़ रहा है बजाय पूरी किताबों के, वे अनुरोधों को पहले की तुलना में 75 गुना तेज़ी से प्रोसेस कर सकते हैं, जबकि वे लगभग उतने ही स्मार्ट रहते हैं जितने कि धीमे और विस्तृत संस्करण।
- पेपर दावा करता है: MixLM एक "सारांशित" दृष्टिकोण की तुलना में थ्रूपुट में 10.0x सुधार करता है और पूर्ण टेक्स्ट पढ़ने की तुलना में 75.9x सुधार करता है।
- उपमा: यह एक ऐसे लाइब्रेरियन के बीच का अंतर है जो एक घंटे में 290 किताबें चेक कर सकता है (पुराना तरीका) बनाम एक जो MixLM के साथ एक घंटे में 22,000 किताबें चेक कर सकता है, और वह भी समान स्तर की सटीकता के साथ।
उन्होंने लाइब्रेरियन को कैसे सिखाया
आप सोच सकते हैं, "लाइब्रेरियन को इन छोटे कार्डों को पढ़ना कैसे आता है?"
शोधकर्ताओं ने एक चतुर प्रशिक्षण पद्धति का उपयोग किया:
- शिक्षक: पहले, उन्होंने एक "सुपर लाइब्रेरियन" को प्रशिक्षित किया जो पूरी किताबें पढ़ता है और बहुत सटीक है।
- छात्र: फिर, उन्होंने "MixLM लाइब्रेरियन" को सुपर लाइब्रेरियन के निर्णयों की नकल करने के लिए प्रशिक्षित किया, लेकिन पूर्ण टेक्स्ट के बजाय छोटे कार्डों का उपयोग करके।
- एलाइनमेंट: उन्होंने विशेष नियम (लॉस फंक्शन्स) जोड़े ताकि यह सुनिश्चित हो सके कि "सार कार्ड" लाइब्रेरियन के मस्तिष्क में पूरी तरह फिट बैठें, ताकि टेक्स्ट और कार्ड का मिश्रण स्वाभाविक महसूस हो।
वास्तविक दुनिया का प्रभाव
जब LinkedIn ने इस प्रणाली को अपने जॉब सर्च फीचर के लिए लागू किया:
- वे अंततः इस सुपर-स्मार्ट AI को सभी के लिए (पूर्ण ट्रैफिक) उपयोग कर सके, न कि केवल कुछ भाग्यशाली उपयोगकर्ताओं के लिए।
- क्योंकि खोज तेज़ और स्मार्ट थी, अधिक लोगों को ऐसी नौकरियां मिलीं जो उन्हें पसंद थीं।
- पेपर दावा करता है: इससे डेली एक्टिव यूजर्स (DAU) में 0.47% की वृद्धि हुई। लाखों उपयोगकर्ताओं वाले प्लेटफॉर्म की दुनिया में, यह छोटा सा प्रतिशत लोगों की एक बड़ी संख्या का बेहतर अनुभव दर्शाता है।
संक्षेप में: MixLM एक सुपर-स्मार्ट AI को एक "हाइलाइटर" देने जैसा है जो लंबे दस्तावेजों को छोटे, शक्तिशाली नोट्स में सिकोड़ देता है। यह AI को अपनी बुद्धिमत्ता खोए बिना तेज़ी से पढ़ने में सक्षम बनाता है, जिससे नौकरियों (और अन्य चीजों) के लिए खोज इंजन तेज़ और अत्यधिक सटीक बन जाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।