CURP: Codebook-based Continuous User Representation for Personalized Generation with LLMs
यह शोध पत्र CURP का प्रस्ताव करता है, जो एक द्वि-दिशीय (bidirectional) उपयोगकर्ता एनकोडर और एक डिस्क्रीट प्रोटोटाइप कोडबुक का उपयोग करके केवल कुछ ही प्रशिक्षित मापदंडों (trainable parameters) के साथ लार्ज लैंग्वेज मॉडल्स (LLMs) के माध्यम से कुशल, स्केलेबल और व्याख्यात्मक व्यक्तिगत जनरेशन प्राप्त करने के लिए एक नया ढांचा प्रस्तुत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन बहुत ही साधारण रोबोट को किसी विशिष्ट व्यक्ति की तरह बात करना सिखाने की कोशिश कर रहे हैं। आप चाहते हैं कि रोबोट आपकी तरह लगे—आपके चुटकुले, आपकी राय, आपकी शैली—बिना रोबोट के पूरे दिमाग को हर बार फिर से बनाए बिना।
यह शोध पत्र इस समस्या को हल करने के लिए CURP नामक एक नई विधि पेश करता है। यह कैसे काम करता है, इसे सरल उपमाओं के माध्यम से समझाया गया है:
समस्या: दो बुरे विकल्प
वर्तमान में, किसी रोबोट को किसी विशिष्ट व्यक्ति की तरह दिखाने के दो मुख्य तरीके हैं, और दोनों में बड़ी खामियां हैं:
- "डायरी पढ़ने" वाली विधि (प्रॉम्प्टिंग - Prompting): आप हर बार सवाल पूछने पर रोबोट को उस व्यक्ति के पुराने संदेशों, ट्वीट्स और ईमेल का एक विशाल ढेर दे देते हैं।
- खामी: यह घास के ढेर में सुई खोजने जैसा है। रोबोट अतिरिक्त शोर (extra noise) के कारण भ्रमित हो जाता है, और हर बार इतना सारा टेक्स्ट पढ़ना धीमा और महंगा होता है।
- "दिमाग क्लोन करने" वाली विधि (ट्रेनिंग - Training): आप रोबोट के दिमाग की एक अलग प्रति लेते हैं और उसे विशेष रूप से उस एक व्यक्ति के लिए फिर से प्रशिक्षित करते हैं।
- खामी: यह अविश्वसनीय रूप से महंगा है। यदि आपके पास दस लाख उपयोगकर्ता हैं, तो आपको दस लाख अलग-अलग रोबोट दिमागों की आवश्यकता होगी। यह एक रेस्टोरेंट में हर एक ग्राहक के लिए एक नया शेफ नियुक्त करने जैसा है।
समाधान: "लेगो पर्सनैलिटी किट" (CURP)
लेखक CURP नामक एक बीच का रास्ता प्रस्तावित करते हैं। बजाय इसके कि पूरी डायरी पढ़ी जाए या दिमाग को क्लोन किया जाए, वे एक कोडबुक (Codebook) का उपयोग करते हैं।
कोडबुक को लेगो ब्रिक्स (Lego bricks) के एक विशाल डिब्बे के रूप में सोचें, जहाँ प्रत्येक ईंट एक विशिष्ट व्यक्तित्व विशेषता या व्यवहार पैटर्न का प्रतिनिधित्व करती है (जैसे, "खेल प्रेमी," "बहुत विनम्र," "स्लैंग/बोलचाल की भाषा का उपयोग करने वाला," "एक किशोर")।
यहाँ तीन चरणों में बताया गया है कि यह प्रणाली कैसे काम करती है:
1. डिकोडर (अनुवादक - The Decoder)
सबसे पहले, सिस्टम उपयोगकर्ता के इतिहास (उनके पिछले ट्वीट्स या चैट) को देखता है। कच्चे टेक्स्ट को रखने के बजाय, यह एक विशेष अनुवादक का उपयोग करता है ताकि यह पता लगाया जा सके कि कौन सी "लेगो ईंटें" उस व्यक्ति का सबसे अच्छा वर्णन करती हैं।
- उदाहरण: यह तय कर सकता है कि यह उपयोगकर्ता बना है:
#किशोर+#मजाकिया+#बर्गर_प्रेमीसे। - यह टेक्स्ट को स्टोर नहीं करता; यह केवल इन ईंटों के कोड को स्टोर करता है।
2. कोडबुक (साझा लाइब्रेरी - The Codebook)
सभी उपयोगकर्ता लेगो ईंटों के एक ही डिब्बे का उपयोग करते हैं। यह "कोडबुक" है।
- क्योंकि हर कोई लेगो ईंटों के एक ही सेट का उपयोग करता है, इसलिए सिस्टम सभी के डेटा को एक साथ देखकर सीख सकता है कि "मजाकिया" या "विनम्र" होना कैसा दिखता है। यह इसे बहुत कुशल बनाता है।
- सिस्टम प्रत्येक उपयोगकर्ता के लिए एक अनूठा "व्यक्तित्व प्रोफाइल" बनाने के लिए इन ईंटों को मिलाना और जोड़ना सीखता है।
3. जेनरेटर (कलाकार - The Generator)
जब रोबोट को किसी प्रश्न का उत्तर देने की आवश्यकता होती है, तो वह उपयोगकर्ता की डायरी नहीं पढ़ता है। इसके बजाय, वह उपयोगकर्ता की लेगो ईंटों के विशिष्ट मिश्रण को देखता है (जैसे, "ओह, यह उपयोगकर्ता #किशोर + #मजाकिया है") और उसका उत्तर देने के लिए उसी का उपयोग करता है।
- यह एक ऐसे कलाकार की तरह है जो जानता है कि किसी विशिष्ट पोर्ट्रेट को पेंट करने के लिए रंगों को कैसे मिलाना है, बिना मूल फोटो को दोबारा देखे।
यह एक बड़ी बात क्यों है?
- यह छोटा और तेज़ है: सिस्टम को सभी उपयोगकर्ताओं को संभालने के लिए केवल 20 मिलियन "समायोज्य नॉब" (पैरमीटर) को याद रखने की आवश्यकता होती है। यह मुख्य रोबोट दिमाग की तुलना में बहुत छोटा है। यह एक विशाल टीवी को बदलने के लिए एक छोटे रिमोट कंट्रोल जैसा है।
- यह निजी है: क्योंकि सिस्टम केवल "लेगो कोड" (जैसे
#किशोर) भेजता है न कि वास्तविक टेक्स्ट संदेश, इसलिए हैकर्स के लिए निजी जानकारी चुराना बहुत कठिन है। यह वास्तविक भोजन के बजाय सामग्री की खरीदारी सूची भेजने जैसा है। - यह लचीला है: आप रोबोट के दिमाग (डिकोडर) को बदल सकते हैं, और लेगो किट अभी भी काम करेगी। व्यक्तित्व कोड सार्वभौमिक हैं।
परिणाम
शोधकर्ताओं ने चार अलग-अलग कार्यों पर इसका परीक्षण किया: प्रश्नों के उत्तर देना, समाचार सुर्खियाँ लिखना, ट्वीट्स को फिर से लिखना और उत्पाद समीक्षाएँ लिखना।
- परिणाम: CURP ने लगभग सभी तरीकों को पछाड़ दिया। यह "डायरी पढ़ने" वाली विधि से अधिक सटीक था और "दिमाग क्लोन करने" वाली विधि जितना ही अच्छा था, लेकिन इसे चलाना बहुत सस्ता और तेज़ था।
- "अहा!" क्षण: उन्होंने पाया कि भले ही उन्होंने रोबोट को देखने के लिए कम पिछले संदेश दिए हों, फिर भी CURP अच्छी तरह से काम करता रहा। इसका मतलब है कि यह वास्तव में व्यक्ति के 'सार' को समझता है, न कि केवल उनके द्वारा उपयोग किए गए विशिष्ट शब्दों को।
संक्षेप में
CURP एक रोबोट को यूनिवर्सल पर्सनैलिटी किट देने जैसा है। यह याद रखने के बजाय कि किसी व्यक्ति ने अब तक क्या कहा है, रोबोट पूर्व-निर्धारित, साझा बिल्डिंग ब्लॉक्स का उपयोग करके व्यक्ति के "वाइब" (vibe) को पहचानना सीखता है। यह गुणवत्ता से समझौता किए बिना पर्सनलाइजेशन को तेज़, सस्ता और निजी बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।