Steerable Chatbots: Exploring Personalization Control Interfaces via LLM Activation Steering
यह शोध पत्र "स्टीयरेबल चैटबॉट्स" (steerable chatbots) को एक नवीन वैयक्तिकरण प्रतिमान के रूप में प्रस्तुत करता है जो प्रॉम्प्टिंग के बजाय एक्टिवेशन स्टीयरिंग के माध्यम से उपयोगकर्ताओं को एलएलएम (LLM) आउटपुट को सीधे नियंत्रित करने की अनुमति देता है, और एक उपयोगकर्ता अध्ययन के माध्यम से तीन इंटरफ़ेस डिज़ाइनों का मूल्यांकन करता है ताकि बेहतर प्राथमिकता संरेखण के लिए उनकी क्षमता को प्रदर्शित किया जा सके और नियंत्रण एवं पारदर्शिता के संबंध में विविध उपयोगकर्ता मूल्यों को रेखांकित किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट से बात कर रहे हैं जो दुनिया की हर चीज़ जानता है। आमतौर पर, यदि आप चाहते हैं कि वह किसी खास तरीके से व्यवहार करे—जैसे कि बहुत शानदार बनना या बहुत सस्ता होना—तो आपको इसे समझाने के लिए शब्दों का उपयोग करना पड़ता है। आप कह सकते हैं, "मुझे एक शानदार डिनर चाहिए," या "मेरा बजट बहुत कम है।" लेकिन कभी-कभी, सही शब्द ढूँढना मुश्किल होता है, या रोबोट पूरी तरह से नहीं समझ पाता कि आपका क्या मतलब है, खासकर जब आप उससे बात करना शुरू ही करते हैं। यह पेपर इन रोबोट्स से बात करने के एक नए तरीके के बारे में है, न केवल शब्दों के माध्यम से, बल्कि उनके व्यक्तित्व के लिए एक "वॉल्यूम नॉब" (volume knob) के माध्यम से।
इस अध्ययन के पीछे के वैज्ञानिक "ह्यूमन-कंप्यूटर इंटरेक्शन" (Human-Computer Interaction) नामक क्षेत्र में काम कर रहे हैं, जो मूल रूप से इस बात का अध्ययन है कि इंसान और मशीनएं एक साथ कैसे तालमेल बिठाती हैं। वे "एक्टिवेशन स्टीयरिंग" (activation steering) नामक एक तकनीक का उपयोग कर रहे हैं। एक बड़े लैंग्वेज मॉडल (चैटबॉट का मस्तिष्क) को एक विशाल, जटिल रेडियो की तरह समझें। आमतौर पर, आप एक अनुरोध टाइप करके स्टेशन बदलते हैं। लेकिन एक्टिवेशन स्टीयरिंग एक डायल की तरह है जो सीधे रोबोट के मस्तिष्क के भीतर विशिष्ट "फ्रीक्वेंसी" को ऊपर या नीचे घुमाता है। यदि आप "लक्जरी" (Luxury) का डायल ऊपर घुमाते हैं, तो रोबोट महंगी चीजों के बारे में सोचने लगता है। यदि आप "बजट" (Budget) का डायल ऊपर घुमाते हैं, तो वह पैसे बचाने के बारे में सोचता है। शोधकर्ताओं ने बड़ा सवाल यह पूछा था कि, यदि हम आम लोगों को यह विशेष डायल दें, तो यह कैसा दिखना चाहिए? क्या उन्हें इसे आगे-पीछे स्लाइड करना चाहिए? क्या उन्हें इसे एक बार सेट करके भूल जाना चाहिए? या क्या रोबोट को इसे खुद समझना चाहिए?
यह पेपर एक नया विचार पेश करता है जिसे "स्टीयरेबल चैटबॉट्स" (Steerable Chatbots) कहा जाता है। रोबोट को यह बताने के लिए कि आपको क्या पसंद है, एक आदर्श पैराग्राफ लिखने के बजाय, शोधकर्ताओं ने ऐसे इंटरफेस बनाए जो आपको एक साधारण नंबर या स्लाइडर का उपयोग करके रोबमाट के व्यक्तित्व को सीधे नियंत्रित करने देते हैं। उन्होंने तीन अलग-अलग तरीकों का परीक्षण किया। पहला, जिसे SELECT कहा जाता है, आपके फोन पर वॉल्यूम स्लाइडर की तरह है; आप बातचीत करते समय तुरंत रोबोट के मिजाज को बदलने के लिए इसे ऊपर या नीचे खींच सकते हैं। दूसरा, CALIBRATE, चश्मे की एक नई जोड़ी सेट करने जैसा है; बातचीत शुरू करने से पहले, रोबोट आपको दो अलग-अलग उत्तर दिखाता है, और आप वह चुनते हैं जो आपको बेहतर लगता है, जिससे बातचीत शुरू होने से पहले ही उसे सही सेटिंग खोजने में मदद मिलती है। तीसरा, LEARN, एक मन पढ़ने वाले दोस्त की तरह है; रोबोट आपकी बातें सुनता है और आपकी पसंद का अनुमान लगाता है, बिना आपके कुछ भी छुए बैकग्राउंड में अपने आप सेटिंग्स को एडजस्ट करता है।
शोधकर्ताओं ने पहले कंप्यूटर टेस्ट किए ताकि यह सुनिश्चित हो सके कि "डायल" वास्तव में काम करते हैं। उन्होंने पाया कि डायल घुमाने से वास्तव में रोबोट के जवाब बदल जाते हैं, जिससे वह एक तरफ मुड़ने पर बजट रेस्टोरेंट्स के बारे में और दूसरी तरफ मुड़ने पर शानदार रेस्टोरेंट्स के बारे में बात करने लगता है। इसके बाद, उन्होंने 14 वास्तविक लोगों को इन तीन नए चैटबॉट्स को आज़माने के लिए आमंत्रित किया। परिणाम दिलचस्प थे: तीनों तरीकों ने रोबोट को केवल शब्दों के आधार पर अनुमान लगाने की तुलना में उपयोगकर्ताओं को बेहतर ढंग से समझने में मदद की। हालाँकि, लोग इसे नियंत्रित करने के तरीके को लेकर एक समान नहीं थे। कुछ लोगों को स्लाइडर (SELECT) पसंद आया क्योंकि वे पूरी तरह से नियंत्रण में महसूस करते थे। अन्य लोगों ने रोबोट को इसे समझने (LEARN) को प्राथमिकता दी क्योंकि यह अधिक स्वाभाविक और कम मेहनत वाला लगा। कुछ लोगों को सेटअप चरण (CALIBRATE) पसंद आया क्योंकि यह सटीक महसूस हुआ, जैसे आँखों की जांच।
अध्ययन सुझाव देता है कि चैटबॉट के व्यक्तित्व को नियंत्रित करने के लिए लोगों को एक सीधा "नॉब" देना एक शक्तिशाली उपकरण है, विशेष रूप से जब आप पहली बार इसका उपयोग कर रहे हों और आपके पास रोबोट को सिखाने के लिए लंबी बातचीत का इतिहास न हो। लेकिन हर किसी के लिए कोई एक आदर्श डिज़ाइन नहीं है। कुछ लोग जहाज के कप्तान बनना चाहते हैं, जबकि कुछ चाहते हैं कि जहाज खुद चले। पेपर निष्कर्ष निकालता है कि एआई (AI) के साथ बात करने का भविष्य केवल बेहतर टाइपिंग के बारे में नहीं होगा, बल्कि हमें विभिन्न प्रकार के नियंत्रण देने के बारे में होगा—स्लाइडर, सेटअप विजार्ड, या ऑटो-पायलट—ताकि हम यह चुन सकें कि हम बातचीत को खुद कितना नियंत्रित करना चाहते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।