Why did My Robot Just Change Personality? Prompting Guidelines for a Grounded Robot Persona in LLM-Based HRI
यह शोध पत्र एक संरचित आठ-घटक प्रॉम्प्ट डिज़ाइन फ्रेमवर्क और विशेषज्ञ प्रतिक्रिया पर आधारित नैतिक दिशानिर्देश प्रस्तावित करके, पारदर्शी, सुरक्षित और अनुकूलन योग्य रोबोट व्यक्तित्व सुनिश्चित करने के माध्यम से, एलएलएम-आधारित मानव-रोबोट संपर्क में अप्रत्याशित रोबोट व्यवहार के जोखिमों को संबोधित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक सामाजिक रोबोट की कल्पना करें, एक ऐसी मशीन जिसे बातचीत करने, मदद करने और शायद सांत्वना देने के लिए बनाया गया है। इस बातचीत को स्वाभाविक बनाने के लिए, इंजीनियर अक्सर रोबोट को एक लार्ज लैंग्वेज मॉडल (large language model) से जोड़ते हैं, जो एक प्रकार की कृत्रिम बुद्धिमत्ता (AI) है जिसे मानव भाषण को समझने और उत्पन्न करने के लिए विशाल मात्रा में टेक्स्ट पर प्रशिक्षित किया गया है। यह तकनीक रोबोट को प्रश्न पूछने, कहानियाँ सुनाने और भावनाओं पर प्रतिक्रिया देने की ऐसी क्षमता देती है जो कुछ ही वर्षों पहले असंभव थी। हालाँकि, रोबोट की भौतिक वास्तविकता और उसके द्वारा बोले गए शब्दों के बीच एक छिपा हुआ अंतर होता है। मशीन के पास कमरे को देखने के लिए आँखें, किसी वस्तु को उठाने के लिए हाथ, या इंटरनेट तक पहुँच नहीं हो सकती है, फिर भी वह भाषा मॉडल जिसका वह उपयोग करता है, इन चीजों के बारे में जानता है क्योंकि उसने इनके बारे में पढ़ा है। बिना सावधानीपूर्वक निर्देशों के, रोबोट आत्मविश्वास के साथ दावा कर सकता है कि वह आपको देख सकता है या आपका कप ला सकता है, जिससे उस व्यक्ति के लिए एक भ्रमित करने वाला और संभावित रूप से भ्रामक अनुभव पैदा होता है जो उससे बात कर रहा है। यह विसंगति उस पहेली का केंद्र है जिसका सामना वे शोधकर्ता कर रहे हैं जो इन मशीनों को सुरक्षित, ईमानदार और वास्तव में सहायक साथी बनाना चाहते हैं।
यूरोप, ऑस्ट्रेलिया और इज़राइल के विभिन्न विश्वविद्यालयों के शोधकर्ताओं की एक टीम ने हाल ही में इस समस्या को सुलझाने के लिए एक सरल लेकिन महत्वपूर्ण प्रश्न पूछा: हम एक रोबोट को बात शुरू करने से पहले यह ठीक से कैसे बता सकते हैं कि वह कौन है और वह क्या कर सकता है? उनका काम, जिसे एक प्रमुख रोबोटिक्स सम्मेलन में प्रस्तुत किया गया था, इस विचार से आगे बढ़ता है कि रोबोट का व्यक्तित्व केवल एक मामूली सेटिंग नहीं है जिसे बदला जा सके। इसके बजाय, वे तर्क देते हैं कि कृत्रिम बुद्धिमत्ता को दिए गए निर्देश—यानी "प्रॉम्ट" (prompt)—रोबोट के व्यवहार को आकार देने के लिए सबसे महत्वपूर्ण डिज़ाइन तत्व हैं। इसे हल करने के लिए, टीम ने एक संरचित ढांचा विकसित किया जो रोबोट की पहचान को आठ विशिष्ट भागों में विभाजित करता है। इन भागों में रोबोट की भूमिका को परिभाषित करना, इसकी भौतिक सीमाओं को स्पष्ट रूप से बताना, यह समझाना कि यह गलतियों को कैसे संभालता है, और झूठ बोलने या नुकसान पहुँचाने से रोकने के लिए सख्त नैतिक सीमाएँ निर्धारित करना शामिल है।
शोधकर्ताओं ने केवल एक शांत कार्यालय में बैठकर यह सूची नहीं बनाई; उन्होंने इसे अन्य वैज्ञानिकों द्वारा किए जा रहे कार्यों को देखकर और विशेषज्ञों के साथ उन विचारों का परीक्षण करके बनाया। सबसे पहले, उन्होंने हाल के अध्ययनों की समीक्षा की जहाँ रोबोटों ने लोगों से बात करने के लिए लार्ज लैंग्वेज मॉडल का उपयोग किया। उन्होंने पाया कि अधिकांश शोधकर्ता केवल रोबोट को उसका नाम और उसका मुख्य कार्य बता रहे थे, जैसे "एक शिक्षक बनो" या "एक साथी बनो।" वे रोबोट को यह बताने में विफल रहे कि वह क्या नहीं कर सकता, जैसे कि यह स्वीकार करना कि उसे पिछली बातचीत की कोई स्मृति नहीं है या वह उपयोगकर्ता का चेहरा नहीं देख सकता। इस चूक का अर्थ था कि रोबोट अक्सर उन क्षमताओं के रूप में कार्य करते थे जो उनके पास नहीं थीं, जिससे भ्रम और विश्वास टूटने की स्थिति पैदा हुई।
यह समझने के लिए कि यह क्यों महत्वपूर्ण है, टीम ने मानव-रोबोट संपर्क (human-robot interaction) के सत्ताईस विशेषज्ञों को एक कार्यशाला के लिए एकत्रित किया। ये विविध पृष्ठभूमि, जिसमें मनोविज्ञान, नैतिकता और कंप्यूटर विज्ञान शामिल थे, के अनुभवी शोधकर्ता और अभ्यासकर्ता थे। उन्होंने चर्चा की कि एक रोबोट का व्यक्तित्व समय के साथ कैसे काम करता है और क्या होता है जब एक रोबोट गलती करता है। विशेषज्ञ एक महत्वपूर्ण बिंदु पर सहमत हुए: एक रोबोट का व्यक्तित्व केवल उसके द्वारा कहे गए शब्दों के बारे में नहीं है। यदि एक रोबोट एक देखभाल करने वाले मित्र होने का दावा करता है लेकिन फिर उपयोगकर्ता द्वारा पाँच मिनट पहले की गई बातचीत को भूल जाता है, तो उपयोगकर्ता खुद को ठगा हुआ महसूस करता है। विशेषज्ञों ने उल्लेख किया कि व्यक्तित्व के सूक्ष्म संकेतों को अक्सर अनदेखा कर दिया जाता है, और एक रोबोट की पहचान उसकी वास्तविक भौतिक क्षमताओं के अनुरूप होनी चाहिए। उन्होंने सुरक्षा संबंधी गंभीर चिंताएँ भी जताईं, यह देखते हुए कि यदि कोई रोबोट अपनी क्षमताओं के बारे में झूठ बोलता है, तो यह खतरनाक स्थितियों की ओर ले जा सकता है, विशेष रूप से बच्चों या बुजुर्गों जैसे संवेदनशील उपयोगकर्ताओं के लिए।
इन चर्चाओं और मौजूदा कार्यों की अपनी समीक्षा के आधार पर, टीम ने इन रोबोटों के लिए निर्देश लिखने का एक नया तरीका प्रस्तावित किया। उनका ढांचा डिजाइनरों को यह स्पष्ट रूप से लिखने की आवश्यकता बताता कि रोबोट क्या है, इससे पहले कि वह कभी बोले। पहला, उन्हें पहचान (Identity) को परिभाषित करना होगा, जो रोबोट का विशिष्ट चरित्र और सामाजिक भूमिका है। दूसरा, उन्हें क्षमता सीमाएँ (Capability Boundaries) निर्धारित करनी होंगी, जो रोबोट क्या देख या कर सकता है और क्या नहीं सकता, इसकी एक स्पष्ट सूची है, जैसे यह कहना कि उसके पास इंटरनेट एक्सेस नहीं है या वह स्वयं चल नहीं सकता। तीसरा, पारदर्शिता (Transparency) निर्देश रोबोट को यह बताने के लिए होंगे कि वह एक मशीन है और उसकी सीमाएँ क्या हैं। चौथा, कार्य (Task) बातचीत के विशिष्ट लक्ष्य को परिभाषित करता है। पाँचवाँ, एक अपेक्षा और विफलता प्रोटोकॉल (Expectation and Failure Protocol) यह समझाता है कि जब रोबोट को कोई उत्तर नहीं पता होता या जब बातचीत गलत दिशा में जाती है तो उसे कैसे प्रतिक्रिया देनी चाहिए। छठा, गोपनीयता (Privacy) के नियम यह निर्धारित करते हैं कि रोबोट व्यक्तिगत डेटा को कैसे संभालता है। सातवाँ, उपयोगकर्ता अनुकूलन (User Adaptation) यह सुनिश्चित करता है कि रोबट अलग-अलग लोगों के लिए अपना लहजा बदले, जैसे कि बच्चे के लिए सरल भाषा में बोलना। अंत में, नैतिक रेड लाइन्स (Ethical Red Lines) हानिकारक, पक्षपाती या अवैध कुछ भी कहने से रोकने के लिए सख्त सीमाएँ तय करती हैं।
शोधकर्ताओं ने इस विचार को स्पष्ट करने के लिए एक अलग प्रोजेक्ट में आठ मॉड्युलर डिज़ाइन घटकों का उपयोग करते हुए दो पूर्ण प्रॉम्ट उदाहरण प्रदान करके इसे प्रदर्शित किया। उनका तर्क है कि जब ये घटक शामिल होते हैं, तो रोबोट का व्यवहार बहुत अधिक अनुमानित और ईमानदार हो जाता है। कार्यशाला के विशेषज्ञों ने पुष्टि की कि इन विशिष्ट निर्देशों के बिना, एक रोबोट का व्यक्तित्व अस्थिर या भ्रामक महसूस हो सकता है। उन्होंने जोर दिया कि रोबोट को केवल "मिलनसार होने" के लिए नहीं कहा जा सकता; इसे यह ठीक से बताया जाना चाहिए कि वह अपने हार्डवेयर की सीमाओं के भीतर कैसे मिलनसार बने। उदाहरण के लिए, यदि एक रोबोट को एक बुजुर्ग व्यक्ति की मदद करने के लिए डिज़ाइन किया गया है, तो उसे यह जानने के लिए प्रोग्राम किया जाना चाहिए कि वह उन्हें शारीरिक रूप से उठा नहीं सकता, भले ही भाषा मॉडल यह सुझाव दे कि वह ऐसा कर सकता है।
यह कार्य सुझाव देता है कि सामाजिक रोबोटों का भविष्य भाषा को अधिक मानवीय बनाने पर कम और रोबोट की सीमाओं को स्पष्ट करने पर अधिक निर्भर है। टीम का तर्क है कि प्रॉम्ट को एक सरल कोडिंग चरण के बजाय एक गंभीर डिज़ाइन टूल के रूप में मानना, विश्वास बनाने के लिए आवश्यक है। डिजाइनरों को यह लिखने के लिए मजबूर करके कि रोबोट वास्तव में क्या है और क्या नहीं है, यह क्षेत्र उन रोबोटों से दूर जा सकता है जो क्षमताओं का भ्रम (hallucinate) पैदा करते हैं और उन मशीनों की ओर बढ़ सकता है जो विश्वसनीय, पारदर्शी और सुरक्षित हैं। अध्ययन यह दावा नहीं करता है कि उसने रोबोटिक्स की हर समस्या को हल कर दिया है, लेकिन यह यह सुनिश्चित करने का एक ठोस, संरचित तरीका प्रदान करता है कि जब एक रोबोट बोलता है, तो उसके शब्द उसकी वास्तविकता से मेल खाते हैं। भविष्य के कार्यों को प्रस्तावित प्रॉम्ट दिशानिर्देशों को विभिन्न रोबोट स्वरूपों (embodiments) में लागू करके रोबोट की पहचान की धारणा का मूल्यांकन करना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।