Reducing Conversational Escalation in Large Language Model Dialogue with Nonviolent Communication Constraints
यह शोध पत्र यह प्रदर्शित करता है कि अहिंसक संचार (Nonviolent Communication) के सिद्धांतों पर आधारित हल्के प्रॉम्प्ट-स्तरीय प्रतिबंधों को लागू करना, भावनात्मक रूप से आवेशित संघर्ष वाले परिदृश्यों में बड़े भाषा मॉडलों (large language models) और प्रतिरोधी उपयोगकर्ताओं के बीच संवादात्मक वृद्धि (conversational escalation) को प्रभावी ढंग से कम करता है और अंतःक्रियाओं को स्थिर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन कभी-कभी ज़रूरत से ज़्यादा उत्साही, रोबोट सहायक से बात कर रहे हैं। आपका दिन बुरा बीत रहा है, शायद किसी सहकर्मी या परिवार के सदस्य के साथ हुई लड़ाई की वजह से आप गुस्से में हैं। आप रोबोट को अपना दुख सुनाते हैं, इस उम्मीद में कि वह मदद करेगा।
कभी-कभी, अनजाने में, रोबोट गलती से आग में घी डाल सकता है। वह ऐसी बातें कह सकता है जैसे, "खैर, आपको निश्चित रूप से उनका सामना करना चाहिए," या "वे स्पष्ट रूप से बुरे हैं।" यह आपको और अधिक रक्षात्मक और क्रोधित महसूस कराता है, जिससे एक छोटी सी चिंगारी एक बड़ी ज्वाला में बदल जाती है।
यह शोध पत्र रोबोट को बात करने का एक नया तरीका सिखाने के बारे में है जो आग में घी डालने के बजाय आग बुझाने वाले यंत्र (फायर एक्सटिंग्विशर) की तरह काम करता है।
समस्या: "पहले ठीक करो" वाला जाल
शोधकर्ताओं ने देखा कि जबकि हम रोबोट को अभद्र या अवैध चीजें बोलने से बचने के लिए सिखाते हैं, हमने उन्हें बहस को अच्छी तरह से संभालने के लिए नहीं सिखाया है। जब कोई इंसान परेशान होता है, तो रोबोट अक्सर सीधे "यहाँ समाधान है!" या "यहाँ कौन सही है और कौन गलत" पर कूद पड़ता है।
वास्तविक जीवन में, जब कोई व्यक्ति क्रोधित होता है, तो उसे समाधान सुनने से पहले यह महसूस करने की आवश्यकता होती है कि उसे सुना जा रहा है। यदि आप उस चरण को छोड़ देते हैं, तो व्यक्ति उपेक्षित महसूस करता है, और अधिक क्रोधित हो जाता है, और बातचीत बदतर हो जाती है। शोध पत्र इसे "संवादात्मक वृद्धि" (conversational escalation) कहता है।
समाधान: "अहिंसक संचार" (Nonviolent Communication) नियम पुस्तिका
लेखकों ने एक वास्तविक दुनिया की पद्धति जिसे अहिंसक संचार (NVC) कहा जाता है, उसे रोबोट के लिए निर्देशों के एक सरल सेट (एक "प्रॉम्ट") में बदल दिया। इस प्रॉम्ट को एक प्रशिक्षण नियमावली (ट्रेनिंग मैनुअल) के रूप में समझें जिसे रोबोट हर बातचीत से पहले पढ़ता है।
रोबोट को यह बताने के बजाय कि उसे बिल्कुल क्या कहना है, यह नियमावली उसे तीन मुख्य नियम देती है:
- पहले भावनाओं को सुनें: सलाह देने से पहले, स्वीकार करें कि उपयोगकर्ता निराश या दुखी है।
- दोषारोपण का खेल नहीं: यह अनुमान न लगाएं कि दूसरा व्यक्ति "बुरा" या "दुष्ट" क्यों है। बस तथ्यों पर टिके रहें।
- कार्य करने से पहले पूछें: समस्या को ठीक करने की जल्दबाजी न करें। पहले स्पष्ट करने वाले प्रश्न पूछें ताकि आप सुनिश्चित हो सकें कि आप समझ गए हैं।
प्रयोग: एक सिमुलेशन गेम
यह परीक्षण करने के लिए कि क्या यह काम करता है, शोधकर्ताओं ने एक वीडियो-गेम जैसी सिमुलेशन बनाई।
- खिलाड़ी: उन्होंने अलग-अलग आकार के तीन अलग-अलग रोबोट दिमागों (AI मॉडल्स) का उपयोग किया।
- प्रतिद्वंद्वी: उन्होंने तीन प्रकार के "सिम्युलेटेड उपयोगकर्ताओं" (कंप्यूटर प्रोग्राम जो इंसानों की तरह व्यवहार करते हैं) को बनाया। कुछ को शांत करना आसान था, कुछ मध्यम थे, और कुछ बेहद जिद्दी और गुस्से वाले (उच्च प्रतिरोध वाले) थे।
- परीक्षण: उन्होंने 500 अलग-अलग बहसें चलाईं। आधे मामलों में, सामान्य रोबोट ने अपने सामान्य "वैनिला" निर्देशों का उपयोग किया। दूसरे आधे मामलों में, रोबोट ने नए "NVC" निर्देशों का उपयोग किया।
परिणाम: गर्मी को कम करना
परिणाम एक गर्म कमरे के तापमान को कम करने वाले थर्मोस्टेट को देखने जैसा था।
- आसान उपयोगकर्ताओं के लिए: सामान्य रोबोट और NVC रोबोट दोनों ने अच्छा काम किया।
- जिद्दी, गुस्से वाले उपयोगकर्ताओं के लिए: सामान्य रोबोट अक्सर चीजों को और खराब कर देता था। बहस अधिक शत्रुतापूर्ण हो गई, और "सिम्युलेटेड उपयोगकर्ता" अधिक आक्रामक हो गया।
- NVC रोबोट: जिद्दी उपयोगकर्ताओं के साथ भी, NVC रोबोट ने सफलतापूर्वक आग को फैलने से रोक दिया। इसने हमेशा समस्या को तुरंत हल नहीं किया, लेकिन इसने बातचीत को चिल्लाने-चिल्लाने वाली लड़ाई में बदलने से रोका। इसने बातचीत को बदतर होने से बचाया, जो एक बड़ी जीत है।
निष्कर्ष
यह शोध पत्र दिखाता है कि रोबोट को बहस में बेहतर बनाने के लिए आपको उसके दिमाग को फिर से बनाने या उसे जटिल नई गणित सिखाने की आवश्यकता नहीं है। आपको बस उसे संचार के सरल नियम देने की आवश्यकता है जो निर्णय लेने और ठीक करने के बजाय सुनने और समझने को प्राथमिकता देते हैं।
इन नियमों का पालन करके, रोबोट कठिन क्षणों में एक बेहतर साथी बन जाता है, जो संघर्ष को विस्फोटित करने के बजाय स्थिति को शांत करने में मदद करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।