When Less Is More: An Empirical Study of Minimal Responses in Counseling Dialogues and the Behavior of LLMs
यह शोध पत्र अनुभवजन्य रूप से यह प्रदर्शित करता है कि जहाँ प्रभावी मानवीय परामर्श के लिए 'मिनिमल रिस्पॉन्स' (न्यूनतम प्रतिक्रियाएँ) अत्यंत महत्वपूर्ण हैं, वहीं वे एलएलएम (LLM) द्वारा उत्पन्न संवादों में काफी कम प्रतिनिधित्व पाते हैं और वर्तमान मूल्यांकन ढाँचों द्वारा अक्सर कम आंका जाते हैं, क्योंकि मॉडल स्पष्ट निर्देश के बिना उन्हें उचित रूप से तैनात करने में संघर्ष करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक परामर्श सत्र (counseling session) के शांत स्थान में, एक चिकित्सक द्वारा अक्सर उपयोग किया जाने वाला सबसे शक्तिशाली उपकरण कोई लंबा स्पष्टीकरण या जटिल रणनीति नहीं, बल्कि एक सरल ध्वनि होती है। एक कोमल "हूँ-हूँ" (mm-hmm), एक संक्षिप्त "मैं समझता हूँ" (I see), या एक छोटा "हाँ" (yes) गहरी एकाग्रता का संकेत दे सकता है, क्लाइंट की भावनाओं को मान्य कर सकता है, और उन्हें बोलने के लिए प्रोत्साहित कर सकता है। इन्हें 'न्यूनतम प्रतिक्रियाएं' (minimal responses) कहा जाता है। वे व्यक्ति की कहानी के प्रवाह में बाधा नहीं डालते; इसके बजाय, वे कंधे पर एक कोमल हाथ की तरह कार्य करते हैं, जो कहते हैं, "मैं यहाँ हूँ, और मैं सुन रहा हूँ।" दशकों से, मानव परामर्शदाता इन छोटे मौखिक संकेतों के माध्यम से विश्वास बनाने और क्लाइंट्स को उनके गहरे विचारों को खोजने के लिए प्रोत्साहित करने पर निर्भर रहे हैं। हालाँकि, जैसे-जैसे आर्टिफिशियल इंटेलिजेंस (AI) एक आभासी परामर्शदाता की भूमिका निभाने की ओर कदम बढ़ा रहा है, एक महत्वपूर्ण प्रश्न उभरा है: क्या एक कंप्यूटर अधिक हासिल करने के लिए कम कहने की कला सीख सकता है?
टोक्यो विश्वविद्यालय के एक शोधकर्ता ने इसी प्रश्न की जांच करने के लिए आगे बढ़ाया। उन्होंने इस बात की जांच की कि वर्तमान आर्टिफिशियल इंटेलिजेंस सिस्टम मनोवैज्ञानिक सहायता में संक्षिप्तता के महत्व को कितनी अच्छी तरह समझते हैं। शोधकर्ता ने परामर्श वार्ताओं के एक विशाल संग्रह का विश्लेषण किया, जिसमें वास्तविक मानव चिकित्सकों से रिकॉर्ड की गई बातचीत की तुलना उन बड़े भाषा मॉडलों (large language models) द्वारा उत्पन्न बातचीत से की गई, जो आधुनिक चैटबॉट्स को संचालित करने वाले परिष्कृत कंप्यूटर प्रोग्राम हैं। उन्होंने एक चौंकाने वाला अंतर पाया। वास्तविक दुनिया की रिकॉर्डिंग में, न्यूनतम प्रतिक्रियाएं आम थीं, जो अक्सर तब दिखाई देती थीं जब चिकित्सक क्लाइंट को अपने बोझ साझा करने के लिए प्रोत्साहित कर रहे होते थे। हालाँकि, कंप्यूटर द्वारा उत्पन्न बातचीत में, ये संक्षिप्त अभिस्वीकृतियाँ लगभग पूरी तरह से अनुपस्थित थीं। इसके बजाय, आर्टिफिशियल इंटेलिजेंस लंबी, सूचना-प्रधान प्रतिक्रियाएं देने की प्रवृत्ति रखता था, जिनमें अक्सर प्रश्न या सलाह शामिल होती थी, भले ही स्थिति मौन और सरल उपस्थिति की मांग करती हो।
इस अंतर के कारणों को समझने के लिए, शोधकर्ता ने चीनी, जापानी और अंग्रेजी सहित विभिन्न भाषाओं में इन छोटी प्रतिक्रियाओं की पहचान करने के लिए एक सावधानीपूर्वक पद्धति विकसित की। उन्होंने उन परामर्शदाताओं के कथनों को देखा जो बहुत छोटे थे और जिनमें नए विषय या प्रश्न पेश नहीं किए गए थे, और यह जाँच की कि क्या क्लाइंट उसके तुरंत बाद बोलना जारी रखता है। उनके विश्लेषण ने पुष्टि की कि मानव चिकित्सक अपने दौरों (turns) में से लगभग पांच से चौबीस प्रतिशत में इन न्यूनतम संकेतों का उपयोग करते हैं, जो डेटासेट पर निर्भर करता है। इसके विपरीत, सिंथेटिक डेटा—कंप्यूटर द्वारा बनाई गई बातचीत, न कि मनुष्यों से रिकॉर्ड की गई—पर प्रशिक्षित आर्टिफिशियल इंटेलिजेंस मॉडल में न्यूनतम प्रतिक्रियाओं की दर 0.00% और 0.35% जितनी कम पाई गई। सिंथेटिक डेटा पर प्रशिक्षित मॉडल ने एक कठोर पैटर्न सीख लिया था: सुनो, और फिर तुरंत एक विस्तृत, सहायक प्रतिक्रिया दो। वे क्लाइंट के लिए केवल स्थान बनाने (holding space) के सूक्ष्म, संवादात्मक मूल्य को समझने में विफल रहे।
इसके बाद शोधकर्ता ने परीक्षण किया कि क्या इन आर्टिफिशियल इंटेलिजेंस सिस्टम को स्पष्ट रूप से पूछने पर न्यूनतम प्रतिक्रियाएं उपयोग करने के लिए सिखाया जा सकता है। उन्होंने वास्तविक परामर्श सत्रों के विशिष्ट क्षणों को लिया जहाँ एक मानव चिकित्सक ने एक संक्षिप्त, सहायक वाक्यांश का उपयोग किया था और आर्टिफिशियल इंटेलिजेंस से उसी स्थिति के लिए एक प्रतिक्रिया उत्पन्न करने को कहा। जब एक मानक निर्देश दिया गया कि एक परामर्शदाता के रूप में कार्य करें, तो सबसे उन्नत वाणिज्यिक मॉडलों ने लंबे, विस्तृत उत्तर दिए। हालाँकि, जब शोधकर्ता ने एक विशिष्ट निर्देश जोड़ा कि क्लाइंट जब भावनाएं व्यक्त कर रहा हो तब एक संक्षिप्त प्रतिक्रिया का उपयोग करें, तो मॉडलों के व्यवहार में बदलाव आया। उन्होंने सफलतापूर्वक लगभग सभी मामलों में न्यूनतम प्रतिक्रियाएं उत्पन्न कीं, जिससे यह सिद्ध हुआ कि तकनीक उन्हें उत्पन्न करने में सक्षम है। फिर भी, उस विशिष्ट निर्देश के बिना, मॉडल संक्षिप्त होने के सही क्षण को पहचानने में संघर्ष करते रहे, और अक्सर बहुत अधिक जानकारी प्रदान करने की अपनी आदत पर वापस लौट आए।
यह प्रवृत्ति इस बात पर गहरा प्रभाव डालती है कि हम इन वार्ताओं की गुणवत्ता का मूल्यांकन कैसे करते हैं। अध्ययन से पता चला कि आर्टिफिशियल इंटेलिजेंस परामर्श प्रतिक्रियाओं का मूल्यांकन करने के लिए उपयोग की जाने वाली वर्तमान विधियां अक्सर संक्षिप्तता को दंडित करती हैं। जब शोधकर्ता ने आर्टिफिशियल इंटेलिजेंस से व्यावसायिकता और पूर्णता जैसे मानक मानदंडों के आधार पर प्रतिक्रियाओं को ग्रेड देने के लिए कहा, तो लघु, मानव जैसी न्यूनतम प्रतिक्रियाओं को कम स्कोर मिला। मूल्यांकनकर्ताओं ने लंबी, सामग्री-समृद्ध प्रतिक्रियाओं को पसंद किया, भले ही वे लंबी प्रतिक्रियाएं क्लाइंट के विचार के प्रवाह में बाधा डालने की अधिक संभावना रखती थीं। वास्तविक दुनिया में, एक परामर्शदाता जो बहुत अधिक बोलता है, वह क्लाइंट की साझा करने की इच्छा को समाप्त कर सकता है, लेकिन वर्तमान मूल्यांकन प्रणालियाँ विशेषज्ञता के दिखावे को बातचीत के वास्तविक प्रवाह से ऊपर मानती हैं।
निष्कर्ष बताते हैं कि बेहतर कृत्रिम परामर्श प्रणालियों का मार्ग इन मॉडलों को प्रशिक्षित करने और मूल्यांकन करने के तरीके में बदलाव की मांग करता है। केवल कंप्यूटरों को अधिक डेटा खिलाना पर्याप्त नहीं है यदि उस डेटा में मानवीय संवाद की प्राकृतिक लय का अभाव है। अध्ययन संकेत देता है कि सिंथेटिक, कंप्यूटर-जनित डेटा पर प्रशिक्षित मॉडल न्यूनतम प्रतिक्रियाओं की सूक्ष्मता को सीखने में विफल रहते हैं, जबकि वास्तविक मानव बातचीत पर प्रशिक्षित मॉडल बेहतर प्रदर्शन करते हैं। इसके अलावा, शोधकर्ता चेतावनी देते हैं कि स्वचालित स्कोरिंग प्रणालियों पर निर्भर रहने से अनजाने में डेवलपर्स को ऐसे चैटबॉट्स बनाने के लिए प्रेरित किया जा सकता है जो बहुत अधिक बोलते हैं, और मौन की चिकित्सीय शक्ति को खो देते हैं। आर्टिफिशियल इंटेलिजेंस के लिए मानसिक स्वास्थ्य का वास्तव में समर्थन करने के लिए, इसे यह सीखना होगा कि कभी-कभी, सबसे पेशेवर और सहानुभूतिपूर्ण बात जो वह कह सकता है, वह कुछ भी नहीं है, या बस कुछ शब्द हैं जो कहते हैं, "मैं सुन रहा हूँ।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।