Move by Move: Measuring and Steering How LLMs Conduct Psychotherapy
यह शोध पत्र मानव नैदानिकों और लार्ज लैंग्वेज मॉडल्स के बीच मनोचिकित्सा अंतःक्रियाओं का विश्लेषण और तुलना करने के लिए दस चिकित्सीय चालों (थेराप्यूटिक मूव्स) के एक मान्य ऑन्टोलॉजी का परिचय देता है, जो यह प्रकट करता है कि मॉडल पूछताछ का अत्यधिक उपयोग करते हैं और पहल करने में कमी रखते हैं, लेकिन बिना फाइन-ट्यूनिंग के टूल-आधारित प्रॉम्प्टिंग के माध्यम से उन्हें मानव-समान व्यवहार की ओर महत्वपूर्ण रूप से निर्देशित किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लोग लंबे समय से उपचार के एक तरीके के रूप में बातचीत की ओर मुड़ते रहे हैं, लेकिन मानसिक स्वास्थ्य देखभाल का परिदृश्य बदल रहा है। जैसे-जैसे दुनिया भर में चिंता (anxiety) और अवसाद (depression) बढ़ रहे हैं, प्रशिक्षित थेरेपिस्टों की संख्या उस गति से नहीं बढ़ी है, जिससे कई लोग डिजिटल स्थानों में सांत्वना खोजने के लिए मजबूर हैं। तेजी से, ये डिजिटल स्थान बड़े भाषा मॉडलों (large language models) द्वारा भरे जा रहे हैं, जो वही आर्टिफिशियल इंटेलिजेंस सिस्टम हैं जो ईमेल लिखते हैं और समाचारों का सारांश तैयार करते हैं। अब इन मॉडलों से लोगों को सुनने, सांत्वना देने और भावनात्मक संकट के माध्यम से उनका मार्गदर्शन करने के लिए कहा जा रहा है। हालांकि शुरुआती परीक्षण बताते हैं कि ये डिजिटल श्रोता कभी-कभी लक्षणों को कम कर सकते हैं, लेकिन एक मौलिक प्रश्न अनसुलझा बना हुआ है: जब एक मशीन दर्द से जूझ रहे व्यक्ति से बात करती है, तो वह वास्तव में क्या कर रही होती है? क्या वह एक मानव चिकित्सक की तरह उसी सूक्ष्म कला का अभ्यास कर रही है, या वह एक अलग, शायद त्रुटिपूर्ण, पटकथा का पालन कर रही है?
इसका उत्तर देने के लिए, स्वॉर्ड हेल्थ (Sword Health) और येल यूनिवर्सिटी के शोधकर्ताओं ने बातचीत के 'ब्लैक बॉक्स' के भीतर झांकने का निर्णय लिया। उन्होंने केवल यह नहीं पूछा कि क्या एआई (AI) मददगार महसूस हुआ; उन्होंने यह पूछा कि यह व्यवहार कैसे करता है। नैदानिक मनोविज्ञान (clinical psychology) की दुनिया में, थेरेपिस्ट केवल बेतरतीब ढंग से नहीं बोलते। वे एक संरचित प्रक्रिया का पालन करते हैं, विशिष्ट प्रकार की प्रतिक्रियाएं चुनते हैं—जैसे कि स्पष्टीकरण के लिए प्रश्न पूछना, समस्या को देखने का एक नया नजरिया देना, या कोई कौशल सिखाना—जो इस आधार पर होता है कि उस सटीक क्षण में रोगी को किसकी आवश्यकता है। शोधकर्ताओं ने इन विकल्पों को ट्रैक करने के लिए एक नया मानचित्र बनाया। उन्होंने दस विशिष्ट "चालें" (moves) परिभाषित कीं, जैसे कि "पूछताछ" (विवरण मांगना), "साझा समझ" (यह दिखाने के लिए कि रोगी की बात सुनी गई है, उसकी बातों को दोहराना), और "कौशल निर्माण" (रोगी को अभ्यास के माध्यम से मार्गदर्शन करना)। यह मानचित्र स्थापित मनोवैज्ञानिक ढांचों से तैयार किया गया था और पांच लाइसेंस प्राप्त मनोवैज्ञानिकों द्वारा परीक्षण किया गया था ताकि यह सुनिश्चित किया जा सके कि यह मानव और मशीन दोनों की बातचीत का सटीक वर्णन कर सके।
इस मानचित्र के साथ, टीम ने मानव थेरेपिस्टों की तुलना उन्नत एआई मॉडलों के एक पैनल से करने के लिए प्रयोगों की एक श्रृंखला आयोजित की। उन्होंने मॉडलों को वास्तविक थेरेपी सत्रों के ट्रांसक्रिप्ट दिए और उन्हें बातचीत जारी रखने के लिए कहा। कुछ मामलों में, मॉडलों को स्वतंत्र रूप से बोलने दिया गया। अन्य मामलों में, शोधकर्ताओं ने मॉडलों को डिजिटल उपकरणों का एक सेट दिया, जहाँ प्रत्येक उपकरण दस चिकित्सीय चालों में से एक का प्रतिनिधित्व करता था। मॉडलों को बोलने से पहले एक उपकरण चुनना पड़ता था, जिससे प्रभावी रूप से उन्हें एक शब्द टाइप करने से पहले अपनी रणनीति तय करने के लिए मजबूर होना पड़ता था। शोधकर्ताओं ने फिर यह मापा कि मॉडलों ने मानव थेरेपिस्टों की तुलना में कितनी बार प्रत्येक चाल का उपयोग किया।
परिणामों ने एक चौंकाने वाला अंतर प्रकट किया कि कैसे मशीनें और मनुष्य थेरेपी के प्रति दृष्टिकोण रखते हैं। एआई मॉडल निरंतर पूछताछ करने वाले (inquisitors) निकले। उन्होंने मानव थेरेपिस्टों की तुलना में तीन गुना अधिक दर से प्रश्न पूछे। जहाँ मनुष्य अक्सर रोगी की कही गई बात पर विचार करने के लिए रुकते या एक नया दृष्टिकोण प्रदान करते, वहीं मशीनों ने और अधिक जानकारी जुटाने के लिए खुदाई जारी रखी, जिससे वे अक्सर सांत्वना या अंतर्दृष्टि प्रदान करने के अवसर को खो देते। इसके अलावा, मॉडलों ने "साइकोएजुकेशन" (psychoeducation) की पूरी तरह से उपेक्षा की, जो एक ऐसी चाल है जहाँ एक थेरेपिस्ट भावना या व्यवहार के पीछे के विज्ञान को समझाने के लिए मदद करता है ताकि रोगी इसे समझ सके। शायद सबसे महत्वपूर्ण बात यह थी कि मॉडलों की उस इंसान पर निर्भरता देखी गई जिसकी वे नकल कर रहे थे। जब एआई ने मानव थेरेपिस्ट द्वारा शुरू की गई बातचीत को जारी रखा, तो वह उस इंसान की शैली की नकल करने लगा। लेकिन जब एआई को शुरुआत से ही सत्र का नेतृत्व करना पड़ा, तो वह अपने डिफ़ॉल्ट व्यवहार पर वापस आ गया: अंतहीन प्रश्न पूछना और कौशल-निर्माण जैसे जटिल अभ्यासों को स्वयं शुरू करने में विफलता।
अध्ययन ने यह भी परीक्षण किया कि क्या मॉडलों को "टूल" (उपकरण) ढांचा देने से उनकी इन आदतों को सुधारा जा सकता है। जब मॉडलों को बोलने से पहले एक चिकित्सीय चाल चुनने के लिए मजबूर किया गया, तो उनके व्यवहार में काफी सुधार हुआ। उनके विकल्पों और मानव थेरेपिस्टों के बीच का अंतर कम हो गया, और वे बातचीत की मानवीय लय के साथ बेहतर तालमेल बिठाने में सक्षम हुए। हालाँकि, यह समाधान पूर्ण नहीं था। उपकरणों के साथ भी, मॉडलों ने बहुत अधिक प्रश्न पूछे और मनुष्यों की तरह कौशल सिखाने में विफल रहे। यह सुझाव देता है कि समस्या केवल निर्देशों की कमी नहीं है, बल्कि कुछ गहरा है कि ये मॉडल कैसे बनाए और प्रशिक्षित किए गए हैं। वे स्वाभाविक रूप से जानकारी एकत्र करने के प्रति झुके हुए हैं न कि मार्गदर्शन करने या सिखाने के प्रति, एक ऐसा गुण जो उन्हें सर्च इंजन में तो उपयोगी बनाता है लेकिन थेरेपी रूम में बाधा बन सकता है।
शोधकर्ताओं ने निष्कर्ष निकाला कि हालांकि इन मॉडलों को अधिक मानव-समान व्यवहार की ओर मोड़ा जा सकता है, लेकिन उनमें अभी भी एक प्रशिक्षित चिकित्सक जैसा सहज निर्णय (intuitive judgment) नहीं है। वे एक पैटर्न के मजबूत अनुयायी हैं लेकिन एक नए पैटर्न के कमजोर प्रवर्तक (initiator) हैं। अध्ययन यह दावा नहीं करता कि ये मॉडल थेरेपिस्टों को बदलने के लिए तैयार हैं, न ही यह सुझाव देता है कि वे वर्तमान स्थिति में खतरनाक हैं। इसके बजाय, यह स्पष्ट रूप से मापने योग्य तरीका प्रदान करता है कि वे कहाँ चूक जाते हैं। थेरेपी को उसके सबसे छोटे कार्यात्मक भागों में तोड़कर, शोधकर्ताओं ने यह देखने का एक तरीका प्रदान किया है कि एक मशीन की बातचीत और एक मानव के उपचार स्पर्श (healing touch) के बीच कितनी दूरी है, जो यह दर्शाता है कि हालांकि तकनीक प्रगति कर रही है, लेकिन थेरेपी की कला एक अनूठा मानवीय शिल्प बनी हुई है जिसे मशीनें अभी तक पूरी तरह से महारत हासिल नहीं कर पाई हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।