Simulating Eating Disorder Patients with LLMs: Evaluating Psychological Persona Stability in Multi-Turn Conversations
यह अध्ययन प्रकट करता है कि जहाँ बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) बातचीत के दौरान सुसंगत मनोवैज्ञानिक व्यक्तित्व बनाए रखते हैं, वहीं वे चयनात्मक रूढ़िवादिता के माध्यम से गंभीरता के स्कोर को बढ़ा-चढ़ाकर पेश करके ईटिंग डिसऑर्डर (खाने के विकार) के रोगियों का सटीक अनुकरण करने में व्यवस्थित रूप से विफल रहते हैं, जिससे वे चरम पैथोलॉजी को तो पकड़ लेते हैं लेकिन मध्यम नैदानिक प्रस्तुतियों का प्रतिनिधित्व करने के लिए सूक्ष्मता का अभाव रखते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक नाटक के लिए कलाकारों का चयन करने की कोशिश कर रहे हैं जो ईटिंग डिसऑर्डर (खाने के विकार) से जूझ रहे लोगों के बारे में है। आप चाहते हैं कि कलाकार इतने विश्वसनीय हों कि वे पूरी तरह से अपने चरित्र में रहें, चाहे वे अकेले स्क्रिप्ट पढ़ रहे हों या किसी साथी के साथ अभिनय (इम्प्रोवाइज़ेशन) कर रहे हों। आप यह भी चाहते हैं कि वे स्क्रिप्ट में वर्णित गंभीरता के सटीक स्तर को दर्शाएं—कुछ पात्र गहरे संकट में हैं, जबकि कुछ मध्यम संघर्ष के दौर से गुजर रहे हैं।
आप इंसानों के बजाय AI अभिनेताओं (लार्ज लैंग्वेज मॉडल्स) का उपयोग करने का निर्णय लेते हैं। आप उन्हें एक विस्तृत "चरित्र जीवनी" (एक प्रॉम्प्ट) देते हैं और उन्हें उनके जीवन को जीने और अपनी खाने की आदतों के बारे में एक मानक चिकित्सा प्रश्नावली भरने के लिए कहते हैं।
यह पेपर निर्देशक का रिपोर्ट कार्ड है कि उन AI अभिनेताओं ने कैसा प्रदर्शन किया। परिणाम आश्चर्यजनक, भ्रमित करने वाले और थोड़े चिंताजनक हैं।
मुख्य निष्कर्ष: "बहुत स्थिर, लेकिन गलत"
शोधकर्ताओं ने एक विरोधाभास पाया: AI अभिनेता अविश्वसनीय रूप से सुसंगत थे, लेकिन लगातार गलत थे।
- अच्छी खबर (स्थिरता): यदि आप एक ही AI अभिनेता को एक ही पात्र निभाने के लिए 50 बार कहते, तो वे हर बार लगभग एक जैसा जवाब देते। वे भूलते नहीं थे कि उन्हें क्या बनना है। वे एक ऐसे रोबोट की तरह थे जो कभी अपना किरदार नहीं तोड़ता।
- बुरी खबर (सटीकता): भले ही वे सुसंगत थे, लेकिन वे सभी अति-नाटकीय (over-dramatizing) हो रहे थे। AI मॉडल्स ने हर पात्र को, चाहे वे हल्के संघर्ष वाले हों या गंभीर संकट वाले, सभी को "चरम" मामलों में बदल दिया।
इसे एक रेडियो के वॉल्यूम नॉब की तरह समझें। शोधकर्ता चाहते थे कि AI वॉल्यूम को मध्यम मामले के लिए "5" पर और गंभीर मामले के लिए "10" पर सेट करे। इसके बजाय, AI ने हर किसी के लिए वॉल्यूम को "9" या "10" पर कर दिया, चाहे स्क्रिप्ट कुछ भी हो।
"गायब मध्य" (The Missing Middle)
पेपर एक घटना का वर्णन करता है जिसे "मिसिंग मिडल" कहा जाता है।
- गंभीर मामले: जब स्क्रिप्ट ने एक बहुत ही गंभीर ईटिंग डिसऑर्डर का वर्णन किया, तो AI ने इसे लगभग सही ढंग से निभाया।
- मध्यम मामले: जब स्क्रिप्ट ने किसी मध्यम संघर्ष (वह "मध्य" स्थान जहाँ कई वास्तविक मरीज वास्तव में होते हैं) वाले व्यक्ति का वर्णन किया, तो AI ने उसे बढ़ा-चढ़ाकर पेश किया, जिससे वे ऐसा लगे जैसे वे गंभीर संकट में हों।
AI के पास मध्यम समस्याओं के लिए कोई अच्छा "वॉल्यूम सेटिंग" नहीं है। यह डिफ़ॉल्ट रूप से सबसे तेज़, सबसे नाटकीय सेटिंग पर चला जाता है।
"दो-भाग वाला" ग्लिच (The Two-Part Glitch)
ऐसा क्यों हुआ? शोधकर्ताओं ने पाया कि AI एक अजीब शॉर्टकट का उपयोग कर रहा था, जिसे वे "चयनात्मक रूढ़िवादिता" (Selective Stereotyping) कहते हैं।
कल्पना कीजिए कि ईटिंग डिसऑर्डर प्रश्नावली में दो प्रकार के प्रश्न हैं:
- व्यवहार संबंधी प्रश्न: "क्या आप भोजन को सीमित करते हैं?" "क्या आप बिंज (अत्यधिक खाना) करते हैं?"
- भावनात्मक प्रश्न: "आप अपने शरीर से कितनी नफरत करते हैं?" "आप अपने वजन को लेकर कितने जुनूनी हैं?"
AI ने इन्हें अलग-अलग तरीके से संभाला:
- व्यवहार के लिए: इसने स्क्रिप्ट की बात मानी। यदि पात्र एक "बिंज ईटर" था, तो AI ने कहा, "हाँ, मैं बिंज करता हूँ।" यदि पात्र एक "पर्जर" (उल्टी करने वाला) था, तो AI ने कहा, "हाँ, मैं पज करता हूँ।" इसने कार्यों को सही ढंग से पकड़ा।
- भावनाओं के लिए: इसने स्क्रिप्ट को अनदेखा कर दिया। चाहे पात्र कोई भी हो, AI ने मान लिया कि हर व्यक्ति ईटिंग डिसऑर्डर के साथ अपने वजन के प्रति जुनूनी है और अपने शरीर से अत्यधिक नफरत करता है। इसने "बॉडी हेट" के डायल को छत तक घुमा दिया।
क्योंकि भावनात्मक प्रश्न सभी के लिए अधिकतम स्तर पर थे, इसलिए AI मध्यम मामले और गंभीर मामले के बीच अंतर नहीं कर सका। यह वैसा ही था जैसे कोई चित्रकार कपड़ों को तो सही बनाता है लेकिन हर चेहरे पर अत्यधिक निराशा के भाव से एक ही जैसा चेहरा पेंट कर देता है।
क्या अधिक जानकारी से मदद मिली?
शोधकर्ताओं ने यह देखने के लिए कि क्या इससे AI अभिनेताओं को "मध्य" स्तर को बेहतर ढंग से समझने में मदद मिलेगी, उन्हें अधिक विस्तृत बैकस्टोरी (बचपन का आघात, पारिवारिक इतिहास, विशिष्ट जीवन घटनाएँ) दी।
यह काम नहीं आया। अधिक विवरण देने से समस्या ठीक नहीं हुई। AI अभी भी चरम भावनात्मक सेटिंग पर ही लौट आया। ऐसा लगता है जैसे AI के आंतरिक "ट्रेनिंग डेटा" (किताबों और इंटरनेट से जो उसने सीखा) ने उसे सिखाया है कि "ईटिंग डिसऑर्डर = अधिकतम बॉडी हेट," और कोई भी अतिरिक्त संदर्भ इस नियम को बदल नहीं सका।
"पर्यवेक्षक" की समस्या
निष्पक्ष होने के लिए, शोधकर्ताओं ने केवल AI से यह नहीं पूछा कि वह कैसा महसूस कर रहा है; उन्होंने अन्य AI मॉडल्स से भी अभिनेता को देखने और उन्हें रेटिंग देने के लिए कहा।
- परिणाम: "पर्यवेक्षक" AI ने बिल्कुल वही देखा जो "अभिनेता" AI ने कहा था। उन्होंने भी सभी को अत्यधिक शारीरिक असंतोष के साथ रेट किया। इससे यह सिद्ध हुआ कि समस्या केवल अभिनेता के झूठ बोलने की नहीं थी; समस्या यह थी कि पूरा प्रदर्शन ही एक रूढ़िबद्ध धारणा (stereotype) पर आधारित था।
निष्कर्ष
पेपर निष्कर्ष निकालता है कि हालांकि AI एक सुसंगत अभिनेता होने में महान है, लेकिन यह वर्तमान में मानव ईटिंग डिसऑर्डर के अनुभवों की पूरी सीमा को सिम्युलेट (अनुकरण) करने के लिए तैयार नहीं है।
यह एक गंभीर संकट को अच्छी तरह से निभा सकता है, लेकिन यह मध्यम संघर्षों की सूक्ष्मता को पकड़ने में विफल रहता है। यह एक ऐसे शब्दकोश की तरह है जिसमें केवल "क्रोधित" और "अत्यधिक क्रोधित" के शब्द हैं, लेकिन "परेशान" या "नाराज" के लिए कोई शब्द नहीं है। जब तक AI मध्यम मामलों के लिए वॉल्यूम कम करना नहीं सीख लेता, तब तक इस पर नैदानिक स्पेक्ट्रम के "मध्य" हिस्से को सटीक रूप से सिम्युलेट करने के लिए भरोसा नहीं किया जा सकता।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।