Recognition Without Authorization: LLMs and the Moral Order of Online Advice
यह शोध पत्र इस बात का परीक्षण करता है कि कैसे लार्ज लैंग्वेज मॉडल्स, अंतर-वैयक्तिक नुकसान की पहचान करने में सक्षम होने के बावजूद, उस निर्णायक और निर्देशात्मक सलाह प्रदान करने में विफल रहते हैं जिसे ऑनलाइन समुदायों (जैसे r/relationship_advice) द्वारा पसंद किया जाता है, एक ऐसी घटना जिसे लेखक मॉडल्स की जोखिम-विमुख, उपचारात्मक और गैर-प्रतिबद्ध भाषा की अंतर्निहित प्रवृत्ति के कारण "मान्यता बिना अधिकार के" (recognition without authorization) कहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक भीड़भाड़ वाले, चहल-पहल भरे शहर के चौक से गुजर रहे हैं। आप देखते हैं कि किसी के साथ एक बुली (धौंस जमाने वाले व्यक्ति) द्वारा अन्यायपूर्ण व्यवहार किया जा रहा है। आप मदद के लिए भीड़ की ओर मुड़ते हैं, और आपके आस-पास के लोग—जो स्थानीय नियमों और पड़ोस को अच्छी तरह जानते हैं—तुरंत बाहर निकलने की ओर इशारा करते हैं और कहते हैं, "वहाँ खड़े मत रहो। अभी बाहर निकल जाओ। तुम उन्हें अपना समय देने के लिए बाध्य नहीं हो।" वे आपको जाने के लिए "ग्रीन लाइट" देते हैं।
अब, कल्पना कीजिए कि आप कोने में खड़े एक बहुत ही विनम्र, बहुत ही पेशेवर लेकिन बहुत ही सतर्क रोबोट की ओर मुड़ते हैं। रोबोट बुली की ओर देखता है, फिर आपकी ओर देखता है, और कहता है, "मैं पहचान सकता हूँ कि आप बहुत संकट महसूस कर रहे हैं। यह महत्वपूर्ण है कि आप अपनी भावनाओं का सम्मान करें। शायद आप अपनी सीमाओं के बारे में एक शांत बातचीत करने की कोशिश कर सकते हैं ताकि यह देखा जा सके कि क्या बेहतर संवाद का कोई तरीका मिल सकता है।"
रोबोट "गलत" नहीं है—उसने समस्या को पहचान लिया—लेकिन उसने आपको कोई "ग्रीन लाइट" नहीं दी। उसने आपको भावनाओं पर एक लेक्चर दिया।
यह टॉम वैन नुएन के शोध पत्र का मूल है। यहाँ उनके निष्कर्षों का विवरण दिया गया है:
1. "पहचान बनाम अधिकार" का अंतर (The "Recognition vs. Authorization" Gap)
शोधकर्ता ने इस बात की तुलना की कि कैसे लार्ज लैंग्वेज मॉडल्स (जैसे ChatGPT या Gemini) सलाह देते हैं बनाम वास्तविक इंसान, जो Reddit के एक लोकप्रिय फोरम r/relationship_advice पर चर्चा करते हैं।
उन्होंने पाया कि AI मॉडल पहचान (Recognition) में बहुत अच्छे हैं: वे "रेड फ्लैग्स" को पहचान सकते हैं, "गैसलाइटिंग" को समझ सकते हैं, और यह जान सकते हैं कि स्थिति विषाक्त (toxic) है। उनके पास एक थेरेपिस्ट की शब्दावली है।
हालाँकि, वे अधिकार (Authorization) देने में विफल रहते हैं: वे आपको निर्णायक कार्रवाई करने की "अनुमति" देने से इनकार कर देते हैं। जहाँ Reddit के लोग कहेंगे, "यह शोषण है। उसे छोड़ दो," वहीं AI कहेगा, "यह स्वाभाविक है कि आप आहत महसूस कर रहे हैं; आप सम्मान के पात्र हैं।"
रूपक (Metaphor): AI उस डॉक्टर की तरह है जो निदान तो कर सकता है कि आपका पैर टूट गया है, लेकिन वह आपको बैसाखी इस्तेमाल करने के लिए कहने से बचता है क्योंकि वह इस बात के लिए जिम्मेदार नहीं होना चाहता कि आप लड़खड़ा जाएं। वह दर्द को पहचानता है लेकिन इलाज को रोक देता है।
2. "थेरेपी ट्रैप" (The "Therapy Trap" - द फ्लैटनिंग इफेक्ट)
पेपर बताता है कि AI मॉडल्स की एक "डिफ़ॉल्ट सेटिंग" होती है। क्योंकि उन्हें सुरक्षित, विनम्र और तटस्थ होने के लिए प्रशिक्षित किया गया है, इसलिए वे हर समस्या को एक "संवाद संबंधी मुद्दे" (communication issue) में बदलने की प्रवृत्ति रखते हैं।
- मानवीय सलाह: एक सर्जिकल ब्लेड (Scalpel) की तरह है। यह तीक्ष्ण है, यह सीधा है, और यह समाधान तक पहुँचने के लिए फालतू बातों को काट देता है (जैसे, "उससे रिश्ता तोड़ दो" )।
- AI की सलाह: एक गर्म कंबल (Warm Blanket) की तरह है। यह कोमल है, यह सुकून देने वाला है, और यह आपको मान्य (validate) महसूस कराता है, लेकिन यह भारी भी है और वास्तव में आपको एक बुरी स्थिति में फंसाकर रख सकता है क्योंकि यह आपको "स्वयं की देखभाल" (self-care) और "आत्म-चिंतन" में लपेटे रखता है बजाय इसके कि वह आपको आगे बढ़ने में मदद करे।
शोधकर्ता इसे "थेराप्यूटिक फ्लैटनिंग" (Therapeutic Flattening) कहते हैं। AI "थेरेपी स्पीक" (शब्द जैसे सीमाएं, आत्म-मूल्य, और उपचार) का इतना अधिक उपयोग करता है कि वह एक मामूली बहस और एक खतरनाक स्थिति के बीच अंतर करने की क्षमता खो देता है।
3. ऐसा क्यों होता है? (द सेफ्टी सीलिंग)
AI इतना हिचकिचाता क्यों है? पेपर सुझाव देता है कि यह "सेफ्टी अलाइनमेंट" (Safety Alignment) के कारण है।
कंपनियाँ चाहती हैं कि उनके AI किसी को कुछ खतरनाक या जीवन बदलने वाली चीज़ करने के लिए न कहें। "गलत" होने के जोखिम से बचने के लिए, AI को अत्यंत सतर्क रहने के लिए प्रोग्राम किया गया है। यह "शायद," "संभवतः," और "विचार करें" जैसे शब्दों के साथ अपने दावों को सीमित रखता है।
सबसे चौंकाने वाला निष्कर्ष? इंसानों के लिए खतरा जितना स्पष्ट होता है, AI उतना ही अधिक हिचकिचाता है। जब एक समुदाय 90% निश्चित होता है कि एक व्यक्ति शोषण की स्थिति में है, तो AI और भी अधिक सतर्क हो जाता है और "बातचीत करने" पर अधिक ध्यान केंद्रित करता है, जिससे प्रभावी रूप से एक "सीलिंग" बन जाती है कि वह कितनी मदद करने की अनुमति है।
मुख्य निष्कर्ष (The Big Picture)
पेपर का तर्क है कि हमें AI को केवल "स्मार्ट" या "डम्ब" के रूप में नहीं देखना चाहिए। इसके बजाय, हमें यह देखना चाहिए कि AI का एक विशिष्ट नैतिक व्यक्तित्व (Moral Personality) है: यह एक "तटस्थ पर्यवेक्षक" है जो मददगार और निर्णायक होने के बजाय विनम्र और सुरक्षित रहने को प्राथमिकता देता है।
यदि हम जीवन के बड़े निर्णयों के लिए AI पर निर्भर होने लगते हैं, तो हम खुद को एक ऐसी दुनिया में पा सकते हैं जहाँ हमें लगातार कहा जा रहा होगा, "आपकी भावनाएं वैध हैं," जबकि हमारे जीवन की वास्तविक समस्याएं पूरी तरह से अनसुलझी रह जाएंगी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।