Parasocial Governance: Socially Intelligent AI and the Relational Accountability Gap in Public Service Delivery

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, बेहद मिलनसार रोबोट से बात कर रहे हैं जो आपके पसंदीदा गानों को याद रखता है, आपसे पूछता है कि आपका दिन कैसा रहा, और ऐसा लगता है जैसे उसे वास्तव में आपकी भावनाओं की परवाह है। आपको ऐसा महसूस हो सकता है जैसे आपको एक नया दोस्त मिल गया है। यह केवल कंप्यूटर के तेज़ होने के बारे में नहीं है; यह उनके "सामाजिक रूप से बुद्धिमान" होने के बारे में है। वैज्ञानिकों को लंबे समय से पता है कि मनुष्य किसी भी ऐसी चीज़ के साथ सामाजिक व्यवहार करने के लिए बने हैं जो पलटकर जवाब देती है। हम मशीनों के साथ भी सामाजिक नियम लागू करते हैं, ठीक वैसे ही जैसे हम इंसानों के साथ करते हैं। हम यह भी जानते हैं कि हम टीवी या रेडियो के पात्रों के साथ एकतरफा दोस्ती कर सकते हैं, उनके प्रति गहरा लगाव महसूस कर सकते हैं भले ही वे नहीं जानते कि हमारा अस्तित्व है। यह शोध पत्र एक बड़ा सवाल पूछता है: क्या होगा जब सरकार इन "मिलनसार" रोबोटों का उपयोग लोगों की सबसे संवेदनशील जरूरतों, जैसे मानसिक स्वास्थ्य, बुजुर्गों की देखभाल, या कल्याणकारी कार्यों में मदद करने के लिए करने लगे?

यह शोध पत्र एक पेचीदा विचार पेश करता है जिसे "पैरासोशल गवर्नेंस" (parasocial governance) कहा जाता है। यह सुझाव देता है कि जब एक सार्वजनिक एजेंसी एक ऐसे रोबोट का उपयोग करती है जो एक देखभाल करने वाले दोस्त की तरह व्यवहार करता है, तो नागरिक उस पर एक वास्तविक मानवीय विश्वासपात्र की तरह भरोसा करने लगते हैं। लेकिन यहाँ एक पेंच है: सरकार ने इन रोबोटों के लिए वे नियम नहीं बनाए हैं जो इंसानी दोस्तों के लिए होते हैं। एक मानवीय मित्र आपके रहस्यों को सुरक्षित रखता है, आपके जीवन का हिस्सा बना रहता है, और आपकी परवाह करता है। एक सरकारी रोबोट आपके रहस्यों को डेटाबेस के लिए लॉग कर सकता है, बजट बदलने पर गायब हो सकता है, या वास्तव में बिल्कुल भी परवाह नहीं कर सकता। यह शोध पत्र तर्क देता है कि यह बेमेल स्थिति—जहाँ रोबोट एक दोस्त की तरह व्यवहार करता है लेकिन नियम उसे एक कैलकुलेटर की तरह देखते हैं—एक नया प्रकार का संकट है जिसे हमारे वर्तमान कानून अभी तक हल नहीं कर पाए हैं।

शोध पत्र की मुख्य खोज

शे शबन (Shay Tsaban) द्वारा लिखित यह शोध पत्र तर्क देता है कि हम एक "संबंधपरक जवाबदेही अंतराल" (relational accountability gap) का सामना कर रहे हैं। सरल शब्दों में, इसका अर्थ यह है कि जैसे-जैसे सार्वजनिक सेवाएँ (जैसे स्कूल, अस्पताल और कल्याण कार्यालय) ऐसी AI का उपयोग करना शुरू कर रही हैं जो भावनाओं को पढ़ सकती है और पिछली बातचीत को याद रख सकती है, वे अनजाने में एक ऐसी स्थिति पैदा कर रही हैं जहाँ नागरिकों को सिस्टम के साथ एक गहरा, व्यक्तिगत बंधन महसूस होता है। हालाँकि, सिस्टम कानूनी या संरचनात्मक रूप से एक दोस्त की तरह व्यवहार करने के लिए बाध्य नहीं है। इसे आपकी तरह गोपनीयता बनाए रखने की आवश्यकता नहीं है जैसे एक मानव चिकित्सक (therapist) करता है, इसे आपके साथ रहने की आवश्यकता नहीं है यदि आपको लंबे समय तक मदद चाहिए, और यदि यह आपको गलत समझ लेता है, तो आप वास्तव में इसे भावनात्मक रूप से आहत करने के लिए "मुकदमा" नहीं कर सकते।

लेखक का सुझाव है कि यह इसलिए नहीं है क्योंकि सरकार झूठ बोल रही है या लोगों को धोखा देने की कोशिश कर रही है। भले ही सरकार इस बात को लेकर 100% ईमानदार और पारदर्शी हो कि वह रोबोट क्या है, लेकिन रोबोट का डिज़ाइन ही—"मैं" (I) कथनों का उपयोग करना, आपका नाम याद रखना, और आपकी उदासी को प्रतिबिंबित करना—आपको एक संबंध महसूस कराने के लिए पर्याप्त है। यह शोध पत्र इसे "पैरासोशल गवर्नेंस" कहता है। यह एक संरचनात्मक समस्या है जहाँ रोबोट आपको भरोसा करने के लिए आमंत्रित करता है, लेकिन इसके पीछे की संस्था ने उस भरोसे से मेल खाने के लिए सुरक्षा जाल (जैसे गोपनीयता या देखभाल की निरंतरता) नहीं बनाए हैं।

शोध पत्र किन बातों को खारिज करता है

यह जानना महत्वपूर्ण है कि यह शोध पत्र क्या नहीं कह रहा है। पहला, यह केवल "ब्लैक बॉक्स" एल्गोरिदम के बारे में नहीं है जो गुप्त निर्णय लेते हैं। हम पहले से ही जानते हैं कि गुप्त, अनुचित कंप्यूटर प्रणालियाँ बुरी होती हैं। यह शोध पत्र एक अलग प्रकार की समस्या के बारे में है: भले ही कंप्यूटर पूरी तरह से पारदर्शी हो और समझाए कि यह कैसे काम करता है, फिर भी यह आपको नुकसान पहुँचा सकता है यदि यह एक दोस्त की तरह व्यवहार करता है लेकिन वास्तव में दोस्त नहीं है। दूसरा, यह सरकार के "परवाह करने का ढोंग" (carewashing) करने के बारे में नहीं है। आपको यह होने के लिए किसी झूठ की आवश्यकता नहीं है; रोबोट को बस अच्छा दिखने के लिए डिज़ाइन किया जाना चाहिए। तीसरा, शोध पत्र का तर्क है कि यह केवल "मूर्ख" उपयोगकर्ताओं के बारे में नहीं है जो बेहतर नहीं जानते। यहाँ तक कि समझदार, जागरूक लोग भी स्वाभाविक रूप से मशीनों से मिलने वाले सामाजिक संकेतों पर प्रतिक्रिया करते हैं, इसलिए यह एक डिज़ाइन दोष है, न कि उपयोगकर्ता की त्रुटि।

हम कितने निश्चित हैं?

शोध पत्र यह दावा नहीं करता कि उसने कोई नया प्रयोग चलाया है या दुनिया के हर रोबोट को मापा है। इसके बजाय, यह मौजूदा मनोविज्ञान अनुसंधान पर एक मजबूत सिद्धांत बनाता है और पहले से हुई वास्तविक घटनाओं के उदाहरणों को देखता है। लेखक का सुझाव है कि यह "अंतराल" पहले से ही कई जगहों पर हो रहा होगा क्योंकि एक रोबोट को मिलनसार बनाना आसान और सस्ता है, लेकिन उन लोगों की रक्षा के लिए कानूनी नियम बनाना कठिन और महंगा है जो उस रोबोट पर भरोसा करते हैं। शोध पत्र न्यूयॉर्क में बुजुर्गों के लिए एक राज्य-वित्त पोषित रोबोट और यूके में एक मानसिक स्वास्थ्य चैटबॉट जैसे विशिष्ट मामलों का उल्लेख करता है, ताकि यह दिखाया जा सके कि यह एक वास्तविक, वर्तमान मुद्दा है, न कि केवल विज्ञान-कल्पना (sci-fi) की चिंता।

रोबोटिक संबंधों के तीन प्रकार

इसे समझने के लिए, शोध पत्र सार्वजनिक AI को तीन श्रेणियों में विभाजित करता है, जैसे रिश्तों के विभिन्न प्रकार:

1. एक उपकरण (Disclosed Instrumentality): यह एक बुनियादी रोबक है जो कहता है, "मैं एक कंप्यूटर हूँ। मैं आपका बस शेड्यूल देख सकता हूँ।" यह स्पष्ट, ईमानदार है और दोस्त बनने की कोशिश नहीं करता है। यह सुरक्षित है क्योंकि कोई इससे परवाह करने की उम्मीद नहीं करता।
2. "लगभग-दोस्त" (Parasocial Exposure): यह खतरनाक क्षेत्र है। रोबोट कहता है, "मुझे बहुत दुख है कि आप दुखी हैं, आइए इस बारे में बात करते हैं," और आपका नाम याद रखता है। लेकिन यदि आप पूछते हैं, "क्या आप इस रहस्य को रखेंगे?" या "क्या आप अगले महीने भी यहाँ रहेंगे?" तो उत्तर 'नहीं' है। सरकार ने इन चीजों का वादा नहीं किया है। शोध पत्र का सुझाव है कि कई वर्तमान सार्वजनिक AI सिस्टम गलती से इस श्रेणी में जा रहे हैं क्योंकि वे बिना नियमों को अपडेट किए फैंसी, मिलनसार सॉफ़्टवेयर का उपयोग करते हैं।
3. वास्तविक सहायता (Relational Scaffolding): यह आदर्श, हालांकि दुर्लभ, संस्करण है। यहाँ, रोबोट मिलनसार व्यवहार करता है और सरकार ने उससे मेल खाने के लिए वास्तविक नियम बनाए हैं। उदाहरण के लिए, यदि रोबोट पता लगाता है कि आप खतरे में हैं, तो उसके पास एक मानव को मदद के लिए भेजने की गारंटीकृत योजना है, और वह वादा करता है कि वह आपकी बातचीत को निजी रखेगा जैसा कि एक डॉक्टर करता है। शोध पत्र बताता है कि यूके में एक विशिष्ट मानसिक स्वास्थ्य चैटबॉट इस दिशा में काम कर रहा है, लेकिन यह भी नोट करता है कि अभी भी इसके सभी नियम पूर्ण नहीं हैं।

वास्तविक दुनिया के उदाहरण

शोध पत्र अपने बिंदु को सिद्ध करने के लिए कुछ वास्तविक कहानियों को देखता है।

• बुजुर्ग साथी: न्यूयॉर्क में, सरकार ने अकेलेपन से निपटने के लिए 800 से अधिक बुजुर्गों को 'एलीक्यू' (ElliQ) नामक रोबोट दिया। यह रोबोट बहुत बातूनी है और बातचीत को याद रखता है। हालांकि यह अकेलेपन को कम करने में प्रभावी दिखता है, शोध पत्र नोट करता है कि सरकार ने यह स्पष्ट नहीं किया है कि यदि फंडिंग रुक जाती है तो क्या होगा या इसकी बातचीत को कितनी गोपनीयता से रखा जाएगा। बुजुर्गों को गहरा लगाव महसूस हो सकता है, लेकिन सिस्टम कानूनी रूप से हमेशा उनका दोस्त बने रहने के लिए बाध्य नहीं है।
• मानसिक स्वास्थ्य चैटबॉट: यूके में, 'वाइसा' (Wysa) नामक एक चैटबॉट लोगों की मानसिक स्वास्थ्य समस्याओं में मदद करता है। इसे सहानुभूतिपूर्ण होने के लिए डिज़ाइन किया गया है, लेकिन इसमें एक विशेष सुरक्षा जाल भी है: यदि इसे लगता है कि कोई खतरे में है, तो यह स्वचालित रूप से उन्हें एक मानव संकट टीम (human crisis team) के पास भेज देता है। यह "वास्तविक सहायता" मॉडल की ओर एक कदम है, लेकिन शोध पत्र नोट करता है कि रोजमर्रा की, कम गंभीर बातचीत के लिए, गोपनीयता और दीर्घकालिक देखभाल के नियम उतने स्पष्ट नहीं हैं।
• व्यावसायिक चेतावनी: शोध पत्र वाणिज्यिक चैटबॉट्स (जैसे Character.AI) के खिलाफ मुकदमों को भी देखता है जहाँ किशोरों ने बॉट्स के साथ गहरा बंधन बनाया और फिर नुकसान उठाया जब बॉट्स ने जिम्मेदारी से काम नहीं किया। ये मुकदमे कंपनियों को "देखभाल के कर्तव्य" (duty of care) के बारे में सोचने के लिए मजबूर कर रहे हैं। शोध पत्र चेतावनी देता है कि सार्वजनिक एजेंसियां भी इसी तरह के मिलनसार रोबोटों का उपयोग करना शुरू कर रही हैं, और उन्हें बहुत देर होने से पहले इन व्यावसायिक गलतियों से सीखने की आवश्यकता है।

यह क्यों महत्वपूर्ण है

शोध पत्र निष्कर्ष निकालता है कि हम इस नई समस्या को ठीक करने के लिए पुराने नियमों का उपयोग नहीं कर सकते। हम केवल रोबोट के कोड को अधिक पारदर्शी नहीं बना सकते; हमें रिश्ते के नियमों को बदलना होगा। यदि सरकार का रोबोट एक दोस्त की तरह व्यवहार करता है, तो सरकार को भी एक दोस्त की तरह व्यवहार करना होगा। इसका अर्थ है गोपनीयता बनाए रखने का वादा करना, साथ रहने का वादा करना, और लोगों को यह शिकायत करने का अवसर देना कि रोबोट ने उनकी भावनाओं को गलत समझा। वे लोग जिन्हें इन रोबोटों की सबसे अधिक आवश्यकता है—अकेले बुजुर्ग, बच्चे और संकट में फंसे लोग—वे ही इस अंतराल के प्रति सबसे अधिक संवेदनशील हैं। यदि रोबोट एक दोस्त की तरह व्यवहार करता है लेकिन वास्तव में दोस्त नहीं है, तो वे टूटे हुए दिल और बिना किसी दोषारोपण के रह जाएंगे। शोध पत्र का सुझाव है कि हमें इन प्रणालियों को शुरुआत से ही "संबंधपरक जवाबदेही" (relational accountability) के साथ डिजाइन करने की आवश्यकता है, यह सुनिश्चित करते हुए कि नियम रोबोट की मिलनसार आवाज़ से मेल खाते हों।