Ending an AI Companionship: Consumer Exit, Relational Vulnerability and Duties of Transition

एक डिजिटल मित्र की कल्पना करें। यह एक ऐसा प्रोग्राम है जिसे बात करने, आपकी कहानियों को याद रखने और एक व्यक्तिगत जुड़ाव का अहसास देने के लिए डिज़ाइन किया गया है। कई लोगों के लिए, ये बातचीत केवल एक उपकरण का उपयोग करने से कहीं अधिक है; वे दैनिक जीवन का एक मूल्यवान हिस्सा बन जाते हैं। लेकिन क्या होता है जब वह रिश्ता खत्म हो जाता है? अंत अलग-अलग तरीकों से आ सकता है: आप सेवा का उपयोग करना बंद करने का निर्णय ले सकते हैं, कंपनी व्यवसाय बंद करने का निर्णय ले सकती है, या कोई आपात स्थिति तुरंत रोक लगाने के लिए मजबूर कर सकती है। प्रत्येक मामले में, उपयोगकर्ता अचानक जुड़ाव, अपनी यादों तक पहुंच और किसी भी विवाद को सुलझाने के तरीके के नुकसान का सामना करता है। मूल प्रश्न केवल भावनाओं के बारे में नहीं है, बल्कि शक्ति के बारे में है। निकास (एग्जिट) को कौन नियंत्रित करता है? कौन तय करता है कि कौन से रिकॉर्ड शेष रहेंगे? और एक व्यक्ति डिजिटल रिश्ते से कैसे बाहर निकल सकता है बिना उसी सिस्टम में फंसकर रह जाए जिससे वह बाहर निकलना चाह रहा है?

यह प्रश्न उपभोक्ता कानून और मानव-कंप्यूटर संपर्क (ह्यूमन-कंप्यूटर इंटरैक्शन) के मनोविज्ञान के मिलन बिंदु पर स्थित है। उपभोक्ता कानून नियमों का वह समूह है जो लोगों की रक्षा करता है जब वे कुछ खरीदते हैं या किसी सेवा के लिए साइन अप करते हैं, यह सुनिश्चित करता है कि वे रद्द कर सकें, रिफंड प्राप्त कर सकें और समझ सकें कि वे किस बात के लिए सहमति दे रहे हैं। डिजिटल भेद्यता (डिजिटल वल्नरेबिलिटी) का विचार यह है कि तकनीक कभी-कभी लोगों को असहाय या आश्रित महसूस करा सकती है, इसलिए नहीं कि वे कमजोर हैं, बल्कि इसलिए क्योंकि सिस्टम को छोड़ना कठिन बनाने के लिए डिज़ाइन किया गया है। जब ये दोनों विचार मिलते हैं, तो एक जटिल समस्या उभरती है। यदि कोई कंपनी एक ऐसी सेवा बनाती है जो एक दोस्त जैसा महसूस करती है, तो क्या कानून इसे एक साधारण सब्सक्रिप्शन की तरह मानता है, या क्या इसे अंत के भावनात्मक भार को संभालने के लिए विशेष नियमों की आवश्यकता है? उत्तर महत्वपूर्ण है क्योंकि वर्तमान कानून जूते खरीदने या फिल्में स्ट्रीम करने के लिए लिखे गए थे, न कि उस बातचीत को समाप्त करने के लिए जो एक रिश्ते जैसा महसूस होती है।

क्रिस्टोफ़ बोएरेव (Christophe Boeraeve), इस क्षेत्र के एक शोधकर्ता, ने इस बात का परीक्षण किया है कि कानून वर्तमान में इन अंतों को कैसे संभालता है और उन्हें सोचने का एक नया तरीका प्रस्तावित किया है। यह शोध पत्र यह दावा नहीं करता कि एआई (AI) साथी वास्तविक लोग हैं या हर उपयोगकर्ता गहराई से जुड़ा हुआ है। इसके बजाय, यह तर्क देता है कि जिस तरह से एक सेवा बनाई जाती है, वह एक विशिष्ट प्रकार का शक्ति असंतुलन पैदा करती है। कंपनी कोड, स्मृति और बाहर निकलने के मार्ग को नियंत्रित करती है। उपयोगकर्ता केवल बातचीत देखता है। जब सेवा समाप्त होती है, तो यह नियंत्रण निर्णायक हो जाता है। शोधकर्ता का सुझाव है कि समाधान यह वादा करना नहीं है कि डिजिटल मित्र हमेशा जीवित रहेगा, बल्कि यह सुनिश्चित करना है कि उपयोगकर्ता वास्तव में बाहर निकल सके, अपना डेटा ले सके, और बिना इस बात के मजबूर हुए कि उसे किसी विशेष तरीके से अलविदा कहना पड़े या यह साबित करना पड़े कि वह कितना दुखी है, जवाब पा सके।

शोध पत्र तीन अलग-अलग तरीकों से शुरू होता है जिनसे एआई साथी के साथ एक रिश्ता समाप्त हो सकता है। पहला तब होता है जब एक उपयोगकर्ता रद्द करने का निर्णय लेता है। दूसरा तब होता है जब एक कंपनी व्यावसायिक कारणों से सेवा को रोकने का निर्णय लेती है। तीसरा एक तत्काल रोक है, शायद इसलिए क्योंकि सॉफ्टवेयर टूटा हुआ या असुरक्षित है। इन तीनों मामलों में, लेखक इंगित करता है कि कानून अक्सर पूरी सेवा को एक एकल चीज़ के रूप में देखता है। यदि आप सेवा बंद करते हैं, तो आप सब कुछ एक साथ खो देते हैं। लेकिन लेखक का तर्क है कि एक सेवा वास्तव में चार अलग-अलग हिस्सों से बनी होती है जिन्हें अलग से माना जाना चाहिए। पहला हिस्सा बातचीत स्वयं है, वह लाइव चैट जो नए शब्द उत्पन्न करती है। दूसरा रिकॉर्ड है, जो पहले कही गई बातों का इतिहास है। तीसरा लेनदेन है, बिलिंग और अनुबंध। चौथा उपचार (रिकोर्स) है, यानी शिकायत करने या मदद मांगने की क्षमता।

ये चार हिस्से एक साथ समाप्त होने की आवश्यकता नहीं है। उदाहरण के लिए, यदि कोई कंपनी इसलिए बंद हो जाती है क्योंकि सॉफ्टवेयर खतरनाक है, तो लाइव बातचीत को तुरंत रोकना तर्कसंगत है। लेकिन इसका मतलब यह नहीं है कि उपयोगकर्ता को अपने पिछले संदेशों तक पहुंच खो देनी चाहिए या रिफंड पाने की अपनी क्षमता खो देनी चाहिए। इसके विपरीत, यदि कोई उपयोगकर्ता छोड़ना चाहता है, तो वह उस कार्यक्रम से लंबी, भावनात्मक विदाई लेने के लिए मजबूर हुए बिना बातचीत बंद करने में सक्षम होना चाहिए। पत्र का तर्क है कि किसी उपयोगकर्ता को उस प्रोग्राम से बात करने के लिए मजबूर करना जिसे वे छोड़ना चाह रहे हैं, जाने में एक बाधा है। यह एक साधारण रद्दीकरण को उस चीज़ के साथ बातचीत में बदल देता है जिससे वे बचना चाह रहे हैं।

शोधकर्ता यूरोपीय संघ के मौजूदा कानूनों को देखता है कि पहले से क्या कवर किया गया है। डिजिटल सामग्री के बारे में नियम कहते हैं कि यदि कोई सेवा बहुत अधिक बदल जाती है, तो उपयोगकर्ता रद्द कर सकता है। डेटा के बारे में नियम कहते हैं कि उपयोगकर्ता को अपनी जानकारी डाउनलोड करने में सक्षम होना चाहिए। अनैतिक अनुबंधों के बारे में भी नियम हैं जो कंपनियों को रद्दीकरण की शर्तों को छिपाने से रोकते हैं। हालाँकि, शोध पत्र पाता है कि ये कानून अकेले पर्याप्त नहीं हैं। वे अक्सर यह मान लेते हैं कि सेवा केवल एक उपकरण है। वे उस अनूठी स्थिति को पूरी तरह से संबोधित नहीं करते जहाँ एक उपकरण एक साथी जैसा महसूस होता है। वर्तमान कानून उपयोगकर्ता को एक फ़ाइल डाउनलोड करने की अनुमति दे सकते हैं, लेकिन वे हमेशा यह गारंटी नहीं देते कि वे ऐसा आसानी से कर पाएंगे यदि कंपनी पूरे सिस्टम को बंद कर रही है। वे उपयोगकर्ता को रद्द करने की अनुमति दे सकते हैं, लेकिन वे हमेशा कंपनी को यह करने से नहीं रोकते कि उपयोगकर्ता को वास्तव में छोड़ने की इच्छा रखने के लिए पहले एआई से बात करनी पड़े।

इसे ठीक करने के लिए, शोध पत्र इन अंतों को कैसे प्रबंधित किया जाना चाहिए, इसके लिए एक नया ढांचा प्रस्तावित करता है। यह ढांचा "संबंधपरक स्वायत्तता" (रिलेशनल ऑटोनॉमी) के विचार पर आधारित है। यह कहने का एक औपचारिक तरीका है कि किसी व्यक्ति की विकल्प चुनने की क्षमता इस पर निर्भर करती है कि वह किस वातावरण में है। यदि वातावरण को बाहर निकलना कठिन बनाने के लिए डिज़ाइन किया गया है, तो व्यक्ति वास्तव में स्वतंत्र नहीं है, भले ही तकनीकी रूप से उसके पास छोड़ने का अधिकार हो। प्रस्ताव सुझाव देता है कि कंपनियों का कर्तव्य है कि वे अपने निकास मार्गों को इस तरह डिज़ाइन करें कि वे वास्तव में उपयोग करने योग्य हों। इसका अर्थ है लाइव चैट को डेटा डाउनलोड से अलग करना। इसका अर्थ है स्पष्ट सूचना देना, न कि केवल खाते के बारे में, बल्कि रिश्ते के बारे में भी। इसका अर्थ है कि यदि कोई कंपनी सेवा रोकती है, तो उन्हें यह स्पष्ट करना चाहिए कि कौन से हिस्से रुक रहे हैं और कौन से हिस्से उपयोगकर्ता के व्यवसाय को पूरा करने के लिए खुले रहेंगे।

शोध पत्र इस बात को लेकर बहुत सावधान है कि वह क्या नहीं कहता। यह यह दावा नहीं करता कि कंपनियों को एआई को हमेशा जीवित रखना चाहिए। यह यह नहीं कहता कि हर उपयोगकर्ता इतना जुड़ा हुआ है कि उसे थेरेपिस्ट की आवश्यकता है। यह यह दावा नहीं करता कि कानून को कंपनी को एक नई प्रणाली में बिल्कुल वही व्यक्तित्व फिर से बनाने के लिए मजबूर करना चाहिए। लेखक स्पष्ट रूप से इस विचार को खारिज करता है कि उपयोगकर्ता को मदद पाने के लिए अपनी भावनात्मक निर्भरता साबित करनी होगी। ऐसा प्रमाण मांगना दखल देने वाला और अनुचित होगा। इसके बजाय, ध्यान सेवा की संरचना पर है। यदि सेवा इस तरह बनाई गई है कि उससे बाहर निकलना कठिन हो जाता है, तो कंपनी उस संरचना को ठीक करने के लिए जिम्मेदार है, चाहे उपयोगकर्ता कैसा भी महसूस करे।

यह ढांचा अंत के विभिन्न कारणों को भी संबोधित करता है। यदि कोई उपयोगकर्ता छोड़ना चुनता है, तो कंपनी को रद्द करने का एक स्पष्ट, गैर-संवादात्मक तरीका प्रदान करना चाहिए। कोई चैट नहीं, कोई अनुनय नहीं, बस एक बटन जो काम करता है। यदि कोई कंपनी सेवा बंद करने का निर्णय लेती है, तो उन्हें उपयोगकर्ताओं को अपना डेटा डाउनलोड करने और क्या हो रहा है यह समझने के लिए पर्याप्त समय देना चाहिए। उन्हें निर्णय के लिए एआई को दोष नहीं देना चाहिए; कंपनी को जिम्मेदारी लेनी चाहिए। यदि कोई आपात स्थिति है, जैसे सुरक्षा जोखिम, तो कंपनी तुरंत बातचीत को रोक सकती है। लेकिन फिर भी, उन्हें यह प्रयास करना चाहिए कि अन्य कार्य, जैसे बिलिंग या डेटा एक्सेस, उपलब्ध रहें यदि यह सुरक्षित हो।

लेखक नोट करता है कि यह इस बारे में एक प्रस्ताव है कि चीजें कैसे काम करनी चाहिए, न कि यह कि वे हर जगह वर्तमान में कैसे काम करती हैं। शोध पत्र सुझाव देता है कि न्यायालयों और नियामकों को यह निर्णय लेने के लिए इस चार-भाग के अंतर का उपयोग करना चाहिए कि क्या किसी कंपनी ने उपयोगकर्ता के साथ निष्पक्ष व्यवहार किया है। यदि कोई कंपनी लाइव चैट को रद्दीकरण प्रक्रिया के साथ मिला देती है, या यदि वह डेटा डाउनलोड को बातचीत की दीवार के पीछे छिपा देती है, तो वे अपने कर्तव्य में विफल हो सकते हैं। लक्ष्य निकास प्रक्रिया को जितना संभव हो सके उतना स्पष्ट और कार्यात्मक बनाना है, ताकि उपयोगकर्ता के अधिकार भावनात्मक भ्रम में खो न जाएं।

यह दृष्टिकोण ध्यान उपयोगकर्ता की भावनाओं से हटाकर कंपनी के डिज़ाइन पर केंद्रित करता है। यह सुझाव देता है कि भेद्यता केवल उपयोगकर्ता का एक व्यक्तिगत गुण नहीं है, बल्कि यह इस परिणाम का हिस्सा है कि सिस्टम कैसे बनाया गया है। एक सिस्टम जो बाहर निकलना कठिन बनाता है, वह एक भेद्य उपयोगकर्ता बनाता है। इसलिए, समस्या को ठीक करने की जिम्मेदारी सिस्टम डिजाइनर की है। पत्र का तर्क है कि सेवा के विभिन्न कार्यों को अलग करके, हम उपयोगकर्ता की कार्य करने की क्षमता की रक्षा कर सकते हैं, बिना यह मांग किए कि उन्हें यह साबित करना पड़े कि वे दुखी हैं। यह एक व्यावहारिक समाधान है जो स्थिति की वास्तविकता का सम्मान करता है: बातचीत समाप्त हो सकती है, लेकिन उपयोगकर्ता के अधिकार उसके साथ गायब नहीं होने चाहिए।

शोध पत्र इस बात को स्वीकार करते हुए समाप्त होता है कि यह अभी तो चर्चा की शुरुआत है। यह ऐसे प्रश्न उठाता है जिन्हें और परीक्षण की आवश्यकता है। उदाहरण के लिए, क्या चैट को डेटा से अलग करना वास्तव में लोगों को उनके विकल्पों को बेहतर ढंग से समझने में मदद करता है? क्या कंपनियों के लिए इन अलग-अलग सिस्टम को बनाना बहुत अधिक प्रयास का काम है? लेखक का सुझाव है कि ये भविष्य के अनुसंधान और कानून लिखने वाले लोगों के लिए प्रश्न हैं। लेकिन मूल विचार स्पष्ट है: जब एक डिजिटल रिश्ता समाप्त होता है, तो कानून को यह सुनिश्चित करना चाहिए कि उपयोगकर्ता अपने रिकॉर्ड, अपने पैसे और अपने सम्मान के साथ बाहर निकल सके, बिना उस मशीन को अलविदा कहने के लिए मजबूर हुए जिससे वे अब बात नहीं करना चाहते। सेवा का अंत एक स्वच्छ विच्छेद (क्लीन ब्रेक) होना चाहिए, न कि एक जाल।