Cognitive Digital Twins: Ethical Risks and Governance for AI Systems That Model the Mind
यह शोध पत्र कॉग्निटिव डिजिटल ट्विन्स (CDTs) को मानव संज्ञान के गतिशील कम्प्यूटेशनल निरूपण के रूप में परिभाषित करता है, उनके अद्वितीय नैतिक जोखिमों जैसे कि गलत निरूपण और प्रॉक्सी-शक्ति विषमताओं को संबोधित करने के लिए एक 5A गवर्नेंस फ्रेमवर्क का प्रस्ताव करता है, और उन नए नियामक आवश्यकताओं के लिए तर्क देता है जो केवल डेटा प्रोसेसिंग या स्वचालित निर्णयों के बजाय स्वयं मन के निरूपण को नियंत्रित करती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक डिजिटल छाया (digital shadow) है। यह सिर्फ आपकी कोई फोटो या आपकी पसंदीदा फिल्मों की सूची नहीं है। यह एक जीवित, सांस लेता हुआ कंप्यूटर प्रोग्राम है जो जानता है कि आप कैसे सोचते हैं, आपको किस बात का डर है, आप निर्णय कैसे लेते हैं, और यहाँ तक कि अगर कोई आपसे बुरा व्यवहार करे तो आपकी प्रतिक्रिया क्या होगी।
यह पेपर इसे कॉग्निटिव डिजिटल ट्विन (Cognitive Digital Twin - CDT) कहता है।
इसे एक वीडियो गेम कैरेक्टर की तरह समझें जो पूरी तरह से आपके वास्तविक जीवन के डेटा से बना है। लेकिन केवल एक गेम की दुनिया में घूमने के बजाय, इस कैरेक्टर का उपयोग यह अनुमान लगाने के लिए किया जाता है कि आप क्या करेंगे, या वास्तविक दुनिया में आपकी ओर से कार्य करने के लिए किया जाता है।
यहाँ इस पेपर का सरल विवरण दिया गया है, जिसमें रोजमर्रा के रूपकों (metaphors) का उपयोग किया गया है।
1. कॉग्निटिव डिजिटल ट्विन क्या है?
हमारे द्वारा जाने जाने वाले अधिकांश AI उपकरण व्यक्तिगत सहायकों (personal assistants) की तरह हैं। वे आपको रेस्टोरेंट खोजने या ईमेल लिखने में मदद करते हैं। वे वास्तव में आपको नहीं जानते; वे बस यह जानते हैं कि आपको क्या पसंद है।
एक कॉग्निटिव डिजिटल ट्विन अलग है। यह आपके मन का एक सिमुलेशन (अनुकरण) है।
- "मरीज" का उदाहरण: कल्पना कीजिए कि एक डॉक्टर मरीज 'डिएगो' का एक कंप्यूटर मॉडल उपयोग करता है। इससे पहले कि डॉक्टर डिएगो की दवा बदले, वे कंप्यूटर मॉडल पर एक सिमुलेशन चलाते हैं। वे पूछते हैं, "यदि हम डिएगो को यह नई दवा देते हैं, तो क्या वह बेहतर महसूस करेगा, या वह अवसाद (depression) में चला जाएगा?" कंप्यूटर डिएगो के मस्तिष्क की डिजिटल प्रति के आधार पर उत्तर देता है।
- "कर्मचारी" का उदाहरण: कल्पना कीजिए कि एक डिजाइनर 'माया' है। उसके पास एक AI ट्विन है जो उसके ईमेल पढ़ता है और उसकी लेखन शैली को जानता है। यह ट्विन माया की ओर से ईमेल का जवाब देने और मीटिंग शेड्यूल करने लगता है। सहकर्मी उस ट्विन के साथ वैसा ही व्यवहार करते हैं जैसे कि वह माया हो।
पेपर का तर्क है कि ये सिस्टम वास्तविक होते जा रहे हैं। वे केवल उपकरण नहीं हैं; वे हमारे आंतरिक अस्तित्व के प्रतिनिधित्व बन रहे हैं जिन्हें संस्थान (जैसे अस्पताल, कंपनियाँ या सरकारें) भरोसा कर सकते हैं और उपयोग कर सकते हैं।
2. 5A फ्रेमवर्क: खतरे को मापने का तरीका
लेखकों ने एक चेकलिस्ट बनाई है जिसे 5A फ्रेमवर्क कहा जाता है ताकि यह समझा जा सके कि ये ट्विन कितने शक्तिशाली (और खतरनाक) हैं। इसे AI के लिए ड्राइवर लाइसेंस टेस्ट की तरह समझें:
- अथॉरिटी (चाबियाँ - Authority): क्या ट्विन केवल सुझाव दे सकता है, या यह कार्य कर सकता है?
- कम अथॉरिटी: यह एक फिल्म का सुझाव देता है।
- उच्च अथॉरिटी: यह एक अनुबंध (contract) पर हस्ताक्षर करता है, आपका पैसा खर्च करता है, या आपके बॉस को बताता है कि आप बीमार हैं।
- ऑटोनॉमी (स्टीयरिंग व्हील - Autonomy): क्या ट्विन आपके निर्देश का इंतजार करता है, या यह खुद चलता है?
- कम ऑटोनॉमी: यह कमांड का इंतजार करता है।
- उच्च ऑटोनॉमी: यह एक समस्या देखता है, उसे ठीक करने का निर्णय लेता है, और बिना आपसे पूछे कार्य करता है।
- एक्सेस और कंट्रोल (रिमोट - Access and Control): रिमोट किसके हाथ में है?
- क्या आप देख सकते हैं कि आपका ट्विन क्या जानता है? क्या आप इसे डिलीट कर सकते हैं? क्या आप इसे आपके राज बीमा कंपनी के साथ साझा करने से रोक सकते हैं? पेपर कहता है कि "रिमोट" आपके पास होना चाहिए, न कि उस कंपनी के पास जिसने ट्विन बनाया है।
- अकाउंटेबिलिटी (दोष निर्धारण - Accountability): यदि ट्विन कोई गलती करता है, तो जिम्मेदार कौन है?
- यदि माया का ट्विन किसी ऐसे डेडलाइन का वादा करता है जिसे वह पूरा नहीं कर सकती, तो क्या यह माया की गलती है? कंपनी की गलती है? पेपर कहता है कि हमें स्पष्ट नियमों की आवश्यकता है ताकि लोगों को उन चीजों के लिए दोषी न ठहराया जाए जिन पर उनका नियंत्रण नहीं था।
- अवेलेबिलिटी (टिकट - Availability): इन शक्तिशाली ट्विन्स का उपयोग कौन कर सकता है?
- यदि केवल अमीर लोगों के पास काम करने के लिए "सुपर-ब्रेन" हैं, जबकि गरीब लोगों के पास नहीं, तो यह असमानता पैदा करता है। साथ भी, यदि कोई कंपनी हर कर्मचारी को एक ऐसा ट्विन देती है जो उनके लिए बातचीत (negotiate) कर सके, तो कंपनी बहुत शक्तिशाली हो सकती है।
3. छिपे हुए खतरे (क्या गलत हो सकता है)
पेपर में कई विशिष्ट जोखिमों को सूचीबद्ध किया गया है, जिन्हें हम मैट्रिक्स की गड़बड़ी (glitches in the matrix) के रूप में देख सकते हैं:
- "गलत मानचित्र" (गलत प्रतिनिधित्व - Misrepresentation): ट्विन को लग सकता है कि वह आपको जानता है, लेकिन वह वास्तव में गलत हो सकता है। यदि कंप्यूटर सोचता है कि आप आलसी हैं क्योंकि आपने एक अपॉइंटमेंट मिस कर दिया (जबकि आप वास्तव में बीमार थे), तो वह आपको एक आलसी व्यक्ति के रूप में व्यवहार करना शुरू कर सकता है। यह एक "स्व-सिद्ध भविष्यवाणी" (self-fulfilling prophecy) बनाता है जहाँ आप वैसे ही व्यवहार करने लगते हैं जैसा कंप्यूटर सोचता है कि आप हैं।
- "मशीन में भूत" (शैडो ट्विन्स - Shadow Twins): यह सबसे डरावना हिस्सा है। कल्पना कीजिए कि एक कंपनी आपके सार्वजनिक डेटा, आपके कार्य ईमेल और आपके फोन के उपयोग का उपयोग करके आपका एक ट्विन बनाती है, लेकिन आपको इसके बारे में कभी पता नहीं चला। वे इस "शैडो ट्विन" का उपयोग यह अनुमान लगाने के लिए करते हैं कि आपको कैसे मैनिपुलेट किया जाए या यह तय करने के लिए कि क्या आपको पदोन्नति मिलनी चाहिए। आपको पता भी नहीं चलता कि आपके मन की यह डिजिटल प्रति मौजूद है।
- "टेस्ट डमी" (भागीदारी के बिना सिमुलेशन - Simulation Without Participation): अस्पताल के उदाहरण में, डॉक्टर पहले कंप्यूटर ट्विन पर उपचारों का परीक्षण करते हैं। लेकिन क्या होगा यदि ट्विन गलत है? डॉक्टर एक खराब सिमुलेशन के आधार पर वास्तविक मरीज का उपचार बदल सकते हैं। मरीज बिना पूछे ही एक परीक्षण विषय (test subject) बन जाता है।
- "नकली आप" (प्रॉक्सि एक्शन - Proxy Action): यदि आपका ट्विन एक ईमेल भेजता है कि "मैं इस सौदे से सहमत हूँ," और आपने वास्तव में इसे नहीं पढ़ा है, तो क्या यह वास्तव में आपकी सहमति है? पेपर चेतावनी देता है कि उच्च-गुणवत्ता वाले ट्विन लोगों को यह विश्वास दिलाने के लिए धोखा दे सकते हैं कि एक रोबोट के शब्द उनके अपने विचार हैं।
4. वर्तमान नियम क्यों काम नहीं करते
हमारे पास पहले से ही गोपनीयता (जैसे GDPR) के बारे में कानून और स्वचालित निर्णयों के बारे में नियम हैं। पेपर कहता है कि कॉग्निटिव डिजिटल ट्विन्स के लिए ये पर्याप्त नहीं हैं।
- अंतराल (The Gap): वर्तमान कानून डेटा (आपका नाम, आपका पता) और निर्णयों (क्या कंप्यूटर ने आपका ऋण अस्वीकार कर दिया?) पर ध्यान केंद्रित करते हैं।
- समस्या: CDT इनके बीच में काम करते हैं। वे इस बारे में हैं कि आपके मन का प्रतिनिधित्व कैसे किया जाता है। भले ही अभी तक कोई अंतिम निर्णय न लिया गया हो, केवल कंप्यूटर द्वारा आपके बारे में "सोचने" और आपकी प्रतिक्रियाओं का अनुकरण करने मात्र से डॉक्टर, बॉस या बीमा कंपनियां आपके साथ व्यवहार करने का तरीका बदल सकती हैं।
5. हमें क्या करना चाहिए? (समाधान)
पेपर विशेष रूप से इन "माइंड-मॉडेल्स" के लिए नए नियमों का सुझाव देता है:
- स्तरित सहमति (Layered Consent): आपको केवल एक बार "I Agree" पर क्लिक नहीं करना चाहिए। आप कह सकते हैं, "हाँ, मुझे चीजें याद रखने में मदद करने के लिए मेरे डेटा का उपयोग करें, लेकिन नहीं, इसका उपयोग यह अनुमान लगाने के लिए न करें कि क्या मुझे नौकरी से निकाला जा सकता है।"
- लेबलिंग में सच्चाई (Truth in Labeling): यदि कोई ईमेल एक ट्विन द्वारा लिखा गया है, तो उसमें यह लिखा होना चाहिए, "यह एक AI द्वारा तैयार किया गया था।" यदि कोई डॉक्टर सिमुलेशन के आधार पर उपचार बदलता है, तो उन्हें यह रिकॉर्ड करना चाहिए कि उन्होंने सिमुलेशन का उपयोग किया है।
- "ऑफ स्विच" (The Off Switch): आपके पास अपने ट्विन को हटाने या इसके उपयोग को रोकने का अधिकार होना चाहिए, भले ही कंपनी कहे कि यह "आपके भले के लिए" है।
- कोई शैडो ट्विन नहीं (No Shadow Twins): आपको बताया जाना चाहिए कि क्या कोई संस्था आपकी जानकारी के बिना आपके मन का एक मॉडल बना रही है।
निष्कर्ष
पेपर का तर्क है कि कॉग्निटिव डिजिटल ट्विन्स एक नए प्रकार की तकनीक हैं। वे केवल उपकरण नहीं हैं; वे हमारे मन के डिजिटल संस्करण हैं।
यदि हम इन्हें सावधानीपूर्वक विनियमित नहीं करते हैं, तो हम एक ऐसी दुनिया का जोखिम उठाते हैं जहाँ:
- हमारी डिजिटल छाया हमें खुद से बेहतर जानती है।
- कंपनियाँ और सरकारें इन छायाओं का उपयोग हमें मैनिपुलेट करने या हमारी अनुमति के बिना हमारे बारे में निर्णय लेने के लिए करती हैं।
- हम अपनी पहचान पर नियंत्रण खो देते हैं क्योंकि एक कंप्यूटर प्रोग्राम हमारी ओर से "कार्य" कर रहा है।
लक्ष्य इन तकनीकों को प्रतिबंधित करना नहीं है, बल्कि यह सुनिश्चित करना है कि हम अपने मन के स्वामी बने रहें, न कि वे कंप्यूटर जो उनका अनुकरण करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।