Algorithmic manipulation and mental self-determination: Operationalizing freedom of thought as a neuroright

मानव मस्तिष्क को लंबे समय से एक निजी अभयारण्य माना जाता रहा है, एक ऐसी जगह जहाँ विचार मौन में बनते हैं, बाहरी हस्तक्षेप से मुक्त। दशकों से, अंतर्राष्ट्रीय कानून ने इस आंतरिक स्थान को, जिसे फोरम इंटरनम (forum internum) कहा जाता है, एक पूर्ण अधिकार के रूप में संरक्षित किया है जिसे कोई सरकार या तकनीक उल्लंघन नहीं कर सकती। यह सुरक्षा मूल रूप से लोगों को उनके विश्वास बदलने के लिए मजबूर करने या उनके विचारों के लिए दंडित करने से रोकने के लिए बनाई गई थी। हालाँकि, एक नए प्रकार का खतरा उभर कर आया है जिसके लिए तारों, इम्प्लांट्स या मस्तिष्क तक सीधी पहुँच की आवश्यकता नहीं है। इसके बजाय, यह सोशल मीडिया, न्यूज़ फीड और ऑनलाइन शॉपिंग को संचालित करने वाले रोज़मर्रा के एल्गोरिदम से आता है। ये सिस्टम हमारे दिमाग को सीधे नहीं पढ़ते; वे हमारे व्यवहार को देखते हैं, हमारी आदतों को सीखते हैं, और हमारे विकल्पों को निर्देशित करने के लिए हमारे आसपास की दुनिया को सूक्ष्मता से व्यवस्थित करते हैं। खतरा यह है कि हमें अक्सर लगता है कि हम अपने निर्णय स्वयं ले रहे हैं, भले ही वे निर्णय एक कंप्यूटर प्रोग्राम द्वारा हमारी कमजोरियों का फायदा उठाने के लिए सावधानीपूर्वक इंजीनियर किए गए हों।

हनोई लॉ यूनिवर्सिटी के दो शोधकर्ताओं, थी लॉन्ग नगुयेन और एनगोक हिप ट्रान ने इस बात की जांच की है कि क्या हमारे मौजूदा कानून इस अदृश्य प्रभाव को रोकने के लिए पर्याप्त मजबूत हैं। उनका तर्क है कि वर्तमान नियम, जो व्यक्तिगत डेटा की सुरक्षा या कृत्रिम बुद्धिमत्ता (AI) के विशिष्ट प्रकारों को विनियमित करने पर केंद्रित हैं, वास्तविक समस्या को पकड़ने में विफल रहते हैं। मुद्दा केवल यह नहीं है कि हमारी जानकारी कौन देख रहा है, बल्कि यह है कि कैसे हमारे स्वयं सोचने की क्षमता को चुपचाप नया आकार दिया जा रहा है। लेखक तर्क देते हैं कि हमें "मानसिक आत्म-निर्णय" (mental self-determination) को एक नए अधिकार के रूप में नहीं, बल्कि विचार की स्वतंत्रता के प्राचीन अधिकार के एक आधुनिक अनुप्रयोग के रूप में समझने की आवश्यकता है। वे सामान्य अनुनय (persuasion) और अवैध हेरफेर (manipulation) के बीच अंतर करने के लिए शर्तों का एक स्पष्ट सेट प्रस्तावित करते हैं, जो डिजिटल युग में हमारे चिंतन की अखंडता की रक्षा करने का एक तरीका प्रदान करता है जहाँ सबसे शक्तिशाली उपकरण हमारे मस्तिष्क को कभी छूते भी नहीं हैं।

शोधकर्ताओं ने वर्तमान कानूनी सुरक्षा में मौजूद अंतर को देखकर शुरुआत की। उन्होंने पाया कि यूरोपीय संघ के एआई एक्ट (AI Act) जैसे कानून और डेटा गोपनीयता नियम उस विशिष्ट नुकसान को पकड़ने के लिए डिज़ाइन नहीं किए गए हैं जो एल्गोरिदम के हेरफेर से होता है। उदाहरण के लिए, एआई एक्ट उन प्रणालियों को प्रतिबंधित करता है जो व्यवहार को विकृत करने के लिए छिपी हुई तकनीकों का उपयोग करती हैं, लेकिन इसके लिए यह प्रमाण आवश्यक है कि कंपनी का इरादा हेरफेर करने का था और परिणाम से महत्वपूर्ण, मूर्त क्षति हुई। यह एक उच्च मानक है जिसे कई रोज़मर्रा के एल्गोरिदम आसानी से पार कर लेते हैं। ये सिस्टम अक्सर जुड़ाव (engagement) या बिक्री को अधिकतम करने के लिए डिज़ाइन किए जाते हैं, न कि स्पष्ट रूप से लोगों को धोखा देने के लिए, और उनके प्रभाव आमतौर पर दुनिया को देखने के हमारे तरीके में एक धीमे, क्रमिक बदलाव के रूप में होते हैं, न कि किसी एक नाटकीय गलती के रूप में। इसी तरह, डेटा संरक्षण कानून सूचना के संग्रह और भंडारण पर ध्यान केंद्रित करते हैं। वे पूछते हैं कि क्या हमने अपने डेटा के उपयोग के लिए सहमति दी थी, लेकिन वे यह नहीं पूछते कि उस डेटा का उपयोग हमारे विचारों को गुप्त रूप से दिशा देने के लिए किया जा रहा है या नहीं। लेखक तर्क देते हैं कि यह कानून में एक संरचनात्मक छेद छोड़ देता है: एक सिस्टम डेटा गोपनीयता और एआई सुरक्षा के सभी नियमों का पालन कर सकता है और फिर भी प्रभावी रूप से उस प्रक्रिया को हाईजैक कर सकता है जिसके माध्यम से एक व्यक्ति निर्णय बनाता है।

यह कैसे होता है, इसे समझने के लिए, लेखक एक ऐसी प्रक्रिया का वर्णन करते है जो किसी उपयोगकर्ता के किसी विशिष्ट पोस्ट या विज्ञापन को देखने से बहुत पहले शुरू होती है। सिस्टम पहले उपयोगकर्ता का एक विस्तृत मॉडल बनाता है, उनके भावनात्मक ट्रिगर्स, उनकी कमजोरी के क्षणों और क्या चीज़ उनका ध्यान खींचती है, यह सीखता है। यह ज्ञान का एक बड़ा असंतुलन पैदा करता है: कंप्यूटर उपयोगकर्ता की कमजोरियों को उपयोगकर्ता के स्वयं के जानने की तुलना में बेहतर जानता है। सिस्टम फिर इस ज्ञान का उपयोग उस वातावरण को आकार देने के लिए करता है जिसमें विकल्प बनाए जाते हैं। यह कुछ समाचार कहानियाँ उस समय दिखा सकता है जब उपयोगकर्ता थका हुआ हो, या विकल्पों को एक विशिष्ट क्रम में प्रस्तुत कर सकता है जिससे एक विकल्प वास्तव में जितना स्वाभाविक है उससे अधिक स्वाभाविक लगे। परिणाम प्रभाव का एक ऐसा रूप है जो व्यक्तिगत पसंद जैसा महसूस होता है। उपयोगकर्ता अभी भी महसूस करता है कि वह अपने निर्णयों का लेखक है, लेकिन जिस रास्ते पर उसने यात्रा की वह रास्ता गुप्त रूप से एक एल्गोरिदम द्वारा बनाया गया था। यह जबरदस्ती (coercion) से अलग है, जो विकल्प चुनने के लिए मजबूर करता है, या अनुनय (persuasion) से अलग है, जो तर्कों को तौलने के लिए प्रस्तुत करता है। यह मन की एक छिपी हुई स्टीयरिंग है जो सचेत चिंतन को दरकिनार कर देती है।

यह शोध पत्र तर्क देता है कि इसे ठीक करने के लिए, हमें विचार की स्वतंत्रता के अधिकार को केवल ब्रेन इम्प्लांट्स के खिलाफ एक ढाल के रूप में नहीं, बल्कि किसी भी ऐसी तकनीक के खिलाफ एक ढाल के रूप में देखना चाहिए जो विचार के निर्माण में बाधा डालती है। लेखक एक विशिष्ट परीक्षण का प्रस्ताव करते हैं कि कब एक एल्गोरिदम स्वीकार्य प्रभाव से अवैध हेरफेर की सीमा को पार करता है। वे सुझाव देते हैं कि कोई अभ्यास तभी अवैध है यदि वह एक ही समय में चार शर्तों को पूरा करता हो। पहला, प्रभाव की विधि उपयोगकर्ता से छिपी होनी चाहिए; यदि उपयोगकर्ता जानता है कि उसे लक्षित किया जा रहा है, तो यह हेरफेर नहीं है। दूसरा, ज्ञान का गहरा असंतुलन होना चाहिए, जहाँ सिस्टम उपयोगकर्ता की कमजोरियों को उस तरह जानता है जिसे उपयोगकर्ता देख नहीं सकता। तीसरा, सिस्टम को एक विशिष्ट भेद्यता (vulnerability) का फायदा उठाना चाहिए, जैसे कि एक भावनात्मक स्थिति या संज्ञानात्मक अंध बिंदु (cognitive blind spot), न कि उपयोगकर्ता की तर्क करने की क्षमता का। अंत में, प्रभाव उस प्रक्रिया को बदलना चाहिए जिससे उपयोगकर्ता निर्णय तक पहुँचता है, न कि केवल उपलब्ध विकल्पों को।

यह ढांचा चिली में एक हालिया कानूनी मामले पर आधारित है, जहाँ देश मस्तिष्क गतिविधि को संवैधानिक अधिकार देने वाला पहला देश बना। उस मामले में, अदालत ने फैसला सुनाया कि एक कंपनी ने एक सीनेटर के मस्तिष्क डेटा को उचित सहमति के बिना एकत्र करके उनके अधिकारों का उल्लंघन किया। लेखक नोट करते हैं कि हालांकि यह न्यूरोराइट्स (neurorights) के लिए एक जीत थी, लेकिन यह उन स्थितियों तक सीमित थी जहाँ मस्तिष्क से सीधे डेटा लिया गया था। उनका कार्य इस तर्क को डिजिटल दुनिया तक विस्तारित करता है, यह तर्क देते हुए कि वही सुरक्षा तब भी लागू होनी चाहिए जब मस्तिष्क से कोई भौतिक डेटा नहीं लिया जाता है। यदि कानून का लक्ष्य हमारे सोचने की अखंडता की रक्षा करना है, तो इससे कोई फर्क नहीं पड़ना चाहिए कि हस्तक्षेप मस्तिष्क में लगी तार से आ रहा है या स्क्रीन पर एक चतुराई से डिज़ाइन किए गए ऐप से। नुकसान एक ही है: अपनी मान्यताओं को बनाने की क्षमता का क्षरण।

शोधकर्ता स्वीकार करते हैं कि इन विचारों को लागू करना आसान नहीं होगा। यह सिद्ध करना कठिन है कि एक विशिष्ट एल्गोरिदम ने किसी व्यक्ति के मन में एक विशिष्ट परिवर्तन किया है, क्योंकि ये प्रभाव अक्सर सूक्ष्म और संचयी होते हैं। वे यह भी चेतावनी देते हैं कि अदालतों द्वारा नए परीक्षण को सावधानीपूर्वक लागू किया जाना चाहिए ताकि यह अनजाने में सभी प्रकार के विज्ञापन या सिफारिशों को प्रतिबंधित न कर दे। हालाँकि, वे निष्कर्ष निकालते हैं कि मानसिक आत्म-निर्णय के लिए एक स्पष्ट मानक के बिना, कानून हमारी स्वायत्तता के लिए सबसे व्यापक खतरों के प्रति अंधा रहेगा। हेरफेर को इन चार कारकों के माध्यम से परिभाषित करके, लेखक मानव मन के आंतरिक अभयारण्य की रक्षा करने का एक तरीका प्रदान करते हैं, यह सुनिश्चित करते हुए कि हमारे विचार हमारे अपने रहें, भले ही हमारे आसपास का वातावरण हमें बदलने के लिए लगातार अनुकूलित (optimized) किया जा रहा हो।